360为什么要做大模型？周鸿祎：安全是大模型的核心竞争力lg...

9月20日，2023亚布力智能制造论坛在合肥召开，360集团创始人、董事长周鸿祎出席。

周鸿祎表示，大模型作为数字技术是一把“双刃剑”，在构建企业级大模型的时候也一定要遵循“安全原则”，总结安全、向善、可信、可控四原则。

他进一步解释称，安全指的是网络安全、数据安全、算法安全；向善主要是指生成内容安全，如今AI换脸、换声诈骗泛滥，不要让AI成为诈骗者的工具；可信就是要切实解决大模型“幻觉”所造成的知识模糊和胡编乱造的问题。最后是可控原则，要确保人在决策回路上，不能出现不可撤销的后果。

“之前有人问我，360为什么要做大模型。”周鸿祎表示，原因很简单，安全是大模型发展的底线，也是未来大模型的核心竞争力。很多人关心大模型会不会产生意识，最终威胁人类，马斯克甚至联合千名专家请愿暂停GPT研发。面对未知的安全挑战我没办法给出结论，但我认为，只有躬身入局，才能更好地研究大模型安全。