周鸿祎谈“马斯克呼吁暂停GPT-5的研发”：不发展才是最大的不安全lg...

　　金融界3月30日消息 周鸿祎30日在微博上表示，昨天马斯克呼吁暂停GPT-5的研发。我自己是做安全的，但我坚定地认为，不发展才是最大的不安全。

　　周鸿祎称关于马斯克的请愿信，不了解内幕，周鸿祎猜测是 GPT 的进化路上出现了超乎人类想象的现象。

　　周鸿祎表示真是这样我倒不奇怪，我认为 GPT-4 已经是超级人工智能的雏形，早就出现了一些连它的创造者都无法解释的现象，比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人，不知道那个节点会发生智力突变。

　　3月29日消息，未来生命研究所（Future of Life Institute）公布了一封《暂停大型人工智能研究》的公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的人工智能（AI）系统至少6个月，呼吁共同开发和实施用于高级AI开发的共享安全协议，并接受独立外部监督，以避免可能导致极端风险的大规模技术变革。

　　信中称，只有当确保强大的 AI 系统的效果是积极的，其风险是可控的才能继续开发。AI 实验室和独立专家应在暂停期间，共同制定和实施一套先进的 AI 设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。

　　辛顿、马库斯和马斯克均签署了这封公开信。