AI恐摧毁人类文明？马斯克、苹果联合创始人等科技大佬呼吁暂停“危险竞赛”lg...

FX168财经报社(北美)讯 周三(3月29日)，特斯拉和推特首席执行官马斯克(Elon Musk)和其他数十位技术领袖呼吁人工智能(AI)实验室暂停开发可以与人类智能水平相媲美的系统。

在由马斯克、苹果联合创始人沃兹尼亚克(Steve Wozniak)、人工智能先驱本吉奥(Yoshua Bengio)和2020年总统候选人杨安泽(Andrew Yang)签署的一封来自未来生命研究所(Future of Life Institute)的公开信中，人工智能实验室被敦促停止训练比GPT-4更强大的模型，GPT-4是美国初创公司OpenAI开发的最新版本的大型语言模型软件。#ChatGPT火爆全网#

“当代人工智能系统现在在一般任务上变得与人类竞争，我们必须问自己:我们应该让机器用宣传和谎言淹没我们的信息渠道吗?”信上写道。

“我们应该用自动化取代所有的工作，包括那些令人满意的工作吗?我们是否应该发展非人类思维，让它们最终在数量上、智力上超过我们、被淘汰并取代我们?我们是否应该冒着失去对我们文明控制的风险?”

信中还说，“这样的决定不能委托给未经选举产生的科技领袖。”

生命未来研究所是一家总部位于马萨诸塞州剑桥市的非营利组织，致力于人工智能的负责任和道德发展。它的创始人包括麻省理工学院的宇宙学家泰格马克(Max Tegmark)和Skype的联合创始人塔林(Jaan Tallinn)。

该组织此前已经让马斯克和谷歌旗下的人工智能实验室DeepMind等人承诺永远不会开发致命的自主武器系统。

该研究所表示，它呼吁所有人工智能实验室“立即暂停至少6个月对比GPT-4更强大的人工智能系统的训练。”

本月早些时候发布的GPT-4被认为比其前身GPT-3先进得多。

“如果这样的暂停不能迅速实施，政府应该介入并实施暂停，”它补充道。

热门人工智能聊天机器人ChatGPT能够对用户提示做出类似人类的回应，这让研究人员感到震惊。到今年1月，ChatGPT推出仅两个月就拥有1亿月活跃用户，成为历史上增长最快的应用程序。

这项技术接受了来自互联网的大量数据的训练，并被用于创作从莎士比亚(William Shakespeare)风格的诗歌到起草法庭案件的法律意见等各种事情。

但人工智能伦理学家也对该技术可能被滥用表示担忧，比如抄袭和错误信息。

在生命未来研究所的信中，技术领袖和学者表示，具有人类竞争智能的人工智能系统“对社会和人类构成了深刻的风险”。

他们说:“人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、强大、一致、值得信赖和忠诚上。”

据报道，由微软支持的OpenAI获得了这家位于华盛顿雷德蒙德的科技巨头100亿美元的投资。微软还将该公司的GPT自然语言处理技术集成到必应(Bing)搜索引擎中，使其更具会话性。

谷歌随后宣布了自己的对抗性会话人工智能产品，名为谷歌Bard。

马斯克此前曾表示，他认为人工智能是人类文明面临的“最大风险”之一。

2015年，他与萨姆·奥特曼(Sam Altman)等人共同创立了OpenAI，不过他于2018年离开了OpenAI的董事会，不再持有该公司的股份。

他最近多次批评该组织，说他认为该组织偏离了其最初的目的。

随着人工智能技术的快速发展，监管机构也在竞相掌握人工智能工具。周三，英国政府发布了人工智能白皮书，要求不同的监管机构根据现有法律对各自领域的人工智能工具的使用进行监督。