FX168财经报社(亚太)讯 OpenAI旗下人工智能(AI)聊天机器人ChatGPT表示,该公司已删除来自中国和朝鲜的恶意用户账户,认为这些用户正在将其技术用于恶意目的,包括监视和舆论影响行动。
OpenAI在报告中表示,这些活动是“专制政权”试图利用AI对付美国及其本国人民的方式,并补充说它使用AI工具来检测这些操作。
该公司并未透露有多少个账户被封禁,以及封禁时间长短。
(来源:Reuters)
路透社引述其中提及的一个案例,用户使用ChatGPT生成西班牙语新闻文章,诋毁美国,并以一家中国公司的名义由拉丁美洲主流新闻机构发表。
在第二个案例中,可能与朝鲜有关的恶意行为者利用AI为虚构的求职者生成简历和在线资料,目的是欺诈性地获得西方公司的工作。
另一组似乎与柬埔寨金融欺诈行动有关的ChatGPT账户使用OpenAI的技术在包括推特(现更名为X)和Facebook在内的社交媒体和通信平台上翻译和生成评论。
美国政府对中国涉嫌利用AI压制民众、传播错误信息和破坏美国及其盟友的安全表示担忧。
OpenAI的ChatGPT是最受欢迎的AI聊天机器人,该公司的每周活跃用户已超过4亿。该公司正在洽谈以3000亿美元的估值筹集高达400亿美元的资金,这可能是私营公司单轮融资创纪录的一次。
目前,中国AI初创公司DeepSeek的崛起,正在竞争ChatGPT的主导地位。不仅如此,亿万富翁马斯克(Elon Musk)旗下AI初创公司xAI推出了其聊天机器人的最新版本Grok-3,同样在市场上引发诸多瞩目。
Grok-3的首次亮相正值AI军备竞赛的关键时刻,就在DeepSeek推出其强大的开源模型几天后,马斯克正积极扩大xAI的影响力。
“Grok-3的推出让xAI重新加入开源大型语言模型(LLM)领导地位的竞争中,它在某些基准测试中的表现优于目前最先进的模型,这使得xAI再次具有重要意义,”DA Davidson董事总经理Gil Luria表示。
随着AI领域的竞争日趋激烈,xAI正在筹集数十亿美元资金,以提升其数据中心的容量,训练更先进模型。其位于田纳西州孟菲斯的超级计算机集群被称为Colossus,被誉为世界上最大的超级计算机集群。
近期,由马斯克牵头的投资者财团出价974亿美元收购OpenAI的非营利资产,但被ChatGPT制造商拒绝了。