“马斯克吃牛排” 真假难辨 最新AI工具失控 引发社交媒体恐慌 lg...

FX168财经报社(北美)讯 埃隆·马斯克的AI聊天机器人Grok于周二（8月13日）开始允许用户从文本提示生成AI图像，并将其发布到社交媒体平台X上。#AI热潮#

几乎立刻，人们开始使用该工具在社交媒体上充斥着政治人物的假图像，如前总统唐纳德·特朗普、副总统卡马拉·哈里斯以及马斯克自己——其中一些图像明显虚假但却令人不安，比如参与9/11袭击的场景。

与其他主流AI照片工具不同，由马斯克的人工智能初创公司xAI开发的Grok似乎没有太多的安全限制。

例如，在对该工具的测试中，CNN轻松地让Grok生成了政客和政治候选人的虚假、逼真的图像，若脱离上下文，可能会误导选民。该工具还创建了公众人物的温和但令人信服的图像，例如马斯克在公园里吃牛排。

（图片来源：yahoo finance）

一些X用户发布了他们声称由Grok创建的图像，显示知名人物吸毒等图像。在一则被浏览近40万次的帖子中，一位用户分享了一张由Grok创建的图像，显示特朗普从卡车顶端探出头来，开枪射击。CNN的测试证实该工具能够创建此类图像。

这一工具可能会加剧人们对人工智能可能在互联网上引发虚假或误导性信息爆炸的担忧，特别是在美国总统大选前。立法者、民间社会团体，甚至技术领导者本身都对滥用此类工具可能给选民带来混乱和困惑发出了警告。

“Grok是世界上最有趣的AI！”马斯克周三在X上发帖回应一位用户对该工具“无审查”的称赞。

许多其他领先的AI公司已经采取了一些措施，以防止他们的AI图像生成工具被用来创建政治虚假信息，尽管研究人员发现用户有时仍能找到绕过执行措施的方法。一些公司，包括OpenAI、Meta和微软，还包括技术或标签，以帮助观众识别由他们的AI工具制作的图像。

包括YouTube、TikTok、Instagram和Facebook在内的竞争社交媒体平台也已采取措施，在用户的动态中标记AI生成的内容，或者通过自己使用技术检测，或者要求用户在发布此类内容时进行标识。

对于是否有政策防止Grok生成可能误导选民的政治候选人图像，X没有立即回应置评请求。