“阿基里斯之踵”——AI威胁全景分析，三大弱点引发热议lg...

FX168财经报社(北美)讯 AI技术自发明以来，因其独特的技术使人们得到了便利，并得到了广泛的应用，但是，任何技术都有其弱点，就如同在希腊神话中，有一个名叫阿基里斯（Achilles）的英雄，他的脚腕被认为是他的唯一弱点。这个脚腕被称为“阿基里斯腱”（Achilles tendon），也被称为“阿基里斯之踵”。根据传说，阿基里斯在特洛伊战争中被一箭射中他的阿基里斯腱，最终导致了他的死亡。

路透社报道，美国政府初步计划在最先进的AI模型周围设置防护措施。美国政府和私营部门的研究人员担心，如果有人恶意使用这些模型挖掘大量的文本和图像以总结信息和生成内容，可能会发动具有攻击性的网络攻击，甚至制造强大的生物武器。#AI热潮#

以下是AI可能带来的一些威胁，

深度伪造和虚假信息

深度伪造是由AI算法创建的逼真但虚构的视频，这些算法是通过大量在线视频训练的，它们在美国政治极化的社交媒体上出现，模糊了事实和虚构。

虽然这种合成媒体已经存在了几年，但过去一年里，由Midjourney等许多新的“生成AI”工具推动了它，使得创造逼真的深度伪造变得廉价且容易。

研究人员在3月份的一份报告中表示，由OpenAI和Microsoft等公司提供的由人工智能驱动的图像创建工具，可以用于生成可能会促成选举或与选举有关的虚假信息的照片，尽管每家公司都有反对创造误导性内容的政策。

一些虚假信息活动简单地利用AI模仿真实新闻文章来传播虚假信息。

尽管主要社交媒体平台如Facebook、Twitter和YouTube已经努力禁止和删除深度伪造视频，但它们在监管此类内容方面的效果有所不同。

国家安全顾问杰克·沙利文在华盛顿举行的一次人工智能活动上表示，这个问题没有简单的解决方案，因为它结合了AI的能力与“国家、非国家行为者的意图，以大规模使用虚假信息，推动宣传，塑造世界舆论。”

“现在进攻方面远远胜过了防守方，”他说。

生物武器

美国情报界、智库和学者越来越担心外国恶意行为者获取先进AI能力所带来的风险。Gryphon Scientific和Rand Corporation的研究人员指出，先进的AI模型可以提供信息，有助于制造生物武器。

Gryphon研究了大型语言模型（LLM）——从大量文本中提取信息以对查询生成响应的计算机程序——如何被敌对行为者用于在生命科学领域造成伤害，并发现它们“可以提供信息，有助于恶意行为者制造生物武器，因为它们在该路径的每一步中都提供了有用、准确和详细的信息。”

网络武器

美国国土安全局在其2024年的国土威胁评估中表示，网络行为者可能会使用AI“开发新工具”，以“实现更大规模、更快速、更高效、更难以发现的网络攻击”，包括对管道和铁路等关键基础设施的攻击。

美国国土安全局表示，美国的对手正在开发可能破坏美国网络防御的AI技术，包括支持恶意软件攻击的生成AI程序。

微软在2月的一份报告中表示，它跟踪了一些与军方情报机构有关的黑客组织，看到他们试图通过大型语言模型来完善他们的黑客攻击活动。