AI时代的选举挑战：ChatGPT拒绝了25万次生成总统候选人图像的请求lg...

FX168财经报社(北美) 在2024年美国大选日临近之际，OpenAI公司宣布，旗下的AI模型ChatGPT在选举前夕拒绝了超过25万次生成总统候选人图像的请求。

OpenAI在周五的博客中表示，这些被拒请求涉及2024年大选的主要候选人，包括当选总统唐纳德·特朗普、副总统卡马拉·哈里斯、总统乔·拜登、明尼苏达州州长蒂姆·沃尔兹以及当选副总统JD万斯。

此类控制措施是为防止AI技术生成的虚假信息对选举结果产生误导性影响。

生成式AI的普及引发了外界对信息真实性的担忧，尤其是在选举期间可能造成的误导。据机器学习公司Clarity的数据显示，深度伪造视频数量同比激增了900%，其中一些视频甚至由俄罗斯资助，意图干扰美国选举。

对此，OpenAI已采取严格措施，在10月的一份长达54页的报告中表示，已打击了来自全球20多个利用其模型进行虚假宣传的欺诈网络。这些网络试图通过AI生成的文章和社交媒体虚假账户来干扰选举，但OpenAI强调，至今没有任何行动成功获得病毒式传播。

OpenAI的发言人在周五的声明中重申，目前尚未发现证据表明，通过其产品进行的秘密干预行动对美国大选产生了实质性影响。

尽管如此，随着生成式AI技术的普及，立法者对虚假信息传播的隐忧日益增加。大型语言模型的准确性和可靠性仍存在问题，常常产生误导性内容。

民主与技术中心首席执行官亚历山德拉·里夫·吉文斯（Alexandra Reeve Givens）上周在接受CNBC采访时强调：“选民不应依赖AI聊天机器人获取有关投票或选举的信息。人们对其准确性和完整性有太多担忧。”