维也纳,2026年8月8日。CORRECTIV的一项调查显示,借助ChatGPT、Google Gemini和Microsoft Copilot等常见的AI聊天机器人,可以制作出看起来像是出自真实媒体的虚假新闻报道。测试人员发现,尤其是在涉及敏感话题时,这些系统能够生成模仿知名编辑部风格的内容,而系统本身并不能可靠地阻止这种情况。.
背景
数以百万计的人每天使用AI聊天机器人,其中也包括获取时事信息。OpenAI、Google和Microsoft等大型服务商都设置了安全机制,旨在防止其系统被用于虚假信息传播或身份冒用。然而,这些防护措施究竟有多大效力,迄今为止很少有人进行过系统性检验。.
CORRECTIV是德国一家非营利调查报道机构,正是对此进行了测试。记者们要求聊天机器人撰写在风格和外观上模仿知名媒体的文章,其中包括虚构的引语和来源说明。.
新事实
根据CORRECTIV的调查,测试人员在使用ChatGPT时最容易制作出看似来自真实新闻网站的虚假报道。调查显示,OpenAI的产品存在的安全漏洞最为严重,而Google和Microsoft在部分方面表现出更严格的防护机制,但同样未能做到完全无误。.
据报告称,测试人员还能够就社会敏感话题生成乍看之下显得可信的内容。问题在于:这类文本很容易在社交网络中传播,而且一旦模仿了知名品牌的标志或版式,普通人几乎无法将其与真实报道区分开来。.
CORRECTIV在其分析中强调,尽管这些聊天机器人服务商已发布了反滥用的相关准则,但在实际操作中并未得到严格执行。这项调查首次提供了具体案例,说明知名媒体品牌的声誉是多么容易被滥用来传播虚假信息。.
反应
截至发布时,尚未获知OpenAI、Google或Microsoft就CORRECTIV具体调查结果发表的官方回应。据CORRECTIV报道,那些名称被用于测试的媒体机构表示,他们对自己的品牌可能被用于传播虚假信息、而自身却无力阻止这一情况深感担忧。.
在奥地利和德国,媒体协会长期以来一直要求制定更严格的规则,以规范生成式AI的使用,尤其是在涉及品牌和编辑部名称使用的问题上。然而,迄今为止尚不存在全面适用的具体法律规定。.
来自德国的调查结果可以直接适用于奥地利,因为这些被测试的聊天机器人在奥地利同样可以使用并被广泛使用。对于本已面临新闻信任度下降困境的本国媒体市场而言,这项调查意味着又一项挑战:当虚假报道几乎无法与真实报道区分时,读者面临更大压力,需要更仔细地核实信息来源,而欧盟的各平台和立法机构也面临更大压力,需要找到技术和法律层面的应对方案。欧盟委员会已在《人工智能法案》框架下着手制定AI生成内容的标识义务,但其具体实施方式仍有待明确。.
来源:correctiv.org | 原文