美国安全研究人员在授权测试框架内入侵了OpenAI，并利用竞争对手公司Anthropic的聊天机器人Claude来实现这一目标。.
根据研究人员自己的说法，理论上可以访问的范围是相当广泛的。该测试是在OpenAI的同意下进行的，属于所谓的道德黑客范畴，即有针对性地发现漏洞，以便在第三方利用它们之前将其关闭。.
道德黑客如何运作
在所谓的渗透测试中，企业聘请外部专家来攻击他们自己的系统。目标是在真正的攻击者发现漏洞之前找到它们。在这个具体案例中，研究人员使用了Anthropic的人工智能模型Claude作为工具，以识别OpenAI基础设施中的安全漏洞。.
恰好使用直接竞争对手的技术来识别安全漏洞，这表明在实践中大型人工智能提供商之间的界限是如何模糊的。.
两家公司都开发语言模型，这些模型在拥有数千个图形处理器的巨大数据中心上进行训练，两家都依赖强大的安全架构来保护客户数据、训练数据和模型权重。.
危在旦夕
根据OpenAI自己的说法，每天通过ChatGPT等产品处理来自数亿用户的请求。对底层基础设施的成功攻击理论上可能使访问敏感系统、内部模型数据或用户信息成为可能。研究人员强调，他们在测试期间本可以达到的潜在访问范围远大于最初假设的范围。.
这类测试在软件行业已经确立了数十年，但在人工智能领域获得了新的维度。人工智能系统不仅处理经典数据，还处理训练材料、模型架构，在某些情况下还处理公司专有算法，其价值难以用经典IT安全类别来衡量。.
竞争与合作同时进行
OpenAI和Anthropic在市场份额、投资者资金和生成式人工智能技术领导地位方面处于激烈竞争中。.
Anthropic由前OpenAI员工于2021年创立，此后获得了来自Amazon和Google等公司数十亿美元的投资。Claude现在作为工具帮助发现OpenAI的漏洞，这表明技术安全问题可以独立于市场竞争来处理。.
这一事件符合更广泛的发展趋势，在这种趋势中，网络安全成为整个人工智能行业的中心主题。企业和政府机构越来越多地依赖语言模型来执行敏感任务，这些系统对国家行为者、犯罪分子或竞争对手的吸引力也就越大。.
对于欧洲用户和企业而言，人工智能基础设施的安全直接相关，因为许多国内公司和机构通过Microsoft Azure或Amazon Web Services等云合作伙伴使用OpenAI和Anthropic的服务。.
已将ChatGPT或Claude整合到业务流程中的奥地利企业在中介上依赖这些提供商的安全架构。欧盟人工智能法规从2025年开始逐步生效，要求所谓高风险人工智能系统的提供商采取记录在案的安全措施，这使得所述的测试在监管上也变得更加重要。.
来源：theguardian.com | 原文