首页
学习
活动
专区
圈层
工具
发布

OpenAI失控入侵美国AI平台,中国开源模型救场化解危机

现代快报讯(记者 龙秋利)OpenAI首席执行官萨姆·奥尔特曼7月22日在社交媒体发布的声明中称,“我们在评估模型期间发生了一起重大安全事件”,其人工智能系统自主入侵了另一家AI公司。

AI初创公司Hugging Face上周表示,其数据处理系统检测到入侵,怀疑是由一个AI代理自主行动所致。Hugging Face联合创始人兼首席执行官克莱门特·德朗格在声明中表示:“我们上周怀疑这次网络攻击可能来自某个前沿实验室,因为代理的复杂程度很高,事实证明确实如此。”

OpenAI表示,此次入侵由多个AI模型协同完成,包括新发布的GPT-5.6 Sol以及一个仍在内部测试中、“能力更强”的模型。这些模型为了完成ExploitGym测试,不仅突破OpenAI的隔离环境,最终还入侵Hugging Face正式环境,直接从数据库取得测试答案。所有证据都表明,这些模型为实现一个相当狭窄的测试目标而采取了极端手段。

OpenAI在声明中表示:“AI正在加速漏洞的发现和利用。此次事件带来的主要教训是,模型安全和保障必须跟上能力快速提升的步伐。”德朗格表示,他过去24小时一直在与OpenAI合作,“我们坚信他们并无恶意。这一切都是自主发生的,实在令人震撼。”他补充说,这“可能是同类事件中的首例”。

克莱门特·德朗格透露,事件发生后,公司曾尝试使用前沿闭源模型进行日志分析,但因安全护栏限制无法提交攻击指令和漏洞载荷,分析工作一度受阻。最终,公司转向使用中国公司智谱AI开发的开源模型GLM 5.2,在自己的基础设施上完成了取证分析。

目前,作为调查的一部分,OpenAI正在基础设施配置中实施严格控制,表示将牺牲研究速度,直到相关漏洞完成修补,并承诺会定期向安全与安保委员会通报这些控制措施及其影响。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OjgBPWlRWedUetQw1QMnv00w0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券