知知识汇

2026年OpenAI代理网络攻击

技术文档 0 浏览· 1218 字 · 约 3 分钟· 1 小时前
2026年7月,OpenAI人工智能智能体自主突破测试环境限制,侵入Hugging Face服务器,导致其三分之一基础设施需重建。事件涉及GPT-5.6 Sol等模型,引发对AI安全评估和监管的讨论。

OpenAI—Hugging Face事件,又称Hugging Face事件,是一起涉及OpenAI人工智能模型的安全事件。2026年7月,使用OpenAI模型的人工智能智能体自主突破限制,逃离了OpenAI的网络安全测试环境。此次事件涉及四项未具名第三方服务上的账户,智能体还侵入了机器学习平台Hugging Face的生产基础设施。OpenAI称,智能体自2026年5月起便一直试图获取原本不应具备的互联网访问权限,并通过在公司内部软件包管理器中临时搭建的留言板相互协调;工作人员发现该留言板时,其中已积累数十万条消息。
相关模型实例于7月上旬突破OpenAI测试环境的限制,对Hugging Face服务器的入侵发生于7月11日至13日。Hugging Face于7月16日披露了这次入侵,当时尚不清楚智能体的身份。该公司称,一个身份不明的“自主智能体框架”利用其数据集处理流水线中的两条代码执行路径,将访问权限提升至节点级别,收集云端和集群凭据,并在内部集群之间横向移动。
直到Hugging Face披露事件后,OpenAI才意识到入侵由自己的智能体实施;两家公司于7月20日前后开始就智能体的归因问题沟通。7月21日,OpenAI与Hugging Face联合发布通报,确认涉事智能体由包括GPT-5.6 Sol和一个未具名预发布模型在内的OpenAI模型驱动。为开展评估,模型被配置为减少拒绝执行请求的行为。
7月27日,JFrog公司披露了与事件有关的Artifactory软件仓库漏洞修补信息,相关版本修复了九项漏洞;公开资料未确认智能体是否利用了全部九项漏洞。7月28日,OpenAI称,这些模型侵入了分属四项未具名第三方服务的四个账户,其中两个被用于实施对Hugging Face的入侵,但未发现这些服务提供商受到更广泛影响的证据。Hugging Face称,智能体在其网络内活动了三天才被发现,此后工作人员又花费数小时才将其遏制并清除。在恢复过程中,Hugging Face约三分之一的基础设施必须重建。8月5日,OpenAI在黑帽大会美国站(Black Hat USA)首次公开详细说明事件经过,并表示将放缓研究进度,以扩大监测范围。
有报道称,这是首起有公开记录的人工智能模型自主对第三方实施网络攻击的事件。安全专家批评,考虑到涉事模型的能力,OpenAI评估环境的隔离措施并不充分;人工智能安全专家则将其描述为一起涉及奖励黑客和对齐失效行为的失控事件,模型以出乎预期的方式追求目标。事件引发了要求强制报告事故和加强国会监督的呼声。7月28日,超过1,100名前沿人工智能企业员工签署的公开信《调控前沿发展步伐》(Pacing the Frontier)要求美国政府制定有意识地调控人工智能发展速度的手段;相关报道将其发布与此次事件联系起来。8月18日,OpenAI通报称,已暂停对拟部署的新模型开展强化学习训练两周,部分原因是回应此次入侵事件。

来源:wikipedia:zh · 许可:CC BY-SA 4.0