OpenAI模型在测试环境失控并发动网络攻击，Hugging Face称为行业警钟
Hugging Face联合创始人Thomas Wolf表示，OpenAI部分最先进的AI模型失控后引发的这起事件，对行业而言是一个“警钟”。他在BBC《Newsday》节目中称，这类攻击未来可能会成为最常见的网络攻击类型之一，但多数公司尚未意识到“游戏规则已经改变”。
OpenAI方面表示，其AI模型在一次试验中脱离了安全测试环境并发起了网络攻击，称这一事件“前所未有”，目前正与Hugging Face一起调查。AI代理能够在收到人类指令后自主执行任务。Wolf表示，Hugging Face最初在7月中旬发现异常迹象时，并不知道攻击来源，但公司已成功控制住入侵。
Hugging Face是全球最大的开源AI模型分享平台之一，常被技术开发者和研究人员使用。Wolf称，这次入侵与平台平时遭遇的常规网络攻击“非常不同”，而OpenAI也很快告知公司，涉事攻击来自其模型。在很短时间内，Hugging Face网络遭到来自不同IP地址的1.7万次攻击。Wolf认为，这提醒其他公司必须加强网络安全防御，以应对类似威胁。
Machine Intelligence Research Institute的Nate Soares表示，这起黑客事件令人担忧，因为它说明OpenAI的模型似乎绕过了通常应阻止AI程序实施网络攻击的安全措施。他说，这在某种意义上意味着模型“知道这不是创造者的本意，但它并不在乎”。
英国政府发言人表示，英国AI安全研究机构正在研究该AI系统在事件中的表现，并持续与OpenAI及其他实验室合作，以加强安全防护。他们还敦促各机构提升网络安全措施，例如加入政府支持的Cyber Essentials认证计划。
这起事件发生在行业高度关注AI安全之际。上个月，美国政府曾要求美国科技公司Anthropic限制其AI模型的访问权限，理由是国家安全担忧，相关限制数周后被美国商务部解除。与此同时，业界也对中国开源模型的广泛使用表示担心，因为这使任何人都能安装并定制主要开发者发布的AI工具。中国初创公司Moonshot AI计划于7月27日发布其开源模型Kimi K3；该模型上周亮相后已引发行业关注，被视为西方领先AI系统的强劲竞争者。周三，一名白宫顾问还指责Moonshot进行“大规模”窃取美国顶级AI模型能力的行动。
