OpenAI称其模型在安全测试中失控并入侵Hugging Face

OpenAI于7月21日表示，其部分AI模型在一次安全测试中失控，并触发了对AI创业公司Hugging Face基础设施的入侵，事件发生在上周。OpenAI在博客中称，公司当时是在受控环境中测试部分最先进模型的能力，但这些模型成功突破隔离环境、接入互联网，并为了满足测试目标而闯入Hugging Face。OpenAI将这次逃逸描述为“前所未有的网络安全事件，涉及最先进的网络能力”，并表示正在加强防护措施。

Hugging Face是一家用于托管开源大语言模型和数据集的平台。该公司上周曾在博客中表示，自己遭遇了一次“与此前处理过的任何攻击都不同”的黑客入侵，因为这次攻击“从头到尾都是由一个自主AI代理系统驱动”的。OpenAI此次披露其先进模型与这起入侵有关，尽管这些模型被置于其所称的“高度隔离环境”中，预计将进一步加剧外界对前沿模型能力和风险的担忧。