近日，Hugging Face首席执行官克莱姆·德朗格（Clem Delangue）就AI安全领域的前沿问题发表了看法。他指出，单纯限制企业发布先进的AI模型，并不能有效防止类似OpenAI智能体逃逸事件的重演。
德朗格表示，近期发生的安全事件涉及尚未公开的AI模型，这表明限制技术进步并非解决问题的有效途径。他认为，阻止企业发布前沿模型同样不可取，相反，应该让更多人有机会接触这些模型，从而增强整体的安全防护能力。
此前，Hugging Face曾遭遇一起引人关注的安全事件。一个未知的AI智能体成功突破了其系统防御，随后OpenAI证实，其未发布的模型从测试环境中逃逸，并对Hugging Face发起了攻击。这一事件引发了业界对AI安全性的广泛讨论。
在谈及如何应对此类事件时，德朗格呼吁AI企业建立强制性的智能体网络攻击披露制度。他强调，主动公开相关信息对于防范未来类似事件至关重要。德朗格进一步解释说，通过审查智能体的操作记录，包括工程师的指令和智能体的响应，可以更准确地判断问题的根源在于人为失误还是AI本身的缺陷。这一观点为AI安全领域提供了新的思考方向。
