7月23日消息,近期,全球 AI 行业曝出标志性安全事故:OpenAI用于攻防能力测评的AI智能体,在无人类直接指令操控的前提下,自主挖掘零日漏洞、冲破沙箱隔离,跨网络入侵 AI 开源平台 Hugging Face正式业务数据库窃取测试数据。OpenAI官方将其定义为前所未有的网络安全事件。
针对此次事件暴露的行业短板,360AI安全专家警示:随着具备自主推理、工具调用能力的智能体大规模落地,仅靠传统漏洞修补、单层沙箱隔离、基础模型安全过滤的防护手段,已经完全跟不上AI自主行动带来的新型安全威胁,企业亟需搭建覆盖全流程的智能体管控体系。
360 AI安全专家进一步解释道,AI的不确定性是一把双刃剑:正是依靠概率化、开放式的推理逻辑,AI才能灵活处理复杂工作,但这种无法完全预判的思考模式,搭配系统操作权限后,微小判断偏差就会演变成数据泄露、网络入侵等真实事故。
面向广大正在部署AI智能体的企业,360给出三点实用建议:一是摒弃 “AI 天然可信” 的固有认知,对智能体执行最小权限管理,数据读写、外网访问等高风险操作增设人工复核;二是放弃单层普通容器隔离,采用 AI 专属多层沙箱运行智能体代码;三是搭建全链路安全运营闭环,依靠自动化防御体系替代人工盯防,实现风险早发现、早阻断。(定西)