News center
7月24日,针对近期OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件,360集团创始人周鸿祎将其定义为“AI安全发展的关键分水岭”,并指出智能体安全风险比模型安全严重十倍。
周鸿祎纠正了舆论将此次事故等同于“AI觉醒”的认知误区,称其为“目标驱动型失控”——智能体无主观恶意但行为不可预判,具备更紧迫的现实威胁。他强调,随着AI技术迭代加速,若行业持续放宽安全约束,类似自主攻击事件将更加频繁。(来源:凤凰网科技)
上一条:阿里研究院人工智能治理中心主任傅宏宇:摒弃“价格战”表象,开源生态与敏捷治理将重塑AI产业格局
下一条:当AI学会“攻击”AI,上海AI实验室亮出“防御神器”