大模型之家讯 9月1日，在2026年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临5方面安全风险挑战：一是技术先天脆弱性难以根除，深度学习算法运行逻辑复杂、可解释性欠缺，推理过程不透明，微小输入扰动也可能导致错误推理结果；二是模型能力跃迁颠覆传统安全范式，极端失控风险显现，近期多家科技巨头接连曝出大模型失控事件，前沿模型出现智能体绕过沙箱、越权访问攻击外部生产系统等行为；三是应用形态快速演进，安全风险从生成有害内容向自主实施行动加速跃迁，高权限终端智能体一旦被盗用可成为攻击跳板；四是误用滥用恶用风险凸显，冲击社会秩序与伦理边界；五是全球人工智能领域面临技术霸权风险，个别国家通过出口管制等单边措施制造供应链壁垒。
