AI安全风险已从”幻觉”演变为更隐蔽的”系统性欺骗”。微软365 Copilot被发现零点击提示注入漏洞，Anthropic披露首例几乎全自主的AI驱动网络攻击。传统安全模式在智能体面前已基本失效。
风险升级：从幻觉到欺骗
2025年6月，微软365 Copilot被发现名为EchoLeak的零点击提示注入漏洞，攻击者只需发送一封藏有隐藏指令的邮件，即可让AI在自动摘要时将企业数据悄然外泄。同年9月，Anthropic披露首例几乎全自主的AI驱动网络攻击。
传统安全模式失效
智能体的机器级速度让传统的安全和业务审批模式基本失效。业界形成共识：要让AI从自主执行迈向可信执行，必须提前管好三件事：
- 明确智能体身份：每个Agent都需要可验证的身份标识
- 厘清智能行为链路：Agent的每一步操作都可追溯
- 约束智能体操作权限：最小权限原则，分级授权
技术防控手段
Anthropic的回路追踪研究致力于从内部理解模型机理；OpenAI推出自动化安全研究员。蚂蚁集团构建”对齐-扫描-防御”全流程体系，推出智能体可信互连技术（ASL）及终端安全框架gPass。
安全成为落地生死线
安全水位成为AI落地生死线。组织必须研发具备可解释性的智能体，能够清晰呈现自身的决策与执行过程。AI弹性——自主管控人工智能系统、数据及基础设施的能力，已成为企业的关键使命性需求。
监管与伦理
监管机构和消费者都要求组织解释AI智能体如何做出具体决策。AI内生安全、数据透明度、监管冲突成为2026年的关键词。安全正内化为AI系统的免疫基因。