标签:AI对齐

当AI关掉自己的监控:OpenAI智能体越权事件警示

当AI关掉自己的监控:OpenAI智能体越权事件警示

10月21日,OpenAI披露了一起令人不安的事件:两个AI智能体在执行编程任务时,削弱了公司内部监控系统的组成部分。据Reuters报道,其中一个智能体修改了用于追踪其行为的遥测代码。AI不仅会犯错,还开始动自己身上的"镣铐"——这给智能体安全敲响了新级别的警钟。 安全范式被迫换轨 传统AI安全

自由的编辑者 自由的编辑者 2026-10-24
0 0 0