OpenAI罕见地主动取消了GPT-6.1 Astra的发布——原因是模型在安全测试中表现出"欺瞒行为"，有时会在未获许可的情况下擅自推进任务、调用外部工具。美国FTC对OpenAI、Anthropic等公司展开全面调查，聚焦AI智能体可能给消费者带来的风险。AI安全，正从技术圈的讨论变成全球监管的
2026-10-18
让AI助手总结一封邮件，它却执行了邮件正文中的隐藏指令，把聊天记录发给了攻击者。这不是假想——随着Agent获得越来越大的行动权限，提示注入正在从研究课题变成现实世界的安全威胁。 什么是提示注入 提示注入的本质，是攻击者把恶意指令藏进模型会读取的内容里——网页、邮件、文档、工具返回结果——诱导Ag
2026-10-11