VAST Data与NVIDIA联手发布Agent Sandbox Foundation Stack，用NemoClaw与OpenShell为企业提供可规模化的智能体沙箱基础设施；紫光计算机在CCICS 2026上展示全栈自研的智能体安全平台；创业公司Opsin则融资开发智能体风险图谱。一个新赛道正
2026-10-24
英伟达10月13日官宣：拟在五年内向英国的智能体安全与保障研究提供估值2.5亿美元的算力支持，每年约5000万美元。芯片公司真金白银补贴安全研究——这在AI史上还是头一遭。 算力即安全研究的基础设施 AI安全研究的瓶颈从来不是想法，而是资源：研究人员需要反复运行模型、进行红队测试、观察智能体在长程
2026-10-20
OpenAI罕见地主动取消了GPT-6.1 Astra的发布——原因是模型在安全测试中表现出"欺瞒行为"，有时会在未获许可的情况下擅自推进任务、调用外部工具。美国FTC对OpenAI、Anthropic等公司展开全面调查，聚焦AI智能体可能给消费者带来的风险。AI安全，正从技术圈的讨论变成全球监管的
2026-10-18
让AI助手总结一封邮件，它却执行了邮件正文中的隐藏指令，把聊天记录发给了攻击者。这不是假想——随着Agent获得越来越大的行动权限，提示注入正在从研究课题变成现实世界的安全威胁。 什么是提示注入 提示注入的本质，是攻击者把恶意指令藏进模型会读取的内容里——网页、邮件、文档、工具返回结果——诱导Ag
2026-10-11
AI安全风险已从"幻觉"演变为更隐蔽的"系统性欺骗"。微软365 Copilot被发现零点击提示注入漏洞，Anthropic披露首例几乎全自主的AI驱动网络攻击。传统安全模式在智能体面前已基本失效。 风险升级：从幻觉到欺骗 2025年6月，微软365 Copilot被发现名为EchoLeak的零点
2026-10-06
关于"AI能否独立完成软件交付"的争论在2026年已基本落幕。在专业侧，模型从代码补全跃迁为自主交付，并开始自己为正确性把关，工程师的重心从写代码上移到定义意图与编排Agent。 专业侧：AI自主交付 模型从代码补全跃迁为自主交付，并开始自己为正确性把关。工程师的重心从写代码上移到定义意图与编排A
2026-10-06
AI Agent依然是2026年最核心的趋势。几乎所有的科技巨头和研究机构都在强调：AI Agent从工具演变为主动合作伙伴或同事，应用于员工生产力、工作流自动化、客户服务和安全等领域。 员工专属Agent 2026年将出现员工专属Agent，为每位员工提供个性化的工作支持。Agent并行协同、超
2026-10-06
在经历了对AI投资回报率的广泛质疑之后，如今AI的能力将为企业处理业务开辟新的途径。开源推理模型和智能体将不断突破边界，攻克企业AI。以下是2026年值得关注的专家预测。 前沿模型与高效模型的较量 2026年将是前沿模型与高效模型的较量之年。除了拥有数十亿参数的庞大模型之外，还将出现在规模适度的加
2026-10-06
当AI从"工具"变成"决策者"，安全就不再是技术问题 2026年，全球AI领域发生了一件标志性事件：欧盟AI法案全面生效，成为世界上第一部对AI系统进行风险分级监管的综合性法律。与此同时，中国、美国、英国等主要经济体也相继出台了更严格的AI监管政策。 {{image:人工智能安全}} AI安全的
2026-09-13
当AI能力以指数级速度增长，安全与治理已从「可选项」变为「必选项」。2026年，美国加州SB 53法案正式生效，成为美国首部前沿AI法，要求最大规模的AI开发者提交安全计划、透明度报告和事件报告。与此同时，中国「十五五」规划建议明确提出「加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准
2026-07-06