AI技术越强大，安全与治理的挑战就越紧迫。斯坦福《2026年人工智能指数报告》揭示了一个令人担忧的现状：AI安全治理的发展速度远远跟不上技术演进，两者之间的鸿沟正在扩大。
2025年被记录在案的AI安全事件数量从上一年的233起跃升至362起，增幅超过55%，涵盖深度伪造、隐私泄露、算法偏见等多个领域。更令人担忧的是，主流大语言模型的幻觉率仍高达22%至94%，远未达到高风险场景所要求的可信赖标准。
在监管层面，全球各国正在加速AI立法进程。欧盟AI法案已正式实施，美国发布AI行政令，中国持续推进”人工智能+”行动。但碎片化的监管体系让跨国企业面临合规挑战。Info-Tech Research Group指出，AI主权将成为监管层关注的核心议题，全球立法将呈现碎片化发展态势。
负责任AI的实践同样面临挑战：安全性、公平性与隐私之间往往存在难以调和的权衡取舍。此外，前沿AI企业的透明度不升反降，模型训练数据来源、能耗信息和安全评估结果的披露持续减少。行业亟需建立统一的、可操作的AI安全评估框架。