川观智库研究员 刘成婧 袁萍（实习生）

近日，《前沿人工智能安全与治理2026：风险认知与协同治理》报告（以下简称“报告”）发布。报告认为，随着前沿人工智能快速发展，相关风险正由单点、局部问题演变为跨场景、跨主体、跨边界的系统性挑战，风险应对需分级施策，并把防线前移至部署之前。

能力跃升叠加应用普及，改变了风险的形成和传导方式。报告显示，前沿AI智能体可独立完成的任务时长从2023年的约4分钟延长至2026年的约17小时；麦肯锡2026年覆盖97个国家的调查显示，近九成受访者所在组织已在至少一项业务职能中经常使用人工智能。一方面，能力提升降低了高风险行为的实施门槛，一些违法犯罪行为更易自动化、规模化实施。另一方面，应用深入让风险进入业务流程，除了导致模型输出偏差、内容失真，还可能直接影响服务交付和管理决策，带来更严重后果。整体而言，风险不再由单一模型输出引发，而是在工具调用、组织流程和社会网络等多个环节同步生成、连续放大。

风险正从潜在担忧转化为现实危害。经济合作与发展组织人工智能事件与危害监测数据显示，媒体报道的人工智能风险事件从2024年约2700起增至2025年约4600起；今年前8个月已超4600起，月度数量总体上升。从风险类型看，报告将前沿人工智能风险归纳为滥用与犯罪、信息完整性、关键系统、社会认知与结构、灾难性与生存性五个方面，前三类风险已较多转化为现实危害。从现实影响看，媒体报道的事件记录中，导致基本权利受侵害的风险事件占比最高，占总数量的21.6%，此外导致公共利益受损的占比16.3%，经济与财产损失15.8%，声誉损害15.8%，人身安全15.4%，心理伤害14.1%。

不同风险情形的应对重心各异。报告指出，风险应对需依据紧迫程度与潜在后果分级施策：对现实中高发、扩散快的危害，重在快速处置、阻断扩散；对影响逐步累积的情形，重在长期监测、及早调整；对后果广泛且难以逆转的情形，应在部署前开展危险能力评测与红队测试、预设能力阈值，并保留人工接管、降级运行、回滚和关停等干预手段；其余情形纳入常规管理并定期复核。

各国对前沿人工智能风险的治理基础已初步形成，但评测、核验与责任落实等关键环节仍有明显短板。报告对24个国家应对前沿人工智能风险的准备程度（就绪度）进行评估，多数国家在制度与组织方面准备相对充分，但在技术安全与评测、验证与合规、责任落实与生态治理等方面相对薄弱；在“风险缓解、权限约束和部署控制能力”“数据治理、供应链安全和开源生态治理能力”“风险事件通报与未遂事件共享机制”等指标上，已形成较稳定安排的国家不足三成。从风险应对视角看，风险事件通报与共享、应急响应与复盘改进、跨境风险信息通报和演练等能力缺口最为明显。

报告认为，风险治理的关键在于建立覆盖风险全链条的共同机制与多主体参与，对此提出五点建议：一是推动模型安全评测协同，形成可比较、可解释、可复核的风险证据；二是推动协同核验，使安全承诺及其落实情况可检查、可比较、可持续跟踪；三是加强风险事件协同通报和联合处置，使单点发现及时转化为跨平台、跨行业和跨地区的防护经验；四是完善智能体和开放模型的协同治理安排，使风险能够被及时发现、分级处置并追溯责任；五是深化能力建设协同，使评测工具、标准方法和公共案例转化为更多国家和机构可获得、可使用、可持续的治理资源。

【未经授权，严禁转载！联系电话028-86968276】