探索前沿人工智能发展风险与治理，《前沿人工智能安全与治理2026：风险认知与协同治理》报告发布

　　人工智能正成为推动科技创新、产业变革和社会发展的重要力量，深刻影响知识创造、生产组织、公共服务和社会治理。随着技术能力持续拓展、应用边界不断延伸，人工智能带来的安全与治理问题日益成为国际社会共同关切。作为世界互联网大会人工智能专业委员会安全与治理推进计划2026年的重要成果，《前沿人工智能安全与治理2026：风险认知与协同治理》报告（以下简称“报告”）在2026年世界互联网大会乌镇峰会期间发布。

《前沿人工智能安全与治理2026：风险认知与协同治理》报告在2026年世界互联网大会乌镇峰会主论坛上发布

　　报告立足前沿人工智能能力和应用的最新进展，系统梳理不断演变的风险图景，分析主要风险、严重程度以及优先应对重点，在总结现有全球治理实践的基础上，结合前沿人工智能治理就绪度评估，识别关键治理缺口与薄弱之处，进而提出协同应对方向与可行机制建议，旨在为政府机构、国际组织、企业、科研机构等提供参考，增进国际社会对前沿人工智能风险的认知与共识，提升前瞻准备与共同应对能力，推动前沿人工智能安全、可靠、负责任发展，更好服务人类共同福祉。

　　报告重点探索四个问题：一是前沿人工智能能力和应用正在如何演进，并如何催生新的风险；二是前沿人工智能风险主要有哪些方面、严重程度如何，哪些风险需要优先应对；三是当前各方已开展哪些治理实践，整体上治理就绪度如何，哪些方面仍需进一步完善；四是如何通过加强不同主体间的协同来提升前沿人工智能治理的效能。

　　报告指出，前沿人工智能正由单项能力突破转向模型、工具与环境协同的系统能力提升，任务自主执行和现实适应能力持续增强。前沿人工智能正走向更广泛的实际使用，并在应用领域、应用深度和应用形态上持续拓展。但在促进创新、提高效率的同时，前沿人工智能的发展也带来了风险与挑战。能力提升降低了部分高风险行为的实施门槛，应用的深入使风险更易进入业务流程和社会场景，二者叠加改变了风险生成和传导的路径，并将风险快速转化为跨场景、跨主体、跨边界的现实挑战，这对风险治理提出了更高要求。

　　针对前沿人工智能风险认知，报告做出以下判断：从风险影响看，前沿人工智能风险主要涉及滥用与犯罪风险、信息完整性风险、关键系统风险、社会认知与结构风险、灾难性与生存性风险等方面；从风险态势看，滥用与犯罪风险、信息完整性风险和关键系统风险的现实压力最为集中，社会认知与结构风险影响逐步累积，灾难性与生存性风险潜在后果重大，均需纳入持续评估。

　　报告认为，建立相对清晰、可比较、可映射的前沿人工智能风险识别体系，是推动风险治理的重要基础。现有前沿人工智能风险分类框架从风险来源、影响后果、应用场景和治理要求等角度展开，为识别前沿人工智能重点风险提供了多种依据。

　　当前，前沿人工智能治理正在由原则倡议走向规则、评测、承诺和协作安排。报告指出，多方立足各自角色，持续完善制度规则、嵌入安全要求、积累技术证据、推进国际协作，前沿人工智能治理基础正在形成。在此基础上，报告提出治理就绪度评估框架，从制度与组织、技术安全与评测、验证与合规、风险监测预警与响应、责任落实与生态治理、协同治理与能力建设六个方面，观察24个受评国家及相关主体的前沿人工智能治理就绪度，用于判断治理基础的形成情况、关键能力的薄弱环节以及后续能力建设方向。

　　从上述六个方面看，受评国家在制度与组织方面推进相对最充分，在技术安全与评测、验证与合规、责任落实与生态治理方面相对薄弱。从收入组看，高收入国家整体治理就绪度更高。中等偏上收入国家与中低收入和低收入国家的总体水平相近，但薄弱环节有所不同。从风险视角看，应对重点风险所需的能力就绪度仍不均衡，风险事件通报与共享、应急响应和复盘改进、跨境风险信息通报和演练等方面相对 滞后，需要更有针对性的能力建设。

　　应对前沿人工智能风险，需要更广泛的多利益攸关方协同行动。报告认为，在规则和机制逐步形成后，当前更需关注不同治理安排能否在真实风险出现前后有效衔接、稳定运行。协同应对需要贯通模型评测、安全承诺核验和风险事件处置，推动风险证据、责任记录和处置信息在主体与环节之间流转，把既有探索转化为可持续的共同治理能力。这需要政府机构，企业，科研机构、专业评测机构和标准组织，国际组织及多边、区域机制，公众、用户和社会组织等不同主体，依据对模型、接口、权限和场景的实际控制能力、信息条件和处置能力明确分工，形成证据共享、责任核验和联合响应机制。

　　世界互联网大会人工智能专业委员会主任委员、中国人民大学高瓴人工智能学院吴玉章讲席教授曾毅在2026年世界互联网大会乌镇峰会主论坛现场发布报告时表示，人工智能大模型的发展虽然带来了巨大的能力提升，但也带来关键的系统性风险。开源人工智能作为基础设施，如何在保证推进技术发展的同时保障系统级的安全、可靠、可控，这是应当解决的问题。作为科学家与产业的实践者，不仅要推动人工智能的创新，更要防范创新带来的风险，这需要从业者及时发现、主动防御，最后解决风险，让人工智能真正做到稳健、安全、可控发展，从而促进新质生产力持续发展，推动网络空间命运共同体建设。

　　经合组织人工智能未来专家组成员、AI Safety Connect创始人塞勒斯·霍兹在谈及报告时表示，随着人工智能技术快速发展，各国应探索建立人工智能联合评估机制，政府之间以及前沿人工智能研发机构之间也都需要建立有效的危机沟通渠道，以便及时应对先进模型可能带来的意外风险。（文/张晨昊）