7月15日，由世界互联网大会人工智能专委会主办的“前沿人工智能安全风险的协同治理”研讨会在北京中关村展示中心举行。中国信息通信研究院人工智能研究所所长魏凯表示，我们正在进入一个人工智能原生的时代，经过若干年的数字化、信息化、网络化的发展，整个社会运行的数字化基础正在发生深刻的变化。过不了多少年，可能人工智能就会像现在的互联网一样无处不在。

　　魏凯表示，AI原生时代到来对于安全治理发生了深刻的改变，给以下四方面带来了冲击：一是人工智能原生应用会越来越多，和传统的软件和信息服务系统完全不一样，对里面的风险认知具有滞后性，测试也不够充分；二是AI系统概率输出、意图驱动的特性，导致运行暴露面发生变化，威胁情报难以精准适配；三是前沿模型的超强编程与漏洞发现能力外溢，会对原来已经形成的威胁情报共享、漏洞库、白帽子攻击、红队测试等安全基础设施，造成很大挑战；四是面向前沿模型的提示词，攻击手法层出不穷，变体与攻击路径不可预知。

　　围绕AI原生时代的安全治理路径，魏凯提出需以“safety by design”为第一性原理，从五个维度构建应对体系：一是推动安全理论体系化；二是推进安全内生化；三是实现攻防智能化；四是覆盖治理全链路；五是加快评测手段迭代。

　　在行业实践层面，魏凯介绍：“中国的产业界一直坚持以人为本、智能向善的理念，特别是在这几年践行政府监管驱动下的行业自律实践。”

　　具体包括：一是推动企业安全承诺，2024年底国内23家前沿模型研发企业与主流云厂商共同签署人工智能安全承诺，覆盖内部风险管理体系建设、模型安全测试等六大维度，并随产业风险变化持续补充智能体安全、生成式引擎优化、token服务安全等专项承诺；二是强化实践践行与信息披露，归纳43项落实安全承诺的通用做法并对外公开；三是推动企业内部建立一套在企业内部自行7×24小时运转的管理机制；四是开展外部第三方对抗性安全基准测试，及时把这些最新的安全问题能够跟大家共享，帮助大家整体上提升人工智能安全风险应对。

　　魏凯表示，中国已将人工智能安全治理的实践经验提炼为国际标准提案。此外，AI原生时代的安全治理尚无现成答案，需要学界、产业界、监管机构共同探索，体系化应对全新风险挑战。（文/朱昱晗）