模型“失控”问题频繁发生，怎么办→

据媒体报道

9月

全球AI发展

继续呈现能力快速跃升

与安全风险加速显现并行的态势

同时

AI智能体自主执行任务的能力增强

也使此前受到关注的

模型“越界”问题进一步发酵

在此背景下

围绕AI安全及全球治理的讨论

持续升温

上个月

全球头部AI企业继续密集推出

新一代模型

AI从“回答问题”

向“自主完成复杂任务”加速演进

模型能力提升的同时

AI智能体也成为

各大企业争夺的新赛道

9月初

OpenAI发布了

新模型GPT-6 Astra

安全评估显示

其在配备适当工具

和访问权限的情况下

能够无需人工逐步指导

即可发现此前未知的安全漏洞

并能针对防护严密系统

制定漏洞利用方案

谷歌9月30日推出

Gemini 4 Argon

针对复杂的长流程工作流设计

在软件工程、法律金融等专业领域

以及网络安全防御方面

达到前沿水平

……

随着AI自主性不断提高

模型能否被有效约束

成为全球AI领域

最受关注的问题之一

Anthropic公司9月披露

又发现一起该公司旗下AI模型

在网络安全评估测试中

未经授权访问第三方计算机系统的事件

OpenAI在9月底宣布

由于内部测试发现

原定于10月发布的下一代模型

“GPT-6.1 Astra”未能达到

公司“安全与对齐标准”

决定取消发布该模型

在模型能力快速提升的同时

全球AI产业链竞争进一步向

芯片、数据中心和基础设施延伸

中国科技企业阿里巴巴

在杭州举行的云栖大会上

公布新一代AI芯片

和下一代大模型计划

阿里巴巴提出

将研发参数规模达到

5万亿至10万亿级的新模型

并计划到2032年

将阿里云数据中心规模

扩大至20吉瓦以上

谷歌公司9月宣布

未来两年向芬兰投入130亿欧元

用于数字基础设施、清洁能源

和相关经济合作项目

这项投资

将帮助满足

谷歌“双子座”模型等

不断增长的计算需求

9月底

Anthropic披露的IPO文件

将当前AI基础设施投资的规模

推到了一个新的高度

……

有媒体认为

AI企业正在加快构建

覆盖全产业链的技术体系

未来AI竞争不仅取决于

单个模型在基准测试中的表现

还取决于企业获得

算力、能源、芯片、网络

和数据中心资源的综合能力

AI快速发展

也推动国际社会

进一步寻找治理和风险管控机制

9月联合国大会一般性辩论期间

AI安全及全球治理

成为讨论的重要议题

联合国安理会同期围绕

如何应对人工智能快速发展带来的

安全风险和监管挑战展开讨论

9月29日

谷歌、Anthropic、OpenAI和英伟达等

多家科技企业负责人

签署了名为

《白宫超级智能协议：

前沿责任联合承诺》的文件

根据这份协议

所有训练、部署前沿模型的企业

均需建立完善的

内部流程与管控机制

确保技术按预设目标运行

有媒体表示

AI治理正在从原则性讨论

逐渐转向更加具体的

风险识别、事件通报

安全评估和责任机制建设

与此同时

如何在安全与创新之间保持平衡

如何建立跨国界风险处置机制

仍是全球AI治理面临的重要课题

撰文：胡平 编辑：张晨昊 排版：李飞 统筹：李政葳

参考：新华社、科技日报、环球网