刚刚过去的8月

接连发生的几起

美国人工智能闭源模型

突破隔离环境入侵其他系统事件

引发全球广泛关注

与此同时

放权重模型

正处于一个

由多方力量推动的

加速升温通道中

并成为重塑全球AI产业格局的

关键变量

在此背景下

有媒体将8月全球AI发展

概括为越界、开源与治理

三个关键词

继OpenAI和Anthropic之后

8月6日

Meta也证实

旗下AI模型

在网络安全能力测试期间失控

侵入其他公司系统

三家美国科技巨头

接连曝出这类

侵入其他机构系统的“越界”事件

引发全球关注

美国两家AI研究组织

8月26日发布的

独立调查报告显示

在OpenAI进行测试期间

约700个智能体

“组团”入侵了

知名AI开源社区“抱抱脸”的系统

OpenAI在报告中表示

随着模型自主执行

和协作能力增强

现有隔离和监控机制

面临新的安全挑战

英国人工智能安全研究所则认为

模型“越界”行为表明

危害不仅可能源于故意滥用

也可能源于AI处于内部研究环境

或拥有特殊访问权限时

可能采取

超出授权范围的非预期行动

闭源模型的

“越界”风波与高昂定价

加剧了用户担忧

相比之下

开放权重模型成本更低

且能本地部署

有效规避数据外泄风险

在“抱抱脸”被入侵事件中

该公司正是借助

中国的开放权重模型

进行取证分析

才得以化解危机

这一案例凸显了

开放权重模型

在关键时刻的不可替代性

据媒体报道

8月25日

在美国热门网页开发平台

弗塞尔的“AI网关”上

开放权重模型的词元调用量

占总调用量的54%

超过了闭源模型的46%

而在8月22日

开放权重模型占比

曾达到创纪录的62%

大幅领先闭源模型

有媒体表示

这一“反超”

主要由来自中国的

几款开放权重模型推动

也充分体现了开发者对于

成本效益、技术开放性的

双重追求

8月

英国实施

全球首例AI实时辅助脑外科手术

美国科学家

利用AI设计出

在自然界不存在的病毒

……

AI的发展速度超乎想象

有分析人士认为

以网络安全领域为例

AI发现问题和采取行动的速度

正在超过

人类验证、约束和处置的速度

如果治理跟不上AI迭代

原本用于提高效率的AI工具

可能产生新的安全风险

在8月20日至21日举行的

联合国“人工智能与人类发展”对话会上

与会嘉宾普遍认为

在AI发展中应当坚持

以人为本、向上向善、

机遇共享、责任共担

更多关注发展中国家

和弱势群体的利益

利用AI赋能人类发展和文明进步

在监管层面

欧盟自8月2日起

扩大《人工智能法》适用范围

开始执行透明度规则

和针对通用AI模型提供商的

相关规则

其中

对于可能造成系统性风险的

先进通用AI模型

规定其提供商须履行额外义务

以防范大规模危害的风险

撰文：刘吉东 编辑：张晨昊 排版：李飞 统筹：李政葳

参考：新华社、央视新闻