美国政府对AI闭源模型提出新要求

　　美国政府对AI模型的监管

　　又迈出一步

　　外媒报道

　　特朗普政府对

　　具备最先进能力的闭源模型

　　提出测试要求

　　而对开放权重模型暂予豁免

 

　　在AI安全风险持续受到关注、

　　开放生态快速发展的背景下

　　如何平衡安全治理与创新竞争

　　再次引发AI业界热议

　　

　　AI模型监管框架新进展，

　　区别对待开源闭源

　　

　　当地时间8月4日

　　来自OpenAI、Anthropic、

　　谷歌、Meta、英伟达、

　　微软等十余家

　　美国AI科技企业的代表

　　前往白宫参会

　　以商讨一份历时数月磋商的

　　前沿AI模型监管框架

 

　　华尔街日报

　　援引知情人士消息称

　　会上确认

　　具备最先进能力的

　　美国闭源模型开发商

　　需要在模型发布前

　　自愿向政府提交模型

　　进行安全测试

　　开放权重模型暂不在

　　本轮自愿性安全测试之列

　　媒体报道认为

　　本次发布前测试是

　　特朗普政府《促进先进人工智能

　　创新与安全》行政令的

　　重要组成部分

　　该行政命令旨在

　　应对人工智能带来的

　　日益增长的安全风险

 

　　业内人士指出

　　尽管测试属于自愿性质

　　但如果未经测试发布后

　　出现安全问题

　　企业可能需要承担相应风险

 

　　另一方面

　　对于“最先进能力”的定义

　　业内尚未达成共识

　　为AI模型建立一套

　　清晰的分类方法

　　是监管者接下来

　　面临的关键难题之一

 

　　开放与安全成

　　AI监管平衡点

 

　　对“开放权重模型”的豁免

　　也成为业界关注点之一

　　媒体分析指出

　　特朗普政府此举反映出

　　其意图在确保AI工具安全的同时

　　避免阻碍技术创新

 

　　美国业界对AI的应用理念

　　正在发生转变

　　从单纯追捧模型能力、

　　热衷采用前沿闭源模型

　　逐渐转向更重视开放生态价值、

　　更加注重模型使用效益

　　近日

　　包括Meta、英伟达、

　　微软等在内的

　　多家美国科技公司

　　联名签署公开信

　　呼吁推动

　　开放权重人工智能模型发展

　　认为开放生态

　　有助于扩大AI应用、促进竞争

 

　　英伟达还

　　从开闭源模型并存的

　　安全角度出发

　　牵头成立开放安全AI联盟

　　联合Hugging Face、戴尔等企业

　　推动基于开源生态的

　　AI安全防御体系建设

 

撰文：张晨昊  编辑：刘吉东、常泽昱  排版：常泽昱  统筹：李政葳

参考：科技日报、经济日报、财联社、新浪财经、金融界、第一财经、华尔街日报