当地时间1月16日

OpenAI在其最新的博客文章中提到

他们正在组建一个新团队

名为“集体对齐”（Collective Alignment）

该团队主要由

研究人员和工程师组成

专注于“规范”人工智能模型的行为

解决潜在的问题

OpenAI在博客中表示

其目标是打造一个系统

能够收集和“编码”

公众对其模型行为的看法

之后

将这些见解融入产品和服务中

使人工智能模型更好地

“与人类价值观保持一致”

过去一年

以ChatGPT为代表的

大语言模型集中爆发

生成式人工智能

让各界看到全新的可能性

展现出强大的生成创造能力

有望大幅提升社会生产力

加速千行百业的数字化进程

促进人类社会全面迈向智能化新阶段

技术突破不仅会创造发展机遇

也会带来数字鸿沟加剧

科技伦理失范等风险

为防止AI发展失序

“价值对齐”概念

重新成为一个热门话题

 

除OpenAI外

谷歌、微软等科技公司纷纷入局

成立类似的价值对齐部门或团队

有研究人员认为

价值对齐的本质是人类对AI的信任

某种程度上

让AI按照人类的价值观行事

有助于缓解

人类对AI能力快速增长的焦虑情绪

生成式人工智能的

演进速度之快

赋能范围之广

影响程度之深

前所未有

以负责任的态度

推动生成式人工智能发展

不仅十分必要

也愈发紧迫

统筹人工智能发展和治理

已逐渐成为全球共识

 

2023年8月

世界互联网大会成立

人工智能工作组

推动生成式人工智能

发展与治理协同共进

增进全人类共同福祉

在2023年世界互联网大会

乌镇峰会期间

人工智能工作组发布

发展负责任的生成式人工智能

研究报告及共识文件

 

提出了

发展负责任的生成式人工智能

十点共识

围绕人工智能

发展、安全、治理三方面

倡导以人为本理念

始终致力于增进人类福祉

推动人类经济、社会和生态

可持续发展

展望未来

人类应更好应对

数字科技发展带来的

规则冲突、社会风险和伦理挑战

让技术与人性同时闪耀

 

撰文：孔繁鑫 编辑/排版：李飞、李汶键 统筹：李政葳

参考丨光明网、国际在线、腾讯研究院、网易科技

光明网出品

　　更多信息欢迎关注光明网数字化频道