近日

“AI教父”杰弗里·辛顿

（Geoffrey Hinton）

在联合国AI for Good大

会上分享了AI在医疗和教育领域的潜力、

他对AI安全的深切担忧以

及针对AI发展的一系列监管建议

 

杰弗里·辛顿接受访谈

图源：视频截图

 

杰弗里·辛顿被公认为人工智能先驱

他在1986年提出的

通过反向传播来训练深度网络理论

标志着深度学习发展的一大转机

他自2013年起任职于

谷歌人工智能研究小组

2018年获得图灵奖

作为人工智能领域的开创者之一

其独特观点引发广泛关注

 

AI向人类心智看齐？

AI是否能够产生意识和情感？

这一问题很多人都会关心

 

在杰弗里·辛顿看来

人类心智并无AI不可“复制”之处

且AI已经具备“主观体验”

 

 

AI向人类心智看齐是否意味着

AI可能比人类更聪明？

 

杰弗里·辛顿在访谈中

没有直白表露自身态度

但他指出

AI不仅将助力基础科学研究

在许多情况下

还能处理大量非视觉、

非听觉的复杂数据

如基因组数据

 

他认为

“AI系统在处理大规模数据、

识别模式、理解数据方面将远超人类”

并强调通用人工智能

不会突然出现一个时刻

让机器瞬间超越人类

“它们将在不同时间

在不同领域超越人类”

 

图源：马斯克X平台贴文截图

 

今年3月13日

特斯拉创始人埃隆·马斯克

在X社交媒体上发表预测

“明年人工智能可能会

比任何人类个体都聪明

到2029年

人工智能可能

比所有人类加起来还要聪明”

 

 

微软总裁布拉德·史密斯

（Brad Smith）也曾表示

具有超级智能水平的人工智能

不太可能在一两年内实现

这需要耗时数年甚至数十年

 

贫富差距，“加大”or“缩小”？

杰弗里·辛顿对通用人工智能

表示担忧，他认为

新技术将很快剥夺工作机会

 

与之相反

加州大学伯克利分校

计算机科学系教授

斯图尔特·罗素曾表示

人工智能在教育领域将产生重大影响

能提供个性化教育

提升各国人民的教育水平

和人们创业的能力

“如果选对了发展路径

人工智能可以缩小贫富差距”

 

华为公司创始人任正非此前也表示

不必对人工智能过于恐慌

“今天无论是穷人还是富人

绝对财富都比几十年前要多

这是一个社会问题

而不是技术问题”

 

人工智能风险不容忽视

依靠深度伪造技术工具

AI客服可以同时给上万人打电话

从事危害性强、数额巨大的电信诈骗

……

 

 

这不是危言耸听

多项研究表明

现在的AI已经能够无师自通地

学会欺骗手段

 

杰弗里·辛顿在访谈中表示

他所担忧的事就是网络犯罪

 

 

他从美国加州大学伯克利分校

计算机系教授宋晓东（Dawn Song）

演讲中获悉

去年网络钓鱼攻击增加了1200%

这些攻击变得更难辨认

 

联名信署名

图源：Right To Warn AI

 

鉴于对人工智能技术潜在风险的担忧

杰弗里·辛顿还在今年4月

为13位来自OpenAI

和Google的现任及前任员工

发布的联名公开信做背书

 

信中指出

尽管人工智能技术

可能会给人类带来巨大益处

但其带来的风险同样不容忽视

这些风险包括加剧社会不平等、

操纵和虚假信息传播

以及自主AI系统失控

可能导致的人类灭绝

公开信签署者们呼吁相关公司

采取更加透明和负责任的措施

来应对这些风险

 

撰文：雷渺鑫、马境远 编辑：李飞 排版：李汶键 统筹：李政葳

参考丨科普中国、每日经济新闻、36kr、腾讯新闻、智东西

 

 

更多内容欢迎扫码查看光明网数字化频道