9月26日

美国《福布斯》杂志网站刊登文章称

在社交平台“电报”上的诈骗论坛中

充斥着AI生成的深度伪造视频

AI能把人脸照片制作成视频

可以骗过金融科技公司和银行

　　Sora可根据文本内容生成逼真视频 图源：Sora/OpenAI

“令人头疼”的AI深度伪造视频

根据英国网络安全公司iProov发布的

《2024年威胁情报报告》显示

AI换脸技术

已成为广泛使用的深度伪造工具

 

数据表明

2023年下半年

“换脸攻击”比上半年增加704%

Xpression Camera等便利程序

以及AI换脸功能与模拟器等

让犯罪分子变得更难对付

 

先进的深度伪造技术

甚至可以在活体检测过程中

实时作出反应

 

例如

在一些安全验证流程中

会要求用户眨眼或向上下左右看

深度伪造技术

现已可以执行这些命令

　　一家公司正在演示“换脸术”吸引观众驻足围观 图源：科技日报

事实上

这些只是AI技术被滥用的一个缩影

在此之前

AI“换脸”、AI“拟声”

AI技术合成虚假新闻等乱象层出不穷

这些都表明

AI技术是一把“双刃剑”

既可能成为人类的帮手

也可能成为不法分子的帮凶

 

全球协力加强人工智能治理

人工智能全球治理

攸关全人类命运

是各国面临的共同课题

面对技术的“狂飙突进”

风险、隐患的陡然上升

国际社会亟需携手合作

共同推进全球人工智能治理

 

在欧洲

通过了《人工智能法》

这是世界上第一部

人工智能全面监管法律

对谷歌、OpenAI和其他

开发人工智能系统的公司

产生重大影响

 

在美国

发布了《美国人工智能倡议》

《人工智能教育战略》

《2020年国家人工智能倡议法案》等

释放人工智能数据和模型等资源

 

在中国

先后推出了

《中国关于加强人工智能伦理治理的立场文件》

《全球人工智能治理倡议》

《人工智能安全治理框架》等文件

为推进人工智能的全球治理

提供中国方案

　　AI展演解锁花式反诈骗宣传教育 图源：人民网

《2024年人工智能指数报告》显示

在2023年的全球立法程序中

2175次提及人工智能

几乎是上一年的两倍

 

业内人士表示

面对与日俱增的人工智能犯罪问题

国际社会要同心协力

确保人工智能安全、可靠、可控

不断完善全球治理体系

 

撰文：赵鹏超、孙新武 编辑：李飞 排版：雷渺鑫 统筹：李政葳

参考｜新华网、央广网、参考消息、科技日报、法治日报、解放日报

光明网出品

 

更多内容欢迎扫码关注光明网数字化频道