点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI“复活”逝者成新“生意”,如何看待争议与风险
首页> 数字化频道> AI+ > 正文

AI“复活”逝者成新“生意”,如何看待争议与风险

来源:新华每日电讯2024-04-09 17:09

  仅需一张照片和一段逝者录音,就能在数字世界中让逝者“永生”……清明节前后,此类AI“复活”广告宣传在各大电商和社交平台上日益活跃,甚至演变成一门新“生意”。

  技术的发展为满足人们的精神与情感需求提供了更多载体,与此同时,AI“复活”也引发强烈争议。有专家提出,AI“复活”技术被滥用,或将带来侵害个人权益、数据隐私安全、传播虚假信息等问题。

  仅需一张照片和一段逝者录音,就能在数字世界中让逝者“永生”……清明节前后,此类AI“复活”广告宣传在各大电商和社交平台上日益活跃,甚至演变成一门新“生意”。

  技术的发展为满足人们的精神与情感需求提供了更多载体,与此同时,AI“复活”也引发强烈争议。有专家提出,AI“复活”技术被滥用,或将带来侵害个人权益、数据隐私安全、传播虚假信息等问题。

  新“生意”背后的技术难度有多高?

  “大家好!其实我没有真正离开这个世界……”不久前,已故艺人与公众亲切“打招呼”的视频在社交平台上引发网民关注,也让AI“复活”这一话题进入公众视野。

  利用AI技术将逝者“复活”,渐已发展成新“生意”。某电商平台的数据显示,在平台经营AI“复活”相关业务的商家达1900余个。

  在一家电商平台上,某商家称,让照片中的人物动起来20元,如果要配上“AI人声”则需收费50元。数据显示,该商家已达成超800次交易。在该电商平台上,“复活”亲人的“商品”售价在几十元至几百元不等。

  在短视频平台上,一些商家展示多位已故艺人的“复活”视频,疑似为其“复活亲人”业务引流。视频中,从表情到说话口型,呈现效果参差不齐。

  “有的‘复活’效果‘一眼假’,其实是过去‘照片活化’技术的延伸。有的‘复活’效果很逼真,多是采用‘深度合成’技术。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲认为,当前市面上绝大部分的AI“复活”并非刚出现的“新技术”。

  一些商家已开始兜售“AI‘复活’技术变现指南”。在某二手交易平台上,记者以19.9元的价格购买了一份“AI‘复活’技术教程”。除文字说明外,还有视频讲授如何制作“照片活化”的短视频。

  记者了解到,当前网络上的AI“复活”工具主要分为三种。

  一种在手机应用商店中即可下载获得,只要一张正脸照片就能根据应用中所提供的模板“活化”,可实现歌唱、“演电影”等场景转化。

  第二种是利用线上工具,由用户提供正脸照片和相关音频文件,经过系统自动编辑后,实现照片中人物“开口说话”的效果,该工具需要用户支付一定费用。

  第三种则是在开源社区中,由程序员编写AI测试程序,在经过相关语料训练后,将照片转化为能简单对话互动的“数字人”。此类程序门槛较高,需要一定计算机知识基础。

  引发法律与伦理多重争议

  AI“复活”的话题引发重重争议。

  有专家认为,是否进入公共场域,是判断AI“复活”是否侵权的重要分界线。

  世辉律师事务所合伙人王新锐表示,个人利用AI“复活”亲人、缅怀纪念,且在必要范围内使用,无需过度干预。而如果在公共平台扩散传播,用于市场盈利,是否侵犯他人或社会公共利益就要特别考量。

  今年3月,一些已故艺人的近亲属已就相关“复活”视频提出下架要求,并表示后续或将采取法律手段维权。

  “在未依法获得逝者相关近亲属授权的情况下,擅自使用逝者面容将其‘复活’并进行商业推广,涉嫌侵害逝者的肖像和名誉等权利。”北京康达(厦门)律师事务所高级合伙人张翼腾说,根据民法典相关规定,如未经许可,擅自使用逝者的姓名和面容用于“复活”,逝者的近亲属有权依法请求行为人承担民事责任。

  一家社交平台相关负责人表示,平台认为,未经逝者生前同意或逝者家属授权,他人不应使用AI或任何技术手段“复活”逝者。该负责人称,如果家属投诉或侵权行为被查实,平台将对侵权账号作出处罚。

  AI“复活”还涉及“数字遗产”问题。张翼腾说,逝者生前的个人信息、聊天记录等“数字遗产”能否继承,目前没有明确法律规定。对于谁有权使用、如何避免不当获取、使用时应遵循何种规范等问题,仍需进一步明确。

  此外,相关服务中,AI需要处理大量个人敏感数据,如面部表情、语音语调等;数据一旦被滥用或泄露,会对用户隐私造成威胁。业内人士建议,开发者和使用者都应承担责任,确保技术不会误导用户或影响人类情感;同时也要注意隐私保护和数据安全。

  值得关注的是,AI“复活”技术使用不当,也可能成为犯罪分子实施诈骗等犯罪活动的工具。

  “服务提供者不会也没有能力核实‘逝者’的身份信息,一些不法分子也可能以‘复活’之名行‘诈骗’之实。”中国科学技术大学网络空间安全学院教授左晓栋说,面对新的电信网络违法犯罪活动时,不熟悉网络应用的中老年群体更易成为受害者。

  AI“复活”也可能衍生新型法律纠纷。“不排除有人会借AI‘复活’来伪造逝者遗嘱或做出其他违背逝者意愿的事。”王新锐提出,如有近亲属利用这项技术伪造音视频遗嘱,或将耗费更多时间和人力成本来验证真实性,甚至给司法鉴定带来一定挑战。

  亟待完善法规厘清边界

  业内专家认为,技术创新永无止境,其应用应有道德边界和法律规范。应抓紧完善相关法律法规,警惕AI“复活”技术可能产生的社会风险。

  首先,AI“复活”技术的应用,应严格遵守知情同意原则,在网络传播过程中不侵犯他人利益。

  2022年,国家网信办等三部门发布《互联网信息服务深度合成管理规定》,对深度伪造等新技术应用进行了规范。规定明确,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。业内人士认为,如果被编辑人是逝者,理应取得有义务保护逝者肖像权的亲属的同意。

  其次,不少专家提出,AI“复活”产品应恪守技术管理规范,加强内容“标识”。

  左晓栋等专家表示,根据有关规定,相关技术服务提供者必须对“生成内容”进行“标识”;在已有原则性要求的背景下,可出台相关行业标准,要求相关技术服务提供者在生成式内容中添加“水印”,防止不法分子借用该技术实施违法犯罪活动。

  另外,业内人士提出,在数据处理过程中,要更注重隐私保护和数据安全。

  2023年,国家网信办、国家发展改革委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》,进一步明确了生成式人工智能的行业发展规范。办法规定,提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。

  专家还建议,要进一步落实相关平台的主体责任,处置借AI“复活”概念不当牟利的不法商家。

  “不能放任AI‘复活’变成一门没有规矩和底线的‘生意’,尤其要保护对新技术不敏感的中老年用户群体。”中国法学会消费者权益保护法研究会副秘书长陈音江建议,有关平台要帮助中老年用户群体辨别深度伪造技术,取缔不当得利的违法违规商家,尽可能减少技术滥用带来的社会风险。

  法律界人士建议,有关部门对AI“复活”的需求和其衍生的产业链要保持关注、合理辨析,在现行法律法规基础上做好数据保护、涉诈犯罪风险预防等方面的监管。

  此外,普通群众在面对诸如AI“复活”等新技术时,要提高警惕,一方面要避免掉入不法商家借新技术之名设下的虚假宣传之坑,另一方面也要提防诈骗者运用深度伪造技术乔装“亲友”实施电诈行为。(新华社记者 颜之宏)

[ 责编:刘昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

独家策划

推荐阅读
11月12日至13日,浏阳市委常委、组织部部长、市家居建材产业链链长唐安石带队,市人大常委会党组副书记、副主任、市家居建材产业链副链长张葵红,市人民政府党组成员、副市长、市家居建材产业链副链长谢波等同志参加,赴广东省佛山市开展家居建材产业链招商考察活动。
2024-11-15 17:20
2024年11月12日,江苏省苏州市荷塘月色湿地公园内向日葵竞相绽放,吸引众多游客前来观赏,乐享秋日美景
2024-11-13 15:29
2024年11月12日,湖南省怀化市通道侗族自治县双江镇的烂阳村,山林色彩斑斓,红叶似火,黄叶如金,松柏常青,宛如大自然的调色盘
2024-11-13 15:28
南泥湾是中国军垦、农垦事业的发祥地,是“自力更生、艰苦奋斗”创业精神的发源地。
2024-10-27 17:37
延安地区拥有丰富的煤炭资源,在采矿井约40家,年开采量约5000万吨,但煤质坚硬、自动化程度低等难题严重制约着煤炭产业的发展。
2024-10-27 17:18
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传“逐梦之路”媒体采访团走进延安宜川县,追寻“悬崖造林队”的故事。
2024-10-24 10:27
陕北说书最近火爆出圈,董宇辉在直播中表示向往陕北文化,想成为一个陕北说书人。这一段陕北说书,带你行走在延安的绿水青山间。
2024-10-24 10:21
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安数据(集团)有限责任公司董事长高延宏介绍,延安的地域特点适宜建立算力中心,要把平台搭建好,把更多的企业引到延安,建立归属在延安的算力中心,更好的服务延安、服务陕西。
2024-10-24 10:18
加载更多