点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:生成式AI引发治理新思考
首页> 数字化频道> AI+ > 正文

生成式AI引发治理新思考

来源:科技日报2023-04-27 17:06

  过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研发的相关平台,国内也已有十数家企业在该领域有所布局。

  它们被统称为“生成式人工智能”。简单来说,这种AI可以通过算法生成新内容,包括图像、文字、音乐,甚至视频、代码等。

  这令人兴奋也不乏担忧。数据安全、个人隐私、信息造假、算法歧视……各国监管部门对一系列潜在风险反应迅速,动作不断。

  3月底,意大利个人数据保护局宣布暂时禁止使用ChatGPT,欧盟多个国家跟进,酝酿具体监管措施。美国商务部4月公开征求意见,讨论新人工智能模型在发布前是否应经过认证程序等内容。我国国家网信办也于近日发布《生成式人工智能服务管理办法(征求意见稿)》,针对准入门槛、数据来源、标注规则等作出明确规定。

  风险到哪里 监管到哪里

  “相比以往的AI技术,生成式AI可以直接利用自然语言和计算机进行交互,使用门槛低,生成内容质量高。”世辉律师事务所合伙人、律师王新锐对科技日报记者表示,“这让其一旦被滥用或误用,迷惑性比以往的人工智能技术更强,潜在损害也更大。并且它有可能成为一种影响各行业的底座型技术。”

  除了涉及数据安全、个人信息保护等传统问题,中国互联网协会研究中心副主任吴沈括强调,生成式AI也给内容治理、社会运行产生冲击和影响,这给现有的治理体制机制的敏捷性、覆盖性和穿透性带来很大挑战。

  据王新锐介绍,目前,意大利、西班牙、德国、加拿大、英国等国家出于数据和隐私保护的考虑对ChatGPT及其开发者展开调查,此外,域外有可能将ChatGPT等生成式AI列入高风险人工智能清单,希望通过立法防范其风险。

  吴沈括表示,前述主要国家对于生成式AI的监管依然从经典的数据治理、数据安全的角度切入,在他们看来,生成式AI的核心逻辑在于海量数据的汇集、加工、处理以及丰富的运算输出,因此,采取数据治理的思路顺理成章。

  但回到我国,仅从数据治理出发还不够,“我们的关切涉及内容治理、消费者权益、透明度、公平性、知识产权保护等各个方面,基本覆盖了目前与生成式AI相关的主要风险类型,故而采取的是一种风险预防、风险干预的多层次综合治理思路。”吴沈括说。

  建构多方参与的治理生态

  技术大步向前,如何平衡技术创新和政策管理,考验各方智慧。

  “一方面,我们需要加强数据隐私和个人信息安全的保护,对生成式AI从训练到投入使用的全生命周期的个人信息的处理和数据保护作出规范。另一方面,从生成式AI可能带来的风险出发,在现有法律框架上进一步建立健全生成式AI产业各方主体治理框架和问责机制,落实生成式AI相关主体的权利义务。”王新锐说,下一步需要进一步细化落实平台合规机制、加强科技伦理要求、确保算法安全并建立健全问责机制、促进高质量数据合法合规地流通共享。

  吴沈括提出,治理规则的明确性和确定性需要不断提升,努力打造实时、敏捷、全面的监管机制,最大限度发挥监管的引导作用及红线保护的根本价值。

  生成式AI爆火,涉及诸多利益诉求及关切。对此,王新锐建议,需要充分观察产业界和监管机构、大众媒体的互动,建立多方参与的治理机制。同时,加强公众教育和参与,提高公众对生成式AI的认识和理解,共同推动生成式AI的健康发展。(科技日报记者 崔爽)

[ 责编:刘昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 彭丽媛会见德国伯乐中文合唱团师生代表

  • 明前茶飘香

独家策划

推荐阅读
2024年3月23日,由中国服装设计师协会主办的2024秋冬中国国际时装周在北京开幕。
2024-03-26 21:07
3月17日,原创独立设计师品牌SHANG1 BY SHANGYI 2024秋冬系列时装发布会在北京举行。
2024-03-18 16:39
2024年2月28日,新疆维吾尔自治区巴音郭楞蒙古自治州博湖县境内的博斯腾湖出现推冰景观。
2024-02-29 18:59
云南省曲靖市罗平县马街镇钻天坡,盛开的油菜花梯田在初升太阳映照下,勾勒出一幅田园春景图
2024-02-23 10:59
美丽的三亚湾
2024-01-20 17:42
2024年1月12日,江西省吉安市吉州区庐陵文化生态园层林尽染,色彩斑斓,市民徜徉其间,尽享生态之乐。
2024-01-13 19:43
2023年12月26日,在云南省红河哈尼族彝族自治州元阳县新街镇黄草岭村附近,游客在冬樱花与梯田边游览。
2023-12-26 15:39
2023年12月12日,新疆哈密市巴里坤县第十九届冰雪文化旅游节采冰仪式在高家湖二渠水库进行。仪式主要展示了"头冰"的开采上岸过程。开幕式上还举行迎风旗、祈福词、喝出征酒等仪式。
2023-12-13 16:08
2023年12月13日,河北省正定古城迎来降雪,古城内外银装素裹,犹如一幅淡雅的水墨画,美如画卷。
2023-12-13 15:59
2023年11月28日,贵州省六盘水市明湖国家湿地公园层林尽染,景色迷人。
2023-11-29 15:42
2023年11月28日,江西吉安长塘镇中心小学,老师指导学生剪纸。
2023-11-29 15:42
三角梅原产于巴西,现主要分布在中国、秘鲁、阿根廷、日本、赞比亚等国家和地区。其中,以海南三角梅最为出名。
2023-11-29 11:13
2023年11月23日清晨,朝霞初现,三峡库区湖北省宜昌市秭归县沿江公路G348国道的绝壁岩体上,工人们正在铺设防护网,以防止岩崩和落石。
2023-11-24 15:15
2023年11月23日,黑龙江哈尔滨,哈尔滨站工作人员正在清理站台积雪。
2023-11-23 16:02
2023年11月21日,甘肃敦煌,首趟"敦煌号"铁海联运国际货运班列装载1000吨石棉驶出,经天津港通过铁海联运发往泰国曼谷。
2023-11-21 16:55
2023年11月21日,江苏省如皋市龙游河生态公园,色彩斑斓的树木与一河碧水相应成趣。
2023-11-21 16:55
江西省赣州市定南县历市镇,一座座风力发电机矗立在延绵群山上,与蓝天白云、绿树青山相辉映,极目远望、蔚为壮观。
2023-11-16 15:56
2023年11月13日,国内首座港口商品车智能立体车库在山东港口烟台港建成并投入试运行。该车库占地13000平方米,可容纳商品车3000余辆,较平面堆存能力提升3倍以上,可完成智能理货、智能调度、智能转运。
2023-11-14 15:37
日前,姚庄镇沉香村生态农场近千亩橘子园已硕果累累。近年来,当地依托自然优势,以柑橘产业、乡村景观资源、亲子旅游市场为基础,与横向的艺术产业、旅游产业相融合,在农民增收、乡风涵养等方面均取得了显著成效,探索出了一条具有本土特色的共富新路径。
2023-11-13 16:43
2023年11月7日,江西省高安市一家机械有限公司员工在生产车间赶制工业接头等产品。该公司2022年被工信部列为第三批专精特新重点小巨人企业,其研发的新型无滴漏干式软管接头组件填补了国内空白,达到国际先进水平。
2023-11-09 15:54
加载更多