点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
7月26日,由中国网络空间安全协会主办的2025世界人工智能大会“有益 安全 公平——人工智能向善论坛”在上海世博中心成功举办。论坛聚焦人工智能治理热点议题,集中展示我国治理探索的最新成果,推动全球安全合规理念与风险应对经验的深度交流。
世界人工智能大会“有益 安全 公平——人工智能向善论坛”现场
论坛特设“中国人工智能治理实践”环节,邀请国家互联网信息办公室相关职能部门负责人围绕标识制度构建、信息化协同发展、法治保障支撑以及技术能力建设等作主题发言。
国家网信办网络管理技术局局长于永河指出,我国以专门规范性文件方式,在全球率先发布《人工智能生成合成内容标识办法》,针对标识这一关键环节,提出了“适应现状、突出落地、留足空间”的管理方案,贯穿内容“制作、传播、应用”全链条标识治理,构建了“管理办法、技术强标、实践指南”的全体系治理框架,为全球人工智能治理贡献中国方案,推动人工智能健康发展。
国家网信办信息化发展局副局长廖毅敏介绍,信息化局积极推动人工智能融入百姓生活和千行百业,指导国内主要手机和应用企业制定统一交互接口标准,推动生活缴费、出行等典型场景适配。推动人工智能企业与应用场景深度结合,探索智能体、具身智能在科学研究、生产服务等领域应用。同时,稳步推进政务领域大模型部署,发布《智能社会发展与治理标准化指引(2025年版)》,为智能社会建设提供标准化支撑。
国家网信办网络法治局副局长唐磊表示,我国已初步构建覆盖法律、行政法规、部门规章等多层次的人工智能法规制度框架,并介绍了国家网信办会同有关部门聚焦人工智能立法顶层设计、开展专门立法、完善应用场景规范和凝聚网络法治共识等方面情况,分享了我国推进人工智能法治建设的主要经验,就体系化推进人工智能立法作了展望。
国家互联网应急中心刘博副主任介绍了在支撑监管、促进发展、保障安全、推动应用、国际合作等方面开展的安全治理技术探索和实践,着力构建全生命周期的技术支撑体系,建设了以AI治理AI的安全测评平台,发布中文互联网基础语料库,运营CNVD人工智能漏洞库,开展大模型产品漏洞众测活动,研制了语料清洗过滤大模型,研究提出了可信人工智能准则,并组织13国专家研讨。
在“主旨演讲”环节,中国网络空间安全协会理事长作主旨报告,围绕客观分析人工智能安全风险、理性认识人工智能作用,从科学预测和积极防范层面提出培养AI素养、更加重视非语言模型研究等建议。
欧盟人工智能法案提案主要作者、麻省理工学院研究员加布里埃尔·马志尼回顾了欧盟从伦理倡议走向立法落地的全过程,全面梳理了欧盟在推动技术创新与风险治理之间寻求平衡的努力。上海人工智能实验室安全可信AI中心联合负责人、研究员王迎春提出“安全即服务”理念,强调通过构建评估、训练、验证、应用一体化的技术体系,提升AI前瞻性治理能力。联合国教科文组织人工智能与法治全球专家机制成员莫哈默德·法拉哈特以金砖国家的视角,呼吁发展中国家构建负责任的人工智能治理体系,并加强国际协作以应对共同的安全挑战。华为公司网络安全与隐私保护官杨晓宁系统介绍了企业需构建数据安全、模型安全、内容安全、应用安全和运营运维安全的五道防线,推动形成以“责任导向、安全优先”为核心的全生命周期治理体系。中国政法大学教授、上海市人工智能伦理与治理专家委员会专家张凌寒强调,应坚持“以人为本”核心理念,在技术治理中兼顾法律伦理与社会价值,推动全球伦理共识制度化落地。蚂蚁集团终端安全总经理万小飞与极光副总裁殷浩分别从可信基础设施和智能体能力建设出发,提出加强终端侧芯片、系统、身份、数据全链路合规设计,推动AI Agent具备自主运行、持续学习与系统集成能力,实现安全可控落地应用。
在“探讨交流”环节,围绕“端侧智能体的合规与应用”议题,来自国际组织、科研机构及企业的代表们展开了深入讨论,强调要加强终端侧智能体的标准制定、安全防控与生态协作,推动技术演进与制度保障协调发展。
本次论坛由中国网络空间安全协会主办,中国互联网协会、上海人工智能实验室、华为技术有限公司、蚂蚁集团协办,深信服、趣丸科技、极光提供支持。来自政府部门、国际组织、科研机构与企业的150余位代表出席会议。