2023年11月9日，在乌镇召开的人工智能赋能产业发展论坛上，来自企业、研究机构、国际组织等各方的代表，共同发布了《发展负责任的生成式人工智能研究报告及共识文件》。这套56页的文件，是此次世界互联网大会发布的标志性成果之一，预示着各方以负责任方式，朝着推进构建生成式人工智能治理模式的方向，迈出了坚实一步。

　　信息技术革命在进入人工智能阶段之后，以生成式人工智能为代表的技术，又取得了长足的进步和发展。如《研究报告及共识文件》中所明确指出的那样：

　　其一，在“模型、数据、算力”等三大要素持续迭代和高速演进的推动下，人工智能不断在工程维度的发展和应用中，实现快速突破。就全球范围的发展情况来看，Transformer为主的基础模型依托相关研究主体的长期持续投入，通过ChatGPT、Stabel Diffusion、BLIP-2等，在大语言模型、视觉生成模型、多模态模型等细分领域，持续实现模型能力的跃升。这种跃升的主要体现，是参数规模进入1000亿量级，处理复杂自然语言能力因此呈现显著发展；在数据领域，多场景的大模型预训练数据集不断涌现，研究机构形成了通过发布微调数据集方式，提升预训练用数据集的效能；合成数据解决训练数据资源可持续性的探索也取得了较为显著的成效；算力芯片和架构的持续迭代，在训练效能、云边端算力效能优化等方面，对生成式人工智能的发展提供了有效的支撑。

　　其二，应用前景催生了开源开放驱动生成式人工智能生态的迅速发展，整体趋向繁荣发展。从应用场景看，开源生态与开放驱动成为当下推动人工智能生态发展的主基调，模型迭代优化、研发门槛降低、缩短初创成本等，成为各方广泛认知的主要优势。与此相应的，在ChatGPT的刺激下，生成式人工智能的开发者社区迅速涌现，成为支撑和推动相关技术与应用发展的主渠道。Hugging Face、华为云AI Gallery、阿里巴巴、FlagOpen飞智、百度的飞桨星河等社区凭借各自比较优势，在其中发挥了至关重要的作用。

　　其三，生成式人工智能的阶段性高速发展再度激发了人们对于发展通用式人工智能的勇敢想象与积极探索。如《研究报告及共识文件》指出的那样，由于生成式人工智能的这一轮突破，尤其是其中与多模态方向发展相一致的发展，催生了人们新的想象与探索：人们预期，伴随着多模态生成模型技术的突破，能够更好地理解和处理复杂的现实场景，或许将带来更多的想象空间，比如可以探索将多模态生成模型与机器人技术结合等方式，继而以某种形式尽可能趋近模仿人类感知复杂世界能力的呈现。

　　很自然的，生成式人工智能带来的机遇和挑战，同步存在：

　　从积极的角度看，生成式人工智能可能带来的经济增长前景，日趋明朗。根据麦肯锡2023年6月的乐观预测，生成式人工智能每年可能为全球经济增加2.6万亿至4.4万亿美元的价值。根据高盛研究，在满足增长条件的情况下，生成式人工智能的突破将在10年内推动全球GDP增长7%。对生成式人工智能以及通用式人工智能未来发展前景的合理展望，有助于人们确信人类的生产活动和满足特定要求的服务行业，未来均可能面临显著的增长前景，有理由保持乐观预期。从生成式人工智能的可能应用场景来看，现代社会的基础服务体系可能获得有效赋能，预期城市运营管理、灾害救助与事故分析、实时预警与风险管理、定制化个性化的新型教育体系、新型就业岗位与就业机会、以及迫切需要得到实质性赋能的医疗和养老行业，均可能从人工智能的负责任发展中获得实质性的收益。此外公益事业中的无障碍数字环境建设、全球文化成果保护和传播，以及全球环境治理和可持续发展，也有希望从生成式人工智能的喷薄发展中得到全新的赋能与助力。作为高质量的“聪明”助手，生成式人工智能在助力科学研究中所具有的广阔前景，也同时日趋清晰地呈现。

　　客观而谨慎地看，生成式人工智能带来的风险挑战也是显而易见的，预先训练大模型时投喂的数据不可避免地存在缺陷，价值偏见、隐私泄露、数据污染等，如《研究报告及共识文件》所指出的那样，是已经被广泛察觉到的主要风险；算法模型的“幻觉”，虚假信息干扰，指向模型的网络攻击等，均揭示了人工智能发展带来的新型安全隐患和风险；此外，高速技术迭代带来的科技伦理失范以及人类社会发展失衡等问题，也日趋明显地成为各方必须共同关注，并探究治理方案的关键所在；在更广义的政治经济学分析框架中，生成式人工智能对数字劳动和能源损耗等领域的重大影响，也已经到了必须早日提上议事日程的时候，其后带来的发展，值得我们各方高度关注。

　　此次发布的成果中，“十条共识”的提出，可以看做企业和研究机构，遵循全球网络空间规范生成的一般规律，在乌镇世界互联网大会上，为全球作出的重要贡献。这十点共识，分别从总体认知、促进发展、能力建设三个方面，向世界提交了一份高质量的建议：

　　第一，总则对标中国倡导的全球发展倡议、全球安全倡议和全球文明倡议，对标10月18日发布的《全球人工智能治理倡议》，运用中国智慧，基于统筹发展和安全、平衡创新与伦理、均衡效益与风险的理念，确立负责任推进人工智能治理的总体目标。

　　第二，促进生成式人工智能的三条公式，体现了对实现生成式人工智能可持续发展的务实思考。不仅强调了保证经济的可持续性；而且均衡考量其社会与环境的可持续性；对生成式人工智能健康有序发展的生存环境，有了鲜明而直观的认识与理解；对算力、数据、算法等关键组件的能力建设，提出了具有较强指导意义和实践效能的战略共识。

　　第三，提升生成式人工智能负责任治理能力，体现了倡议方对国家安全、社会繁荣以及全球战略稳定所承担的坚定责任。这部分的共识，充分体现行业从业者在实践中对问题的认识，对风险的把握，以及对解决方法的积极探索。无论是发展安全可靠的生成式人工智能，确保全生命周期内可控地运行，还是增强生成式人工智能系统的透明度与可解释性，提升人类对其的理解和信任，又或是强化生成式人工智能数据治理，加强数据安全，尊重和保护个人隐私以及确保生成式人工智能的开放包容和公平普惠，都深刻准确全面地反映了业界对有效和负责任治理生成式人工智能的系统思考。

　　需要特别说明的是，相比同期其他类型文件，此次发布的《研究报告与共识文件》最值得称道的是可执行性，在文件中明确指出，要明确生成式人工智能的归责体系，增强系统可追溯性，并提出了明晰归责体系、构建追溯机制、探索治理沙盒等创新友好型治理工具体系等具有极强可操作性的共识意见，展现了全面、具体且系统性的社会责任共识。其关于推动生成式人工智能更好地理解人类意图、遵循人类指令并符合人类的伦理道德的共识，从探索价值对齐研究和提升价值对齐技术两个方面入手，给出了体现全球范围领先目标，同时又在可操作性与可实现性方面具有鲜明乌镇特色的重要贡献。（编辑：穆子叶）

　　来源 | 国际在线

　　作者 | 沈逸 教授

　　复旦大学网络空间国际治理研究基地主任