周鸿祎委员谈“AI幻觉”：安全问题不可忽视！

　　观点提要：

　　■从人工智能走向“人人智能”

　　■“幻觉”是想象力和创造力的基础

　　■通过“以模制模”打开人工智能安全新范式

　　随着人工智能技术持续演进，其对各行各业的重塑效应日益显现。在2025年全国两会即将召开之际，全国政协委员、360集团创始人周鸿祎表示，“人人智能”将成为人工智能发展的关键方向。未来每个个体都将拥有多领域专业助手，像顾问一样为人们提供解答或启发。

　　对于当前DeepSeek等大模型“AI幻觉”现象，周鸿祎认为，“幻觉”是想象力和创造力的基础。DeepSeek的“幻觉”很严重，写出来的文章特别像人的作品；此外，其推理逻辑能力很强，这样的话文章更有条理。“所以，在搞科学研究方面，‘幻觉’具有积极价值。”周鸿祎说。

　　但“幻觉”的安全问题依旧不容忽视。“有了‘幻觉’之后，又确实存在一个严重问题。”周鸿祎举例，假如是医疗、法律、金融、证券、制造业等领域，这种不能出错，但被大模型“乱编一气”“胡乱警报”，这时候“幻觉”就是非常严重的问题。

　　“我们的思路是‘以模制模’。”周鸿祎建议，通过构建专业的知识库，实施合理的矫正机制，来避免“幻觉”造成负面影响。对此，他们下了很多功夫，专门研发安全大模型，用大模型去管理知识库的使用，去管理智能体的调用，去管理基座模型的胡说八道等。此外，还可以通过多个大模型交叉验证、搜索矫正、知识库比对等方式，对“幻觉”进行合理纠正。

　　光明网数字化频道＆网络安全频道出品

　　监制：张宁 策划：李政葳 摄制：曾震宇