点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

【洞见·TMT】
在近日举行的2026北京智源大会开幕式上,图灵奖得主、美国国家工程院院士、IEEE会士惠特菲尔德・迪菲(Whitfield Diffie),图灵奖得主、马萨诸塞大学阿默斯特分校荣誉退休教授安德鲁・巴尔托(Andrew Barto)分别做了主题报告。
惠特菲尔德・迪菲以“护AI智能体之安,御AI智能体之险”(Security For AI Agents,Security Against AI Agents)为题进行分享。他提出,当前“控制论(反馈)”式的做法是在程序失败时进行修复,而未来的愿景应是开发形式化方法,以大幅提升程序按预期运行的可靠性。
惠特菲尔德・迪菲对比了密码系统因程序规模极小而可充分研究验证的优势,指出典型的计算机程序——包括编译器、操作系统、应用和智能体——规模要大得多,通常已超出人类的验证能力,人们期望这些任务未来可由AI完成。他强调,当前编程实践中,对智能体的限制(Confinement)——即保证智能体只能访问授权资源——在现有编程中仍做得不足。
安德鲁・巴尔托以重新发现强化学习(Rediscovering Reinforcement Learning)为题,将这一范式的本质归结为控制、搜索与联想记忆的三位一体——它既是“带着批评家的学习”,也是“试错学习”,核心在于“缓存搜索结果”而无需持续搜索。
安德鲁・巴尔托还提到,强化学习与神经网络的计算研究从一开始便紧密交织,二者均发端于大脑如何运作与学习的假说,而深度强化学习的计算能力与大脑奖励系统的最新成果相结合,指明了下一轮进展的方向。他以“小心你许的愿——你可能真的会得到它”发出警示,提醒人们警惕奖励信号设计中的“反常实例化”风险。
智源研究院理事长黄铁军与之江实验室主任、阿里云创始人王坚围绕“总有人比时代早十年”展开播客现场对话,由《漫谈Light the Star》创始人卫诗婕主持。
对话从中国AI范式演进出发,探讨了中国大模型如何从追赶验证走向路线选择、体系构建与范式创新,如何突破互联网文本数据天花板与算力荒的极限状态,以及从“跟随国际主流范式”走向“形成自身问题意识”的原创范式跃迁等议题。对话还聚焦Agent时代的新范式——从推理时代迈入Agent时代,海量高并发智能体对真实世界产生的直接影响与风险。面对AI从客体向主体演进,两位嘉宾也分享了对人与AI关系、人类文明与AI文明如何共存的长期思考。
在“重构世界——中国大模型巅峰对话”圆桌环节,智源研究院院长王仲远与清华大学计算机系教授、生数科技创始人朱军,小米集团MiMo负责人罗福莉,以及清华大学计算机系教授、面壁智能联合创始人兼首席科学家刘知远,南洋理工大学校长讲席教授、人工智能交叉研究院院长安波等行业领军者,围绕超级模型能力演进、AI自进化、多模态与世界模型等核心议题深入交流,共同探讨了数字世界向物理世界跨越的重构逻辑。
嘉宾们认为,超级模型与智能体系统正进一步释放更大势能,自进化有望成为驱动智能跃迁的新引擎,多模态与世界模型的加速成熟有望推动AI真正从数字空间走向物理世界。在重构世界的进程中,同时应该为青年人才创造更广阔的探索空间。(撰文/胡平 占舒桐)
