点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:新研究:新技术助力人工智能减少“胡诌”
首页> 数字化频道> AI+ > 正文

新研究:新技术助力人工智能减少“胡诌”

来源:新华网2024-06-26 19:00

  人工智能(AI)中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日,英国牛津大学研究团队开发出一种名为“语义熵”的新方法,有望大幅提升AI回答的可靠性。

  大语言模型的“胡诌”在业界被称为“幻觉”,牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中,熵描述的是系统的混乱或者说不稳定程度。这项研究中,熵衡量了大语言模型回答的不确定性,不确定性高意味着大语言模型的回答可能存在虚构。

  该研究成果已发表在近期出版的英国《自然》杂志上。论文中说,如果AI对同一个问题,给出了许多语义相似的答案,那说明它对自己的回答比较有把握;反之,如果答案五花八门,那就意味着AI自己也“心里没底”,很可能是在“胡诌”。

  研究人员利用“语义熵”方法,让大语言模型对同一问题生成多个答案,然后将语义相近的答案聚类,最后根据聚类结果计算熵值。熵值越高,表示大语言模型的回答越不确定。

  值得注意的是,这一方法不仅考虑了大语言模型回答的字面差异,更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”,而不会被表达方式的多样性所迷惑。

  研究结果表明,“语义熵”方法在多个数据集和任务中都表现出色,能有效检测大语言模型的错误回答,并通过拒绝回答不确定的问题来提高整体准确率。更重要的是,这一方法无需修改AI模型本身,可以直接应用于现有的大语言模型。

  研究人员说,“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用,帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现,也将增强用户对AI系统的信任。(辛华)

[ 责编:雷渺鑫 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见新加坡总理黄循财

  • 习近平会见澳大利亚总理阿尔巴尼斯

独家策划

推荐阅读
河南省济源市坡头镇农民在甘蓝制种田里进行管护作业。
2026-11-20 12:54
江西省南昌市南昌高新区鲤鱼洲管理处,沃野涌金、房舍林立,乡村公路蜿蜒向前,犹如一幅初冬时节的和美乡村画卷。
2026-11-20 12:16
在广西梧州市长洲区新兴小学,消防员在向学生讲解消防装备功能。
2026-11-20 12:12
初冬时节,山西省运城市临猗县黄河湿地迎来大批越冬候鸟,成群黑鹳、白鹭栖息于此。
2026-11-20 11:29
甘肃省河西学院医学院生命科学馆内,研学学生在专业讲师指导下,借助急救模拟人体模型实操急救技能。
2026-11-20 11:25