关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者2026-01-23 00:00:01277人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

收手吧任达华,70岁翻拍《十二生肖》擦边卖肉,晚节保得住吗

靠谱电影君 浏览 7933 07-27

马斯克旗下脑机接口公司首次一天内完成两台手术,终极目标构建全脑接口

澎湃新闻 浏览 2953 07-22

估值飞涨!Anthropic寻求按1700亿美元估值融资至多50亿美元

华尔街见闻官方 浏览 5560 07-30

中美贸易战倒计时:中国如何应对新一轮挑战

浏览 9484 07-14

特朗普:加沙停火协议已“接近达成”

新京报 浏览 282 09-28

夫妻闪婚闪离后互相伤害 女方找人男扮女装"报复"前夫

上观新闻 浏览 823 09-11

暑期档,危险了

斑马消费 浏览 6196 07-28

半年不到DeepSeek就凉了?鉴定为学新闻学的

差评XPIN 浏览 5514 07-12

上海这条弄堂有看头!机器人在这里才艺比拼、技能比武

文汇报 浏览 3493 07-26

斯卢茨基:领先优势还不到庆祝的时候,朱辰杰感觉内收肌不适

懂球帝 浏览 3363 07-28

珠峰暴雪向导"人肉开路"带百人突围:最陡坡度有60度

极目新闻 浏览 327 10-15

大爷奔现后吃野菜度日:女友自称老板 会给我买房买车

小莉帮忙 浏览 81 06-02

治失眠的小妙招送给你!

网易健康 浏览 4932 02-26

大学生坠浮选槽应急小队38分钟到场 企业:这是最快的

澎湃新闻 浏览 5059 07-27

新增副驾娱乐屏 新款智己LS6内饰谍照曝光

车质网 浏览 7840 06-23

推广|| 春天第一双鞋!暴走不累、搭遍好看小裙子

黎贝卡的异想世界 浏览 217 03-01

一场CEO隐身的发布会,一款定价狠辣的“半价Model 3”

雪豹财经社 浏览 9618 07-26

一家人开宝马车上高速车突然供电异常 车主:太可怕了

潇湘晨报 浏览 8659 06-22

36岁窦骁婚后生活:豪门赘婿的真实写照

赶鸭子上架 浏览 446 09-02

飞天茅台4年下跌近50%,白酒寒冬结束的信号是什么?

郭施亮 浏览 294 11-01

存储芯片涨价潮蔓延,半导体细分龙头业绩“水涨船高”

览富财经网 浏览 274 01-28
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11