关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3433人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

中方取消多场重要会议 李在明承诺:帮高市"搞定"中国

现代小青青慕慕 浏览 16435

女孩引产遭拒生女婴被医生"送人" 抱养方称捡弃婴露馅

澎湃新闻 浏览 10981

普京警告欧洲勿阻挠和谈:如果欧洲想打 我们准备好了

澎湃新闻 浏览 3787

成本3元卖60元,“99%高纯”磷虾油实测核心成分为0!百年同仁堂“栽”在贴牌上

国际金融报 浏览 3878

宝能姚振华实名举报,相关部门回应:举报不实,拍卖正常推进

南方都市报 浏览 3432

张家辉夫妻米兰吃火锅!与粉丝合影细节暖心

陌识 浏览 3501

摩根大通一线调研:微软领先所有人至少10光年,生态整合能力非常强大!

华尔街见闻官方 浏览 3535

彩虹-7高空高速隐身无人机成功首飞 实现重大突破

新京报 浏览 9533

媒体:日本和菲律宾一个装无辜一个装可怜 中国不惯着

新民周刊 浏览 68648

40岁邓莎宣布离婚!直言无法改变路行,将告别过去追求新的人生

萌神木木 浏览 3483

马斯切拉诺:我对穆勒的记忆并不美好;希望运气在我们这边

懂球帝 浏览 3901

主打家用泛越野 哈弗大狗PLUS售13.58万起

网易汽车 浏览 5340

国米官方:劳塔罗当选球队12月队内最佳球员

懂球帝 浏览 3587

内娱白月光,毁于潜规则?

阿淫记录生活日常 浏览 4564

鲁加尼告别图多尔:真正的男人,永不言弃,谢谢您的一切

懂球帝 浏览 4421

豪门离婚,窦骁能分到多少?

江湖人称艾掌门 浏览 4439

宁德时代:钠新乘用车动力电池正在与客户推进开发、落地中

IT之家 浏览 4528

冬天的“销冠”,已被羽绒服预定

时尚COSMO 浏览 3413

星光730灵犀动力获中汽中心高品质混动认证等奖项

网易汽车 浏览 4373

特斯拉深度解读|马斯克的2025 CEO绩效奖

不看车bukanche 浏览 4655

民事诉讼牵出5年纠纷!迅雷再诉前CEO陈磊损害公司利益,知情人:追索金额达2亿元

红星资本局 浏览 3447
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1