关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3304人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

傅聪团队新作:OnePiece!通用生成式推荐模型新范式

学术头条 浏览 4236

山西103-77大胜同曦取4连胜,诺威尔20+6,郭昊文23分

懂球帝 浏览 3578

主打家用泛越野 哈弗大狗PLUS售13.58万起

网易汽车 浏览 5187

妻子在家中失踪 深井边的菜让丈夫顿感不妙

环球网资讯 浏览 34941

陈水扁屡踩红线后终于"踢铁板" 被指与赖清德关系生变

海峡导报社 浏览 10715

谢霆锋、王宝强、吴京要掀起新一波票房高潮

皮皮电影 浏览 3338

阿奇姆彭遭成都球迷种族歧视,队长王上源发文声援

懂球帝 浏览 4358

沙特大幅下调旗舰原油溢价至五年低点,全球供应过剩压力显现

华尔街见闻官方 浏览 3858

搭VLA大模型 全新蓝山智能进阶版将上市

网易汽车 浏览 3624

美媒:乌方认为美对乌施压力度远大于对俄 美官员否认

环球网资讯 浏览 3769

62岁何赛飞的“真实”,让多少明星“无地自容”

可乐谈情感 浏览 4388

提升冬日幸福感的8件小事,放松又治愈

LinkFashion 浏览 4056

芦哲:美国CPI势弱,联储10月降息几无悬念

首席经济学家论坛 浏览 4387

神仙友谊!杨紫连续10年为张一山庆生

橙星文娱 浏览 1218

最圆最近!年度超级月亮今晚登场

封面新闻 浏览 4242

终结3连败!骑士大胜双杀步行者 米切尔43分末节16分

醉卧浮生 浏览 3844

全新前脸/三种座椅布局可选 第三代豪越L内外饰曝光

网易汽车 浏览 4319

冲着陈晓去看《大生意人》,却被满脸狰狞的两位东北跨界演员惊艳

娱乐圈笔娱君 浏览 3139

以色列警告加沙居民:只剩最后机会撤离

环球时报国际 浏览 4577

朱孝天回应阿信感谢,自曝没再收到邀约

萌神木木 浏览 3176

相恋6年"军官女友"收60余万后消失 警方证实其已落网

红星新闻 浏览 21328
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1