关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4964人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

颜值能打、空间够用 长安Lumin宝藏版4.79万起

网易汽车 浏览 4035

美军13死200伤 特朗普称“战争不久后就会结束”

上观新闻 浏览 120213

2天票房3亿,看完《疯狂动物城2》,我想说:好莱坞大片赌对了

娱乐圈笔娱君 浏览 3739

TA:阿莫林对3-4-3的执念,从一开始就注定了他在曼联的失败

懂球帝 浏览 3229

奇瑞高新华:让“中国智能”成为全球代名词

网易汽车 浏览 3595

两场硬仗,一个拐点,蔚来穿越最长谷底

雪豹财经社 浏览 4128

即将空降!26集都市大剧来袭,蒋欣王子文领衔

娱乐圈笔娱君 浏览 3024

Cariad不再是“灵魂”担当,大众请外援能否赌赢未来?

禾颜阅车 浏览 4419

被央媒怒批!目不识丁、脑子空空

东方不败然多多 浏览 4252

过渡期临近,银行业首席合规官纷纷“就位”

21金融圈 浏览 3171

京东汽车来了!埃安UT super上市,4.99万起,你会考虑吗?

大李说车 浏览 3951

中移互联网、支付宝、华为合作,打电话也能聊AI、看菜单办业务

IT之家 浏览 3480

中国世界领先装备“暴款”,打破“两党共识”

浏览 27603

哈登终于不用背锅!快船遭雷霆逆转吞5连败 小卡三节22+8被迫打卡

颜小白的篮球梦 浏览 3427

贝壳豪掷23亿美元回购,董事长彭永东“花公司钱为自己股票护盘”

财经众议院 浏览 3837

发布多模态交互开发套件,发力硬件抢占入口!阿里云已兵分两条路布局AI手机

时代财经 浏览 3170

缅北魏家杀人要求"打光所有子弹":尸骨呈跪姿 头中7弹

上游新闻 浏览 8955

撬开大模型黑箱!Anthropic新研究把AI思考过程公开了,隐藏动机发现率涨了4倍

智东西 浏览 898

美国会高层称对驻德美军撤出计划“深感担忧”

国际在线 浏览 933

台湾名嘴蔡正元:黄海8天实弹演习只是前菜

看看新闻Knews 浏览 2737

收手吧沈腾,新片耗资1亿,预售票房仅15万

靠谱电影君 浏览 3445
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1