关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家5330人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

《唐朝诡事录3》第一波真实口碑出炉!

娱乐圈笔娱君 浏览 4388

台学者:台当局不办光复节活动 人民无法接受

环球时报新闻 浏览 9997

将于广州车展亮相 零跑A10路试谍照曝光

车质网 浏览 4340

朱江明回顾零跑造车十年:“九死一生”,最艰难时刻曾自掏腰包发工资

红星资本局 浏览 3746

被伪装快递盒炸伤女主播:嫌犯称准备16万彩礼想处对象

极目新闻 浏览 7680

李亚鹏官宣离婚!结束与海哈金喜3年婚姻,孩子将跟着母亲生活

扒虾侃娱 浏览 4652

北京香山论坛引西方媒体高度关注 中国防长讲话被报道

环球网资讯 浏览 16643

有人被拖欠工资!毫末智行北京总部人去楼空,员工抱着显示器离开;曝ASML为美国监控中国客户!官方否认;雷军斥资超1亿港元增持小米

雷峰网 浏览 4050

中东棋局骤变:美以\"师徒反目\"暗流汹涌

浏览 7374

吉比特狂赚5.69亿!创始人卢竑岩分红独揽1.28亿!

包不同 浏览 3662

宝能姚振华实名举报,相关部门回应:举报不实,拍卖正常推进

南方都市报 浏览 3430

一路繁花2:刘嘉玲夸王家卫,何赛飞装都不装了

娱乐圈笔娱君 浏览 3534

遇到家境好的领导是什么体验?

识局 浏览 4367

“ASIC巨头”Marvell季度营收创纪录、连续上调指引,CEO称数据中心业务“着火了”

华尔街见闻官方 浏览 708

成功冲乙,厦门壹零贰陆主帅:厦门是一座有足球底蕴的城市

懂球帝 浏览 4670

美航母连坠两机原因引猜测

环球网资讯 浏览 4490

王家卫凉凉!开会支持《繁花》副导演精日言论,网友让他滚出中国

萌神木木 浏览 4459

软银清仓英伟达,孙正义套现415亿

YOUNG财经 浏览 4331

i茅台1499元直销飞天茅台“秒空”,每5分钟补货仍遭疯抢

红星资本局 浏览 3635

西媒:巴萨2019年违规接触格子,可能构成管理不善和账目造假罪

懂球帝 浏览 4619

海南封关首日:30克金饰省近万元 居民排长队买榴莲

极目新闻 浏览 14985
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1