关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1487人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

违规拍摄涉密文件多人被处分 国安机关最新提示

新京报 浏览 5799

直击“长空之王”实弹射击现场

环球网资讯 浏览 16216

哈马斯官员称将“很快”回复停火提议

新华社 浏览 12221

退役战机都去哪儿了?将迎来怎样的结局?

环球网资讯 浏览 19219

亚之杰李军举报歌手陈红,控诉数十亿资产遭违法掠夺!

市值Observation 浏览 1610

传祺向往S9上市,四驱+华为全家桶+宁德电池

SUV大百科 浏览 1579

斗鱼2022年全年营收71.08亿元,Q4营收16.81亿

网易科技报道 浏览 19569

专家:胡塞武装接连攻击 美方组建多国部队是火上浇油

北京日报客户端-长安街知事 浏览 73858

千亿云南白药,不玩了……

包不同 浏览 12793

海廷加:奥斯梅恩和伊布、德罗巴一样强大,始终是一个威胁

懂球帝 浏览 722

市场震荡下均衡配置成“关键手”,资金为何青睐中证500指数?

时代周报 浏览 963

笑傲天王山!天津女排3-0横扫上海,李盈莹爆发,2-1夺冠军点

天涯沦落人 浏览 12780

不满麦卡锡与拜登妥协 多名共和党人抗议致众院瘫痪

环球时报新闻 浏览 92289

海关总署:全面暂停进口日本水产品

中华人民共和国海关总署 浏览 84950

新华社权威快报|中国第42次南极考察队从上海起航

新华社 浏览 746

《权力的游戏》这两集杀疯了

独立鱼 浏览 12285

累瘫?三战全打满40分钟 从40+9到11+5失误 黑龙江女战神也顶不住

颜小白的篮球梦 浏览 1002

电动皮卡只巡展不上市,怪中国法规?完全是特斯拉自己的锅

路咖汽车 浏览 12448

北京现代EO 羿欧将于10月16日正式开启预售

车质网 浏览 1034

东阿阿胶急需新舵手

斑马消费 浏览 19125

E句话 | 《奥本海默》横扫奥斯卡!

仙女事件簿 浏览 12297
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1