关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4437人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

特雷·扬和老鹰正式协商分手 奇才有意围绕CJ报价

体坛周报 浏览 2680

三亚五星酒店再现10万房价 有人1折买3件奢侈品花1250

时代财经 浏览 18356

辽篮展温馨一幕!杨鸣继伟组织与澳门男篮合影,全员沟通太和睦了

篮球资讯达人 浏览 3531

易三方/云辇-A/2.0T 腾势N8L售29.98万元起

网易汽车 浏览 2971

U23国足要夺冠?成功避开死亡半区!或一路杀入决赛+硬撼日本

念洲 浏览 2624

周末超重磅!特朗普关税突发,ETF净流出近2000亿,央广网:降温不是熄火

看财经show 浏览 2551

香港科技大学突破AI画图"作弊"难题:让机器学会诚实创作

科技行者 浏览 2667

农夫山泉的冰杯,比哈尔滨冰雪大世界的冰还赚钱?

BT财经 浏览 2684

刘晓庆恐怕是缺钱花了!75岁高龄再接短剧

小娱乐悠悠 浏览 3047

8亿买入5%股份!四川国资战略入股湖南百亿锂电龙头,标的前三季度净利大增118.85%

红星资本局 浏览 3593

苹果欲推首款低价Mac,定价远低于1000美元,挑战微软与Chromebook

华尔街见闻官方 浏览 3423

印巴空战0:6惨败后,印度空军的“空优”梦碎

浏览 7587

王家卫凉凉!开会支持《繁花》副导演精日言论,网友让他滚出中国

萌神木木 浏览 3556

荣耀MagicOS 10系统第四批内测招募开启,截至11月19日

IT之家 浏览 3533

护肤新趋势!从“表面功夫”到“内调外养”的转变

时尚COSMO 浏览 2172

收评:沪指涨超1%逼近4000点 两市放量超3600亿

财联社 浏览 9056

仝卓表弟获救了!照片曝光头发已被剃光,从求助到救出不到24小时

萌神木木 浏览 3147

清华大学等联手打造智能分析系统,让卫星图像自动识别准确率飙升

科技行者 浏览 2729

加州大学圣地亚哥分校发现:AI评估基准存在滞后性

科技行者 浏览 3549

无方向盘设计 曝特斯拉Cybercab路试谍照

车质网 浏览 2896

雷军怒了!澄清其言论被断章取义

电动知家 浏览 2731
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1