关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家7386人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

阿富汗称与巴基斯坦在伊斯坦布尔举行第三轮谈判

国际在线 浏览 6298

寻找隐形冠军|意想不到的它

海外网 浏览 5362

我军测试某新型反导武器 指挥屏全是马赛克

看看新闻Knews 浏览 3286

特朗普政府同意与伊朗在阿曼举行谈判

新华社 浏览 5399

OPPO刘作虎:无法承诺全年不涨价

观察者网 浏览 3787

女星朱锐自曝破产炒股亏百万,39岁无戏拍已退圈

绚丽的画卷 浏览 1233

谷歌Pixel 11系列手机Tensor G6芯片爆料:7核CPU

IT之家 浏览 3745

闫妮:除非她再拿视后

小椰的奶奶 浏览 6667

AI成核心方向 银行启动博士后招聘

北京商报 浏览 6335

萨勒马克尔斯:只要阿莫林让我上场,我就会很开心

懂球帝 浏览 1239

红军城陷落在即 俄军或迎巴赫穆特后最大胜利

北京日报客户端 浏览 6231

露笑科技百亿碳化硅项目调查:屡次延期,厂区清冷如“空城”

时代周报 浏览 5657

秋天怎么穿出时尚感?避开老气的着装方式,美得自然又大方

静儿时尚达人 浏览 6363

神舟二十号飞船以无人状态安全顺利返回,面对新挑战,更多任务细节公布

上观新闻 浏览 5644

日本拟引进乌无人机 其防卫预算首次突破9万亿日元

扬子晚报 浏览 128876

上映6天,把26天票房冠军动物城2打懵了

糊咖娱乐 浏览 4964

官方:31岁巴西中场杜黄轩获得越南国籍,1月可为越南队出战

懂球帝 浏览 6724

女佣自杀,最贵凶宅诞生!许家印好牌友要吐血

说财猫 浏览 6491

刚说完"很快结束" 特朗普改口:美国要赢得"终极胜利"

参考消息 浏览 32997

我们给有毒染料找了个“替身”,而且它真的能吃…

中国科普博览 浏览 5835

阿维塔求变:抱紧华为、告别个性走向大众

经济观察报 浏览 6062
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1