关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3858人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

程强:通胀数据反映的积极信号

首席经济学家论坛 浏览 2844

泰康资产段国圣:AI切入投研赛道,资管行业价值链有望重塑

券商中国 浏览 2916

苹果发布iPhone 17e

澎湃新闻 浏览 1319

相恋6年"军官女友"收60余万后消失 警方证实其已落网

红星新闻 浏览 19990

美团:“明厨亮灶”补贴将增加至5亿元,已有30万商家加入

IT之家 浏览 3868

马克龙:首批法国士兵已抵达格陵兰岛

界面新闻 浏览 2011

300万以内无敌手 莲花首款插混SUV定名For Me

网易汽车 浏览 2506

XREAL启用上海浦东全球总部,明年推出首款Android XR系统AR眼镜

IT之家 浏览 3025

天空:联赛杯新规出台,塞门约可出战纽卡斯尔

懂球帝 浏览 2141

中国人工智能50强,寒武纪、摩尔线程、沐曦股份位列前三

红星资本局 浏览 2101

马斯克2025最新深度长访谈:从政府效率到宇宙尽头

不看车bukanche 浏览 2435

让大模型能自己想出安全方案——KAIST团队的突破性研究

科技行者 浏览 1837

美媒:美正向中东增派包括航母在内的兵力

界面新闻 浏览 2085

有野心有手段的大女主有多能打?

雪豹财经社 浏览 3179

凌晨!全线大涨!美联储宣布:降息!鲍威尔重磅发声!

券商中国 浏览 2484

“9系”旗舰+1 上汽大众的战略反攻

网易汽车 浏览 2063

美官员称委内瑞拉代总统即将到访 委方尚未证实

环球网资讯 浏览 1879

印度尼帕病毒拉响警报,尚无疫苗和有效疗法,检测试剂盒受关注,多家上市公司回应

红星资本局 浏览 1911

不少老人宁愿挨冻也不敢开暖气,让人痛心!河北农村取暖问题,不能再耽搁了

每日经济新闻 浏览 2088

直播|| 降温天的居家幸福感,是它们给的

黎贝卡的异想世界 浏览 2955

比尔·盖茨警告:AI或成恐怖主义武器且智能无上限

IT之家 浏览 2082
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1