关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家7224人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

冬天的“销冠”,已被羽绒服预定

时尚COSMO 浏览 5021

泰国在建高铁事故致数十人死亡 外交部表态

界面新闻 浏览 11190

美军2架F-18战机飞入委内瑞拉领空 停留至少40分钟

界面新闻 浏览 6021

中国人民大学的研究突破:让AI思考过程更快更省的神奇方法

科技行者 浏览 5277

罗永浩质疑大金中央空调;摩尔线程首款AI电脑发布丨邦早报

创业邦 浏览 5804

6岁女童练习"下腰"致截瘫 经营者曾因逃避执行被刑拘

红星新闻 浏览 20318

杨紫扛剧女王不是白叫的,顶流胡歌也得给她作配

大黑爱旅游 浏览 5442

墨西哥总统:骚乱平息 瓜达拉哈拉机场遭占领消息不实

都市快报橙柿互动 浏览 41594

苏州大学突破:新型注意力机制赋能AI语境适应性对话

科技行者 浏览 5327

普京:美版和平方案与普特会讨论一致

新华社 浏览 6094

鸿蒙智行:“竹知了”相关投诉均有明确侵权事实,不存在仅为正常制作展示内容

澎湃新闻 浏览 1026

标配激光雷达、磁流变悬架 深蓝L06预售13.99万元起

网易汽车 浏览 6336

斯洛特:尽管我们取得四连胜,但球队的表现并不完美

懂球帝 浏览 5707

华为无线鼠标优享版开售:支持星闪技术,售价 59 元

IT之家 浏览 6557

CBA常规赛第26轮最佳阵:周琦阿不都沙拉木领衔,姜伟泽在列

懂球帝 浏览 4534

特朗普突然改口:暂时不想见普京 浪费时间

北京日报客户端-长安街知事 浏览 4846

我国高原大型无人机物流航线首次验证飞行成功,北川成关键落地节点

红星新闻 浏览 5488

卡内基梅隆大学的研究如何让机器真正听懂人话

科技行者 浏览 1039

高市早苗再有新动作日本准备拥有核武 中俄要早做准备

头条爆料007 浏览 47829

特朗普"朋友"1.3亿美元捐款到账 还不够美军发1天工资

红星新闻 浏览 10920

任正非最新讲话:没有网络的算力是信息孤岛

澎湃新闻 浏览 5731
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1