关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家6285人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

《逍遥》大结局:最恨妖的人却成了妖,秉烛的宿命太扎心!

肆季娱乐 浏览 4617

网红版闫学晶!600万粉博主阿爆翻车

萌神木木 浏览 4453

中国公民需谨慎前往日本 四大原因披露

环球网资讯 浏览 44759

茸城她故事丨毋冬梅:以柔肩担重任,用匠心筑梦浩瀚星河

上观新闻 浏览 3849

优必选联手云智汇科技 加速人形机器人全球布局

财闻 浏览 6240

抢占本土聊天机器人市场,印度AI企业Sarvam推出Indus应用

IT之家 浏览 3843

你从托马斯·穆勒身上吸取教训了吗?

绿茵情报局 浏览 4475

中移互联网、支付宝、华为合作,打电话也能聊AI、看菜单办业务

IT之家 浏览 4722

伊姐元旦热推:电视剧《人之初》;电视剧《轻年》......

伊周潮流 浏览 4702

倍耐力官方:下赛季取消C6;所有车队将在12月9日测试新胎

懂球帝 浏览 5101

罗永浩被禁言后首亮相 现身B站颁奖典礼获年度新人奖

扬子晚报 浏览 9015

马卡:卡瓦哈尔对现状不满,在替补席上也无队长应有的领导力

懂球帝 浏览 2953

国家出手太快,这一仗是打不起来了

老斯基财经 浏览 3696

柬埔寨"太子集团"资产又遭冻结 豪车公寓总值超35亿元

红星新闻 浏览 17165

价格真香了!最强安卓旗舰平板荣耀MagicPad3 Pro首销优惠价3799元起

快科技 浏览 5513

马斯切拉诺:我对穆勒的记忆并不美好;希望运气在我们这边

懂球帝 浏览 4802

太空“4S店”要开张:Starfish验证“单眼”卫星交会PRO操作

IT之家 浏览 4948

止步“五连涨”!美股12月“开门黑”

中新经纬 浏览 4962

中方代表当场质问日方:你们从来没有真正地认罪悔过

环球网资讯 浏览 14148

程强:通胀数据反映的积极信号

首席经济学家论坛 浏览 5276

随着蓉城0-2爆冷,海港0-2完败,亚冠最新积分榜:中超领头羊垫底

侃球熊弟 浏览 5549
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1