关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道11679人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

刘强东“10年1元年薪”之约到期,律师解构高净值人群如何妥善处理财产

红星资本局 浏览 329

换新装拒绝油腻,新款帕萨特17.99万起售

车市红点 浏览 19087

女友BELLA+封面 | SUPER JUNIOR-D&E 双子星的友情叙事诗

伊周潮流 浏览 19

美媒披露最新研究:目睹同伴死亡后,果蝇身体衰老速度会加快

环球网资讯 浏览 14794

在加拿大失踪大半年后 17岁中国留学生的遗体被发现

新民周刊 浏览 90357

美国共和党总统参选人:我们对台的承诺会变

环球网 浏览 83043

百慕大短裤,赫本穿的时髦且高级!

Yuki女人故事 浏览 9719

美一架飞机闯入华盛顿禁飞区:被战机拦截后坠毁

环球网 浏览 15388

合伙圈钱:174元发行,超募30亿,股价暴跌72%?

资本百科 浏览 11348

美国裁员潮持续!麦肯锡开启史上最大规模裁员之一,将减少2000个职位

华尔街见闻 浏览 18404

宏碁宣布搭载 Ryzen AI 300 处理器的 Swift 笔记本第三季度上市

IT之家 浏览 9882

免费换电、服务无忧被迫缩水,蔚来赌“人性”,输得一塌糊涂

小李车评李建红 浏览 11290

机长与乘务长互殴事件最新进展,涉事两人被终身停飞

趣看热点 浏览 689255

采用全新设计语言,东风风神皓瀚PHEV申报图曝光

天天汽车 浏览 11246

为什么复旦MOSS大模型的中文水平不如英文?

澎湃新闻 浏览 18044

雪地靴不适合下雪穿 多少打工人的脚被UGG背刺?

商财 浏览 12192

颧骨突出就会显老显凶?做到这2点就能高级有气质

小陈聊搭配 浏览 13675

刚刚,工行、中行、建行同时官宣!

中国基金报 浏览 18316

美官员谈布林肯访华:并不期待长长的可交付成果清单

环球网资讯 浏览 88227

Tiktok在美再遇围剿?弹窗动员1.7亿用户反击,电话轰炸国会办公室

蓝鲸财经 浏览 11017

盛夏就要多穿白色 这位博主的造型很高级

In风尚 浏览 15652
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1