关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道11974人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

新能源车销售月薪多少?蔚来理想亮了,比亚迪笑了

汽车公社 浏览 11893

伊姐周日热推:电视剧《吴邪私家笔记》;电视剧《灼灼韶华》......

伊周潮流 浏览 825

谢娜的细纹、林心如的皮肤,明星生图都好真实

不八卦会死星人 浏览 12956

重磅寄语!十大基金公司掌门人发声

中国基金报 浏览 19368

华南理工大学发生车祸致1死1伤 目击者:车头明显受损

封面新闻 浏览 32507

亲善大使!大加转发阿贾当选MVP内容:4xMVP 继续创造历史吧!

直播吧 浏览 718

普京:俄防空系统不可能打击伊尔-76运输机

每日经济新闻 浏览 12090

710公里续航只要15.99万,长安启源A07真香版,把价格战打明白了

小李车评李建红 浏览 11480

齐溪高龄追生儿子 再婚王传君生俩女儿

萌神木木 浏览 166

女子吃自助连吃带打包5顿点餐4万多 店方已起诉索赔

极目新闻 浏览 111964

2023多项销售数据创纪录,但汽车人都在叫苦

汽车公社 浏览 11870

男子在悬崖边请人拍照滑倒坠下 遗体在水潭底部被找到

封面新闻 浏览 5657

荷兰政府对安世半导体实施全球运营冻结 闻泰科技回应

财联社 浏览 162

美国要求沙特在经济和军事上与中国保持距离

环球时报国际 浏览 14082

别找了,全网最齐2024年36款新车大搜罗,等等党这一把又赢了?

二师兄玩车 浏览 12480

这是来演戏还是拍时尚大片啊?

8号风曝 浏览 12773

你奔赴热爱的样子,才是生活最好的样子

LinkFashion 浏览 11551

MCON推出滑盖外接手柄,致敬PSP Go/Xperia Play滑盖掌机

IT之家 浏览 77

人口跌到2900万 泽连斯基:需要更多离开的人回国

环球网资讯 浏览 15543

村民拒绝自家土地流转提出质疑 副镇长:有多远滚多远

燕赵都市报纵览新闻 浏览 88700

固态电池瓶颈技术取得重大突破!

电动知家 浏览 635
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1