关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12563人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

西共体决定启动地区常备部队 以应对尼日尔危机

界面新闻 浏览 14326

曹德旺,死磕一件事

市界 浏览 12107

国际化野心不减?信达生物拿下巨额BD,总额114亿美元创纪录,股价不涨反跌

时代周报 浏览 721

环球:中方斡旋后叙利亚重返阿盟 美英两国不高兴了

环球网资讯 浏览 110402

热度破5000!李行亮麦琳刚走,又来2大活宝,芒果台又出王炸综艺

娱乐圈笔娱君 浏览 790

新媒:解放军37架次军机现身台岛周边空域

参考消息 浏览 16093

怒批9人摆烂!穆帅不惧球员造反:你爸一直对你好? 4轮0分非末日

风过乡 浏览 177

三星S24系列新机再曝光:性能参数强劲,支持游戏光追

雷科技 浏览 12360

美国ITC启动337调查,多家中企成列名被告

界面新闻 浏览 19089

总投资90多亿医院近日申请注销 相关方全都保持"沉默"

上观新闻 浏览 84442

新垣结衣星与野源结婚,宅男们都失恋了

趣看热点 浏览 27077

荷甲副班长阿尔梅罗大力神8-2横扫兹沃勒,霍恩坎普帽子戏法

懂球帝 浏览 556

方力申承认新恋情 早知女友曾受性侵并将陪她出庭

网易娱乐 浏览 19635

强一股份IPO:始终稳居首位的大客户,未来是否还能带来丰厚利润

览富财经网 浏览 436

49岁曹颖和儿子小饭店被偶遇,脸色蜡黄发福明显,13岁儿子太帅气

缘木不求娱 浏览 12514

疫苗最好尽快打,张文宏就新冠疫情做出最新判断

趣看热点 浏览 441359

乌防长为向日本要援助 称"乌克兰和日本情况类似"

参考消息 浏览 16603

钟丽缇3个女儿太会长,大女儿性感,二女儿高级,小女儿最像妈

不八卦会死星人 浏览 12453

刚刚!利好突袭,直线爆拉!

中国基金报 浏览 617

这位“AI教父”怎么总炮轰ChatGPT?

36氪 浏览 15163

这样的微醺纯欲热恋,就爱看他俩谈!

吐槽电影院 浏览 12564
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1