关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道11981人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

颧骨突出就会显老显凶?做到这2点就能高级有气质

小陈聊搭配 浏览 14081

热苏斯:回归的感觉很棒,与恩凯提亚的竞争是一件好事

直播吧 浏览 13444

“减负”三令五申,是谁又在制造暑期焦虑?

环球网资讯 浏览 14548

热搜前十,竟全是「人造娇妻」

她刊 浏览 12554

七月开始!穿上最好看的衣服享受风景

LinkFashion 浏览 15014

求问:搓澡排在大领导前面,该让吗?

时尚COSMO 浏览 12324

33岁任县委书记 "85后"清华博士王波再履新职

上观新闻 浏览 92076

17岁少女含冤入狱13年获172万国赔 法院:我们道歉

社会奇闻君 浏览 89985

海事局:北部湾部分海域进行军事训练 禁止船舶驶入

环球网资讯 浏览 13817

媒体:中国领导人去俄罗斯 不需要看任何国家脸色

环球网资讯 浏览 114065

短期资金配置如何选?中银中短债基金正在发行

中国基金报 浏览 18341

曝章子怡诸暨买128万珍珠,开800万劳斯莱斯,画面曝光引热议

缘木不求娱 浏览 11265

小牛队球星卢卡·东契奇因颈椎劳损,被列为第4场对阵快船队的比赛出战成疑

趣看热点 浏览 25345

美媒:拜登告诉波兰总统 他想给自己姓氏后加斯基

环球网资讯 浏览 18569

周鸿祎参加全球数字经济大会:“小规模”的大模型是未来发展趋势

证券市场红周刊 浏览 14552

40岁女人冬季要学会的三种穿法,时尚又有魅力,显气质与品味

Yuki时尚酱 浏览 12257

王传福一统天下,分封十八路诸侯?

态℃ 浏览 14337

甘肃灾区村民彻夜在屋外烤火避险 有人为省电少用电话

极目新闻 浏览 73487

媒体:布林肯3个月4赴中东 说明美国"又急又没办法"

上观新闻 浏览 12234

耶伦抨击特朗普对华政策让美国"更加脆弱和孤立"

环球网资讯 浏览 12258

再看万茜的采访,觉得易立竞太残忍

江湖人称艾掌门 浏览 9973
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1