关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道13198人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

被娃写作业逼疯 妈妈"邪修法"直播写作业引2万人围观

极目新闻 浏览 16159

马国明因工作与女友暂分开 晒定情玩偶解相思

网易娱乐 浏览 27450

中公教育董事长直播鞠躬道歉:欠的钱我们一定会还完

21世纪经济报道 浏览 64373

今年将上市 阿尔法·罗密欧首款纯电SUV Milano谍照

网易汽车 浏览 13195

郑云龙入职人艺引争议,曾被实名举报走后门进事业单位,违法落户

缘木不求娱 浏览 13252

涉诉被冻结20万股权?汪小菲成被执行人,麻六记张兰添新烦恼

时代周报 浏览 18471

环球圆桌对话:G7打造“稀土联盟”更像是政治表演

环球网资讯 浏览 1357

明年一季度利率上限降至20% 消费金融迎来“阵痛期”

21世纪经济报道 浏览 1089

法尔克:作为升班马,对阵曼联时拿到一分始终是个不错的结果

懂球帝 浏览 360

想要在春季穿得简约又时髦,看看这几套穿搭方案,学起来容易

静儿时尚达人 浏览 13315

国家统计局:4月下旬生猪价格上涨4.3%

中新经纬 浏览 18274

学而思发布学习机新品xPad2 Pro系列,搭载学而思九章大模型

网易科技报道 浏览 13841

支付宝两个经营主体公司更名 APP名字不变

环球网资讯 浏览 2300

展开激战!击落战机!苏丹多地武装冲突升级

环球网资讯 浏览 16344

1家5口从三亚飞回新疆要花10万 网友帮忙想出省钱方案

大象新闻 浏览 82430

连爆2大行业瓜!大花回应只字不提影帝

大龄女一晓彤 浏览 1104

日媒:为《樱桃小丸子》主角小丸子配音的声优去世

环球网 浏览 83454

限时权益价17.9万起 2025款极氪X来了

网易汽车 浏览 11401

媒体:不客气地说 荷兰是在全球面前抢劫中国企业

环球网资讯 浏览 6427

南加大团队揭秘:让AI做数学题更聪明的"长度感知"训练法

科技行者 浏览 1243

“这件大衣”今年冬天又火了,怎么搭都高级!

LinkFashion 浏览 738
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1