关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12566人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

显气质的夏季穿搭,看这些气质女神就对了,适合30-50岁女人

静儿时尚达人 浏览 11237

华为:HarmonyOS 5终端设备数量突破2000万台

大象新闻 浏览 1336

国盛投资受让1.07亿股股权 复旦微电大股东拟变更

证券时报 浏览 360

谢林汉姆:加纳乔非常有天赋,但不确定他能否在蓝军取得成功

懂球帝 浏览 835

剖析一路繁花2:何赛飞心不坏只是太真实,真正精明的另有其人

娱乐圈笔娱君 浏览 443

入春后发现:上海满大街都是“奶奶西装、奶奶鞋”,洋气又时髦

潮人志Fashion 浏览 11370

媒体:传来两个与石油相关的好消息 都与中国有关

上观新闻 浏览 16254

全智贤否认离婚传闻,突如其来的离婚与分居传闻毫无根据

趣看热点 浏览 27466

经营分化、债务违约 地方AMC众生相

北京商报 浏览 12509

淄博八大局周边居民:停车和购物成难题 默默忍受2个月

中国新闻周刊 浏览 114634

从样品到产品,重庆高校科研“宝贝”何以出圈?

上游新闻 浏览 403

马斯克获得2023年度世界航天最高奖

鞭牛士 浏览 15283

苹果妥协,库克低头,“苹果税”不得不变

态℃ 浏览 12401

两种动力可选 AITO问界M9将于12月26日上市

车质网 浏览 13056

人到中年不油腻的秘诀,试试这些低饱和度的穿搭,优雅简约又好看

Yuki时尚酱 浏览 12764

孙莉晒视频:小女儿长高许多 黄磊与儿子有爱互动

笑猫说说 浏览 19212

今天,“港股实名制”落地!

中国基金报 浏览 19401

陈小春在沈阳开演唱会,被东北观众感动到流泪

小娱乐悠悠 浏览 159

五角大楼:所有F-35战斗机应当在90天内接受翻新

环球时报新闻 浏览 19242

提供多种风格前脸,东风风行游艇V9申报图曝光

天天汽车 浏览 12307

内娱的男明星一遇到"长发"就无力?太考验气质

大胖果 浏览 19542
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1