关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道13195人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

孔蒂:上赛季我们的夺冠出乎意料,这赛季的目标是全力卫冕

懂球帝 浏览 813

人手一个的迷你包袋 到底魅力何在?

VogueMe 浏览 15854

杨超越终于把“纯欲风”穿明白了

巧百搭 浏览 19544

儿车梦!杰克逊:一直都想加盟切尔西,偶像是德罗巴和登巴巴

直播吧 浏览 15949

C位观察 | 张帆:如何把音乐节“天价票”降下来

网易财经智库 浏览 15935

泰国达叻府5县实施宵禁

新京报 浏览 643

周笔畅被杨丞琳杨钰莹亲脸,在舞台上十分热闹

趣看热点 浏览 27056

针对配置进行升级 新款小鹏G9官图发布

车质网 浏览 211

说一个令很多人不安的事:比亚迪,越来越像理想了

小李车评李建红 浏览 1402

美5名海军陆战队员在坠机事故中死亡

央视新闻客户端 浏览 12868

妓女身份被揭穿,喝药自杀,褚韶华却助力康二妞实现蜕变新生!

电和影 浏览 2087

张彬彬红毯帮毛晓彤提裙子,被导演打手

韩小娱 浏览 628

分分合合,谋划一盘大棋?同程旅行拟收购同程旅业,公司回应:看好旅游回暖机会

时代周报 浏览 19872

又见大幅下调考核目标,监管出手!

中国基金报 浏览 15077

刘梓晨近况曝光!依旧炫富疑有新恋情,拍照扭成蛇精,被骂很做作

文艺圈娱乐号 浏览 13569

美团的“长期有耐心”,并非毫无代价

虎嗅APP 浏览 17110

泰柬在13条战线上交战 泰总理:愿意接听特朗普电话

环球网资讯 浏览 661

怼人上瘾?特斯拉官微把非智能车贬得一文不值,车主一点面子不给

小李车评李建红 浏览 482

业主车位被占后焊栏杆围车 涉事双方:局面失控 先缓缓

潇湘晨报 浏览 120986

俄称挫败无人机袭击塞瓦斯托波尔

CCTV国际时讯 浏览 14874

女子结婚14年被丈夫打了13年 丈夫:我才是受害者

中国新闻周刊 浏览 11646
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1