关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道11665人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

杭州男子金价大涨前卖6千克金条变现289万 1周少赚14万

潇湘晨报 浏览 81775

美国对华用新词:"脱钩"改成"去风险"

北京日报客户端-长安街知事 浏览 15463

上市前三天,比特币现货ETF吸金不到9亿美元,“远远算不上成功”

华尔街见闻官方 浏览 11441

众星时装周路透:张嘉倪瘦脱相,刘涛低调素颜

盖饭娱乐官方号 浏览 17886

外媒试用苹果首款头显:沉浸感很强,但太重了

澎湃新闻 浏览 11509

董洁首谈离婚风波疑卖惨 潘粤明前经纪人发飙怒怼

盖饭娱乐官方号 浏览 15692

实拍轰-6K开舱投弹瞬间

环球网资讯 浏览 17538

分析师谈董宇辉新号开播:挣钱最重要 不惜促成"对打"状态

态℃ 浏览 11736

Sora刷屏!哪些A股上市公司或将受益?

投资者网 浏览 11330

[小鲨帮选车]长安又成功了,起步188马力

专研试驾 浏览 11454

被54岁的许晴惊艳到 她是真的有"少女感"

木子爱娱乐大号 浏览 18716

踏浪出击!多艘气垫登陆艇与母舰融合训练

环球网资讯 浏览 18234

马克龙呼吁乌克兰盟友"不做懦夫" 被德国防长批评

环球网资讯 浏览 11491

中国历史上最强大的朝代,哪个你觉得最强大?

趣看热点 浏览 24568

比亚迪香港4门店同时遭破坏,代理商:已报案,将配合港警调查

环球网资讯 浏览 15110

价格明显下降 新款汉兰达上市24.98万起

网易汽车 浏览 9985

外媒曝吴孟达遗产方案:太太分一半 其余给子女

网易娱乐 浏览 25814

白宫回应客机坠毁事故:出动6架F-16战机拦截

环球网资讯 浏览 15590

丰田章男年薪达9.99亿日元,创丰田汽车历史之最

界面新闻 浏览 14389

惹怒"希尔顿们"的酒店代订:有商家的价格便宜近千元

潇湘晨报 浏览 66506

江西12岁女孩在火场救下15人 57岁"恶邻"当众下跪道歉

妃子戏史 浏览 98814
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1