关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道11663人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

以防长称外交手段缓解以黎局势时间已不多

环球网资讯 浏览 11681

57岁陈法蓉与男演员热吻,观众:鸡皮疙瘩都起来了

不八卦会死星人 浏览 15493

库克:詹姆斯是我的兄弟 8年前和我的handshake他如今仍然记得

直播吧 浏览 17627

河北女子每天通勤5小时到北京上班:坚持了3年 月薪近4万

潇湘晨报 浏览 102617

未来四个月,汽车市场的目标增速-11.82%?

DearAuto 浏览 306

春天要认真打扮!不要小瞧这些“基础款”,穿上照样美得惊艳

静儿时尚达人 浏览 9957

俄军抵达坠毁地点 美媒讨论“参战可能”

环球网资讯 浏览 18160

中科云网50亿元光伏业务项目,突然欠薪放假!

证券时报 浏览 10021

吴千语疑获富三代男友求婚 一个小动作被猜已订婚

TVB剧评社 浏览 18427

媒体:马克龙访华后似乎受了不小刺激 又撂狠话

北京日报客户端 浏览 18093

春日穿搭选韩系 展现温柔的女性魅力

小红豆变美日记 浏览 18363

降价当头、新车将至,非头部品牌能拼出个黎明吗?

百姓评车 浏览 11590

高圆圆现身苍蝇小馆 在路边大口啃饭团表情可爱

盖饭娱乐官方号 浏览 18196

苹果智能手表禁售令不适用于百思买和沃尔玛

财联社 浏览 11486

贝嫂素颜出镜翻车,疑眼皮提拉失败额头过度填充

好丹 浏览 11700

超80部电影定档,2024暑假档成龙沈腾马丽神仙打架,谁能成黑马?

毒舌电影 浏览 9583

第九届人单合一模式引领论坛举行 构建AI时代的智能交互生态

尺度商业 浏览 274

一到下班就开会、一到周末就培训 上海男子告赢单位

极目新闻 浏览 74339

中国大厂竞逐GPU,字节今年订购超10亿美元

晚点LatePost 浏览 14850

"晴格格"王艳带货引争议,嫁入豪门却走刘涛老路

不八卦会死星人 浏览 13716

适合40岁女人的三种穿衣公式 清爽又洋气

Yuki时尚酱 浏览 14519
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1