关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12722人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

以硬核智能定义超值神车 尚界H5交付破10000台

网易汽车 浏览 692

德国海军称无法识别“北溪”管道遭袭的幕后黑手

环球网资讯 浏览 19379

也门胡塞武装承认在亚丁湾袭击美国船只并命中目标

海外网 浏览 12434

内塔尼亚胡:以色列将不得不做出"痛苦且重大"让步

环球网资讯 浏览 1880

关晓彤奶茶店再次陷入合同纠纷 被执行标8.1万元

网易娱乐 浏览 16090

中国女足世界杯赛程:7月22日、28日对丹麦海地,8月1日对英格兰

直播吧 浏览 19078

鸿蒙版微信一周年:从“能用”到“好用” 超2000万下载量背后的进化史

快科技 浏览 984

王世龙:对方小外援费尔德今天没出战 我们打得比较松

直播吧 浏览 19528

知名汽车智驾企业“停工放假”

电动知家 浏览 336

芦哲:经济“温差”如何影响宏观调控?

首席经济学家论坛 浏览 825

李国庆怎么看中年失业:别跟年轻人争 实在不行开滴滴

手机中国 浏览 27058

美国拉拢越南对抗中国,解放军早就把话说透

浏览 10544

日媒预测日本VS伊拉克首发:富安健洋、南野拓实在列,三笘薰替补

直播吧 浏览 12750

十五运会开幕式收视出炉!最高破3.9%,刘德华上场涨出小高峰

萌神木木 浏览 650

足球报:城市联赛面临高昂行政成本,赛风赛纪和裁判也是困扰

懂球帝 浏览 1015

近期流行的发型15款 化身时髦达人

镜子发型 浏览 15258

高市早苗成功"策反"对手 分析称其当选首相几乎成定局

红星新闻 浏览 4678

全球最大固体运载火箭!引力一号首飞成功

观察者网 浏览 12523

终于等到芭比粉逆袭上位了!

《红秀GRAZIA》 浏览 16800

西芒杜铁矿石准备装船,榨取中国钢企利益的时代该结束了

北向财经 浏览 685

受好莱坞罢工影响 《沙丘2》推迟至明年上映

网易娱乐 浏览 15142
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1