关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12721人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

50岁别总穿牛仔裤平底鞋 这3种更推荐!

虎哥说衣不二 浏览 15996

日常通勤必备!20款夏日单鞋一次性挑个够!

她暖 浏览 17224

天价车祸 法拉利恩佐德国高速遭遇重大事故 二手价超千万元

智车情报局 浏览 12470

牵手小鹏后,大众为何还豪赌Rivian

帮宁工作室 浏览 10941

伯利再挖布莱顿,邮报:前布莱顿技术总监威尔加盟斯特拉斯堡

懂球帝 浏览 719

全球排第八!特斯拉员工人均创收67万美元

盖世汽车 浏览 12243

“中国肝胆外科之父”吴孟超去世,他创建我国肝脏外科论基础

趣看热点 浏览 25702

中印巴令人意外地站在了同一边 反对美方举措

澎湃新闻 浏览 1505

好像记错了阿泰:2004年MVP投票排第6是我生涯最高光

直播吧 浏览 14352

球王马拉多纳心脏骤停去世阿根廷全国哀悼三天,梅西、C罗等发文缅怀

趣看热点 浏览 25810

那个被纪梵希炒掉的“大妈”,却在优衣库封神了

InsDaily 浏览 15189

普京:“海燕”核动力巡航导弹完成“决定性试验”

极目新闻 浏览 780

零跑:造车新势力中的异数

智驾网 浏览 10798

15岁费曼晒初中毕业照,头发又长又卷遮住双眼,长相和儿时区别大

娱絮 浏览 10888

关晓彤最新生图暴露真实状态 25岁一脸疲惫

萌神木木 浏览 16657

阮经天小20岁的千金女友曝光

今古深日报 浏览 66

“船”越天际!天舟七号货运飞船成功“发货”

封面新闻 浏览 12705

针对俄白联合军演 美军福特号航母驶入挪威奥斯陆峡湾

每日经济新闻 浏览 1560

维拉已放弃买断桑乔!曼联若解约多特或引进,只会免费签约不给钱

罗米的曼联博客 浏览 673

罗马诺:巴黎对扎哈感兴趣,后者收到沙特报价但想留在欧洲

直播吧 浏览 19790

男子在成都住酒店发现浴巾有大片血迹 酒店质疑其敲诈

极目新闻 浏览 13303
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1