关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12727人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

4399元 一图读懂OPPO Find X9 刘作虎:严重超标的标准版

快科技 浏览 979

莫斯科商业区发生爆炸 距克宫5公里

财联社 浏览 14225

止损!巴黎1.8亿欧签姆巴佩免费送走,但省下共2.2亿工资忠诚奖

直播吧 浏览 10834

邓莎每个月生活费曝光,路行一个字都没有说错

贵州小娟 浏览 846

美媒承认乌重镇即将被攻克:俄方为此付出了很大代价

环球时报国际 浏览 5346

徐正源:无法以全主力出战,又存在伤病,输球很遗憾

懂球帝 浏览 900

黄晓明:肉白增了

娱乐圈笔娱君 浏览 777

3岁男孩跌入炭堆全身烧伤85%尚未脱险 家人发声

封面新闻 浏览 6320

加拿大新外长就任后首次访华 外交部回应

新京报政事儿 浏览 6232

A股交易端改革来了!申报数可1股递增、ETF引入盘后交易,将如何激活市场

澎湃新闻 浏览 14653

突发!特斯拉美国要求禁用中国产零部件;离谱!曝多益网络创始人有300个孩子,公司回应;苹果CEO库克被曝或于明年卸任丨雷峰早报

雷峰网 浏览 546

这些气质穿搭真适合40岁女人!优雅、时髦、耐看,冬季可照搬

静儿时尚达人 浏览 13039

姆巴佩已完成职业生涯400球,为最年轻达成此成就球员

懂球帝 浏览 240

俄称在多个方向推进 乌称多地遭空袭

极目新闻 浏览 826

前三季度海洋生产总值7.9万亿元 同比增长5.6%

央视财经 浏览 711

将于东京车展首发 全新丰田卡罗拉官图曝光

车质网 浏览 1013

登贝莱:踢什么位置教练说了算,我很喜欢中锋位置

懂球帝 浏览 1441

印度商人:有中国就不怕美国加税 中印本应并肩作战

澎湃新闻 浏览 5793

连马斯克都盯上了这块“肥肉”

汽车公社 浏览 582

天汽模五年四谋易主 陷增长瓶颈中期扣非降90%

长江商报 浏览 1485

汽缸滚烫!若签下拉维亚奥利斯,切尔西夏窗支出将达到4.22亿欧!

直播吧 浏览 14281
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1