关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12759人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

记者:扬科维奇赛前推翻10个月准备,中黎战阵型只练了2堂课

懂球帝 浏览 12765

名宿:拜仁选孔帕尼,如同中了头奖

体坛周报 浏览 830

特朗普若胜选料将对美联储独立性构成重大风险

商业周刊中文版 浏览 10738

春天的第一件针织衫,就选它吧 | 好物

LinkFashion 浏览 13327

中国在俄乌冲突一周年之际发重要文件 引西方媒体关注

上观新闻 浏览 93809

涉债权1600亿,中信信托“啃”下金科重整服务信托资产包

密探财经 浏览 1469

《盛夏未来》发布新海报,张子枫吴磊花絮曝光影片将于8月13日七夕档全国上映

趣看热点 浏览 27498

为降成本,优步称在加州25岁以上才能注册成网约车新司机

网易科技报道 浏览 14699

这个APEC城市的金融巨无霸,正撕下“老登”标签

博闻财经 浏览 749

统一企业中国提500亿大目标,可食品业务没顶住

斑马消费 浏览 14588

外媒:越南在侵占的南海岛礁上建起对海空防御系统

环球军事时报 浏览 26941

瑙鲁断交声明重击台当局 吴钊燮得知后"非常愤怒"

环球时报国际 浏览 12881

新渲染图曝光,消息称iPhone 15 Pro机型泰坦灰将替代金色

IT之家 浏览 14017

小伙雕刻"全球首个汽车石窟" 曾雕"奥特曼"石窟引争议

封面新闻 浏览 6647

朝鲜外务省回应韩企访问计划:不允许任何韩方人士入境

央视新闻客户端 浏览 89754

女子豪掷30万买200多箱白酒 丈夫4000元住院费拿不出

扬子晚报 浏览 14982

整形医生称泰勒·斯威夫特怀孕了

阿废冷眼观察所 浏览 970

谁的责任?荷兰禁区7人“站桩”,克罗地亚轻松传中破门

直播吧 浏览 16294

会穿西装的女人气质都不差 这样搭又美又飒

八只爪的猫 浏览 19651

刘强东重新定义兄弟,企业降本增效如何破局?

首席商业评论 浏览 11222

伊姐十一热推:电影《阿凡达:水之道》;电影《毕正明的证明》......

伊周潮流 浏览 1010
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1