关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12758人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

因显示屏故障 大众和保时捷在日本召回1.2万辆汽车

智车情报局 浏览 12401

登贝莱:踢什么位置教练说了算,我很喜欢中锋位置

懂球帝 浏览 1464

女子产后抑郁自缢骨灰被丈夫私自下葬 父母苦寻四年

新民晚报 浏览 4944

中国排名前五的储能企业未来三年有望占据全球50%以上市场份额

澎湃新闻 浏览 785

普通款怎么搭配才不烂大街?这些穿搭示范给你灵感,简单优雅

静儿时尚达人 浏览 11198

青年创新的“破卷”之道:在无人区里找答案|2025浦江创新论坛

上观新闻 浏览 1718

恒大地产因信批违规被证监会立案调查

财联社 浏览 85781

吉利汽车:为市值“反击战”埋伏笔!

汽车K线 浏览 12565

0-4惨败!中超升班马2连败+0进球,主帅怒摔教练证,津门虎2轮4分

环太平洋老正太 浏览 11965

湖北U20 1-0山东U20,范绪林点射制胜

懂球帝 浏览 633

贾永婕说小S越来越像大S,两人早已融为一体,过度消费大S惹争议

萌神木木 浏览 924

《四喜》中真显老,33岁蒋欣与42岁演夫妻

丁睋解说 浏览 591

媒体:指控字节跳动的前员工 或已与美情报部门合作

环球时报国际 浏览 16069

WTT多哈球星赛:孙颖莎3-0完胜日乒美女选手,技战术优势明显!

乒谈 浏览 12733

唐斯:很高兴湖人接受了拉塞尔 只要你有贡献湖蜜不在乎你的过去

直播吧 浏览 19068

中国大厂竞逐GPU,字节今年订购超10亿美元

晚点LatePost 浏览 15880

今年秋天最流行的4件卫衣,减龄又时髦!

LinkFashion 浏览 2016

超级转型,大洛佩斯生涯前8年仅进3记三分,后9年命中1072记三分

懂球帝 浏览 1045

张继科新身份出炉:成某俱乐部技术顾问 深陷赌博丑闻消失9个月

醉卧浮生 浏览 12682

入春之后怎么穿?来看看搭配灵感解析值得借鉴,既时尚又增高

静儿时尚达人 浏览 12682

朴信惠最新大片大变样认不出!化烟熏妆,造型土气老10岁,遭群嘲

文艺圈娱乐号 浏览 13043
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1