2024-07-28 11:55来源:本站编辑
华盛顿-
OpenAI周二表示,它已经成立了一个新的委员会,向公司董事会提出有关安全和保障的建议。几周前,该公司解散了一个专注于人工智能安全的团队。
OpenAI在一篇博客文章中表示,新委员会将由首席执行官萨姆·奥特曼、公司董事会主席布雷特·泰勒和董事会成员妮可·塞利格曼领导。
本月,OpenAI负责安全事务的高管简·莱克(Jan Leike)高调离职。雷克从OpenAI辞职,批评该公司在人工智能安全工作上投资不足,与OpenAI领导层的紧张关系“达到了临界点”。
此前,OpenAI所谓的“超级联盟”团队的另一位领导人伊利亚·苏斯克维尔(Ilya Sutskever)离职,该团队专注于确保人工智能开发服务于人类的需求和优先事项。去年,奥特曼出人意料地从首席执行官的位置上被撤职,苏斯克沃在其中发挥了关键作用,但后来他改变了主意,转而支持奥特曼的回归。
本月早些时候,OpenAI的一位发言人告诉CNN,解散超级联盟团队,并在公司内部重新分配这些员工,将有助于该公司更好地实现超级联盟的目标。
OpenAI在周二的博客文章中还表示,它已经开始训练一种新的人工智能模型,以接替目前支持ChatGPT的模型。该公司表示,继GPT-4之后的新人工智能模型将是通用人工智能的又一步。
该公司表示:“虽然我们很自豪能够打造和发布在性能和安全性方面都处于行业领先地位的机型,但我们欢迎在这个重要时刻进行激烈的辩论。”
“安全与安全委员会的第一项任务将是在未来90天内评估和进一步发展OpenAI的流程和保障措施,”该博客文章补充道。“在90天结束时,安全与安保委员会将与全体联委会分享其建议。在全体董事会审查之后,OpenAI将以符合安全和保障的方式公开分享所采纳建议的最新情况。”