“AI教父”等发布联名公开信:OpenAI重组背离初衷,呼吁监管介入
IT之家4月24日消息,科技媒体The Decoder昨日(4月23日)发布博文,报道称前OpenAI员工、研究人员及非营利组织联名发表公开信,强烈呼吁监管机构阻止OpenAI提出的公司重组计划。
OpenAI于2015年成立,起初作为一个非营利组织,旨在确保通用人工智能(AGI)的开发与公共利益保持一致。为了筹集资金,OpenAI于2019年设立了营利子公司OpenAI LP,但仍然受到非营利实体的监督。如今,拟议的重组计划将运营控制权转移至新的公共福利公司(PBC),而非营利实体将仅仅作为股东,失去其原本的治理权。
最新发表的联名公开信指出,这一转变将抛弃利润限制、独立董事会和 AGI 技术归属非营利实体等关键机制,严重背离 OpenAI 公司的使命。
公开信进一步批评 OpenAI重组缺乏透明度,质疑新公司结构下未能解答AGI技术控制权由谁掌握的隐患。此外,还对微软(OpenAI最大投资者)能否访问新公司的担忧产生了疑虑。
此外,OpenAI 公司的“停止并协助”条款,即在实现AGI之前,支持其他安全的AGI项目可能不再具有约束力。作者警告,这种重组将以公众利益为代价,惠及股东,极大地影响AGI的开发方式、盈利分配和最终控制权归属。
信中强调,OpenAI的非营利结构不仅是象征性存在,还具备确保使命优先的法律约束机制。签署者敦促加州和特拉华州的总检察长展开调查,以保护现有非营利治理结构的保障。
公开信中还反驳了OpenAI关于简化资本结构以保持竞争力的说辞,认为当前结构正是确保公共福祉优先的关键,而非问题所在。
目前,包括诺贝尔奖获得者杰弗里·辛顿(Geoffrey Hinton),AI伦理研究员玛格丽特·米切尔(Margaret Mitchell),和计算机科学家斯图尔特·罗素(Stuart Russell)等著名AI研究人员的签名,联名签署了一封公开信。
IT之家查询公开资料,杰弗里·辛顿被誉为“AI教父”、“深度学习鼻祖”,以其在类神经网络方面的贡献闻名。
辛顿是反向传播算法和对比散度算法的发明人之一,也是深度学习的积极推动者,被誉为“深度学习的教父”。辛顿因在深度学习方面的出色贡献,与约书亚・本希奥、杨立昆共同获得了2018年的图灵奖。