开放人工智能转型为盈利公司可能导致其削减成本,告密者称

开放人工智能计划转型为盈利公司可能会鼓励这家人工智能初创公司在安全方面削减成本,一名告密者表示。


前OpenAI研究工程师威廉·桑德斯告诉《卫报》,他对ChatGPT开发者正在准备改变公司结构并不再受非营利董事会控制的报道感到担忧。桑德斯本月在美国参议院作证时提出了自己的担忧,他还表示担心OpenAI首席执行官萨姆·奥尔特曼可能持有重组企业的股份。”我最担心的是这对OpenAI安全决策的治理意味着什么,”他说。”如果非营利性董事会不再控制这些决策,而萨姆·奥尔特曼持有重要股权,这就会更多地激励他们去赶超并削减成本。”

OpenAI成立时是一个非营利实体,其宪章致力于构建人工通用智能(AGI)- 它描述为“比人类普遍更聪明的系统”,从中受益于“全人类”。然而,AGI系统的潜在力量引起了包括桑德斯在内的专家和从业者的担忧,他们担心竞争性构建这种技术可能导致安全问题被搁置。桑德斯在提交给参议院的书面证词中表示,他离开公司是因为他“不再相信”OpenAI会就AGI做出负责任的决定。桑德斯曾是OpenAI强超对齐团队的成员,这是一个旨在确保强大的人工智能系统遵守人类的价值和目标的小组。

OpenAI拒绝就重组的具体细节发表评论,但表示非营利组织将继续存在。在周四发布的一份声明中,OpenAI主席布雷特·泰勒表示,董事会已经讨论过是否让奥尔特曼持有公司股权对公司和我们的使命是否有益,但没有讨论具体数字,也没有做出任何决定。据报道,奥尔特曼可能会获得OpenAI 7%的股份,该公司正在筹集65亿美元的投资,可能导致估值为1500亿美元。奥尔特曼被称为可能获得7%股份的报道为“荒谬”,据科技新闻网站The Information报道。



感谢阅读!如果您对AI的更多资讯感兴趣,可以查看更多AI文章:GPTNB

开放人工智能转型为盈利公司可能导致其削减成本,告密者称

https://www.gptnb.com/2024/09/28/2024-09-27-auto1-m5qLpT/

作者

ByteAILab

发布于

2024-09-28

更新于

2025-03-21

许可协议