OpenAI的Sam Altman正在成为地球上最具影响力的人之一，我们应该非常担心

在2023年5月16日，OpenAI迷人、温和、永远乐观的亿万富翁CEO Sam Altman 和我一起出席了美国参议院人工智能监督小组委员会会议。

---

我们在华盛顿特区，正值人工智能狂热的高峰期。当时38岁的Altman是这一切的宣传人物。Altman在密苏里州圣路易斯长大，是斯坦福大学辍学生，曾在30岁之前成为巨大成功的 Y Combinator 创业孵化器的总裁。在听证会前几个月，他公司的产品 ChatGPT 风靡全球。整个 2023 年夏天，Altman 像甲壳虫乐队一样被视为焦点人物，作为世界巡回演出的一部分，他被世界各国的总理和总统接见。美国参议员克里斯汀·西内马（Kyrsten Sinema）赞叹道：“我从未见过像 Sam 这样聪明的人… 他是内向的、害羞的和谦逊的… 但…非常擅长与国会人员建立关系…可以帮助政府人员理解人工智能。” 当时的光鲜形象把年轻的 Altman 描绘成真诚、有才华、富有以及对培养人类毫无其他兴趣。他频繁表明人工智能能够改变全球经济，让世界领导人心驰神往。渐渐地，我意识到，我、参议院，最终是美国人民，可能都曾被玩弄。

Richard Blumenthal 参议员召集我们（包括 IBM 的 Christina Montgomery）去华盛顿讨论人工智能何去何从，作为一种“双用”技术，它拥有巨大潜力，但也有潜在能造成巨大危害的可能性 - 从信息洪水到促使新生物武器的扩散。议程是人工智能政策和监管。我们发誓要全部说出真相，不掺杂任何虚假。

Altman 代表着一家领先的人工智能公司；我作为一名科学家和作家，在许多与人工智能相关的事情上持怀疑态度而闻名。我发现 Altman 出人意料地引人入胜。有时他会回避问题（特别是 Blumenthal 的 “你最担心什么？”这个问题，我敦促 Altman 更坦率地回答），但总体来说，他似乎很真诚，我记得当时对参议员们说了这么一句。我们两个都强烈支持人工智能监管。然而，渐渐地，我意识到，我、参议院，最终是美国人民，可能都曾被玩弄。

事实上，我一直对 OpenAI 存有一些顾虑。例如，该公司的新闻宣传活动经常夸大其词，甚至误导，比如他们漂亮的演示，展示一个内部装有特殊传感器的机器人“解决”魔方。它受到大量媒体关注，但最终毫无意义。多年来，OpenAI 这个名字——暗示了公司所做的科学背后的一种开放性——一直让我感到虚伪，因为现实情况是，随着时间的推移，公司变得越来越不透明。公司经常提到人工通用智能（能够至少匹敌任何人类认知能力的人工智能，AGI）离我们只有一步之遥，对我来说总是带有不合情理的炒作。但与其亲自面对，Altman 使我眼花缭乱；我想知道我之前是否对他太苛刻了。回想起来，我可能太过宽容。

---

尊重原创，不得转载。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。