OpenAI的Sam Altman正成为地球上最强大的人之一，我们应该非常警惕
在2023年5月16日，OpenAI迷人、温和、永远乐观的亿万富翁CEO Sam Altman 和我站在美国参议院AI监督小组委员会前。
我们在华盛顿特区，当时正值AI狂热的高峰期。当时38岁的Altman是这一切的宣传形象。Altman 在密苏里州圣路易斯长大，是一位在斯坦福大学辍学后，在30岁之前成为巨大成功的 Y Combinator 创业孵化器总裁的人物。在听证会前几个月，他的公司产品 ChatGPT 已经席卷全球。整个2023年夏天，Altman 就像披头士乐队一样备受瞩目，在全球巡回演出，会见各国总理和总统。美国参议员克尔斯滕·西尼玛（Kyrsten Sinema）赞叹道：“我从未见过像 Sam 这样聪明的人… 他是一个内向、害羞、谦逊的人… 但… 擅长与议会中的人建立关系… 可以帮助政府了解人工智能。” 那时，人们对他的热情描绘 Altman 年轻、真诚、才华横溢，对促进人类发展充满兴趣。他频繁表示人工智能可以改变全球经济，让世界领导人神魂颠倒。慢慢地，我意识到我、参议院，最终美国人，可能都被忽悠了。
理查德·布卢门瑞尔参议员曾邀请我和 Altman（以及 IBM 的克里斯蒂娜·蒙哥马利）前往华盛顿讨论人工智能的问题，这种“双用”技术有着巨大潜力，但也可能造成巨大危害，从信息海啸到可能促使新的生物武器传播。议程是人工智能政策和监管。我们发誓我们会说真实的话，只说实话。Altman 作为一家领先的人工智能公司代表，我作为科学家和作家，因为我对很多关于人工智能的事情持怀疑态度而知名。我发现 Altman 令人惊讶地引人入胜。有些时候他规避问题（尤其是布卢门瑞尔的“你最担心什么？”这个问题，我一再敦促 Altman 更坦诚地回答），但总体上他似乎很真诚，我记得当时对参议员说了这样的话。我们俩都强烈主张人工智能监管。然而，慢慢地，我意识到我、参议院，最终美国人，可能都被忽悠了。
事实上，我一直对 OpenAI 有些顾虑。公司的宣传活动经常夸大其词甚至误导，比如他们展示的一个机器人“解决”魔方的花哨演示，后来发现里面有特殊传感器。这得到了大量报道，但最终毫无实质进展。多年来，OpenAI 这个名字——暗示了公司背后的科学是开放的——在实际中变得越来越不透明。公司频繁地暗示人工智能通用智能（能够至少匹敌任何人类的认知能力）即将问世，对我来说总是似是而非的炒作。但是在私下里，Altman 让人眼花缭乱；我开始怀疑自己之前对他是否太苛刻了。回顾当初，我对他过于宽容。
感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。
OpenAI的Sam Altman正成为地球上最强大的人之一，我们应该非常警惕
