新智元报道
编辑：KingHZ
在光鲜外表下，OpenAI 暗藏着令人震惊的黑暗一面！华人女记者郝珂灵深挖了奥特曼背后的秘密。这个曾宣称「造福人类」的非营利组织，被还原了沦为硅谷最贪婪的资本机器的黑历史。
《纽约时报》畅销书榜上，有本书引起了巨大反响。
据说，奥特曼曾想方设法阻止这本书的出版。
正如副标题所言，这本书不是说 OpenAI 的「噩梦」，就是说 AI 竞赛「不顾后果」——刺到了奥特曼的命门！
新书副标题：英国版是「Inside the reckless race for total domination」（逐鹿天下，无法无天），美国版为「Dreams and nightmares in Sam Altman’s OpenAI」（奥特曼之 OpenAI 中的美梦与梦魇）
这次报道工作量难以置信——高达 300 次访谈，包括 90 位 OpenAI 内部人士的采访。
这本书描绘了 OpenAI 的崛起，以及，还敏锐地分析了人类正在搞什么样的 AI，以及谁掌握着主导权。
在「MIT Technology Review」组织的圆桌谈话中，作家、AI 记者、MIT 校友 Karen Hao（郝珂灵）介绍了新书《Empire of AI》「AI 帝国」。
她还与主编 Niall Firth 深入交流，讲述了她 2020 年首次报道 OpenAI 的经历。
Karen Hao 郝珂灵屡获殊荣，长期聚焦 AI 对社会的影响。她为《大西洋月刊》等知名媒体撰稿。她曾任职《华尔街日报》、《麻省理工科技评论》人工智能高级编辑。其作品常被全球高校选为教学案例，并获多国政府机构引用。她 30 岁前便斩获美国人文主义媒体奖、美国国家杂志奖（30 岁以下记者类别）等重要奖项，本科毕业于麻省理工学院机械工程系
OpenAI 不「Open」
这本畅销书，起源于她当年在「MIT Technology Review」的首个重磅专题。
那是篇精彩绝伦的报道：首次揭开了 OpenAI 的内幕。OpenAI 对此相当不满。
OpenAI 力图拯救世界的背后：混乱与秘密
这个「AI 登月项目」的初心是透明开放。这篇文章揭示了竞争压力如何逐渐侵蚀这一理想。
至今，Karen Hao 仍把「MIT Technology Review」看作她新闻事业的起点。
之所以会写那篇文章，完全是因为受 Niall 委托。当时，她只是随口说了一句：「嘿，OpenAI 看起来挺有意思的。」他就说：「你应该给他们写一篇深度报道。」
之前，她从来没写过企业特写。但她带着开放的心态开始写作——试着去真正了解 OpenAI 是什么样的组织。
最初，OpenAI 自称是非营利机构，宣称自己的使命是「让通用人工智能造福全人类」。
她很好奇，想弄清楚，这到底意味着什么？他们具体是怎么努力实现这个目标的？他们又是如何在坚持使命的同时筹集资金、吸引资本？
在 OpenAI 内部，她实地采访了三天，又访问了数十位公司外部或相关人士……
逐渐发现，他们公开宣称的愿景与他们实际的运作方式之间，存在着根本性的矛盾。
OpenAI 利用美化过的愿景，赢得了外界大量的信任与支持。
于是，她最后将报道聚焦在了这个矛盾上。
「虚伪的面具被扒光」，这就是 OpenAI 不满的主因。奥特曼曾直白地告诉 Karen Hao：OpenAI 不喜欢那篇报道。
自那篇报道以来，OpenAI 那种「言行不一」的情况，这几年变得更加复杂、更令人困惑了。
不得不说，现在的 OpenAI 堪称硅谷最具资本主义传奇色彩的企业之一——
他们刚刚完成了科技史上规模最大的私募融资，募集 400 亿美元，估值达到 3000 亿美元。
但吊诡的是，他们依然坚称自己「首先且最重要的身份是非营利组织」。
这恰恰揭示了 OpenAI 这十年来的核心策略：不断调整和重塑自身定位，精心打造最符合公众和政策制定者期待的叙事框架——
尽管在技术开发和商业化方面的实际行动，他们可能完全是另一回事。
OpenAI 的赌局：Scaling Law
奥特曼将实现 AGI 比作「AI 界的曼哈顿计划」，还援引奥本海默的名言：「技术诞生，只因它可能诞生。」
但Karen Hao 的书中贯穿的主题恰恰相反：事情并非注定如此，人也并非生来如此。人之所重，道之所及。
如果真是如此，那在实践中又意味着什么呢？
以 OpenAI 为例，在早期他们做了个关键抉择：Scaling 既有技术，推动 AI 进步。
2015 年底创立时，OpenAI 就是全 AI 领域的奇葩；2017 年做此决策之际，更是如此。正是这个选择，造就了如今主宰市场和头条的 AI 技术。
关于如何推动 AI 进步，存在两种主要的观点，或者说，是一系列观点，分布在两个极端之间：
一种极端认为，我们已经拥有了所有必要的技术，只需积极扩展规模即可；
另一种则认为，实际上，我们还缺乏足够的技术，需要持续创新并进行基础研究，才能获得更多突破。
大多数人认为，聚焦基础研究的这条路径更可能带来进展，但OpenAI 不同，他们选择了另一种极端——
他们坚信只需利用现有神经网络架构，不断注入更多数据，在史无前例的超级计算机上进行训练就能取得突破。
他们之所以做出这一决策，是因为在 AI 竞争中，谷歌几乎垄断了 AI 人才。
OpenAI 知道，单纯依靠研究突破，他们不太可能打败谷歌。基础研究的道路非常艰难，因为你永远无法预测突破何时会出现，它不是一条线性的发展路线；
而 Scaling 则不同，它可以线性推进：只要不断增加数据量和计算能力，就能取得进展。
因此，他们认为，要最快地实现这一点，非他们莫属，只要这样做就能超越谷歌。
而且，这也非常符合奥特曼的优势，因为他是个极为出色的筹资天才。而当 AI 模型的推进依赖于规模化时，最大的瓶颈就是资本。
因此，这个决策非常契合他的特长，因为他擅长积累资本，他知道如何快速积累资本。
这生动诠释了技术发展是人类选择与价值观的产物：正是当时 OpenAI 所具备的特殊技能与优势，决定了他们选择的前进方向。
从GPT-2 到 GPT-3 的突破，完全依赖于数据和算力 Scaling。
从现在回头看，这一切令人惊叹。不过，这种路径背后需要付出极其高昂的成本。
这是 Karen Hao 对 OpenAI 最大的批评之一：
我们本可以通过其他方式取得这些成果，并且在未来继续从 AI 中获益，而不必采用高度消耗资源、极其昂贵的开发方式。
AI 只是让少数人受益
在 ChatGPT 尚未出现之前，「殖民主义」已开始复辟。
AI 的商业化与全球部署，让过去的殖民结构和历史性不平等死灰复燃。
在为 MIT Tech Review 撰写「AI 殖民主义」（AI Colonialism）系列报道时，Karen Hao 逐渐关注到这一视角。
在此系列报道的导语中，他们认为人工智能正在创造新的世界秩序：
如今，AI 行业正通过更加隐蔽的方式，极大地牺牲贫穷群体，帮助富有和有权势的人获取更多财富。
在这个系列的报道过程中，Karen Hao 不断遇到各种案例。她越来越相信：AI 行业正在复制并强化全球范围内的结构性不平等。它似乎正在演变成一种「新殖民主义」的力量。
而当 ChatGPT 推出之后，这一趋势进一步加速了：
一旦开始以整个互联网为训练数据，依靠占地广阔的超级计算中心运行 AI 系统时，这背后所依赖的资源提取与劳动力剥削规模也上升到了全球层面。
所以在书中，她将「人工智能帝国」（empires of AI）与传统帝国之间，归纳出了四大相似点。
第一是，帝国会攫取本属于其他人的资源。AI 公司正在互联网上，大规模采集并不属于它们的数据，并获取他人的知识产权，这种做法本质上是资源掠夺。
第二是，帝国剥削大量劳动力。许多公司将 AI 开发中最艰苦、最低薪的工作外包到「南方世界」（Global South）国家或其他经济弱势地区。同时，它们所开发的许多技术，本身就是用来替代人工劳动的，也在进一步强化劳动力剥削。
第三是，帝国垄断知识的生产。在过去十年中，AI 行业不断吸纳世界范围内的研究人员，导致他们越来越少地参与开放科学，不再在高校或独立研究机构工作。其结果就是：我们将无法获得客观、全面的研究视角。
第四，也是最后一点，帝国往往伴随着激烈的「对抗性叙事」：「正义帝国」必须变得足够强大，才能击败「邪恶帝国」。因此，他们就宣称自己有正当性可以无限制地消耗资源、剥削劳动力。如果「坏人」先掌握了 AGI，人类就会陷入灾难；但如果「好人」抢先拥有这些技术，他们就能拯救世界，人类也将因此获得福祉。
所以，从多个维度来看，「帝国」这个概念，是 Karen Hao 认为最能全面刻画 AI 公司运作方式、以及它们如何深刻影响这个世界的最佳框架。
AGI 几乎是这本书里贯穿始终的「隐形主角」。它像一道无形的阴影，始终笼罩在 OpenAI 的一切之上，仿佛在说：「这就是我们必须抢先实现的目标。」
AGI：虚无的幻象？
至今为止，连「AGI 到底是什么」都没有共识，更不要提如何实现 AGI。
多年来，OpenAI 给 AGI 下过各种不同的定义，甚至内部还有个玩笑：「问 13 个 OpenAI 研究员什么是 AGI，你会得到 15 个答案。」
他们自己也知道 AGI 并没有明确定义。
但 AGI 却有非常强的象征意义，OpenAI 营造出一种近乎信仰式的追求氛围——
大家觉得必须不断向着「终极目标」前进，一旦实现，整个人类文明都会因此而改变。
于是问题变成：你的人生中还有什么比这更值得投入的？又还有谁比你更有资格去完成它？ 在这样的逻辑下，只要最终实现 AGI，这一切代价都是值得的。 因此，这也就成了他们一切行动的正当性来源。
这种信念也支撑着他们推行一种高度排他、精英导向的技术开发模式——他们声称，只有自己拥有足够的专业能力与道德权威，才有资格控制 AGI 的发展与部署；而其他人则不应介入，因为这项技术「过于强大」，不容开放参与。
对此，Karen Hao 最想问奥特曼：「你到底要看到多少实际的伤害，才会意识到，是时候换一条路走了？」
参考资料：
