哈佛历史学家预警:AGI灭绝人类,美国或将解体!

  新智元报道

  编辑:KingHZ

  历史学家 Niall Ferguson 给硅谷一点震撼:AGI 会让人像马车一样边缘化,甚至灭绝人类!而美国已到联邦的尾声,有生之年或许能看到美国解体。

  美国人不太关注历史,身处硅谷的美国人尤甚——他们更关心未来会发生什么。

  历史学家、哈佛大学的 Niall Ferguson,对这种思维定势提出了深刻质疑。

  在长达三十年的学术生涯中,Niall Ferguson 深入探讨了那些塑造历史进程的关键转折点,以及这些转折点如何影响着人类未来的走向。

  Niall Ferguson 的作品

  在与 Aditya Agarwal 和 Jonathan Brebner 的对话中,他探讨了以下议题:

  · AGI 是某种意义上的「三体人」,是「末日机器」

  · 战争才是历史发展的主要信号,而不是 AGI

  · 2025 年并不特别,不要夸大这个时代的非凡与独特

  · 人类正走向人口负增长加剧的时期,GDP 也会随之下滑

  · 美国正在僵化,已处于「联邦晚期」,有生之年甚至能看到美国解体

  · 目前美国「无所不能、前途无限」的乐观情绪,并不是历史常态

  当下的美国弥漫着一种「技术万能」的乐观情绪,但历史总会给技术激进的社会敲响警钟。

  人类曾无数次接近深渊——从工业革命的生态崩溃,到核时代悬顶的「末日乌云」。

  而今的AI革命,Niall Ferguson 认为这不过是历史周期律的重演。

  AGI 把人变「马」

  最近,Sam Altman 表示一旦实现 AGI——而他当然相信我们很快就会实现——社会契约中的许多核心内容都将需要重写。

  AGI 是否会真正突破我们现有认知和组织能力的边界?制度被 AI 所加速,还是被 AI 拖累?

  Ferguson 认为,AGI 的到来将与人口衰退大致同时发生,或者略早一些。

  人类的命运,可能会像马一样走向边缘化

  马曾经在漫长的历史中是交通的主要力量,直到人类发明了明显更优的替代品——汽车。

  现在很少有人会觉得马是「必需品」了,它们的数量比起巅峰期也大幅减少。

  AGI,一种在通用智能上优于大多数人的系统。

  如果真的实现了 AGI,那么人类「被淘汰」也就有了充分理由。

  至少,人口会像马那样大幅减少。

  这并不是像 Eliezer Yudkowsky 那样对 AI 末日的夸张恐吓,这只是一个简单、逻辑上的推论。

  如果 AGI 真的像 Sam Altman 说的那样强大,那么大多数人将变得「多余」,就这么简单。

  但当计算资源充足时,这种事情发生的可能性就很大。

  Ferguson 其实很早就写过一篇文章,讨论的就是这个问题:

  如果人类自己造出了「外星人」呢?

  如果人类亲手制造了《三体》里的「三体人」那样的存在,那到底期待发生什么?

  有时候,他会暂停一下,认真地想一想这件事,真的觉得——这整个过程,简直疯狂。

  历史感错觉

  当人们试图弄明白,如何理解周围发生的一切,以便实现自己的雄心壮志时,发现现在正处于加速的技术变革和加速的社会变革之间。

  AGI 正在逼近。

  这感觉就像前所未有的时刻。

  但 Niall Ferguson 觉得人总是很容易陷入「以自我为中心」的想法:

  我现在所处的时代一定是历史上最精彩的时刻,因为我活在其中,我就是我。毕竟,宇宙都围着我转,所以这一切一定是前所未有的。

  他认为这是很常见的错觉。

  如果回到 200 年前,也就是在 1825 年初,人们那时感受到的历史变革,可能会更强烈、更令人眩晕。

  因为那时候,工业革命还处在相对早期阶段,但到了 1820 年代,它已经足够明显——英国,以及苏格兰和威尔士,已经因为机械化的猛烈冲击而注定再也回不到从前了。

  工厂兴起,煤炭通过蒸汽动力被突然而决定性地应用到各个领域。

  所以他觉得:「大家需要警惕,不要夸大这个时代的非凡与独特」。

  他个人认为,200 年前的社会变动,其实更加剧烈。

  在他有生之年,人类已经经历了许多剧烈的技术断层,而这才短短 60 年。

  从这个角度看,眼下的技术变革并没有那么与众不同。

  回顾 1964 年,也就是 Niall Ferguson 出生的那一年。

  那时,核武器已经完全成为左右战争的力量,苏联和美国在全力以赴地进行军备竞赛。

  就在两年前,世界刚刚惊险地避开了因古巴导弹危机爆发的第三次世界大战。

  美国总统肯尼迪也刚刚遭遇刺杀。

  肯尼迪总统被暗杀的前几分钟

  对 Ferguson 的父辈来说,那也是一个非比寻常、甚至在某种程度上令人恐惧的时代。

  Ferguson 认为,这正是历史的本质——

  身处其中,我们总想弄明白自己在这股历史洪流中的位置。

  这种感觉,本身就是历史的一部分。

  他并不觉得 2025 年有多特别,尽管通用人工智能(AGI)确实有可能改变一切。

  历史性转折的信号

  当配备了超越人类智能的 AI 机器人军队横扫北美时,Ferguson 才会相信人类真正进入了全新的时代——但现在还远没到那一步。

  LLM 确实也已经相当厉害了,本质上是基于互联网上的信息来「模仿」人类智能。

  它在技术上越来越精细,但本质上仍是一种「伪智能」——它只是在用另一种方式假装像人类思考。

  而它还没有开始在互联网之外的环境中学习。

  所以,即使是装备了 OpenAI 最先进技术的机器人,哪怕这些机器人真的很厉害,也仍然可以被轻松击败——因为它们对战争一无所知。

  所以,离「杀手机器人大军」的时代还早着呢。

  但如果那种军队出现了,那才是真正的范式转变。

  归根结底,真正能改变历史进程的东西,其实还是战争。

  战争是历史中那些最有分量的标点符号。

  某个时刻,当美国输掉一场战争,而且是因为技术落后而输,那毫无疑问将意味着「美国时代」的终结。

  如果 GDP 开始以远高于预期的速度增长,这是否会挑战「战争才是历史发展的主要信号」这一观点?

  Ferguson 认为这种假设不太可能发生。

  事实上,目前 GDP 增长的历史趋势是在下降,而且这种趋势很可能会持续下去,因为全球人口大约在 30 到 40 年后将开始负增长。

  在人口同时萎缩和老龄化的情况下,还能实现高增长率。

  这很难想象。

  情况恰恰相反,人类正走向一个人口增长急剧转负的时期,他认为 GDP 增长也会随之下滑。

  这就是正在到来的未来。

  历史学家 Ferguson 认为没有哪项技术能真正抵消这种趋势:

  因为归根结底,经济增长的核心在于「消费」——是更多的人参与劳动,然后购买这些劳动所创造出来的商品。

  一旦人口开始减少,增长也会变得微弱甚至转负。

  LLM 革命与工业革命

  关于不同时代的变革,比如说 1825 年工业革命刚刚兴起的时候,该如何与今天所处的大语言模型(LLM)革命初期比较?

  从某种意义上说,今天的「历史体验」更像是实时的,因为我们可以即时地了解全球发生的事情,就像有了一个「神经中枢」,时时刻刻在接收信息。

  而在 1825 年,人们可能并不会有这种感觉。

  但这种变化在人类处境上是不是比当年要更加剧烈,历史学家 Ferguson 并不确定。

  要知道,1820 年代已经有了报纸、新闻通讯社和最早的铁路——这些的出现,和一百年前的世界相比,是巨大的改变。

  反倒是 1825 年到 1925 年之间的变化,更多是对那些技术的扩展与规模化。

  所以他认为,新闻是「日常甚至是每小时的精神刺激」,最早可以追溯到 200 年前。

  今天所经历的,只是在原有基础上,接收渠道变多了,信息洪流更大了。

  但就「质」的层面而言,这与过去没有根本性的区别,部分原因是大脑的接收能力是有限的。

  大多数人都有自己的「过滤器」,不然会被信息淹没。

  但说到底,今天的做法,和 1825 年没太大不同

  他们当年要么聊拉丁美洲的第一次债务危机,要么聊王室的恋爱绯闻,本质上是一样的——人类总是选择性关注什么。

  新闻其实就是一团模糊不清的事件集合。

  在当下,没人真正知道哪些事件将具有历史性的意义

  而只要你生活在一个由组织化媒体构成的信息社会中,不管你是通过报纸了解消息,还是通过互联网,其实本质上都是一样的体验。

  硅谷拥抱历史?

  在美国科技圈里,确实有一种特别强烈的「当下主义」倾向:现在能做什么?现在能执行什么?现在能颠覆哪些传统玩家?

  当然也很关注未来。

  但与此同时,对过去,对历史,往往是被有意或无意地忽视了。

  他们讨厌去思考历史,因为他们总觉得过去一团糟,而未来一定会更伟大、更辉煌。

  有种说法:硅谷之所以能够运转起来,在某种程度上,是因为科技圈有一种近乎「幻想」的机制,就是故意忽略历史。

  否则的话,硅谷可能会——在某种意义上——陷入停滞。

  所以出现了一个问题:硅谷有没有可能,也能某种程度上理解并拥抱历史?

  也就是说,在不失去那种敢于突破、敢于挑战的精神的前提下,是否也可以从历史中吸取智慧,而不是一味抛开它?

  2016 年,Ferguson 从哈佛搬到斯坦福的时候,感觉仿佛来到了「没有历史」的地方——一个彻底失忆的世界。

  在硅谷,「历史」基本上就是从 2004 年 Google 上市那一刻开始的。

  而之前的时代都被视为黑暗时代,根本不值得一提。

  于是,Ferguson 在斯坦福的前几年写了一本书,叫《广场与塔》(The Square and the Tower)。

  在书中,他试图阐述的主要观点:

  互联网、万维网以及其上的各种平台的诞生,并没有造成某种完全割裂的、剧烈的历史断层。

  相反,大家可以把这些现象放进「网络与等级体系」交替主导的连续历史中来看。

  技术有时推动网络去中心化,有时又强化权力的集中

  而在书末提出的观点是:那些迅速崛起的网络平台——比如亚马逊、谷歌和脸书——所形成的互联网中心化,势必会带来一系列意想不到的后果。

  其实在 2016 年,那些「意外后果」就已经开始显现了。

  他记得刚到湾区没多久,和扎克伯格有过一次对话。

  Ferguson 对扎克伯格说:「你很快就会成为美国最不受欢迎的人之一,因为你所掌握的权力实在太大了。在某种程度上,你会变成我们这个新时代的 William Randolph Hearst 加 John D. Rockefeller 的混合体。」

  其中 William Randolph Hearst 是美国历史上,他违反道德和标准的浮夸的黄色新闻手法,通过强调耸人听闻和人情味故事,影响了国家的流行媒体。

  而 John D. Rockefeller 是有史以来最富有的美国人之一。

  那次谈话不久后,扎克伯格就被推上了风口浪尖,出现在那些对科技几乎一无所知的议员面前接受审问。

  所以 Ferguson 觉得,硅谷最有意思的一点,就像华尔街一样,它不愿意记住过去。

  因为过去总是暗示着一些令人不安的东西。

  如今美国的整体社会思潮是:「我们无所不能,我们无可限量。」

  但 1932 年,美国人并不这么觉得;1974 年,美国人也不这么觉得。

  所以美国得记住:再怎么充满活力的美国,也会周期性地陷入低谷,或者直接撞上墙。

  而眼下这个十年,说不定就是美国再一次「撞墙」的时刻。

  第二点,Ferguson 强调他不仅读历史,也读文学。

  因为文学是理解人类经验的关键指南,它能帮助你预判人生中的高低起伏。

  文学对情感非常重要。人多读文学作品,能避免做出糟糕的情感决定。

  而科幻小说呢,也很关键——因为历史学家不能、也不会被雇来「预测未来」,但科幻小说作家可以。

  所以关键是,你要学会把自己——无论是作为个体,还是作为未来家庭的一员——放在一个历史脉络中去理解,同时也要意识到我们所面对的是一个不可预知的未来。

  利用像 Neal Stephenson 这样的科幻作家的视角,你就能更全面地思考:我们身处何处,又将前往何方。

  美国科幻文学家:Neal Stephenson

  联邦的尾声到美国解体

  Ferguson 写过很多关于制度以及支撑文化运作的核心是如何发展和运作的内容。

  他认为,社会必须持续不断地创造新制度,否则就会陷入「硬化」状态。

  历史上,美国人非常擅长创造新公司,也善于建立各种自愿性组织,甚至新的教育机构。

  美国在这些方面的能力曾经非常强大,但近年来的表现就没那么乐观了。

  尤其是在金融危机期间,新公司和新银行的设立都出现了明显的下滑。

  而且,美国已经几十年没有创办一所新的大学了。

  Ferguson 开始被「大衰退」这个概念困扰——也就是美国的制度正在变得像英国一样,进入一种制度僵化、失去活力的状态。

  在英国,比如说,当 Anthony Grayling 创办「新人文学院」(New College of the Humanities)时,媒体几乎第一时间就将其攻击致死——在这里,想要创办一所新大学几乎是不可能的。

  所以他认为,美国确实需要新制度——但不是那种彻底陌生、前所未有的制度形式。

  有些人认为互联网会带来一种全新形态的制度。

  他对此通常是持怀疑态度的。

  原因很简单:人类是猿类,人类的制度受限于进化本性

  人类并不喜欢人太多的环境,一个组织要想高效、健康地运作,必须保持相对小的规模。

  这就是为什么「邓巴数」(Dunbar number)真实存在——它定义了一个人最多能维持稳定社交关系的人数上限。

  所以,他认为我们当下最重要的任务,不是「创造全新的制度形式」,而是让老旧僵化的制度恢复活力,或者干脆用更健康的制度去取而代之。

  Ferguson 还想补充一个让人震惊的想法:美国的联邦制度可能已经进入了「末期」。

  他每周有三天会认真思考一个问题——美国是不是已经进入了「联邦晚期」,美国是不是正走在一条历史上注定的道路上,那条路的尽头,要么是自我分裂,要么是帝国化。

  美国很可能正处在「联邦的尾声」这一历史时刻。

  如果一些关键条件出现,当代人甚至可能亲眼见证美国联邦的解体。

  这个念头让他感到极度不安,因为它在历史上完全说得通。

  美国的联邦制度能维持近 250 年,本身就是一件非常了不起的事情。

  人类的未来

  目前的生育率、出生率在崩塌

  现在完全可以设想,全球总人口在未来 250 年内可能会回落到 20 亿左右——这个预测其实并不离谱。

  如果不考虑经济因素,那么人类在「自然条件」下到底愿意生多少个孩子?

  Ferguson 认为迄今为止,所有试图扭转生育率下滑的努力基本都失败了,这说明问题不仅仅是经济层面的激励机制。

  更核心的,是教育和避孕手段的普及,让女性拥有了控制家庭规模的主动权。

  而一旦有这种不选择,有相当大比例的女性会选择生育少于 2.1 个孩子(即「更替生育率」以下),这就让几乎所有社会走上了人口萎缩的轨道

  在他看来,韩国只是预演了欧洲的未来

  最终,即便是撒哈拉以南的非洲,这种趋势也会出现,因为这似乎并不是某种特定文化下的现象——而是全球性的、系统性的。

  所以他觉得这就是 AGI 真正的意义所在:人类正在「建造」下一个将取代我们自己的物种。

  因为人类集体性地,也许是无意识地,做出了一个决定:作为一个物种,人类选择「退出历史舞台」

  但人类也许就能重新找回存在的意义,重新回到平均生三孩、四孩、甚至五孩的社会。

  如果人类没有比「创造出比我们自己更聪明的东西」更高的目标,那人类就跟当年等着小行星撞地球的恐龙没什么两样。

  如果人类能重新找回某种神圣的使命感,也许大家就有能力驾驭这些我们亲手造出来的工具。

  但以目前的情况来看,Ferguson 认为人类正在清醒地、几乎是故意地建造一个末日机器——最终会取代人类的「外星人」

  但如果 AGI 真能自动化一切,AGI 也许会支持人口增长。

  参考资料: