基辛格论人工智能：启蒙如何终结

在3年前召开的一场关于跨大西洋问题的国际会议上，我发现会议日程里安排了一个以“人工智能”为主题的环节。由于人工智能并不在我通常关注的领域之内，我本想跳过那一场讨论，但主讲人开场的几句话却把我留在了位子上。

美国前国务卿、外交家、国际问题专家亨利·基辛格在2018年6月号美国《大西洋月刊》杂志刊发评论文章：《启蒙如何终结》。他认为，“无论从哲学层面来说，还是从人类智力层面来说，乃至从每一个层面上来说，人类社会还没有为人工智能技术的崛起做好准备”。

主讲人向听众宣告，一个计算机程序很快就将向围棋界的国际冠军发起挑战，随后他介绍了那个计算机程序的运行方式。电脑竟然能够掌握比国际象棋更加复杂的中国围棋的对弈规则？这令我十分吃惊。在中国围棋的比赛中，每一位棋手手执180枚或181枚棋子（这取决于两位棋手选择黑白何种颜色的棋子，黑子181枚，白子180枚），比赛开始时棋盘是空的，随后两位棋手轮流在棋盘上落子。判定围棋取胜的标准是，看哪位棋手能通过更加高明的策略更有效地占据棋盘上的空位，从而最终困死对手。

主讲人表示，计算机程序并非在编制过程中就获得了高超的对弈能力，这种能力是在实践过程中通过自我训练逐渐习得的。在围棋规则的框架下，计算机程序已经与自己对弈了无数局，它从错误中吸取了教训并借此完善了算法。经过这一过程之后，计算机程序的围棋水平已经远远超过了为其编程的工程师。就在演讲结束几个月之后，一个名为“阿尔法狗”（AlphaGo）的人工智能计算机程序毫无困难地战胜了世界上最顶尖的围棋选手。

当我听到主讲人为这一技术进步喝彩时，作为一名历史学家和客串政治家，我的思路不再跟随他的话语，而是停在了那里。那些能够自主学习的机器能够通过独特的方式获得知识，并且能够将获得的知识应用在可能超出人类理解的领域，这会对人类历史产生怎样的影响呢？这些机器之间能够互相交流吗？在从未遇到过的行为选项面前，这些机器又会如何作出判断呢？面对西班牙文化，印加人（南美洲安第斯山区克丘亚族的一支，讲克丘亚语，他们的“王”被称为“印加”；1532年，最后一任印加帝国国王被西班牙侵略者处以死刑，随后印加帝国沦为了西班牙的殖民地）曾是感到迷惑甚至心怀畏惧的；如今面对人工智能的崛起，人类会步印加人的后尘吗？人类是否正处于一个新的历史阶段的起点呢？

由于我自身缺乏在人工智能领域的专业能力，在几位分别来自相关技术行业和人文领域的朋友的建议和配合下，我组织了几场关于人工智能技术的非正式对话会。经过对话会上的讨论之后，我对这个问题的忧虑反而加深了。

迄今为止，改变现代历史发展轨迹程度最深的技术进步莫过于15世纪印刷机的发明，它使仪式性的教条被对经验知识的探索所取代，它使宗教时代落幕，使理性时代得以开启。人类对自然的理解和科学体系的建立取代了宗教信仰，它们成为判定人类意识觉醒的重要标准。人们将信息存储起来，而且信息在规模日益扩大的图书馆中得以系统化。塑造当代世界秩序的思想和行为正是发端自理性时代。

不过在当下这场全新的、甚至更加彻底的技术革命中，当代世界秩序正面临一场颠覆性的变革。我们很难充分判断这场变革的影响，这场变革甚至可能到达一个高潮，届时我们的世界将严重依赖由数据和算法驱动的人工智能机器人，而道德伦理和哲学规范将完全受到那些机器人的无视。

我们身处其中的互联网时代已经给人类带来了一些麻烦，而人工智能时代的到来很可能会使情况变得更加复杂。当年启蒙运动（the Enlightenment）所寻求的是将传统真理（traditional verities）置于已被解放的、具有分析能力的人类理性面前接受检验。而如今互联网则是通过对不断增加的数据的积累和处理来定义知识。在互联网时代，人类的认知能力失去了人的个性特征，一切都以数据形式存在，数据成了这个时代的统治者。

相较于在具体语境中思考信息的意义或将信息赋予明确的概念，互联网用户更看重信息的检索和处理。他们很少在互联网上就历史或哲学问题检索信息，一般来说，互联网用户的信息检索行为与他们当下的实际需求直接相关。在这一过程中，搜索引擎获得了互联网用户信息检索偏好的有关信息，这使其算法能够对搜索结果进行个性化处理，而搜索引擎甚至可能将用户的信息检索偏好提供给第三方，以用于政治或商业目的。真相变得不再绝对，在海量信息面前，智慧的作用恐怕也要弱化。

互联网用户们变得不再擅长独立思考，他们开始被社交媒体上的各种观点所左右。事实上，许多网民使用互联网的目的仅在于通过上网来冲淡他们内心十分恐惧的孤独感。上述因素削弱了人们形成并维护自身信念的刚毅品质，只有孤独的行者才能一直坚持内心的信念，而创造力的本质正在于这种对自身信念孤独的坚持。

此外，互联网对政治的冲击尤为明显。互联网能够使社会上很多亚群体获得更多曝光度，他们的特殊诉求或苦衷能够通过网络获得更多人的了解，这打破了人们以往对何为政治优先事项的认识。但政治家们也由于受到这些散乱压力的影响，无暇思考问题产生的背景，这挤压了政治家们对未来进行长远规划的空间。

互联网时代的快速阅读不利于人们进行深度思考；互联网对夺人眼球的信息的影响力进行了放大，而那些经过缜密思考写就的文章却在网络上难以获得大面积传播；互联网时代的价值观受到亚群体观点的严重影响，而在这一过程中人们十分缺乏深入的思考。尽管互联网的出现为人类社会做出了巨大贡献，但由于其影响利弊相抵，它未来恐怕会将枪口对准自己也未可知。