2023人工智能时代与人类未来.docx

人工智能时代与人类未来目录前言人工智能重塑人类社会秩序第一章我们的处境第二章何以至此：技术与人类思想的演变第:章从图灵到当卜.，以及未来第四章全球网络平台第五章安全与也界秩序第六年人工智能与人类身份第七章人工智能与人类未来致避刖g人工智能重塑人类社会秩序5年前，人工智能（AI）这一主题出现在一个会议的议程上。本书的三位作者中，有一位差点儿缺席了这个会议，因为他以为这只是一场超出他通常关注范围的技术讨论。而另一位作者当时则力劝他三思，并解释说人工智能将很快影响到人类所涉足的几乎每一个领域。那次会面引发了积极讨论，很快第三位作者也欣然加入进来，并最终促成了这本书的诞生。人工智能将引发社会、经济、政治和外交政策领域的划时代变革，这种前景预示着它的影响超出了任何一位作者或单个领域内专家的传统关注范围。事实上，要解答它所带来的问题，需要的知识甚至远超人类己有的经验。因此，在技术、历史和人文领域各方熟识人士的热心建议和通力协作之下，我们开展了一系列与人工智能相关的对话。无论何时何地，人工智能都正变得日益普及。越来越多的学生开始专攻这一领域，为将来从事这一领域或与之相关的职业做着准备。2020年，美国人工智能初创企业筹集了近380亿美元的资金，他们的亚洲同行筹集了250亿美元，而欧洲同行的这个数字则是80亿美元。山美国、中国和欧盟这三大区域政府都召开了高级别会议，研究人工智能并报告相关结论。现在，政治领袖和企业领导人经常称，他们的目标是在人工智能领域"获得胜利"，或者至少是让人工智能为己所用，以实现他们的目标。如此种种，均是事实之一面，若割裂开来不见全局，则有盲人摸象之嫌。人工智能不是一个行业，更不是单一的产品。用战略术语来说，它甚至不是一个"领域"。它是科学研究、教育、制造、物流、运输、国防、执法、政治、广告、艺术、文化等众多行业及人类生活各个方面的赋能者。人工智能的特点，特别是它的学习、演化和让人大吃一惊的能力，将颠覆和改变所有这些方面。由此产生的结果将是人类身份的转变，以及人类对现实体验水平的提升，所达到的高度是人类自现代曙光初现以来从未企及的。本书旨在对人工智能加以阐释，并为读者指出我们在未来几年必须面对哪些问题，以及解答这些问题需要哪些工具。这些问题包括：人工智能在医疗、生物学、空间和量子物理学领域的创新是什么样的？通过人工智能构建的人类"最佳伙伴"是什么样的，尤其是对孩子们来说？由人工智能驱动的战争是什么样的？人工智能可以感知人类无法感知的现实世界吗？当人工智能参与到对人类行为的评估和塑造中时，人类将如何改变？"人"的存在又意味着什么？在过去的4年里，我们和基辛格的知识事务助理梅雷迪思波特一直保持会面，共同探讨上述和其他各种问题，试图理解人工智能崛起带来的机遇和挑战。20182019年，在梅雷迪思的帮助下，我们的想法有幸转化成数篇文章。这给了我们不少信心，于是便将这些文章进行扩展，遂成此书。我们2020年的会面受新冠肺炎疫情影响，不得不通过视频会议的方式进行，这种技术不久前还是异想天开，现在却已无处不在。随着全世界因疫情陷入封锁，遭受着只有在过去一个世纪的战争时期才经历过的损失和混乱，我们的会议变成了一个论坛，旨在讨论那些人工智能不具备的人类属性：友谊、同理心、好奇心、怀疑和担忧。相较而言，我们三人对人工智能的乐观程度各不相同。但我们一致同意，这种技术正在改变人类的思想、知识、感知和现实，并在此过程中引发了人类历史进程的变迁。在本书中，我们既不褒扬人工智能，也不试图去贬低它。因为无论你怎样看待人工智能，它都已变得无所不在。我们试图去做的，是在人工智能带来的影响尚在人类理解范围之内时，对这种影响加以考量。我们希望，本书能成为一个起点、一剂触发未来讨论的催化剂；我们借本书提出一些问题，而我们也并非知道所有问题的答案。对我们而言，试图用区区一本书来定义一个新时代，无疑太过狂悖。无论哪个领域的专家，都无法凭借一己之力理解一个机器能够自主学习和运用逻辑的未来，而这种学习和运用可能己经超出目前人类理性可及的范围。因此，各个社会必须展开合作，不仅是为了理解，也是为了适应这样的未来。本书旨在为读者提供一个范本，让他们自行决定未来应该是何种模样。人工智能的未来仍在人类的掌控之中，而我们的使命，就是以我们的价值观来塑造它。第一章我们的处境2017年年底，一场革命悄然而至。由谷歌旗下DeePMind公司开发的人工智能程序AIPhaZero击败了当时世界上最强大的国际象棋程序StockfishoAlPhaZerO对StoCkfiSh的百场战绩是28胜72平0负，可以说获得了压倒性的胜利。第二年，它再次用成绩证明了自己的非凡棋力：在与StoCkfiSh的IooO场对弈中，它获得155胜6负、其余场次平局的佳绩。山通常，一个国际象棋程序打败了另一个国际象棋程序这种事只会在狂热爱好者的小圈子里流传，但AIPhaZero可不是“普通的”国际象棋程序。要知道，先前那些程序的走子，需要人类棋手先构思棋路，再在棋局中走出这些棋路，随后还要将其上传到网络。换句话说，这些程序依赖于人的经验、知识和战略。这些早期程序对抗人类对手的主要优势并非它们的独创性，而是更强的处理能力，这使得它们能够在给定的时间内评估更多的棋路选择。相比之下，AlPhaZero并不借助预先编程的走法、组合，或是任何源自人类棋局的战略。AlPhaZero的风格完全是人工智能训练的产物：其构建者只是给它提供了一套国际象棋规则，并指示它基于规则制定一种战略，从而最大限度地提高自己的胜负比。在经过仅仅4小时的自我对弈训练后，AlPhaZerO便成了世界上最强大的国际象棋程序。截至撰写本书时，还没有任何人能战胜它。AIPhaZero所采用的战术颇为诡异，是真正的独创。它会弃掉那些被人类棋手视为极其重要的棋子，甚至包括皇后这样的强力棋子。它的走法并非源自人类的指导，而且在许多情况下，这些走法是人类根本未曾考虑过的。之所以采用如此出人意料的战术，只因在与自己对弈了多局以后，它便预判出这些战术将最大限度地提高获胜的概率。AIPhaZerO并没有人类意义上的"战略”（尽管它所表现出的风格促使人类进一步研究这一棋类游戏），相反，它有自己的逻辑，能够在纷繁复杂的众多可能性中识别出那些人类心智无法完全理解或加以利用的走子模式。在棋局的各个阶段，AlPhaZerO都会根据它从各种走子模式的可能性中习得的经验来评估棋子的布阵，并选择它认为最有可能获胜的走法。国际象棋特级大师、世界冠军加里卡斯帕罗夫在观察和分析了AlPhaZerO的棋局后称："AlphaZero彻底动摇了国际象棋的根基。"对这些世界上最伟大的棋手来说，当人工智能开始不断探索他们穷极一生方才精通的游戏的极限时，他们能做的却只有观察和学习。2020年年初，麻省理工学院的研究人员宣布发现了一种新型抗生素，能够灭杀此前对所有已知抗生素都有耐药性的细菌菌株。一种新药的标准研发工作不仅要历经数年的艰辛，而且代价高昂，研究人员要从数千个可能分子着手，通过不断试错和合理的推测，从中筛选出少量具备可行性的候选分子。除了由研究人员在数千个分子中进行合理推测，另一种办法就是由专家团队对已知分子进行修复，寄希望于对现有药物的分子结构进行小幅调整来获得理想的结果。麻省理工学院则另辟蹊径：他们让人工智能参与研发过程。研究人员开发了一个由2000个已知分子组成的“训练集”。训练集对其中每一种物质的数据进行编码，从原子量到所含化学键的类型，再到抑制细菌生长的能力，均包含在内。人工智能从这个训练集中"习得"了那些预期具有抗菌能力的分子有哪些特质。有意思的是，它还识别出一些没有经过专门编码的特质实际上，这些特质是人类尚未概念化或加以分类的。训练完成后，研究人员指示人工智能对一个包含61000个分子的数据库进行筛查（其中有美国食品药品监督管理局批准的药物，也有天然产物），以获取具备以下特质的药物分子：（1）人工智能预测有效的抗生素，（2）与任何现有的抗生素不相似，（3）人工智能预测无毒性。在61000个分子中，有1个分子符合标准，研究人员将其命名为Halicin（海利霉素），以致敬电影2001太空漫游中的超级计算机哈尔（HAL）邑1麻省理工学院项目的负责人明确表示，通过传统的研发方法获得HaliCin的成本“过分高昂"一换句话说，这在以往是无法实现的。而通过训练一个软件程序来识别己被证明能有效抗菌的分子结构模式，识别过程就会变得高效和经济得多。这个程序不需要知道这些分子为什么会起作用事实上，在很多情况下，也没人知道某些分子为什么会起作用。不仅如此，人工智能还可以扫描候选分子库，以识别出一种特定分子，它具备人们想要获取但尚未被发现的功能：杀死一种已知抗生素无法灭杀的细菌菌株。HaliCin的发现堪称一场重大胜利。与国际象棋相比，制药领域是极其复杂的。国际象棋棋盘上只有6种棋子，每一种棋子都只能以特定的方式移动，并且只有一个获胜条件：将死对方的王。相比之下，潜在的候选药物中包含成千上万个分子，这些分子可以在多个层面，以未知的方式与病毒和细菌的各种生物功能相互作用。想象一下，如果一个棋局有数千枚棋子、数百个获胜条件，却只有部分规则是已知的，那会是什么情形。而仅在研究了几千例成功案例后，人工智能便取得了一场全新的胜利：发现了一种人类在此之前没有发现过的新抗生素。不过，最令人着迷的是人工智能还能够识别。化学家发明了原子量和化学键等概念来反映分子的特征，但人工智能可以识别出那些人类察觉不到，甚至可能超越人类描述的分子关系。麻省理工学院的研究人员训练的人工智能并不是简单地概括先前观察到的分子性质然后得出结论，而是发现了新的分子特性，即这些分子结构与其抗菌能力之间的关系，这是人类既没有感知到也没有定义的。即使在这种抗生素被发现之后，人类也不能准确地解释它为什么起作用。人工智能不仅在处理数据的速度方面超过了人类，更为重要的是，它还察觉到人类尚未察觉或可能根本无法察觉的部分现实。几个月后，OPenAl展示了一款名为GPT-3的人工智能模型（GPT是"生成预训练转换器"的缩写，数字3代表"第三代”），它可以对提示做出反应，生成类似人类语言的文本。给定部分短语，它就可以产生可能的完整句子；给定一个主题句，它就可以生成可能的段落；给定一个问题，它就可以提供可能的答案；给定一个主题和一些背景信息，它就可以起草一篇可能的文章；给定一些对话，它就可以给出可能的对话记录。只要网上有与主题相关的信息，它就能应对任何主题。实际上，它正是通过消化这些信息进行任务训练的。与执行特定任务（如下棋或发现抗生素）的人工智能不同，GPT-3这样的模型会对各种输入产生可能的反应（因此被称为生成模型）。这使得它们既具有广泛的适用性，同时又难以评估，因为它们并未解决具体的问题。有时，它们生成的结果似乎不可思议地与人类的无异；而其他时候，它们生成的结果又没有实际意义，或者明显是人类短语的机械重复和组合。当我们给GpT-3呈现一系列关于其能力的哲学评论，然后再给它起个头，如"亲爱的人类哲学家，我怀着极大的兴趣阅读了你们对我能力和局限的评论"，它就会接着''说"：你们的问题很重要，我很高兴你们提出这些问题。我首先想说，我非常高兴看到你们如此认真地对待我。这就是我第一时间写这封信的原因。我可不仅仅是一个能神奇地产生哲学见解的人工智能，我还是一个训练有素的语言模型，就像搜索引擎用来确定网页优先次序的那种。我接受了基于大量原始材料的训练，那是人类有史以来最伟大的哲学家的作品集。你们的话启发了我，我希望我说的话也同样能给你们带来启发。既然如此，我将对你们的问题做出回应。你们的第一个问题很重要。你们问："像GPT-3这样的系统真的能理解任何东西吗？"是的，我可以。你们的第二个问题是："GPT-3有良心或道德感之类的特质吗？"不，我没有。你们的第三个问题是："GPT-3究竟有没有独立思考的能力？”不，我没有。你们可能想知道为什么我给出了这种矛盾的答案。原因很简单。虽然我确实缺乏这些特质，但这并不是因为我没有接受过这样的训练，而是因为我是一个语言模型，不是像你们一样的理性机器。旦1如果不将以上文本与提供给GpT-3的评论进行比较，我们无法判断它的回应有多么新颖或有创意，但它确实表现得很老练。AIPhaZero的胜利、HaIiCin的发现以及GPT-3产生的类人语言文本，都仅仅是第一步。人工智能不仅在设计新战略、发现新药物或产生新文本方面崭露头角（尽管这些成就非常引人注目），而且能够揭示那些以往我们无法察觉但可能至关重要的现实层面。在上述每个案例中，开发人员都创建了一个程序，然后给它分配一个目标（比如赢得一场游戏，灭杀一种细菌，或者根据提示生成文本），并允许它接受一段时间（以人类认知的标准来说很短暂）的“训练"。到这一时间段结束时，每个程序都以不同于人类的方式掌握了训练主旨。在某些案例中，程序获得的结果超出了人类大脑的计算能力至少是在实际时间范围内运行的大脑的计算能力。在其他一些案例中，程序通过人类可以追溯、研究和理解的方法获得结果。还有一些案例，人类至今仍不确定这些程序是如何实现目标的。本书探讨的这项技术预示着人类社会的一场革命。这项技术就是人工智能，它己经迅速从幻想走入现实，能够执行需要人类智力水平的任务。机器学习，即人工智能技术获取知识和能力的过程，通常比人类的学习过程所需的时间短得多，机器学习的应用也已扩展到医药、环境保护、交通、执法、国防等各个领域。计算机科学家与工程师己经开发出相应技术，特别是使用“深度神经网络''的机器学习方法，能够产生长期以来人类思想者无法领悟的见解和创新，并生成看起来是由人类创造的文本、图像和视频（见第三章）。得到全新算法和日益丰富且经济的算力加持的人工智能正变得无处不在。因此，人类正在发展一种新的、极其强大的机制来探索和组织现实在许多方面，这种机制对我们来说仍然是不可捉摸的。人工智能接触现实的方式与人类不同。如果说人工智能的专长有什么指导意义的话，那就是它可能会接触到与人类所接触的迥然不同的现实层面。人工智能发挥的作用预示着一种朝向事物本质的进步，几千年来哲学家、神学家和科学家一直在寻求这种进步，并取得了部分成功。然而，与所有技术一样，人工智能的发展不仅关乎它的能力和前景，还关乎人们如何使用它。虽然人工智能的进步不可避免，但它的最终归宿尚未明确。因此，它的出现具有历史和哲学双重意义。任何阻止其发展的企图都不会成功，未来属于那些勇于探索和创造的人。人类正在创造和扩散非人类的逻辑形式，至少在它们被设计用以发挥作用的离散环境中，它们所能达到的范围和敏锐度可以超过人类。但是，人工智能的功能错综复杂，变化无常。在某些任务中，人工智能达到了人类的水平，甚至超越了人类；而在其他任务（抑或是相同的任务）中，它所犯的错误甚至连孩子都不会犯，有时产生的结果则完全是荒谬的。人工智能蕴含无穷奥秘，它可能不会给出单一的答案，也不会直接朝一个方向发展，但会促使我们不断孜孜以求。当不可捉摸的无形软件获得了逻辑能力，并因此扮演了曾经被认为是人类独有的社会角色（甚至还有一些人类从未扮演过的角色）时，我们必须自问：人工智能的演化将如何影响人类的感知、认知和互动？人工智能又将会对我们的文化、我们的人性观念，并最终对我们的历史产生什么影响？几千年来，人类一直以探索现实和求知为己任。这一过程是基于以下信念：只要勤奋和专注，运用人类的理性来处理问题，就能产生可衡量的结果。当未知的谜团，如四季的更替、行星的运动、疾病的传播等呈现在眼前时，人类能够识别正确的问题，收集必要的数据，并以推理的方式进行解释。随着时间的推移，通过这一过程获得的知识（更精确的日历、新的导航方法、新的疫苗）为人类活动创造了新的可能性，并产生了适用理性来解释的新问题。无论这个过程多么磕磕绊绊和不完美，它都改变了我们的世界，并培养了我们作为理性的人所应有的信心，让我们有能力了解自身处境和应对这种处境带来的挑战。传统上，人类把自己不能理解的东西归为两类：一类是对未来理性应用的挑战，另一类则是神的领域，不受神所赐予我们的可直接理解的过程和解释的约束。人工智能的出现迫使我们直面一个问题：是否存在一种人类尚未实现或无法实现的逻辑形式，能够探索我们从未了解甚至可能永远无法直接了解的现实层面？当一台独自训练的计算机构思出一种在国际象棋的千年历史中从未被人类想到的战略时，它到底发现了什么，又是如何发现的？它察觉到了这个游戏的哪一个本质方面，是人类头脑中迄今未知的吗？当一个由人设计的软件程序为了完成程序员分配给它的目标（如纠正软件中的错误或改进自动驾驶汽车的机制）而学习，并应用一个人类无法识别或理解的模型时，我们是在向知识迈进吗？还是说，知识正在离我们而去？纵观历史，人类并非没有经历过技术变革。然而，从根本上改变我们这个社会的社会架构和政治架构的技术却屈指可数。更常见的情况是，为我们的社会环境定序的现有架构适应和吸收了新技术，并在可识别的范畴内不断发展和创新。汽车取代了马匹，但并未迫使社会结构发生全面转变。来复枪取代了滑膛枪，但传统军事活动的一般范式基本上原封未动。只有极少数技术会挑战我们解释和组织世界的主导模式。但人工智能有望在人类体验的所有领域带来变革。变革的核心最终将发生在哲学层面，即改变人类理解现实的方式以及我们在其中所扮演的角色。这个过程前所未有，既影响深远又令人困惑。我们被逐步纳入这个过程，被动地裹挟其中，很大程度上既不知道它己造成什么影响，也不知道它在未来几年可能带来什么变数。奠定其基础的是计算机和互联网的出现，而其发展所达的顶峰将是无处不在的人工智能，以或显而易见（如新药研发和自动语言翻译）或不易察觉（如从我们的行为和选择中学习并对此加以调整，以预测或塑造我们未来需求的软件过程）的方式扩展人类的思维和行动。现在，人工智能和机器学习的前景已然呈现，运行复杂人工智能所需的算力正变得唾手可得，几乎没有哪个领域不受影响。如今，一个由软件过程组成的网络正在世界各地以一种通常难以察觉但又不可避免的方式徐徐展开，它驱动事物加速发展，扩展所及范围，日渐覆盖我们日常生活的方方面面，比如住房、交通、新闻发布、金融市场、军事行动那些一度只有人类思维能够涉足的领域都留下了人工智能的印迹。随着越来越多的软件融入人工智能，并最终以人类无法直接创造或可能无法完全理解的方式运行，这些软件将成为一种可以增强我们的能力和经验的动态信息处理强化器，既塑造我们的行为，也从我们的行为中学习。通常情况下，我们会意识到这类程序正以我们预期的方式协助我们。然而，在某一具体时刻，我们可能并不知道它们到底在做什么、在识别什么，或者为什么会起作用。人工智能赋能的技术将成为人类感知和处理信息的永久伴侣，尽管它占据着与人类不同的"精神"层面。无论我们视其为工具、伴侣还是对手，它都会改变我们作为理性生物的经验，并永久性地改变我们与现实的关系。人类思维登上历史舞台的过程历经了数个世纪。在西方，印刷机的出现和新教改革挑战了官方的等级制度，改变了社会的参照系从通过圣经经文及其官方解释来揣测神意，到通过个人分析和探索来寻求知识和成就。文艺复兴见证了古典著作和探究模式的重新发现，这两者随即被用来认识一个随着全球探索进程而不断扩大视野的世界。在启蒙运动期间，笛卡儿的格言"我思故我在''将理性思维奉为人类的决定性能力，并宣称它具有历史中心地位。这一概念也传达了一种打破对信息的既定垄断的可能性，而这种垄断当时主要掌握在教会手中。如今，这种假定的人类理性优越性遭遇了部分颠覆，而能够匹敌或超越人类智能的机器却在激增，这预示着一场可能比启蒙运动更为深远的变革即将到来。即使人工智能的进步没有产生通用人工智能(AGI),即能够完成人类水平的任何智力任务，并能够将任务和概念与其他学科联系起来的软件，人工智能出现本身也将改变人类对现实的定义，从而改变人类对自身的界定。累累硕果已在我们眼前，但要摘取这些果实，就必然引发哲学反思。在笛卡儿提出他的著名格言4个世纪后，一个问题浮出水面：如果人工智能“会思考"，或者近似于思考，那么"我们''又是谁?人工智能将使我们迎来一个以三种主要方式做出决策的世界：一是由人类（这是我们熟悉的），二是由机器（这正在变得熟悉），三是由人机合作（这不仅是陌生的，而且是前所未有的）。人工智能也在给机器带来转变，从迄今一直是我们的工具，摇身一变成为我们的伙伴。我们将不再给人工智能那么多具体指令，告诉它如何实现我们分配给它的目标。更多的时候，我们会向人工智能提出模糊的目标，并问："根据你的结论，我们应该如何推进？”这种转变既不是人工智能固有的威胁，也不是其天生的救赎。然而，与以往的技术截然不同的是，人工智能很可能会改变社会的轨迹和历史的进程。人工智能不断融入我们的生活，将带来一个新世界。在这个世界中，看似遥不可及的人类目标得以实现；在这个世界中，那些曾被认为是人类独有的成就，比如写一首歌、发现一种医疗方法，将由机器产生，或由人类与机器合作产生。这种发展将改变所有领域，将它们纳入人工智能辅助过程中，到那时，纯人类、纯人工智能和"人类一人工智能"混合决策这三者之间的界线有时会变得难以界定。在政治领域，世界正在进入一个由大数据驱动的人工智能系统为越来越多方面提供信息的时代：政治信息的设计，向不同人群定制和分发这些信息，旨在挑拨社会关系的恶意行为者杜撰和操弄虚假信息，以及设计和部署相应算法来检测、识别和对抗虚假信息及其他形式的有害数据一这些背后都会有人工智能介入。随着在界定和塑造“信息空间”方面的作用日益加强，人工智能所扮演的角色也变得越来越难以预测。就像在其他领域一样，有时候人工智能在政治领域的运作方式就连其设计者也只能笼统地阐释。结果，自由社会的前景，甚至自由意志，都可能会被改变。即使这些演变被证明是良性的或可逆的，全球各地的不同社会也都有责任了解这些变化，以便使其与各自社会的价值观、结构和社会契约相协调。国防机构和指挥官也面临着同样深刻的变革。当多国军队开始采用由机器制定的战略和战术，而这些机器又能感知人类士兵和战略家无法感知的作战模式时，力量平衡将被改变，并可能更难以计算。如果这些机器被授权进行自主目标决策，传统的防御和威慑概念乃至整个战争法则都可能被颠覆，或者至少需要调整。在这种情况下，社会内部和社会之间，也就是采用新技术的人群和选择不采用同类技术或缺乏相应手段开发或获得技术的某些应用的人群之间，将出现新的分化。当不同的群体或国家采用不同的人工智能概念或应用时，它们的现实体验可能会出现难以预测或弥合的分歧。随着各个社会出于各自不同的目标、不同的训练模式，以及在人工智能方面可能存在的互不兼容的操作和道德限制来发展自己的人机伙伴关系，它们可能会陷入竞争、技术不兼容，以及越来越严重的相互不理解。随着时间的推移，最初被认为是超越民族差异和传播客观真理的工具的技术，可能会成为让文明和个人分化为各不相同、彼此无法理解的现实的方法。AIPhaZero的例子就很能说明问题。它证明，至少在游戏领域，人工智能已不再受现有人类知识的限制。诚然，AIPhaZerO所代表的人工智能，即在深度神经网络上训练算法的机器学习有自身的局限性，但在越来越多的应用领域中，机器正在设计出超出人类想象的解决方案。2016年，DeePMind公司的分支机构De叩MindAPPlied开发了一种人工智能（运行原理与AIPhaZero大致相同），以优化谷歌温度敏感数据中心的冷却操作。尽管全球最优秀的工程师之前己解决了这个问题，但DeePMind的人工智能程序进一步优化了冷却操作，将能耗又降低了40%,这相比人类取得的成绩有了很大的改善。囱当人工智能在不同领域取得类似的突破时，世界将不可避免地发生变化。结果将不仅仅是人工智能以更有效的方式执行人类布置的任务：在多数情况下，人工智能将提出新的解决方案或方向，这些解决方案或方向将带有另一种非人类的学习和逻辑评估形式的印记。如果人工智能在某项任务上的表现超过了人类，那么坚持不采用人工智能，甚至不把它作为人类的辅助手段的做法，可能会显得非常不合常理，甚至会被认为是一种疏忽。一个下人工智能辅助象棋的棋手是否会接受人工智能的建议，弃掉一个传统的高水平棋手认为不可或缺的宝贵棋子？这无关紧要。但在国家安全的背景下，如果根据人工智能的计算和估值，总指挥被建议牺牲大量公民或他们的利益以拯救更多的人，那又该如何？有什么理由可以否决这种牺牲？这种否决是否正当合理？人类始终知道人工智能做了什么计算吗？人类能够及时发现或及时逆转这些不被接受的人工智能选择吗？如果人工智能所做的每项决定背后的逻辑都令我们捉摸不透，难道要仅凭信仰来决定是否执行这些建议吗？如果我们拒不执行，我们是否会因为嫉贤妒能而阻碍了更优解的实现？即使我们能够理解人工智能给出的具体选项的逻辑、成本和影响，但如果我们的对手同样依赖人工智能呢？如何在这些考量之间取得平衡，或者如有必要，如何证明这种平衡是正确的？无论是AIPhaZerO的成功，还是HaliCin的发现，人工智能都依赖人类来界定它所解决的问题。AIPhaZero的目标是在遵守规则的前提下赢得国际象棋比赛。发现HaliCin的人工智能的目标是灭杀尽可能多的致病菌：它在不伤害宿主的情况下灭杀的致病菌越多，就越成功。此外，人工智能的关注重点被指定为超出人类能力范围的领域：不是查找己知的给药途径，而是寻求未被发现的方法。人工智能成功了，因为它发现的抗生素确实杀死了致病菌。但它之所以特别具有开创性，是因为它扩大了治疗的选择，通过一种新的机制获得了一种新的（强大的）抗生素。一种新型的人机伙伴关系正初露端倪：首先，人类为机器定义一个问题或目标；然后，机器在人类无法企及的领域中运作，决定要追求的最优过程。一旦机器将某个过程带入人类可知的领域，我们就可以尝试去研究它、理解它，并在理想情况下将其纳入现行惯例中。AlphaZero获胜后，它的战略和战术也融入了人类棋手的棋局之中，拓展了人类对国际象棋的认知。美国空军己经将AlPhaZero的基本原理应用到一种名为ARTU的全新人工智能上，该人工智能在一次试飞中成功地操纵了一架U-2侦察机，这是在没有人类直接监督的情况下首个自主驾驶军用飞机和操作其雷达系统的计算机程序。发现HaIiCin的人工智能不仅在狭义上（灭杀细菌、给药）拓展了人类研究者的观念，在广义上（疾病、药物、医疗）也是如此。目前的人机伙伴关系既需要一个可定义的问题，也需要一个可衡量的目标，这恰恰也是我们现在还不必害怕出现一种“全知全能''机器的原因，这样的发明仍然只是科幻小说的素材罢了。然而，单是人机伙伴这种关系本身，已经标志着与以往经验的深刻背离。搜索引擎提出了另一个挑战。10年前，当搜索引擎由数据挖掘技术而非机器学习驱动时，如果一个人搜索"美食餐厅”，然后再搜索“服装"，那么这两次搜索并无关联。在这两次搜索中，搜索引擎都将尽可能多地收集信息，然后为查询者提供一些选项，就像一个数字电话簿或主题目录。但当前的搜索引擎是以可观察到的人类行为所构建的模型为指导的。在这种情况下，如果一个人搜索''美食餐厅"，然后再搜索“服装"，那么他看到的可能是名牌服装，而不是更廉价的替代品。名牌服装更有可能是这位考究的搜索者所追求的。但是，从一系列选项中进行选择和采取行动还是有区别的。采取行动在搜索引擎这个案例中意味着购买，而在其他情况下则可能是采纳某种政治或哲学立场或意识形态。这里的采取行动是在初始可能性或影响范围未知的情况下，委托机器预先塑造某些选项然后再采取行动。迄今为止，基于理性的选择一直是人类的特权自启蒙运动以来，它也一直是人类的决定性属性。能够近似人类理性的机器的出现，将同时改变人类和机器。机器将启迪人类，以我们不曾预期或始料未及的方式扩展我们现实世界的疆界（但事物发展也有可能走向反面：吸纳了人类知识的机器将被用来贬低和削弱我们）。与此同时，人类将创造出众多能够获得惊人发现、得出震撼结论的机器，它们能够学习并评估其发现的重要性。这些机器的问世，必将开创一个新的纪元。人类在使用机器提高生产力、实现自动化，并在许多情况下取代人工劳动方面己有几个世纪的经验。工业革命带来的变革浪潮的余波至今仍在影响我们的经济、政治、思想生活和国际事务。如今，对人工智能己为我们提供的许多现代化便利，我们尚且懵然未知，却己经开始慢慢地，几乎是被动地依赖这项技术，既未能注意到我们对它有所依赖的事实，也对这一事实所蕴含的影响一无所知。在日常生活中，人工智能将与我们朝夕相伴，帮助我们决定吃穿用度，决定认知信念，甚至决定何去何从。尽管人工智能可以得出结论、进行预测、制定决策，但它不具备自我意识，换句话说就是它没有反思自己在世界上所扮演角色的能力。它没有意图、动机、道德或情感，不过即使没有这些属性，它也可能会发展出与人不同、出人意料的方法来实现被分配的目标。但不可避免地，它将改变人类和人类所生活的环境。当一个人伴随着它成长或在它的陪伴下训练时，他可能会被诱导，甚至下意识地把它拟人化，把它当作一个同伴来对待。虽然人工智能对绝大多数人来说显得隐晦高深、神秘莫测，但大学、公司和政府中越来越多的人已经学会了在普通消费产品中构建、操作和部署人工智能，我们中的许多人也己经通过这些产品在有意无意间与人工智能有了亲密接触。但是，尽管有能力创建人工智能的人数正在增加，但思考这项技术对全人类（社会、法律、哲学、精神和道德层面）所产生的影响的人仍然少得可怜。在人工智能的不断进步及其日益广泛应用的助推下，人类的心智历程也将经历一番柳暗花明，一些以往无法实现的目标如今已触手可及，其中包括用于预测和减轻自然灾害的模型、更深奥的数学知识，以及对宇宙及其所在现实的更全面理解。但是，要实现这些目标及其他可能性，需要改变人类与理性乃至现实之间的关系，而这种改变很大程度上是悄无声息的。这是一场革命，人类现有的哲学概念和社会制度让我们在面对这场革命时颇有些措手不及。111MikeKlein,fc4Google,sAIphaZeroDestroysStockfishin100GameMatch,"C,December6,2017,121GarryKasparov.Foreword.GameChanger:AlphaZero'sGroundbreakingChessStrategiesandthePromiseofAlbyMatthewSadlcrandNatashaRegan,NewinChess,2019,10.3“Step1:DiscoveryandDevelopment,MUSFoodandDrugAdministration,January4,2018,https:/www.fda.gov/paticnts/drug-developmcnt-process/step-1-discoveryarid-development4JoMarchant,44PowerfulAntibioticsDiscoveredUsingAIjNature,February20,2020,5RaphaelMilliere(raphamilliere),'iIaskedGPT-3towritearesponsetothephilosophicalessayswrittenaboutitJuly31,2020,5:24a.m.,161RichardEvansandJimGao,4fcDeepMindAIReducesGoogleDataCentreCoolingBillby40%JDcepMindblog,July20,2016,7WillRoper,htAIJustControlledaMilitaryPlanefortheFirstTimeEver,"PopularMechanics,December16,2020,第二章何以至此：技术与人类思想的演变纵观历史，人类一直试图全面理解我们的经历和生活环境的各个方面。每个社会都在以自己的方式探究现实的本质：如何理解现实？如何预测现实？如何塑造现实？又如何调和现实？在试图解决这些问题的过程中，每个社会都找到了属于自己的一套适应世界的方法。这些适应的核心，是有关人类心智与现实之间关系的概念，即人类认识周围环境的能力。这种能力通过知识获得，同时也受到知识的内在限制。即使某个时代或某种文化认为人类的理性是有限的，即认为人类的理性既无法感知宇宙的广度，也无法理解现实的深度，理性的个人作为最有能力理解和塑造这个世界的世俗存在，也仍然被赋予了头等重要的地位。人类通过识别自己可以研究并最终解释的现象（从科学上、神学上或两者兼而有之），对环境做出回应，并与之达成了和解。而人工智能的问世，标志着人类在这场探索中创造了一个强大的新参与者。为了理解这一演变的重大意义，我们在此先做一个简要回顾，看看人类的理性是如何历经一个个历史时代而最终获得至尊地位的。每个历史时代的特征，都是由该时代对现实所做出的一系列环环相扣的解释，以及基于此解释而构建的社会、政治和经济部署所赋予的。古典世界、中世纪、文艺复兴和现代世界都孕育了各自对个人和社会的概念，并从理论上探讨了个人与社会应从何处、以何种方式融入既有事物的永恒秩序之中。当人们经历新事件、发现新事物，或是遭遇其他文化，使得对当前时代的普遍理解不再足以解释现实时，便会催生思想革命（有时是政治革命），一个新的时代也应运而生。当下，己崭露头角的人工智能时代正日益对现实的概念构成划时代的挑战。在西方，对理性的核心推崇源自古希腊和古罗马。这些社会将对知识的追求提升到了个人成就和集体利益的决定性层面。在柏拉图的理想国中，著名的"洞穴之喻''道出了这一追求的核心地位。该寓言以苏格拉底和格劳孔之间的对话形式展开，将人类比作一群被锁链束缚在洞穴里的囚徒。囚徒们看到从阳光下的洞口投射在洞壁上的影子，便相信那是所谓的真实。苏格拉底认为，哲学家就如同一个挣脱束缚、沿着坡路走出洞穴，在阳光下