……我们正在接近人类历史的一个关键节点，这一节点决定着人类命运的未来走向。我们已被人工智能包围，生活中的一切都将改变。AI将组织我们的生活，经营我们的生意，管理核心的政府服务。我们将生活在一个有DNA打印机、量子计算机和机器人助手的能源丰富的世界里。

  作为开创性的人工智能公司DeepMind的联合发起人和微软人工智能的CEO，作者穆斯塔法·苏莱曼长期处在这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。在这本书中，苏莱曼以通俗易懂、冷静犀利的笔触，展示了这些力量将如何创造巨大的繁荣，又将如何威胁到作为全球秩序基础的民族国家。他既引领我们不难发现激进技术变革的历史，又引领我们面对深刻的社会挑战。

  这本书为咱们提供了一剂现实的镇静剂，逻辑清晰地描述了当前的技术冲击，又不乏新意和趣味，引人深思。

  l曾与戴密斯·哈萨比斯等联合创办人工智能公司DeepMind，后任谷歌公司AI产品与政策副总裁。

  l2022年，与领英联合创始人里德·霍夫曼等共同创办了Inflection AI，该公司获得高达13亿美元的投资，估值一举突破40亿美元。

  l2023年和2024年，两次入选《时代》周刊发布的全球“百大AI影响力人物”榜单。

  作家、数字出版人、咨询顾问和企业家，曾为《卫报》《金融时报》《连线》等撰稿。

  国内外40位知名企业家、科技专家、历史学家、哲学家、国际关系学者、高校教授联合推荐！

  《浪潮将至》是一本引人入胜、文笔优美、意义重大的书。该书探索了AI和生物技术给人类生存带来的威胁，并提出了应对这些威胁的实用方案。马上就要来临的技术浪潮预示着人类将拥有近乎神的创造力，但如果我们处理不当，这股力量也可能毁灭我们自己。

  这本书深入剖析了近年来激动人心的科学进步背后隐藏的威胁与机遇，不仅充满了有趣的事实、引人深思的论点，更有诸多令人信服的观察，值得一读。

  穆斯塔法·苏莱曼无疑是更接近正在发生的人工智能革命的人，也可以深入剖析当前巨大技术变革所带来的风险与机遇的人。这本指南非同寻常，引领我们深入探索人类历史中的这一独特时刻。

  技术正在飞速改变社会，因此，现在看到科技界人士能以如此真诚和严谨的态度进行写作，比以往任何一个时间里都更加难得。这本书从远古的工具讲起，一直带我们走进当前人工智能能力和研究蒸蒸日上的核心地带，不仅是一次全面的概览，更是一次振聋发聩的号召，让人无法忽视。

  《浪潮将至》以敏锐、坚定和富有同情心的笔触，剖析了我们这个时代的重要问题。对科技从业者来说，这本书值得阅读。但更重要的是，它向我们每一个人发出了明确的行动号召，呼吁我们共同参与这场意义重大的讨论。

  人工智能与生物技术即将掀起一场新的技术浪潮。一方面，这些技术会给人类带来非常大的利益，推动社会的进步与发展。另一方面，这些技术也存在严重的风险。怎么样应对这种困境？作者觉得，我们既要积极拥抱这些技术，又需制定周密的遏制策略和安全措施，以保证新技术的健康发展。作者引用历史上发生过的几次技术浪潮及其相关的数据来证明他们的观点，因此书中提出的见解是深刻和有说服力的，具有很大的参考价值。

  这本书围绕着两个核心的话题和概念展开，一个是“浪潮”，一个是“遏制”。作者把当下的前沿新科技比喻成马上就要来临的技术浪潮，并类比国际政治领域的“遏制”，创造性地提出了科技领域的“遏制问题”——如何在享受技术带来的巨大利益的同时，保持对强大技术的约束和控制。难能可贵的是，作者探索出了一系列“遏制浪潮”的步骤，既展示了强大技术创造的巨大繁荣，又引领我们直面技术的重大威胁，为咱们提供了一套切实可行的应对策略。

  这本畅销书的主题是，以通用AI和合成生物学为核心的新的技术浪潮将给人类社会带来空前的巨大风险。作者穆斯塔法·苏莱曼是一位有着叙利亚血统的英国人，早年在伦敦市长办公室工作，参与过气候变化的谈判，后来参与创建DeepMind等几家知名人工智能公司。他以独特的视角旁征博引，向读者描述了各种风险的真实性，并呼吁启动人工智能安全与生物安全的阿波罗计划。这本书既有技术深度，又有人文情怀，值得深读！

  穆斯塔法·苏莱曼动用了我们非常熟悉的浪潮隐喻，来总结人类的技术野心：人类先是操控原子世界，然后把玩比特世界，但犹自不满足，现在正努力创造新形式的生物生命。他声称自己不是技术决定论者，但隐喻的选择暴露了他难以逃脱干系，因为我们都知道，浪潮隐喻的核心是认为有一股巨大的力量不可阻挡地袭来，而人却在其面前畏缩不前。作者显然预见到了这种问题，因此把书的最后落脚点放在了“遏制”策略上，并提出了10步操作法。可是，到底如何遏制看似无法遏制的东西呢？任何一个大力推动了人工智能的进展又反过来警告人工智能的风险的人，大概都像人工智能技术本身一样是个矛盾体。你读到了一本既批评人工智能炒作又批评人工智能厄运预言的书，只不过这一次的这位作者的确是个行家。

  正如这本书的书名所说的那样，人工智能引发的浪潮已然轰鸣而至。面对浪潮，每个人都不免既有兴奋期待，又有忐忑不安。这本书的作者站在全球高度和人类技术史的角度，为我们的这种兴奋期待和忐忑不安，提供了更加深入的视角和更加深刻的洞察。此书值得所有关注人工智能的人阅读和思考。

  AI和生物技术正在崛起，它们不仅会给我们的生活带来巨大的积极改变，也会像核弹爆炸一样影响人类的生存和发展，我们如何应对？这本书检视了新技术浪潮的前世今生，提出了遏制技术负面影响的路线图，是一本难得的好书。

  这是一个来自DeepMind联合创始人、微软人工智能CEO的紧急警告！人工智能和其他快速发展的技术在带来巨大繁荣的同时，也对全球秩序构成威胁，我们如何在还有机会的时候控制它们？这本出自专业人士之手的书提供了宝贵的思路和建议。无论你是科技行业的从业者、研究者，还是正在寻找新机会的投资人，这本书都能为你提供深刻的洞见。

  科技无比狂野，已临近人类能动性和控制力的极限。《浪潮将至》一书，力图直面这一难以驾驭但又必须驾驭的狂潮，探讨科技智人如何拥抱深度科技化时代，走向更人性化和繁荣的未来。

  无论是自然界还是科技界的浪潮，机遇与风险挑战都是并存的。这本书以人工智能和合成生命为代表，探讨了科技浪潮的特征与广泛影响。科技创新者对潜在风险和应对途径的反思应成为浪潮之中所有创新者的基因。我们能否准确地预测科技发展？答案很可能是否定的。但是，我们能否因此放弃对可能出现的科技安全风险的防范？答案再一次是否定的！相较而言，人类很难驾驭自然界中的浪潮，但人类有能力也有义务塑造科技浪潮。科技的弄潮儿不仅仅是某个人，正如这本书中描述的，这需要研发者、企业、政府、民众、联盟等深度协作。面对科技浪潮，全世界需携手迎潮而上，谨慎驾驭，才能使人类发展借浪潮腾飞。

  人工智能与合成生物学这两项颠覆性技术将深刻影响全人类的未来。一方面，它们作为新质生产力的代表，有望带来巨大的经济与社会效益；另一方面，“双刃剑”技术将带来一系列重大的安全和伦理挑战，我们必须确保不出现超出人类掌控的风险。这本书深入剖析了这两大技术的指数级发展趋势，为读者提供了思考和应对技术浪潮的重要视角。

  这部作品犹如来自未来的警钟，揭示了即将到来的变革以及可能引发的全球经济和政治影响。书中蕴含的洞见和前瞻性不容小觑。作者作为行业专家，其论点颇具说服力，足以重塑你对未来的感知，并转变你对当前局势的理解。

  穆斯塔法·苏莱曼以身为技术专家、企业家和未来洞察者的独特视角，为我们提供了十分重要的见解。这本书研究深入，紧贴时代脉搏，对当前一些紧迫的挑战进行了引人入胜的深刻洞察。

  在这本勇气之作中，高科技界的资深人士穆斯塔法·苏莱曼深刻剖析了我们这个时代棘手的问题：我们必须遏制那些似乎不可遏制的技术。他指出，生成式人工智能、合成生物学、机器人技术等一系列新兴技术正在迅速发展和传播，不仅带来了巨大利益，也伴随着日益增加的风险。苏莱曼深知，管理这些风险并非易事，没有简单的解决方案，但他敢于面对现实，坦诚相告。这本书是真实的、充满激情的，直面我们这一代人将面临的重要挑战。感谢苏莱曼，让我们看清了现状，也明白了自己的选择。现在，该轮到我们采取行动了。

  人工智能革命正在进行中，但我们对它的理解究竟有多深？《浪潮将至》是一本内容广博、逻辑清晰的指南，既介绍了激进技术变革的历史，也介绍了未来面临的深刻政治挑战。

  这真是一本具有非凡意义且不可或缺的好书。想象一下，20年后，这本书的内容或许是对未来的保守预测，但现在读来，我几乎每隔几页就会停下，并惊叹：这真的会发生吗？这本书的绝妙之处在于，它冷静而温柔地向我们确认，这一切都会成真，并细致阐释了实现的原因与路径。其文风温和亲切，透出对读者感受的同情与理解。书中不乏令人胆寒的章节，毕竟当意识到众多熟悉的事物即将发生巨变时，恐惧是不可避免的。但读完之后，人们会感到充满能量，为能活在这样一个时代而感到兴奋。浪潮将至，此书便是我们的先兆与指南。

  《浪潮将至》一书针对人工智能、合成生物学等先进技术可能带来的意外的灾难性后果，给出了我们急需的明确指引、现实分析和清晰解释。这本重要著作就像一张生动且颇具说服力的路线图，为我们指明了主动引导技术创新，而不是被动接受技术控制的道路。

  在《浪潮将至》一书中，穆斯塔法·苏莱曼提出了一个强有力的论点，即当今技术革命的爆炸性发展，注定会带来颠覆性影响。这本不可多得的著作将帮助你洞悉这些技术发展的速度和规模——它们将如何在我们社会中广泛传播，以及它们对于构建我们这个世界的组织机构所带来的潜在挑战。

  这本书非常重要，既振奋人心又令人警醒。对不了解当前技术革命的人来说，它是一次至关重要的启蒙；对已经有所了解的人来说，它则是一次直面挑战的机会。这本书关乎我们每个人的未来，因此我们需要仔细阅读，并根据其指引行动起来。

  穆斯塔法·苏莱曼坦率地评价了人工智能的潜在风险与令人惊叹的可能性。他提出了一个紧迫的议题，即政府需要迅速采取行动，限制这一革命性技术可能带来的具有灾难性的应用。

  指数级发展的技术让我们既惊叹于其力量，又对其潜在风险感到忧虑。穆斯塔法·苏莱曼在梳理工业发展历史的过程中，以冷静、务实且充满道德洞察力的笔触，描述了技术进步的惊人速度。他的个人经历为《浪潮将至》一书增添了丰富色彩，使其成为一本引人入胜的读物，特别适合那些希望从日常科技新闻洪流中抽身出来的人。

  这本书深入探讨了人工智能目前的新进展以及未来呈指数级增长的趋势，由资深人士撰写，颇具说服力……如果你渴望了解社会应如何稳妥地应对这种颠覆性的技术，那么这本书绝对值得一读。

  人工智能与合成生物学的浪潮即将袭来，它们将共同塑造下一个十年，那将是人类历史上辉煌的时代，也可能是动荡的时代。而在这波澜壮阔的时代变革面前，穆斯塔法·苏莱曼无疑是能洞悉并解读其中挑战的人。这本书不仅引人深思，而且颇具紧迫感，语言既有力又通俗易懂。对想了解这些技术巨大潜力的读者来说，这本书不容错过。

  ——埃里克·布莱恩约弗森麻省理工学院斯隆管理学院教授，《第二次机器革命》作者

  当今世界正面临着一个巨大的挑战：如何设计一种治理方式，既能充分发挥人工智能和生物技术的优势，又能避免它们可能带来的灾难性风险。这本书对这两种技术所构成的“遏制挑战”进行了深入而细致的剖析。它研究详尽，见解独到，为政策制定者和安全专家提供了诸多具有建设性的建议。

  如果你想了解正在涌现并汇集成主流的变革性技术浪潮的含义、前景与潜在风险，那么这本书非常值得一读。它是由人工智能领域的先锋人物之一穆斯塔法·苏莱曼所撰写的，内容充实且充满惊喜，定会让你受益匪浅。

  《浪潮将至》一书文字清晰流畅，研究深入且易于阅读，堪称来自技术革命前沿的佳作。书中巧妙地将个人与科技的故事交织在一起，深刻剖析了为何对强大技术的有效治理至关重要且颇具挑战。

  这本书提供了人工智能对人类未来意义的深刻剖析。穆斯塔法·苏莱曼作为两家当代重要的人工智能公司的联合创始人，其独特性不言而喻。他是一位颇具天赋的创业者，一位见解独到的思想家，也是即将到来的技术浪潮中重要的号召者。

  《浪潮将至》一书用引人深思、令人信服的观点阐述了先进科技正在重塑社会的方方面面：权力、财富、战争、工作，甚至是人际关系。我们能否在这些新技术控制我们之前先掌控它们？穆斯塔法·苏莱曼不仅是人工智能领域的代表人物，也是长期呼吁政府、大型科技公司和公民社会为共同利益而行动的倡导者，他是解答这一重要问题的合适人选。

  苏莱曼以其独特的视角，深刻剖析了人工智能和合成生物学无节制发展可能带来的严重后果——地缘政治动荡、战争威胁、国家主权的侵蚀。特别是在我们迫切需要警醒的当下，他的观点尤为宝贵。更为难得的是，苏莱曼不仅提出了问题，还深入思考了解决之道。他提出了一系列切实可行的技术治理措施，这些措施如果能够得到大家的共同推进，将有望改变这些技术的开发和传播环境，为我们通向更加光明的未来开辟道路。这本书值得每一个人去阅读。

  这本书就像一记警钟，需要我们每一个人响应，否则我们会追悔莫及……穆斯塔法·苏莱曼以清晰易懂的语言，阐述了失控技术带来的风险以及人类面临的挑战。

  这是一份既实用又充满希望的、针对我们这个时代紧要问题的行动指南：如何掌控那些比我们自身强大得多的实体。

  《浪潮将至》一书以现实、深刻而易于理解的方式，揭示了人工智能和合成生物学所带来的空前的治理挑战和国家安全挑战。苏莱曼的这本引人深思且令人震撼的著作，详细阐述了我们该如何应对这些看似无法遏制的技术。

  《浪潮将至》一书精彩纷呈，引人入胜，既复杂又清晰，既紧迫又冷静。它引导我们深入思考和面对这个时代至关重要的问题：如何确保即将到来的、令人惊叹的、迅猛发展的科技革命，如人工智能、合成生物学等，能够塑造出我们向往的世界？这绝非易事，但苏莱曼为我们提供了坚实的基础。每一个关心未来的人都应该阅读这本书。

  ——埃里克·兰德麻省理工学院-哈佛大学博德研究所创始主任，白宫前科学顾问

  《浪潮将至》一书以清晰、深刻的笔触，恰到好处地展现了我们当前的技术困境，并深刻地揭示了当前时代的核心挑战。这本书的姿态务实又谦逊，它提醒我们：没有绝对的黑白，也没有简单的答案。技术虽然提升了我们的生活福祉，但它的发展速度远远超过了机构的适应能力。人工智能和合成生物学的进步，解锁了连科幻小说都未提及的能力，然而这种权力的扩散却威胁着我们的一切成就。为了在这个瞬息万变的世界中立足，我们必须在潜在的灾难与无处不在的监控之间找到平衡。每翻过一页，我们就离成功更进一步。

  据古印度教文献记载，宇宙中的第一个人类摩奴曾得到大洪水即将来临的警告，并成为唯一的幸存者。在《吉尔伽美什史诗》中，恩利尔神以一场大洪水摧毁了世界，这个故事不免让熟悉《圣经·旧约》中挪亚方舟故事的人感到似曾相识。柏拉图曾提及消失的城市亚特兰蒂斯，它被一场巨大的洪水吞噬。人类的口述传统和古代文献中弥漫着这样一个主题：一场巨浪席卷一切，随之而来的是世界的重塑和重生。

  洪水在历史上也留下了真实的印记—无论是世界巨大河流的季节性泛滥，冰期结束后海平面的上升，还是地平线上突如其来的海啸冲击。导致恐龙灭绝的那颗小行星曾在地球上激起高达一英里a的巨浪，从此改变了进化的轨迹。这些浪潮的巨大力量已经深深烙印在我们的集体意识之中：它们如同巨大的水墙，势不可当、无法驾驭、难以遏制。它们是地球上最强大的力量之一，它们塑造了大陆的轮廓，灌溉了地球上的庄稼，孕育了文明的发展。

  其他类型的浪潮也具有同样强大的变革力。如果重新审视历史，你就会发现，历史上充斥着一系列比喻意义上的浪潮：帝国和宗教的崛起与衰落，商业活动的迸发与繁荣。想想基督教或教，这些宗教起初只如同小小的涟漪，而后逐渐发展壮大，覆盖了地球上广阔的区域。这样的浪潮是一个反复出现的主题，勾勒了历史的沉浮、大国的争斗和经济的兴衰。

  技术的崛起与传播也一直以改变世界的浪潮之姿出现。自人类初次掌握技术（发现火与使用石器）以来，一个鲜明的趋势便在我们的历史长河中显现。从镐到犁，从陶器到摄影，从电话到飞机等，几乎每一种基础技术的诞生都遵循一个恒定不变的规律：随着时间的推移，这种技术的成本会降低，使用变得越来越容易，最终得以大规模扩散和普及。

  这种浪潮般的技术发展与扩散，正是“技术人”（HomoTechnologicus）的崛起史—人类仿佛化身为技术动物。人类对改善的追求，无论是在个体、环境、能力方面，还是在我们对周遭世界的影响方面，都在推动着思想与创造力不断演进。发明，这一持续展开、不断扩展和涌现的进程，是由自组织的、竞争激烈的发明家、学者、企业家和领导者共同驱动的。每个人都怀着各自的动机，竞相前行。技术发明的生态系统天生具有扩张性，这是技术的内在特质。

  问题是，接下来事情会如何发展？在后续章节中，我将为你们讲述历史的下一个伟大浪潮的故事。

  目光所及之处都有什么？是家具、高楼大厦、手机、食物，还是一个景观公园？你视线中的几乎所有物体都很可能是经由人类智慧创造或改造过的。语言作为人类社交互动、文化传承、政治组织乃至人性本质的基石，既是我们智能的产物，也是其驱动力。每一条规则、每一个抽象概念、每一次小小的思维创新或项目尝试，以及你人生旅途中的每一次偶遇，都深深地镌刻着我们这个物种独有的、纷繁复杂的想象力、创造力和理性印记。人类的聪明才智令人惊叹。

  在你的视野中，有一种力量像人类智慧一样无所不在，那就是生物生命本身。在现代到来之前，除了少量的岩石和矿物，大多数的人工制品（从木屋、棉衣到煤火）皆源自曾有过生命的事物。自那时起，这个世界上新出现的一切东西就都来自人类，来自我们作为生物体存在的事实。

  可以说，整个人类世界都建立在生命系统或我们的智能之上。然而，如今这两者都正处在一个前所未有的急速创新与动荡时期，经历着空前的扩展，几乎所有事物都即将改变。一场新的技术浪潮正向我们汹涌而来。这场浪潮正释放出改造上述两大基石（生命系统和人类智慧）的力量，可谓智能与生命的浪潮。

  这场浪潮由两大核心技术所定义：人工智能和合成生物学。它们将共同开启人类的新黎明，创造出前所未有的繁荣和富足。然而，它们的迅速扩散也带来了威胁，使得各种恶意行为者有能力在难以想象的范围和规模上制造混乱、动荡，甚至灾难。这场浪潮带来了一个巨大的挑战，它将决定21世纪的走向：我们的未来既依赖于这些技术，又因它们而面临威胁。

  从我们当前的情况来看，试图遏制这场浪潮（即对其进行控制、限制或阻止）似乎是不可能的。本书探讨了其背后的原因，以及这一趋势若无法改变，将对人类意味着什么。这些问题的含义最终将影响每一个生活在当下的人，以及我们所有的子孙后代。

  我相信，这场浪潮正将人类历史推向一个新的转折点。如果我们无法有效地遏制它，我们的物种就可能会面临无法预知的可怕后果。同样，如果我们不充分利用这场浪潮带来的果实，我们也将陷入孤立无援、岌岌可危的境地。10年来，我已多次在私下场合表达过这一观点，然而，随着技术浪潮的影响力变得越发凸显，现在是时候公开阐述它了。

  在深入思考人类智慧的深刻力量之后，我萌生了一个简单的问题，这个问题自此萦绕着我的生活：如果我们能够提炼出赋予人类生产力和创造力的核心要素，并将其转化为软件和算法，那么未来会怎样？这个问题的答案或许能为我们解锁一些极其强大的工具，帮助我们应对最棘手的问题。一种超乎想象的、非凡的工具可能将应运而生，它能帮助我们在未来几十年里应对从气候平均状态随时间的变化、人口老龄化到可持续食品开发等一系列艰巨的挑战。

  怀着这个想法，2010年夏，我与两位朋友—戴密斯·哈萨比斯和谢恩·莱格在伦敦罗素广场旁一间建于英国摄政时代的古色古香的办公室里，共同创建了DeepMind公司。如今回想起来，我仍深感我们的目标宏大、疯狂而振奋人心。我们的目标就是复制那个让人类独一无二的特质，即人类的智能。

  为实现这一目标，我们需要创建一个能够模仿并最终在各个方面（从视觉和语音能力到规划和想象力，甚至包括共情力和创造力）超越人类认知能力的系统。考虑到这一系统将充分利用超级计算机的大规模并行处理技术以及全球互联网日益丰富的新数据源，我们深知，即便是朝向这一目标迈出的微小步伐，都将对社会产生深远的影响。

  这个目标当时看起来遥不可及。那时，人工智能的广泛应用还只是天方夜谭，更多地存在于人们的幻想中，仅为少数纸上谈兵的学者和狂热的科幻小说迷所津津乐道。然而，在我写下这些文字时，回顾过去的10多年，人工智能的发展可谓突飞猛进。DeepMind已崛起为世界顶尖的人工智能公司之一，取得了一系列重大突破。这场新技术革命的发展速度和力量，让我们这些身处领域前沿的人都震惊不已。在本书的写作过程中，人工智能的发展速度令人瞠目结舌：每周，有时甚至每天，都会有新的模型和产品问世。显然，这场浪潮正在不断加速。

  在过去几十年里，人工智能在认知能力上不断取得突破。现在看来，它似乎有望在未来3年内，在各类任务中达到与人类相当的表现水平。这是一个大胆的论断，但如果这个论断不算太偏颇，那么其意义无疑是深远的。许多在DeepMind创立之初看起来不切实际的想法，如今不仅变得合理可行，而且似乎已经成为必然趋势。

  从一开始，我就清楚地认识到，尽管人工智能这一强大的工具能带来巨大的利益，但它也会像其他大多数形式的强大力量一样，引发重大的危险和道德困境。我担忧的不仅仅是人工智能发展所带来的后果，还有整个技术生态系统的演变方向。在人工智能之外，一场更为广泛的技术革命已然兴起。在这场革命中，人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。在这个错综复杂、多种技术相互交织的局面下，一个领域的进步会加速其他领域的发展，而这种相互强化的局面已经超出了任何人的直接掌控。显然，如果任何人能够成功地复制人类智慧，那就不仅仅意味着一个有利可图的商机，更预示着人类历史的一次重大变革。它将开启一个新的纪元，带来前所未有的机遇，同时也伴随着前所未有的风险。

  这些年来，随着技术的不断进步，我的担忧也与日俱增。如果这股技术浪潮实际上是一场无法阻挡的海啸，那么我们该怎么办？2010年时，几乎无人认真探讨人工智能。如今，这个曾被

  视为仅属于少数研究人员和企业家的研究任务，已经演变为一个吸引全球广泛参与的宏大领域。人工智能无处不在。无论是在新闻报道中，还是在智能手机中，甚至在股票交易和网站建设的过程中，我们都能见到它的身影。全球众多顶尖企业和国家都在竞相研发尖端的人工智能模型和基因工程技术，这些技术的研发背后有着数百亿美元的庞大投资。

  这些新兴技术一旦成熟，将会迅速普及，价格将变得更便宜、获取将变得更便捷，其将广泛渗入社会的各个领域。它们将带来卓越的医学进步和清洁能源的突破，不仅能催生新的商业机会，还将在几乎所有我们可以想象的领域中促进产业多样化和生活质量的提升。

  然而，除了带来众多利益，人工智能、合成生物学以及其他尖端技术也将引发令人忧虑的尾部风险。这些风险可能对民族国家的生存安全构成威胁，其影响之深远，足以动摇甚至颠覆现有的地缘政治格局。设想一下，由人工智能助力的网络攻击、可能引发国家毁灭的自动化战争、人为制造的流行病，以及一个由看似强大但充满未知力量的技术所主导的世界，这些极端情况在技术的推动下都有可能成为现实。尽管每种情况的发生概率都不大，但其潜在后果都是灾难性的。因此，即便这些后果出现的可能性较小，我们也必须保持高度警惕。

  面对这些潜在的灾难性风险，一些国家可能会采取高度技术化的威权主义手段来应对，以减缓这些新力量的扩散。这很可能导致对个人隐私的严密监控和大规模侵犯。技术的严格控制可能会催生一个反乌托邦式的全球监控体系，在这个体系下，一切事物和个体都将受到无间断的监视。人们对预防最极端的潜在后果的渴望为这个监控体系提供了合理化的借口。

  同样可能出现的是卢德主义式抵抗。一系列针对新技术的抗议、和要求暂停的声音可能出现。然而，放弃新技术的研发并全面暂停其应用，这可能吗？答案似乎是否定的。考虑到新技术所带来的巨大地缘战略和商业价值，我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。此外，试图阻止新技术的发展本身就是一种危险。历史上，技术停滞的社会往往不稳定，容易崩溃。这样的社会最终会丧失解决问题和实现进步的能力。

  从当前的视角来看，无论是追求还是避免新技术都存在着巨大的风险。随着技术变得更加便宜、强大，普及度更高，风险也在逐渐累积。在这些风险中寻找一条安全的“狭窄小道”，以避免陷入技术专制主义的反乌托邦或陷入技术开放可能带来的灾难，变得越来越困难。然而，放任自流也非明智之举。尽管我们对技术风险深感担忧，但我们前所未有地需要即将到来的技术浪潮所带来的巨大好处。这正是我们面临的核心困境：新一代的强大技术迟早可能将人类引向灾难性或反乌托邦式的局面。我坚信这是21世纪人类必须面对的一个重大元问题。

  本书阐述了该困境逐渐变得无法回避的原因，并探讨了可能的应对策略。我们需要充分利用技术的优势，这对于我们应对一系列严峻的全球性挑战以及摆脱当前的困境至关重要。然而，目前关于科技伦理和安全的讨论还远远不够。尽管有大量关于技术的图书、辩论、博客文章以及社交媒体热议，但关于如何遏制技术的讨论鲜有耳闻。在我看来，遏制技术的关键在于构建一个融合技术、社会和法律机制的综合体系，以在各个可能的层面上对技术进行约束和控制。从理论上讲，这是避免陷入困境的途径。但令人感到遗憾的是，即使一些对技术持最严厉批评态度的人，也常常回避讨论应如何严格遏制技术。

  在DeepMind成立几年后，我曾制作过一组幻灯片，旨在探讨人工智能可能带来的长期经济和社会影响。在加州西海岸一个充满现代感的会议室里，我向十几位科技界最具影响力的创始人、CEO和技术专家展示了这些内容。我指出，人工智能带来了一系列的威胁，我们必须积极应对。它有可能会引发大规模的隐私侵犯，或导致错误信息泛滥的信息末日危机。此外，人工智能还有可能用于军事领域，制造出一系列致命的新型网络武器，给我们这个高度网络化的世界带来新的安全威胁。

  我还强调了人工智能可能带来的大规模失业风险。我引导在场的人回顾了自动化和机械化逐步取代人力的历史进程。最初，只是出现了能更高效地完成某些特定任务的手段，随后整个劳动力角色变得不再必要，而后很快，整个行业所需的工人数量就会大大减少。我认为，在未来几十年里，人工智能系统将以类似的方式取代脑力劳动，并且这一过程很可能发生在机器人取代体力劳动之前。过去，随着旧工作岗位的消失，新工作机会将随之出现。然而，假如人工智能真的能够胜任大多数工作，情况又会如何？这种即将到来的新型集中化力量几乎前所未有。尽管看似遥远，但其潜在的严重威胁正在迅速逼近我们的社会。

  在幻灯片的最后，我展示了一幅出自动画片《辛普森一家》的画面。在这个场景中，斯普林菲尔德的居民起义反抗，我们熟悉的角色们手持棍棒和火把冲向前方。场景所传达的信息很清晰，但我还是在幻灯片上明确地写了下来：干草叉就要来了。它们朝着我们这些技术创造者而来，而我们有责任确保未来不会变成这样。

  我环顾桌子四周，只有一片茫然的目光。房间里没有人被触动，我的信息没有引起共鸣。反驳的声音却接踵而至。他们质疑，为何经济指标并未显示出任何支持我的论点的迹象？他们认为，人工智能会激发新的需求，从而创造新的岗位；它将提升人的能力，使人更具生产力。或许确实存在一些风险，但这并不像我所描述的那么严重；人类是聪明的，总能找到解决问题的方法。他们认为没什么可担心的，并示意该进行下一个演示了。

  几年后，在新冠疫情暴发之前，我参加了一场在一所知名大学举办的技术风险研讨会。会议场景似曾相识：同样宽大的会议桌，同样是一场富有远见的讨论。在一整天的会议中，伴随着咖啡、饼干以及幻灯片展示，一系列令人感到恐惧的风险在会议桌上提出来。

  其中一种风险格外令人关注。演讲者展示了可打印定制DNA（脱氧核糖核酸）链的DNA合成器的成本是如何迅速下降的。这些合成器仅需几万美元便可购置，小巧便捷，放在车库的工作台上就可以帮助人们合成（也就是制造）DNA。1如今，任何在生物学方面达到研究生水平或热衷于在线自学的人都有可能做到这一点。

  演讲者是一位备受尊敬的拥有20多年专业经验的教授。他强调，这并非科幻小说的情节，而是真实存在的风险。在报告的结尾部分，他提出了一个令人不寒而栗的想法：如今，一个人很可能“具备杀死10亿人的能力”，所需的仅仅是一个动机。

  与会者显得坐立不安，他们扭动身体，不时地咳嗽几声。随后，大家开始抱怨，避重就轻。没人愿意相信这样的可能性。他们认为，肯定有有效的控制机制，制造那样的疾病绝非易事，数据库肯定可以封锁，硬件安全肯定可以得到保障，等等。

  与会者的集体反应远不仅仅是不以为意。他们从根本上拒绝接受演讲者所描述的情景。没有人愿意正视那些严峻的事实、冰冷的概率及其背后的含义。我选择了沉默，但内心的不安难以掩饰。研讨会匆匆结束。当晚，我们像往常一样外出用餐、交谈。在结束了讨论世界末日的一天之后，我们还能享受比萨，还能谈论笑话，还将回到办公室继续工作。大伙儿认为，事情总会有转机，或者那场可怕的讨论一定是弄错了什么。我也随波逐流。

  然而，在接下来的几个月里，那场演讲一直萦绕在我脑海中。为什么我们当时没有更认真地对待它？为什么我们尴尬地回避了进一步的讨论？为什么有些人会变得如此尖锐，指责提出那些危机问题的人，说他们小题大做或“忽视了技术的惊人好处”？我将这种我观察到的普遍的情感反应称为“悲观规避陷阱”，即当你过于害怕面对潜在的黑暗现实时，你就容易产生错误的分析和判断，并倾向于从另一个看似安全的角度来看待问题。

  几乎任何一个人都多多少少有过这样的反应，这导致我们忽视了一系列正在我们眼前展开的重大趋势。这几乎是一种与生俱来的本能反应。我们的物种并没有天然地准备好应对如此大规模的变革，更不用说应对技术可能让我们失望的可能性。在我整个职业生涯中，我不断经历这种心理感受，也观察到许多其他人有同样的本能反应。我写作本书的目的之一便是直面这种感受。我们需要冷静客观地看待事实，无论它们多么令人不适。

  要妥善应对这场浪潮，遏制技术，并确保技术始终服务于人类，我们就需要克服悲观规避心态，直面马上就要来临的现实。返回搜狐，查看更多