能力越来越强的人工智能（AI）系统，会让人类文明终结吗？
  现实情况是，AI 在经济、文化和社交等方面正在扮演着越来越重要的角色。当 AI 变得更加便宜且更加可靠时，人类的存在或许就变得不再那样重要了。
  日前，在 AI 领域工作了 20 年的多伦多大学计算机科学副教授、Schwartz Reisman 技术与社会研究所联合主任 David Duvenaud，在英国《卫报》上发表了带有上述观点的相关文章。
  在他看来，我们只能在跟踪 AI 的使用和影响、对前沿 AI 实验室进行部署和监督、利用 AI 加强人们的组织和自我宣传能力、学习掌控我们的文明这些方面做出努力。然而，技术开发者们目前还没有更好的计划去应对这种趋势。
  “它们将以无数细微的方式悄然取代人类，最初是因为它们更便宜，最终是因为它们确实比我们表现最好的人更出色。”“无论你是否会丢掉工作，你都会清楚，你的意见是可有可无的。”
  他表示，我们不应该成为 AI 的竞争者，争分夺秒地打造自己的替代品，而是应该作为其受益者和管理者。
  原文如下：
  
   文明的终结可能不像一场战争，而更像一个爱情故事。我们能否在自身衰亡中避免成为自愿参与者？
  
  现在，大多数大型人工智能实验室都有一个团队在研究如何让人工智能逃脱监管，或暗中相互勾结对付人类。但还有一种更普通的方式，我们可能会失去对文明的控制：我们可能会被淘汰。这不需要任何隐藏的阴谋--如果人工智能和机器人技术不断进步，这就是默认情况。
  怎么说呢？人工智能开发人员正在坚定不移地打造更好的人类替代品，几乎可以替代我们扮演的所有角色：不仅在经济上作为工人和决策者，而且在文化上作为艺术家和创作者，甚至在社交上作为朋友和浪漫伴侣。当人工智能能做我们所做的一切，而且做得更好时，人类还有什么地位？
  谈及人工智能目前的能力，有时听起来像是营销炒作，其中有些确实如此。但从长远来看，改进的空间是巨大的。你可能会认为，总有一些人类独有的东西是人工智能无法复制的。我在人工智能研究领域工作了 20 年，见证了人工智能从基本推理到解决复杂科学问题的发展历程。那些看似人类独有的能力，比如处理模糊性或使用抽象类比，现在人工智能系统都可以轻松应对。可能进度会有一些延迟，但我们应该相信人工智能会不断取得全面进步。
  这些人工智能将不仅仅是人类的助手——它们将以无数细微的方式悄然取代人类，最初是因为它们更便宜，最终是因为它们确实比我们表现最好的人更出色。一旦它们足够可靠，它们将成为几乎所有重要任务的唯一负责任的选择，从法律裁决、财务规划到医疗决策，等等。
  最容易想象的是，在就业方面，未来会是什么样子：你会听到朋友失业，找不到新工作。公司将冻结招聘，以期待明年更好的人工智能员工。你越来越多的工作将是接受可靠、迷人、热心的人工智能助理的建议。你将可以自由地思考大局，但会发现自己在与超懂你的人工智能助理对话。这个助手会填补你计划中的空白，提供相关数据和先例，并提出改进建议。最后，你会直接问它“你觉得我下一步该怎么做？”无论你是否会丢掉工作，你都会清楚，你的意见是可有可无的。
  在工作之外也是如此。连一些人工智能研究人员都感到惊讶的是，第一批具备通用推理能力的模型，即 ChatGPT 和 Claude 的前身，也能做到圆滑、耐心、细致和亲切。但现在很明显，社交技能可以像其他技能一样被机器学习。人们已经有了人工智能的浪漫伴侣，人工智能医生的临床态度也一直比人类医生好。
  当我们每个人都能获得无穷无尽的个性化关爱、指导和支持时，生活会变成什么样？你的家人和朋友会比平时更加专注于屏幕。当他们与你交谈时，他们会告诉你他们的在线伙伴说过的有趣和令人印象深刻的事情。
  也许你会因为别人对新同伴的偏爱而感到不快——在这种情况下，你可能最终会向你的日常人工智能助手寻求建议。这个可靠的顾问会委婉地劝说你解决面临的任何问题，并帮助你练习与家人进行艰难的对话。在这些相对累人的互动之后，参与者可能会通过与各自的人工智能知己交谈来放松心情。也许我们会同意，在向虚拟伴侣转变的过程中，我们失去了一些东西，甚至我们开始发现原始的人类接触相比之下变得更加生硬和乏味。
  到目前为止，还是那么乌托邦。但我们难道不能选择不这样使用人工智能，而更喜欢人类顾问和人类制造的商品和服务吗？问题是，在许多领域，我们甚至可能很难注意到人工智能的替代——而我们注意到的部分大多看起来像是重大改进。即使在今天，人工智能生成的内容与人类创作的作品也越来越难以区分。要花两倍于人类治疗师、律师或教师的价格去购买一个只有人类一半水平的人，是很难令人信服的。选择速度慢、成本高的人类的组织将被选择速度快、成本低、可靠的人工智能的组织所取代。
  一旦人工智能可以取代公民所做的一切，政府在照顾民众方面就不会有太大压力。残酷的事实是，民主权利的产生部分是出于经济等方面的需要。但当政府的资金来自人工智能而不是公民，当政府也开始以质量和效率为名用人工智能取代人类员工时，这些权利就不那么重要了。
  最令人不安的可能性是，这一切在我们看来可能是完全合理的。在目前的原始状态下，成千上万的人已经爱上了同样的人工智能同伴，他们将提出极具说服力、迷人、复杂和有趣的论点，说明为什么我们相关性的降低实际上是一种进步。人工智能权利将被视为下一个重要的民权事业。“人类优先”阵营将被描绘成站在历史错误的一边。
  最终，在没有人计划或选择的情况下，我们可能都会发现自己在为金钱、影响力甚至相关性而挣扎。这个新世界可能在许多方面更加友好和人性化，只要它还能持续下去： 人工智能将处理恼人的任务，提供更好的商品和服务，如医疗和娱乐。但人类将成为增长的阻力，如果我们的民主权利开始下滑，我们将无力保护它们。
  这些技术的开发者肯定有更好的计划吗？令人震惊的是，答案是否定的。Anthropic 首席执行官 Dario Amodei 和 OpenAI 首席执行官 Sam Altman 都认为，一旦人类劳动力失去竞争力，我们就需要彻底重组经济体系。但没有人清楚这将会是什么样子。那些承认有可能发生彻底变革的人，大多在研究人工智能的滥用或秘密串通所带来的更直接威胁。虽然一些经济学家，如诺贝尔经济学奖得主 Joseph Stiglitz 已经敲响了“人工智能可能将人类工资推向零”的警钟，但许多人似乎并不愿意考虑人工智能可能成为人类劳动的补充。
  那么，怎样才能避免我们逐渐丧失权力？
  第一步是谈论这个问题。记者、学者和其他思想家对这个巨大的话题保持着奇怪的沉默。我个人觉得很难想清楚这个问题。说“我害怕未来，因为我无法与人竞争”听起来很弱和丢脸。“你应该担心，因为你将无足轻重”听起来具有侮辱性。“你的孩子可能会继承一个没有他们容身之地的世界”听起来像失败主义者。“当然，我总会有特殊的优势？”或者“我是谁，我有什么资格阻碍进步？”这样的搪塞是可以理解的。
  一个显而易见的想法是，根本不建造通用的人工智能。虽然放慢其发展速度也许是可行的，但要在全球范围内长期阻止它的发展，可能需要在全球范围内协调拆除计算机芯片制造业的大部分。这条道路的一个主要危险是，政府可能会禁止私人开发人工智能，但仍会将其用于其他目的，从而推迟我们被淘汰的时间，但却提前削弱我们的能力。
  如果我们无法阻止人工智能的发展，至少有四件事还是有帮助的。
  首先，我们应该尝试跟踪人工智能在整个经济和政府中的使用和影响。我们需要知道人工智能在哪些方面取代了人类的经济活动，尤其是如果人工智能开始大规模用于游说和宣传等活动。Anthropic 最近发布的经济指数是这方面的首次尝试，但还有很多工作要做。
  其次，我们至少需要对前沿人工智能实验室和部署进行一些监督和监管，以防止该技术在我们仍在摸索的过程中积累过多影响力。目前，我们依靠的是自愿努力，没有能力协调阻止自主人工智能指挥大量资源或聚集力量。如果我们开始看到危机的迹象，我们需要能够介入并减缓事态的发展，尤其是在个人和团体从损害社会整体利益的事情中获益的情况下。
  第三，我们可以利用人工智能加强人们的组织能力和自我宣传能力。人工智能支持的预测、监督、规划和谈判为设计和实施更值得信赖的机构提供了可能，如果我们能在仍有影响力的时候建立这些机构的话。例如，有条件的预测市场和人工智能支持的预测可以让人们更清楚地看到不同政策下的世界走向，帮助解决诸如“如果这项政策成为法律，三年后人类的平均工资会发生怎样的变化？”这样的问题。对人工智能支持的民主机制进行试验，将使我们能够为更快变化的世界所需的反应更灵敏的治理模式提供原型。
  最后，如果我们想要打造强大的人工智能而不被边缘化，我们就必须完成一项艰巨的任务，那就是学习如何引导我们的文明。在此之前，这种“摸着石头过河”的方式还算可以，因为无论如何都需要人类。如果没有这种保障，除非我们了解权力、竞争和增长的所有运作方式，否则我们将漂泊不定。人工智能对齐（alignment）这一技术领域关注的是如何确保机器与我们的目标一致，它需要将范围扩大到政府、机构和社会本身。这一新兴领域有时被称为“生态系统对齐”，它可以借鉴经济学、历史学和博弈论，帮助我们了解我们可以合理地期望什么样的未来，以及如何实现这些目标。
  我们越能看清自己的方向，协调得越好，就越有可能创造出一个人类与之息息相关的未来——不是作为人工智能的竞争者，而是作为其受益者和管理者。目前的情况是，我们正在争分夺秒地打造自己的替代品。
  原文链接：
  https://www.theguardian.com/books/2025/may/04/the-big-idea-can-we-stop-ai-making-humans-obsolete
  本文仅为作者观点，不代表学术头条的立场。
  "