通用人工智能（AGI）——即能够执行任何人类认知任务的系统——的前景既带来希望，也引发焦虑。虽然AGI可能推动全球生活水平实现前所未有的提升，但也可能大幅减少对人类劳动力的需求，进而加剧失业、社会动荡和冲突。近年来，关于人工智能的大部分争论，都在这两种极端观点之间摇摆。
引人注目的是，关于AGI前景与风险最具洞见的分析之一，来自OpenAI首席执行官阿尔特曼。在一篇最初发表于2023年、2025年更新的博客文章中，阿尔特曼展现出一种在科技乐观主义者中并不常见的哲学式怀疑态度。 他写道：“我们希望AGI能赋能人类，使其在宇宙中获得最大程度的繁荣”，同时承认要实现这一目标，必须“成功应对巨大的风险”。
诚然，在评估技术进步的潜在益处时，保持一定程度的怀疑态度是合理的。自启蒙运动以来，人类日益摒弃迷信和教条，转而拥抱科学探究的怀疑精神，并随着时间的推移，逐渐形成“科学进步本质上是有益的”这一信念。 这种思维方式认为，尽管像原子弹这样的个别发现可能具有破坏性，但科学作为整体——它使我们对自然有了更深入的理解——是一股毫无疑问的向善力量，进而能促进人类的更大福祉。
然而，人们往往忽略的是，对科学的盲目信仰本身也可能成为一种教条。在2024年发表的一篇论文中，约尔根·韦布尔（J?rgen Weibull）和我运用博弈论探讨这一动态。 当人类在不确定条件下互动——即对某人而言的理性行为，取决于对他人而言的理性行为时——一项新的科学发现可能会揭示出类似经典“囚徒困境”的情形：个体理性的行为最终导致所有人的境况都变得更糟。AGI的崛起可能就是这样一种事件。
因此，阿尔特曼的怀疑态度是完全有道理的。正如他所指出的，AGI“有可能赋予每个人难以置信的新能力”，但也可能导致“严重的事故和社会动荡”。因此，挑战在于将“知识诅咒”的风险降至最低。 鉴于未来仍充满不确定性，我们所能做的就是做出有根据的推测，并采取审慎的预防措施。阿尔特曼的观点是正确的：这些挑战不能仅由私人领域来承担。应对这些挑战将需要一定程度的资源再分配，以及国际社会的协同合作。
AGI最严重的潜在后果，或许是劳动力需求的下降。关键在于，这并不意味着人们将无事可做；事实上，他们可能会享有前所未有的闲暇时间。 但如果按照经济学教科书中的定义——即为获得报酬而进行的任何活动——将劳动加以界定，在一个由AGI驱动、机器在几乎所有领域都超越人类的世界里，劳动这一概念可能会变得过时。
鉴于绝大多数成年人依赖劳动收入维持生计，这种转变可能会使数十亿人失去生计。正因如此，阿尔特曼倡导实施全民基本收入（UBI），以确保每个人都能享有最低生活水平。
然而，即便如此，可能仍不够。除了对就业和收入的影响之外，AGI还可能为全球威权主义时代铺平道路。如果对这些系统的控制最终高度集中，一小撮超级亿万富翁精英就可能对全人类行使前所未有的权力。 正如阿尔特曼所言，要防止这种结果的发生，必须确保“AGI带来的利益、使用权及治理权得到广泛而公平的共享”。
与UBI一样，广泛获取AGI仅是解决方案的一部分。同样重要的是，要防止财富和权力的极端集中，以免社会越过民主让位于威权主义的临界点。 为此，我们可能需要一种“全民基本份额”制度：它将限制任何个人或小团体所能持有的全球财富份额。
这不仅对穷人至关重要，对许多富裕人群同样重要。在一个由区区数千人掌控AGI控制权的世界里，即便是今天的百万富翁，明天也可能沦为底层阶级。
作者Kaushik Basu是世界银行前首席经济学家、印度政府前首席经济顾问，现为康奈尔大学经济学教授、布鲁金斯学会非常驻高级研究员
英文原题：The Promise and Peril of AGI
版权所有：Project Syndicate, 2026.
