巴别塔是《圣经》中的一则故事，讲述人类在共同语言和共同抱负的凝聚下，试图建造一座通往天堂的高塔。这一计划以失败告终，上帝因建造者的狂妄自大而惩罚他们，将人类分裂成说着不同语言、拥有不同文化的人群。教宗良十四世在首部通谕《伟大的人类》（Magnifica humanitas）中特地援引这个寓言，而它与人工智能（AI）的相似之处令人惊叹。这项技术究竟会如其拥趸所宣称的那样成为人类的救赎，还是会如怀疑者所担忧那样导致人类灭亡？
人类文明早已深陷AI军备竞赛，试图用代码书写未来的剧本。科技公司正投入数十亿美元，打造那些承诺将彻底改变知识、工作、战争、政治，甚至人类意识本身的系统。公众舆论则在乌托邦式憧憬与恐慌之间摇摆不定。如今，世界最古老的机构之一也加入这场讨论，警告人们警惕这场“竞相下沉”的竞赛。
当下这一时刻，与以往的经济泡沫时期如出一辙。科技行业的自信，令人联想到2008年之前的金融界，当时一小撮内部人士坚称，他们已掌握一套具有变革性的体系，而外界却无法完全理解。当时，人们凭借金融工程将彻底改善未来的承诺，积累了惊人财富，而各种警示信号却被视为无知或恐惧的证据。经济学家拉古兰·G·拉詹（Raghuram G. Rajan）是当时为数不多的理性之声，如今他正告诫世人警惕AI带来的狂热。
然而，AI的潜在破坏性远超1990年代末至2000年初的金融工程。正如教宗所理解的，它最接近的参照对象正是工业革命本身。当罗伯特·普雷沃斯特（Robert Prevost）枢机主教去年选择“良十四世”这一教名时，便是在发出某种宣言。前任教宗良十三世曾因发表《新事》（Rerum Novarum）通谕而载入史册，该通谕以同样犀利而广泛的视角，揭示了工业资本主义造成的深刻不平等与社会动荡。工厂、铁路和机械化生产使社会转型的速度远超政治体制的适应能力，导致财富极度集中与极度贫困并存。
如果说良十三世应对的是劳动力的工业化，良十四世应对的则是智力的工业化。多年来，AI的讨论一直被工程师、企业家和投资者主导，他们谈论的都是“规模”“颠覆”“效率”“创新”和“优化”等术语。但良十四世致力于引入一套不同的词汇体系，聚焦于劳动的尊严、战争、垄断权力以及共同利益。
因此，在《伟大的人类》超过4万2000字的篇幅中，“尊严”一词出现100次。这种强调揭示了世界观的根本差异。硅谷的核心问题是机器能做什么，而梵蒂冈的核心问题是人类是什么。
诚然，一些科技界领军人物的言论听起来越来越像神学家。正如哈佛大学历史学家吉尔·莱波雷（Jill Lepore）所指出的，硅谷拥有自己的先知、传教士、神圣典籍、起源神话以及救赎的承诺。他们预言，AI将治愈疾病、消除稀缺、解决气候变化，甚至或许能战胜死亡本身。但这些承诺无法脱离该行业的经济利益。
相比之下，梵蒂冈则提出关于人类未来的另一种叙事，其核心信念在于：人类不仅仅是信息处理系统，我们的情感属性与认知能力同样重要。我们是独特的生物，能够体验爱、友谊、良知、责任、痛苦、喜悦以及道德判断。我们的价值绝不能被简化为生产力指标或市场价格。
这一视角对一个长久以来的核心议题——工作的未来——具有重大启示。尽管关于AI的大部分讨论聚焦于生产力提升和经济增长，但梵蒂冈却提出另一个问题：当社会丧失对有意义劳动所蕴含的尊严的认知时，将会发生什么？
经济学家长期争论自动化最终创造的就业岗位，是否多于它淘汰的岗位。然而，正如全球民粹主义的激增所表明的，仅凭就业统计数据无法体现工作在赋予人们身份认同、生活目标、社区归属感和自尊方面所发挥的作用。AI带来的挑战不仅是经济层面的，更是关乎生存的。
良十四世对AI的干预，在应对“垄断控制”和“数码殖民主义”方面也恰逢其时。这两个词绝非夸大。事实就是，少数几家企业正日益掌控着未来AI经济所依赖的模型、计算基础设施和数据。
但或许《伟大的人类》的真正矛头并非指向技术本身，而是它与市场的这种不伦之婚。在此，象征意义变得更为深远。这位首位美国籍教宗来自芝加哥——与新古典经济学联系最紧密的城市。然而，良十四世直接挑战了“仅凭市场便足以塑造社会的技术未来”这一假设。他意识到，AI提出的问题无法仅靠价格和利润来解答。社会应如何在创新与安全之间取得平衡？谁来决定自主武器的可接受用途？自动化带来的收益应如何分配？科技公司对它们所颠覆的社区负有何种义务？
这些并非工程问题，而是道德问题。
主张某项技术仅因其存在就必须被部署，无异于宣称人类既然发明核武器，就必须自我毁灭。技术能力并不能免除道德责任。AI常被描绘成一股不可阻挡的力量，正将人类推向既定的未来，但《伟大的人类》警示世人，切勿陷入这种宿命论。
正如诺贝尔奖得主达龙·阿杰莫格卢（Daron Acemoglu）和西蒙·约翰逊（Simon Johnson）等经济学家所言，技术驱动的结果取决于选择，而非宿命。新技术无法决定自身将如何被使用，决定权在人类手中。这场博弈并非发生在梵蒂冈与硅谷之间，而是发生在这位出生于芝加哥的教宗与芝加哥学派经济学之间。颇具讽刺意味的是，良十四世正试图主持一场“离婚”——让世界上最强大的技术与利润动机分道扬镳。
作者Antara Haldar是剑桥大学法律实证研究教授、哈佛大学客座教授
英文原题：The Pope and the AI Profiteers
版权所有：Project Syndicate, 2026.
