5月25日，教宗良十四世发表他的首份通谕——《伟大的人类》（Magnifica humanitas）。这份4万余字的文件，将矛头直指当下最火热也最危险的话题：人工智能（AI）。
这并非一份温文尔雅的宗教劝世文。如果把它当作圣座对“技术伦理”的例行表态，那就错过它真正的重量。在我看来，这是迄今来自全球道德权威体系中最系统、最尖锐，也最具现实穿透力的一份数码文明诊断书。
这份通谕从头至尾传递出一种罕见的、来自信仰根基的焦虑：人类正在用一种看似进步的方式，建造一座新的“巴别塔”——这座塔的砖石，是数据；它的砂浆，是算法；它的蓝图，却无人知晓。
一、不安的第一层：技术权力不再属于人民
通谕开门见山地点出一个数码经济学家再熟悉不过的事实：推动AI发展的核心力量，不再是国家，更不是国际社会，而是私人、跨国、资本驱动的技术巨头。
过去，我们说“权力归于人民”。今天，权力归于算力、数据和资本。教宗清醒地指出，这种“私有化的技术权力”已超过大多数政府的治理能力。换句话说，硅谷的几间会议室，比联合国的辩论厅更能决定数十亿人的未来。
这让人不安。不是因为技术本身邪恶，而是因为它不再被民主、法治和共同利益所约束。当一家公司可以决定谁能贷款、谁能得到工作、谁被标记为“高风险”，它就在行使曾经只属于主权国家的权力——而且不受选举、不担责、不透明。
二、不安的第二层：算法成了“看不见的立法者”
通谕中有一句话，值得每个AI产品经理、工程师和监管者刻在办公桌上：如果一个系统被设计或使用的方式，使某些生命被视为不值得，或被排除在申诉之外，它就不再只是须要被善用的工具，而是已经引入了与人类不可剥夺的尊严相矛盾的标准。
这不是危言耸听。我们已经在信用评分、招聘筛选、警务预测中看到：算法可以将一个人判定为“不值得信贷”“不适合岗位”，甚至“可能犯罪”，而当事人往往不知道原因，更无从申诉。
教宗将之称为“责任的消失”——当错误被推给“机器”，就没有人须要道歉、没有人须要改变、没有人须要宽恕，而一个没有宽恕的社会，注定走向冷酷与分裂。
三、不安的第三层：“数据殖民”比历史殖民更隐蔽
这份通谕最令我震撼的部分，是它对全球数码剥削的揭露。
教宗指出，在AI的光鲜表面下，是一整套隐藏在南方国家的“隐形劳动”：数据标注、内容审核、模型训练、电子垃圾回收......无数年轻人，尤其是女性，在极低的工资、极长的工时、极差的环境下，喂养着北方的算法。
更惊人的是，通谕首次将健康数据、基因图谱、人口信息称为新的“数码稀土”。那些以“援助”或“研究”名义收集的数据，最终流向技术强国和企业，成为预测、控制、干预他国社会的工具。
“那些控制着整个民族健康数据的人......拥有对未来的结构性杠杆。”
换句话说，21世纪的殖民，不再是占领土地，而是占领数据。这一次，连反抗都不那么容易。
四、不安的核心：人类正在放弃“有限性”这一最深刻的礼物
通谕最深层的焦虑，其实来自一个哲学与神学的交叉点：超人文主义（transhumanism）与后人文主义（posthumanism）正在悄悄改写“人是什么”。
教宗并不反对治疗疾病、减轻痛苦。他反对的是：把一切限制、脆弱、衰老、失败都视为“必须被消灭的缺陷”。
他指出，恰恰是有限性，才让人学会同情、宽恕、陪伴与爱。如果AI被设计来模拟“完美的朋友”“永远耐心的伴侣”“不犯错的决策者”，人类将逐渐丧失与真实的不完美者共处的能力。
这是一个被技术乐观主义者刻意忽略的风险：当我们试图优化一切，我们也在清空那些让生活值得一过的“麻烦”，而麻烦，往往是爱的起点。
五、不是反技术，而是反无灵魂的技术
请不要误读：通谕不是号召砸掉服务器、烧掉晶片。它反复强调，技术可以，也应该服务于人类尊严与共同福祉。但它提出一个所有人都无法回避的问题：我们正在建造什么？
是巴别塔——效率至上、控制一切、消除差异、数据化一切、拒绝上帝与邻舍？还是耶路撒冷——在差异大陆政府同劳作、在失败中彼此扶持、在有限中彼此相爱？
数码经济的从业者、政策制定者、投资者，每天面对的都是“技术可行性”与“商业回报率”。但《伟大的人类》提醒我们：还有一个更根本的问题，叫“人性可行性”。
当一家AI公司可以轻易地通过操纵注意力、制造成瘾、极化情绪来获利时，它选择了巴别塔。当它愿意放弃短期利益，设计可中断、可解释、可申诉、尊重人类判断的系统时，它就在垒砌耶路撒冷的城墙。
教宗并非要制造恐慌，而是要呼唤一种清醒的、负责任的、拒绝傲慢的技术文明。如果这份通谕能让一名硅谷的产品经理、一名北京的算法工程师、一名布鲁塞尔的监管官员停下来想一想：“我建造的，到底是巴别塔，还是耶路撒冷？”那就是一个希望的开始。
作者是本地亚洲数字经济科学院院长
