当全球科技公司仍沉浸于“下一代模型”“超级智能”的竞赛时，天主教教宗良十四世，却把人工智能（AI）视为当代最重要的伦理挑战之一。这份于5月15日签署、5月25日发表的通谕《伟大的人类》（Magnifica humanitas），直指AI可能制造“新形式奴役”，呼吁必须对AI“缴械”，以防止它反过来支配人类。
教宗特别强调，对不透明算法的监管刻不容缓，不能让权力过度集中在少数科技巨头手中。否则，AI将不再是服务人类的工具，而是放大少数人权力、强加特定道德观甚至价值观的隐形基础设施。
这份通谕与中国当前的AI治理实践，形成有趣的对照。中国据报将出境管理措施扩展至阿里巴巴、DeepSeek等民企顶尖AI专家，呈现对核心人才“核专家式”的严格管控。若真的是这样，则反映大国在AI竞赛中对国家安全与技术主权的重视，但也凸显全球AI发展中的共同困境：如何在创新与监管、开放与安全、效率与伦理之间找到平衡？
教宗的担忧并非空穴来风。在AI时代，技术确实展现惊人潜力：它能高效处理复杂任务、模拟人类部分推理，甚至推动生产力跃升。正如美国科技富豪马斯克在相关场合描绘的乐观图景——10年后，90%的车辆或由AI驾驶，智能机器人的数量可能超过全球人口，这或许会带来前所未有的繁荣。
在今天的舆论场里，很多人或许会下意识认为，这是宗教界对于新科技的“天然恐惧”。但如果仔细观察良十四世过去一年来的表态，会发现他的焦虑并不是“反技术”，而是对整个现代社会正在出现的一种深层变化感到不安。AI可能加剧隐私侵蚀、假信息泛滥，甚至通过自主武器系统放大冲突。更深层的问题在于：当算法决定信息流动、资源分配乃至道德判断时，谁来确保“人”仍是主体？
当年的工业革命，机器替代的是人的体力；今天的AI革命，替代的则是人的判断、情绪、语言甚至创造力。过去资本主义压榨工人的方式，是让人变成流水线上的零件；如今AI时代的新风险，则是让人逐渐沦为算法系统的附属品。教宗良十四世因此多次强调，AI不只是技术议题，更是关于“人类尊严”的问题。
过去两年，生成式AI是最显著的变化之一。人们用AI写邮件、做作业，甚至代替自己思考。越来越多人不是在“使用工具”，而是在“外包判断”。
今天的AI确实能快速生成答案，但它无法承担真正的人类责任。它可以模拟情感，却不真正拥有情感；它可以组织逻辑，却不理解伦理后果；它可以给出建议，却不承担错误代价。
从算法推荐决定舆论分发，到AI筛选招聘简历，再到自动化武器系统参与战争决策，AI已经开始进入过去必须由“人”承担道德后果的领域。
这也是为什么良十四世特别警惕“AI军事化”。因为一旦机器开始拥有“决定谁生谁死”的能力，人类社会其实就在悄悄放弃最核心的伦理底线：责任必须由人承担。
大型模型的训练数据、审查机制、价值排序、推荐逻辑，本质上都在塑造全球公众认知。良十四世此前就曾警告，AI系统会反映创造者的世界观，并可能强化既有偏见与社会两极化。
换句话说，AI并非中立工具。它正在成为一种新的文明基础设施。过去，国家控制土地、工厂与媒体；未来，真正重要的权力，可能是控制算法、算力与数据。
有趣的是，良十四世并非“反现代化”的保守宗教人物。相反，他本人拥有数学背景，也并不否认AI能提升效率、促进平等。但他反复强调，人类不能因为技术强大，就默认技术拥有正当性。因为现代社会最危险的一点，恰恰是“技术可行”正在逐渐取代“伦理可行”。
核武器如此，基因编辑如此，AI同样如此。今天的硅谷，普遍相信“技术会自动解决问题”，但教宗提出的恰恰是另一种古老而尖锐的问题：如果人类越来越依赖机器，“人”最终还剩下什么？这并不是宗教式焦虑，而是一种文明层面的追问。
作者是中美外交与公共政策领域撰稿人
