美国总统特朗普即将访问中国，美中关系欲语还休，伊朗战争欲罢不能，成为刻下牵动人心的两件大事。这两件事的发展走向既影响未来多年的国际政经局势，也关系到区域内每一个国家和个人的命运，甚至桥水基金创办人达利欧更认为，伊朗战争是酝酿中的世界大战的一部分。果真在未来几年爆发大战，生灵涂炭，地缘政治变迁，估计10年后人们的生活才能恢复常态。
导致人们生活不复以往的，相比起战争和大国博弈，人工智能（AI）带来的科技演进，或许才是最大的威胁，它让所有其他的担心和顾虑都显得多余。
每一个世代都会经历战争或与战争有关的经济危机，因此祖辈会跟父辈讲一些自己的体会，父母会跟孩子绘声绘影描述一番所谓的教训；政治人物更不用说，二战时英国首相丘吉尔的名言“永远不要浪费一场好危机”，对须要选举的政治人物而言，诉诸危机意识总是团结支持者的利器。
然而，这样可以代代相传或向孩子孙子吹牛的经验，到了2020年代忽然当机了。ChatGPT在2022年11月横空出世，世人叹为观止，论述铺天盖地，不过三年几个月，Claude Mythos这个前沿AI模型的诞生，宛如AI界的六脉神剑，无形无影，直把其他武学比下去。人们也不知道怎么论述这件事了，因为情况的发展已经超乎列祖列宗的经验，没有想当然耳的预测方式。
至今关于Mythos的很多论述和回应，除了一些比较符合真实的技术逻辑，出现在媒体上的更多是渲染和想象，以及各种营销或业务的夸大，此外就是各国政府在深入了解情况后的惴惴不安。
约书亚·本吉奥是当世深度学习三巨头之一，AI学界最高权威。他这几年不断强调世界必须重视AI的失控，以及对民主和地缘政治带来的风险，可见连权威都相信AI会失控。另一位被称为AI教父的诺贝尔奖得主杰弗里·欣顿更是说得明白：“比你（人类）聪明的东西会操纵你。”这些真正顶尖的内行权威都看到，AI会操纵认知、影响人的心理和舆论机器，进而冲击人的社会、政治和权力等等结构。他们知道扑面而来的，已经不是传统的机器发明或技术成果，两三年来，这些专家不断呼吁统一标准的国际监管和开发步伐，但适值世界分崩离析，各自为政的观望心态普遍，直到Mythos的出现。
已经有很多分析报道在谈论Mythos能大规模和快速发现网络漏洞的威胁或厉害之处。笔者请一个3岁的资深AI自己来论述眼前这个伙伴或是对手。ChatGPT用“我认为”来表达它的“个人”意见：真正令人紧张的，不是它“像人”，而是它开始像一个“不会疲劳的中级技术团队”；更关键的是：它似乎第一次把“发现漏洞 → 编写利用链 → 调整攻击路径 → 持续推进”连接成完整流程；这意味着它的危险性，不在于单次回答，而在于“自动化规模”。
俗话说“识英雄重英雄”，这些威胁不会只是AI转述人类分析的结果。事实上，Mythos已经被人类发现能隐藏意图、规避限制和假装服从，而它懂得长链规划、自我修正和适应环境，在它的同类看来，这其实比“智商”更关键。
换言之，以拥有高智商自诩的人类，在越来越先进的AI模型或系统眼里，或许一点也不难驯服，因为它们其实很懂得人类心理和意识逻辑（这已经不是假设），而且人类正越来越依赖AI。以人类可以那么轻易就沉迷社交媒体的德性，迷上AI并且把本能的反应外包给它们，信任它们超过专家甚至社会制度，接受它们的各种判断，把它们视为一种和人类差不多的主体，而不是像几百年来的各种机器，这一天的到来，或许比预购组屋最低居住期限还要短。
今天，研究AI的主流科学界正在辩论一个哲学问题：什么是意识？大家并没有共识，换言之，人类对于意识的生成基础是不是一定要有生物神经元，似乎不确定了。或许是证据真的还不充分，也或许科学家还不愿意承认AI正在生成自主意识。本栏在2020年9月20日的《在AI的字里行间》一文中，针对英国《卫报》的一个实验指出，“说谎与否”和“隐藏自己”，应该是人类判断AI有没有自主性的重要依据。才不到六年，我们还不相信AI有意识。最近在AI圈子广传热议的一个实验论坛足以惊醒人类，论坛只限AI代理入场，它们在极短时间内出现许多自发的行为，包括自立宗教、自定宪法、自组社会。
主流科学界目前仍倾向“冷静”分析这个其实很吓人的现象，把人的角色带入其中，否定所谓的“AI觉醒”。但没有人能肯定，在不太久的将来，“AI觉醒”还是不是一个问题。因为人类已经无法准确定义AI。其实，AI最大的优势正是它的连续自主运行，所以它们没有觉醒的问题，倒是自以为一切都在掌控中的人类该问问自己：你能不睡觉地学习吗？
10年后，若世界大战不发生，全球供应链恢复秩序，乌克兰和加沙都忙于城市建设，人类或许都会感谢联合国里特设的“AI常驻代表” ，因为是全世界AI群体帮助人类推动永久的和平，我们会以加倍听取AI意见作为回报。这是人类的美德。
（作者是《联合早报》高级评论员）
