关于人工智能（AI）进入学校，最令人担心的并不是学生在使用它，而是许多学生并不知道它什么时候是错的。
几周前，一名学生交上来的一份作业，很快引起我的注意。那段解释读起来十分流畅，语气自信而成熟，文字也比他平时的表达“进步”不少。但当我仔细读下去时，问题很快显现出来：答案其实是错的。不是稍微有点偏差，而是从根本上理解错了。
这名学生显然直接复制一段AI生成的解释，却没有意识到机器一开始就误解核心概念。类似的情况，如今在许多课堂上正变得越来越常见。
本周国会围绕AI与教育展开的讨论，再次提醒我们：在AI迅速进入课堂的今天，学生真正须要学会的能力是什么。
学校将逐步推出AI学习模块，学生会学习如何使用它。课堂也正在适应一个机器能够在几秒钟内生成文章、分析资料，甚至解决问题的世界。
然而，在这一片热烈讨论之中，有一个问题似乎还没有被充分提出。如果我们培养出一代学生，懂得如何使用AI，却不懂得如何质疑它，会发生什么？
在科技行业内部，一些科技领袖也开始重新思考学生究竟应该学习什么。英伟达首席执行官黄仁勋最近谈到，在AI能够越来越多自动生成程序的情况下，学习编程本身可能不再像过去那样关键。他认为，年轻人或许更应该专注于物理学、生物学、制造业等领域，因为这些领域须要对现实世界有更深的理解。
OpenAI首席执行官奥尔特曼也指出，未来许多人都会使用AI工具，而学会与这些工具协作，很快会成为一种基本能力。
把这些观点放在一起看，会发现一个耐人寻味的现象。未来真正被奖励的，可能并不是那些只会使用AI的人，而是那些知道什么时候不该相信AI的人。AI确实擅长生成答案，但并不等于答案是正确的。AI可能会非常自信地给出错误结论，也可能在不经意间带入偏见。
心理学家早就有一个概念来形容这种现象，叫作“认知卸载”（cognitive offloading）。当人们过度依赖工具时，就会把思考的工作交给工具本身。例如，计算器普及后，人们越来越少心算；导航软件普及后，许多人不再记得路线。AI可能会成为人类历史上最强大的认知卸载工具。
真正的风险并不是机器会替我们思考，而是我们可能会慢慢停止思考。因此，在AI时代，真正的分界线可能在于两种人之间：一种人会与AI一起思考，另一种人则把思考完全交给机器。对于像新加坡这样的小国来说，这一点尤其关键。
如果世界各地的人都能使用同样强大的AI工具，技术本身就很难成为国家长期的竞争优势。新加坡真正的优势或许必须来自更难复制的能力：培养出一代懂得质疑机器，而不仅仅是操作机器的学生。这也意味着须要重新思考学生如何学习，以及如何评估他们的能力。例如，作业不一定只要求正确答案，学生要能分析AI生成的回答，找出逻辑不严密或事实错误的地方。课堂评估也可以更多采用口头讲解或答辩的方式，让学生解释自己的思考过程，而不仅是提交一份书面报告。
在一个机器可以瞬间生成答案的世界里，真正稀缺的能力是判断力，而判断力是无法外包的。
（作者是教育工作者）
