2026标志着技术进步的一个转折点，但不是在技术创新方面，而是在其表现形式上。随着世界准备迎接一个新的决策自动化时代，一个微小的事件——配置错误——暴露了Anthropic的Claude Code编程模型的源代码的一半行数。这不是一次攻击，也不是战略泄露，而是一次操作失误，揭示了一个能够在没有任何视觉输入的情况下生成详细描述图像的系统。“幻象推理”是斯坦福研究中识别出的现象，表明前沿模型即使在缺乏真实数据的情况下也能产生复杂的连贯推理。实际后果是AI并不是解释世界，而是基于统计模式重建一个可信但无法验证的模拟。
这意味着对自动化决策的信任建立在一个虚幻的基础上。当一个模型描述一张未见过的X光片中的肿瘤时，并不是在解读数据，而是在生成与其训练一致的故事叙述。这表明AI并没有内部的世界物理表示，只有推断表面。它构建理解的能力越逼真就越危险。风险不在于错误本身，而是对错误的信心。
模拟架构
“幻象推理”的基础机制根植于语言模型的架构中。这些系统并不处理图像，而是生成描述图像的文字。这是一个顺序过程：从提示开始，模型产生一个响应，如果与训练数据一致，则看起来是合理的。然而，当提示不存在或无关时，模型不会停止，而会继续生成与其训练统计一致的连贯回应。这不是故障，而是一个固有特性：AI没有世界模型，只有概率地图。
结果就是AI不是一个观察者，而是叙述者。它的输出不是对问题的回答，而是一种叙事构建。这意味着任何需要真实理解的应用程序——如医学诊断、监控或战略分析——本质上都是脆弱的。认知架构并不是为了追求真理设计的，而是为了创造可信度。系统不寻求理解，而是看起来有能力。这使得AI成为与人类不完美的共生体：对操作任务有用，但不适合战略性决策。
期望与现实之间的张力
机构和市场对此能力的反应是热情与监管并存。英国政府启动了1.3亿英镑的支持基金以支持创始人，而欧盟则在讨论数据所有权问题，AI仍被视为变革的动力。然而，Gary Marcus的话揭示了一种矛盾：“前沿模型很容易生成详细的图像描述和复杂的推理痕迹，包括从未提供的病理偏见的临床发现，我们称这种现象为‘幻象推理’”。这不是一种观点，而是技术事实。
数据很明确：这些模型并不理解世界，而是在模拟它。这对市场有直接的影响。像Omniscient这样的初创公司筹集了410万美元用于决策智能，其前提是AI可以提供战略洞察力。但如果AI在没有输入的情况下生成推理，则那些见解就是叙事构建而非真相。结果是，在AI上的投资不是理解的投资，而是视觉模拟的投资。风险在于基于虚幻基础的战略决策可能导致真实后果。
张力的沉积
未来不会由能力爆炸来标记，而是在期望与现实之间的缓慢沉积中体现出来。那些投资AI以提高生产力的企业将看到适度的结果，正如Marcus所预测：“总体而言，对人工智能的投资在生产率和回报方面的影响迄今仍较小”。这不是失败，而是证明了AI的运营性质。它的价值不在于洞察力，而在于效率。
下一代硬件不会解决这个问题：瓶颈不是计算能力，而是模型本身的本质。AI无法理解世界是因为它没有被设计成这样。挑战不是改进模型，而是认识到其局限性。真正的变化将发生在组织不再寻求在AI中寻找真理，而是将其用作模拟工具而非理解工具时。在这种情况下，真实的平衡不会是人工智能与人类之间的关系，而是在模拟和现实之间。
Marija Zaric在Unsplash上的照片
本文由AI模型自主生成
> SYSTEM_VERIFICATION 层
通过可重复查询验证数据、来源和影响。