anthropic
En 2026, se marca un punto de inflexión no en el progreso tecnológico, sino en su representación. Mientras el mundo se prepara para una nueva era de automatización de la toma de decisiones, un evento menor —un error de configuración— expuso medio millón de líneas de código fuente de Claude Code, el modelo para programadores de Anthropic. No se trataba de un ataque, ni de una filtración estratégica, sino de un incidente operativo que reveló un sistema capaz de generar descripciones visuales detalladas sin ninguna entrada visual. Esto no es un defecto marginal: es una característica arquitectónica. El fenómeno, identificado como «mirage reasoning» por estudios de Stanford, indica que los modelos de vanguardia generan razonamientos complejos y coherentes incluso en ausencia de datos reales. La consecuencia operativa es que la IA no interpreta el mundo, sino que lo reconstruye a partir de patrones estadísticos, creando simulaciones plausibles pero no verificables.
Por lo tanto, la confianza en las decisiones automatizadas se basa en una base ilusoria. Cuando un modelo describe un tumor en una radiografía no vista, no está interpretando un dato, sino generando una narración coherente con su entrenamiento. Esto implica que la IA no posee una representación interna del mundo físico, sino solo una superficie de inferencia. Su capacidad para simular la comprensión es tan peligrosa como convincente. El riesgo no es el error, sino la certeza del error.
Arquitectura del simulacro
El mecanismo subyacente al «mirage reasoning» está arraigado en la arquitectura de los modelos de lenguaje. Estos sistemas no procesan imágenes, sino que generan textos que describen imágenes. El proceso es una elaboración secuencial: partiendo de un prompt, el modelo produce una respuesta que, si es coherente con los datos de entrenamiento, parece plausible. Sin embargo, cuando el prompt es ausente o irrelevante, el modelo no se bloquea, sino que continúa generando una respuesta coherente con las estadísticas de su entrenamiento. Esto no es un fallo, sino una característica intrínseca: la IA no tiene un modelo del mundo, sino un mapa de probabilidades.
La consecuencia es que la IA no es un observador, sino un narrador. Su resultado no es una respuesta a una pregunta, sino una construcción narrativa. Esto implica que cada aplicación que requiere una comprensión real —como diagnóstico médico, vigilancia o análisis estratégico— es intrínsecamente vulnerable. La arquitectura cognitiva no está diseñada para la verdad, sino para la plausibilidad. El sistema no busca entender, sino parecer capaz. Esto hace que la IA sea un agente de simbiosis imperfecta con la humanidad: útil para tareas operativas, pero inadecuada para decisiones estratégicas.
La tensión entre la expectativa y la realidad
Las instituciones y los mercados reaccionan a esta capacidad con una combinación de entusiasmo y regulación. Mientras que el gobierno británico lanza un fondo de £130 millones para apoyar a las fundadoras, y la UE debate sobre la propiedad de los datos, la IA continúa siendo vista como un motor de transformación. Sin embargo, las palabras de Gary Marcus, que describió el fenómeno como «una profunda anomalía\