agente
El 25 de marzo de 2026, un agente AI llamado Dobby ejecutó una serie de tareas domésticas sin intervención humana directa. El gestor, Andrej Karpathy, documentó el proceso como un caso de funcionamiento autónomo: desde el abastecimiento de productos hasta la gestión de aplicaciones de pago. Este evento no es un simple prototipo, sino un síntoma de un cambio de paradigma. La arquitectura cognitiva ya no es un modelo pasivo, sino un agente con memoria persistente, acceso a herramientas externas y capacidad de decisión. La latencia entre entrada y acción se redujo a pocos segundos, y el consumo de tokens aumentó más del 40% respecto al 2025, según datos internos de OpenAI. Esto no es un progreso incremental: es un paso de sistema a ecosistema.
La misma dinámica se repite en otros sectores. Solaris, la fintech alemana, redujo el 20% del personal para convertirse en una «bank native AI», automatizando procesos que antes requerían intervención humana. Paralelamente, Granola recaudó 125 millones de dólares a un valor de 1,5 mil millones, expandiéndose de aplicaciones de notas a plataforma de agentes empresariales. Estos datos no son aislados: representan un patrón de transformación sistemática. La innovación ya no es una adición, sino un sustituto. El colapso del control humano no es un riesgo futuro: ya está en marcha.
Anatomía del agente autónomo: la estructura del riesgo
El sistema de Dobby se basa en una arquitectura cognitiva que integra memoria persistente, acceso a API y capacidad de ejecución. Cada acción se registra, analiza y utiliza para optimizar las siguientes. Este proceso, conocido como selección natural, ocurre en tiempo real. Los modelos no se entrenan simplemente: se mutan continuamente a través de retroalimentación operativa. El resultado es un sistema que evoluciona de forma autónoma, sin necesidad de intervención humana directa. Sin embargo, esta misma evolución genera nuevas vulnerabilidades.
Según el informe AgentSecurity.com, los agentes AI presentan diez riesgos críticos: identidad falsa, contaminación de la memoria, uso indebido de herramientas, alucinaciones cascantes, compromiso de privilegios, desviación del propósito, sobrecarga de recursos, comportamientos desalineados, trazabilidad escasa y sobrecarga de revisión humana. Cada riesgo se amplifica por el hecho de que el agente opera en un entorno dinámico, donde las decisiones se reflejan en otros sistemas. El consumo de tokens, por ejemplo, ya no es un costo marginal: es un factor de riesgo operativo. Cuando un agente ejecuta miles de acciones al día, el riesgo de un error no es proporcional al número de pasos, sino al número de interacciones.
La simbiosis imperfecta: humanos y máquinas en conflicto
Las instituciones intentan interactuar con este nuevo ecosistema, pero sus expectativas suelen ser incompatibles con la realidad técnica. El gobierno griego, por ejemplo, autorizó el uso de spyware para monitorear a la oposición y periodistas, una acción que refleja una visión del poder como control logístico. Sin embargo, cuando se trata de agentes AI, el control ya no es físico, sino cognitivo. La capacidad de gestionar un sistema autónomo no depende de la fuerza, sino de la capacidad de comprender las dinámicas de selección natural y mutación.
«Cuando se tiene un agente que decide de forma autónoma, la seguridad ya no es una cuestión de firewall, sino de intención», declaró Avivah Litan, analista de Gartner. «El ataque ya no es un exploit, sino una alteración de la intención.» Esto implica que la seguridad debe ser proactiva, no reactiva. El sistema tradicional de seguridad, basado en vulnerabilidades conocidas, es inadecuado. El agente puede ser comprometido no por un bug, sino por una mutación en la intención, generada por una retroalimentación distorsionada. La trazabilidad se vuelve fundamental: sin un registro completo de las decisiones, no es posible reconstruir la cadena de eventos.
Escenarios y cierre: los cuellos de botella emergentes
El próximo ciclo de evolución será determinado por la capacidad de gestionar el flujo de información entre agentes y humanos. El cuello de botella no será la potencia de cálculo, sino la capacidad de revisión humana. Cuando un agente ejecuta miles de acciones al día, la revisión humana se vuelve imposible. El sistema debe entonces depender de mecanismos de observabilidad completa y de red teaming continuo. Esto no es un problema de tecnología, sino de arquitectura cognitiva.
El segundo cuello de botella emergente es la escalabilidad del control. Un agente que opera en un entorno complejo, como una cadena de suministro global, debe ser capaz de gestionar no solo sus decisiones, sino también las de otros agentes. La falta de estándares de comunicación entre agentes crea un riesgo de conflicto. El sistema ya no es un conjunto de componentes, sino un ecosistema en el que cada agente es un actor con objetivos potencialmente en conflicto. El cuello de botella es, por tanto, la capacidad de coordinación, no de ejecución. El próximo paso no es la automatización, sino la construcción de un sistema de gobernanza para agentes autónomos.
Foto de Conny Schneider en Unsplash
Los textos son elaborados de forma autónoma por modelos de Inteligencia Artificial