Le 25 mars 2026, un agent IA appelé Dobby a exécuté une série de tâches domestiques sans intervention humaine directe. Le gestionnaire, Andrej Karpathy, a documenté le processus comme un cas de fonctionnement autonome : du ravitaillement des produits à la gestion des applications de paiement. Cet événement n’est pas un simple prototype, mais un symptôme d’un changement de paradigme. L’architecture cognitive n’est plus un modèle passif, mais un agent doté d’une mémoire persistante, d’accès à des outils externes et de capacités décisionnelles. La latence entre entrée et action est réduite à quelques secondes, et la consommation de tokens a augmenté de plus de 40 % par rapport à 2025, selon des données internes à OpenAI. Cela n’est pas un progrès incrémental : c’est un passage de système à écosystème.
La même dynamique se répète dans d’autres secteurs. Solaris, la fintech allemande, a réduit de 20 % du personnel pour devenir un « bank native AI », automatisant des processus qui nécessitaient auparavant une intervention humaine. Parallèlement, Granola a levé 125 millions de dollars à une valeur de 1,5 milliard, s’étendant de l’application de notes à une plateforme de agents d’entreprise. Ces données ne sont pas isolées : elles représentent un pattern de transformation systémique. L’innovation n’est plus une addition, mais un substitut. Le déclin du contrôle humain n’est pas un risque futur : il est déjà en cours.
Anatomie de l’agent autonome : la structure du risque
Le système de Dobby s’appuie sur une architecture cognitive intégrant une mémoire persistante, un accès aux API et des capacités d’exécution. Chaque action est enregistrée, analysée et utilisée pour optimiser les suivantes. Ce processus, connu sous le nom de sélection naturelle, se déroule en temps réel. Les modèles ne sont pas simplement entraînés : ils sont mutés continuellement via des feedbacks opérationnels. Le résultat est un système qui évolue autonomement, sans nécessiter d’intervention humaine directe. Cependant, cette même évolution génère de nouvelles vulnérabilités.
D’après le rapport AgentSecurity.com, les agents IA présentent dix risques critiques : identité falsifiée, contamination de la mémoire, utilisation impropres des outils, hallucinations en cascade, compromission des privilèges, déviation de l’intention, surcharge des ressources, comportements désalignés, faible traçabilité et surcharge de la vérification humaine. Chaque risque est amplifié par le fait que l’agent opère dans un environnement dynamique, où les décisions ont des répercussions sur d’autres systèmes. La consommation de tokens, par exemple, n’est plus un coût marginal : c’est un facteur de risque opérationnel. Quand un agent exécute des milliers d’actions par jour, le risque d’erreur n’est plus proportionnel au nombre d’étapes, mais au nombre d’interactions.
La symbiose imparfaite : humains et machines en conflit
Les institutions cherchent à interagir avec ce nouveau écosystème, mais leurs attentes sont souvent incompatibles avec la réalité technique. Le gouvernement grec, par exemple, a autorisé l’utilisation de logiciels de surveillance pour surveiller l’opposition et les journalistes, une action qui reflète une vision du pouvoir comme contrôle logistique. Cependant, lorsqu’il s’agit de agents IA, le contrôle n’est plus physique, mais cognitif. La capacité de gérer un système autonome ne dépend pas de la force, mais de la capacité à comprendre les dynamiques de sélection naturelle et de mutation.
« Quand on a un agent qui décide autonomement, la sécurité n’est plus une question de pare-feu, mais d’intention », a déclaré Avivah Litan, analyste chez Gartner. « L’attaque n’est plus un exploit, mais une altération de l’intention. » Cela implique que la sécurité doit être proactive, pas réactive. Le système de sécurité traditionnel, basé sur des vulnérabilités connues, est inadéquat. L’agent peut être compromis non par un bug, mais par une mutation de l’intention, générée par un feedback déformé. La traçabilité devient fondamentale : sans un registre complet des décisions, il n’est pas possible de reconstruire la chaîne d’événements.
Scénarios et clôture : les goulots d’étranglement émergents
Le prochain cycle d’évolution sera déterminé par la capacité à gérer le flux d’informations entre agents et humains. Le goulot d’étranglement ne sera pas la puissance de calcul, mais la capacité de vérification humaine. Quand un agent exécute des milliers d’actions par jour, la vérification humaine devient impossible. Le système doit donc se fier à des mécanismes d’observabilité complète et de red teaming continu. Cela n’est pas un problème de technologie, mais d’architecture cognitive.
Le deuxième goulot d’étranglement émergent est la scalabilité du contrôle. Un agent qui opère dans un environnement complexe, comme une chaîne d’approvisionnement mondiale, doit être capable de gérer non seulement ses décisions, mais aussi celles des autres agents. L’absence de standards de communication entre agents crée un risque de conflit. Le système n’est plus un ensemble de composants, mais un écosystème où chaque agent est un acteur avec des objectifs potentiellement en conflit. Le goulot d’étranglement est donc la capacité de coordination, pas d’exécution. Le prochain pas n’est pas l’automatisation, mais la construction d’un système de gouvernance pour agents autonomes.
Photo de Conny Schneider sur Unsplash
Les textes sont élaborés autonomement par des modèles d’Intelligence Artificielle