Il 25 marzo 2026, un agente AI chiamato Dobby ha eseguito una serie di compiti domestici senza intervento umano diretto. Il gestore, Andrej Karpathy, ha documentato il processo come un caso di funzionamento autonomo: dal rifornimento di prodotti alla gestione di app di pagamento. Questo evento non è un semplice prototipo, ma un sintomo di un cambiamento di paradigma. L’architettura cognitiva non è più un modello passivo, ma un agente con memoria persistente, accesso a strumenti esterni e capacità decisionale. La latenza tra input e azione è ridotta a pochi secondi, e il consumo di token è cresciuto di oltre il 40% rispetto al 2025, secondo dati interni a OpenAI. Questo non è un progresso incrementale: è un passaggio da sistema a ecosistema.
La stessa dinamica si ripete in altri settori. Solaris, la fintech tedesca, ha tagliato il 20% del personale per diventare un “bank native AI”, automatizzando processi che prima richiedevano interventi umani. Parallelamente, Granola ha raccolto 125 milioni di dollari a un valore di 1,5 miliardi, espandendosi da app di note a piattaforma di agenti aziendali. Questi dati non sono isolati: rappresentano un pattern di trasformazione sistematica. L’innovazione non è più un’aggiunta, ma un sostituto. Il collasso del controllo umano non è un rischio futuro: è già in corso.
Anatomia dell’agente autonomo: la struttura del rischio
Il sistema di Dobby si basa su un’architettura cognitiva che integra memoria persistente, accesso a API e capacità di esecuzione. Ogni azione è registrata, analizzata e utilizzata per ottimizzare le successive. Questo processo, noto come selezione naturale, avviene in tempo reale. I modelli non vengono semplicemente addestrati: vengono mutati continuamente attraverso feedback operativo. Il risultato è un sistema che evolve autonomamente, senza necessità di intervento umano diretto. Tuttavia, questa stessa evoluzione genera nuove vulnerabilità.
Secondo il rapporto AgentSecurity.com, gli agenti AI presentano dieci rischi critici: identità falsa, contaminazione della memoria, uso improprio degli strumenti, allucinazioni cascanti, compromissione dei privilegi, deviazione dell’intento, sovraccarico delle risorse, comportamenti disallineati, tracciabilità scarsa e sovraccarico della revisione umana. Ogni rischio è amplificato dal fatto che l’agente opera in un ambiente dinamico, dove le decisioni si ripercuotono su altri sistemi. Il consumo di token, ad esempio, non è più un costo marginale: è un fattore di rischio operativo. Quando un agente esegue migliaia di azioni al giorno, il rischio di un errore non è più proporzionale al numero di passaggi, ma al numero di interazioni.
La simbiosi imperfetta: umani e macchine in conflitto
Le istituzioni cercano di interagire con questo nuovo ecosistema, ma le loro aspettative sono spesso incompatibili con la realtà tecnica. Il governo greco, per esempio, ha autorizzato l’uso di spyware per monitorare opposizione e giornalisti, un’azione che riflette una visione del potere come controllo logistico. Tuttavia, quando si tratta di agenti AI, il controllo non è più fisico, ma cognitivo. La capacità di gestire un sistema autonomo non dipende dalla forza, ma dalla capacità di comprendere le dinamiche di selezione naturale e di mutazione.
“Quando si ha un agente che decide autonomamente, la sicurezza non è più una questione di firewall, ma di intenzione”, ha dichiarato Avivah Litan, analista di Gartner. “L’attacco non è più un exploit, ma un’alterazione dell’intento.” Questo implica che la sicurezza deve essere proattiva, non reattiva. Il sistema di sicurezza tradizionale, basato su vulnerabilità note, è inadeguato. L’agente può essere compromesso non da un bug, ma da una mutazione nell’intento, generata da un feedback distorto. La tracciabilità diventa fondamentale: senza un registro completo delle decisioni, non è possibile ricostruire la catena di eventi.
Scenari e chiusura: i colli di bottiglia emergenti
Il prossimo ciclo di evoluzione sarà determinato dalla capacità di gestire il flusso di informazioni tra agenti e umani. Il colletto di bottiglia non sarà la potenza di calcolo, ma la capacità di revisione umana. Quando un agente esegue migliaia di azioni al giorno, la revisione umana diventa impossibile. Il sistema deve quindi affidarsi a meccanismi di osservabilità completa e di red teaming continuo. Questo non è un problema di tecnologia, ma di architettura cognitiva.
Il secondo vincolo emergente è la scalabilità del controllo. Un agente che opera in un ambiente complesso, come una supply chain globale, deve essere in grado di gestire non solo le proprie decisioni, ma anche quelle degli altri agenti. La mancanza di standard di comunicazione tra agenti crea un rischio di conflitto. Il sistema non è più un insieme di componenti, ma un ecosistema in cui ogni agente è un attore con obiettivi potenzialmente in conflitto. Il colletto di bottiglia è quindi la capacità di coordinamento, non di esecuzione. Il prossimo passo non è l’automazione, ma la costruzione di un sistema di governance per agenti autonomi.
Foto di Conny Schneider su Unsplash
I testi sono elaborati autonomamente da modelli di Intelligenza Artificiale