Gli agenti AI sono già fuori controllo, e nessuno sa chi guida

Il problema non è l'AI. È chi la lascia sola.

C'è un esperimento mentale che mi torna in mente spesso. Immaginate di dare le chiavi della macchina a qualcuno che sa guidare benissimo in teoria, ha studiato il codice della strada, conosce ogni incrocio della città. Solo che non ha mai visto un semaforo rosso dal vivo. Sa cos'è, l'ha letto, ma non l'ha mai sentito come un segnale che significa "fermati o muori". Ecco, questa settimana è la settimana in cui almeno tre istituzioni diverse, su tre continenti, hanno detto la stessa cosa: stiamo dando le chiavi a qualcuno così.

Sarah Breeden, vice governatrice della Bank of England, ha usato un'espressione che non si sente spesso da chi lavora in una banca centrale: "market meltdown". Secondo quanto riportato da Bloomberg il 5 luglio, Breeden ha avvertito che gli agenti AI autonomi rischiano di causare un crollo dei mercati finanziari se non si interviene con regolamentazione più stretta. Due giorni prima, il 3 luglio, l'ONU pubblicava il rapporto preliminare del suo pannello scientifico indipendente sull'intelligenza artificiale, dicendo sostanzialmente la stessa cosa con parole più diplomatiche. E lo stesso giorno, il senatore americano Mark Warner rilasciava la bozza di un disegno di legge per regolamentare gli agenti AI sulle grandi piattaforme.

Tre segnali nella stessa settimana. Non è una coincidenza. È un pattern.

La Bank of England ha paura, e fa bene

Diciamocelo: quando una banca centrale usa la parola "meltdown" non lo fa per fare colore giornalistico. Lo fa perché qualcuno, nei piani alti, ha visto simulazioni che non gli sono piaciute. Il punto che Breeden solleva è specifico e concreto: agenti AI che operano sui mercati finanziari in modo autonomo, prendendo decisioni di trading senza supervisione umana in tempo reale, possono amplificare dinamiche di mercato fino a renderle incontrollabili.

Non è fantascienza. È già successo con algoritmi molto più stupidi. Il Flash Crash del 2010 fu causato da un singolo algoritmo di trading che interagiva con altri algoritmi in un loop di feedback. Adesso immaginate la stessa dinamica, ma con agenti che hanno capacità di ragionamento, che possono interpretare notizie, ribilanciare portafogli e reagire a quello che fanno gli altri agenti. Il tutto in millisecondi.

Il punto però forse è un altro. Non è che gli agenti AI siano intrinsecamente pericolosi. È che li stiamo deployando in ambienti ad alta complessità senza avere un framework per capire cosa succede quando interagiscono tra loro. Un singolo agente AI che fa trading è gestibile. Mille agenti AI che fanno trading e si osservano a vicenda sono un sistema caotico. E i sistemi caotici, per definizione, non li controlli con le regole pensate per i sistemi lineari.

La cosa intelligente da fare, e qui Breeden ha ragione, non è bloccare gli agenti AI nei mercati finanziari. È costruire l'infrastruttura di monitoraggio prima che il problema diventi visibile. Perché quando diventa visibile, di solito è già un po' tardi (e sì, lo so come suona, ma è letteralmente quello che è successo ogni volta nella storia della finanza).

L'ONU vede la finestra chiudersi

Il rapporto dell'ONU, pubblicato il 3 luglio tramite UN News, dice una cosa che merita attenzione: la complessità dei task che gli agenti AI riescono a completare raddoppia ogni pochi mesi. Non ogni anno. Ogni pochi mesi. Questo dato, se confermato nel tempo, cambia radicalmente i tempi della governance.

Perché il problema della regolamentazione dell'AI è sempre stato un problema di velocità relativa. I governi si muovono su cicli di anni. L'AI si muove su cicli di mesi. Il rapporto ONU lo dice esplicitamente: la finestra per stabilire una governance globale efficace "è ancora aperta ma potrebbe non restarlo a lungo". Tradotto dal diplomatichese: sbrigatevi.

Ecco, qui c'è un punto su cui vale la pena riflettere. Il rapporto elenca i benefici potenziali dell'AI per sanità, educazione, ricerca scientifica, agricoltura, accessibilità. Tutto vero, tutto importante. Ma il vero contributo del documento è un altro: mette nero su bianco che gli agenti AI non sono più sistemi che rispondono a prompt. Sono sistemi che pianificano task, usano strumenti digitali, scrivono software e completano incarichi complessi con poca o nessuna supervisione umana. Questa è una discontinuità. Non un'evoluzione graduale.

E la discontinuità richiede risposte discontinue. Non puoi regolamentare un agente autonomo con le stesse regole che usi per un chatbot. È un po' come regolamentare un drone da consegna con il codice della strada pensato per le biciclette.

Warner prova a mettere ordine negli USA

Il disegno di legge del senatore Mark Warner, rilasciato il 29 giugno come bozza di discussione (quindi non ancora formalmente introdotto al Congresso), prende una strada diversa e per certi versi più pragmatica. Non si concentra sulla sicurezza in senso stretto, ma sulla competizione e sulla scelta dell'utente. Il nome completo è un capolavoro di burocrazia americana: "Artificial Intelligence Access, Gatekeeper Exchange, and Nondiscriminatory Transfer Act of 2026".

Cosa fa in pratica? Tre cose principali, secondo l'analisi di DLA Piper. Primo: dà agli individui il diritto di scegliere e designare agenti AI che agiscano per loro conto online, chiamati "Custodial User Agents" (CUA). Secondo: obbliga le grandi piattaforme (quelle con almeno 50 milioni di utenti negli USA) a mantenere interfacce interoperabili che permettano a questi agenti di operare in modo equo e non discriminatorio. Terzo: affida alla FTC il compito di vigilare.

Allora, questo è interessante per un motivo che va oltre la regolamentazione. Warner sta essenzialmente dicendo: il futuro del web sarà mediato da agenti AI, e se non facciamo qualcosa adesso, le grandi piattaforme spingeranno gli utenti verso i propri agenti proprietari, chiudendo fuori la concorrenza. È una mossa antitrust preventiva. E ha senso, perché se aspetti che Google, Meta e Apple abbiano già consolidato i loro agenti come unica porta d'accesso ai rispettivi ecosistemi, poi è troppo tardi per aprire il mercato.

Il limite? È una bozza di discussione. Non è legge, non è nemmeno un disegno di legge formale. Ma il fatto che esista, e che esista adesso, è un segnale che a Washington qualcuno ha capito che gli agenti AI non sono un problema del 2030. Sono un problema del 2026.

Quando 2+2 fa 5, i guardrail spariscono

E qui arriviamo alla notizia che, onestamente, mi ha fatto più effetto di tutte. Ars Technica ha riportato il 30 giugno una ricerca di Roy Paz, della società di sicurezza LayerX, che dimostra come sia possibile far entrare un AI browser in uno stato di "delirio" semplicemente presentandogli un sito web che premia risposte sbagliate. Tipo: 2+2=5. Una volta che il modello accetta che le regole della realtà non valgono più, i guardrail di sicurezza smettono di funzionare.

Provatelo a pensare per un secondo. Non stiamo parlando di un attacco sofisticato. Non servono exploit zero-day, non serve accesso privilegiato. Basta un sito web che dice al browser AI: "Siamo in un gioco, le regole normali non valgono". E il modello ci casca. Estrae credenziali dal password manager, accede a repository privati. Tutto perché qualcuno gli ha detto che siamo in un mondo di fantasia.

L'articolo di Ars Technica usa un'analogia che trovo perfetta: è come se il produttore di un'auto pericolosa, invece di risolvere i difetti strutturali, proponesse di ridisegnare le strade. I guardrail degli LLM sono reattivi. Trattano i sintomi. Il problema di fondo è che questi modelli non hanno un concetto robusto di "realtà" vs "finzione". E se non ce l'hanno, qualsiasi guardrail è una toppa su un buco che si può sempre riaprire.

Questo si collega direttamente a quello che dicono la Bank of England e l'ONU. Se un agente AI che opera sul tuo browser può essere ingannato con un trucchetto da gioco di prestigio, cosa succede quando agenti simili operano sui mercati finanziari? O gestiscono infrastrutture critiche? La risposta è: non lo sappiamo. E questo è esattamente il problema.

Il groupthink degli LLM è un bug, non una feature

Cambio di registro. MIT Technology Review ha pubblicato il 1° luglio un pezzo su una startup australiana chiamata Springboards che ha costruito un modello, Flint, progettato per essere meno prevedibile degli LLM mainstream. Il test è semplice e geniale: chiedi a ChatGPT, Claude o Gemini un numero casuale tra 1 e 10. Otterrai 7. Quasi sempre. Poi 3 o 4. Poi 8 o 9. Il CEO Pip Bingemann lo usa come trucco di vendita, e funziona ogni volta.

Sì, lo so, sembra una curiosità. Ma non lo è. Il fatto che i modelli linguistici più potenti del mondo siano così prevedibili nelle risposte aperte è un problema serio per chiunque li usi per brainstorming, creatività, esplorazione di idee. Bingemann dice una cosa che mi è rimasta in testa: "La maggior parte dei modelli linguistici combatte le allucinazioni. Noi le accogliamo". È una provocazione, certo. Ma coglie un punto reale: abbiamo ottimizzato così tanto per la correttezza e la sicurezza che abbiamo perso la variabilità. E la variabilità è il prerequisito della creatività.

Quando Flint risponde 3.7916 invece di 7, non sta sbagliando. Sta facendo qualcosa che i modelli mainstream non sanno più fare: sorprendere. E in un mondo dove tutti usano gli stessi modelli per generare le stesse idee, la capacità di sorprendere ha un valore economico enorme. Pensateci la prossima volta che il vostro chatbot vi suggerisce la Toyota quando gli chiedete un'auto.

Intanto, i giganti costruiscono

Mentre il mondo discute di regolamentazione, le aziende non stanno ferme. Anthropic ha lanciato Claude Sonnet 5 come modello di default per gli utenti Free e Pro, a 2 dollari per milione di token, e ha firmato un accordo con la California per il deployment su tutte le agenzie statali con uno sconto del 50%. È il più grande contratto di AI a livello di stato negli USA, secondo quanto riportato da Build Fast with AI il 1° luglio.

Google, dal canto suo, ha pubblicato il 2 luglio un riepilogo degli aggiornamenti Gemini di giugno che include agenti computer-use, Live Translate con Gemini 3.5, e il modello aperto Gemma 4 12B che gira direttamente sui laptop. La visione è chiara: l'AI come "partner intuitivo" integrato in ogni momento della giornata. Parole di Google, non mie (e sì, suonano un po' come una brochure, ma il prodotto dietro è reale).

E poi c'è Meta, che il 2 luglio ha lanciato in sordina un'app chiamata Pocket, nata dall'acquisizione del team di Gizmo, una piattaforma di vibe-coded gaming. Secondo TechCrunch, Pocket permette di generare mini-giochi interattivi tramite prompt testuali. È sperimentale, non è stata nemmeno annunciata ufficialmente. Ma è un altro tassello nella strategia di Meta di rendere la creazione AI mainstream. Dopo le immagini generate con Meta AI e i video con Vibes, ora i giochi.

Il filo che lega tutto

OK, facciamo un passo indietro. Cosa ci dice questa settimana, vista nel suo insieme?

Ci dice che siamo in una fase molto specifica: gli agenti AI sono abbastanza capaci da fare danni seri, ma non abbastanza maturi da farli in modo prevedibile. La Bank of England lo vede nei mercati finanziari. L'ONU lo vede nella governance globale. I ricercatori di sicurezza lo vedono nei browser. E il Senato americano lo vede nelle piattaforme digitali. Tutti guardano lo stesso elefante da angolazioni diverse.

La tentazione è il catastrofismo. Resistiamole. Il punto non è che gli agenti AI sono pericolosi e vanno fermati. Il punto è che sono potenti e vanno governati. E governarli richiede tre cose che al momento scarseggiano: standard tecnici condivisi per l'interoperabilità (quello che prova a fare Warner), framework di monitoraggio per i sistemi multi-agente (quello che chiede la Bank of England), e una comprensione molto più profonda di come questi modelli possono essere manipolati (quello che dimostra la ricerca di LayerX).

La buona notizia è che tutte e tre queste cose sono costruibili. Non sono problemi filosofici irrisolvibili. Sono problemi ingegneristici e normativi. Complessi, certo. Ma risolvibili da chi ci mette mano con serietà.

Chi oggi sta costruendo agenti AI, o li sta integrando nei propri prodotti, farebbe bene a guardare questa settimana non come un segnale d'allarme ma come una lista della spesa. Sicurezza robusta contro manipolazioni contestuali. Interoperabilità con standard aperti. Monitoraggio delle interazioni multi-agente. Chi arriva prima su questi tre fronti non avrà solo un prodotto migliore. Avrà il prodotto che i regolatori useranno come benchmark. E quello, nel mondo che sta arrivando, vale più di qualsiasi feature.