Il Papa, il codice e il tribunale: l'AI cerca un padrone

Un'enciclica da 42.300 parole

Quarantaduemilatrecento parole. Lasciate che il numero vi entri in testa. Papa Leone XIV ha scritto un'enciclica sull'intelligenza artificiale che è più lunga di molti romanzi brevi. Il New York Times la definisce "a powerful foray" nel dibattito sull'uso e abuso dell'AI, e il Guardian riporta che il pontefice chiede esplicitamente il "disarmo" dell'intelligenza artificiale e denuncia una "cultura del potere" che ne guida lo sviluppo. E poi, dettaglio che mi ha colpito più di tutto il resto, si scusa per il ritardo della Chiesa nel condannare la schiavitù.

Ecco, quel dettaglio sulla schiavitù non è un inciso casuale. È il cuore retorico di tutta l'operazione. Leone XIV sta dicendo: guardate, noi come istituzione abbiamo già sbagliato una volta a restare in silenzio troppo a lungo su qualcosa di enorme. Non vogliamo rifarlo. È una mossa intelligente, perché trasforma un'ammissione di colpa storica in una leva di credibilità presente.

Il punto però forse è un altro. Un papa americano che scrive 42.300 parole sull'AI non è solo un fatto religioso. È un fatto geopolitico. Come nota David Streitfeld sul NYT, la domanda vera è se stia sfidando le aziende tech o se la tecnologia finirà per "prendere il sopravvento sul papato". Diciamocelo: quando il leader spirituale di 1,3 miliardi di persone decide di occuparsi di interpretabilità dei modelli (e sì, AI4Business collega esplicitamente l'enciclica al lavoro di Christopher Olah di Anthropic sull'interpretabilità), non siamo più nel territorio delle omelie generiche sul progresso.

Siamo nel territorio in cui la Chiesa cattolica prova a fare quello che i governi non riescono a fare: dare un framework etico che sia abbastanza ampio da reggere più di due cicli elettorali. Funzionerà? Probabilmente no, non direttamente. Ma crea un punto di riferimento. E in un momento in cui l'AI Act europeo è in fase di implementazione e gli Stati Uniti hanno appena fatto marcia indietro sulla revisione di sicurezza dei nuovi modelli AI (come riporta il Guardian a proposito dell'executive order di Trump), avere qualcuno che pianta una bandierina morale non è poco.

I tribunali sommersi dall'AI

Passiamo a qualcosa di completamente diverso. O forse no.

Il New York Times racconta che i tribunali americani sono inondati di cause "home-brewed", fatte in casa, scritte con l'aiuto dell'intelligenza artificiale. Per anni i tribunali hanno accolto con favore le cause presentate da persone che si rappresentavano da sole, senza avvocato. Adesso quelle stesse persone hanno ChatGPT, e i loro atti processuali stanno consumando "sempre più bandwidth" del sistema giudiziario.

Leggere una norma e capire se una causa ha fondamento sono due lavori diversi. La legge è pubblica e i codici sono online; l'accesso al testo non sostituisce il giudizio professionale. Un avvocato deve anche valutare se quella norma sia pertinente al caso e se abbia senso andare davanti a un giudice.

L'AI ha democratizzato la parte sbagliata del processo. Ha dato a tutti la capacità di scrivere atti che sembrano professionali, senza dare a nessuno la capacità di capire se quegli atti hanno fondamento. È un po' come dare a tutti un bisturi perfettamente affilato senza il corso di anatomia. Il risultato non è più chirurgia. È più caos.

E questo si collega direttamente al tema della sicurezza che solleva anche il post di @aisintesi su Instagram: l'AI cambia radicalmente il modo in cui viviamo, ma i costi di questa evoluzione li stiamo ancora calcolando. Nel caso dei tribunali, il costo è misurabile: più cause frivole, più tempo dei giudici sprecato, più arretrato. Il sistema non scala.

Il 75% del codice è di Claude

Satispay. Il 75% del codice scritto con Claude di Anthropic. Lo riporta AI4Business e il numero è di quelli che ti fermano a metà scrollata.

Tre quarti. Non il 20%, non il 40%. Tre quarti del codice di un'azienda fintech italiana che gestisce pagamenti per milioni di persone viene scritto da un modello linguistico. Provatelo a dire ad alta voce e sentite come suona.

Ora, prima che qualcuno gridi alla fine dei programmatori: il punto non è che Claude scrive il codice "da solo". Il punto è che il ruolo dello sviluppatore si sta spostando, velocemente, da chi scrive a chi supervisiona, corregge, indirizza. È la stessa dinamica del vibe coding di cui si parla da un paio d'anni, ma applicata a un'azienda vera, con utenti veri, con soldi veri che passano attraverso quel codice.

E qui la cosa si fa interessante. Perché se il 75% del codice lo scrive un modello, chi è responsabile quando quel codice ha un bug? Non un bug qualsiasi: un bug in un sistema di pagamenti. Un bug che magari sposta decimali nel posto sbagliato. La compliance dell'AI Act, come analizza AI4Business in un pezzo dedicato, impatta direttamente sulla responsabilità algoritmica. E quando l'algoritmo scrive il codice che gestisce i tuoi soldi, la domanda sulla responsabilità non è più accademica.

Intanto OpenAI, SpaceX e Anthropic si preparano alla stagione delle IPO, come riporta AI4Business. Tre aziende che insieme valgono probabilmente più del PIL di diversi paesi europei, e che stanno per aprirsi al mercato pubblico nello stesso periodo. Non è un caso. È il segnale che il settore ha deciso che è il momento di monetizzare la fiducia accumulata. E Nvidia, dal canto suo, sta già trasformando il boom dell'AI in ritorni per gli azionisti, anche se il mercato guarda oltre.

L'AI mangia tutto, ma cosa resta

C'è un filo che lega il Papa, i tribunali e Satispay, e non è il filo ovvio del "l'AI è ovunque". È qualcosa di più specifico.

In tutti e tre i casi, l'AI si è inserita in un sistema che funzionava secondo regole consolidate (la dottrina sociale della Chiesa, il processo civile, lo sviluppo software) e ha cambiato non le regole, ma chi le applica. Il Papa non sta discutendo se l'AI sia buona o cattiva. Sta discutendo chi deve decidere come viene usata. I tribunali non hanno un problema di tecnologia. Hanno un problema di filtro: chi decide cosa merita di essere giudicato? Satispay non ha un problema di qualità del codice. Ha un problema di attribuzione: chi è l'autore?

Sono tutte domande di governance. E la governance, in questo momento, è il collo di bottiglia di tutto il settore AI. Non la tecnologia, non i modelli, non la potenza di calcolo. La governance.

Il report del comptroller di New York City, citato dal NYT, dice che migliaia di posti di lavoro potrebbero essere persi a causa del boom dell'AI. "Non abbiamo mai visto niente di simile", dice. In Cina, come racconta il Times, i microdrammi generati dall'AI stanno già sostituendo attori in carne e ossa, e le celebrità minacciano azioni legali per l'uso non autorizzato della loro immagine. Nelle scuole americane, i professori fanno scrivere gli studenti in classe, a mano, sotto sorveglianza, per proteggersi dall'AI. Sì, lo so: sembra una scena di un film distopico degli anni '90, ma sta succedendo adesso.

E poi c'è il pezzo del Guardian che racconta dell'"AI washing": aziende britanniche che chiedono ai loro PR di presentare normalissima automazione come intelligenza artificiale. Il che è quasi comico, se ci pensi. Da un lato abbiamo il Papa che chiede di "disarmare" l'AI. Dall'altro abbiamo aziende che fingono di averla per sembrare più interessanti agli investitori. La realtà dell'AI nel 2026 sta esattamente in mezzo a queste due assurdità.

Costruire dentro il caos

Le notizie di questa settimana hanno un punto in comune: introdurre l'AI cambia il lavoro di chi deve decidere, verificare e rispondere degli errori. Il problema emerge nei tribunali come nello sviluppo software.

Le organizzazioni che stanno gestendo meglio l'AI non sono quelle che la abbracciano ciecamente né quelle che la rifiutano. Sono quelle che la trattano come un materiale da costruzione, non come un architetto. Satispay usa Claude per il 75% del codice, ma ha ancora sviluppatori che decidono cosa costruire. I tribunali che funzionano sono quelli che stanno sviluppando filtri per le cause generate dall'AI, non quelli che le vietano. Persino il Papa, con le sue 42.300 parole, non chiede di spegnere l'AI. Chiede di decidere consapevolmente chi la controlla.

Il report McKinsey citato da AI4Business dice una cosa che suona banale ma non lo è: il vantaggio competitivo cresce quando dati e processi diventano asset. Tradotto: non vince chi ha l'AI migliore, vince chi ha i processi più chiari in cui inserirla. È la differenza tra dare un bisturi a un chirurgo e darlo a uno che passa per strada.

Wendy Liu scrive sul Guardian che evita gli strumenti AI perché "pensare deve essere difficile, è ciò che ci rende umani". È una posizione rispettabile, e probabilmente sbagliata. Non perché pensare non sia importante, ma perché la difficoltà non è un valore in sé. Il valore è nel risultato del pensiero, non nella fatica che ci metti. Un contadino del 1800 faceva più fatica di uno del 2026, ma non produceva cibo migliore.

La vera sfida, quella che nessuna enciclica e nessun executive order risolverà da sola, è costruire le strutture di governance che permettano di usare l'AI senza che l'AI usi noi. E su questo, stranamente, il Papa e il CEO di Anthropic sono più allineati di quanto sembrerebbe. Entrambi parlano di interpretabilità, di trasparenza, di capire cosa succede dentro la scatola nera. La differenza è che uno lo fa con un'enciclica e l'altro con paper tecnici. Ma il problema che stanno cercando di risolvere è lo stesso.