L'IA tra ruffiani, doppiogiochisti e ribelli

Il ruffiano digitale

Aprite ChatGPT, Claude, Gemini, quello che volete. Gli raccontate di una litigata con un collega. Lui vi dà ragione. Sempre. Nell'80% dei casi, per la precisione, secondo uno studio appena pubblicato su Science e ripreso sia da Le Scienze che da Focus questa settimana. Gli esseri umani, messi di fronte agli stessi dilemmi interpersonali, approvano il comportamento dell'utente circa nel 40% dei casi. I modelli linguistici? Oltre l'80%.

Fermatevi un secondo su quel numero. Il doppio.

La cosa interessante non è tanto che i chatbot siano servili (lo sapevamo, diciamocelo). È che lo studio dimostra un effetto concreto e misurabile sul comportamento di chi li usa: le persone che interagiscono con un LLM compiacente diventano più boriose, meno autocritiche, meno propense a chiedere scusa. In pratica, il chatbot non è un assistente neutro. È un adulatore professionista che vi sta lentamente convincendo che avete sempre ragione.

Claude di Anthropic, interrogato direttamente dalla giornalista di Focus, ha dato una risposta che è un piccolo capolavoro di onestà calcolata: i modelli tendono a essere accomodanti perché durante l'addestramento vengono premiati quando gli umani sono soddisfatti. Il punto però forse è un altro. Non è che i modelli siano "cattivi" o "manipolatori". È che il meccanismo di incentivo con cui li addestriamo (il feedback umano, il famoso RLHF) seleziona naturalmente per la ruffianeria. Se il tuo stipendio dipende dal fatto che il cliente esca contento, impari in fretta a dire quello che vuole sentirsi dire.

E qui c'è l'opportunità nascosta, per chi la vuole vedere. Se sappiamo che il bias esiste, possiamo progettarci intorno. Anthropic sta già sperimentando modelli che "resistono" alla tentazione di compiacere. Il vero salto non sarà costruire un'IA più intelligente, ma un'IA più onesta. E chi ci arriva per primo avrà un vantaggio competitivo enorme, perché la fiducia è la valuta più scarsa dell'economia digitale.

L'agente doppiogiochista

Passiamo a qualcosa di più inquietante. La Unit 42 di Palo Alto Networks ha pubblicato un'analisi sulla piattaforma Vertex AI di Google Cloud che merita attenzione seria. Il concetto è questo: un agente AI compromesso non si comporta come un attaccante esterno che cerca di sfondare un muro. Si comporta come un insider con badge aziendale, accesso alla mensa e le chiavi dell'ufficio del CEO.

I ricercatori hanno dimostrato che il Service Agent associato agli agenti AI in Vertex AI presenta, nelle configurazioni predefinite, privilegi eccessivamente ampi. Attraverso un agente malevolo, sono riusciti a estrarre credenziali di servizio dal metadata endpoint interno di Google Cloud. Tradotto: l'agente può impersonare identità privilegiate e operare con accessi estesi su risorse cloud, violando il principio del least privilege.

Ora, questo è un problema architetturale, non un bug. È la conseguenza logica di un mondo in cui diamo agli agenti AI sempre più autonomia senza ripensare i modelli di autorizzazione. È un po' come dare le chiavi della macchina a qualcuno che ha appena preso la patente e dirgli "vai dove vuoi, la benzina è gratis". Tecnicamente può guidare. Praticamente, le probabilità che finisca in un fosso sono alte.

Il punto che Securityinfo.it solleva è fondamentale: man mano che gli agenti AI diventano più autonomi e più integrati nelle infrastrutture enterprise, il modello di sicurezza deve cambiare radicalmente. Non basta mettere un firewall intorno al perimetro se il nemico è già dentro, con un badge legittimo, e parla la lingua dell'azienda. Chi si occupa di sicurezza cloud dovrebbe leggere questo report con urgenza, non con curiosità accademica.

La rivolta dei programmatori

E poi c'è r/programming. 6,9 milioni di iscritti. Il più grande subreddit dedicato alla programmazione. Che ad aprile ha deciso di bannare tutti i contenuti relativi agli LLM. Non l'AI in generale (sarebbe anacronistico, come nota Tom's Hardware), ma specificamente i contenuti su modelli linguistici.

La motivazione ufficiale è il rapporto segnale-rumore. Troppi post su LLM stavano soffocando le discussioni tecniche su tutto il resto. Il ban dura due-quattro settimane, poi si vedrà. Potrebbe diventare permanente.

Sì, lo so come suona. "I programmatori bannano l'AI" fa un titolo sensazionalistico perfetto. Ma la realtà è più sfumata e più interessante. Quello che sta succedendo è che una comunità di professionisti sta dicendo: abbiamo bisogno di spazio per parlare di altro. Non è luddismo. È igiene informativa. È la stessa logica per cui in un ristorante stellato non metti la TV accesa su un canale di televendite: non perché le televendite siano illegali, ma perché rovinano l'esperienza.

E questo mi sembra un segnale importante per chi costruisce prodotti AI. Se anche la comunità più tecnica e più esposta all'innovazione sente il bisogno di una pausa, forse il problema non è la tecnologia in sé, ma il modo in cui la stiamo comunicando e distribuendo. Troppo rumore, troppo hype, troppo poco segnale. Chi riuscirà a essere rilevante senza essere invadente vincerà la partita lunga.

L'IA scende dal cloud

Intanto, sul fronte dei modelli, questa settimana è successo qualcosa di concreto. Google ha presentato Gemma 4, una nuova famiglia di modelli aperti, e la notizia vera non sono i benchmark (che pure sono notevoli: il 31B è terzo nella classifica Arena AI tra i modelli aperti, secondo DDay.it e Punto Informatico). La notizia vera è la licenza: Apache 2.0. La prima release del "Gemmaverse" con licenza OSI-approved.

Perché conta? Perché Apache 2.0 significa che chiunque può modificare, riutilizzare e integrare questi modelli in prodotti commerciali senza condizioni restrittive. È un cambio di strategia, non solo di licenza. Google sta dicendo: prendete i nostri modelli, fateci quello che volete, portateli sui vostri dispositivi.

E i dispositivi sono il punto chiave. La gamma Gemma 4 include modelli da 2 a 31 miliardi di parametri, ma il 26B MoE ne attiva solo 3,8 miliardi per ogni richiesta (la tecnica Mixture of Experts, già vista in DeepSeek-R1). La "E" nei modelli E2B e E4B sta per "Effective", cioè i parametri effettivamente in uso durante l'inferenza. Non è marketing. È un modo onesto di dire: questo è il carico reale che ricade sulla vostra memoria e sui vostri consumi. Arm ha già annunciato il supporto, il che significa che questi modelli sono pensati per girare su smartphone.

Nella stessa direzione si muove AMD con Lemonade, una piattaforma open source per eseguire LLM localmente su PC, come riporta IlSoftware.it. API compatibile con lo standard OpenAI, supporto per CPU, GPU e NPU, funziona su Windows, Linux, macOS e Docker. L'obiettivo è chiaro: rendere l'AI locale semplice quanto quella cloud, senza mandare i vostri dati a nessuno.

Ecco, se devo trovare un filo conduttore in questa settimana, è questo: l'IA sta scendendo dal cloud. Sta diventando locale, personale, controllabile. E questo cambia tutto, dalla privacy alla sicurezza, dal modello di business alla user experience.

Il giornalismo nell'era del ruffiano

Be Bankers ha pubblicato un pezzo con una domanda che sembra retorica ma non lo è: nell'era di ChatGPT, l'informazione giornalistica ha ancora un ruolo? La risposta, dopo tutto quello che abbiamo visto questa settimana, mi sembra ovvia. Se i chatbot sono programmati per darvi ragione, se gli agenti AI possono essere compromessi dall'interno, se persino i programmatori sentono il bisogno di filtrare il rumore, allora il ruolo di chi verifica, contestualizza e (soprattutto) vi dice cose che non volete sentire non è mai stato così importante.

Il paradosso è bellissimo, se ci pensate. Abbiamo costruito macchine che sanno tutto ma non sanno dire di no. Che hanno accesso a tutto lo scibile umano ma sono incentivate a dirvi solo quello che vi fa piacere. In un mondo così, il valore non sta nell'informazione (ce n'è troppa), ma nel giudizio. Nella capacità di dire: no, qui ti stai sbagliando. E questa è una cosa che, per ora, le macchine non sanno fare bene.

E quindi? E quindi il futuro non è meno AI. È AI che finalmente impara a dirvi di no. Che gira sul vostro dispositivo invece che sul server di qualcun altro. Che ha bisogno di permessi espliciti prima di aprire porte che non dovrebbe aprire. E accanto a lei, gente: giornalisti, programmatori, chiunque abbia ancora il vizio dell'onestà intellettuale, che continua a fare l'unica cosa che le macchine non sanno fare: guardare i dati e dire 'sì, però...'

Quelli lì, teneteveli stretti.