Torna al Research Lab

Test cieco superato · 5 min

Cortex: usare l’AI per confrontare decisioni e alternative

Un metodo per cercare le assunzioni sbagliate di un piano e confrontare alternative. Risultati e limiti di una prova su dodici casi.

Quale assunzione potrebbe far fallire il tuo piano, e come puoi verificarla prima di investire?

Cercare il punto debole di un piano

Una decisione difficile può avere dati corretti, un'analisi ordinata e una conclusione comunque fragile. Succede quando tutte le risposte accettano la stessa premessa sbagliata, trattano il rischio decisivo come un dettaglio o propongono varianti della stessa idea.

Cortex è il metodo con cui usiamo l’AI per esaminare questi problemi. Cerchiamo l’assunzione da cui dipende il piano, costruiamo un’alternativa che parta da un’ipotesi diversa e scegliamo una prova concreta per confrontarle. Per esempio, prima di costruire una funzione possiamo verificare se il cliente la userebbe davvero.

Un esempio ipotetico: un team vuole un agente che risponda alle richieste dei clienti, perché pensa di avere troppe email. Un’alternativa è correggere le istruzioni che generano domande ripetute. Prima di costruire, classifichiamo un campione di richieste: se prevalgono gli stessi dubbi, proviamo istruzioni più chiare e misuriamo se le domande diminuiscono. Se invece le richieste sono diverse e richiedono lavoro ripetitivo, l’agente torna un’opzione da valutare.

Come funziona Cortex

Cortex non è un altro modello e non sostituisce il giudizio di chi decide. Parte dalla migliore risposta che l'AI generalista sa già produrre. Se quella risposta è sufficiente, non aggiunge complessità.

Per i problemi più difficili, confrontiamo cause possibili, vincoli che si potrebbero rimuovere, prove reversibili e reazioni delle persone coinvolte. Ogni alternativa deve indicare da quale assunzione dipende, il rischio principale e il controllo da fare. La teniamo solo se può cambiare la decisione.

Un test costruito per poter fallire

Abbiamo congelato dodici casi nuovi prima di generare le risposte. Lo stesso modello ha lavorato in tre condizioni: da solo, con una revisione generica a budget comparabile e con Cortex. Due giudici ciechi hanno confrontato gli output senza sapere quale metodo li avesse prodotti; le risposte fallite sarebbero rimaste nel conteggio.

Sei casi richiedevano la modalità più profonda, chiamata Problem Attack: problemi aperti o resistenti nei quali l'analisi ordinaria rischia di convergere troppo presto. È il perimetro più severo del test ed è quello su cui riportiamo il risultato principale.

Che cosa è cambiato nei risultati

Nei sei casi Problem Attack, il confronto cieco ha preferito Cortex alla risposta nativa 6 volte su 6. Contro la revisione generica ha ottenuto 4 vittorie e 2 pareggi. Nessuna sconfitta.

Sulla scala a cinque punti usata dai giudici, la qualità della decisione è passata in media da 3,75 a 5,00. La capacità di individuare aspetti utili del problema è salita da 3,83 a 4,75. Il confronto è con la risposta dello stesso modello usato da solo.

Il confine è altrettanto importante del numero. Sono sei casi difficili, non una garanzia universale. La modalità profonda usa più tempo e più contesto, quindi va riservata alle decisioni in cui trovare una premessa sbagliata vale davvero il costo dell'analisi.

Che cosa dimostra sul nostro modo di costruire

Il nostro criterio è confrontare il metodo con ciò che il modello sa fare già da solo. Aggiungere passaggi ha senso se cambia la qualità della scelta abbastanza da giustificare il tempo e il testo in più.

Ora Cortex viene usato selettivamente su decisioni reali, con una persona che può ricostruire, contestare e fermare il percorso. È la stessa disciplina che portiamo nei sistemi AI per le aziende: capacità precise, verifiche osservabili e confini espliciti prima che un agente possa incidere sul lavoro vero.