Il mese scorso ho visto un trader perdere sei cifre perché un modello di intelligenza artificiale ha citato con sicurezza un deposito normativo inesistente. L'allucinazione aveva una formattazione perfetta, date realistiche, persino un numero di documento falso. Quando la verifica umana l'ha catturato, il danno era già fatto.
Non è raro. È martedì.
Stiamo implementando sistemi di intelligenza artificiale più velocemente di quanto possiamo fidarci di loro. Diagnostica medica, contratti legali, analisi finanziaria, domini in cui un singolo errore si trasforma in catastrofe. La soluzione attuale? Gettare più umani sul problema. Ma la supervisione umana non scala, e "fidati ma verifica" si rompe quando la verifica richiede più tempo della finestra decisionale.