Quando l'AI sbaglia: perché l'ultimo controllo resta a te

C'è una cosa che chi vende l'AI tende a non dirti, e che invece conviene sapere subito: a volte sbaglia, e lo fa con l'aria sicura di chi ha ragione. Le chiami «allucinazioni» nel gergo tecnico, ma il nome fa più paura della cosa. In pratica: se non sa una risposta, certi modelli non dicono «non lo so», ne inventano una plausibile. Un numero, una data, una regola che non esiste.

L'AI non sbaglia come una calcolatrice rotta. Sbaglia come un collega bravo ma troppo sicuro, che ha sempre una risposta pronta anche quando dovrebbe fermarsi.

Detta così sembra un motivo per non usarla. È il contrario: è il motivo per cui si progetta il lavoro in un certo modo. L'errore non si elimina, si incanala — in modo che non arrivi mai da solo fino al cliente o al bilancio.

È una sola, e l'abbiamo già scritta altrove perché vale sempre: la macchina prepara, una persona approva. L'AI legge la fattura e la registra in bozza; qualcuno dà un'occhiata e conferma. L'AI scrive la risposta al cliente; qualcuno la rilegge e la manda. Il lavoro noioso lo fa lei, l'ultima parola resta a te.

Non è un ripiego in attesa che l'AI diventi perfetta. È la forma giusta, e lo resta: toglie il grosso del lavoro senza spostare la responsabilità su una macchina, che la responsabilità non la può portare.

Non tutto ha bisogno dello stesso controllo. Ci sono compiti dove un errore è raro e comunque innocuo, e lì si può lasciarla correre:

• Ordinare e smistare. Mettere ogni documento al suo posto, agganciare una mail al cliente giusto, raggruppare richieste simili.
• Riassumere. Tirare fuori il punto da un contratto lungo o da uno scambio di venti messaggi, per farti risparmiare la lettura.
• Preparare bozze. Una prima stesura di una risposta, di un'offerta, di un rapportino — che poi qualcuno sistema in due minuti invece di scrivere da zero.

E ci sono cose dove l'ultima parola non si delega mai, perché l'errore costa e non si recupera:

• Numeri che diventano definitivi. Un preventivo che parte, una fattura che si emette, un pagamento che si autorizza.
• Promesse ai clienti. Tempi, condizioni, impegni. Una bozza sì, l'invio no — quello lo decide una persona.
• Decisioni sulle persone. Chi si assume, chi si valuta, chi ha diritto a cosa. Qui, oltre al buon senso, ci sono anche le regole che lo vietano.

La domanda non è «l'AI sbaglia?». È «se sbaglia qui, chi se ne accorge prima che faccia danni?». Se la risposta è «nessuno», quel pezzo di lavoro non va automatizzato così.

Quando mappiamo un processo, per ogni passaggio decidiamo insieme una cosa sola: chi mette la firma. Dove l'errore è innocuo, la mette la macchina e tu guardi i risultati quando vuoi. Dove l'errore pesa, resta un passaggio umano — veloce, ma umano. Non è un compromesso: è il progetto.