La sicurezza dell'AI in azienda, senza paranoia e senza ingenuità

Sulla sicurezza dell'AI in azienda si sentono due errori opposti, e di solito dalla stessa persona a settimane di distanza. Il primo è la paura che blocca tutto: «meglio non toccarla, chissà dove finiscono i dati». Il secondo è l'ingenuità che arriva appena l'AI serve davvero: il preventivo urgente incollato dentro una chat gratuita qualunque, con nomi, prezzi e condizioni, pur di finire prima.

L'AI non è pericolosa o sicura di per sé. Lo diventa per come la colleghi e per cosa le lasci decidere.

La buona notizia è che i rischi veri sono pochi e si chiamano per nome. Non sono venti, sono tre. E a ciascuno corrisponde una scelta pratica che si fa una volta e si mette per iscritto, non un atto di fede.

È il rischio di cui si parla di più, e giustamente. Ma «usare l'AI» non è una cosa sola: cambia tutto a seconda di dove gira il modello e cosa ci fa chi lo offre.

• La chat gratuita nel browser. Comoda per provare, sbagliata per il lavoro vero: spesso quello che scrivi può essere usato per migliorare il servizio. Per un'idea va bene, per i dati di un cliente no.
• Un modello collegato via API con termini chiari. È quello che usiamo noi: i dati passano per fare il lavoro e basta. Anthropic, il fornitore del modello, non usa i dati che riceve dalle aziende per addestrare i suoi modelli. È una riga scritta nei suoi termini, non una promessa a voce.
• Il modello installato in azienda. Gira su una macchina che tieni tu, in sede. I dati non escono dalla tua porta. Costa di più e non serve a tutti, ma per chi tratta dati che non possono muoversi è la risposta.

Un modello può sbagliare con l'aria sicura di chi ha ragione. Inventa un numero, cita una regola che non esiste, mette una data al posto di un'altra. Non succede spesso, ma succede, e il pericolo non è l'errore: è che qualcuno lo copi e lo mandi senza guardarlo.

La difesa è una sola, e non è tecnica: l'ultimo controllo resta a una persona. La macchina prepara la fattura, scrive la bozza della risposta, registra il dato; qualcuno dà un'occhiata e approva. È la forma che non ti mette mai nei guai, e l'abbiamo spiegata per esteso qui.

Lascia preparare tutto alla macchina. Lascia la firma a una persona. Questa riga, da sola, toglie di mezzo la maggior parte dei guai.

Il terzo rischio non ha niente a che fare con l'AI in particolare, ma salta fuori quando metti tutti i dati aziendali in un posto solo: chi può aprirli? Se l'AI legge le fatture e i messaggi, e tutti vedono tutto, hai creato un problema che prima non avevi.

Per questo lo stesso sistema mostra una vista diversa a seconda del ruolo: il titolare vede i numeri, il dipendente i suoi compiti, il commercialista la parte fiscale. Stessi dati, permessi diversi. Nessuno vede quelli degli altri, e tu decidi chi apre cosa.

«L'AI è sicura?» è una domanda senza risposta, come «un'auto è sicura?»: dipende da chi guida e da dove. La domanda che si può rispondere è un'altra: come la installiamo in modo sicuro nella mia azienda? E lì le mosse sono concrete — dove gira il modello, chi mette la firma, i permessi — non slogan.