L’AI Act europeo, in vigore dall’agosto 2024, e la legge italiana 132 del settembre 2025 fissano obblighi precisi per chi usa l’intelligenza artificiale: gestione dei rischi, tracciabilità dei dati, documentazione tecnica, validazione, supervisione organizzata e controllo nel tempo. Eppure nel dibattito pubblico, e perfino nell’applicazione concreta, parole come spiegabilità e trasparenza degli algoritmi vengono caricate di significati che le norme non contengono. Il problema non è la mancanza di regole, ma l’uso come sinonimi di termini diversi, come interpretabilità, verificabilità, comprensibilità e tracciabilità, che crea confusione sulla loro funzione.
Quando spiegare non basta
Non esiste una definizione tecnica unica di spiegabilità. Può indicare un modello costruito in modo trasparente, una ricostruzione fatta dopo su un sistema opaco, oppure semplicemente le informazioni date all’utente su limiti e rischi. Secondo l’articolo, negli algoritmi complessi usati in sanità spiegare come un sistema è arrivato a una decisione «non coincide necessariamente con una decisione affidabile o sicura». L’inganno più grande nasce dalle tecniche che spiegano a posteriori i modelli a scatola nera: danno l’impressione di capire, ma non eliminano l’opacità, non assicurano che la spiegazione corrisponda al vero meccanismo che ha prodotto la diagnosi e non fanno emergere correlazioni ingannevoli o errori nascosti.
Dalla trasparenza alla prova
In medicina un errore dell’algoritmo ha effetti diretti sulla salute delle persone. Per questo il criterio decisivo non dovrebbe essere poter guardare dentro il modello, ma la sua affidabilità dimostrata nella pratica clinica reale. La rivista propone tre spostamenti: dalla spiegabilità intesa come ideale simbolico all’affidabilità misurabile con i dati; dalla trasparenza del codice alla possibilità di sottoporre a verifica i processi; dalla semplice presenza di un essere umano accanto alla macchina alla reale capacità di intervenire in modo informato.
Le regole che servirebbero
Una normativa pensata così dovrebbe ispirarsi agli standard della medicina basata su prove. Le priorità indicate sono una validazione esterna solida, la sorveglianza dei sistemi dopo l’immissione sul mercato, lo studio dei fattori umani, una tracciabilità completa e regole chiare su chi risponde in caso di errore. Solo così, conclude l’articolo, la fiducia nell’intelligenza artificiale clinica potrà poggiare su basi verificabili e non su una trasparenza solo apparente.
