IA spiegabile

L'IA spiegabile designa la capacità di esporre, in termini comprensibili, i fattori che hanno portato un modello a una determinata decisione. Non è una questione di comodità: l'articolo 22 del GDPR apre all'interessato il diritto di ottenere un intervento umano e di contestare una decisione automatizzata che produce effetti giuridici, il che presuppone di poterla motivare. Il regolamento europeo sull'intelligenza artificiale vi aggiunge esigenze di trasparenza e di documentazione secondo il livello di rischio del sistema. In pratica, la spiegabilità si giudica da una cosa: essere in grado di dire perché quella precisa pratica è stata rifiutata.