IA explicable

L'IA explicable désigne la capacité à exposer, en termes compréhensibles, les facteurs qui ont conduit un modèle à une décision donnée. Ce n'est pas une question de confort : l'article 22 du RGPD ouvre à la personne concernée le droit d'obtenir une intervention humaine et de contester une décision automatisée produisant des effets juridiques, ce qui suppose de pouvoir la motiver. Le règlement européen sur l'intelligence artificielle y ajoute des exigences de transparence et de documentation selon le niveau de risque du système. En pratique, l'explicabilité se juge à une chose : être capable de dire pourquoi ce dossier précis a été refusé.