Uitlegbare AI

Verklaarbare AI duidt op het vermogen om in begrijpelijke termen uiteen te zetten welke factoren een model tot een bepaalde beslissing hebben gebracht. Het is geen kwestie van comfort: artikel 22 van de AVG geeft de betrokkene het recht op menselijke tussenkomst en op het aanvechten van een geautomatiseerde beslissing met rechtsgevolgen, wat veronderstelt dat die beslissing kan worden gemotiveerd. De Europese verordening inzake kunstmatige intelligentie voegt daar eisen van transparantie en documentatie aan toe, naargelang het risiconiveau van het systeem. In de praktijk wordt verklaarbaarheid aan één ding afgemeten: kunnen zeggen waarom precies dit dossier is geweigerd.