Erklärbare KI

Erklärbare KI bezeichnet die Fähigkeit, in verständlichen Worten die Faktoren darzulegen, die ein Modell zu einer bestimmten Entscheidung geführt haben. Das ist keine Frage der Bequemlichkeit: Artikel 22 der DSGVO räumt der betroffenen Person das Recht ein, ein Eingreifen einer Person zu erwirken und eine automatisierte Entscheidung mit rechtlicher Wirkung anzufechten, was voraussetzt, dass sie sich begründen lässt. Die europäische Verordnung über künstliche Intelligenz fügt dem Transparenz- und Dokumentationspflichten je nach Risikostufe des Systems hinzu. In der Praxis bemisst sich die Erklärbarkeit an einem Punkt: sagen zu können, warum genau diese Akte abgelehnt wurde.