IA explicable

La IA explicable designa la capacidad de exponer, en términos comprensibles, los factores que han llevado a un modelo a una decisión determinada. No es una cuestión de comodidad: el artículo 22 del RGPD abre al interesado el derecho a obtener una intervención humana y a impugnar una decisión automatizada que produzca efectos jurídicos, lo que supone poder motivarla. El reglamento europeo sobre la inteligencia artificial añade exigencias de transparencia y de documentación según el nivel de riesgo del sistema. En la práctica, la explicabilidad se juzga por una sola cosa: ser capaz de decir por qué ese expediente concreto ha sido denegado.