Todos los días, se toman millones de decisiones de financiación, en su totalidad o en parte, mediante algoritmos. Solicitud de crédito, apertura de cuenta, puntuación de solvencia : el archivo pasa muy a menudo por un modelo automatizado antes de que un humano lo revise. A veces sin que un humano lo examine en absoluto.

‍

Esta realidad plantea una pregunta que el sector financiero ya no puede ignorar: ¿cómo podemos garantizar que un algoritmo decida de manera justa?

‍

El problema de los sesgos algorítmicos

‍

Un modelo de puntuación se basa en datos históricos. Si estos datos reflejan desigualdades pasadas, el modelo las reproducirá y, a veces, las amplificará. Esto se denomina sesgo algorítmico.

En cuanto a la financiación, sus consecuencias son concretas:

‍

• Denegaciones injustificadas
• Aumento de las tasas
• Exclusión de las poblaciones que tendrían plena capacidad de pago

‍

No porque sean riesgosos. Porque la modelo no sabe cómo leerlos.

‍

Los sesgos humanos en el diseño de modelos de IA

‍

Los sesgos no están solo en los algoritmos. También son humanos. Y están invitados a cada etapa del diseño de un producto de IA:

‍

• Sesgo de confirmación : buscamos lo que valida una hipótesis que ya se ha formado, no lo que la desafía
• Sesgo de afinidad : favorecemos inconscientemente los perfiles que se parecen a los que diseñan el modelo
• El sesgo reciente : estamos sobreponderando los acontecimientos recientes a expensas de una visión a largo plazo
• El sesgo del status quo : ralentizamos cualquier cuestionamiento de un sistema que «funciona bien en promedio»

‍

Estos sesgos no son un asunto individual. Forman parte de los procesos, la cultura y las elecciones de diseño. Una vez integrados en un modelo, funcionan silenciosamente, a gran escala.

‍

Ley de IA: lo que exige la normativa europea

‍

La Unión Europea se ha tomado este tema en serio con elLey de IA, que entró en vigor en 2024. Los sistemas de inteligencia artificial que se utilizan para evaluar la solvencia de las personas se clasifican como de «alto riesgo».

Esto implica obligaciones concretas:

‍

• Documentación de datos de formación
• Pruebas de no discriminación
• Supervisión humana obligatoria
• Derecho a una explicación para los interesados

‍

Es un suelo. No es un techo.

‍

Para profundizar en los cambios regulatorios que rigen el crédito al consumo, lea también: CCD2: la directiva que está cambiando las normas crediticias en Europa

‍

Certificado IEEE: más allá del cumplimiento

‍

Organizaciones como IEEE han desarrollado metodologías más exigentes. Su programa Certificado evalúa los sistemas de IA en cuatro dimensiones:

‍

• Vida privada
• Sesgo
• Transparencia
• Responsabilidad

‍

El cumplimiento de la normativa no es el objetivo. Se trata de integrar la ética en el propio diseño del producto, no de añadir ética a posteriori.

‍

La IA responsable en la puntuación: lo que requiere en la práctica

‍

Para un actor enanálisis de solvencia, la IA responsable implica opciones estructurales:

‍

• Dar preferencia a los modelos explicables : aquellos cuyas decisiones pueden entenderse y justificarse, incluso cuando los modelos más opacos serían estadísticamente más eficientes
• Pruebe los modelos con regularidad para detectar patrones discriminatorios
• Diversificación de equipos quienes diseñan estos modelos, para limitar la reproducción de sesgos sistémicos
• Para rendir cuentas : a los reguladores, a los clientes, a las personas cuyo caso ha sido procesado

Precisamente por eso Corporación B plantea la IA ética como un tema central para las empresas certificadas. Alinee sus compromisos externos con sus prácticas internas.

‍

En Meelo, esta es la dirección tomada con el enfoque IEEE Certified, aplicado principalmente a las puntuaciones de B2C y Open Banking. Porque una tecnología financiera que afirma ser responsable pero utiliza modelos opacos, es una contradicción que no podemos permitirnos.

Descubra nuestra misión y nuestros compromisos: Empresa y misión

‍

Preguntas frecuentes

‍

¿Qué es un sesgo algorítmico en la calificación crediticia? El sesgo algorítmico se produce cuando un modelo entrenado en datos históricos reproduce, o incluso amplifica, las desigualdades pasadas. En la calificación crediticia, esto puede resultar en denegaciones injustificadas o en un aumento de las tasas para ciertas categorías de la población, no por su riesgo real, sino porque el modelo no ha aprendido a evaluarlos correctamente.

‍

¿Qué dice la Ley de IA sobre los sistemas de calificación crediticia? La Ley Europea de Inteligencia Artificial clasifica los sistemas de IA utilizados para evaluar la solvencia de las personas físicas como «sistemas de alto riesgo». Están sujetos a obligaciones estrictas: la documentación de los datos de formación, las pruebas de no discriminación, la supervisión humana y el derecho a una explicación para los interesados.

‍

¿Qué es el certificado IEEE? Es un programa de certificación desarrollado por el IEEE que evalúa los sistemas de IA de acuerdo con cuatro criterios: privacidad, sesgo, transparencia y responsabilidad. Va más allá del simple cumplimiento normativo para incorporar la ética desde el diseño de los modelos.

‍