Chaque jour, des millions de décisions de financement sont prises, en tout ou en partie, par des algorithmes. Demande de crédit, ouverture de compte, scoring de solvabilité : le dossier passe très souvent par un modèle automatisé avant même qu'un humain ne l'examine. Parfois sans qu'un humain ne l'examine du tout.

Cette réalité soulève une question que le secteur financier ne peut plus ignorer : comment s'assurer qu'un algorithme décide de manière juste ?

‍

Le problème des biais algorithmiques

‍

Un modèle de scoring est entraîné sur des données historiques. Si ces données reflètent des inégalités passées, le modèle va les reproduire, parfois les amplifier. C'est ce qu'on appelle un biais algorithmique.

Dans le financement, ses conséquences sont concrètes :

• Refus injustifiés
• Taux majorés
• Exclusion de populations qui auraient tout à fait la capacité de rembourser

Pas parce qu'elles sont risquées. Parce que le modèle ne sait pas les lire.

‍

Les biais humains dans la conception des modèles IA

‍

Les biais ne sont pas uniquement dans les algorithmes. Ils sont aussi humains. Et ils s'invitent à chaque étape de la conception d'un produit IA :

• Le biais de confirmation : on cherche ce qui valide une hypothèse déjà formée, pas ce qui la remet en question
• Le biais d'affinité : on favorise inconsciemment les profils qui ressemblent à ceux qui conçoivent le modèle
• Le biais de récence : on surpondère les événements récents au détriment d'une vision long terme
• Le biais de statu quo : on freine toute remise en question d'un système qui "marche bien en moyenne"

Ces biais ne sont pas une affaire individuelle. Ils s'inscrivent dans les processus, la culture, les choix de conception. Une fois intégrés dans un modèle, ils tournent en silence, à grande échelle.

‍

AI Act : ce que la réglementation européenne exige

‍

L'Union Européenne a pris ce sujet au sérieux avec l'AI Act, entré en vigueur en 2024. Les systèmes d'IA utilisés pour évaluer la solvabilité des personnes sont classés "à haut risque".

Cela implique des obligations concrètes :

• Documentation des données d'entraînement
• Tests de non-discrimination
• Supervision humaine obligatoire
• Droit à l'explication pour les personnes concernées

C'est un plancher. Pas un plafond.

Pour aller plus loin sur les évolutions réglementaires qui encadrent le crédit à la consommation, lire aussi : CCD2 : La directive qui change les règles du crédit en Europe

‍

IEEE CertifAIed : aller plus loin que la conformité

‍

Des organismes comme l'IEEE ont développé des méthodologies plus exigeantes. Leur programme CertifAIed évalue les systèmes d'IA sur quatre dimensions :

• Vie privée
• Biais
• Transparence
• Responsabilité

L'objectif n'est pas la conformité réglementaire. C'est intégrer l'éthique dans la conception même du produit, pas la rajouter après coup.

‍

IA responsable dans le scoring : ce que ça demande concrètement

‍

Pour un acteur de l'analyse de solvabilité, l'IA responsable implique des choix structurels :

• Privilégier les modèles explicables : ceux dont les décisions peuvent être comprises et justifiées, même quand des modèles plus opaques seraient statistiquement plus performants
• Tester régulièrement les modèles pour détecter des patterns discriminatoires
• Diversifier les équipes qui conçoivent ces modèles, pour limiter la reproduction de biais systémiques
• Rendre des comptes : aux régulateurs, aux clients, aux personnes dont le dossier a été traité

C'est précisément pour ça que B Corp pose l'IA éthique comme un enjeu central pour les entreprises certifiées. Aligner ses engagements externes avec ses pratiques internes.

Chez Meelo, c'est la direction prise avec la démarche IEEE CertifAIed, appliquée en priorité aux scores B2C et Open Banking. Parce qu'une fintech qui se dit responsable mais utilise des modèles opaques, c'est une contradiction qu'on ne peut pas se permettre.

Découvrez notre mission et nos engagements : Entreprise & Mission

‍

Questions souvent posées

‍

Qu'est-ce qu'un biais algorithmique dans le scoring crédit ? Un biais algorithmique survient quand un modèle entraîné sur des données historiques reproduit, voire amplifie, des inégalités passées. Dans le scoring crédit, cela peut se traduire par des refus injustifiés ou des taux majorés pour certaines catégories de population, non pas en raison de leur risque réel, mais parce que le modèle n'a pas appris à les évaluer correctement.

‍

Que dit l'AI Act sur les systèmes de scoring de solvabilité ? L'AI Act européen classe les systèmes d'IA utilisés pour évaluer la solvabilité des personnes physiques comme "systèmes à haut risque". Ils sont soumis à des obligations strictes : documentation des données d'entraînement, tests de non-discrimination, supervision humaine et droit à l'explication pour les personnes concernées.

‍

Qu'est-ce que l'IEEE CertifAIed ? C'est un programme de certification développé par l'IEEE qui évalue les systèmes d'IA selon quatre critères : vie privée, biais, transparence et responsabilité. Il va au-delà de la simple conformité réglementaire pour intégrer l'éthique dès la conception des modèles.

‍