Ogni giorno, milioni di decisioni di finanziamento vengono prese, in tutto o in parte, da algoritmi. Richiesta di credito, apertura del conto, punteggio di solvibilità : molto spesso il file passa attraverso un modello automatizzato prima ancora che un essere umano lo riveda. A volte senza che un umano lo esamini affatto.

‍

Questa realtà solleva una domanda che il settore finanziario non può più ignorare: come possiamo garantire che un algoritmo decida in modo equo?

‍

Il problema dei bias algoritmici

‍

Un modello di punteggio viene addestrato su dati storici. Se questi dati riflettono le disuguaglianze passate, il modello le riprodurrà, a volte le amplificherà. Questo è chiamato bias algoritmico.

Nel finanziamento, le sue conseguenze sono concrete:

‍

• Rifiuti ingiustificati
• Aliquote aumentate
• Esclusione delle popolazioni che avrebbero la piena capacità di rimborso

‍

Non perché siano rischiose. Perché la modella non sa leggerli.

‍

Pregiudizi umani nella progettazione di modelli di intelligenza artificiale

‍

I pregiudizi non sono solo negli algoritmi. Sono anche umani. E sono invitati a ciascuna fase della progettazione di un prodotto di intelligenza artificiale:

‍

• Bias di conferma : stiamo cercando ciò che convalida un'ipotesi che è già stata formulata, non ciò che la contesta
• Bias di affinità : preferiamo inconsciamente profili che assomiglino a chi disegna il modello
• La tendenza alla recency : stiamo sovrappesando gli eventi recenti a scapito di una visione a lungo termine
• Il pregiudizio sullo status quo : rallentiamo ogni dubbio su un sistema che «funziona mediamente bene»

‍

Questi pregiudizi non sono una questione individuale. Fanno parte dei processi, della cultura, delle scelte progettuali. Una volta integrati in un modello, funzionano silenziosamente, su larga scala.

‍

AI Act: cosa richiedono le normative europee

‍

L'Unione europea ha preso sul serio questo argomento con ilLegge sull'IA, entrato in vigore nel 2024. I sistemi di intelligenza artificiale utilizzati per valutare l'affidabilità creditizia delle persone sono classificati come «ad alto rischio».

Ciò comporta obblighi concreti:

‍

• Documentazione dei dati di formazione
• Test di non discriminazione
• Supervisione umana obbligatoria
• Diritto alla spiegazione per gli interessati

‍

È un pavimento. Non è un soffitto.

‍

Per approfondire le modifiche normative che regolano il credito al consumo, leggi anche: CCD2: La direttiva che sta cambiando le regole del credito in Europa

‍

Certificato IEEE: andare oltre la conformità

‍

Organizzazioni come IEEE hanno sviluppato metodologie più impegnative. Il loro programma Certificato valuta i sistemi di intelligenza artificiale in quattro dimensioni:

‍

• Vita privata
• Pregiudizio
• Trasparenza
• Responsabilità

‍

La conformità normativa non è l'obiettivo. Significa integrare l'etica nella progettazione del prodotto stesso, non aggiungere etica a posteriori.

‍

AI responsabile nella valutazione dei punteggi: cosa richiede nella pratica

‍

Per un attore inanalisi della solvibilità, l'IA responsabile comporta scelte strutturali:

‍

• Dai la preferenza a modelli spiegabili : quelli le cui decisioni possono essere comprese e giustificate, anche quando modelli più opachi sarebbero statisticamente più efficienti
• Testare regolarmente i modelli per individuare modelli discriminatori
• Diversificare i team chi progetta questi modelli, per limitare la riproduzione di pregiudizi sistemici
• Essere responsabili : alle autorità di regolamentazione, ai clienti, alle persone il cui caso è stato trattato

Questo è esattamente il motivo B Corp pone l'IA etica come una questione centrale per le aziende certificate. Allinea i suoi impegni esterni con le sue pratiche interne.

‍

In Meelo, questa è la direzione intrapresa con l'approccio IEEE CertifAIED, applicato principalmente ai punteggi B2C e Open Banking. Perché una fintech che afferma di essere responsabile ma utilizza modelli opachi, è una contraddizione che non possiamo permetterci.

Scopri la nostra missione e i nostri impegni: Azienda e Mission

‍

Domande frequenti

‍

Cos'è un bias algoritmico nel credit scoring? Il bias algoritmico si verifica quando un modello addestrato su dati storici riproduce, o addirittura amplifica, le disuguaglianze passate. Nel calcolo del punteggio di credito, ciò può comportare negazioni ingiustificate o un aumento dei tassi per determinate categorie di popolazione, non a causa del rischio reale che comportano, ma perché il modello non ha imparato a valutarli correttamente.

‍

Cosa dice l'AI Act sui sistemi di credit scoring? La legge europea sull'IA classifica i sistemi di intelligenza artificiale utilizzati per valutare la solvibilità delle persone fisiche come «sistemi ad alto rischio». Sono soggetti a obblighi rigorosi: documentazione dei dati di formazione, test di non discriminazione, supervisione umana e diritto alla spiegazione per gli interessati.

‍

Cos'è il certificato IEEE? È un programma di certificazione sviluppato dall'IEEE che valuta i sistemi di intelligenza artificiale in base a quattro criteri: privacy, pregiudizi, trasparenza e responsabilità. Va oltre la semplice conformità normativa per incorporare l'etica fin dalla progettazione dei modelli.

‍