L’IA dans les prêts :atténuer les préjugés et garantir un accès équitable au crédit

L’intelligence artificielle (IA) a révolutionné de nombreux domaines ces dernières années, dont le secteur bancaire. Sa mise en œuvre a eu des aspects à la fois positifs et négatifs, en particulier la question de la discrimination algorithmique dans les prêts.

Au Canada et plus largement dans le monde, la mise en œuvre de l'IA au sein des grandes banques a entraîné une augmentation de la productivité tout en offrant une plus grande personnalisation des services.

Selon l'enquête mondiale de l'IEEE, l'adoption de solutions basées sur l'IA devrait doubler à l'échelle mondiale d'ici 2025, atteignant 80 % des institutions financières.

Certaines banques sont plus avancées, comme BMO Groupe financier, qui a créé des postes spécifiques pour superviser l'intégration de l'IA dans ses services numériques afin de rester compétitif. En conséquence, grâce à l’IA, les bénéfices du secteur bancaire mondial pourraient dépasser les 2 000 milliards de dollars d’ici 2028, soit une croissance de près de 9 % entre 2024 et 2028.

En tant que professeur à l'Université Laval en gestion de la connaissance et de l'innovation et communicateur scientifique, j'ai été assisté dans la rédaction de cette analyse par Kandet Oumar Bah, auteur d'un projet de recherche sur la discrimination algorithmique, et Aziza Halilem, experte en gouvernance et cyber-risque à l'Autorité de contrôle prudentiel et de résolution française.

Comment l'IA améliore-t-elle les performances des banques ?

L’intégration de l’IA dans le secteur bancaire a déjà considérablement optimisé les processus financiers, avec un gain de 25 à 40 % en efficacité opérationnelle. Combinée aux capacités croissantes du Big Data (par exemple, la collecte massive de données), l'IA offre des analyses puissantes qui peuvent déjà réduire les marges d'erreur des systèmes financiers de 18 à 30 %.

Il permet également de surveiller des millions de transactions en temps réel, de détecter les comportements suspects et même de bloquer préventivement certaines transactions frauduleuses. C’est l’un des usages mis en œuvre par J.P. Morgan.

De plus, des plateformes telles que FICO, spécialisées dans l'analyse décisionnelle basée sur l'IA, aident les institutions financières à exploiter diverses données clients et à affiner leurs décisions de crédit grâce à des modèles prédictifs avancés.

Plusieurs banques dans le monde s’appuient désormais sur des algorithmes de notation automatisés capables d’analyser de nombreux paramètres, notamment les revenus, les antécédents de crédit et les ratios d’endettement, en quelques secondes. Sur le marché du crédit, ces outils améliorent considérablement le traitement des demandes, notamment pour les cas « standards », comme ceux bénéficiant de garanties de prêt explicites.

Mais qu'en est-il des autres cas ?

Formaliser l'injustice ?

Comme le soulignent les chercheurs américains Tambari Nuka et Amos Ogunola, l’illusion selon laquelle les algorithmes produisent des prédictions justes et objectives constitue un risque majeur pour le secteur bancaire.

Passant en revue la littérature scientifique, ils mettent en garde contre la tentation de déléguer aveuglément l’évaluation de comportements humains complexes à des systèmes automatisés. Plusieurs banques centrales, dont celle du Canada, ont également exprimé de fortes réserves à ce sujet, mettant en garde contre les risques opérationnels associés à une dépendance excessive à l'égard de l'IA, en particulier pour évaluer la solvabilité et la solvabilité.

Bien que les algorithmes soient techniquement neutres, ils peuvent amplifier les inégalités existantes lorsque les données de formation sont entachées de biais historiques, notamment ceux hérités de la discrimination systémique à l’encontre de certains groupes. Ces biais résultent non seulement de variables explicites telles que le sexe ou l'origine ethnique, mais également de corrélations indirectes avec des facteurs tels que le lieu de résidence ou le type d'emploi.

Des études montrent que l’IA pourrait contribuer à reproduire les inégalités. (Shutterstock)

Par exemple, les systèmes de notation peuvent attribuer des limites de crédit inférieures aux femmes, même dans les situations où elles sont financièrement équivalentes aux hommes. L'analyse de variables telles que les codes postaux et les antécédents professionnels peut également conduire à l'exclusion de membres de groupes marginalisés, tels que les personnes racialisées, les travailleurs aux revenus irréguliers et les immigrants récents.

Virginia Eubanks, professeure aux États-Unis et experte en justice sociale, illustre bien ce phénomène en montrant comment les personnes vivant dans des quartiers historiquement défavorisés ou aux parcours professionnels atypiques sont pénalisées par des décisions financières automatisées basées sur des données biaisées.

Cela soulève une question cruciale :comment garantir que l'automatisation des décisions financières contribue à réduire les disparités dans l'accès aux services bancaires ?

Atténuer les erreurs grâce à la finance inclusive

Plusieurs pistes sont explorées dans la littérature scientifique en réponse à ces risques de discrimination. Nuka et Ogunola, par exemple, suggèrent une approche d’inclusion financière. Cela implique d'améliorer continuellement les modèles statistiques en identifiant et en corrigeant les biais dans les données de formation afin de réduire les disparités de traitement entre les groupes sociaux.

Au-delà des solutions techniques, des cadres réglementaires ont récemment été mis en place pour garantir la transparence et l'équité des algorithmes dans des secteurs sensibles comme la finance. La loi canadienne sur l’intelligence artificielle et les données et la loi européenne sur l’intelligence artificielle en sont des exemples. Cette dernière, adoptée en 2024 et mise en œuvre progressivement, impose des exigences strictes aux systèmes d'IA à haut risque, comme ceux utilisés pour l'octroi de crédits.

L'article 13 énonce des exigences de transparence pour garantir que les systèmes sont auditables et que leurs décisions peuvent être comprises par toutes les parties prenantes. L’objectif est de prévenir la discrimination algorithmique et de garantir une utilisation éthique et équitable. Les régulateurs financiers ont également un rôle crucial à jouer pour garantir le respect des règles de concurrence loyale et garantir des pratiques prudentes et transparentes dans l'intérêt de la stabilité financière et de la protection des clients.

Cependant, la pression de certains lobbies technologiques et financiers pour ralentir l'adoption de normes strictes présente un risque important :l'absence de réglementation dans certains pays et les difficultés de mise en œuvre dans d'autres pourraient favoriser l'opacité, au détriment des citoyens les plus vulnérables.