Le CFPB agit pour protéger le public des Noirs

Les entreprises qui s'appuient sur des algorithmes complexes doivent fournir des explications spécifiques et précises pour les demandes refusées.

Washington, DC – Aujourd'hui, le Bureau de protection financière des consommateurs (CFPB) a confirmé que la loi fédérale anti-discrimination oblige les entreprises à expliquer aux demandeurs les raisons spécifiques du refus d'une demande de crédit ou de la prise d'autres mesures défavorables, même si le créancier compte sur le crédit. modèles utilisant des algorithmes complexes. Le CFPB a publié une circulaire sur la protection financière des consommateurs pour rappeler au public, y compris à ceux responsables de l'application de la loi fédérale sur la protection financière des consommateurs, les exigences en matière d'avis d'action défavorable des créanciers en vertu de l'Equal Credit Opportunity Act (ECOA).

"Les entreprises ne sont pas exonérées de leurs responsabilités juridiques lorsqu'elles laissent un modèle de boîte noire prendre des décisions en matière de prêt", a déclaré Rohit Chopra, directeur du CFPB. "La loi donne à chaque demandeur le droit à une explication spécifique si sa demande de crédit a été refusée, et ce droit n'est pas diminué simplement parce qu'une entreprise utilise un algorithme complexe qu'elle ne comprend pas."

La collecte de données sur les Américains est devenue volumineuse et omniprésente, donnant aux entreprises la possibilité de connaître des informations très détaillées sur leurs clients avant même d'interagir avec eux. De nombreuses entreprises de l’ensemble de l’économie s’appuient sur ces ensembles de données détaillées pour alimenter leur prise de décision algorithmique, parfois qualifiée d’« intelligence artificielle ». Les informations tirées de l’analyse des données ont un large éventail d’utilisations commerciales par les sociétés financières, notamment pour la publicité ciblée et dans la prise de décision en matière de crédit.

Les sociétés financières respectueuses des lois utilisent depuis longtemps des méthodes informatiques avancées dans le cadre de leurs processus de prise de décision en matière de crédit, et elles sont en mesure de justifier leurs décisions de crédit. Cependant, certains créanciers peuvent prendre des décisions de crédit sur la base des résultats d’algorithmes complexes, parfois appelés modèles « boîte noire ». Le raisonnement derrière certains résultats de ces modèles peut être inconnu des utilisateurs du modèle, y compris des développeurs du modèle. Avec de tels modèles, les avis d'action défavorable qui répondent aux exigences de l'ECOA peuvent ne pas être possibles.

ECOA protège les particuliers et les entreprises contre la discrimination lors de la recherche, de la demande et de l’utilisation d’un crédit. Pour garantir qu'un créancier ne pratique aucune discrimination, l'ECOA exige qu'un créancier fournisse un avis lorsqu'il prend une mesure défavorable à l'encontre d'un demandeur, qui doit contenir les raisons spécifiques et précises de cette mesure défavorable. Les créanciers ne peuvent pas légalement utiliser les technologies dans leurs processus décisionnels si leur utilisation signifie qu’ils ne sont pas en mesure de fournir les explications requises.

La circulaire d'aujourd'hui indique clairement que :

Les lanceurs d’alerte jouent un rôle central dans la découverte d’informations sur les entreprises utilisant des technologies, telles que les modèles de boîte noire, d’une manière qui viole l’ECOA et d’autres lois fédérales sur la protection financière des consommateurs. Disposer d’informations claires et exploitables est essentiel pour le CFPB et les autres organismes chargés de la protection des consommateurs. Le CFPB encourage les travailleurs technologiques à fournir des informations à l'agence, et ils peuvent visiter la page Web du programme de dénonciation du CFPB pour en savoir plus.

Aux côtés des lanceurs d'alerte, les partenaires gouvernementaux jouent également un rôle essentiel dans les efforts d'application du CFPB. Par exemple, le CFPB surveille de près les travaux du National Institute of Standards and Technology, au sein du ministère américain du Commerce, et d'autres organismes gouvernementaux du monde entier, pour évaluer les avantages et les risques associés aux technologies émergentes.

Les risques associés aux technologies de prise de décision s’étendent au-delà des avis d’action défavorable et de l’ECOA. Récemment, le CFPB a commencé à examiner de près l'utilisation de modèles d'évaluation automatisés dans le cadre du processus d'évaluation des maisons afin de garantir que les évaluations des maisons sont exactes et équitables.

Lisez la circulaire d'aujourd'hui sur la protection financière des consommateurs, Exigences de notification des actions indésirables liées aux décisions de crédit basées sur des algorithmes complexes.