SafeRent, un système de filtrage alimenté par l’IA utilisé par les propriétaires, cessera d’utiliser des “scores” basés sur l’IA pour juger si une personne avec des bons de logement serait un locataire adéquat. Mercredi, le juge de district américain Angel Kelley a donné son approbation définitive à un accord d’environ 2,3 millions de dollars pour empêcher SafeRent de discriminations à l’égard des locataires sur la base de leurs revenus et de leur origine raciale.

Cet accord découle d’un recours collectif initié en 2022 dans le Massachusetts. Le procès affirmait que le système de notation de SafeRent désavantageait de manière disproportionnée les individus s’appuyant sur des bons de logement — en particulier les candidats noirs et hispaniques. En plus d’enfreindre la législation massachusettsienne, la plainte accusait aussi SafeRent de violer la Loi sur le logement équitable, qui prohibe les discriminations en matière de logement.

Comme précisé dans la plainte originale, l’algorithme de notation de SafeRent se base sur des éléments tels que l’historique de crédit et les dettes non liées à la location pour attribuer un score SafeRent aux candidats locataires. Les propriétaires peuvent alors utiliser ce score pour décider d’accepter ou de rejeter une demande de location. Le procès a souligné que cette méthode manque de transparence, car SafeRent ne communique pas aux propriétaires la manière dont il détermine le score d’une personne. De plus, le système aurait injustement attribué des scores inférieurs aux candidats noirs et hispaniques, ainsi qu’à ceux utilisant des bons de logement, ce qui a amené les propriétaires à rejeter leurs demandes de logement.

Dans le cadre de cet accord de cinq ans, SafeRent ne publiera plus de score de filtrage des locataires pour les candidats utilisant des bons de logement à l’échelle nationale, et ne pourra pas intégrer de score lorsque les propriétaires utilisent son modèle de score SafeRent “abordable”. SafeRent ne peut également pas fournir d’avis recommandant de “valider” ou “refuser” une demande de quelqu’un utilisant des bons de logement. Cela implique que les propriétaires devront désormais évaluer les candidats avec des bons de logement en tenant compte de l’ensemble de leur dossier — au lieu de se fonder uniquement sur leur score SafeRent.

“Les scores de crédit et les scores modélisés de manière analogue, tels que les scores SafeRent, reposent sur des données qui n’ont été validées que pour prédire le remboursement des dettes de crédit,” a déclaré Shennan Kavanagh, directeur du National Consumer Law Center, dans une déclaration. “Il n’existe aucune preuve que ces informations prédisent le paiement du loyer par les locataires.”

Les fonds obtenus dans le cadre de cet accord serviront aux demandes de logement provenant du Massachusetts qui ont présenté des bons de logement et n’ont pas pu se loger à cause du score de locataire de SafeRent. “Bien que SafeRent continue de penser que les scores SRS [SafeRent Solutions] respectent toutes les lois en vigueur, le contentieux est onéreux et long,” a déclaré la porte-parole de SafeRent, Yazmin Lopez, dans un communiqué à The Verge. “Il est devenu évident que la défense du score SRS dans cette affaire détournerait du temps et des ressources que SafeRent devrait allouer à sa mission principale : fournir aux fournisseurs de logement les moyens de filtrer les candidats.”

SafeRent est le dernier système de gestion immobilière basé sur des algorithmes à faire face à des poursuites judiciaires. En août, le Département de la Justice a attaqué RealPage pour des allégations selon lesquelles son logiciel de tarification algorithmique gonflait le loyer.