Intelligence Artificielle

L’outil de sélection des locataires alimenté par l’IA ne procédera plus à l’évaluation des...

Image : Cath Virginia / The Verge, Getty Images SafeRent, un système de filtrage alimenté par l'IA utilisé par les propriétaires, cessera d'utiliser des "scores" basés sur l'IA pour juger si une personne avec des bons de logement serait un locataire adéquat. Mercredi, le juge de district américain Angel Kelley a donné son approbation définitive à un accord d'environ 2,3 millions de dollars pour empêcher SafeRent de discriminations à l'égard des locataires sur la base de leurs revenus et de leur origine raciale.Cet accord découle d'un recours collectif initié en 2022 dans le Massachusetts. Le procès affirmait que le système de notation de SafeRent désavantageait de manière disproportionnée les individus s'appuyant sur des bons de logement — en particulier les candidats noirs et hispaniques. En plus d'enfreindre la législation massachusettsienne, la plainte accusait aussi SafeRent de violer la Loi sur le logement équitable, qui prohibe les discriminations en matière de logement.Comme précisé dans la plainte originale, l'algorithme de notation de SafeRent se base sur des éléments tels que l'historique de crédit et les dettes non liées à la location pour attribuer un score SafeRent aux candidats locataires. Les propriétaires peuvent alors utiliser ce score pour décider d'accepter ou de rejeter une demande de location. Le procès a souligné que cette méthode manque de transparence, car SafeRent ne communique pas aux propriétaires la manière dont il détermine le score d'une personne. De plus, le système aurait injustement attribué des scores inférieurs aux candidats noirs et hispaniques, ainsi qu'à ceux utilisant des bons de logement, ce qui a amené les propriétaires à rejeter leurs demandes de logement.Dans le cadre de cet accord de cinq ans, SafeRent ne publiera plus de score de filtrage des locataires pour les candidats utilisant des bons de logement à l'échelle nationale, et ne pourra pas intégrer de...