Les médecins découvrent une IA raciste détectant la race des patients

Un Biais Alarmant dans les Outils de Dépistage du Cancer par IA

Des recherches récentes ont révélé que certains systèmes d’intelligence artificielle conçus pour détecter le cancer présentent des biais raciaux, de genre et d’âge. Cette découverte a été publiée dans la revue Cell Reports Medicine, soulignant ainsi un sérieux problème d’inégalité dans les diagnostics médicaux.

Une Étude Révélatrice

Les chercheurs de l’Université de Harvard ont analysé près de 29 000 images de pathologie cancéreuse provenant d’environ 14 400 patients. Ils ont découvert que ces modèles d’IA affichaient des biais lors de 29,3 % des diagnostics. Cet aspect soulève des inquiétudes sur la fiabilité de ces outils dans le diagnostic de maladies graves.

La Capacité Étonnante de l’IA

Selon Kun-Hsing Yu, l’un des auteurs de l’étude, l’IA réussit à identifier des données biologiques que même les pathologistes humains jugent impossibles à détecter. Cependant, la capacité de lire des informations démographiques à partir de diapositives de pathologie semble avoir un impact négatif sur l’exactitude des diagnostics lorsque ces données sont biaisées.

Impact des Données Démographiques

Les biais identifiés surviennent lors de l’analyse des échantillons de tissus. Par exemple, certaines analyses ont montré que l’IA pouvait reconnaître des échantillons provenant principalement de patients noirs. Bien que ces échantillons puissent indiquer une quantité différente de cellules anormales, le modèle devient obsolète lorsqu’il s’agit de classer des cancers chez des personnes moins représentées dans les données d’entraînement.

À la Recherche de Solutions

Pour contrer ces biais, l’équipe de Harvard a développé un nouveau cadre de formation appelé FAIR-Path. Lorsqu’il a été intégré dans les systèmes d’IA, il a réduit de 88,5 % les disparités de performance observées. Cependant, les 11,5 % restants suscitent encore des préoccupations quant à l’exactitude des diagnostics.

Une Réflexion Nécessaire sur l’Avenir

Le besoin d’outils d’IA équitables et objectifs est plus pressant que jamais. Les questions sur les biais inhérents dans ces systèmes demeurent tant que des méthodes de formation appropriées ne seront pas imposées à l’ensemble des outils d’IA dans le domaine de la pathologie.

Pour aller plus loin :