L’IA néglige les besoins essentiels des plus vulnérables

Introduction à l’Intelligence Artificielle Inclusive

En février dernier, le Sommet pour l’action sur l’intelligence artificielle (IA) à Paris a rassemblé plus d’une centaine de pays pour promouvoir une « intelligence artificielle inclusive et durable ». Cependant, alors que les discussions s’intensifient, une question persistante émerge : qui façonne l’IA dans les contextes les plus vulnérables tels que les camps de réfugiés, les territoires autochtones ou les zones en catastrophe ?

Un Écart Alarmant entre Discours et Réalité

Malgré les engagements en faveur de l’inclusion, une disparité troublante existe entre les déclarations et la réalité du pouvoir. Les systèmes d’IA, qui impactent les populations les plus précaires, sont souvent développés dans des contextes éloignés, par des acteurs dont les objectifs ne correspondent pas aux besoins réels des utilisateurs. Cette déconnexion soulève de sérieuses questions éthiques.

Bidi Bidi : Un Exemple Perturbant

Le camp de Bidi Bidi en Ouganda illustre cette problématique. En 2018, le Programme alimentaire mondial y a implanté Primes, un système biométrique pour la distribution d’aide. Pour les 270 000 réfugiés sud-soudanais, le choix était cruel : fournir leurs données biométriques ou renoncer à leur subsistance. Cette solution a montré des défauts majeurs, avec des aides suspendues à cause d’erreurs sans possibilité pour les réfugiés de contester les décisions, illustrant l’opacité de ce dispositif.

Aucune Consultation Locale : Un Manque de Participation

Ce qui choque, ce n’est pas tant l’échec technique, mais plutôt l’absence structurelle de consultations de la part des concepteurs. L’absence de participation des parties prenantes au processus de conception a conduit à des conséquences désastreuses pour les réfugiés, qui se retrouvent à souffrir des décisions prises sans leur avis.

Une Défaillance Répandue aux Philippines

Cette problématique se répète également aux Philippines, où plus de 15 millions d’autochtones voient l’IA se déployer sur leurs terres avec des applications telles que la surveillance pour identifier des « groupes terroristes » et l’exploitation minière automatisée. Malgré une législation de 1997 exigeant un consentement libre et éclairé avant tout projet sur les terres ancestrales, ces droits fondamentaux sont souvent ignorés dans la mise en œuvre de ces technologies.

Un Avenir à Construire

Pour que l’IA soit réellement inclusive et bénéfique, il est crucial de réformer les méthodes de conception et d’implémentation. Cela signifie impliquer les communautés locales dans chaque étape du processus, assurant ainsi que l’IA serve véritablement les intérêts des populations concernées. La route est encore longue, mais l’engagement vers une approche plus éthique et participative est indispensable pour un avenir virtuel équitable.