Alerte : les lunettes Meta à reconnaissance faciale menacent les femmes

Une alerte collective qui interpelle

Plus de 70 organisations de défense des droits civiques et de la vie privée, parmi lesquelles l’ACLU, EPIC et Fight for the Future, ont lancé une mise en garde publique : une fonctionnalité d’identification intégrée à des lunettes intelligentes équipées d’IA pourrait mettre en danger des personnes déjà vulnérables, notamment les victimes d’abus, les immigrés et les personnes LGBTQ+. Ces organisations soulignent que la combinaison d’un dispositif portable, d’une reconnaissance faciale en temps réel et d’une vaste base de données crée un potentiel de surveillance de masse inédit qui mérite un examen approfondi et des garde-fous stricts.

Des risques concrets pour des groupes fragilisés

Les effets potentiels ne sont pas théoriques : pour les victimes d’abus, une identification publique peut entraîner un nouvel isolement, des représailles ou la rupture d’un plan de sécurité ; pour les immigrants, la recoupement de données biométriques avec des bases administratives peut conduire à des détentions ou à des expulsions ; pour les personnes LGBTQ+, l’outing non consenti via une simple rencontre dans la rue peut mettre des vies en danger. Exemples précis :

• Un survivant de violences conjugales repéré en public par un appareil pourrait voir son adresse divulguée ou sa sécurité compromise.
• Des personnes sans statut régulier risquent d’être identifiées lors de contrôles, même lorsqu’elles ne sont pas ciblées par les autorités.
• Des personnes transgenres ou en transition pourraient être « outées » par des correspondances automatiques avec des dossiers médicaux ou des réseaux sociaux.

Biais et erreurs : des preuves accablantes

Les systèmes d’identification faciale ont montré des taux d’erreur hétérogènes selon le sexe et la couleur de peau, ce qui multiplie le risque d’atteintes pour les groupes marginalisés. Études et cas illustratifs :

• Recherches académiques (comme l’étude Gender Shades) ont documenté des erreurs plus élevées pour les femmes à peau foncée.
• Tests publics ont montré des faux positifs notables — par exemple, des identifications incorrectes menant à des enquêtes policières.
• Cas judiciaires et rapports ont pointé des arrestations erronées liées à des correspondances biométriques inexactes (notamment des affaires médiatisées de la police américaine).

Ces éléments démontrent que l’imprécision n’est pas un simple défaut technique : elle a des conséquences humaines réelles.

Scénarios d’abus plausibles et déjà observés

Intégrer l’identification IA dans des lunettes portables ouvre la porte à des usages abusifs par divers acteurs :

• Forces de l’ordre : surveillance de quartiers entiers ou identification en temps réel sans mandat.
• Employeurs : contrôle des employés ou identification de syndicalistes lors d’événements publics.
• Acteurs malveillants : doxxing, traque ciblée de militants ou de journalistes.
• Autorités migratoires : repérage et interception systématique de personnes en situation administrative précaire.

Des précédents montrent que la technologie, même conçue pour la commodité, peut être détournée vers la surveillance invasive si les garde-fous légaux et techniques font défaut.

Recommandations et demandes des organisations

Face à ces risques, les signataires appellent à des mesures concrètes et proportionnées afin de protéger les droits fondamentaux :

• Moratoire ou interdiction d’usage pour l’identification biométrique en espaces publics.
• Interdiction spécifique pour les contextes sensibles : contrôles migratoires, interventions policières sans garanties procédurales.
• Audits indépendants et transparence sur les jeux de données, les taux d’erreur et les logs d’utilisation.
• Mécanismes de recours et d’effacement pour les personnes victimes d’une identification erronée.

Plusieurs villes et instances législatives ont déjà commencé à réglementer l’usage de la reconnaissance faciale, et ces organisations exigent que les fabricants renoncent ou repoussent le déploiement de telles fonctionnalités tant que des protections robustes ne sont pas en place.

Alternatives technologiques et bonnes pratiques à privilégier

Il existe des solutions techniques et organisationnelles pour limiter les risques sans renoncer à l’innovation : privilégier le traitement local (on-device), limiter la rétention des données, exiger le consentement explicite, et intégrer une vérification humaine avant toute action automatisée. Recommandations pratiques :

• Utiliser des algorithmes de protection de la vie privée (differential privacy, hashing) et des masques de flou pour les tiers.
• Activer des indicateurs visibles lorsque la capture est en cours pour informer les personnes présentes.
• Mettre en place des cadres juridiques clairs : autorisations, accès restreint, sanctions en cas d’abus.
• Favoriser des alternatives non biométriques pour l’assistance contextuelle (codes, tokens, notifications sans identification).

En adoptant ces bonnes pratiques et en impliquant la société civile, les décideurs et les entreprises, il est possible de réduire les dangers identifiés par les 70 organisations tout en engageant une réflexion éthique sur l’utilisation des lunettes IA.