Ce que les peuples autochtones révèlent vraiment sur l’IA

Une Vision Alternative de l’IA

La discussion actuelle autour de l’IA considère souvent son adoption comme inévitable, en supposant que plus de technologie entraîne de meilleurs résultats, et que la principale tâche consiste à gérer les risques. Cependant, une enquête menée auprès des peuples autochtones d’Australie a révélé une image différente. Ce projet, intitulé Relational Futures, explore la souveraineté autochtone et la gouvernance de l’IA, mettant en lumière le besoin d’une approche holistique par rapport à l’IA, la considérant comme un élément d’un système plus vaste qui influence les relations humaines, institutionnelles et environnementales.

Défi de la Confiance

En Australie, des décisions automatisées ont conduit à des conséquences désastreuses, notamment à travers le système Robodebt. D’autres secteurs comme les soins aux personnes âgées et l’Allocation Nationale pour les Personnes Handicapées (NDIS) montrent des dynamiques similaires. Dans ce contexte, il est essentiel de s’interroger sur les véritables bénéficiaires de ces systèmes. Les systèmes d’IA et d’automatisation ne s’intègrent pas dans des environnements neutres, mais dans des institutions où la confiance et l’inégalité préexistent. Les résultats montrent que les impacts ne sont pas ressentis de manière égale.

• Les participants expriment un confiance limitée envers l’IA.
• Beaucoup sont prêts à refuser son utilisation, reconnaissant son potentiel à intensifier les inégalités.
• L’automatisation permet de prendre des décisions plus rapidement, mais cela complique la transparence et la responsabilité.

Souveraineté des Données Autochtones

La souveraineté des données autochtones repose sur des droits collectifs, affirmant le contrôle des peuples autochtones sur les données de leurs communautés, de leurs terres et de leurs ressources. Cette gouvernance nécessite que les pratiques de données soutiennent l’auto-détermination, soient ancrées dans la communauté et apportent des bénéfices collectifs sans causer de préjudice. Les participants ont souvent souligné l’importance du bénéfice communautaire.

• Les risques vont au-delà des atteintes à la vie privée.
• Les préoccupations incluent les coûts environnementaux et l’appropriation des savoirs autochtones.
• Il existe des craintes que l’IA soit utilisée pour combler des lacunes dans des services sous-financés.

Imaginer un « Aîné IA »

Le projet a également exploré des concepts plus audacieux, comme l’idée d’un « Aîné IA », capable de reconnecter les individus à leur culture ou de fournir des conseils sur des questions culturelles. Cela soulève toutefois la question : pour qui cet Aîné parlerait-il ? Qui lui donnerait des comptes ? L’Aîné, dans les cultures autochtones, est un membre de la communauté, porteur de relations de confiance et de responsabilité.

• La relation entre l’Aîné et la communauté est inestimable.
• Une IA ne peut pas assumer de telles responsabilités culturelles et émotionnelles.
• Les détails nuancés des expériences culturelles risquent d’être perdus.

Un Chemin à Suivre

La gouvernance de l’IA doit aller au-delà des normes techniques. Elle doit également aborder les questions d’autorité, de responsabilité, de préjudice et de soin. Si les systèmes d’IA peuvent être conçus de manière à être sécuritaires et bénéfiques pour les peuples autochtones, ils seront plus efficaces pour tous. Intégrer les voix marginalisées dans la conception de l’IA est essentiel, car cela peut déterminer l’efficacité de ces systèmes.

« Il est crucial que nous soyons impliqués dans la conception et l’utilisation des systèmes IA, sinon nous courons le risque d’être ignorés », a déclaré un participant.

Le projet Relational Futures offre une mise en garde : sans leadership autochtone et approche relationnelle, l’IA continuera de reproduire les préjudices observés dans des systèmes comme Robodebt. L’avenir ne réside pas simplement dans le ralentissement de la technologie, mais plutôt dans une réflexion profonde sur ses objectifs, ses bénéficiaires et la responsabilité qui lui incombe.