Pourquoi craindre une technologie « clandestine » dans l’administration ?
L’émergence d’outils d’intelligence artificielle accessibles en ligne a créé une situation où des agents peuvent recourir à des solutions non autorisées, d’où la peur d’une technologie clandestine aux conséquences imprévues : fuites de données, décisions automatisées sans traçabilité, ou erreurs diffusées à grande échelle. Par exemple, un employé qui collerait des dossiers sensibles dans un chatbot public risque une divulgation de données personnelles ; de même, l’utilisation d’un modèle tiers sans évaluation préalable peut produire des réponses erronées affectant une décision administrative. Ces risques soulignent l’enjeu : protéger la confiance publique tout en tirant parti des bénéfices de l’IA.
La démarche proposée : une vraie « négociation sociale »
L’exécutif propose d’engager une négociation sociale pour définir collectivement les règles d’usage de l’IA dans la fonction publique, impliquant l’État et les organisations syndicales. L’objectif est de passer d’une interdiction brute à un cadre concerté qui allie sécurité juridique et déploiement contrôlé. Parmi les thèmes à négocier figurent :
- la définition des usages autorisés et interdits ;
- les mécanismes de formation et d’accompagnement des agents ;
- les garanties de contrôle humain et d’explicabilité des systèmes.
La réaction des syndicats : accueil positif, mais vigilance maintenue
Les syndicats accueillent favorablement l’ouverture du dialogue, voyant dans la négociation une opportunité de faire valoir des garanties concrètes pour les agents. Ils insistent cependant sur des exigences fortes et refusent les solutions imposées sans consultation. Leurs revendications principales incluent :
- transparence sur les outils déployés et leurs finalités ;
- protection des droits des agents et des usagers (donc conformité RGPD) ;
- formation systématique et maintien d’un contrôle humain effectif.
Cadre légal et bonnes pratiques à rappeler
Toute négociation doit tenir compte d’un socle juridique déjà existant : le RGPD impose des obligations en matière de protection des données, la CNIL a émis des recommandations sur l’usage de l’IA, et le futur règlement européen sur l’IA (AI Act) vise à encadrer les systèmes à risque. Des mesures techniques et organisationnelles sont recommandées, telles que l’étude d’impact (DPIA), la journalisation des décisions, l’audit indépendant et les protocoles d’anonymisation pour limiter l’exposition des données sensibles.
Exemples concrets : bénéfices possibles et risques identifiés
L’IA peut améliorer l’efficacité administrative, mais elle comporte des dangers si elle est mal encadrée. Exemples concrets :
- Bénéfices : automatisation du tri des dossiers, assistance à la rédaction d’actes administratifs, détection de fraudes pour orienter les enquêtes (gain de temps et meilleure allocation des ressources).
- Risques : décision erronée de rejet d’une aide sociale due à un modèle biaisé ; fuite de données personnelles via un chatbot public ; perte de sens du travail lorsque les agents sont dépossédés des décisions sans formation.
Ces cas illustrent pourquoi la négociation sociale doit prévoir des garanties de fiabilité et des mécanismes de recours pour les usagers.
Vers une gouvernance responsable et partagée de l’IA publique
Pour transformer la préoccupation en opportunité, une feuille de route pragmatique peut être négociée et mise en œuvre : lancement de pilotes encadrés, création d’un comité d’éthique territorial, mise en place d’un registre des outils utilisés et plans de formation obligatoires. Points clés à retenir :
- piloter avant de généraliser, avec évaluations publiques ;
- assurer transparence, traçabilité et responsabilité des décideurs ;
- garantir la participation des syndicats et des représentants des usagers tout au long du processus.
Ce cadre concerté vise à concilier innovation, protection des droits et confiance citoyenne, en transformant la vigilance syndicale et l’initiative gouvernementale en règles opérationnelles et partagées.
