Yoshua Bengio, Prix Turing 2018, alerte sur l’intelligence artificielle

Un pionnier discret mais influent

Le portrait évoque un chercheur canadien d’origine franco‑marocaine qui, dès 1993, a fondé l’un des plus importants instituts de recherche en IA, marquant ainsi une étape clé dans la structuration de la discipline; par exemple, cet institut a servi de plateforme pour des équipes travaillant sur les réseaux neuronaux profonds, la vision par ordinateur et le traitement du langage naturel, et a généré des collaborations académiques et industrielles majeures.

• Exemples d’impacts : formation de doctorants, publications citées internationalement, créations de spin-offs.
• Domaines couverts : apprentissage automatique, éthique de l’IA, systèmes robustes.

Identifier les risques avant d’accélérer

Sa recommandation première est claire : identifier et classer les risques avant de lancer un développement massif, ce qui implique d’analyser des menaces concrètes telles que la biaisisation des modèles, les failles de sécurité ou l’utilisation malveillante; par exemple, une équipe qui effectue une évaluation systématique a pu révéler que des modèles de génération de texte produisaient des stéréotypes nuisibles lorsqu’ils étaient entraînés sur des données non filtrées.

• Catégories de risques : sécurité, confidentialité, équité, robustesse, usage malveillant.
• Illustration : biais de recrutement algorithmique entraînant discrimination salariale.

Stratégies pratiques pour atténuer les dangers

Il préconise des mesures opérationnelles pour réduire ces risques avant déploiement à grande échelle, en combinant méthodes techniques et procédures organisationnelles; par exemple, appliquer la différential privacy pour protéger les données sensibles et conduire des campagnes de red‑teaming pour découvrir des vecteurs d’attaque.

• Mesures techniques : tests adversariaux, chiffrement, audit de modèles, explications interprétables.
• Mesures organisationnelles : revues de sécurité, protocoles de déploiement progressifs, équipes d’éthique.

Gouvernance et normes: encadrer le progrès

Pour lui, la réduction des risques passe aussi par une gouvernance claire et des standards partagés afin d’éviter une course au déploiement sans garde‑fous; des exemples actuels incluent l’initiative du cadre de sécurité du NIST ou les propositions d’encadrement comme le AI Act en Europe, qui visent à imposer des obligations selon le niveau de risque.

• Outils de gouvernance : audits indépendants, certifications, transparence des jeux de données.
• Exemples de politiques : obligations de documentation, évaluations d’impact, limitations sur certains usages.

Innover sans fermer la porte au progrès

Son message n’est pas anti‑innovation mais pro‑responsabilité : il s’agit de poursuivre le développement technologique tout en minimisant les dangers via des approches graduelles et mesurées; par exemple, déployer d’abord des prototypes en environnements contrôlés (sandbox) et n’élargir l’accès qu’après validation.

• Pratiques recommandées : déploiements pilotés, benchmarks publics, partage de résultats de sécurité.
• Cas concret : mise en production d’un assistant conversationnel après tests en laboratoire et audits externes.

Un appel collectif à l’action

Enfin, il lance un appel à l’ensemble des acteurs — chercheurs, entreprises, pouvoirs publics et société civile — pour coopérer à l’identification et à la réduction des risques, avec des mesures concrètes à court et moyen terme; par exemple, financer la recherche en sécurité d’IA, créer des cadres internationaux d’échange d’information et former les développeurs aux enjeux éthiques.

• Actions immédiates : soutenir les programmes de recherche en sûreté, instaurer des mécanismes d’audit.
• Actions à moyen terme : harmoniser les normes internationales, promouvoir l’éducation et la littératie en IA.