Quand l’IA générative invente de fausses découvertes biologiques

1. L’IA générative en biologie : promesse et vigilance

L’intelligence artificielle générative s’impose comme un outil puissant pour la recherche biomédicale. En apprenant des motifs à partir de données existantes, elle peut proposer des hypothèses, concevoir des protéines, simuler des cellules ou encore combler des manques dans des jeux de données expérimentales. Cette capacité ouvre des perspectives considérables, mais elle introduit aussi un risque majeur : produire des résultats plausibles en apparence, sans correspondance réelle avec la biologie observée.

• Objectif utile : accélérer l’analyse de données complexes.
• Risque central : générer des signaux trompeurs ou artificiels.
• Enjeu scientifique : distinguer une hypothèse prometteuse d’une erreur crédible.

2. Quand une erreur peut sembler être une découverte

Dans les sciences du vivant, une hallucination d’IA ne ressemble pas toujours à une invention grossière. Elle peut prendre la forme d’un motif moléculaire plausible, d’une corrélation artificielle ou d’une inférence séduisante, mais fausse. Le danger est d’autant plus grand que ces systèmes interviennent souvent au cœur de flux de travail complexes, où les signaux bruts sont transformés en résultats interprétables. Une altération subtile peut alors modifier une conclusion sans être immédiatement repérée.

• Une corrélation inventée peut orienter une analyse dans la mauvaise direction.
• Un signal déformé peut masquer un mécanisme biologique réel.
• Une inférence crédible peut être acceptée trop vite comme une preuve.

3. Des usages à risque variable selon les tâches

Thomas Burger, biologiste computationnel à l’Université Grenoble Alpes, souligne que tous les usages de l’IA générative ne présentent pas le même niveau de danger. La différence essentielle tient au rôle de la production de l’IA : s’agit-il d’une idée à tester ou d’une donnée synthétique utilisée comme preuve ? Dans le premier cas, l’erreur reste souvent récupérable. Dans le second, elle peut contaminer directement l’argument scientifique.

• Risque modéré : sélectionner des candidats parmi des milliers de molécules ou de protéines.
• Risque élevé : remplacer une mesure expérimentale par une donnée générée.
• Risque critique : bâtir une conclusion sur une donnée artificielle non validée.

4. Le criblage de candidats : un gain de temps, mais pas une preuve

Le criblage de médicaments ou de protéines figure parmi les applications les plus sûres. Un modèle peut trier rapidement un grand nombre de composés et proposer une liste restreinte à tester en laboratoire. Par exemple, une IA peut aider à identifier des molécules susceptibles d’interagir avec une cible biologique donnée, puis les chercheurs vérifient ensuite l’effet réel sur des cellules ou des modèles animaux. Même si l’outil se trompe, l’erreur reste généralement limitée à la sélection initiale.

• Gain de temps dans l’exploration de grandes bibliothèques de composés.
• Réduction des coûts liés aux essais inutiles.
• Validation finale nécessaire par expérimentation réelle.

5. Les données synthétiques : une aide précieuse, mais fragile

Le risque augmente nettement lorsque l’IA produit des données synthétiques destinées à compléter ou remplacer des mesures manquantes. Elles peuvent servir à protéger la vie privée des patients, créer des groupes de comparaison, réduire les coûts de recherche ou limiter le recours aux animaux. Mais si le système introduit une caractéristique absente des données d’origine, il peut faire croire à l’existence d’un effet biologique inexistant. Dans ce cas, l’erreur ne concerne plus seulement une prédiction : elle entre dans le corpus même des preuves.

• Avantages : complétion de données, confidentialité, économie de ressources.
• Menace : fabrication d’un effet qui n’a jamais été observé.
• Conséquence : biais durable dans l’interprétation scientifique.

6. Vérifier avant d’affirmer : le rempart indispensable

Un exemple concret existe avec AlphaFold 3, dont les développeurs ont signalé en 2024 l’apparition de « structures hallucinées » dans certaines régions désordonnées des protéines. Des scores de confiance faibles peuvent alerter les chercheurs, mais ils ne remplacent pas une analyse approfondie. L’idée clé est simple : une sortie d’IA, aussi spectaculaire soit-elle, reste une hypothèse tant qu’elle n’a pas été confirmée par une expérience indépendante. C’est cette validation qui sépare une intuition utile d’une fausse piste.

• Contrôler la qualité des données à chaque étape du traitement.
• Interpréter les résultats avec une expertise biologique solide.
• Ne considérer comme acquis que ce qui est reproduit expérimentalement.