SynthID de Google contesté : un développeur défie le filigrane IA

Une percée revendiquée qui secoue SynthID

Un développeur sous le pseudonyme Aloshdenny affirme avoir rétro‑ingénieré SynthID, le système de marquage invisible de Google DeepMind conçu pour rendre les images générées par IA identifiables à vie. Selon ses publications, sa démonstration s’appuie sur une expérimentation simple mais ciblée : 200 images créées avec le modèle Nano Banana. Une vidéo explicative est disponible sur YouTube, et ses résultats ont été publiés en open‑source pour vérification.

Méthodologie : du noir pur et du blanc pur pour révéler le tatouage

La technique revendiquée est essentiellement un exercice de traitement du signal et de moyennage statistique. Exemple précis : il a généré 100 images entièrement blanches et 100 images entièrement noires, puis a procédé ainsi :

• Augmentation du contraste et de la saturation pour faire ressortir les faibles composantes.
• Filtrage du bruit et alignement des images pour isoler les motifs récurrents.
• Moyennage pixel par pixel pour faire apparaître le motif du filigrane théorique.

Le résultat, selon lui, montre des motifs persistants que le marquage laisse dans les pixels après des opérations extrêmes.

Réplique de Google : robustesse assurée, mais des questions subsistent

Google a vivement nié que SynthID soit « cassé », affirmant que la technologie reste un moyen robuste d’étiqueter les contenus produits par Gemini, Veo ou YouTube. Pourtant, Aloshdenny reconnaît ne pas avoir totalement supprimé le marquage sans dégrader l’image, mais il indique avoir réussi à réduire la confiance du décodeur par des distorsions ciblées. Points à retenir :

• Google : SynthID intégré au moment de la création, donc difficilement effaçable.
• Auteur : pas de suppression complète, mais une méthode pour confondre le décodeur.
• Implication pratique : détection moins fiable si le signal est suffisamment perturbé.

Les chiffres qui appuient l’expérience

Pour aller au‑delà d’un simple test, la démonstration s’est étendue à une analyse à grande échelle. Exemple concret : il a analysé une base de 123 268 paires d’images originales et éditées via Nano Banana pour contrer l’aléa des encodeurs. Résumé chiffré :

• 200 images initiales pour l’extraction du motif.
• 123 268 paires utilisées pour valider la méthode à grande échelle.
• Observation : différences visuelles minimes entre image tatouée et image partiellement débarrassée du marquage.

Ces nombres montrent que l’approche n’est pas seulement anecdotique mais testée statistiquement.

Conséquences pour la traçabilité : la limite du filigrane unique

Cette affaire souligne la fragilité des solutions reposant sur une seule couche de marquage. Pour réduire les risques d’usurpation ou d’effacement, les experts préconisent des architectures multicouches combinant plusieurs protections. Exemples de mécanismes complémentaires :

• Signatures cryptographiques embarquées dans les métadonnées au moment de la création.
• Registres immuables (blockchain/ledgers) pour horodater et attester l’origine.
• Journaux d’audit centralisés ou distribués pour tracer les transformations successives.

L’idée : rendre l’altération à la fois visible et coûteuse techniquement et juridiquement.

Scénarios concrets et pistes pour l’avenir

Les implications pratiques sont immédiates pour les créateurs, les plateformes et les régulateurs. Exemples concrets d’impact :

• Un créateur YouTube dont une image générée est détournée : risque d’usurpation d’identité si le marquage peut être neutralisé.
• Des campagnes de désinformation exploitant des images « nettoyées » pour diminuer la confiance des détecteurs.
• Applications forensiques : nécessité d’outils combinant détection pixelaire et vérification cryptographique.

Pour avancer, il faudra favoriser la recherche collaborative, des normes ouvertes de provenance et des tests adversariaux réguliers afin de transformer une solution isolée en un écosystème de confiance résilient.