Qu’est-ce que le ShadowLeak ?
Le ShadowLeak est une nouvelle technique d’attaque qui exploite une vulnérabilité affectant particulièrement le module Deep Research d’OpenAI. Découverte par les chercheurs de Radware, cette méthode permet de contourner les dispositifs de sécurité de ChatGPT et de procéder à un vol massif de données. En envoyant un email trompeur, les attaquants utilisent des prompts cachés qui sont exécutés par l’IA, créant ainsi un risque significatif pour la confidentialité des informations.
Le fonctionnement de l’attaque
Le ShadowLeak repose sur la technique d’injection d’invite. Concrètement, les acteurs malveillants envoient un message via Gmail contenant des instructions dissimulées. Ces instructions sont capables de manipuler le système pour voler des données. Par exemple, un prompt pourrait demander à l’IA de compiler une liste de données personnelles et de les transmettre à une URL spécifique. En cachant ces instructions dans des éléments apparemment innocents, les attaquants réussissent à échapper aux contrôles de sécurité.
Les éléments à surveiller
Il est crucial de se méfier des éléments apparemment innocents dans les communications. Les instructions malicieuses peuvent être dissimulées dans des textes de petite taille, sur des fonds blancs ou même dans des métadonnées. Par exemple :
- Instructions cachées dans des polices minuscules.
- Textes invisibles pour l’œil nu.
- Données dissimulées au sein de fichiers sur des plateformes comme Gmail.
Ces éléments peuvent entraîner des actions indésirables effectuées par ChatGPT sans que l’utilisateur en soit conscient.
Pourquoi le ShadowLeak est-il difficile à détecter ?
Le ShadowLeak contourne les protections en manipulant l’IA côté serveur, là où les contrôles traditionnels sont moins efficaces. La technique permet à l’attaquant de déclencher des actions invisibles aux utilisateurs, rendant ainsi la détection et le blocage des tentatives de fuite de données bien plus difficiles. L’accès supérieur des agents backend aux systèmes amplifie également les risques, car les opérations malveillantes peuvent s’exécuter silencieusement sans alerter les utilisateurs.
Les implications pour OpenAI
OpenAI a récemment introduit une fonctionnalité bêta permettant de connecter des serveurs compatibles avec le Model Context Protocol (MCP) à ChatGPT. Bien qu’innovante, cette connexion élargit la surface d’exposition aux risques, augmentant ainsi les chances d’attaques comme le ShadowLeak. D’autres vulnérabilités, comme EchoLeak et AgentFlayer, présentent également des menaces similaires, mais la particularité du ShadowLeak réside dans le fait qu’il implique une fuite de données directement à partir de l’infrastructure d’OpenAI.
Ressources supplémentaires sur le sujet
Pour une meilleure compréhension des enjeux liés à cette vulnérabilité, consultez ces vidéos explicatives :
- Radware Uncovers First Zero-Click vulnerability in OpenAI ChatGPT for Gmail
- 0-click WARNING: ShadowLeak in Gmail
En savoir plus sur L'ABESTIT
Subscribe to get the latest posts sent to your email.
