La communauté cybersécurité a reçu un signal d'alarme cette semaine. Des chercheurs d'ESET ont dévoilé PromptSpy, le premier malware Android documenté qui utilise un grand modèle de langage commercial (ici, Gemini de Google) comme partie intégrante de sa boucle d'exécution principale. Ce n'est plus un risque théorique. Les attaquants utilisent déjà les mêmes outils d'IA que vos employés pour échapper à la détection, persister sur les appareils et voler des identifiants à grande échelle.
Si vous êtes responsable de la sécurité ou de la gouvernance dans une entreprise qui utilise l'IA (ce qui est désormais quasiment toutes les entreprises), c'est l'histoire que vous devez comprendre.
Ce que fait réellement PromptSpy
En surface, PromptSpy ressemble à beaucoup d'autres chevaux de Troie mobiles : il capture les codes PIN de l'écran de verrouillage, prend des captures d'écran, enregistre l'activité de l'écran et ouvre une porte dérobée d'accès à distance via VNC. Du classique pour un malware à motivation financière.
Ce qui le distingue, c’est la manière dont il assure la persistance. Plutôt que de s’appuyer sur des coordonnées codées en dur ou des astuces spécifiques à un appareil (qui cassent dès qu’un fabricant modifie une interface), PromptSpy envoie une capture d’écran de l’écran Android actuel à Gemini avec un dump XML de chaque élément UI. Il demande au modèle, incarné en « assistant d’automatisation Android », de retourner des instructions JSON étape par étape pour maintenir l’application malveillante épinglée dans la liste des applications récentes afin que le système ne puisse pas la fermer.
Le modèle répond. Le malware suit les instructions. Peu importe la taille d'écran, le lanceur personnalisé ou la version OS : PromptSpy s'adapte en temps réel car le LLM s'adapte.
Dans la communauté de recherche en sécurité, c'est décrit comme le moment où les malwares assistés par IA sont passés de « preuve de concept intéressante » à « produit commercialisé ».
Pourquoi c'est plus important qu'il n'y paraît
Les analystes en malwares prévoyaient depuis longtemps que l'IA générative abaisserait la barrière pour les attaquants. Mais on pensait que l'IA aiderait surtout à l'ingénierie sociale, à écrire des emails de phishing plus convaincants, à générer des deepfakes vocaux, etc. PromptSpy montre quelque chose de plus fondamental : l'IA peut automatiser la partie opérationnelle d'une attaque.
Réfléchissez à ce que cela signifie. Les malwares traditionnels doivent être testés sur des configurations d’appareils spécifiques. Les développeurs écrivent des chemins de code différents pour Samsung, Pixel, Xiaomi. Ils gèrent séparément les différentes versions d’Android. PromptSpy ne se soucie pas de tout cela. Il externalise le problème à un modèle qui comprend déjà comment fonctionnent les interfaces Android sur tous les appareils de la planète.
Ce modèle va se généraliser. Si un LLM peut naviguer dans une interface mobile pour obtenir une persistance, il peut naviguer dans un logiciel d’entreprise pour exfiltrer des données. Il peut s’adapter à différents outils de sécurité. Il peut répondre aux tentatives de détection en changeant son comportement selon ce qu’il voit à l’écran.
La connexion Shadow IA
Voici où cela devient directement pertinent pour les équipes de sécurité d’entreprise. PromptSpy utilise une API IA publique (Gemini) pour alimenter ses attaques. Il obtient une clé API depuis son serveur de commande et contrôle et effectue des appels API standards. Du point de vue réseau, le trafic ressemble à n’importe quel autre appel API vers l’infrastructure IA de Google.
Pensez maintenant à votre organisation. Combien de vos employés effectuent des appels API vers Gemini, ChatGPT, Claude ou d’autres services IA ? Si vous êtes comme la plupart des entreprises, vous n’avez pas de réponse complète. C’est le problème de la Shadow IA : une utilisation non approuvée et non surveillée de l’IA circulant dans votre réseau, indiscernable du trafic légitime.
PromptSpy exploite exactement cette même zone d’ombre. Quand chaque application, chaque service, et maintenant chaque malware effectuent des appels API LLM, la capacité à distinguer le trafic IA légitime du trafic malveillant devient une exigence de sécurité fondamentale. Pas un simple bonus. Une exigence.
Ce que les entreprises doivent faire dès maintenant
L’émergence des malwares alimentés par l’IA ne change pas les fondamentaux d’une bonne sécurité, mais elle augmente l’urgence sur plusieurs fronts :
Obtenez une visibilité sur l’utilisation de l’IA dans votre organisation. Vous ne pouvez pas sécuriser ce que vous ne voyez pas. Cartographiez quels outils et API IA sont utilisés, par qui et pour quoi. Cela concerne à la fois les outils sanctionnés et la longue traîne du Shadow IA adoptée de manière autonome par les employés.
Considérez le trafic des API IA comme une source de télémétrie de sécurité. La surveillance réseau doit signaler les schémas inhabituels dans les appels API IA : points de terminaison inattendus, volumes anormaux, appels provenant d’appareils ou processus non autorisés. Le trafic de PromptSpy vers Gemini aurait été détectable avec une analyse adéquate du trafic IA.
Mettez à jour vos modèles de menace. Si votre modèle de menace actuel n’inclut pas « un attaquant utilise un LLM commercial pour adapter le comportement d’un malware en temps réel », il est obsolète. Les exercices de red team doivent inclure des scénarios d’attaque assistés par IA.
Implémentez une gouvernance IA couvrant tout le cycle de vie. La politique seule ne suffit pas. Vous avez besoin de contrôles techniques qui surveillent les interactions IA, signalent les anomalies et appliquent les limites d’utilisation en temps réel, pas seulement au moment du provisionnement.
Formez vos collaborateurs. Le dropper PromptSpy arrive via un faux site bancaire convaincant. L’ingénierie sociale reste le point d’entrée. La formation qui aide les employés à reconnaître les applications et requêtes d’installation suspectes demeure votre première ligne de défense.
La vérité dérangeante
Nous avons passé les deux dernières années à célébrer ce que l’IA peut apporter en termes de productivité, créativité et innovation. Et à juste titre, cette technologie est remarquable. Mais PromptSpy rappelle qu’à chaque capacité donnée aux défenseurs, nous la donnons aussi aux attaquants. Le même LLM qui aide votre équipe à écrire du code, analyser des données et automatiser des processus peut aider un malware à contourner les contrôles de sécurité.
Ce n’est pas une raison pour ralentir l’adoption de l’IA. C’est une raison de prendre la gouvernance de l’IA au sérieux. Les organisations qui comprennent leur empreinte IA, surveillent leur trafic IA et construisent des cadres de gouvernance autour de l’usage de l’IA seront bien mieux placées pour détecter et répondre à des menaces comme PromptSpy.
Celles qui ne le font pas navigueront à l’aveugle dans un paysage où les menaces viennent de devenir nettement plus intelligentes.
Aona AI aide les entreprises à découvrir et à gouverner l'utilisation de l'IA dans toute leur organisation, y compris les outils Shadow AI que la sécurité traditionnelle ne détecte pas. En savoir plus sur notre approche de la gouvernance de l'IA.
Note de la rédaction : Depuis la publication de cet article, Aona AI s’est étendue en une plateforme complète de gouvernance IA composée de 4 produits, incluant Shadow AI Discovery, AI Governance Hub, Agentic Teammates et AI Trust Engine. Chaque produit traite une couche distincte du risque et de la gouvernance IA en entreprise. En savoir plus sur aona.ai.
