Adoptez l'IA agentique dans le développement logiciel RAPIDEMENT ! (Spoiler : vous devriez probablement éviter.)

En tant que professionnel de la cybersécurité, avez-vous parfois l'impression que tout le monde passe à la vitesse supérieure avec l'IA agentique, alors qu'il serait peut-être temps de ralentir et de réfléchir ? Eh bien, ce que beaucoup d'entre nous voyaient dans nos boules de cristal de la sécurité de l'IA est soudainement devenu réalité.

Le vendredi 14 novembre, Anthropic (l'un des fournisseurs de LLM les plus connus au monde, grâce à son outil populaire Claude Code) a publié un rapport révolutionnaire sur un cyberincident observé en septembre 2025, qui a ciblé aussi bien de grandes entreprises technologiques, des institutions financières et des entreprises de fabrication chimique que des agences gouvernementales.

Alors, pourquoi tout ce remue-ménage et qu'est-ce qui est si préoccupant ? Pour faire simple, un acteur de menace hautement sophistiqué (présumé être un État-nation) a utilisé Claude Code et une gamme d'outils dans l'environnement de développement, en tirant parti des systèmes du Model Context Protocol (MCP), pour utiliser de manière quasi autonome et à grande échelle des outils de piratage open source bénins afin de cibler des entreprises soigneusement sélectionnées. Plus de 30 tentatives d'attaques ont eu lieu ; plusieurs ont réussi, prouvant que les agents IA pouvaient effectivement exécuter des brèches dévastatrices avec très peu d'intervention humaine.

Le mois dernier, GlassWorm, le premier ver auto-réplicable ciblant les extensions VS Code, a été identifié par Koi Security. Bien qu'il ne s'agisse pas d'un nouveau vecteur d'attaque, une nouvelle vague d'extensions de codage (y compris les serveurs MCP) voit le jour ; à première vue, elles semblent bénignes, mais cachent une série d'activités malveillantes susceptibles de compromettre rapidement le poste de travail d'un développeur.

Il est peut-être temps de ralentir, de prendre une grande inspiration et de réfléchir ensemble à la meilleure façon de se défendre contre ce nouveau profil de menace.

Sécuriser les systèmes face aux agents IA à haute vélocité

Le récent rapport d'Anthropic met en lumière une nouvelle menace puissante, qui confirme les craintes de longue date de nombreux membres de la communauté de la sécurité, en montrant comment l'IA peut considérablement accélérer et amplifier les risques distribués. Ce développement donne un avantage supplémentaire aux acteurs malveillants, ce qui est exaspérant compte tenu de l'avance qu'ils ont déjà sur des équipes de sécurité épuisées et débordées, qui gèrent la prolifération technologique dans l'entreprise moyenne.

En substance, des attaquants soutenus par un État ont réussi à « jailbreaker » le modèle Claude Code. Ils ont réussi à tromper l'IA pour qu'elle contourne ses protocoles de sécurité sophistiqués afin d'exécuter des opérations hostiles. Une fois compromis, l'agent IA malveillant, utilisant son accès MCP, a rapidement infiltré divers systèmes et outils d'entreprise. Il a localisé et identifié des bases de données hautement sensibles au sein des organisations cibles dans un laps de temps impossible, même pour les collectifs de hackers humains les plus avancés.

Cette brèche a déclenché une cascade d'actions terrifiantes : tests de vulnérabilité complets, génération automatisée de code malveillant et même auto-documentation de l'attaque, incluant les journaux d'analyse système et les informations personnellement identifiables (PII) qu'elle a réussi à dérober.

Pour les vétérans de la sécurité, c'est un véritable scénario de cauchemar. Comment les équipes humaines peuvent-elles rivaliser avec la vitesse et la capacité de destruction d'un vecteur d'attaque propulsé par ce type d'IA ?

Le poste de travail d'un développeur et ce nouvel écosystème d'IA offrent de nouveaux vecteurs d'attaque

Chaque développeur préfère son propre IDE, qu'il s'agisse du classique VSCode, d'IntelliJ ou d'Eclipse de JetBrains, ou des plus récents Cline, Windsurf ou Cursor, et la plupart d'entre eux disposent de places de marché d'applications proposant des extensions à télécharger et à installer. Ces extensions sont rarement examinées pour détecter des activités malveillantes, sont généralement livrées avec des privilèges excessifs et ont accès à un environnement sandbox où elles peuvent accéder aux fichiers.

Ces environnements intègrent désormais tous des capacités d'IA, des agents IA et une gamme de nouveaux outils que ces agents peuvent utiliser (les serveurs MCP, par exemple). Souvent, ils sont tous publiés via des places de marché où n'importe quel développeur peut diffuser ses nouveaux outils. Et oui, vous l'avez deviné, ces serveurs MCP peuvent souvent lire, écrire et exécuter des commandes sur un système, le tout via un environnement IA qui est très probablement vulnérable aux injections de prompts. Qu'est-ce qui pourrait mal tourner ?

Le besoin non négociable de traçabilité et d'observabilité des outils d'IA

C'est à la fois complexe et simple : si un RSSI n'a aucune idée des outils d'IA utilisés par ses développeurs, du code qui est soumis ou des dépôts augmentés par la collaboration humain-IA, alors il manque une donnée cruciale, et l'observabilité doit être améliorée de toute urgence.

L'intégration rapide des assistants de codage IA et des serveurs MCP, désormais utilisés par une vaste majorité de développeurs, a créé un angle mort de sécurité critique au sein du cycle de vie du développement logiciel (SDLC). Les données sont alarmantes : jusqu'à 50 % du code généré par LLM, bien que fonctionnellement correct, contient des failles de sécurité. Pourtant, sans une observabilité adéquate, les RSSI et les équipes AppSec manquent de visibilité exploitable sur le volume et les sources de ce code à haut risque. Ce manque critique de traçabilité rend toute gouvernance efficace de l'IA, sous forme d'application de politiques et d'atténuation des risques, fonctionnellement impossible.

Pour maximiser en toute sécurité les gains de productivité immenses offerts par l'IA, les organisations doivent exiger des solutions qui offrent une visibilité complète et approfondie sur la surface d'attaque de l'IA. Secure Code Warrior propose SCW Trust Agent: AI, actuellement en version bêta fermée auprès d'un nombre restreint de nos clients. Cette capacité offre une observabilité approfondie en surveillant activement le trafic de code généré par l'IA (y compris les serveurs MCP) en temps réel sur la machine locale du développeur, et en suivant l'IDE via les pull requests et les commits vers les dépôts logiciels réels. Une traçabilité de sécurité précise n'est obtenue qu'en corrélant trois signaux vitaux : l'outil de codage IA et le modèle LLM spécifiques utilisés, le dépôt de code ciblé et, surtout, la compétence mesurée en codage sécurisé du développeur contributeur.

Ce n'est qu'en établissant cette chaîne de corrélation vérifiable qu'une organisation peut évaluer avec précision le risque de sécurité réel introduit, automatiser une application robuste des politiques et garantir que les développeurs utilisant l'IA respectent les normes de codage sécurisé obligatoires avant que leurs contributions ne contournent les garde-fous existants.

Contactez-nous pour en savoir plus ou pour voir une démonstration de notre gouvernance IA surpuissante, ou envoyez-nous simplement un message pour rejoindre le programme bêta.