Série de vidéos sur la sécurité des IA/LLM : tous les épisodes, mis à jour chaque semaine

Votre guide de la série d'introduction à la sécurité des IA/LLM

Les outils de codage par IA comme GitHub Copilot, Cursor et d'autres transforment la manière dont les logiciels sont conçus, mais ils introduisent également de nouveaux défis de sécurité que les développeurs doivent comprendre pour créer des applications sûres et fiables. Pour aider les équipes à adopter l'IA en toute sécurité, nous avons créé une série vidéo d'introduction gratuite de 12 semaines sur la sécurité des IA/LLM sur YouTube.

Cet article sert de hub central pour la série. Chaque semaine, nous le mettrons à jour avec une nouvelle vidéo et une description, couvrant des concepts essentiels tels que l'injection de prompts, l'empoisonnement des données et des modèles, les risques liés à la chaîne d'approvisionnement, le prompting sécurisé, et plus encore. Ajoutez cette page à vos favoris pour suivre le programme chaque semaine, ou abonnez-vous à notre chaîne YouTube pour recevoir chaque leçon dès sa sortie.

Si vous souhaitez approfondir ces leçons d'introduction, explorez la collection complète sur les IA/LLM au sein de la plateforme SCW ou demandez une démo si vous n'êtes pas encore client. Abonnez-vous à notre chaîne YouTube pour ne manquer aucun nouvel épisode dès sa publication. Et si vous souhaitez rester informé des derniers contenus, mises à jour et ressources, inscrivez-vous ici pour rejoindre notre communauté de développeurs et de responsables de la sécurité.

Épisodes (mis à jour chaque semaine)

Semaine 1 — Risques du codage par IA : les dangers de l'utilisation des LLM
Dans cette vidéo, nous explorons les dangers potentiels liés à l'utilisation des IA/LLM lors de l'écriture de code et mettons en lumière les risques majeurs auxquels les développeurs sont confrontés lorsqu'ils intègrent des outils basés sur l'IA dans leurs flux de travail.

Semaine 2 — Avantages du codage par IA : développement assisté par IA sécurisé
‍Les outils de codage par IA ne sont pas seulement risqués — lorsqu'ils sont utilisés de manière sécurisée, ils peuvent aider les développeurs à travailler plus rapidement et plus intelligemment. Dans cette vidéo, nous explorons les avantages de l'utilisation des IA/LLM lors de l'écriture de code, en soulignant comment les équipes peuvent exploiter l'IA de manière responsable tout en évitant les pièges de sécurité courants.

Semaine 3 — L'injection de prompts expliquée : protéger le code généré par IA
‍L'injection de prompts est l'une des vulnérabilités les plus courantes des IA/LLM, et chaque développeur doit savoir comment la prévenir. Dans cette vidéo, nous présentons les dangers

Semaine 4 — Divulgation d'informations sensibles : éviter les fuites de données par IA
Les outils basés sur l'IA peuvent divulguer par inadvertance des informations sensibles, mettant en péril vos applications et vos données. Dans cette vidéo, nous abordons les vulnérabilités liées à la divulgation d'informations sensibles, expliquons comment elles surviennent lors de l'utilisation d'IA/LLM et partageons des mesures pratiques que les développeurs peuvent prendre pour réduire leur exposition.

‍

Semaine 5 — Risques de la chaîne d'approvisionnement IA : sécuriser les dépendances
‍Le développement assisté par IA accélère le codage, mais il introduit également des risques liés à la chaîne d'approvisionnement qui peuvent affecter chaque couche de vos applications. Dans cette vidéo, nous explorons les vulnérabilités liées aux IA/LLM, expliquons comment les modèles et API tiers peuvent élargir votre surface d'attaque, et partageons des stratégies pour minimiser l'exposition.

‍
Semaine 6 — Empoisonnement des données : sécuriser les modèles et les sorties d'IA
‍La sécurité des systèmes d'IA dépend de la qualité de leurs données d'entraînement ; des entrées compromises peuvent créer des vulnérabilités qui se répercutent sur l'ensemble de vos applications. Dans cette vidéo, nous présentons les attaques par empoisonnement de données et de modèles, expliquons comment des entrées malveillantes peuvent manipuler les résultats de l'IA et partageons des stratégies pour protéger vos systèmes.

Semaine 7 — Gestion inappropriée des sorties : valider le code généré par IA
‍Les outils basés sur l'IA peuvent générer du code rapidement, mais si les résultats ne sont pas validés, des vulnérabilités peuvent s'y glisser inaperçues. Dans cette vidéo, nous examinons la gestion inappropriée des sorties dans le développement assisté par IA, expliquons comment des résultats risqués peuvent compromettre vos applications et partageons des techniques pour sécuriser le code généré.

‍
Semaine 8 — Agence excessive : contrôler les risques liés à l'autonomie de l'IA
‍À mesure que les systèmes d'IA deviennent plus autonomes, une agence excessive crée de nouveaux risques où les modèles agissent au-delà de leur champ d'application prévu. Dans cette vidéo, nous explorons les vulnérabilités liées à une agence excessive dans le développement assisté par IA, expliquons comment ces comportements surviennent et discutons des techniques pour garder le contrôle sur les processus pilotés par l'IA.

‍
Semaine 9 — Fuite de prompts système : risques de sécurité cachés de l'IA
‍Les prompts système incluent souvent des instructions cachées qui guident le comportement de l'IA, mais si elles sont exposées, des attaquants peuvent manipuler les modèles ou extraire des informations sensibles. Dans cette vidéo, nous couvrons les vulnérabilités liées à la fuite de prompts système, expliquons comment elles se produisent et discutons des mesures que les développeurs peuvent prendre pour protéger leurs flux de travail basés sur l'IA.

‍

Semaine 10 — Faiblesses vectorielles : sécuriser les flux de travail de récupération par IA
‍Les modèles d'IA s'appuient souvent sur des bases de données vectorielles et des embeddings pour offrir des capacités puissantes, mais des erreurs de configuration et des implémentations non sécurisées peuvent exposer des données sensibles et créer de nouveaux vecteurs d'attaque. Dans cette vidéo, nous plongeons dans les faiblesses des vecteurs et des embeddings, expliquons les défis de sécurité courants et partageons des stratégies pour sécuriser vos flux de recherche et de récupération basés sur l'IA.

‍

Semaine 11 — Désinformation par IA : éviter les risques d'hallucination
‍Les outils d'IA peuvent parfois générer des résultats qui semblent corrects mais qui sont faux, créant des risques de désinformation qui affectent la sécurité, la fiabilité et la prise de décision. Dans cette vidéo, nous expliquons les vulnérabilités liées à la désinformation dans le codage assisté par IA, explorons comment les résultats incorrects apparaissent et partageons des stratégies pour valider et sécuriser le contenu généré par l'IA.

Semaine 12 — Consommation illimitée : prévenir les risques de DoS par IA
Les systèmes d'IA peuvent consommer des ressources sans limite, entraînant des risques tels que le déni de service (DoS), l'exposition de données et des défaillances opérationnelles inattendues. Dans cette vidéo, nous couvrons les vulnérabilités liées à une consommation illimitée dans les IA/LLM, expliquons comment elles surviennent et partageons des stratégies pratiques pour surveiller, gouverner et sécuriser l'utilisation des ressources d'IA.

‍
‍
Ces vidéos sont conçues pour présenter les concepts fondamentaux de la sécurité des IA/LLM, mais la plateforme Secure Code Warrior offre bien plus encore. Plongez dans des défis IA simulant des revues de code et des remédiations assistées par IA, explorez nos directives IA/LLM conformes aux meilleures pratiques du secteur, et progressez grâce à nos tutoriels, missions, quêtes et modèles de cours pour acquérir des réflexes de codage sécurisé. Pour les équipes souhaitant monter en compétence, la plateforme propose plus de 130 activités d'apprentissage dédiées aux IA/LLM, couvrant le développement assisté par IA, les risques et la sécurité des IA, ainsi que l'OWASP Top 10 pour les applications LLM. Demandez une démo pour en savoir plus.