Serie de videos sobre seguridad en IA/LLM: todos los episodios, actualizados semanalmente

Tu guía para la serie introductoria de seguridad en IA/LLM

Las herramientas de programación con IA como GitHub Copilot, Cursor y otras están transformando la forma en que se crea software, pero también introducen nuevos desafíos de seguridad que los desarrolladores deben comprender para construir aplicaciones seguras y fiables. Para ayudar a los equipos a adoptar la IA de forma segura, hemos creado una serie de videos gratuita de 12 semanas sobre seguridad en IA/LLM en YouTube.

Esta publicación sirve como centro principal de la serie. Cada semana, la actualizaremos con un nuevo video y descripción, cubriendo conceptos esenciales como inyección de prompts, envenenamiento de datos y modelos, riesgos en la cadena de suministro, prompts seguros y más. Marca esta página para seguir el contenido semanalmente o suscríbete a nuestro canal de YouTube para recibir cada lección tan pronto como se publique.

Si deseas profundizar más allá de estas lecciones introductorias, explora la colección completa de IA/LLM en la plataforma SCW o solicita una demostración si aún no eres cliente. Suscríbete a nuestro canal de YouTube para ver cada nuevo episodio en cuanto se publique. Y si deseas mantenerte al tanto de los últimos contenidos, actualizaciones y recursos, regístrate aquí para unirte a nuestra comunidad de desarrolladores y líderes de seguridad.

Episodios (actualizados semanalmente)

Semana 1 — Riesgos de la programación con IA: peligros de usar LLMs
En este video, exploramos los peligros potenciales de usar IA/LLMs al escribir código y destacamos los riesgos clave que enfrentan los desarrolladores al integrar herramientas impulsadas por IA en sus flujos de trabajo.

Semana 2 — Beneficios de la programación con IA: desarrollo asistido por IA seguro
‍Las herramientas de programación con IA no solo conllevan riesgos — cuando se usan de forma segura, pueden ayudar a los desarrolladores a trabajar más rápido y de manera más inteligente. En este video, exploramos las ventajas de usar IA/LLMs al escribir código, destacando cómo los equipos pueden aprovechar la IA de manera responsable evitando los errores de seguridad comunes.

Semana 3 — Explicación de la inyección de prompts: protegiendo el código generado por IA
‍La inyección de prompts es una de las vulnerabilidades más comunes en IA/LLM, y una que todo desarrollador debería saber cómo prevenir. En este video, presentamos los dire

Semana 4 — Divulgación de información confidencial: evitando fugas de datos en IA
Las herramientas impulsadas por IA pueden filtrar información confidencial de forma inadvertida, poniendo en riesgo tus aplicaciones y datos. En este video, cubrimos las vulnerabilidades de divulgación de información confidencial, explicamos cómo surgen al usar IA/LLMs y compartimos pasos prácticos que los desarrolladores pueden tomar para reducir la exposición.

‍

Semana 5 — Riesgos en la cadena de suministro de IA: asegurando dependencias
‍El desarrollo asistido por IA acelera la programación, pero también introduce riesgos en la cadena de suministro que pueden afectar a cada capa de tus aplicaciones. En este video, exploramos las vulnerabilidades relacionadas con IA/LLMs, explicamos cómo los modelos y APIs de terceros pueden ampliar tu superficie de ataque y compartimos estrategias para minimizar la exposición.

‍
Semana 6 — Envenenamiento de datos: asegurando modelos y resultados de IA
‍Los sistemas de IA son tan seguros como sus datos de entrenamiento, y las entradas comprometidas pueden crear vulnerabilidades que se propagan por todas tus aplicaciones. En este video, presentamos los ataques de envenenamiento de datos y modelos, explicamos cómo las entradas maliciosas pueden manipular los resultados de la IA y compartimos estrategias para proteger tus sistemas.

Semana 7 — Manejo inadecuado de resultados: validando código generado por IA
‍Las herramientas impulsadas por IA pueden generar código rápidamente, pero si los resultados no se validan, pueden colarse vulnerabilidades sin ser detectadas. En este video, examinamos el manejo inadecuado de resultados en el desarrollo asistido por IA, explicamos cómo los resultados arriesgados pueden comprometer tus aplicaciones y compartimos técnicas para proteger el código generado.

‍
Semana 8 — Agencia excesiva: controlando los riesgos de autonomía de la IA
‍A medida que los sistemas de IA se vuelven más autónomos, la agencia excesiva crea nuevos riesgos donde los modelos actúan más allá de su alcance previsto. En este video, exploramos las vulnerabilidades de agencia excesiva en el desarrollo asistido por IA, explicamos cómo surgen los comportamientos que exceden los límites y discutimos técnicas para mantener el control sobre los procesos impulsados por IA.

‍
Semana 9 — Fuga de prompts del sistema: riesgos ocultos de seguridad en IA
‍Los prompts del sistema a menudo incluyen instrucciones ocultas que guían el comportamiento de la IA, pero si se exponen, los atacantes pueden manipular los modelos o extraer información confidencial. En este video, cubrimos las vulnerabilidades de fuga de prompts del sistema, explicamos cómo ocurren y discutimos los pasos que los desarrolladores pueden tomar para proteger sus flujos de trabajo impulsados por IA.

‍

Semana 10 — Debilidades vectoriales: asegurando flujos de trabajo de recuperación de IA
‍Los modelos de IA a menudo dependen de bases de datos vectoriales y embeddings para ofrecer capacidades potentes, pero las configuraciones incorrectas y las implementaciones inseguras pueden exponer datos confidenciales y crear nuevos vectores de ataque. En este video, profundizamos en las debilidades de vectores y embeddings, explicamos los desafíos de seguridad comunes y compartimos estrategias para asegurar tus flujos de trabajo de búsqueda y recuperación impulsados por IA.

‍

Semana 11 — Desinformación en IA: evitando riesgos de alucinación
‍Las herramientas de IA a veces pueden generar resultados que parecen correctos pero son erróneos, creando riesgos de desinformación que afectan la seguridad, la fiabilidad y la toma de decisiones. En este video, explicamos las vulnerabilidades de desinformación en la programación asistida por IA, exploramos cómo surgen los resultados incorrectos y compartimos estrategias para validar y asegurar el contenido impulsado por IA.

Semana 12 — Consumo ilimitado: previniendo riesgos de DoS en IA
Los sistemas de IA pueden consumir recursos sin límites, lo que conlleva riesgos como denegación de servicio (DoS), exposición de datos y fallos operativos inesperados. En este video, cubrimos las vulnerabilidades de consumo ilimitado en IA/LLMs, explicamos cómo ocurren y compartimos estrategias prácticas para monitorear, gobernar y asegurar el uso de recursos de IA.

‍
‍
Estos videos están diseñados para introducir los conceptos fundamentales de la seguridad en IA/LLM, pero hay mucho más por explorar en la plataforma Secure Code Warrior. Sumérgete en desafíos de IA que simulan la revisión y remediación de código asistida por IA en entornos reales, explora nuestras directrices de IA/LLM alineadas con las mejores prácticas del sector y trabaja con tutoriales, misiones, retos y plantillas de cursos que ofrecen experiencia práctica para desarrollar hábitos de codificación segura. Para los equipos que deseen avanzar en sus habilidades, la plataforma también ofrece una biblioteca en constante crecimiento de más de 130 actividades de aprendizaje centradas en IA/LLM, que incluyen temas como codificación con IA, introducción a los riesgos y seguridad de la IA, y el OWASP Top 10 para aplicaciones LLM. Solicita una demostración para obtener más información.