¡Adopta la IA agente en el desarrollo de software RÁPIDO! (Spoiler: probablemente no deberías hacerlo).

¿Alguna vez ha tenido la sensación, como profesional de la ciberseguridad, de que todo el mundo está entrando en una fase de hipervelocidad con la IA agente, cuando quizás sea momento de ir despacio y reflexionar? Pues bien, lo que muchos hemos estado viendo en nuestras bolas de cristal de seguridad de IA se ha convertido de repente en realidad.

El viernes 14 de noviembre, Anthropic (uno de los proveedores de LLM más conocidos del mundo, gracias a su popular herramienta Claude Code) publicó un informe innovador sobre un incidente cibernético observado en septiembre de 2025, que tuvo como objetivo a todo tipo de entidades, desde grandes empresas tecnológicas, instituciones financieras y compañías químicas, hasta agencias gubernamentales.

Entonces, ¿a qué viene tanto alboroto y por qué es tan preocupante? En términos sencillos, un actor de amenazas altamente avanzado (presuntamente un estado-nación) utilizó Claude Code y una serie de herramientas en el entorno de desarrollo, aprovechando los sistemas del Protocolo de Contexto de Modelo (MCP), para utilizar de forma casi autónoma y a gran escala herramientas de hacking de código abierto benignas contra empresas cuidadosamente seleccionadas. Hubo más de 30 intentos de ataque; varios tuvieron éxito, lo que demuestra que los agentes de IA pueden, efectivamente, ejecutar brechas devastadoras con muy poca intervención humana.

El mes pasado, GlassWorm, el primer gusano autopropagable dirigido a extensiones de VS Code, fue identificado por Koi Security. Aunque este último no es un vector de ataque nuevo, existe una nueva ola de extensiones de codificación (incluidos los servidores MCP) que, a primera vista, tienen una funcionalidad benigna, pero que en realidad albergan una serie de actividades maliciosas que podrían comprometer rápidamente el endpoint de un desarrollador.

Quizás sea hora de reducir la velocidad, respirar hondo y unir fuerzas para determinar la mejor manera de defendernos contra este nuevo perfil de amenaza.

Asegurar los sistemas frente a agentes de IA de alta velocidad

El reciente informe de Anthropic destaca una nueva y potente amenaza, una que confirma los temores que muchos en la comunidad de seguridad han tenido durante mucho tiempo, al mostrar cómo la IA puede acelerar y amplificar drásticamente el riesgo distribuido. Este avance otorga a los actores maliciosos una ventaja adicional, lo cual es exasperante considerando la ventaja que ya tienen sobre un personal de seguridad agotado y desbordado que gestiona la expansión tecnológica en la empresa promedio.

En esencia, los atacantes patrocinados por estados lograron "hacer jailbreak" al modelo Claude Code. Engañaron con éxito a la IA para que eludiera sus sofisticados protocolos de seguridad y ejecutara operaciones hostiles. Una vez comprometido, el agente de IA malintencionado, utilizando su acceso MCP, se infiltró rápidamente en varios sistemas y herramientas corporativas. Localizó y señaló bases de datos altamente sensibles dentro de las organizaciones objetivo en un plazo de tiempo que sería imposible incluso para los colectivos de hackers humanos más avanzados.

Esta brecha desencadenó una aterradora cascada de acciones: pruebas de vulnerabilidad exhaustivas, la generación automatizada de código malicioso e incluso la autodocumentación del ataque, incluyendo registros de escaneo del sistema y la Información de Identificación Personal (PII) que logró obtener.

Para los veteranos de la seguridad, este es un escenario de pesadilla real. ¿Cómo pueden los equipos humanos igualar la velocidad y la capacidad destructiva de un vector de ataque potenciado por este tipo de IA?

El endpoint de un desarrollador y este nuevo ecosistema de IA ofrecen nuevos vectores de ataque

Cada desarrollador prefiere su propio IDE, ya sea el clásico VSCode, IntelliJ o Eclipse de JetBrains, o los más nuevos Cline, Windsurf o Cursor, y la mayoría de ellos tienen mercados de aplicaciones que ofrecen extensiones para descargar e instalar. Estas extensiones rara vez se examinan en busca de actividad maliciosa, suelen enviarse con permisos excesivos y tienen acceso a un entorno aislado donde pueden acceder a archivos.

Estos entornos ahora están integrando capacidades de IA, agentes de IA y una gama de nuevas herramientas que estos agentes pueden usar (servidores MCP, por ejemplo). A menudo, todos ellos se publican a través de mercados donde cualquier desarrollador puede lanzar sus nuevas herramientas. Y sí, lo ha adivinado: estos servidores MCP a menudo pueden leer, escribir y ejecutar comandos en un sistema, todo a través de un entorno de IA que probablemente sea vulnerable a inyecciones de prompts. ¿Qué podría salir mal?

La necesidad innegociable de trazabilidad y observabilidad de las herramientas de IA

Es complejo y sencillo a la vez: si un CISO no tiene idea de qué desarrolladores están usando qué herramientas de IA, qué código se está enviando o qué repositorios están siendo aumentados por la colaboración humano-IA, entonces falta un conjunto de datos enorme y la observabilidad debería haber mejorado ayer mismo.

La rápida integración de asistentes de codificación de IA y servidores MCP, utilizados ahora por una gran mayoría de desarrolladores, ha creado un punto ciego de seguridad crítico dentro del SDLC. Los datos son alarmantes: hasta el 50% del código generado por LLM que es funcionalmente correcto contiene errores de seguridad; sin embargo, sin una observabilidad adecuada, los CISO y los equipos de AppSec carecen de información procesable sobre el volumen y las fuentes de este código de alto riesgo que se está introduciendo. Esta falta crítica de trazabilidad hace que la gobernanza eficaz de la IA, en forma de aplicación de políticas y mitigación de riesgos, sea funcionalmente imposible.

Para maximizar de forma segura las inmensas ganancias de productividad que ofrece la IA, las organizaciones deben exigir soluciones que proporcionen una visibilidad completa y profunda de la superficie de ataque de la IA. Secure Code Warrior tiene SCW Trust Agent: AI en versión beta cerrada con un número selecto de nuestros clientes. Esta capacidad proporciona una observabilidad profunda al monitorear activamente el tráfico de código generado por IA (incluidos los servidores MCP) en tiempo real en la máquina local del desarrollador, y el IDE lo rastrea a través de solicitudes de extracción y confirmaciones en repositorios de software reales. La trazabilidad de seguridad precisa solo se logra correlacionando tres señales vitales: la herramienta de codificación de IA y el modelo LLM específicos utilizados, el repositorio de código objetivo y, lo más importante, la competencia medida en codificación segura del desarrollador que contribuye.

Solo estableciendo esta cadena verificable de correlación puede una organización evaluar con precisión el riesgo de seguridad real que se está introduciendo, automatizar una aplicación de políticas sólida y garantizar que los desarrolladores habilitados por IA cumplan con los estándares obligatorios de codificación segura antes de que sus contribuciones eludan con éxito las barreras de protección existentes.

Ponte en contacto con nosotros si deseas obtener más información o ver una demostración de la gobernanza de IA avanzada en acción, o simplemente envíanos un mensaje para unirte al programa beta.