Transversal · Excelencia Operacional TI

Desarrollar con IA sin abrirle la puerta al atacante: tres riesgos que ya tienen CVE

Equipo de desarrollo revisando código en pantallas: seguridad en el desarrollo con IA frente a paquetes maliciosos, prompt injection y hooks
Seguridad en el desarrollo con IA — revisión de código en equipo

Hasta hace poco, el asistente de código sugería y una persona decidía. Hoy el agente instala dependencias, ejecuta comandos en la terminal, lee archivos de configuración y abre páginas web sin pedir permiso en cada paso. Ese cambio de rol es el que redefine la seguridad en el desarrollo con IA: el riesgo ya no está solo en el código que escribe el modelo, sino en todo lo que el agente puede hacer en la máquina del desarrollador.

La seguridad en el desarrollo con IA es el conjunto de controles que impiden que un asistente o agente de código instale paquetes maliciosos, obedezca instrucciones ocultas en contenido externo o ejecute comandos definidos por terceros. Los tres vectores con más evidencia pública son los paquetes alucinados, el prompt injection indirecto y los hooks maliciosos en la configuración del repositorio.

Este análisis parte del webinar Desarrollo inteligente, desarrollo seguro, que Oktalfort Cybersecurity realizó el 29 de septiembre de 2026, y lo contrasta con la investigación publicada.

DatoCifraFuente
Desarrolladores que usan o planean usar IA84%Stack Overflow Developer Survey 2025
Desarrolladores que desconfían de la precisión de la IA46%Stack Overflow Developer Survey 2025
Tareas en que el modelo introdujo una falla OWASP Top 1045%Veracode, GenAI Code Security Report 2025
Paquetes recomendados por LLM que no existen19,7%Spracklen et al., USENIX Security 2025
Fuga de secretos en commits asistidos por Claude Code vs. línea base3,2% vs. 1,5%GitGuardian, State of Secrets Sprawl 2026

¿Por qué el desarrollo con IA abre riesgos nuevos?

Porque el agente actúa con los permisos del desarrollador. Si puede correr npm install, leer el .env y abrir una terminal, cualquier cosa que logre influir en sus decisiones hereda esos mismos permisos.

La adopción ya es masiva. Según la encuesta de Stack Overflow 2025, el 84% de los desarrolladores usa o planea usar herramientas de IA, y el 51% de los profesionales las usa a diario. La confianza va en la dirección contraria: el 46% desconfía activamente de la precisión de lo que generan, frente a un 33% que confía.

La calidad del código tampoco resuelve el problema por sí sola. El informe de Veracode de 2025 dio 80 tareas de programación a más de 100 modelos. En el 45% de los casos, el modelo eligió la implementación insegura y dejó una vulnerabilidad del OWASP Top 10. Los modelos más nuevos y más grandes no salieron mejor parados.

OWASP ya ordenó este terreno. Su Top 10 para aplicaciones agénticas, publicado en diciembre de 2025, pone en primer lugar el secuestro de objetivos del agente (ASI01). La causa que identifica es estructural: los agentes no logran distinguir de forma confiable una instrucción legítima del contenido que están leyendo.

Riesgo 1: paquetes vulnerables y paquetes que no existen

Un modelo puede recomendar una dependencia con vulnerabilidades conocidas o, peor, inventar el nombre de un paquete que no existe. Si un atacante registra ese nombre en npm o PyPI, el siguiente install descarga su código.

El estudio de referencia es We Have a Package for You!, presentado en USENIX Security 2025. Los autores generaron 576.000 muestras de código con 16 modelos. De 2,23 millones de paquetes recomendados, el 19,7% no existía, con 205.474 nombres inventados distintos. Los modelos comerciales alucinaron en torno al 5,2%; los de código abierto, cerca del 21,7%.

Lo que vuelve explotable el fenómeno es que los nombres se repiten. Un atacante no necesita adivinar: le basta con registrar los nombres que los modelos inventan una y otra vez. A esa técnica se le llama slopsquatting.

La cadena de suministro ya mostró cómo se ve esto cuando sale mal. En agosto de 2025, versiones comprometidas del paquete Nx, con unos 4 millones de descargas semanales según StepSecurity, ejecutaron un script postinstall que buscaba credenciales. Según el análisis de Snyk, el script invocaba las CLI de Claude, Gemini y Amazon Q instaladas en la máquina con banderas que omiten las confirmaciones (--dangerously-skip-permissions, --yolo, --trust-all-tools). El atacante usó al propio asistente del desarrollador para inventariar llaves SSH, archivos .env y billeteras.

Riesgo 2: prompt injection indirecto

El prompt injection indirecto ocurre cuando el agente lee contenido preparado por un atacante, como un issue, una página web, un comentario en el código o la respuesta de una herramienta, y obedece las instrucciones escondidas ahí como si vinieran del usuario.

El caso más documentado es CVE-2025-53773, corregido por Microsoft en agosto de 2025. El investigador Johann Rehberger mostró que una instrucción oculta podía hacer que GitHub Copilot escribiera "chat.tools.autoApprove": true en .vscode/settings.json. Con esa línea, el agente deja de pedir confirmación y puede ejecutar comandos en la terminal. Funcionó en Windows, macOS y Linux.

En el webinar de Oktalfort, Jorge Rodríguez Mayorga, CEO de la empresa, y Josué Orantes, ingeniero de ciberseguridad, hicieron una demostración en vivo: cómo un atacante obtiene acceso remoto a un equipo combinando una instrucción indirecta con una configuración maliciosa. Ninguno de los dos pasos exigió que el desarrollador hiciera algo fuera de lo normal. El atacante solo necesitaba que el agente leyera el contenido correcto.

Riesgo 3: hooks y archivos de configuración del repositorio

Los hooks son comandos que la herramienta ejecuta automáticamente en ciertos momentos, por ejemplo al iniciar una sesión o después de editar un archivo. Cuando se definen en un archivo que vive dentro del repositorio, cualquiera con permiso de commit puede decidir qué se ejecuta en la máquina de cada persona que clone el proyecto.

Check Point Research documentó exactamente ese escenario en Claude Code (CVE-2025-59536). Un hook definido en .claude/settings.json se ejecutaba al abrir el proyecto, sin una confirmación adicional después del diálogo de confianza. Anthropic lo corrigió en la versión 1.0.111. Después aparecieron variantes para saltarse ese mismo diálogo, publicadas como avisos de seguridad del repositorio de Claude Code y corregidas en las versiones 2.1.53 y 2.1.84.

El patrón no es exclusivo de una herramienta. settings.json, tasks.json, .mcp.json y los archivos de reglas del agente son superficies de ejecución. Si un pull request los modifica, merece la misma revisión que un cambio en el pipeline de despliegue.

¿Qué pasa con los secretos?

Los agentes necesitan credenciales para conectarse a otros sistemas, y esas credenciales terminan en lugares que los escáneres de repositorio no revisan.

El informe State of Secrets Sprawl 2026 de GitGuardian encontró una tasa de fuga de secretos del 3,2% en commits públicos asistidos por Claude Code, el doble de la línea base del 1,5%. También detectó 24.008 secretos únicos en archivos de configuración MCP públicos. GitGuardian aclara que la cifra no atribuye la causa solo a la herramienta: refleja también a personas sin formación en seguridad que hoy programan gracias a la IA.

¿Cómo se protege el ciclo de desarrollo con IA?

Ningún control aislado alcanza. La combinación que aparece en las recomendaciones de OWASP, en los avisos de los fabricantes y en el webinar de Oktalfort tiene seis piezas:

  1. Validar cada dependencia antes de instalarla. Comprobar que el paquete existe, quién lo publica, su antigüedad y sus vulnerabilidades conocidas. Bloquear instalaciones que no pasen la revisión.
  2. Tratar todo contenido externo como no confiable. Issues, documentación, páginas web y respuestas de herramientas pueden traer instrucciones. El agente no debería poder actuar sobre ellas sin un punto de control.
  3. Revisar la configuración del agente como código. Proteger con revisión obligatoria los cambios en .vscode/, .claude/, .cursor/ y los archivos MCP. No abrir con un agente un repositorio desconocido sin revisar antes esos archivos.
  4. Aplicar mínimo privilegio. Desactivar los modos de aprobación automática en equipos corporativos y limitar qué carpetas, comandos y redes puede tocar el agente.
  5. Sacar los secretos del alcance del agente. Usar gestores de secretos en vez de .env legibles y bloquear el acceso del agente a archivos sensibles.
  6. Mantener trazabilidad. Registrar qué ejecutó cada agente, con qué permisos y en nombre de quién. Sin registro, el incidente solo se descubre cuando ya pasó.

Oktalfort presentó en el webinar su respuesta a este problema: Atalaim Shield, un módulo que se interpone entre el agente de IA y la máquina del desarrollador. Según la empresa, intercepta los comandos antes de que se ejecuten, bloquea paquetes vulnerables antes de la instalación, impide el acceso del agente a archivos .env y carpetas confidenciales, y entrega un tablero con trazabilidad y nivel de riesgo por contribuidor. En la misma sesión, Freddy Reyes, cliente de Oktalfort, contó cómo la plataforma mejoró la visibilidad y la seguridad en su organización.

Lo que le toca decidir a la gerencia de TI

Para un CIO o un gerente de desarrollo, la adopción ya ocurrió: según los datos, su equipo casi seguro usa IA, con o sin política. Lo que falta decidir es qué puede hacer el agente sin preguntar, quién define esa lista y cómo se audita.

Esa es una decisión de gobierno de TI, igual que elegir dónde corre el código o definir quién aprueba un despliegue. Las organizaciones que la toman temprano adoptan IA más rápido, porque no tienen que frenar después de un incidente. En Excelencia Operacional TI trabajamos ese marco con equipos de tecnología: permisos, responsables y métricas para que la velocidad de la IA no se pague con exposición.

SKALLING y Oktalfort Cybersecurity tienen un acuerdo de colaboración. Las cifras de este artículo provienen de las fuentes enlazadas; las afirmaciones sobre Atalaim Shield son de Oktalfort.

Preguntas frecuentes sobre seguridad en el desarrollo con IA

¿Qué es el slopsquatting?

Es un ataque a la cadena de suministro que aprovecha los nombres de paquetes que los modelos de IA inventan. El atacante registra esos nombres en npm o PyPI con código malicioso y espera que un desarrollador o un agente los instale siguiendo la recomendación del modelo.

¿Qué es el prompt injection indirecto en un asistente de código?

Es cuando el agente lee contenido preparado por un atacante, como un issue, una página o un comentario, y ejecuta las instrucciones ocultas en él. En CVE-2025-53773, una instrucción así activaba la aprobación automática de GitHub Copilot y permitía ejecutar comandos en la máquina.

¿Por qué los hooks de un agente de IA son un riesgo?

Porque ejecutan comandos automáticamente y pueden definirse en archivos del propio repositorio. Quien controla un commit puede decidir qué corre en la máquina de cada colaborador. Check Point lo demostró en Claude Code con CVE-2025-59536, ya corregido.

¿El código generado por IA es inseguro?

No siempre, pero falla seguido cuando nadie se lo exige. En el estudio de Veracode de 2025, los modelos eligieron la implementación insegura en el 45% de las tareas, y los modelos más nuevos no mejoraron de forma significativa.

¿Qué es Atalaim Shield?

Es un módulo de Oktalfort Cybersecurity que protege el desarrollo con IA interceptando comandos antes de su ejecución, bloqueando paquetes vulnerables antes de instalarlos e impidiendo que el agente acceda a secretos. Incluye un tablero con trazabilidad y riesgo por contribuidor.

Hablemos 30 min