Hack, Test, Ship: DevSecOps for AI Security

Los sistemas basados en LLMs y agentes de inteligencia artificial están llegando rápidamente a producción, pero muchas organizaciones siguen evaluando su seguridad únicamente después del despliegue.

En este workshop práctico los participantes aprenderán cómo incorporar pruebas de seguridad para aplicaciones LLM y agentes de IA dentro de un flujo DevSecOps. Partiremos de una aplicación vulnerable y exploraremos ataques como prompt injection, manipulación de contexto, abuso de herramientas, exposición de información y comportamiento inseguro del agente.

Cada vulnerabilidad será transformada en una prueba de seguridad reproducible que pueda integrarse dentro del ciclo de desarrollo. Finalmente, construiremos un pequeño pipeline de AI Security Testing capaz de ejecutar evaluaciones automáticamente y bloquear cambios cuando aparezcan regresiones de seguridad.

El objetivo es pasar de atacar sistemas de IA manualmente a convertir esos ataques en controles continuos de seguridad.

Dictado por: Christian Urcuqui - CyberAI Researcher