IA y Ciberseguridad

Qué aprenderás

• Riesgos de los modelos LLM en producción
• Prevención de Prompt Injection
• Protección de credenciales como una API Key
• Validación de respuestas con evidencia

Perfil al terminar: Especialista en seguridad de modelos LLM

Temario por módulos

1. 1

   Vulnerabilidades Adversariales y Prompt Injection

   Principiante30 min3 lecciones4 actividades

   Conoce cómo se manipula el contexto de un modelo de lenguaje y cómo funcionan las inyecciones de instrucciones directas e indirectas.

   Objetivos

   • Explicar por qué los LLM son vulnerables a la inyección de instrucciones.
   • Diferenciar la inyección directa de la indirecta.
   • Aplicar defensas en capas para agentes con herramientas.

   Lecciones

   1. Prompt injection en modelos de lenguaje
   2. Seguir el rastro de una inyección
   3. Defensa en capas para agentes

   Incluye: simulación en vivo.

2. 2

   Protección de Secretos y API Keys en Flujos de IA

   Principiante35 min3 lecciones4 actividades

   Evita la fuga de credenciales en los prompts y aplica buenas prácticas para almacenar y rotar claves de API.

   Objetivos

   • Identificar dónde se filtran secretos en un flujo con IA.
   • Aplicar escaneo y enmascarado antes de enviar datos a un proveedor.
   • Usar tokens de mínimo privilegio y rotación periódica.

   Lecciones

   1. Higiene de secretos en flujos de IA
   2. Reconocer una credencial
   3. Mínimo privilegio y rotación

   Incluye: simulación en vivo.

3. 3

   Verificación de Evidencia y Mitigación de Alucinaciones

   Intermedio40 min3 lecciones4 actividades

   Evalúa críticamente las conclusiones de los asistentes de ciberseguridad y exige evidencia antes de actuar.

   Objetivos

   • Entender por qué un LLM puede afirmar algo falso con total seguridad.
   • Aplicar el principio de doble evidencia.
   • Mantener al analista humano como responsable de la decisión.

   Lecciones

   1. Alucinaciones y verificación de evidencia
   2. El principio de doble evidencia
   3. Responsabilidad humana

   Incluye: simulación en vivo.

4. 4

   Seguridad de Datos y Privacidad en IA

   Intermedio35 min3 lecciones4 actividades

   Protege los datos personales y de entrenamiento en los flujos de IA: minimización, envenenamiento de datos y control de acceso en un RAG.

   Objetivos

   • Aplicar la minimización de datos y proteger la PII en los prompts.
   • Reconocer el envenenamiento de datos de entrenamiento.
   • Controlar el acceso a una base de conocimiento vectorial (RAG).

   Lecciones

   1. Minimización y PII en los prompts
   2. Envenenamiento de datos
   3. Control de acceso en un RAG

   Incluye: simulación en vivo.

5. 5

   Defensa de Agentes y Gobernanza de IA

   Avanzado40 min3 lecciones4 actividades

   Asegura agentes con herramientas aplicando mínimo privilegio, confirmación humana, monitorización y el OWASP Top 10 para LLM.

   Objetivos

   • Dar a un agente el mínimo privilegio y confirmación humana en lo sensible.
   • Mapear incidentes al OWASP Top 10 para aplicaciones con LLM.
   • Monitorizar y gobernar el comportamiento de un agente.

   Lecciones

   1. Mínimo privilegio y exceso de agencia
   2. Confirmación humana y monitorización
   3. El OWASP Top 10 para LLM

   Incluye: simulación en vivo.

6. 6

   Certificación: Especialista en Seguridad de IA

   Certificación25 min1 lecciones2 actividades

   Demuestra lo aprendido en dos partes: una simulación de incidente de IA completo, de la inyección a la contención, y una evaluación final de casos prácticos de toda la ruta.

   Objetivos

   • Llevar un incidente de IA de la señal a la contención protegiendo datos y secretos.
   • Resolver casos prácticos de toda la ruta con al menos un 75% de aciertos.

   Lecciones

   1. Instrucciones de la certificación