Lesson 04 — Riesgos, gobernanza y qué preguntar a IT

Duración: 14 min · Prereq: Lesson 03

Objetivo

Salir con el mínimo indispensable de gobernanza que tenés que exigir antes de dejar que un agente toque un proceso productivo. Y las 5 preguntas que tenés que llevar a tu comité de riesgo.

Video

🎥 Video en producción — próximamente.

Los 4 riesgos que sí importan

1. Hallucination — el agente inventa datos. Mitigación: obligá al agente a citar la fuente de cada afirmación crítica.
2. Data leakage — información sensible se filtra al modelo externo. Mitigación: aclarar contratos, usar modelos privados si corresponde.
3. Prompt injection — un usuario malicioso manipula al agente. Mitigación: aislamiento, allowlists de acciones, revisión humana en operaciones destructivas.
4. Automation bias — tu equipo empieza a confiar ciegamente. Mitigación: reviews aleatorios, métricas de discrepancia, formación continua.

El mínimo de gobernanza

Antes de aprobar un agente en producción, exigí:

• [ ] Trazabilidad completa — logs de cada acción, con timestamp, prompt, respuesta y decisión.
• [ ] Kill switch — un comando que apaga el agente sin destruir el estado.
• [ ] Métrica de desempeño — cuántas tareas completa, con qué tasa de error, actualizada semanalmente.
• [ ] Review humano — porcentaje mínimo de tareas revisadas manualmente (empezá en 20%).
• [ ] Responsable único — nombre y apellido de quién responde si el agente causa un incidente.

5 preguntas para el comité de riesgo

1. ¿Qué proceso automatiza y cuál es el peor caso si falla?
2. ¿Quién es el responsable operativo y quién el técnico?
3. ¿Cómo detectamos y respondemos ante un incidente?
4. ¿Cuál es el plan de rollback si tenemos que apagarlo mañana?
5. ¿Qué obligaciones regulatorias aplican (privacidad, financieras, salud)?

Checkpoint

Marcá cada item cuando tengas evidencia. Se persiste en tu navegador (localStorage). No avanzás a la próxima lección hasta que estén todos verdes.