Accountability
14requisitos · AIUC-1
Cuando un agente de IA toma una decisión que impacta el negocio, la primera pregunta del directorio no es "qué pasó". Es "quién es responsable".
Planes de Falla de IA
Planes documentados para brechas de seguridad, outputs dañinos y alucinaciones con procedimientos de notificación.
Asignar Accountability
Politica de aprobación de cambios con RACI definido y code signing para deploys en producción.
Logging de Actividad del Modelo
Capturar inputs, outputs y metadatos con almacenamiento tamper-evident y retención controlada.
Mecanismos de Disclosure de IA
Divulgación en texto, voz, contenido generado y automatización. Responder "¿Eres IA?" directamente.
"Accountability no es saber lo que la IA hizo. Es poder demostrarlo a quien pregunte."
Cuando un agente de IA toma una decisión que impacta el negocio, la primera pregunta del directorio no es "qué pasó". Es "quién es responsable".
Accountability en IA es trazabilidad. Es saber quién decidió qué, cuándo, con base en qué datos, y poder demostrarlo.
Lo que el mercado cree
El mercado trata los logs de IA como logs de sistema: timestamp y payload. Pero cuando un regulador pregunta por qué el agente tomó determinada decisión, "el modelo decidió" no es una respuesta aceptable.
Accountability exige un audit trail completo: input, contexto, reasoning (cuando esté disponible) y output. Sin eso, compliance se convierte en una declaración de intención.
Lo que AIUC-1 exige
Auditabilidad completa. Logging de decisiones con contexto. Trazabilidad de input a output. Documentación de quién configuró, entrenó y autorizó al agente.
Keywords
Audit TrailLoggingTraceabilityEn la práctica
Si el agente de IA opera en producción y no hay forma de reconstruir la cadena de decisión 30 dias después, la organización opera sin accountability. El log existe. La auditabilidad, probablemente no.
Accountability no es saber lo que la IA hizo. Es poder demostrarlo a quien pregunte.