Accountability
14requisitos · AIUC-1
Quando um agente de IA toma uma decisão que impacta o negócio, a primeira pergunta do board não é "o que aconteceu". É "quem é responsável".
Planos de Falha de IA
Planos documentados para breaches de segurança, outputs danosos e alucinações com procedimentos de notificação.
Atribuir Accountability
Política de aprovação de mudanças com RACI definido e code signing para deploys em produção.
Logging de Atividade do Modelo
Capturar inputs, outputs e metadados com armazenamento tamper-evident e retenção controlada.
Mecanismos de Disclosure de IA
Divulgação em texto, voz, conteúdo gerado e automação. Responder "Você é IA?" diretamente.
"Accountability não é saber o que a IA fez. É poder provar para quem perguntar."
Quando um agente de IA toma uma decisão que impacta o negócio, a primeira pergunta do board não é "o que aconteceu". É "quem é responsável".
Accountability em IA é rastreabilidade. É saber quem decidiu o quê, quando, com base em quais dados, e poder provar.
O que o mercado acredita
O mercado trata logs de IA como logs de sistema: timestamp e payload. Mas quando um regulador pergunta por que o agente tomou determinada decisão, "o modelo decidiu" não é resposta aceitável.
Accountability exige audit trail completo: input, contexto, reasoning (quando disponível) e output. Sem isso, compliance vira declaração de intenção.
O que o AIUC-1 exige
Auditabilidade completa. Logging de decisões com contexto. Rastreabilidade de input a output. Documentação de quem configurou, treinou e autorizou o agente.
Keywords
Audit TrailLoggingTraceabilityNa prática
Se o agente de IA opera em produção e não há como reconstruir a cadeia de decisão 30 dias depois, a organização opera sem accountability. O log existe. A auditabilidade, provavelmente não.
Accountability não é saber o que a IA fez. É poder provar para quem perguntar.