Checklist de governança de IA para empresas

Responsável pelo modelo em produção definido — Para cada modelo de IA em produção, existe uma pessoa responsável pelo desempenho, atualização e eventual descontinuação.

Responsável pelos dados de treinamento identificado — Há uma pessoa responsável pela qualidade, atualização e retenção dos dados usados para treinar cada modelo.

Processo de aprovação para novos modelos em produção — Existe um processo definido de quem aprova e o que é verificado antes de um modelo novo entrar em produção.

Sponsor executivo para cada iniciativa de IA — Cada iniciativa de IA tem um sponsor de negócio (nível de diretoria ou acima) comprometido com o resultado.

Política de uso de dados para IA documentada — Existe uma política que define quais dados podem ser usados para treinar modelos de IA e quais restrições se aplicam (especialmente dados pessoais).

Conformidade com LGPD verificada para dados de treinamento — Os dados usados para treinar modelos passaram por avaliação de conformidade com a LGPD, incluindo base legal de tratamento.

Período de retenção dos dados de treinamento definido — Existe uma política de por quanto tempo os dados de treinamento são mantidos e qual é o processo para descarte.

Controles de acesso aos dados de treinamento implementados — Apenas as pessoas autorizadas têm acesso aos dados sensíveis usados para treinar modelos.

KPIs de performance de cada modelo definidos e monitorados — Cada modelo em produção tem métricas de performance que são acompanhadas com frequência definida.

Alertas de degradação de performance configurados — Existe um mecanismo para alertar o time quando a performance de um modelo cai abaixo do limiar aceitável (model drift).

Processo de retreinamento e versionamento documentado — Está documentado quando e como um modelo é retreinado, com versionamento para permitir rollback.

Avaliação de viés realizada para modelos de decisão — Modelos que influenciam decisões sobre pessoas (crédito, contratação, preços diferenciados) passaram por avaliação de viés algorítmico.

Plano de contingência para falha do modelo definido — Existe um processo manual de backup para o caso de o modelo falhar ou ser desativado temporariamente.

Registro de incidentes com modelos de IA mantido — Incidentes envolvendo modelos de IA (erros sistemáticos, falhas, outputs inadequados) são documentados e revisados.

Política de uso de ferramentas de IA pelo time comunicada — Existe uma política clara sobre o que o time pode e não pode fazer com ferramentas de IA generativa (ChatGPT, Copilot, etc.) em contexto profissional.

Canal para relatar problemas com sistemas de IA existente — O time tem um canal para reportar quando um output de IA parece incorreto, prejudicial ou inadequado.

Treinamento básico sobre uso responsável de IA realizado — O time que opera os sistemas de IA passou por treinamento mínimo sobre como interpretar e usar os outputs de forma responsável.