Governança corporativa de IA: quem responde pelos erros?

Segundo a Exame, uma resposta errada de inteligência artificial deixou de ser um problema técnico para se tornar uma questão de responsabilidade jurídica e reputacional. Quando um sistema automatizado influencia uma análise de crédito, um chatbot informa uma regra incorreta ou uma ferramenta sugere um caminho equivocado, a pergunta que importa não é mais técnica: é quem responde por isso.

O caso da Air Canada, em 2024, ilustra bem o tamanho do risco. A companhia foi responsabilizada após seu chatbot fornecer informação errada sobre tarifa de luto a um passageiro. A defesa tentou argumentar que o chatbot era uma entidade separada da empresa. O tribunal rejeitou a tese, entendendo que a companhia respondia pelas informações publicadas em seu próprio canal.

Isso muda tudo para quem está implementando IA hoje.

Governança de IA: a cadeia de responsabilidade

Especialistas em governança identificam pelo menos cinco atores no ciclo de uma solução de IA: quem desenvolve o modelo, quem adapta a ferramenta, quem fornece os dados, quem coloca o sistema em operação e quem decide confiar no resultado. A Coalition for Secure AI propõe dividir essa responsabilidade em camadas:

• Provedor do modelo: documentar riscos conhecidos, limitações, dados de treinamento e vulnerabilidades
• Plataforma de hospedagem: garantir segurança, controle de acessos e infraestrutura
• Empresa que implementa: definir regras de uso, controles internos, validação das respostas e supervisão humana

O ponto que costuma escapar nas implementações apressadas é a distinção entre falha do modelo e falha de governança. Modelos generativos produzem respostas incorretas, enviesadas ou difíceis de auditar. Isso é risco inerente à tecnologia. Mas quando uma empresa decide colocar esse sistema diante de clientes ou funcionários sem definir limites claros, revisar respostas e monitorar o uso, ela assume a falha como sua, independentemente de quem desenvolveu o modelo.

O que CEOs e CFOs precisam entender agora

A pergunta correta não é "nossa IA funciona?". É "quem, na nossa estrutura, monitora o que ela entrega e responde quando ela erra?"

Empresas que tratam a implementação de IA apenas como projeto de TI estão criando passivos que ainda não conseguem mensurar: risco regulatório, exposição jurídica e dano reputacional. Três perguntas que todo board deveria fazer antes de escalar qualquer solução de IA:

1. Existe supervisão humana definida para as decisões que a IA influencia?
2. Há documentação dos limites e limitações conhecidas do modelo em uso?
3. Quando a IA errar, o processo de resposta já está mapeado?

Na minha leitura, o mercado brasileiro ainda subestima esse risco porque a maioria das implementações está na fase de piloto ou uso interno. Quando essas soluções escalarem para processos que afetam clientes, parceiros e reguladores, a ausência de governança vai aparecer na forma de incidentes, não de alertas. O caso Air Canada não foi exceção: foi um ensaio do que está por vir para empresas que implementam IA sem definir responsabilidades antes de ligar o sistema.

A boa notícia é que o problema tem solução estrutural. Governança de IA não exige burocracia pesada, exige clareza: sobre quem decide, quem monitora e quem responde. Empresas que resolverem isso agora vão escalar com muito menos atrito do que as que esperarem o primeiro incidente para começar a pensar no assunto.