O que exige a Cláusula 8
A Cláusula 8 é onde o SGAI se torna concreto. Se as cláusulas anteriores definem o sistema de gestão (política, riscos, documentação), a Cláusula 8 define como os sistemas de IA devem ser governados na prática — do design ao descomissionamento. É a cláusula com maior número de subcláusulas e maior densidade de requisitos técnicos.
8.1 Planejamento e controle operacional
A organização deve planejar, implementar, controlar, monitorar e revisar os processos necessários para atender aos requisitos do SGAI. Deve garantir que os processos sejam implementados conforme planejado e deve reter informação documentada suficiente.
Controles operacionais incluem: inventário atualizado de sistemas de IA; processos de aprovação para novos sistemas; controles de mudança para sistemas existentes; monitoramento contínuo de desempenho e conformidade.
O que o auditor verifica: Existe um inventário vivo de sistemas de IA? Há processo formal de aprovação antes de um novo sistema entrar em produção? Quem aprova e com qual critério?
8.2 Avaliação de impacto de sistemas de IA
Antes de implantar um sistema de IA que possa afetar pessoas, a organização deve realizar e documentar uma avaliação de impacto. Isso não é opcional — é pré-requisito para a implantação.
Etapas da avaliação de impacto operacional:
- Descrição do propósito e funcionamento do sistema de IA
- Identificação dos grupos afetados (usuários diretos, sujeitos de decisão, grupos vulneráveis)
- Análise do impacto potencial em autonomia, privacidade, não-discriminação e outros direitos
- Nível de autonomia do sistema (totalmente automatizado vs. assistência humana)
- Medidas de mitigação para impactos negativos identificados
- Mecanismo de revisão humana quando aplicável (obrigatório para decisões significativas — LGPD Art. 20)
Quando refazer: mudança de propósito, novo público, atualização significativa do modelo, nova jurisdição. A avaliação de impacto não é documento único — é processo recorrente.
8.3 Objetivos para sistemas de IA específicos
Para cada sistema de IA com impacto significativo, devem ser definidos objetivos específicos de desempenho — não apenas objetivos gerais do SGAI. Esses objetivos devem ser: documentados; mensuráveis; vinculados ao sistema específico; revisados periodicamente.
Exemplos: taxa máxima de falsos positivos tolerada; diferença máxima de desempenho entre grupos demográficos; tempo máximo para resposta a incidentes envolvendo o sistema.
Ponto de atenção: objetivos vagos ("o modelo deve ser preciso") não atendem ao requisito. A norma exige métricas mensuráveis com limites definidos antes da implantação.
8.4 Ciclo de vida de sistemas de IA
Este é o requisito mais técnico da norma. A organização deve ter processos definidos para cada fase do ciclo de vida dos sistemas de IA.
- Definição do propósito, escopo e público do sistema
- Identificação de requisitos de dados (volume, qualidade, representatividade)
- Avaliação preliminar de risco e impacto antes de iniciar o desenvolvimento
- Definição de critérios de sucesso e métricas de desempenho
- Governança dos dados de treinamento — origem, qualidade, representatividade, viés
- Documentação do processo de treinamento (hiperparâmetros, versão dos dados, infraestrutura)
- Testes de viés e equidade durante o desenvolvimento
- Controle de versão de modelos e datasets
- Testes em dados separados (não usados no treinamento)
- Avaliação de desempenho por grupos demográficos relevantes
- Testes de robustez (comportamento com dados atípicos ou adversariais)
- Validação funcional — o sistema faz o que foi projetado para fazer?
- Aprovação formal antes da implantação em produção
- Processo de aprovação com revisão de risco atualizada
- Documentação do modelo em produção (model card)
- Configuração de monitoramento e alertas
- Treinamento para usuários e operadores
- Monitoramento contínuo de desempenho vs. métricas definidas
- Detecção de deriva de modelo (data drift, concept drift)
- Logs de decisões com integridade garantida (não editáveis)
- Processo de tratamento de reclamações e contestações
- Revisões periódicas de adequação ao propósito
- Processo formal de retirada do sistema de produção
- Comunicação para partes afetadas
- Tratamento dos dados usados pelo sistema (retenção, exclusão)
- Documentação do encerramento
Ponto crítico: a norma não exige que você desenvolva seus próprios modelos para ter ciclo de vida documentado. Se você usa modelo de terceiro, as fases de implantação, operação e descomissionamento ainda se aplicam integralmente.
8.5 Informação documentada de sistemas de IA
Para cada sistema no escopo, a organização deve manter documentação que inclua no mínimo: propósito e uso pretendido; dados de treinamento e suas características; desempenho observado e esperado; limitações conhecidas; controles implementados; responsável pelo sistema.
Este conjunto de informações é frequentemente chamado de model card — um documento padronizado de descrição do modelo. O model card não é apenas boa prática: dentro do escopo da ISO 42001, é evidência obrigatória.
Formato: a norma não prescreve formato específico. O model card pode ser documento Word, planilha ou página de wiki interna — o que importa é o conteúdo mínimo e o controle de versão.
8.6 Relacionamento com partes relacionadas ao SGAI
Inclui fornecedores de IA, clientes que usam sistemas de IA desenvolvidos pela organização e outras partes com responsabilidade compartilhada.
Para fornecedores de IA (APIs, modelos de terceiros, plataformas):
- Avaliação de risco do fornecedor antes da contratação
- Requisitos contratuais: rastreabilidade, transparência, notificação de mudanças significativas
- Monitoramento contínuo do desempenho e comportamento do sistema fornecido
- Plano de contingência para saída ou falha do fornecedor
Risco crítico — dependência de fornecedor: usar modelo de IA de terceiro como "caixa-preta" sem entender suas características, limitações e como mudanças no modelo afetam seu sistema. Se o fornecedor atualizar silenciosamente o modelo, você precisa detectar e avaliar o impacto antes que o auditor pergunte.
O que o auditor vai verificar (Cláusula 8)
Perguntas frequentes do auditor
"Me mostre o model card do sistema de IA mais crítico de vocês."
Model card é evidência central. Sem ele, a Cláusula 8 provavelmente não passa. O auditor quer ver propósito, dados de treinamento, métricas de desempenho, limitações conhecidas e responsável documentados.
"Como vocês detectam quando um modelo começa a degradar em produção?"
O auditor quer ver monitoramento real, não declaração de intenção. Logs, dashboards e alertas configurados. Mostrar capturas de tela de ferramentas de observabilidade tem mais peso do que descrever o processo.
"Qual é o processo para contestar uma decisão automatizada?"
Exigido pela LGPD e pressuposto pela norma. Sem processo documentado e funcional — com canal de recebimento, prazo de resposta e responsável definido — há não conformidade.
"Se o fornecedor de IA que vocês usam mudar o modelo amanhã, como vocês sabem e o que fazem?"
Gestão de mudanças de fornecedores é ponto crítico. A resposta esperada inclui: canal de notificação contratualmente garantido, processo de avaliação de impacto da mudança e critério para decidir se re-validação é necessária.
Erros mais comuns
- Shadow AI — sistemas de IA usados pela equipe sem cadastro no inventário e fora do escopo do SGAI
- Logs sem integridade — arquivos de log que podem ser editados ou deletados não servem como evidência auditável
- Model cards ausentes — sistemas em produção sem documentação mínima de características e limitações
- Fornecedores não gerenciados — usar APIs de IA de terceiros sem avaliação de risco ou cláusulas contratuais adequadas
- Ciclo de vida sem governança de dados — desenvolver modelos sem rastrear origem, versão e qualidade dos dados de treinamento