O que exige a Cláusula 6
A Cláusula 6 é onde a ISO 42001 se diferencia de qualquer outra norma de gestão: ela introduz dois processos exclusivos de IA — a avaliação de risco de IA (6.1.1) e a avaliação de impacto de IA (6.1.2). Essas duas avaliações não existem na ISO 27001 e são o maior desafio de implementação para a maioria das organizações.
6.1 Ações para tratar riscos e oportunidades
A organização deve determinar os riscos e oportunidades que precisam ser tratados para garantir que o SGAI possa atingir seus resultados pretendidos, evitar ou reduzir efeitos indesejados e alcançar a melhoria contínua.
6.1.1 Avaliação de risco de IA
A norma exige um processo formal de avaliação de risco aplicado a cada sistema de IA no escopo. Este processo deve:
- Identificar riscos específicos de IA — não apenas riscos tecnológicos genéricos
- Analisar probabilidade e impacto de cada risco
- Avaliar o nível de risco atual e determinar se é aceitável
- Definir opções de tratamento (aceitar, mitigar, transferir, eliminar)
- Registrar decisões e evidências do processo
Riscos específicos de IA que a norma contempla:
- Viés algorítmico — decisões que discriminam grupos com base em raça, gênero, idade ou outras características protegidas
- Falta de transparência — modelos de "caixa-preta" que não permitem explicar decisões a pessoas afetadas
- Deriva de modelo (drift) — degradação de desempenho ao longo do tempo por mudanças na distribuição dos dados
- Ataques adversariais — manipulação deliberada de inputs para induzir decisões incorretas
- Qualidade e viés nos dados de treino — dados históricos que perpetuam discriminações passadas
- Dependência excessiva de fornecedores — risco de um fornecedor de IA alterar ou descontinuar o serviço
- Uso indevido pelo usuário — sistema de IA usado para fins não previstos ou prejudiciais
Documentação exigida: Registro de avaliação de risco para cada sistema de IA em escopo, com metodologia documentada.
6.1.2 Avaliação de impacto de sistemas de IA
Este é o requisito mais inovador da ISO 42001. A avaliação de impacto vai além do risco técnico — analisa os efeitos sobre pessoas e grupos afetados pelas decisões do sistema de IA.
O que diferencia avaliação de impacto de avaliação de risco:
- Risco (6.1.1) foca na organização — o que pode dar errado para o SGAI
- Impacto (6.1.2) foca nas pessoas afetadas — o que pode dar errado para indivíduos e grupos
Elementos de uma avaliação de impacto de IA:
- Identificação de todos os grupos afetados pelo sistema (usuários, não-usuários, grupos vulneráveis)
- Descrição de como o sistema toma decisões e quais variáveis usa
- Análise de impacto potencial em direitos fundamentais (privacidade, não-discriminação, autonomia)
- Verificação de requisitos de transparência e explicabilidade para pessoas afetadas
- Medidas de mitigação para impactos negativos identificados
- Mecanismo de revisão humana das decisões (especialmente exigido pela LGPD Art. 20)
Quando refazer a avaliação de impacto:
- Quando o sistema de IA sofre atualização significativa (novo modelo, novas features)
- Quando os dados de treino são substituídos ou expandidos
- Quando o sistema passa a ser usado em novo contexto ou público
- Periodicamente (ao menos anual) mesmo sem mudanças
6.2 Objetivos de IA e planejamento
A organização deve estabelecer objetivos para o SGAI em funções e níveis relevantes. Os objetivos devem ser: mensuráveis; consistentes com a política de IA; monitorados e comunicados; atualizados conforme apropriado.
Exemplos de objetivos bem formulados:
- "Reduzir o índice de viés de gênero no modelo de crédito em 30% até dezembro/2026, medido por paridade de aprovação entre homens e mulheres com mesmo perfil de risco"
- "Implementar mecanismo de explicabilidade para 100% das decisões de IA com impacto direto sobre clientes pessoas físicas até junho/2026"
- "Concluir avaliação de impacto de todos os sistemas de IA em produção até setembro/2026"
O que não é objetivo: "Usar IA de forma responsável" — não é mensurável.
6.3 Planejamento de mudanças
Quando a organização determinar a necessidade de mudanças no SGAI, essas mudanças devem ser realizadas de forma planejada, considerando: propósito e potenciais consequências; integridade do SGAI; disponibilidade de recursos; alocação e realocação de responsabilidades.
Inclui mudanças em sistemas de IA existentes, adição de novos sistemas ao escopo e mudanças organizacionais que afetem o SGAI.
O que o auditor vai verificar (Cláusula 6)
Perguntas frequentes do auditor
"Mostre-me a avaliação de risco do sistema X. Quais riscos específicos de IA foram identificados?"
O auditor vai comparar a lista de riscos com os riscos típicos de IA — se não houver menção a viés, drift ou transparência, há problema.
"Para este sistema que toma decisões sobre clientes, vocês fizeram avaliação de impacto? Posso ver?"
Sistemas de IA com impacto direto sobre pessoas físicas sem avaliação de impacto são não conformidade crítica.
"Como os objetivos de IA são medidos? Quem é responsável?"
Objetivos sem métrica e sem responsável são apenas intenções.
Erros mais comuns
- Reaproveitamento da avaliação de risco da ISO 27001 — adaptar o processo de risco de segurança da informação para IA sem incluir riscos específicos de IA (viés, drift, opacidade)
- Pular a avaliação de impacto — tratar a subcláusula 6.1.2 como opcional (não é — é exigência de auditoria)
- Objetivos vagos — "melhorar a governança de IA" sem métrica não é objetivo
- Avaliações únicas sem revisão — fazer avaliação de risco e impacto uma vez na implementação e nunca revisar