Glossário — ISO 42001
Vocabulário de governança de IA, ISO 42001 e regulação algorítmica.
ISO/IEC 42001
Norma internacional publicada em dezembro de 2023 que define requisitos para sistema de gestão de IA (AIMS). Primeira norma certificável de governança de IA.
AIMS (AI Management System)
Sistema de gestão de IA — estrutura organizacional, processos e controles para gerenciar riscos e oportunidades de sistemas de inteligência artificial.
AI Act (Regulamento de IA da UE)
Regulamento europeu publicado em 2024 que classifica sistemas de IA por risco e impõe obrigações. Inspira o PL 2338/2023 no Brasil.
AIA (Algorithmic Impact Assessment)
Avaliação de impacto algorítmico — documento que mapeia riscos do sistema de IA, base legal, titulares afetados, mitigações e plano de monitoramento.
Modelo de fundação
Modelo de IA pré-treinado em grande volume de dados, capaz de ser adaptado a múltiplas tarefas. GPT-4, Claude e Gemini são exemplos.
MLOps
Conjunto de práticas e ferramentas para operar modelos de ML em produção: deployment, monitoramento, retreino, versionamento. Equivalente do DevOps para ML.
Drift
Degradação do desempenho do modelo de IA com o tempo, causada por mudança na distribuição dos dados de entrada. Monitoramento de drift é controle obrigatório.
Fairness (equidade algorítmica)
Propriedade do sistema de IA de produzir outcomes equilibrados entre grupos demográficos protegidos. Métrica obrigatória em sistemas de alto risco.
Viés (bias)
Desvio sistemático nas decisões do modelo de IA, frequentemente herdado dos dados de treinamento. Viés contra grupos protegidos é risco regulatório material.
Sandbox regulatório
Ambiente controlado, autorizado por regulador, onde empresa pode testar sistema de IA inovador com flexibilização temporária de regras. Existe em vários setores.
Human-in-the-loop
Princípio de design em que decisão crítica de IA é validada por humano antes de produzir efeito. Obrigatório para sistemas de alto risco em várias regulações.
Transparência algorítmica
Capacidade de explicar como o modelo de IA chegou a uma decisão. Pode envolver explicabilidade técnica (XAI) ou divulgação dos critérios usados.