O risco da sua IA, gerenciado com o framework do NIST
Governe, mapeie, meça e gerencie cada sistema de IA com o NIST AI RMF e aproveite o mesmo trabalho na ISO 42001 e no Regulamento de IA da UE.
O que é o NIST AI RMF e o que vão cobrar de você
O AI Risk Management Framework é o framework do NIST, o órgão de padronização dos Estados Unidos, para gerenciar os riscos de sistemas de inteligência artificial. É voluntário, mas virou referência: clientes, parceiros e órgãos públicos usam esse framework para perguntar como você controla a sua IA.
Ele se organiza em quatro funções, com categorias e subcategorias. Você escolhe quais aplicar a cada sistema e monta um perfil: onde está hoje e aonde quer chegar. Desde julho de 2024 há também um perfil específico para IA generativa.
- Publicação
- NIST, Instituto Nacional de Padrões e Tecnologia dos EUA
- Versão
- AI RMF 1.0, de janeiro de 2023
- Natureza
- Voluntário, aplicável a qualquer setor e porte
- Estrutura
- Quatro funções, com categorias e subcategorias
- Complementos
- O Playbook e o perfil de IA generativa (NIST AI 600-1)
1
Inventário
Você registra seus sistemas de IA, a finalidade, os dados e o responsável por cada um.
2
Perfil atual
Avalia quais subcategorias do framework cada sistema já atende.
3
Perfil-alvo
Define aonde cada sistema precisa chegar conforme o risco e planeja como fechar as lacunas.
4
Acompanhamento
Mede, revisa e atualiza o perfil ao longo de toda a vida do sistema.
As quatro funções do framework
Govern
Governar
Políticas, papéis, cultura e responsabilidades. Atravessa as outras três.
Map
Mapear
O contexto de cada sistema: para que serve, quem ele afeta e o que pode dar errado.
Measure
Medir
Métricas e testes de confiabilidade, segurança, viés e robustez.
Manage
Gerenciar
Priorizar e tratar os riscos, e reagir quando algo falha.
Uma IA confiável é:
Válida e confiável
Segura
Protegida e resiliente
Responsável e transparente
Explicável e interpretável
Respeitosa com a privacidade
Justa, com vieses sob controle
Aplique o NIST AI RMF no GlobalSuite®
Do inventário ao acompanhamento em um só lugar, com cada subcategoria ligada ao responsável e à evidência.
Compliance›NIST AI RMF›Inventário
Sistemas de IA18 sistemas · 5 de terceiros
CódigoSistemaRiscoPerfil
IA-01
Modelo de score de clientes
Próprio · decisões de crédito
AltoRevisadoIA-04
Assistente generativo de atendimento ao cliente
Terceiro · respostas a clientes
MédioEm andamentoIA-09
Detecção de fraude em pagamentos
Próprio · alertas em tempo real
AltoRevisadoIA-15
Classificador de e-mails recebidos
Interno · produtividade
BaixoPendenteCompliance›NIST AI RMF›Perfil IA-01
41
Atendidas
17
Parciais
9
Pendentes
Subcat.Resultado esperadoCobertura%
GV 1.1Requisitos legais sobre IA identificados100
MP 1.1Finalidade e contexto de uso documentados90
MS 2.7Segurança e resiliência avaliadas60
MS 2.11Equidade e viés avaliados40
MG 4.1Monitoramento após a implantação55
Compliance›NIST AI RMF›Riscos e medidas
Riscos e medidasIA-01 · 7 riscos identificados
MedidaResponsávelPrazoStatus
Teste de viés por faixa etáriaPMP. Méndez20 outEm andamento
Revisão humana das recusasCGC. García6 outConcluída
Explicação da decisão ao clienteRVR. Vidal3 novAberta
Alerta de drift do modeloPMP. Méndez15 novEm andamento
Compliance›NIST AI RMF›Evidências
EvidênciasIA-01 · última revisão do perfil
EvidênciaStatusRevisada
Model card aprovadoVigentehoje
Relatório de testes de robustezEm dia4 d
Análise de viés do trimestrePendente1 sem
Ata do comitê de IAArquivada2 sem
Um trabalho, três frameworks
O que você faz para o NIST AI RMF serve também para a ISO 42001 e para as obrigações do Regulamento de IA da UE, sem refazer inventários nem evidências.
IA generativa, à parte
Os riscos próprios da IA generativa do perfil NIST AI 600-1 são tratados em cada sistema que a utiliza.
A IA dos seus fornecedores também
Avalie os sistemas de IA de terceiros com questionários no módulo de risco de terceiros.
O NIST AI RMF se encaixa no que você já faz
NIST AI RMF
Inventário de IA, perfil por subcategoria, riscos, medidas e evidências.
Você está aquiISO 42001
O sistema de gestão de IA certificável, que compartilha boa parte dos controles.
Ver solução →AI Act
O Regulamento de IA da UE, obrigatório se os seus sistemas forem usados na União Europeia.
Ver solução →AI Governance
O módulo do GlobalSuite® para governar todos os seus sistemas de IA.
Ver solução →
Perguntas frequentes sobre o NIST AI RMF
O NIST AI RMF é obrigatório?
Não. É um framework voluntário. Mesmo assim, muitas organizações o adotam porque clientes ou parceiros perguntam como elas gerenciam o risco da sua IA e pedem uma referência reconhecida.
Ele vale fora dos Estados Unidos?
Sim. Não depende de nenhuma lei específica e pode ser aplicado em qualquer país e setor. Na Europa, costuma ser combinado com a ISO 42001 e com o Regulamento de IA da UE.
Qual a diferença em relação à ISO 42001?
A ISO 42001 é um sistema de gestão certificável. O NIST AI RMF é um framework de gestão de riscos sem certificação. Os dois se complementam: muitas medidas servem para ambos.
E em relação ao AI Act?
O AI Act, o Regulamento de IA da UE, é obrigatório na União Europeia, com exigências que variam conforme o nível de risco do sistema. O NIST AI RMF não obriga a nada, mas ajuda a organizar o trabalho que o regulamento exige.
O que é o perfil de IA generativa?
É o documento NIST AI 600-1, publicado em julho de 2024. Ele aplica o framework aos riscos típicos da IA generativa, como informações inventadas, conteúdo nocivo ou vazamento de dados.
Por onde eu começo?
Pelo inventário dos seus sistemas de IA, incluindo os de terceiros. Com ele, você avalia o perfil atual de cada sistema e decide quais subcategorias priorizar.
Sua IA,
com o framework do NIST.
Mostramos o seu perfil AI RMF montado no GlobalSuite®.