Ihr KI-Risiko, gesteuert mit dem NIST-Framework
Steuern, erfassen, messen und managen Sie jedes KI-System mit dem NIST AI RMF und nutzen Sie die Arbeit gleich für ISO 42001 und die KI-Verordnung (AI Act).
Was das NIST AI RMF ist und was man von Ihnen erwartet
Das AI Risk Management Framework ist das Rahmenwerk des NIST, der US-Normungsbehörde, für das Management von Risiken in KI-Systemen. Es ist freiwillig, hat sich aber als Referenz etabliert: Kunden, Partner und Behörden fragen damit nach, wie Sie Ihre KI im Griff haben.
Es gliedert sich in vier Funktionen mit Kategorien und Unterkategorien. Sie entscheiden, welche davon für jedes System gelten, und erstellen ein Profil: wo Sie heute stehen und wo Sie hinwollen. Seit Juli 2024 gibt es zusätzlich ein eigenes Profil für generative KI.
- Herausgeber
- NIST, National Institute of Standards and Technology (USA)
- Version
- AI RMF 1.0, Januar 2023
- Verbindlichkeit
- Freiwillig, für jede Branche und Unternehmensgröße
- Aufbau
- Vier Funktionen mit Kategorien und Unterkategorien
- Ergänzungen
- Das Playbook und das Profil für generative KI (NIST AI 600-1)
1
Inventar
Sie erfassen Ihre KI-Systeme mit Zweck, Daten und verantwortlicher Person.
2
Ist-Profil
Sie bewerten, welche Unterkategorien des Frameworks jedes System schon abdeckt.
3
Soll-Profil
Sie legen je nach Risiko das Ziel für jedes System fest und planen, wie Sie die Lücken schließen.
4
Überwachung
Sie messen, prüfen und aktualisieren das Profil über den gesamten Lebenszyklus.
Die vier Funktionen des Frameworks
Govern
Steuern
Richtlinien, Rollen, Kultur und Verantwortlichkeiten. Wirkt quer über die anderen drei.
Map
Erfassen
Der Kontext jedes Systems: wofür es dient, wen es betrifft und was schiefgehen kann.
Measure
Messen
Kennzahlen und Tests zu Zuverlässigkeit, Sicherheit, Bias und Robustheit.
Manage
Managen
Risiken priorisieren und behandeln und reagieren, wenn etwas schiefläuft.
Vertrauenswürdige KI ist:
Valide und zuverlässig
Sicher
Geschützt und resilient
Rechenschaftspflichtig und transparent
Erklärbar und interpretierbar
Datenschutzfreundlich
Fair, mit kontrolliertem Bias
Das NIST AI RMF in GlobalSuite® umsetzen
Vom Inventar bis zur Überwachung an einem Ort, jede Unterkategorie mit Verantwortlichen und Nachweisen verknüpft.
Compliance›NIST AI RMF›Inventar
KI-Systeme18 Systeme · 5 von Drittanbietern
CodeSystemRisikoProfil
IA-01
Scoring-Modell für Kunden
Eigen · Kreditentscheidungen
HochGeprüftIA-04
Generativer Assistent im Kundenservice
Drittanbieter · Kundenantworten
MittelIn ArbeitIA-09
Betrugserkennung im Zahlungsverkehr
Eigen · Echtzeit-Alarme
HochGeprüftIA-15
Klassifizierung eingehender E-Mails
Intern · Produktivität
NiedrigOffenCompliance›NIST AI RMF›Profil IA-01
41
Abgedeckt
17
Teilweise
9
Offen
Unterkat.Erwartetes ErgebnisAbdeckung%
GV 1.1Rechtliche Anforderungen an KI ermittelt100
MP 1.1Zweck und Einsatzkontext dokumentiert90
MS 2.7Sicherheit und Resilienz bewertet60
MS 2.11Fairness und Bias bewertet40
MG 4.1Überwachung nach dem Rollout55
Compliance›NIST AI RMF›Risiken und Maßnahmen
Risiken und MaßnahmenIA-01 · 7 Risiken identifiziert
MaßnahmeVerantwortlichTerminStatus
Bias-Test nach AltersgruppePMP. Méndez20. Okt.In Arbeit
Menschliche Prüfung von AblehnungenCGC. García6. Okt.Erledigt
Entscheidung für Kunden erklärenRVR. Vidal3. Nov.Offen
Alarm bei ModelldriftPMP. Méndez15. Nov.In Arbeit
Compliance›NIST AI RMF›Nachweise
NachweiseIA-01 · letzte Profilprüfung
NachweisStatusGeprüft
Model Card freigegebenGültigheute
Bericht zu RobustheitstestsAktuell4 T.
Bias-Analyse des QuartalsOffen1 Wo.
Protokoll des KI-GremiumsArchiviert2 Wo.
Einmal erledigt, dreifach genutzt
Ihre Arbeit für das NIST AI RMF zählt auch für ISO 42001 und die Pflichten aus der KI-Verordnung, ohne doppelte Inventare oder Nachweise.
Generative KI, gesondert
Die spezifischen Risiken generativer KI aus dem Profil NIST AI 600-1 managen Sie in jedem System, das sie nutzt.
Auch die KI Ihrer Lieferanten
Bewerten Sie KI-Systeme von Drittanbietern per Fragebogen im Modul für Drittparteienrisiken.
Das NIST AI RMF passt zu dem, was Sie schon tun
NIST AI RMF
KI-Inventar, Profil nach Unterkategorie, Risiken, Maßnahmen und Nachweise.
Sie sind hierISO 42001
Das zertifizierbare KI-Managementsystem, das viele Kontrollen mit dem Framework teilt.
Zur Lösung →AI Act
Die europäische KI-Verordnung, verpflichtend, wenn Ihre Systeme in der EU genutzt werden.
Zur Lösung →AI Governance
Das GlobalSuite®-Modul, mit dem Sie alle Ihre KI-Systeme steuern.
Zur Lösung →
Häufige Fragen zum NIST AI RMF
Ist das NIST AI RMF verpflichtend?
Nein. Es ist ein freiwilliges Framework. Trotzdem setzen es viele Organisationen ein, weil Kunden oder Partner wissen wollen, wie sie KI-Risiken managen, und eine anerkannte Referenz erwarten.
Gilt es auch außerhalb der USA?
Ja. Es hängt an keinem bestimmten Gesetz und lässt sich in jedem Land und jeder Branche anwenden. In Europa wird es oft mit ISO 42001 und der KI-Verordnung (AI Act) kombiniert.
Worin unterscheidet es sich von ISO 42001?
ISO 42001 ist ein zertifizierbares Managementsystem. Das NIST AI RMF ist ein Rahmenwerk für das Risikomanagement ohne Zertifizierung. Beide ergänzen sich: Viele Maßnahmen zahlen auf beide ein.
Und von der KI-Verordnung?
Die KI-Verordnung (AI Act) ist in der Europäischen Union verbindlich, mit Pflichten je nach Risikostufe des Systems. Das NIST AI RMF schreibt nichts vor, hilft aber, die Arbeit zu strukturieren, die der AI Act verlangt.
Was ist das Profil für generative KI?
Das ist das Dokument NIST AI 600-1, veröffentlicht im Juli 2024. Es wendet das Framework auf die typischen Risiken generativer KI an, etwa erfundene Informationen, schädliche Inhalte oder Datenabfluss.
Wo fange ich an?
Mit dem Inventar Ihrer KI-Systeme, auch der von Drittanbietern. Damit bewerten Sie das Ist-Profil jedes Systems und entscheiden, welche Unterkategorien Vorrang haben.
Ihre KI,
mit dem NIST-Framework.
Wir zeigen Ihnen Ihr AI-RMF-Profil, fertig eingerichtet in GlobalSuite®.