Die Risikopyramide auf einen Blick
Der AI Act sortiert jede Anwendung nach ihrem Risiko in eine von vier Stufen ein. Je weiter oben in der Pyramide, desto kleiner die Zahl der Anwendungen – und desto strenger die Regeln. Die breite Basis (minimales Risiko) umfasst die große Mehrheit aller heute genutzten KI; die schmale Spitze (verboten) nur wenige, besonders grundrechtsgefährdende Praktiken.
Stufe 1 – Unannehmbares Risiko: verboten
Einige KI-Praktiken sind so gefährlich für Grundrechte, dass sie ganz verboten sind (Art. 5). Dazu zählen u. a. Social Scoring durch Behörden, manipulative Systeme, die das Verhalten zum Schaden ausnutzen, das ungezielte Auslesen von Gesichtern aus dem Internet zum Aufbau von Datenbanken sowie – mit engen Ausnahmen – biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum.
Stufe 2 – Hochrisiko: streng reguliert
Hochrisiko-Systeme sind erlaubt, unterliegen aber strengen Anforderungen. Sie betreffen Bereiche mit erheblichen Auswirkungen auf Sicherheit oder Grundrechte – etwa KI in kritischer Infrastruktur, in der Personalauswahl, bei der Kreditvergabe, in Bildung oder Strafverfolgung. Diese Stufe behandeln wir im nächsten Modul im Detail.
Stufe 3 – Begrenztes Risiko: Transparenzpflichten
Bei begrenztem Risiko geht es vor allem um Transparenz. Nutzerinnen und Nutzer müssen erkennen können, dass sie mit einer KI interagieren bzw. dass Inhalte KI-generiert sind. Das betrifft typischerweise Chatbots sowie generative KI für Texte, Bilder, Audio oder Video (Stichwort „Deepfakes“ – Kennzeichnungspflicht).
Beispiel: Chatbot richtig kennzeichnen
Ein Online-Shop setzt einen KI-Chatbot ein. Konform ist: ein klarer Hinweis „Sie chatten mit einem KI-Assistenten“ zu Beginn des Gesprächs, plus die Möglichkeit, an einen Menschen zu übergeben. KI-generierte Produktbilder werden als solche gekennzeichnet.
Stufe 4 – Minimales Risiko: erlaubt
Die große Mehrheit der KI-Anwendungen fällt in diese Stufe und ist ohne besondere Pflichten erlaubt – etwa Spamfilter, KI in Videospielen oder Empfehlungssysteme im E-Commerce. Freiwillige Verhaltenskodizes werden empfohlen, sind aber nicht verpflichtend.
Das Wichtigste in Kürze
- Vier Stufen: unannehmbar (verboten), hoch, begrenzt (Transparenz), minimal (erlaubt).
- Social Scoring und Echtzeit-Gesichtserkennung im öffentlichen Raum sind verboten.
- Chatbots und generative KI: Transparenz-/Kennzeichnungspflicht.
- Die meisten Anwendungen (Spamfilter, Empfehlungen) sind minimales Risiko.
?Wissens-Check
Beantworten Sie die Fragen, um Ihr Verständnis zu prüfen. Sie erhalten sofort eine Rückmeldung.
Frage 1.In welche Risikoklasse fällt Social Scoring?
Frage 2.Welche Pflicht gilt typischerweise für Chatbots und generative KI?
Frage 3.Welches Beispiel ist typischerweise „minimales Risiko“?