3. KI-Verordnung

3.2. Grundlegendes

Die KI-Verordnung: Fokus auf Einsatzzweck & Risiko

Anders als die DS-GVO schaut die KI-Verordnung auf Risiken generell. In Risikokategorien unterteilt werden KI-Systeme hierbei nach ihrem Einsatzzweck. Maßgeblich für die Einteilung ist:

  • Die Wahrscheinlichkeit, dass ein Schaden eintritt.
  • Der Umfang des möglichen Schadens.
Die vier Risikokategorien der KI-Verordnung
🟢 Minimales Risiko

Beschreibung: Das Risiko, welches von der KI-Anwendung ausgeht, ist sehr gering oder es gibt kein Risiko.

Beispiele: Rechtschreibkorrektur, DeepL Write, Übersetzungshilfen, KI-gesteuerte Vokabeltrainer (ohne personalisierte Anmeldung).

Maßnahmen: Keine verpflichtenden Auflagen für Betreiber. Die Anwendung kann ohne Hinweise auf eine KI eingesetzt werden.

🟡 Begrenztes Risiko

Beschreibung: Das Risiko entsteht vor allem durch Täuschung oder Fehlinformation. Nutzer könnten glauben, mit einem Menschen zu interagieren oder KI-generierte Inhalte für die absolute Wirklichkeit halten.

Beispiele: Chatbots (ais.chat, fobizz, SchulKI), Deepfakes, Erstellung von Texten/Bildern durch KI.

Maßnahmen: Es gilt die Transparenzpflicht. Nutzer müssen aufgeklärt werden, dass sie mit einer KI interagieren (z. B. bei Chats mit hist. Figuren) und dass Inhalte Fehler oder einen Bias enthalten können.

🟠 Hohes Risiko

Beschreibung: Das Risiko entsteht durch mögliche Fehlfunktionen oder Manipulationen, die schwerwiegende negative Auswirkungen auf Grundrechte und Lebensläufe haben können.

Beispiele: Auswertung/Bewertung von Leistungsnachweisen, Entscheidungen über den weiteren Bildungsweg, Überwachung von Prüfungen.

Maßnahmen: Umfassende Auflagen zur Qualitätssicherung und Risikominimierung (wird im nächsten Kapitel vertieft).

🔴 Unannehmbares Risiko

Beschreibung: Das Risiko resultiert aus Missbrauch oder Fehlfunktionen, deren Schaden als extrem hoch und unvereinbar mit unseren Grundwerten eingestuft wird (z. B. totale Überwachung).

Beispiele: Social Scoring (Soziale Bewertung), Emotionserkennung im Klassenzimmer.

🚫 Maßnahme: Diese Systeme sind grundsätzlich verboten.