3. KI-Verordnung

3.4. 4 Kategorien von Hochrisiko-KI-Systemen im Bildungsbereich

Die 4 Kategorien der Hochrisiko-KI

Gemäß Erwägungsgrund 56 der KI-VO gelten Systeme als "Hochrisiko", wenn sie bestimmungsgemäß* für folgende Zwecke eingesetzt werden:

1. Zugang & Zulassung

Steuerung des Zugangs zu Schulen oder Einteilung in Bildungseinrichtungen und Programme.

Beispiel: Automatische Auswertung von Schulbewerbungen oder Algorithmen zur Schulplatz-Zuweisung nach der Grundschule.
2. Bewertung von Lernergebnissen

Bewertung von Lernergebnissen mit Einfluss auf Noten, Abschlüsse oder andere bildungsrelevante Entscheidungen.

Beispiel: KI-Systeme zur automatisierten Prüfungsbewertung oder zur Erstellung benotungsrelevanter Leistungseinschätzungen.
3. Bildungslaufbahn

Entscheidungen über Bildungsniveau, Bildungswege, Einstufungen oder Übergänge.

Beispiel: Einstufungstests zur Zuweisung von Kursniveaus, Empfehlungen für Schulformen oder Prognose-Tools für Qualifikationsgrade.
4. Prüfungsüberwachung

Überwachung von Prüflingen auf unzulässige Handlungen (Täuschungsversuche).

Beispiel: Videoüberwachung oder Eye-Tracking während Klausuren zur Erkennung von Betrug.

* Was bedeutet „bestimmungsgemäß“?
Das meint Systeme, die speziell für diese Bildungszwecke entwickelt wurden. Ein allgemeiner Chatbot (wie ChatGPT), den eine Lehrkraft privat nutzt, ist kein solches System. Wird er jedoch als Bestandteil eines Systems zur Leistungsbewertung, Schulplatzvergabe oder Einstufung eingesetzt, kann das Gesamtsystem als Hochrisiko-KI einzustufen sein.