KI - Datenschutz & KI-Verordnung & Urheberrecht

3. KI-Verordnung

3.7. Wann gilt ein KI-System trotz seiner Funktionen nicht als Hochrisiko-KI-System?

Wann gilt ein System nicht als Hochrisiko?

Ein KI-System zur Aus- und Bewertung von Leistungsnachweisen fällt normalerweise in die Kategorie der Hochrisiko-KI-Systeme. Dies gilt jedoch nicht, wenn das System zwar die gleichen Aufgaben erledigt, seine Arbeit jedoch:

nur der Vorbereitung der Korrektur bzw. der Unterstützung dabei dient,
seine Ausgaben keinen Einfluss auf die Entscheidung der Lehrkraft haben und
die Endbewertung unabhängig und in alleiniger Verantwortung der Lehrkraft erfolgt.

Auch wenn ein KI-System nicht als Hochrisiko-KI-System genutzt wird, unterliegt die Schule weiterhin Verpflichtungen aus der KI-VO, die allerdings etwas geringer ausfallen.

💡

Hinweis: Auch die Nutzung eines KI-Systems, welches lediglich vorbereitende und unterstützende Funktionen bei der Leistungsbewertung hat, benötigt eine Rechtsgrundlage für die Nutzung.

Bildquelle: Risk by Kholifah; von Noun Project ; CC BY 3.0