KI - Datenschutz & KI-Verordnung & Urheberrecht
3. KI-Verordnung
3.15. KI und Recht in der Praxis II
Praxisbeispiel: Der rechtliche Rahmen in NRW
Im Gegensatz zu Baden-Württemberg gibt es in Nordrhein-Westfalen bisher keine spezifische "KI-Regelung" im Schulgesetz. Stattdessen greifen etablierte Normen und die europäische KI-Verordnung.
Rechtliche Einordnung
KI-gestützte Systeme werden in NRW als Lehr- und Lernsysteme gemäß § 120 Abs. 5 SchulG NRW gefasst.
Mangels bereichsspezifischer KI-Regeln gelten hier die allgemeinen Grundsätze der DS-GVO und des Schulgesetzes.
Wann wird es komplex? Die Unterscheidung:
Einfache Algorithmen Hier reichen das Schulgesetz & die DS-GVO aus.
- Vertrag zur Auftragsverarbeitung nötig.
- Vorab-Information der Betroffenen.
- Nutzung nur im erforderlichen Rahmen.
KI-Systeme (KI-VO) Ist eine KI aktiv, muss die Schule prüfen, ob es sich um eine Hochrisiko-KI handelt (z.B. bei automatischer Lernsteuerung).
- Zusätzliche Transparenzpflichten greifen.
- Strikte menschliche Kontrollpflicht (Aufsicht) ist zwingend erforderlich.
Die Rolle der Lehrkraft
Besonders bei Hochrisiko-Systemen, die Lernvorgaben automatisch ohne direkte menschliche Entscheidung verändern, gilt:
- ● Lehrkräfte müssen die Entscheidungen der KI jederzeit nachvollziehen können.
- ● Lehrkräfte müssen in der Lage sein, die Steuerung bei Bedarf manuell anzupassen.