3. KI-Verordnung

3.15. KI und Recht in der Praxis II

Praxisbeispiel: Der rechtliche Rahmen in NRW

Im Gegensatz zu Baden-Württemberg gibt es in Nordrhein-Westfalen bisher keine spezifische "KI-Regelung" im Schulgesetz. Stattdessen greifen etablierte Normen und die europäische KI-Verordnung.

Rechtliche Einordnung

KI-gestützte Systeme werden in NRW als Lehr- und Lernsysteme gemäß § 120 Abs. 5 SchulG NRW gefasst.

Mangels bereichsspezifischer KI-Regeln gelten hier die allgemeinen Grundsätze der DS-GVO und des Schulgesetzes.

Wann wird es komplex? Die Unterscheidung:

Einfache Algorithmen Hier reichen das Schulgesetz & die DS-GVO aus.
  • Vertrag zur Auftragsverarbeitung nötig.
  • Vorab-Information der Betroffenen.
  • Nutzung nur im erforderlichen Rahmen.
KI-Systeme (KI-VO) Ist eine KI aktiv, muss die Schule prüfen, ob es sich um eine Hochrisiko-KI handelt (z.B. bei automatischer Lernsteuerung).
  • Zusätzliche Transparenzpflichten greifen.
  • Strikte menschliche Kontrollpflicht (Aufsicht) ist zwingend erforderlich.

Die Rolle der Lehrkraft

Besonders bei Hochrisiko-Systemen, die Lernvorgaben automatisch ohne direkte menschliche Entscheidung verändern, gilt:

  • ● Lehrkräfte müssen die Entscheidungen der KI jederzeit nachvollziehen können.
  • ● Lehrkräfte müssen in der Lage sein, die Steuerung bei Bedarf manuell anzupassen.