2. Datenschutzrecht

2.2. Wie schaut Datenschutz auf KI-Systeme?

Aus der Datenschutzperspektive sind bei der Nutzung von KI-Systemen vor allem folgende Kernpunkte von Interesse:

✔ Rechtsgrundlage vorhanden? ✔ KI-Training DS-GVO konform?
✔ Datenminimierung (Notwendigkeit)? ✔ Betroffenenrechte (Löschung etc.)?
✔ Datensicherheit gewährleistet?

✔ Drittlandtransfer abgesichert?

Der Fokus: Datenschutz in der Schule

In der Schule verengt sich dieser Blick. Hier geht es primär um den Schutz der personenbezogenen Daten von Schülern und Lehrkräften im Rahmen des Unterrichts.

Prüffragen zur Nutzung:

1. Verarbeitung von Nutzerdaten
Erfolgt die Verarbeitung auf Basis einer gültigen Rechtsgrundlage?

2. Alternative bei fehlender Freigabe
Ist eine technische Anonymisierung (z. B. via API) möglich?

3. Modell-Training
Werden Daten zum Training genutzt? Ist dies deaktivierbar?

4. Interaktionskontrolle
Wie können Lehrkräfte die KI-Interaktion kontrollieren?