KI - Datenschutz & KI-Verordnung & Urheberrecht

2. Datenschutzrecht

2.7. Nutzung von KI-Systemen durch Schülerinnen und Schüler V

📜 Empfehlung einer Aufsichtsbehörde

Nach einer Empfehlung der Aufsichtsbehörde Baden-Württemberg sollten Lehrkräfte bei der Nutzung von KI-Plattformen in der Lage sein, die Interaktion ihrer Schülerinnen und Schüler nachträglich stichprobenartig zu kontrollieren.

Ziel: Verhinderung von Missbrauch und riskanter Nutzung.

Option A: Kommerzielle Schul-KI

Anbieter wie fobizz, SchulKI, Paddy, FellowFish, ... haben dies technisch gelöst:

Lehrkräfte können Chats einsehen.
Anonymität: Da die Zugänge nicht personalisiert sind, sieht die Lehrkraft den Inhalt, aber nicht den Namen des Schülers.

Option B: Landeslösung ais.chat

Hier gibt es aktuell keine integrierte Kontrollfunktion:

Kein direkter Login durch die Lehrkraft möglich.
Manuelle Übergabe: Lehrkräfte können Schüler bitten, den Chat herunterzuladen.
Freiwilligkeit: Die Entscheidung zur Übergabe liegt beim Schüler.

Pädagogischer Hinweis: Die stichprobenartige Kontrolle dient der Sicherheit im Rahmen der Aufsichtspflicht. In personalisierten Umgebungen (ohne Pseudonymisierung) wäre ein solcher Einblick datenschutzrechtlich deutlich strenger zu bewerten.

Bildquellen: Insight by Haris Awan; Noun Project; CC BY 3.0; ais.chat Logo nachempfunden.