KI - Datenschutz & KI-Verordnung & Urheberrecht: Zu beachtende Vorgaben

Ziel dieses Kurses ist es, einen grundlegenden Überblick über alle wichtigen Fragen zum Einsatz von KI in der Schule, sowohl in der Hand von Lehrkräften als auch bei der Nutzung durch Schülerinnen und Schüler mit Blick auf Datenschutz, die KI-Verordnung und Urheberrecht zu geben.

3. KI-Verordnung

3.6. Zu beachtende Vorgaben

Pflichten beim Einsatz von Hochrisiko-KI

KI-Systeme zur Bewertung von Lernergebnissen oder zur Steuerung von Lernprozessen dürfen nur unter strengen Auflagen eingesetzt werden. Die Schule tritt hier in der Rolle des Betreibers auf.

1. Voraussetzungen an das System

🇪🇺
CE-Kennzeichen

📄
EU-Konformitätserklärung

💻
Eintrag EU-KI-Datenbank

📋 Maßnahmen für den ordnungsgemäßen Betrieb (Art. 26 KI-VO)

Einsatz strikt gemäß Betriebsanleitung.
Gewährleistung einer menschlichen Aufsicht durch qualifiziertes Personal.
Prüfung der Datenqualität (Eignung und Repräsentativität für den Zweck).
Kontinuierliche Überwachung und Meldung von Grundrechtsrisiken oder schwerwiegenden Vorfällen (Art. 73/79) an Anbieter und Behörden.
Aufbewahrung der System-Protokolle (Logs).
Amtliche Registrierung des Systems und (je nach Bundesland) Durchführung einer Datenschutz-Folgenabschätzung.

🔐 Zusätzliche DS-GVO Anforderungen

Da stets personenbezogene Daten verarbeitet werden, muss die Schule zusätzlich sicherstellen:

Vertrag: Abschluss eines AV-Vertrags mit dem Anbieter.

Sicherheit: Einhaltung der Rechenschaftspflicht und Datensicherheit (Art. 5 & 32).

Rechte: Wahrung aller Betroffenenrechte (Auskunft, Löschung etc.).

Art. 22: Keine Unterwerfung unter ausschließlich automatisierte Entscheidungen.

Rechtsgrundlage: Vorliegen einer gesetzlichen Basis im Schulrecht (oder Einwilligung).

Bildquelle: Checklist by Vectorstall; Noun Project; CC BY 3.0