KI - Datenschutz & KI-Verordnung & Urheberrecht
Ziel dieses Kurses ist es, einen grundlegenden Überblick über alle wichtigen Fragen zum Einsatz von KI in der Schule, sowohl in der Hand von Lehrkräften als auch bei der Nutzung durch Schülerinnen und Schüler mit Blick auf Datenschutz, die KI-Verordnung und Urheberrecht zu geben.
3. KI-Verordnung
3.3. Hohes Risiko im Kontext Bildung
KI im Bildungswesen: Potenziale nutzen, Rechte schützen
Die KI-Verordnung betont in Erwägungsgrund 56 die große Bedeutung von KI-Systemen für die Bildung. Sie sieht darin eine wesentliche Chance für die moderne Gestaltung von Lehr- und Lernprozessen wie auch den Erwerb digitaler Fähigkeiten und Kompetenzen, von Medienkompetenz und kritischem Denken als Voraussetzung für gesellschaftliche Teilhabe.
Warum "Hochrisiko"?
Da Bildung maßgeblich über den weiteren Lebensweg entscheidet, stuft die KI-VO bestimmte Systeme in diesem Bereich als hochriskant ein. Das Ziel ist nicht, diese Systeme zu verhindern, sondern einen sicheren Rahmen für ihren Einsatz zu schaffen.
Wenn das KI-System bereits im Design oder in der Programmierung Mängel aufweist (z. B. verzerrte Datensätze).
Wenn ein solches System im Schulalltag nicht korrekt oder entgegen der Bestimmungen angewendet wird.
Die Konsequenz für den Lebenslauf
Solche Fehler können Bildungsrechte verletzen, Diskriminierung (z. B. gegen Minderheiten oder Behinderte) verstärken und den Bildungs- sowie Berufsweg einer Person massiv beeinträchtigen.
Ein Beispiel: Ein System zur Leistungsbewertung beurteilt Schüler:innen mit Migrationshintergrund aufgrund historischer Datenverzerrungen systematisch schlechter. Begabte Kinder landen so auf Hauptschulniveau, was ihren Weg zum Abitur blockiert und zu lebenslangen Einkommensnachteilen führt.
Bildquelle: Future On Future by Eucalyp; Noun Project; CC BY 3.0