KI - Datenschutz & KI-Verordnung & Urheberrecht
Ziel dieses Kurses ist es, einen grundlegenden Überblick über alle wichtigen Fragen zum Einsatz von KI in der Schule, sowohl in der Hand von Lehrkräften als auch bei der Nutzung durch Schülerinnen und Schüler mit Blick auf Datenschutz, die KI-Verordnung und Urheberrecht zu geben.
3. KI-Verordnung
3.12. Transparenzpflicht vertieft
Da das Thema der Transparenzpflicht komplex ist, wird es auf dieser Seite speziell für Schulen in ihrer Rolle als Betreiber von KI-Systemen vertieft.
Erstellen Personen an der Schule mithilfe von KI Medieninhalte, die den Charakter von sogenannten Deepfakes aufweisen, sind sie gemäß Art. 50 KI-VO seit dem 02. August 2026 verpflichtet, diese Inhalte unmissverständlich zu kennzeichnen. Die EU-Kommission hat sich darauf geeinigt, KI-generierte oder manipulierte Inhalte unabhängig von der Landessprache einheitlich mit dem englischen Kürzel AI (Artificial Intelligence) zu versehen.
🔍 Was versteht man unter „Deepfakes“?
„KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden.“[1]
Wichtig zu wissen: Nicht jeder mit KI erstellte oder manipulierte Bild-, Audio- oder Videoinhalt ist automatisch ein Deepfake. Das hier abgebildete, fiktive Schullogo, welches für eine Website oder Printmaterialien der Schule genutzt werden könnte, stellt kein Deepfake dar.
Gäbe es dieses Schullogo jedoch exakt so in der Realität und man würde es mittels KI verfälschen (z. B. durch den Austausch von Symbolen), während es dem Original weiterhin täuschend ähnlich sieht, müsste es als „KI-manipuliert“ gekennzeichnet werden.
Die EU-Kommission hat einen Verhaltenskodex zur Transparenz von KI-generierten Inhalten entwickelt. Zu diesem gehört auch ein Set frei nutzbarer Icons[3], mit denen visuelle Medien standardisiert gekennzeichnet werden können (eine Unterzeichnung des Kodex ist dafür keine Voraussetzung). Schulen steht es jedoch frei, auch eigene Kennzeichnungen zu verwenden.
Exemplarisch sind unten die drei Symbole in der schwarzen Version dargestellt (insgesamt existieren vier Farbvarianten). Grundsätzlich reicht die Kennzeichnung mit dem Kürzel „AI“ aus. Wer jedoch präzise differenzieren möchte, ob ein Inhalt komplett generiert oder lediglich modifiziert wurde, kann dies mit den spezifischen Icons tun:
Die Kennzeichnung muss stets eindeutig, unmissverständlich und gut sichtbar direkt am Inhalt angebracht werden. Eine Erleichterung gilt nur dann, wenn der Inhalt „Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks“[2] ist. Auch in diesen Fällen bleibt die Kennzeichnungspflicht bestehen, sie darf jedoch so dezent integriert werden, dass sie die künstlerische Darstellung des Werkes nicht stört.
🎵 Besonderheit bei Audio-Inhalten
Auch rein auditive Inhalte unterliegen der Kennzeichnungspflicht, sofern sie die Kriterien für Deepfakes erfüllen. Typische Beispiele sind Musikstücke, die die Stimmen bekannter Künstler imitieren, oder KI-gestützte Übersetzungen, bei denen Personen fehlerfrei in einer Sprache sprechen, die sie eigentlich nicht beherrschen. Eine solche Kennzeichnung wird idealerweise akustisch direkt in die Audiodatei integriert, indem die KI beispielsweise einen kurzen entsprechenden Vorspann vor dem eigentlichen Inhalt spricht.
🔊 Hörbeispiel: Audiodatei mit gesprochenem KI-Vorspann