3. KI-Verordnung

3.11. Transparenzpflicht

Transparenzpflicht (ab 2. August 2026)

Nicht nur Anbieter von KI-Systemen sind zur Transparenz verpflichtet, sondern auch Schulen in ihrer Rolle als Betreiber. Die rechtliche Grundlage hierfür bildet Art. 50 KI-VO.

Wann besteht die Pflicht zur Kennzeichnung?

Transparenz ist immer dann erforderlich, wenn Bild-, Ton- oder Videoinhalte genutzt werden, bei denen es sich um Deepfakes handelt. Dies sind Inhalte, die so täuschend echt aussehen oder klingen, dass sie nicht mehr als künstlich erzeugt erkannt werden können.

Vergleich Original vs. Deepfake (image_b3f55c.jpg)

Analyse des Beispiels: Das Beispiel zeigt links das Originalfoto. Im rechten Bild wurden die Schülerinnen und Schüler mittels KI künstlich hinzugefügt. Auf den ersten Blick ist dieses für Betrachter des Bildes nicht erkennbar. Auf den zweiten Blick vermutlich auch nicht.

Kennzeichnung von Mediendateien

Die KI-Verordnung verlangt, dass Kennzeichnungen „klar und unterscheidbar“ sein müssen. Es gibt eine zweistufige Umsetzung:

1. Die sichtbare Ebene (für Nutzer)

Nutzt man Deepfakes (Bilder/Videos/Audio) in Präsentationen oder auf einer Website wie der Schulhomepage, muss ein Hinweis direkt am Medium stehen. 

Beispiel: Ein KI-generiertes historisches Porträt erhält die Bildunterschrift: „Visualisierung erstellt mit KI (DALL-E)“ oder "KI-generiert." Ein Wasserzeichen wie die Raute im im Bild oben rechts ist zusätzlich empfehlenswert - reicht aber alleine  als Kennzeichnung nicht aus.

2. Die maschinenlesbare Ebene

KI-Inhalte müssen technisch als solche markiert sein (Metadaten).

Praxis-Tipp: Nutzt man gängige Bild-KI-Tools, betten diese diese Info oft automatisch in die Download-Datei ein. Beim Speichern/Exportieren sollte darauf geachtet werden, diese Metadaten nicht durch „Screenshotten“ oder „Speichern unter“ (ohne Metadaten) zu entfernen

Kennzeichnung von Texten

Eine Transparenzpflicht gilt auch für KI-generierte Texte, etwa für die Schulhomepage, wenn diese zur Information der Öffentlichkeit (z. B. über die Schulgeschichte oder Veranstaltungen) erstellt wurden.

Gemäß Art. 50 Abs. 5 KI-VO müssen diese Informationen:

  • spätestens bei der ersten Auseinandersetzung mit dem Inhalt zur Verfügung stehen,
  • klar und eindeutig formuliert sein,
  • und barrierefrei zugänglich sein.

Müssen jetzt alle KI-Inhalte ausgewiesen werden?

Nein!

Es gibt wichtige Ausnahmen von der Transparenzpflicht. Tief durchatmen und die nächste Seite aufmerksam lesen.

📖 Vertiefende Lektüre:

Einen detaillierten Leitfaden zur rechtskonformen Kennzeichnung von KI-Inhalten (einschließlich technischer Details zu Metadaten) finden Sie im Fachbeitrag von Dr. Schwenke:  Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen.

Bildquelle: Verfasser