KI - Datenschutz & KI-Verordnung & Urheberrecht

Beschreibung: Das Risiko, welches von der KI-Anwendung ausgeht, ist sehr gering oder es gibt kein Risiko.

Beispiele: Rechtschreibkorrektur, DeepL Write, Übersetzungshilfen, KI-gesteuerte Vokabeltrainer (ohne personalisierte Anmeldung).

Maßnahmen: Keine verpflichtenden Auflagen für Betreiber. Die Anwendung kann ohne Hinweise auf eine KI eingesetzt werden.

Beschreibung: Das Risiko entsteht vor allem durch Täuschung oder Fehlinformation. Nutzer könnten glauben, mit einem Menschen zu interagieren oder KI-generierte Inhalte für die absolute Wirklichkeit halten.

Beispiele: Chatbots (ais.chat, fobizz, SchulKI), Deepfakes, Erstellung von Texten/Bildern durch KI.

Maßnahmen: Es gilt die Transparenzpflicht. Nutzer müssen aufgeklärt werden, dass sie mit einer KI interagieren (z. B. bei Chats mit hist. Figuren) und dass Inhalte Fehler oder einen Bias enthalten können.

Beschreibung: Das Risiko entsteht durch mögliche Fehlfunktionen oder Manipulationen, die schwerwiegende negative Auswirkungen auf Grundrechte und Lebensläufe haben können.

Beispiele: Auswertung/Bewertung von Leistungsnachweisen, Entscheidungen über den weiteren Bildungsweg, Überwachung von Prüfungen.

Maßnahmen: Umfassende Auflagen zur Qualitätssicherung und Risikominimierung (wird im nächsten Kapitel vertieft).

Beschreibung: Das Risiko resultiert aus Missbrauch oder Fehlfunktionen, deren Schaden als extrem hoch und unvereinbar mit unseren Grundwerten eingestuft wird (z. B. totale Überwachung).

Beispiele: Social Scoring (Soziale Bewertung), Emotionserkennung im Klassenzimmer.

🚫 Maßnahme: Diese Systeme sind grundsätzlich verboten.