2. Datenschutzrecht

2.9. Hintergrundwissen - Nutzung von KI via API

🚫 Keine direkte Nutzung

Lehrkräfte dürfen Schülerinnen und Schüler nicht anweisen, direkt Konten bei kommerziellen Anbietern (OpenAI, Google, Anthropic, Meta etc.) oder auch EU-Anbietern wie Mistral zu nutzen (siehe 2.3). Die Risiken werden aktuell als zu hoch und nicht verlässlich abschätzbar eingestuft.

Gegenwärtig sind wir noch an einem Punkt, an welchem es selbst nicht zulässig ist, Schülerinnen und Schüler direkt mit EU Anbietern wie Mistral interagieren zu lassen oder mit von in der EU ansässigen Firmen bereitgestellten Open Source Versionen von gängigen Systemen der großen Anbieter oder frei entwickelten Varianten davon. Noch hält man die dabei entstehenden Risiken für nicht verlässlich abschätzbar.

💡 Die Lösung: Nutzung via API

Die wichtigste Alternative ist die Nutzung über eine spezielle Schnittstelle: die API (Application Programming Interface). Landeslösungen wie ais.chat sowie Plattformen wie fobizz oder SchulKI nutzen genau diesen Weg.

Zusage der Anbieter: Über APIs eingegebene Inhalte werden NICHT für das Training der Modelle verwendet.

Wie funktioniert das technisch? (Der Vermittler-Effekt)

👤 Pseudonymisierung: Innerhalb der Schul-Plattform wird der Nutzer unter einem Pseudonym geführt. Die Historie bleibt lokal in der Plattform gespeichert.
🛡️ Daten-Filter: An das eigentliche KI-System (z. B. GPT-4) wird nur der Inhalt der Anfrage ("Prompt") übermittelt, jedoch keine Account-Daten und keine IP-Adressen.
🕶️ Anonymität durch Distanz: Solange keine Namen oder persönlichen Details in den Text geschrieben werden, bleibt der Nutzer gegenüber dem KI-Konzern vollständig anonym.

Unterschied: Lehrkräfte- vs. Schülerzugänge

Lehrkräfte, bleiben wie alle Nutzer gegenüber dem KI-Anbieter anonym, haben in der Plattform jedoch individualisierte Accounts. Schüler erhalten Zugriff meist temporär über Links oder QR-Codes.

Das Sicherheits-Plus: Die Plattform ordnet den Schülerzugang intern der Lehrkraft zu. So kann die Lehrkraft bei Missbrauch eingreifen, während der KI-Anbieter im Hintergrund weiterhin keine Ahnung hat, wer die Person vor dem Bildschirm ist.