Die Ära der Künstlichen Intelligenz (KI) hat das Klassenzimmer erreicht. Du stehst als Lehrkraft vor der aufregenden Herausforderung, innovative Tools sinnvoll in deinen Unterricht zu integrieren. Doch diese digitale Revolution bringt eine komplexe Kehrseite mit sich: den Datenschutz und die neuen Regeln der EU.
Du willst wissen, wie du die Chancen von KI und Datenschutz in der Schule erfolgreich unter einen Hut bekommst? Du suchst nach praktischen, sicheren Lösungen für deinen Schulalltag? Perfekt. Dieser umfassende Artikel navigiert dich durch den rechtlichen Dschungel und liefert dir einen Praxisleitfaden für den datenschutzkonformen Einsatz von KI.
Inhaltsverzeichnis
Die rechtlichen Fundamente: DSGVO und der Gamechanger AI Act für KI und Datenschutz in Deiner Schule
Als Lehrkraft und Teil einer öffentlichen Bildungseinrichtung trägst du eine besondere Verantwortung für die personenbezogenen Daten deiner Schülerinnen und Schüler (SuS) sowie der Eltern. Hier sind die zwei zentralen Regelwerke, die du kennen musst, um KI und Datenschutz in der Schule zu gewährleisten.
Die Datenschutz-Grundverordnung (DSGVO) – Dein Grundpfeiler
Die DSGVO ist das Fundament für den Umgang mit Daten in der EU und damit auch in deiner Schule. Für dich als Lehrkraft bedeutet das vor allem: Transparenz, Datensparsamkeit und eine lückenlose Informationspflicht.
Das sind die Kernprinzipien, die du verinnerlichen musst:
- Zweckbindung: Du darfst Daten nur für klar definierte, pädagogische Zwecke verarbeiten. Ein KI-Tool zur Notenanalyse darf nicht für Marketingzwecke missbraucht werden.
- Datenminimierung: Verwende nur so wenig personenbezogene Daten wie möglich. Kannst du eine Aufgabe auch anonymisieren oder mit Pseudonymen arbeiten? Mach es!
- Transparenz: Du musst offen über Art, Umfang und Dauer der Datenverarbeitung informieren.
- Speicherbegrenzung: Daten dürfen nicht langfristig ohne berechtigten Grund gespeichert werden. Nach Abschluss des pädagogischen Zwecks (z.B. nach der Klausur oder dem Schuljahr) müssen sie gelöscht werden.
Gerade im Kontext von KI, wo Daten der Treibstoff sind, ist die strikte Beachtung der DSGVO entscheidend. Denke immer daran: Du bist der Gatekeeper für die Daten deiner SuS.
Die EU-KI-Verordnung (AI Act) – Das neue Regelwerk
Seit August 2024 ergänzt die EU-KI-Verordnung (AI Act) die DSGVO um spezifische Regeln für KI-Systeme. Sie ist ein Gamechanger, weil sie erstmals KI-Anwendungen nach ihrem potenziellen Risiko einteilt – ein Ansatz, der direkte Auswirkungen auf deinen Unterricht hat und das Zusammenspiel von KI und Datenschutz in der Schule neu definiert.
So kategorisiert der AI Act KI-Anwendungen für die Schule:
1. Verbotene KI-Systeme (Inakzeptables Risiko) ⛔
Diese Systeme sind tabu in der Schule, weil sie die Grundrechte der SuS massiv gefährden:
- Manipulative KI-Systeme, die SuS unbewusst beeinflussen.
- Verhaltensbewertung und Social Scoring basierend auf ihrem Verhalten im Unterricht oder in der Freizeit.
- Echtzeit-Gesichtserkennung und Emotionsanalyse zur Überwachung.
2. Hochrisiko-KI-Systeme (Strenge Auflagen) ⚠️
Diese Tools sind nur unter strengen Kontroll-, Dokumentations- und Transparenzpflichten zulässig:
- KI-gestützte Notengebung oder Leistungsbewertung.
- Empfehlungssysteme für Bildungs- oder Berufswege (die das Leben des Kindes maßgeblich beeinflussen).
- Überwachungssysteme bei Prüfungen (Proctoring-Software).
- Systeme zur Identifikation von Lernschwierigkeiten, die eine weitreichende Kategorisierung von SuS vornehmen.
Wichtig: Der Einsatz dieser Systeme in deiner Schule erfordert eine systematische Risikobewertung und eine detaillierte Dokumentation, die nachweist, wie die Risiken minimiert werden.
3. KI mit Begrenztem Risiko (Transparenzpflicht) ℹ️
Hierzu gehören gängige Tools, die du vielleicht schon nutzt. Die Hauptanforderung ist die Transparenzpflicht – SuS müssen wissen, dass sie mit einer KI interagieren:
- Chatbots zur Beantwortung von Fragen.
- KI-generierte Inhalte (Texte, Bilder).
- Einfache Empfehlungssysteme.
4. KI mit Minimalem Risiko (Keine besonderen Auflagen) ✅
Diese Tools sind datenschutzrechtlich unbedenklich, solange sie keine personenbezogenen Daten verarbeiten:
- Spam-Filter oder automatische Textvorschläge.
- Rechtschreib- und Grammatikprüfungen.
Dein Praxisleitfaden: Sichere KI-Nutzung in der Schule
Die Theorie ist wichtig, aber wie setzt du das im Unterricht um? Hier erfährst du, wie du eine datenschutzkonforme KI-Kultur in deiner Schule etablierst.
Checkliste für die KI-Tool-Bewertung – Prüfe selbst!
Bevor du ein neues KI-Tool im Unterricht einführst, musst du es durch diesen Filter schicken:
Datenverarbeitung prüfen
- Werden personenbezogene Daten gespeichert (Namen, E-Mails, IP-Adressen)? Gibt es eine Möglichkeit zur anonymen oder pseudonymen Nutzung?
- Werden die eingegebenen Daten dauerhaft gespeichert oder nach kurzer Zeit gelöscht? (Hintergrund: Viele KI-Anbieter trainieren ihre Modelle mit den eingegebenen Daten – das ist in der Schule ein absolutes No-Go!)
- Ist die Datenerfassung für den Bildungszweck wirklich notwendig? (Prinzip der Datenminimierung!)
Serverstandort und Rechtsgrundlage
- Befinden sich die Server innerhalb der EU/Deutschland? (Das vermeidet den Transfer in datenschutzrechtlich unsichere Drittstaaten, wie die USA).
- Liegt eine DSGVO-konforme Datenschutzerklärung vor? Ist sie leicht verständlich?
- Gibt es eine rechtliche Grundlage für den Einsatz (z.B. Schulgesetz, Bildungsauftrag oder eine eindeutige Einwilligung)?
Die Crux mit der Einwilligung: Wann musst du fragen?
Nicht jeder KI-Einsatz erfordert eine schriftliche Einwilligung der Eltern. Merke dir:
- Keine Einwilligung nötig: Wenn ein Schulaccount über eine landesweite Plattform (wie VIDIS) genutzt wird und die Nutzung direkt durch Schulgesetze gedeckt ist (z.B. als offizielles digitales Unterrichtsmittel).
- Einwilligung erforderlich:
- Wenn die Nutzung nicht direkt durch Schulgesetze gedeckt ist.
- Wenn personenbezogene Daten gespeichert und analysiert werden, die über das normale Maß hinausgehen.
- Bei freiwilligen Ergänzungen zum regulären, verpflichtenden Unterricht.
Wichtig: Erfülle immer deine Informationspflichten! Informiere SuS und Eltern transparent über den KI-Einsatz, den Umfang der Datenverarbeitung und den Zweck. Transparenz schafft Vertrauen.
Datenschutzkonforme KI-Tools für deinen Schulalltag
Zum Glück musst du das Rad nicht neu erfinden. Immer mehr Anbieter erkennen die strikten Anforderungen im Bildungsbereich und bieten geprüfte, sichere Lösungen an, die das Zusammenspiel von KI und Datenschutz in der Schule erleichtern.
Geprüfte Plattformen und Dienste – Dein sicherer Hafen ⚓
- VIDIS (Vermittlungsdienst für digitales Identitätsmanagement in Schulen): Denke an VIDIS als deinen digitalen Generalschlüssel. Es ist die zentrale, datenschutzkonforme Schnittstelle, die Lehrkräfte und SuS mit einem einzigen Schulaccount sicher auf verschiedene Bildungsangebote zugreifen lässt. Keine neuen Konten, keine zusätzlichen Passwörter – maximale Sicherheit.
- eduCheck digital: Tools, die dieses bundesweite Prüfverfahren durchlaufen haben, erfüllen die technischen und rechtlichen Anforderungen für den Schuleinsatz. Such gezielt nach diesem Siegel!
Empfohlene DSGVO-konforme KI-Tools (Auszug)
| Tool-Name | Fokus | Datenschutz-Merkmale |
| fobizz | Unterrichtsvorbereitung (Text, Bild, etc.) | EU-Serverstandort, DSGVO-konform, Fokus auf Lehrer-Tools. |
| schulKI | KI-Plattform, speziell für Sek I | Deutsche Entwicklung, verschlüsselte Datenübertragung, arbeitet ohne Nutzerprofile. |
| Kiwi (KI macht Schule) | Gemeinnützige Plattform | Kostenlos, keine Datenspeicherung, für alle Schulformen. |
| cornelsen.ai | KI-Toolbox des Verlags | EU-Server, Garantie gegen Trainingsnutzung der eingegebenen Daten. |
Tipp: Prüfe immer die spezifischen Lösungen deines Bundeslandes (z.B. fAIrChat in Moodle-Umgebung in Baden-Württemberg oder Assistent KAI in Sachsen). Diese sind in der Regel die sicherste Wahl, da sie direkt auf die landesspezifischen Vorgaben abgestimmt sind.
Umgang mit Nutzungsszenarien
1. Du nutzt KI für die Unterrichtsvorbereitung (Als Lehrkraft):
- Regel Nr. 1: Gib keine personenbezogenen Schülerdaten ein! Verwende anonymisierte oder fiktive Beispiele.
- Achtung bei privatem Account: Wenn du einen privaten ChatGPT-Account nutzt, handelst du eigenverantwortlich. Beachte aber stets die schulischen Richtlinien und gib auch hier keine schulrelevanten, schutzwürdigen Daten ein.
2. Schülerinnen und Schüler nutzen KI im Unterricht:
- Bevorzuge Schulaccounts: Die Nutzung über schulisch verwaltete Schnittstellen (wie VIDIS) ist datenschutzfreundlicher, da die Daten meist nicht der einzelnen Person zugeordnet werden können.
- Privater Account: Wenn SuS ihre privaten Accounts (z.B. bei OpenAI) nutzen sollen, muss die Einwilligung freiwillig sein. Du darfst die Nutzung nicht verpflichtend anordnen, da die Nutzung privater, datenschutzrechtlich problematischer Dienste niemanden benachteiligen darf. Besser: Biete eine datenschutzkonforme Alternative an!
Die Kennzeichnungspflicht: Was ist KI, was ist Mensch?
Du musst sicherstellen, dass KI-generierte Inhalte klar als solche erkennbar sind. Das dient nicht nur der Transparenz, sondern auch der fairen Leistungsbewertung.
- Transparente Angabe: Am Ende einer Arbeit sollte stehen, in welchem Umfang KI genutzt wurde (z.B. „Zur Ideenfindung und Gliederung des Textes wurde ChatGPT verwendet“).
- Quellenangabe: Halte dich an den schulischen Zitierstil. Gib die KI als Quelle an („OpenAI’s ChatGPT, 2024“).
- Eigenanteil: Der Eigenanteil der Schülerleistung muss erkennbar bleiben und bewertet werden.
Die Rolle der Lehrkraft bei Hochrisiko-Anwendungen: Human Oversight
Erinnerst du dich an die Hochrisiko-KI-Systeme (z.B. automatisierte Notengebung)? Der AI Act verlangt hier wirksame menschliche Aufsicht (Human Oversight).
Das heißt: Du darfst dich niemals allein auf die Entscheidung einer KI verlassen!
Die EU-KI-Verordnung definiert vier Kriterien, die du als Aufsichtsperson erfüllen musst:
- Kausale Wirksamkeit: Du musst die Fähigkeit haben, in das KI-System einzugreifen und seine Entscheidungen zu überstimmen. Die KI darf nur ein Vorschlag sein, die finale Entscheidung liegt bei dir.
- Epistemisches Verständnis: Du musst wissen, wie die KI funktioniert, welche Daten sie verwendet und welche Konsequenzen deine Interventionen haben. Du musst die Black Box verstehen können.
- Selbstkontrolle: Du musst geistig und körperlich in der Lage sein, eine wirksame Aufsicht zu führen (keine Übermüdung, Überforderung).
- Passende Absichten: Du musst motiviert und bereit sein, Risiken zugunsten deiner SuS zu minimieren.
Die praktische Konsequenz: Jede KI-gestützte Empfehlung, die das Leben deiner SuS maßgeblich beeinflusst, muss von dir geprüft, bewertet und notfalls korrigiert werden.
Schulungspflicht und KI-Kompetenz – Deine Weiterbildung
Hier gibt es eine klare gesetzliche Anforderung: Seit dem 2. Februar 2025 sind Schulen als Betreiber von KI-Systemen verpflichtet, ihre Lehrkräfte im Umgang mit KI zu schulen.
Diese Schulungspflicht betrifft alle: dich, deine Kolleginnen und Kollegen, die Schulleitung und die IT-Verantwortlichen.
Was du lernen solltest:
- Technische Grundkenntnisse: Wie funktionieren Large Language Models (LLMs) überhaupt?
- Risikoerkennung: Wie erkennst du Bias (Verzerrungen) in den KI-Ergebnissen? Welche Schäden können entstehen?
- Rechtskonforme Nutzung: Wie wendest du DSGVO und AI Act praktisch an?
Da die nationalen Aufsichtsbehörden erst bis August 2025 vollständig etabliert sein müssen, liegt die Verantwortung für angemessene Schulungen derzeit bei deiner Schule. Dokumentiere alle Fortbildungen – das ist wichtig, um später Compliance nachweisen zu können!
Fazit: Verantwortung als Katalysator der Innovation
Die Integration von Künstlicher Intelligenz in den Schulalltag ist keine Option mehr, sondern eine Notwendigkeit. KI kann dir helfen, den Unterricht zu differenzieren, individuelle Lernwege zu fördern und deine eigene Vorbereitung effizienter zu gestalten.
Doch diese Chancen kommen mit der Pflicht zur Verantwortung. Der AI Act und die DSGVO sind nicht als Bremse gedacht, sondern als Schutzschild für die Rechte und Daten deiner Schülerinnen und Schüler. Dein Wissen und Handeln im Bereich KI und Datenschutz in der Schule ist entscheidend: Wähle bewusst datenschutzkonforme Tools (wie die über VIDIS oder eduCheck digital geprüften Angebote), sorge für Transparenz und bewahre dir die menschliche Aufsicht über KI-Entscheidungen, die das Leben deiner SuS betreffen.
Indem du diese Regeln beherzigst, verwandelst du die Komplexität des Datenschutzes in einen klaren Rahmen, der sichere und gerechte Innovation an deiner Schule ermöglicht. Sei der datenschutzbewusste Vorreiter in deinem Kollegium!
FAQ – Häufig gestellte Fragen zu KI und Datenschutz
Darf ich ChatGPT im Unterricht verwenden?
Die direkte Nutzung von ChatGPT (OpenAI) durch Schüler über die Website ist datenschutzrechtlich problematisch, da in der Regel US-Server verwendet werden und umfangreiche Metadaten erfasst werden. Besser sind datenschutzkonforme Alternativen wie schulKI oder fobizz, die speziell für den Bildungsbereich entwickelt wurden und EU-Server nutzen, um den Datenschutz in der Schule zu gewährleisten.
Benötige ich für jeden KI-Einsatz eine Einwilligung der Eltern?
Nein, nicht immer. Eine Einwilligung ist nur erforderlich, wenn:
- Die KI-Nutzung nicht durch Schulgesetze gedeckt ist.
- Personenbezogene Daten gespeichert und analysiert werden, die über das normale Maß hinausgehen.
- Die Nutzung freiwillig und nicht verpflichtend ist.
- Bei Unterrichtsmitteln, die über Schulaccounts und geprüfte Plattformen (wie VIDIS) genutzt werden, ist meist keine separate Einwilligung nötig.
Wie erkenne ich, ob ein KI-Tool DSGVO-konform ist?
Prüfe folgende Kriterien, um sicherzustellen, dass das Tool für den Einsatz von KI in der Schule geeignet ist:
- Serverstandort in der EU/Deutschland.
- Transparente Datenschutzerklärung in deutscher Sprache.
- Möglichkeit zur anonymen oder pseudonymen Nutzung.
- Keine dauerhafte Speicherung der eingegebenen Daten für das KI-Training.
- Zertifizierung durch eduCheck digital oder Auflistung bei VIDIS.
Muss ich als Lehrkraft eine KI-Schulung absolvieren?
Ja, seit dem 2. Februar 2025 besteht eine Schulungspflicht für alle Personen, die beruflich mit KI-Systemen arbeiten. Dies umfasst auch dich, wenn du KI im Unterricht oder für die Unterrichtsvorbereitung nutzt. Deine Schule ist verpflichtet, entsprechende Fortbildungen anzubieten und die Teilnahme zu dokumentieren.
Darf KI bei der Notengebung eingesetzt werden?
Nur unter strengsten Auflagen. KI-gestützte Notengebung gilt als Hochrisiko-Anwendung nach dem AI Act und erfordert:
- Systematische Risikobewertung und umfassende Dokumentation.
- Menschliche Aufsicht und Überprüfung aller KI-Entscheidungen (Human Oversight).
- Transparenz und die Möglichkeit zur Anfechtung und Korrektur durch SuS und Eltern.
- Experten raten derzeit von automatisierter Notengebung ab, da die rechtlichen Hürden extrem hoch sind.
Wie kennzeichne ich KI-generierte Inhalte richtig?
Verwende eine einheitliche, transparente Kennzeichnung:
- Kurze Beschreibung am Ende der Arbeit: „Unterstützung durch KI: ChatGPT wurde für die Ideenfindung und Textstrukturierung genutzt.“
- Quellenangabe nach schulischem Zitierstil: „OpenAI’s ChatGPT, 2024“
- Die Abgrenzung zwischen KI-generierten und eigenen Textpassagen muss deutlich erkennbar sein, damit die Bewertung fair bleibt.
Transparenz: Manche Links sind Affiliate-Links. Für Dich entstehen keine Kosten, aber wir erhalten eine kleine Provision zur Unterstützung unserer Arbeit.