KI in der Kita & im Kindergarten rechtssicher nutzen (DSGVO + EU AI Act)
Wofür KI in der Kita sinnvoll ist (mit Beispielen) und was in Kitas mit KI nicht erlaubt ist (rechtlich & praktisch)
Außerdem: KI-Kompetenz – Was die EU-KI-Verordnung verlangt
Zusammenfassung: KI in der Kita
- KI ist grundsätzlich nutzbar - aber nicht „einfach so“.
- Keine personenbezogenen Daten (Kinder, Eltern, Mitarbeitende) in öffentliche KI-Tools eingeben.
- Ergebnisse immer menschlich prüfen (KI kann halluzinieren/irren).
- Träger sollten KI-Kompetenz sicherstellen (EU AI Act) und Datenschutz/Verträge klären (DSGVO).
- Am besten mit KI-Richtlinie + Schulung + Tool-Freigabeprozess starten.
Künstliche Intelligenz findet auch in Kitas zunehmend Anwendung und bietet vielfältige Chancen – von der Unterstützung bei der Vorbereitung pädagogischer Inhalte bis hin zur Optimierung von Verwaltungsaufgaben, wie der Erstellung von Standardtexten.
Damit diese Potenziale voll ausgeschöpft werden können, ist jedoch eine fundierte KI-Kompetenz notwendig. Gleichzeitig müssen rechtliche Vorgaben, insbesondere im Hinblick auf den Datenschutz eingehalten werden.
Wenn Sie mehr Unterstützung benötigen, bieten wir Ihnen weiterführende Schulungen für KI-Kompetenz in Kitas und die Möglichkeit, einen externen Datenschutzbeauftragten zu engagieren.
Gesetzlich vorgeschriebene KI-Kompetenz in Kitas:
Die KI-Verordnung schreibt in Art. 4 EU AI Act vor, dass Nutzer*innen von KI über „KI-Kompetenz“ verfügen müssen, d. h. KI verstehen, kritisch hinterfragen und verantwortungsvoll einsetzen können müssen.
Pädagogische Fachkräfte sollten wissen:
- Wofür sind KI-Systeme geeignet und wofür nicht?
- Wie nutzt man die Tools richtig?
- Wie werden Ergebnisse kritisch überprüft und Fehlinformationen erkannt?
- Welche rechtlichen Grundlagen und Datenschutzpflichten gelten?
Die Schulung „KI-Kompetenz in Kitas“ von KitaShield vermittelt Grundlagenwissen, um KI-Tools in der Kita kompetent, sicher und praxisnah zu nutzen.
Zum Gesetzestext: Artikel 4 Verordnung über Künstliche Intelligenz (Verordnung (EU) 2024/1689), amtliche Fassung vom 13. Juni 2024‘.
Beschäftigte befähigen, Unsicherheiten nehmen und schnell Risiken reduzieren
Ihr spezialisierter Datenschutz- und IT Security-Beauftragter für die Kita
Vorab: Die Nutzung von KI ist nicht verboten!
Aber sie will sicher, datenschutzkonform und verantwortungsvoll erfolgen. Denn wer KI in der Kita nutzt, muss die rechtlichen Rahmenbedingungen kennen und Risiken einschätzen können.
Wo KI in der Kita helfen kann
Künstliche Intelligenz kann pädagogische Fachkräfte im Alltag entlasten und neue Impulse geben. Wichtig ist, dass die Nutzung bewusst und datensparsam erfolgt. Beispiele für sinnvolle Anwendungen sind:
- Erstellung und Formulierung von Elterninformationen
Etwa für Aushänge, Newsletter oder Einladungen zu Elternabenden. - Übersetzungen in verschiedene Sprachen
Für eine inklusive Kommunikation mit Familien mit unterschiedlichem Sprachhintergrund. - Verfassen von Lerngeschichten oder Portfolio-Texten
KI kann bei der Formulierung unterstützen, ohne personenbezogene Daten zu verarbeiten. - Zusammenfassung von behördlichen Schreiben und Anforderungen
So behalten Kita-Leitungen den Überblick über komplexe Vorgaben. - Inspiration für Spiele, Projekte und Veranstaltungen
Kreative Ideen lassen sich mit KI leicht erweitern und anpassen.
Was beim Einsatz von KI in der Kita problematisch ist
Nicht alles, was technisch möglich ist, ist auch erlaubt oder sinnvoll.
Im pädagogischen Bereich gelten besondere Schutzpflichten, vor allem gegenüber Kindern.
- Keine Nutzung als Suchmaschine
Große Sprachmodelle wie ChatGPT sind keine verlässlichen Quellen. Sie können „halluzinieren“ und falsche Informationen liefern. Insbesondere wenn es um die Beurteilung von Symptomen oder ähnlichem geht, müssen verlässliche Quellen genutzt werden. - Keine Entscheidungen über Menschen durch KI
Einschätzungen, Bewertungen oder Entscheidungen über Kinder, Eltern oder Mitarbeitende dürfen niemals KI-basiert erfolgen. - Verbotene KI-Anwendungen
Etwa Systeme zur Ableitung von Emotionen oder Verhaltensanalyse sind gesetzlich verboten. - Hochrisiko-KI
Einige KI-Systeme (z. B. für Zugangssteuerung, Leistungsbewertung oder Verhaltensüberwachung) sind nur unter strengen Auflagen erlaubt. Meist nur mit professioneller Unterstützung.
EU AI Act in Kitas: Was gilt konkret?
Der EU AI Act (EU-Verordnung über Künstliche Intelligenz) schafft Regeln dafür, wie KI-Systeme in der EU eingesetzt werden dürfen. Für Kitas und Träger sind vor allem drei Punkte wichtig: KI-Kompetenz, verbotene Praktiken und die Einordnung des Einsatzfalls (Risiko/Schutzbedarf).
KI-Kompetenz (Art. 4): Was Träger nachweisen sollten
Der EU AI Act verlangt, dass Organisationen, die KI einsetzen, ausreichende KI-Kompetenz bei den Personen sicherstellen, die mit KI arbeiten. Für Kitas bedeutet das nicht „alle müssen IT-Profis werden“, sondern: Mitarbeitende sollen Chancen, Grenzen und Risiken verstehen und KI sicher anwenden.
Rollenbezogene Schulung (Leitung/Verwaltung/Team unterschiedlich tief)
Inhalte: Datenschutz-Basics, No-Go-Daten, Prompt-Regeln, Qualitätsprüfung, Bias/Fehler, Dokumentation
Wiederholung (z. B. jährlich oder bei Tool-Wechsel)
Teilnahme/Kompetenz dokumentieren (Liste, Kurztest oder Leitfaden-Unterschrift)
Verantwortlichkeiten festlegen (z. B. „KI-Beauftragte*r“/Ansprechperson)
Sofort-Start (Minimalstandard):
- 60-Min-Grundschulung
- kurze Richtlinie
- Beispiel-Prompts ohne personenbezogene Daten
- Freigabe, welche Tools genutzt werden dürfen
Verbotene und problematische Anwendungen (Art. 5): Was Kitas nicht einsetzen sollten
Der EU AI Act enthält verbotene KI-Praktiken. Im Kita-Kontext ist entscheidend: Systeme, die Kinder oder Beschäftigte bewerten, einordnen oder beeinflussen können, sind besonders sensibel.
Emotionserkennung oder „Stimmungsanalyse“ von Kindern/Beschäftigten (Kamera/Mikrofon)
Social Scoring oder automatisierte „Einstufungen“ (z. B. „Risikokind“, „schwierige Eltern“)
Manipulative Systeme, die Verhalten unbemerkt steuern sollen
Biometrische Auswertungen (z. B. Gesichtserkennung/Profiling)
Zum Gestetzestext: Artikel 5 Verordnung über Künstliche Intelligenz (Verordnung (EU) 2024/1689), amtliche Fassung vom 13. Juni 2024‘.
Einordnung für die Praxis: Was heißt das für ChatGPT & Co.?
Für viele typische Kita-Use-Cases (z. B. Textentwürfe für Elterninfos, Übersetzungen, Ideen für Angebote) gilt: niedrigeres Risiko, wenn ihr konsequent auf Datenschutz achtet und Ergebnisse prüft.
Aber: Sobald KI personenbezogene Daten verarbeitet oder Entscheidungen vorbereitet (z. B. „Auffälligkeiten“, „Entwicklung“, „Konfliktverhalten“), steigen die Anforderungen massiv. Dann braucht ihr klare Prozesse, Dokumentation und ggf. datenschutzrechtliche Prüfungen.
Vor dem Einsatz: Diese Fragen sollten Sie sich stellen
Bevor ein KI-Tool in der Kita eingesetzt wird, sollte die Einrichtung kritisch prüfen:
- Können wir das Tool ohne personenbezogene Daten nutzen?
- Wo werden die Daten verarbeitet? Idealerweise innerhalb der EU.
- Gibt es einen Auftragsverarbeitungsvertrag (AVV)?
- Haben wir die volle Kontrolle über die Daten? Wird kein Training mit unseren Inhalten durchgeführt?
- Haben wir Risiken erkannt und Maßnahmen zur Minimierung getroffen? z. B. eine Nutzungsrichtlinie
Nur wenn alle Fragen positiv beantwortet werden können, ist der Einsatz datenschutzkonform und vertretbar.
Dabei unterstütze ich Sie gerne.