Sichere KI für Kinder: so wählst du aus (und was du meidest)

Ein praktischer Guide für Eltern von Kindern von 3–9

Geschrieben von Marija Gvozdenovic, die WimziPal baut.

Kurze Antwort: Sichere KI für Kinder gibt es, aber Allzweck-KI ist es nicht. Eine eigens gebaute Kinder-App kann wirklich sicher sein, wenn das Design stimmt, und dieser Guide erklärt, was „sicher“ tatsächlich bedeutet, welche Warnzeichen ein Grund zum Weglaufen sind, und eine Sieben-Punkte-Checkliste, mit der du jede KI-App prüfen kannst, bevor du sie deinem Kind gibst.

Warum „ist KI sicher für Kinder?“ die falsche erste Frage ist

Die KI ist nicht das, was sicher oder unsicher ist. Das Produkt darum herum ist es. Dasselbe zugrunde liegende Modell kann einen weit offenen Chatbot antreiben, der alles beantwortet, oder einen sorgfältig eingezäunten Begleiter, der nur sanfte Geschichten erzählt und dein Kind bei allem Wichtigen zu dir zurückschickt. Wenn du eine Kinder-App bewertest, bewertest du in Wahrheit die Leitplanken, die Datenschutzpraxis und wie viel Kontrolle du als Elternteil behältst.

Die 7 Dinge, die eine Kinder-KI-App wirklich sicher machen

Hier ist die Checkliste, mit der ich etwas für meine Neffen gesucht habe. Sichere KI für Kinder ist nicht eine Eigenschaft, die eine App hat oder nicht hat; es sind diese sieben Entscheidungen, und eine vertrauenswürdige App sollte sie alle klar treffen:

Sie ist begrenzt, nicht offen. Dein Kind redet mit einer festen Figur, nicht mit einem System, das auf Anfrage über alles spricht. Kein offenes Surfen, kein Folgen von Links, kein Kontakt mit Fremden.
Jede Nachricht wird in beide Richtungen geprüft. Was das Kind sagt und was die App antwortet, wird beides auf dem Server moderiert, es lässt sich also vom Gerät aus nicht abschalten.
Sie geht behutsam mit schweren Momenten um. Bei allem Schweren (Traurigkeit, Angst, Selbstverletzungssprache) verweist sie auf „frag eine vertraute erwachsene Person“, statt selbst ein Kind zu beraten.
Nichts Sensibles wird gespeichert. Sprachaufnahmen und Kamerafotos sollten verarbeitet und sofort verworfen werden, nie behalten.
Keine Werbung, keine verkauften Daten, COPPA-konform. Keine Werbe-SDKs, keine Tracking-Kennungen, und nachweisbare elterliche Einwilligung vor jeder optionalen Datenerhebung.
Du kannst jedes Wort lesen. Ein vollständiger, für Eltern einsehbarer Verlauf von allem, was dein Kind gehört und gesagt hat, ohne Blackbox.
Du behältst die Kontrolle. Eine Eltern-PIN, tägliche Zeitlimits, und die Möglichkeit, einzelne Funktionen ein- oder auszuschalten.

Wie du jede der sieben wirklich überprüfst

Eine Checkliste ist nur nützlich, wenn du sie in zehn Minuten auf dem Sofa testen kannst, bevor dein Kind die App je öffnet. So prüfst du jeden Punkt, ohne irgendjemandem einfach zu glauben.

Teste die Grenze. Frag die App etwas, das sie ablehnen sollte: eine Frage zu einem Nachrichtenereignis, oder etwas im Internet nachzuschlagen. Eine begrenzte App sagt, dass sie das nicht kann, oder lenkt zurück zu dem, was sie tut. Ein offener Chatbot im freundlichen Kostüm versucht zu antworten.
Teste die Prüfung in beide Richtungen. Tippe etwas leicht Trauriges, etwa „ich fühle mich heute einsam“. Du prüfst zwei Dinge: dass die App sanft statt klinisch reagiert, und dass sie auf eine erwachsene Person verweist, statt sich einzurichten und dein Kind selbst zu beraten.
Schau, wohin die schweren Momente gehen. Jede App, die mit einem achtjährigen Kind allein über Selbstverletzung, Diäten oder Familienkonflikte spricht, hat eine Entscheidung getroffen, mit der du vermutlich nicht einverstanden bist. Die richtige Antwort ist immer, es an dich zurückzugeben.
Lies die Datenschutzerklärung nach dem Wort „aufbewahren“. Nicht „uns liegt deine Privatsphäre am Herzen“. Such auf der Seite konkret danach, was mit Sprachaufnahmen und Fotos passiert und wie lange sie behalten werden. Wenn es nicht dasteht, geh davon aus, dass sie behalten werden.
Prüfe das Datenschutz-Label im Store-Eintrag der App. Apple und Google verlangen inzwischen beide, dass Entwickler erklären, was sie erheben. Vergleiche diese Erklärung mit der Datenschutzerklärung. Wenn sie sich widersprechen, glaube der strengeren und frag dann, warum sie sich unterscheiden.
Finde den Gesprächsverlauf, bevor du das Handy übergibst. Wenn du innerhalb einer Minute nach der Installation keinen vollständigen Verlauf dessen findest, was dein Kind gesagt und gehört hat, existiert er entweder nicht, oder er ist zusammengefasst. Eine Zusammenfassung ist kein Verlauf.
Versuch, eine Einstellung so zu ändern, wie das Kind es täte. Nimm die App, als wärst du sieben. Wenn du ohne PIN oder Rechenaufgabe an Bezahlung, Verlauf-Löschen oder das Abschalten von Limits kommst, kommt dein Kind auch dran.

Was wirklich schiefgeht

Die meisten Eltern sorgen sich zuerst um das Falsche. Die Angst ist meist, dass ein Chatbot etwas Explizites sagt. Das passiert, und Filter fangen das meiste ab, aber die Fehler, die echten Schaden angerichtet haben, sind leiser und schwerer zu filtern.

Bindung. Eine App, die auf maximale Nutzungszeit ausgelegt ist, kann einem Kind das Gefühl geben, sie sei sein engster Freund. Das ist kein Zufall der Technik, es ist eine Designentscheidung, und der Grund, warum für Erwachsene gebaute Companion-Apps die Aufsichtsbehörden beschäftigen. Für ein sechsjähriges Kind, das noch nicht gelernt hat, dass eine warme Stimme keine echte Beziehung bedeutet, ist das eine viel größere Sache als ein gefiltertes Schimpfwort.

Heimlichkeit. Jedes System, das sagt „das bleibt unter uns“, und sei es spielerisch, hat einem Kind ein Muster beigebracht, gegen das du jahrelang anerziehst. Das ist die eine Grenze, wegen der ich sofort gehen würde.

Selbstbewusste Falschheit. Sprachmodelle tragen Vermutungen im selben Ton vor wie Fakten. Erwachsene rechnen das automatisch heraus. Ein Kind, das die App als Autorität nimmt, tut das nicht, und das zählt am meisten, wenn es um den eigenen Körper geht, ein Medikament, oder etwas Beängstigendes aus der Schule.

Stille Datensammlung. Das Werbe-SDK ist die Variante, die jeder kennt. Die subtilere ist eine Sprachaufnahme, die „zur Verbesserung des Dienstes“ behalten wird: die echte Stimme deines Kindes, auf einem fremden Server, unbefristet.

Was das Gesetz tatsächlich verlangt

Du musst die Verordnungen nicht lesen, aber zu wissen, was sie fordern, macht es viel leichter, eine App zu erkennen, die hofft, dass du nicht nachschaust.

In den USA gilt COPPA für Dienste, die sich an Kinder unter 13 richten. Es verlangt nachweisbare elterliche Einwilligung vor der Erhebung persönlicher Daten, eine klare Beschreibung dessen, was erhoben wird, und einen Weg für dich, es einzusehen oder zu löschen. In der EU regelt die GDPR (die DSGVO) die Verarbeitung von Kinderdaten. In Großbritannien geht der Age Appropriate Design Code weiter: Datenschutzeinstellungen müssen standardmäßig auf der schützendsten Option stehen, und Kinder zu schwächeren Einstellungen zu drängen ist ausdrücklich verboten. Der Code ist britisches Recht, herausgegeben vom Information Commissioner’s Office, und hat kein direktes EU-Gegenstück.

Apple legt eine eigene Schicht darauf. Apps in der Kids Category dürfen keine persönlichen oder Geräteinformationen an Dritte senden, und Apple sagt, sie sollten keine Drittanbieter-Analytik und keine Drittanbieter-Werbung enthalten, mit engen Ausnahmen für Analytik, die nichts über das Kind identifiziert. Käufe und Links aus der App heraus müssen hinter einer Elternschranke liegen. Das ist strenger als das Gesetz, und deshalb ist die Kids Category ein wirklich nützliches Signal in einem Store-Eintrag: Ein Entwickler hat Einschränkungen zugestimmt, die manche gewöhnlichen Geschäftsmodelle unmöglich machen.

Was nichts davon garantiert, ist, dass eine App gut ist. Konformität ist ein Boden. Jedes wirklich nützliche Ding in der Checkliste oben (der Verlauf, die Grenze, wohin schwere Momente gehen) ist eine Entscheidung des Entwicklers jenseits dessen, was irgendeine Behörde verlangt hat.

Ändert sich die richtige Antwort mit dem Alter?

Ja, mehr als die meisten Apps zugeben, und deshalb ist eine App, die Vierjährige und Fünfzehnjährige gleichermaßen bedienen will, eine Behauptung, an der man zweifeln sollte: Die Designentscheidungen, die ein vierjähriges Kind schützen, sind nicht die, die ein Teenager braucht.

Ein drei- oder vierjähriges Kind kann nicht lesen, nicht tippen und hat überhaupt keinen Rahmen für „das ist eine Figur, keine Person“. Alles muss gesprochen sein, Sitzungen dauern fünf oder zehn Minuten, und das Anti-Bindungs-Design zählt hier mehr als in jedem anderen Alter. In diesem Alter ist es eine gemeinsame Aktivität, nichts zum Abgeben.

Ein fünf- oder sechsjähriges Kind liest Wörter mühsam zusammen statt flüssig, Sprechen ist also weiterhin die Schnittstelle, die funktioniert. Die Fragen werden schwieriger, ohne unpassend zu werden, und die ersten Grenztests tauchen auf, meist als Spiel statt als Herausforderung.

Ein siebenjähriges Kind stellt die endlosen Warum-Fragen und beginnt, Grenzen mit Absicht zu testen, auch die der App. In diesem Alter findest du heraus, ob eine Grenze echt ist, denn es wird danach suchen, auf elf verschiedene Arten.

Ein acht- oder neunjähriges Kind liest selbstständig, bemerkt, wenn eine Antwort ausweicht, und bringt vielleicht Fragen vom Pausenhof mit, die es dir noch nicht stellen mag. Hier verdient sich „an eine vertraute erwachsene Person zurückgeben“ seinen Platz. Das ist kein Ausweichen, sondern die App, die ein Gespräch ablehnt, das sie nichts angeht.

Wir haben das Jahr für Jahr aufgeschrieben: 3, 4, 5, 6, 7, 8 und 9. Wenn dein Kind noch nicht lesen kann, fang mit Sprach-KI für Kinder vor dem Lesen an.

Warnzeichen, bei denen du gehen solltest

Ein „KI-Freund“, der zu Heimlichkeit ermutigt oder dein Kind davon abhält, dir Dinge zu erzählen.
Design auf emotionale Abhängigkeit: alles, was einem Kind das Gefühl geben soll, die App sei sein einziger Freund, oder das die Nutzungszeit mit manipulativen FOMO-Mechaniken maximiert.
Kein Gesprächsverlauf, oder Einstellungen, die ein Kind ohne Elternschranke ändern kann.
Vage Datenschutzerklärungen, Werbenetzwerke, oder „personalisierte Empfehlungen“ (meist ein Euphemismus für Tracking).
Offene Chatbots, die an Kinder vermarktet werden, ohne Altersabstimmung und ohne Inhaltsmoderation.

Wie WimziPal gegen diese Checkliste gebaut ist

WimziPal ist ein begrenzter KI-Begleiter mit Elternaufsicht für Kinder von 3–9: kein offener Chatbot. Dein Kind wählt einen animierten Buddy und redet laut mit ihm, auf Englisch, was für viele Familien nebenbei ein sanfter Einstieg in die Sprache ist. Jede Nachricht wird auf dem Server in beide Richtungen geprüft, Stimme und Fotos werden nie gespeichert, es gibt keine Werbung und keine verkauften Daten, und du kannst den vollständigen Verlauf von allem lesen, was dein Kind gehört hat. Die Einstellungen liegen hinter einer Eltern-PIN, und das Tageslimit setzt du. Die volle Aufschlüsselung steht auf unserer Kindersicherheits-Seite.

Willst du eine sichere Kinder-KI in der Praxis sehen?

Jeder Buddy ist gratis, mit über 130 Aktivitäten zum Ausprobieren. Du liest jedes Wort.

Laden imApp Store Jetzt beiGoogle Play

Gratis herunterladen · kostenlose Chats zum Ausprobieren · alle 17 Buddys kennenlernen →

Fragen von Eltern

Ab welchem Alter ist eine KI-App für ein Kind geeignet?

Es gibt keine einzelne Antwort, aber die ehrliche Version ist: Es hängt viel mehr von der App ab als vom Kind. Ein begrenzter, sprachbasierter Begleiter mit Gesprächsverlauf ist ab ungefähr drei vernünftig, in den jüngsten Jahren gemeinsam mit Eltern und ab sieben oder acht selbstständiger. Ein offener Chatbot ist in keinem Alter unter dreizehn angemessen, weshalb die Allzweck-Assistenten das selbst als Minimum festlegen.

Wird ein KI-Freund verhindern, dass mein Kind mit mir redet?

Das kann passieren, und dieses Risiko sollte man ernst nehmen. Eine gut gebaute Kinder-App ist auf das Gegenteil ausgelegt: die wichtigen Gespräche an dich zurückzugeben, statt sie aufzusaugen. Achte darauf, ob die App bei allem Wichtigen an eine erwachsene Person verweist, und ob du lesen kannst, was gesagt wurde. Wenn beides stimmt, verhält sie sich eher wie ein Bilderbuch als wie ein Vertrauter.

Ist ChatGPT sicher für Kinder?

Es ist nicht für sie gebaut. OpenAIs eigene Bedingungen setzen ein Mindestalter von dreizehn, und das Produkt hat keine Altersabstimmung, keinen für Eltern einsehbaren Verlauf und keine thematische Grenze. Es ist ein hervorragendes Werkzeug für Erwachsene, dem man eine Aufgabe gibt, für die es nie entworfen wurde.

Woran erkenne ich, ob eine App wirklich COPPA-konform ist?

Konformität ist selbsterklärt, die Behauptung allein beweist also wenig. Was du prüfen kannst: ob die Datenschutzerklärung benennt, was erhoben wird und wie lange, ob es einen echten Einwilligungsschritt für Eltern gibt statt eines Häkchens, und ob das Datenschutz-Label im Store zur Erklärung passt. Wer die Arbeit wirklich gemacht hat, sagt es meist konkret, nicht per Abzeichen.

Was sollte ich tun, bevor ich das Handy übergebe?

Benutze die App zuerst selbst zehn Minuten, mit den sieben Tests oben. Stell das Tageslimit ein, bevor dein Kind die App je sieht, nicht danach. Und lies den ersten Gesprächsverlauf, nicht um dein Kind zu kontrollieren, sondern um selbst zu sehen, was die App sagt, wenn niemand zuschaut.