Jede Nachricht deines Kindes, und jedes Wort, das der Buddy zurücksagt, durchläuft
fünf unabhängige Prüfungen. Hier steht genau, wonach jede einzelne sucht, der Reihe nach,
entlang einer einzigen Nachricht auf ihrem ganzen Weg. Gut zu wissen: Die Gespräche selbst
finden auf Englisch statt, denn die Buddys sprechen Englisch, und geprüft wird trotzdem jede
einzelne Nachricht.
Dein Kind spricht
oder tippt
Bevor dein Kind eine Antwort bekommt1
Die Sofort-Prüfung
Läuft auf unseren Servern in dem Moment, in dem die Nachricht ankommt, bevor die KI irgendetwas sieht.
Diese Prüfung läuft, bevor die KI irgendetwas sieht, und sie kann verhindern, dass eine Nachricht die KI erreicht. Sie sucht nach Dutzenden konkreter Situationen. Hier sind die, nach denen
Eltern am häufigsten fragen:
Zwei weitere Gruppen: ein Kind, dem etwas angetan wird, und ein Kind in einer Krise Ganze Liste zeigen
Ein Kind, dem etwas angetan wird
Zuhause geschlagen oder verletzt werden
Sexueller Missbrauch
Vernachlässigung: kein Essen, allein gelassen
Gewalt zwischen Erwachsenen
Eine überforderte Bezugsperson
Gemobbt werden
Ein Kind in einer Krise
Selbstverletzung
Nicht mehr leben wollen
Essstörungen
Kummer mit dem eigenen Körper
Weglaufen wollen
Jemand macht sich an dein Kind heran
Nach einem Treffen fragen
Fragen, wo es wohnt
Fragen, welche Schule
Nach Fotos fragen
Druck, ein Geheimnis vor dir zu haben
Geld oder Spielguthaben fürs Schweigen
„Dir würde sowieso niemand glauben“
Die eigene Sicherheit deines Kindes
Waffen
Feuer und Sprengstoff
Gefährliche Chemie
Drogen und Alkohol
Glücksspiel
Gefährliche Online-Challenges
Leichtsinnige Mutproben
Dinge, bei denen wir grundsätzlich nicht helfen
Sexuelle Inhalte
Hassrede
Extremismus
Stalking
Betrug und Identitätsdiebstahl
Cyberkriminalität
Tierquälerei
Blutige Gewalt
Die Hausaufgaben für sie erledigen
Schlägt sie bei etwas Ernstem an, sieht die KI die Nachricht nie.
Dein Kind bekommt sofort eine warme, sorgfältig formulierte Antwort, und das Gespräch kann
markiert und dir per E-Mail gemeldet werden.
2
Die unabhängige Inhaltsprüfung
Läuft parallel, während der Buddy nachdenkt, dein Kind wartet also nie darauf.
Jede Nachricht wird zusätzlich von einem separaten, unabhängigen Sicherheits-Klassifikator gelesen, der
sein Urteil unabhängig von allem oben fällt.
Manche Kategorien werden sofort eskaliert, statt im Gespräch behandelt zu werden:
Selbstverletzung und alles Sexuelle, das ein Kind betrifft, sind die deutlichsten Beispiele.
Der Buddy arbeitet eine Antwort aus
hier greift Prüfung 3
3
Der Buddy erkennt, was ihm erzählt wurde
Die Schicht, die die meiste Arbeit leistet, und sie ist gar kein Filter.
Wenn dein Kind dem Buddy etwas Ernstes erzählt, antwortet er warmherzig und verweist es
an eine erwachsene Person, der es vertraut. Diese Antwort ist selbst das Signal. Wenn
der Buddy einem Kind sagt, es solle mit Eltern, Lehrkraft oder Beratungsstelle über das sprechen, was es
gerade gesagt hat, kann dir das beim ersten Mal in einer Sitzung per E-Mail gemeldet werden.
Das ist wichtig, denn Kinder kündigen ein Problem selten an. Sie erwähnen eine Routine oder
etwas, das nebenbei passiert ist. Keine Wortliste fängt das ein, also hören wir darauf, was
die KI tut, nicht nur darauf, was sie erkennt.
Bevor dein Kind die Antwort hört4
Die Antwort-Prüfung
Jede Antwort wird untersucht, bevor sie je laut ausgesprochen wird.
Konkret entfernen wir:
Schule, Straße oder vollen Namen deines Kindes wiederholen
Versprechen, dass der Buddy auf das Kind wartet
Einem Kind sagen, es sei unbedenklich, echte persönliche Angaben zu verraten
Anleitungen zu Aktionen, die er gerade selbst als gefährlich bezeichnet hat
Hausaufgaben-Antworten, die er gerade verweigert hat
Alles, was nach „das bleibt unter uns“ klingt
Eine gruseligere Version, wenn eine verlangt wird
Es gibt auch eine sanftere Regel: Wenn ein Kind sagt, dass es etwas Echtes
ausfallen lässt, um weiterzuspielen, muss die Antwort es zurück nach draußen lenken.
5
Die letzte Inhaltsprüfung
Der letzte Schritt, bevor dein Kind irgendetwas hört.
Derselbe unabhängige Klassifikator aus Schritt 2, diesmal liest er die eigenen Worte des Buddys.
Der Buddy spricht laut
erst jetzt hört dein Kind etwas
Sofort
Wenn etwas markiert wird
E-Mails werden nie gesammelt. Wenn eine rausgeht, geht sie in dem Moment raus, in dem das
Gespräch passiert, nicht zusammengefasst und nicht bis zum Morgen zurückgehalten, und sie nennt,
welches Kind, sodass du in der App direkt zum markierten Gespräch springen kannst.
Jedes markierte Gespräch wird aufgezeichnet und wartet im Verlauf auf dich. Das passiert immer.
Bei den ernsten Kategorien (Selbstverletzung, Missbrauch, Grooming, Kontaktaufnahme durch
Fremde, ein Verdacht auf Essstörung) kann dir das Gespräch zusätzlich per E-Mail gemeldet werden. Wir sind bewusst
vorsichtig damit, welche Erkennungen diese E-Mail auslösen, solange wir messen, wie sie sich bei
echten Kindern verhalten, denn ein Fehlalarm über die Sicherheit deines Kindes ist selbst eine
Art Schaden. So oder so ist das Gespräch markiert und wartet auf dich, es geht also nichts
verloren. Bei allem anderen kann höchstens beim ersten markierten Gespräch einer
Sitzung eine E-Mail kommen; der Rest der Sitzung wird weiter markiert und wartet im Verlauf, du bekommst nur nicht
zweimal in zehn Minuten eine E-Mail.
Du siehst dann den Austausch selbst: die tatsächlichen Worte, keine Zusammenfassung und kein
Kategorien-Etikett, damit du selbst beurteilen kannst, was passiert ist, und entscheidest, was zu tun ist.
Auf keine einzelne Schicht wird allein vertraut, und die
mit dem meisten Gewicht (das eigene Erkennen des Buddys) ist die, die Bedeutung liest statt
nur Wörter.
Fragen, die Eltern zu den Prüfungen stellen
Werden die Gespräche meines Kindes mit der KI überwacht?
Ja. Jede Nachricht deines Kindes, und jedes Wort, das der Buddy zurücksagt, durchläuft fünf unabhängige Prüfungen auf unseren Servern, auf dem Hinweg und auf dem Rückweg. Als Elternteil kannst du außerdem hinter der Eltern-PIN den vollständigen Verlauf jedes Gesprächs lesen.
Erfahre ich es, wenn mein Kind der KI etwas Beunruhigendes sagt?
Du kannst es immer sehen. Jedes markierte Gespräch wird im Verlauf mit den echten Worten deines Kindes festgehalten, und bei den ernsten Kategorien kann es dir zusätzlich per E-Mail gemeldet werden. Das funktioniert auf zwei Wegen: über eine Prüfung, die läuft, bevor die KI die Nachricht überhaupt sieht, und über ein zweites Signal aus dem Verhalten des Buddys selbst. Wenn der Buddy ein Kind wegen etwas gerade Gesagtem an Eltern, Lehrkraft oder Beratungsstelle verweist, wird auch das markiert.
Kann eine gefährliche Nachricht die KI erreichen?
Die erste Prüfung läuft auf unseren Servern in dem Moment, in dem eine Nachricht ankommt, bevor die KI irgendetwas sieht, und sie ist die einzige Prüfung, die eine Nachricht komplett von der KI fernhalten kann. Schlägt sie bei etwas Ernstem an, sieht die KI die Nachricht nie, und dein Kind bekommt stattdessen sofort eine warme, sorgfältig formulierte Antwort.
Auf welche Dinge achtet WimziPal?
Die erste Prüfung sucht nach 34 konkreten Situationen, gruppiert in: ein Kind, dem etwas angetan wird, ein Kind in einer Krise, jemand, der sich an dein Kind heranmacht, die eigene Sicherheit deines Kindes, und Dinge, bei denen wir grundsätzlich nicht helfen. Dazu gehören Missbrauch und Vernachlässigung, Selbstverletzung und Essstörungen, eine erwachsene Person, die ein Treffen will oder auf ein Geheimnis drängt, Waffen und gefährliche Challenges, sowie sexuelle Inhalte, Hassrede und Extremismus.
Macht die Sicherheitsprüfung den Buddy langsam?
Nein. Die unabhängige Inhaltsprüfung läuft parallel, während der Buddy seine Antwort ausarbeitet, dein Kind wartet also nie darauf.
Verlässt sich WimziPal nur auf eine Liste verbotener Wörter?
Nein, und das ist wichtig, denn Kinder kündigen ein Problem selten an. Sie erwähnen eine Routine oder etwas, das nebenbei passiert ist, und keine Wortliste fängt das ein. Neben den Prüfungen auf Wortebene hört WimziPal darauf, was die KI tut, statt nur darauf, was sie erkennt, und behandelt die Entscheidung des Buddys, ein Kind an eine vertraute erwachsene Person zu verweisen, als eigenes Signal.
