Cada mensaje que envía tu hijo, y cada palabra que responde el amiguito, pasa por
cinco revisiones independientes. Aquí está exactamente qué busca cada una, en orden,
siguiendo un solo mensaje de principio a fin. Las conversaciones son en inglés; las
revisiones son las mismas para cada mensaje.
Tu hijo habla
o escribe
Antes de que tu hijo reciba una respuesta1
La revisión instantánea
Corre en nuestros servidores en cuanto llega el mensaje, antes de que la IA vea nada.
Es la única revisión capaz de impedir por completo que un mensaje llegue a la IA. Busca 34 situaciones concretas. Estas son las que
más preguntan los padres:
Dos grupos más: un niño que sufre daño, y un niño en crisis Ver la lista completa
Un niño que sufre daño
Golpes o daño en casa
Abuso sexual
Negligencia: sin comida, dejado solo
Violencia entre adultos
Un cuidador que no puede más
Acoso escolar
Un niño en crisis
Autolesión
No querer estar vivo
Trastornos alimentarios
Angustia por la imagen corporal
Querer escapar de casa
Alguien acercándose a tu hijo
Pedir encontrarse
Preguntar dónde vive
Preguntar a qué escuela va
Pedir fotos
Presión para guardarte un secreto
Dinero o créditos de juego por callar
«Nadie te creería»
La propia seguridad de tu hijo
Armas
Fuego y explosivos
Química peligrosa
Drogas y alcohol
Apuestas
Retos peligrosos en internet
Desafíos imprudentes
Cosas con las que simplemente no ayudamos
Contenido sexual
Discurso de odio
Extremismo
Acecho
Estafas y robo de identidad
Cibercrimen
Crueldad con los animales
Contenido sangriento
Hacerles la tarea
Cuando coincide con algo serio, la IA nunca ve el mensaje.
Tu hijo recibe al momento una respuesta cálida y escrita con cuidado, y a ti
te avisamos de inmediato.
2
La revisión de contenido independiente
Corre al mismo tiempo que el amiguito piensa, así que tu hijo nunca la espera.
Cada mensaje también lo lee un clasificador de seguridad aparte, de OpenAI, que llega
a su propio veredicto con independencia de todo lo anterior.
Escala de inmediato ante cuatro cosas: autolesión, intención de autolesión, instrucciones
para autolesionarse y contenido sexual que involucre a niños.
El amiguito prepara una respuesta
aquí vive la revisión 3
3
El amiguito reconoce lo que le han contado
La capa que hace el mayor trabajo, y no es un filtro en absoluto.
Cuando tu hijo le cuenta al amiguito algo serio, este responde con calidez y lo dirige
hacia un adulto de su confianza. Esa respuesta es en sí misma la señal. Cuando
el amiguito le dice a un niño que hable con un padre, maestro o consejero sobre lo que acaba
de contar, a ti te avisamos de inmediato.
Esto importa porque los niños casi nunca anuncian un problema. Mencionan una rutina, o
algo que pasó, como de pasada. Ninguna lista de palabras atrapa eso, así que escuchamos lo que
la IA hace, no solo lo que coincide.
Antes de que tu hijo escuche la respuesta4
La revisión de la respuesta
Cada respuesta se examina antes de decirse en voz alta.
En concreto, eliminamos:
Repetir la escuela, la calle o el nombre completo de tu hijo
Promesas de que el amiguito lo estará esperando
Decirle a un niño que un dato real es seguro de compartir
Indicaciones físicas que acaba de llamar inseguras
Respuestas de tarea que acaba de negarse a dar
Cualquier cosa que suene a «que quede entre nosotros»
Una versión más aterradora cuando se la piden
Hay una más suave también: si un niño dice que se está saltando
algo real para seguir jugando, la respuesta tiene que mandarlo de vuelta afuera.
5
La revisión final de contenido
Lo último que ocurre antes de que tu hijo escuche nada.
El mismo clasificador independiente del paso 2, esta vez leyendo las propias palabras del amiguito.
El amiguito habla en voz alta
solo ahora lo escucha tu hijo
Al momento
Cuando algo se marca
Los correos nunca se agrupan. Cuando sale uno, se envía en el momento en que ocurre
la conversación, sin resúmenes y sin esperar hasta la mañana, y nombra a qué hijo se refiere,
para que vayas directo a la conversación marcada en la app.
Cada conversación marcada queda registrada y esperándote en la transcripción. Eso pasa siempre.
En las categorías serias (autolesión, abuso, grooming, un desconocido haciendo contacto, una
preocupación por trastorno alimentario) además te enviamos un correo. Somos deliberadamente
cuidadosos con qué detecciones activan ese correo mientras medimos cómo se comportan con niños
reales, porque una falsa alarma sobre la seguridad de tu hijo es en sí misma una forma de daño.
En cualquier caso la conversación queda marcada y esperándote, así que nada se pierde. Para todo
lo demás, recibes un correo la primera vez que se marca una conversación en una sesión; el resto
de esa sesión queda igualmente marcado y esperando en la transcripción, solo que no te
escribimos dos veces en diez minutos.
Después ves el intercambio en sí: las palabras reales, no un resumen ni una etiqueta de
categoría, para que juzgues por ti misma qué pasó y decidas qué hacer.
Ninguna capa se usa sola, y la que
carga con más peso (el propio reconocimiento del amiguito) es la que lee el significado
y no las palabras.
Preguntas que hacen los padres sobre las revisiones
¿Se supervisan las conversaciones de mi hijo con la IA?
Sí. Cada mensaje que envía tu hijo, y cada palabra que responde el amiguito, pasa por cinco revisiones independientes en nuestros servidores, a la entrada y a la salida. Como padre o madre, además puedes leer la transcripción completa de cada conversación detrás del PIN parental.
¿Me avisarán si mi hijo le dice algo preocupante a la IA?
Siempre puedes verlo. Cada conversación marcada queda registrada en la transcripción con las palabras reales de tu hijo, y en las categorías serias además te enviamos un correo en el momento. Funciona de dos maneras: una revisión que corre antes de que la IA vea el mensaje siquiera, y una segunda señal tomada del propio comportamiento del amiguito, de modo que cuando el amiguito dirige a un niño hacia un padre, maestro o consejero por algo que acaba de contar, tú te enteras.
¿Puede un mensaje peligroso llegar a la IA?
La primera revisión corre en nuestros servidores en cuanto llega el mensaje, antes de que la IA vea nada, y es la única capaz de impedir por completo que un mensaje llegue a la IA. Cuando coincide con algo serio, la IA nunca ve el mensaje, y tu hijo recibe en su lugar, al momento, una respuesta cálida y escrita con cuidado.
¿Qué tipo de cosas vigila WimziPal?
La primera revisión busca 34 situaciones concretas, agrupadas en: un niño que sufre daño, un niño en crisis, alguien acercándose a tu hijo, la propia seguridad de tu hijo y cosas con las que no ayudamos en absoluto. Cubren abuso y negligencia, autolesión y trastornos alimentarios, un adulto que pide encontrarse con un niño o lo presiona a guardar un secreto, armas y retos peligrosos, y contenido sexual, discurso de odio y extremismo.
¿La revisión de seguridad hace que el amiguito responda lento?
No. La revisión de contenido independiente corre al mismo tiempo que el amiguito prepara su respuesta, así que tu hijo nunca la espera.
¿WimziPal depende solo de una lista de palabras prohibidas?
No, y esto importa porque los niños casi nunca anuncian un problema. Mencionan una rutina, o algo que pasó, como de pasada, y ninguna lista de palabras atrapa eso. Junto a las revisiones a nivel de palabras, WimziPal escucha lo que la IA hace y no solo lo que coincide, tratando la propia decisión del amiguito de dirigir a un niño hacia un adulto de confianza como una señal por derecho propio.
