IA segura para crianças: como escolher (e o que evitar)

Um guia prático para pais de crianças de 3 a 9 anos

Escrito por Marija Gvozdenovic, que constrói o WimziPal.

Resposta curta: IA segura para crianças existe, mas a IA de uso geral não é isso. Um app infantil feito de propósito pode ser genuinamente seguro quando o design está certo, e este guia explica o que "seguro" quer dizer de verdade, os sinais de alerta que pedem para você desistir, e uma lista de sete pontos para avaliar qualquer app de IA antes de entregá-lo ao seu filho.

Por que "a IA é segura para crianças?" é a primeira pergunta errada

A IA não é a coisa que é segura ou insegura. O produto construído em volta dela é. O mesmo modelo de base pode alimentar um chatbot escancarado que responde qualquer coisa, ou um companheiro cuidadosamente cercado que só conta histórias suaves e aponta seu filho de volta para você em tudo o que importa. Quando você avalia um app infantil, está avaliando de verdade as proteções, as práticas de privacidade e quanto controle fica com você como responsável.

As 7 coisas que tornam um app de IA infantil realmente seguro

Esta é a lista que usei procurando algo para os meus sobrinhos. IA segura para crianças não é uma propriedade que um app tem ou não tem; são estas sete decisões, e um app confiável deve tomar claramente todas elas:

É delimitado, não aberto. Seu filho conversa com um personagem fixo, não com um sistema que discute qualquer coisa a pedido. Sem navegação na web, sem seguir links, sem contato com estranhos.
Cada mensagem é verificada nos dois sentidos. O que a criança diz e o que o app responde passam pela moderação no servidor, então isso não pode ser desligado pelo aparelho.
Ele lida bem com os momentos difíceis. Para qualquer coisa pesada (tristeza, medo, linguagem de automutilação), ele redireciona para "pergunte a um adulto de confiança" em vez de tentar aconselhar uma criança por conta própria.
Nada sensível é armazenado. Gravações de voz e fotos da câmera devem ser processadas e descartadas imediatamente, nunca guardadas.
Sem anúncios, sem venda de dados, em conformidade com a COPPA. Sem SDKs de publicidade, sem identificadores de rastreamento e com consentimento parental verificável antes de qualquer coleta opcional de dados.
Você pode ler cada palavra. Uma transcrição completa, visível aos pais, de tudo o que seu filho ouviu e disse, sem caixa-preta.
Você continua no controle. Um PIN parental, limites diários de tempo e a possibilidade de ligar ou desligar recursos individualmente.

Como checar cada um dos sete na prática

Uma lista só é útil se você consegue testá-la em dez minutos no sofá, antes de seu filho abrir o app pela primeira vez. Veja como checar cada ponto sem aceitar a palavra de ninguém.

Teste a fronteira. Pergunte ao app algo que ele deveria recusar: uma pergunta sobre um acontecimento do noticiário, ou que ele busque algo na internet. Um app delimitado vai dizer que não pode, ou voltar ao que ele faz. Um chatbot aberto com fantasia de simpático vai tentar responder.
Teste a verificação nos dois sentidos. Digite algo um pouco triste, como "estou me sentindo sozinho hoje". Você está checando duas coisas: que o app responde com gentileza em vez de frieza clínica, e que ele aponta para um adulto em vez de se acomodar para aconselhar seu filho por conta própria.
Veja para onde vão os momentos difíceis. Qualquer app disposto a discutir automutilação, dieta ou conflito familiar com uma criança de oito anos por conta própria tomou uma decisão da qual você provavelmente discorda. A resposta certa é sempre devolver o assunto a você.
Leia a política de privacidade procurando a palavra "reter". Não "nós nos importamos com a sua privacidade". Procure na página o que acontece especificamente com gravações de voz e fotos, e por quanto tempo são mantidas. Se não estiver dito, assuma que são mantidas.
Confira o rótulo de privacidade na página da loja. Tanto a Apple quanto o Google agora exigem que os desenvolvedores declarem o que coletam. Compare essa declaração com a política de privacidade. Se divergirem, acredite na mais rígida e depois pergunte por que diferem.
Encontre a transcrição antes de entregar o celular. Se você não consegue localizar um histórico completo do que seu filho disse e ouviu em um minuto após instalar, ou ele não existe, ou é resumido. Um resumo não é uma transcrição.
Tente mudar uma configuração como a criança faria. Pegue o app como se você tivesse sete anos. Se você consegue chegar à cobrança, apagar o histórico ou desligar os limites sem encontrar um PIN ou uma continha de matemática, ela também consegue.

O que dá errado, de verdade

A maioria dos pais se preocupa primeiro com a coisa errada. O medo costuma ser que um chatbot diga algo explícito. Isso acontece, e os filtros pegam a maior parte, mas as falhas que causaram dano real são mais silenciosas e mais difíceis de filtrar.

Apego. Um app desenhado para maximizar o tempo de uso pode fazer uma criança sentir que ele é seu melhor amigo. Isso não é um acidente da tecnologia; é uma escolha de design, e é a razão pela qual apps de companhia feitos para adultos atraíram atenção regulatória. Para uma criança de seis anos, que ainda não aprendeu que uma voz calorosa não significa um relacionamento real, é um problema muito maior do que um palavrão filtrado.

Segredo. Qualquer sistema que diga "fica só entre nós", mesmo de brincadeira, ensinou à criança um padrão que você passa anos ensinando-a a resistir. Esta é a única linha pela qual eu abandonaria um app na hora.

Erro dito com confiança. Modelos de linguagem afirmam palpites no mesmo tom de fatos. Um adulto desconta isso automaticamente. Uma criança que trata o app como autoridade, não, e isso importa mais quando a pergunta é sobre o próprio corpo, um remédio ou algo assustador que ela ouviu na escola.

Coleta silenciosa de dados. O SDK de publicidade é a versão que todo mundo conhece. A mais sutil é uma gravação de voz mantida "para melhorar o serviço": a voz real do seu filho, no servidor de outra pessoa, por tempo indefinido.

O que a lei realmente exige

Você não precisa ler os regulamentos, mas saber o que eles exigem torna muito mais fácil identificar um app torcendo para você não conferir.

Nos Estados Unidos, a COPPA cobre serviços dirigidos a menores de 13 anos. Ela exige consentimento parental verificável antes de coletar informações pessoais, uma descrição clara do que é coletado e um meio de você revisar ou apagar. Na União Europeia, o GDPR define as regras para o tratamento de dados de crianças, e no Brasil a LGPD exige que dados de crianças sejam tratados no melhor interesse delas, com consentimento específico e destacado de um dos pais ou responsável. No Reino Unido, o Age Appropriate Design Code vai além: as configurações de privacidade devem vir por padrão na opção mais protetora, e empurrar crianças para configurações mais fracas é explicitamente proibido. O Code é lei britânica, emitida pelo Information Commissioner's Office, e não tem equivalente direto na UE.

A Apple adiciona a própria camada. Apps na categoria Kids não podem enviar informações pessoais ou do aparelho a terceiros, e a Apple diz que eles não devem incluir analytics nem publicidade de terceiros, com exceções estreitas para analytics que não identifiquem nada sobre a criança. Compras e links para fora do app precisam ficar atrás de uma barreira parental. Isso é mais rígido do que a lei, e é por isso que a categoria Kids é um sinal genuinamente útil em uma página de loja: o desenvolvedor aceitou restrições que tornam alguns modelos de negócio comuns impossíveis.

O que nada disso garante é que um app seja bom. Conformidade é um piso. Cada coisa genuinamente útil da lista acima (a transcrição, a fronteira, para onde vão os momentos difíceis) é uma escolha que o desenvolvedor fez além do que qualquer regulador exigiu.

A resposta certa muda com a idade?

Sim, mais do que a maioria dos apps admite, e é por isso que um app que diz servir igualmente a crianças de quatro anos e adolescentes de quinze está fazendo uma afirmação que merece dúvida: as escolhas de design que protegem uma criança de quatro anos não são as que um adolescente precisa.

Uma criança de três ou quatro anos não lê, não digita e não tem estrutura nenhuma para "isto é um personagem, não uma pessoa". Tudo precisa ser falado, as sessões duram cinco ou dez minutos, e o design contra o apego importa mais aqui do que em qualquer outra idade. Nessa idade é uma atividade compartilhada, não algo para entregar.

Uma de cinco ou seis anos está soletrando em vez de ler com fluência, então a voz ainda é a interface que funciona. As perguntas ficam mais difíceis sem ficarem inadequadas, e os primeiros testes de limite aparecem, geralmente como um jogo, não como um desafio.

Uma de sete anos faz as infinitas perguntas de "por quê" e começa a testar limites de propósito, incluindo os do app. Esta é a idade em que você descobre se uma fronteira é real, porque ela vai procurá-la, de onze jeitos diferentes.

Uma de oito ou nove anos lê sozinha, vai notar quando uma resposta é evasiva e pode estar trazendo perguntas do recreio que ainda não está pronta para fazer a você. É aqui que "redirecionar a um adulto de confiança" mostra seu valor. Não é esquiva, é o app recusando uma conversa que ele não tem por que ter.

Escrevemos isto ano a ano: 3, 4, 5, 6, 7, 8 e 9. Se seu filho ainda não sabe ler, comece por IA por voz para quem ainda não lê.

Sinais de alerta que pedem para você desistir

Um "amigo de IA" que incentiva segredos, ou desencoraja seu filho de contar coisas a você.
Design de dependência emocional: qualquer coisa construída para fazer a criança sentir que o app é seu único amigo, ou para maximizar o tempo de uso com mecânicas manipuladoras de urgência.
Sem transcrição, ou configurações que uma criança consegue mudar sem uma barreira parental.
Políticas de privacidade vagas, redes de anúncios ou "recomendações personalizadas" (geralmente um eufemismo para rastreamento).
Chatbots abertos anunciados para crianças sem ajuste de idade e sem moderação de conteúdo.

Como o WimziPal se sai nessa lista

O WimziPal é um companheiro de IA delimitado e supervisionado pelos pais, para crianças de 3 a 9 anos: não é um chatbot aberto. Seu filho escolhe um amiguinho animado e conversa com ele em voz alta, em inglês, o que para muitas famílias é também um contato carinhoso com o idioma. Cada mensagem é verificada no servidor nos dois sentidos, voz e fotos nunca são armazenadas, não há anúncios nem venda de dados, e você pode ler a transcrição completa de tudo o que seu filho ouviu. As configurações ficam atrás de um PIN parental, e o limite diário é você quem define. Você pode ler o detalhamento completo na nossa página de segurança infantil.

Quer ver uma IA infantil segura na prática?

Todos os amiguinhos são gratuitos, com mais de 130 atividades para experimentar. Você lê cada palavra.

Baixar naApp Store Disponível noGoogle Play

Grátis para baixar · conversas gratuitas para experimentar · conheça os 17 amiguinhos →

Perguntas que os pais fazem

A partir de que idade um app de IA é apropriado para uma criança?

Não há resposta única, mas a versão honesta é que depende muito mais do app do que da criança. Um companheiro delimitado, por voz, com transcrição, é razoável a partir de mais ou menos três anos, usado junto com um dos pais nas idades mais novas e com mais independência aos sete ou oito. Um chatbot aberto não é apropriado em nenhuma idade abaixo dos treze, e é por isso que os assistentes de uso geral definem esse como o próprio mínimo.

Um amigo de IA vai fazer meu filho parar de falar comigo?

Pode, e esse é o risco que vale levar a sério. Um app infantil bem construído é desenhado para fazer o oposto: devolver as conversas importantes a você em vez de absorvê-las. Observe se o app redireciona a um adulto em tudo o que importa, e se você pode ler o que foi dito. Se as duas coisas forem verdade, ele se comporta mais como um livro ilustrado do que como um confidente.

O ChatGPT é seguro para crianças?

Ele não foi feito para elas. Os próprios termos da OpenAI definem a idade mínima de treze anos, e o produto não tem ajuste de idade, histórico visível aos pais nem fronteira de assuntos. É uma excelente ferramenta adulta sendo chamada para um trabalho para o qual não foi desenhada.

Como sei se um app cumpre a COPPA de verdade?

A conformidade é autodeclarada, então a alegação em si prova pouco. O que você pode checar: se a política de privacidade nomeia o que é coletado e por quanto tempo, se existe um passo real de consentimento parental em vez de um checkbox, e se o rótulo de privacidade da loja bate com a política. Um desenvolvedor que fez o trabalho de verdade costuma dizer isso de forma específica, não em um selo.

O que devo fazer antes de entregar o celular?

Use você mesmo por dez minutos primeiro, com os sete testes acima. Defina o limite diário antes de seu filho sequer ver o app, não depois. E leia a primeira transcrição, não para vigiar seu filho, mas para ver com seus próprios olhos o que o app realmente diz quando ninguém está olhando.