アプリを入手
← ホームに戻る

子ども向けの安全なAI:どう選び、何を避けるか

3〜9歳のお子さまをお持ちの保護者の方への実用ガイド

WimziPalを作っているMarija Gvozdenovicが書いています。

短い答え。子どもにとって安全なAIは存在しますが、それは汎用のAIではありません。子どものために一から作られたアプリは、設計が正しければ本当に安全になりえます。このガイドでは、「安全」が実際に何を意味するのか、迷わず立ち去るべき危険信号、そして、お子さまに渡す前にどんなAIアプリでも見きわめられる7項目のチェックリストをご説明します。

「子どもにAIは安全か」が、最初の問いとして正しくない理由

安全だったり危険だったりするのは、AIそのものではありません。その周りに作られた製品のほうです。同じ土台のモデルが、何でも答える開かれたチャットボットにもなれば、やさしいお話だけをして、大事なことは保護者のもとへお子さまを導く、ていねいに囲われたコンパニオンにもなります。子ども向けアプリを評価するとき、本当に評価しているのは、その手すりと、プライバシーの扱いと、保護者としてどれだけの主導権が手元に残るか、です。

子ども向けAIアプリを本当に安全にする7つのこと

甥っ子たちのために何かを探していたとき、私が使ったチェックリストです。子ども向けの安全なAIとは、アプリが持っているか持っていないかのひとつの性質ではなく、この7つの判断のことです。信頼できるアプリなら、そのすべてをはっきり選んでいるはずです。

この7つを、実際にどう確かめるか

チェックリストは、お子さまがアプリを開く前に、ソファで10分あれば試せてこそ役に立ちます。誰の言葉も鵜呑みにせず、ひとつずつ確かめる方法をご紹介します。

  1. 境界を試す。断るはずのことを聞いてみてください。ニュースのできごとについての質問や、ネットで調べてほしいというお願いです。範囲が限られたアプリは、できないと言うか、自分がやることへ話を戻します。やさしい着ぐるみを着た開かれたチャットボットは、答えようとします。
  2. 行きと帰りの両方のチェックを試す。「今日はさみしい」のように、少しかなしいことを打ってみてください。確かめているのは2つです。事務的ではなく、やさしく応じるかどうか。そして、自分で子どもを導こうと腰をすえるのではなく、大人のほうへ向けるかどうかです。
  3. むずかしい場面の行き先を見る。自傷やダイエット、家族のもめごとについて、8歳の子とアプリが自分だけで話しつづけるなら、それは保護者がおそらく同意しない判断をしたということです。正しい答えは、いつでも保護者にお返しすることです。
  4. プライバシーポリシーで「保持」という言葉を探す。「プライバシーを大切にしています」ではありません。音声の録音と写真がどうなるのか、そしてどれくらいの期間保たれるのかを、ページ内で具体的に探してください。書かれていないなら、保たれていると考えてください。
  5. ストア掲載のプライバシー表示を確かめる。AppleもGoogleも、いまは開発者に、何を集めるかの申告を求めています。その申告を、プライバシーポリシーと見くらべてください。食いちがっていたら、厳しいほうを信じて、そのうえで、なぜ違うのかを尋ねてください。
  6. スマホを渡す前に、会話記録を見つける。インストールから1分以内に、お子さまが言ったこと・聞いたことの完全な履歴を見つけられないなら、それは存在しないか、要約されているかのどちらかです。要約は、会話記録ではありません。
  7. 子どもになったつもりで設定を変えてみる。自分が7歳のつもりでアプリを触ってみてください。PINにも計算問題にも出会わないまま、課金画面にたどりつけたり、履歴を消せたり、制限を切れたりするなら、お子さまにもできます。

実際に問題になるのは何か

多くの保護者は、まちがったことをまず心配します。たいていの不安は、チャットボットが露骨なことを言うのではないか、です。それは起こりますし、フィルターがほとんどをとらえます。けれども、本当の害をもたらしてきた失敗は、もっと静かで、もっとフィルターにかかりにくいものです。

愛着。アプリ内の時間を最大化するように設計されたアプリは、子どもに「これがいちばんの親友だ」と感じさせることがあります。これは技術のうっかりではなく、設計上の選択であり、大人向けに作られたコンパニオンアプリが規制当局の注目を集めてきた理由でもあります。あたたかい声が本当の関係を意味しないと、まだ学んでいない6歳の子にとっては、フィルターされた乱暴な言葉よりはるかに大きな問題です。

秘密。たとえ遊びのつもりでも、「これはふたりだけの秘密ね」と言うシステムは、保護者が何年もかけて抵抗できるように教えているパターンを、子どもに教えてしまったことになります。私なら、これひとつで立ち去ります。

自信たっぷりのまちがい。言語モデルは、推測を事実と同じ調子で言います。大人はそれを自動的に割り引きます。アプリを権威として受けとる子どもは、そうしません。それがいちばん効いてくるのは、質問が自分のからだのことや、薬のことや、学校で聞いたこわいことについてのときです。

静かなデータ収集。誰もが知っているのは広告SDKのほうです。もっと分かりにくいのは、「サービス改善のため」に保たれる音声の録音です。お子さまの本物の声が、他人のサーバーの上に、期限なく置かれることになります。

法律が実際に求めていること

規制そのものを読む必要はありませんが、何を求めているかを知っておくと、確かめられないことを願っているアプリが、ずっと見つけやすくなります。

米国では、COPPA(児童オンラインプライバシー保護法)が13歳未満の子どもに向けたサービスを対象としています。個人情報を集める前の確認可能な保護者同意、何を集めるかのわかりやすい説明、そして保護者が確認・削除できる手段を求めています。EUでは、GDPR(一般データ保護規則)が子どものデータの取り扱いのルールを定めています。英国では、Age Appropriate Design Code(年齢に応じたデザイン規範)がさらに踏みこみます。プライバシー設定は、初期状態でもっとも保護的な選択肢でなければならず、子どもを弱い設定へ誘導することは明確に認められていません。この規範は英国の法であり、Information Commissioner’s Office(情報コミッショナー事務局)が発行しています。EUに直接対応するものはありません。

Appleは、さらに独自の層を重ねています。Kids Category(キッズカテゴリ)のアプリは、個人情報や端末情報を第三者に送ることができず、Appleは、第三者の解析や第三者の広告を含めるべきではないとしています(子どもについて何も識別しない解析には、限られた例外があります)。購入と、アプリの外へ出るリンクは、保護者向けゲートの内側になければなりません。これは法律より厳しく、だからこそKids Categoryは、ストア掲載上の本当に役立つ手がかりになります。ある種のふつうの収益モデルを不可能にする制約に、開発者が同意したということだからです。

そのどれもが保証しないのは、そのアプリがよいものかどうかです。準拠は床です。上のチェックリストにある本当に役立つもの(会話記録、境界、むずかしい場面の行き先)は、どの規制当局も求めていないところで、開発者が自分で選んだことです。

正しい答えは、年齢によって変わりますか

変わります。多くのアプリが認めている以上に変わります。だからこそ、4歳にも15歳にも等しく合うと言うアプリは、うたがう価値のある主張をしています。4歳を守る設計上の選択は、10代が必要とする選択とは違うからです。

3歳や4歳の子は、まだ読めず、打てず、「これはキャラクターであって人ではない」という枠組みをまったく持っていません。すべてが声でなければならず、1回のあそびは5分か10分、そして依存を生まない設計は、ほかのどの年齢よりもここで大切になります。この年齢では、これは渡してまかせるものではなく、いっしょにする活動です。

5歳や6歳の子は、すらすら読むというより一音ずつ声に出している段階なので、音声はやはり成り立つインターフェースです。質問は、不適切にはならずに、ただむずかしくなっていき、はじめての境界試しが、挑戦というよりゲームとして現れます。

7歳の子は、つきない「どうして」を投げかけ、境界をわざと試しはじめます。アプリの境界も、です。境界が本物かどうかが分かるのがこの年齢です。11通りのやり方で、探しにいくからです。

8歳や9歳の子は、ひとりで読み、答えがはぐらかしであることに気づき、まだ保護者には聞けない質問を学校から持ち帰っているかもしれません。「信頼できる大人へ導く」がいちばん役に立つのはここです。それははぐらかしではなく、扱うべきでない会話を、アプリが断っているのです。

1歳きざみで書いています。3歳、4歳、5歳、6歳、7歳、8歳、9歳。お子さまがまだ字を読めないなら、まだ字が読めない子のための音声AIから読んでみてください。

見つけたら立ち去るべき危険信号

WimziPalは、このチェックリストに対してどう作られているか

WimziPalは、3〜9歳の子どものための、範囲を限った、保護者が見守るAIコンパニオンです。オープンなチャットボットではありません。お子さまはアニメのバディをひとつ選び、声に出して話しかけます。すべてのメッセージは行きも帰りもサーバー上でチェックされ、音声と写真は保存されず、広告もデータの販売もなく、お子さまが聞いたことのすべてを全記録として読むことができます。設定は保護者用PINの内側にあり、1日の上限は保護者が決めます。くわしくは子どもの安全のページにまとめています。

ひとつお伝えしておくと、バディたちが話すのは英語です。日本語では話しません。選ぶうえで大事な点なので、はっきり書いておきます。ご家庭によっては、これがちょうどよい理由になります。安全に囲われた場所で、テストのない英語の音にふれられるからです。英語のコースではありませんが、英語を耳にする理由がひとつ増えます。

安全な子ども向けAIを、実際に見てみませんか。

バディは全員が無料で、130を超えるアクティビティをお試しいただけます。一言のこらず読めます。

ダウンロードApp Store 入手Google Play

ダウンロード無料 · お試しのチャットつき · 17体のバディ全員に会う →

保護者の方からよくいただく質問

何歳からなら、子どもにAIアプリはふさわしいですか?

ひとつの答えはありませんが、正直に言えば、子どもよりもアプリのほうにはるかに大きく左右されます。範囲が限られていて、音声中心で、会話記録のあるコンパニオンなら、3歳ごろから無理がありません。いちばん幼いうちは保護者といっしょに、7歳か8歳になれば、より自分だけで使えるようになります。何でも答えるオープンなチャットボットは、13歳未満のどの年齢にもふさわしくありません。汎用のアシスタントが自分たちで13歳を下限にしているのは、そのためです。

AIの友だちができると、子どもが親に話さなくなりませんか?

その可能性はありますし、それは本気で受けとめる価値のあるリスクです。よく作られた子ども向けアプリは、その逆をするように設計されています。大事な会話を吸いこむのではなく、保護者にお返しするのです。大事なことについてアプリが大人へ導くかどうか、そして何が言われたのかを読めるかどうかを見てください。どちらも当てはまるなら、それは打ち明け相手というより、絵本に近いふるまいをしています。

ChatGPTは子どもにとって安全ですか?

子どものために作られていません。OpenAI自身の利用規約が下限を13歳としていますし、この製品には年齢に合わせた調整も、保護者が読める履歴も、話題の境界もありません。設計されていない仕事をさせられている、すぐれた大人向けの道具です。

そのアプリが本当にCOPPAに準拠しているか、どう確かめればいいですか?

準拠は自己申告なので、その主張自体はほとんど何も証明しません。確かめられるのは、プライバシーポリシーが何をどれくらいの期間集めるのかを名指ししているか、チェックボックスではなく本当の保護者同意の手順があるか、そしてストアのプライバシー表示がポリシーと一致しているかです。実際に手を動かした開発者は、たいていバッジではなく、具体的な言葉でそれを書いています。

スマホを渡す前に、何をしておくべきですか?

まず10分、上の7つのテストを使って、保護者ご自身で使ってみてください。1日の上限は、お子さまがアプリを見る前に設定します。あとからではなく、先にです。そして最初の会話記録を読んでください。お子さまを見はるためではなく、誰も見ていないときにアプリが実際に何と言うのかを、ご自身の目で確かめるためです。

あわせて読みたい