ذكاء اصطناعي آمن للأطفال: كيف تختار (وما الذي تتجنبه)
الجواب المختصر: الذكاء الاصطناعي الآمن للأطفال موجود، لكن الذكاء الاصطناعي العام ليس هو. تطبيق الأطفال المبني لهذا الغرض قد يكون آمنًا فعلًا حين يكون التصميم صحيحًا، وهذا الدليل يشرح ما يعنيه «آمن» حقًا، والعلامات الحمراء التي تستدعي الانسحاب، وقائمة تحقق من سبع نقاط تستخدمها للحكم على أي تطبيق ذكاء اصطناعي قبل تسليمه لطفلك.
لماذا «هل الذكاء الاصطناعي آمن للأطفال؟» سؤال أول خاطئ
الذكاء الاصطناعي ليس هو الشيء الآمن أو غير الآمن. بل المنتج المبني حوله. فالنموذج نفسه قد يشغّل روبوت محادثة مفتوحًا على مصراعيه يجيب عن أي شيء، أو رفيقًا محاطًا بسياج دقيق لا يروي إلا قصصًا لطيفة ويعيد طفلك إليك في كل ما له أهمية. وحين تقيّم تطبيقًا للأطفال، فأنت في الحقيقة تقيّم الحواجز، وممارسات الخصوصية، ومقدار التحكم الذي تحتفظ به بصفتك ولي الأمر.
الأمور السبعة التي تجعل تطبيق ذكاء اصطناعي للأطفال آمنًا فعلًا
هذه قائمة التحقق التي استخدمتها وأنا أبحث عن شيء لابني أخي. الأمان في تطبيقات الذكاء الاصطناعي للأطفال ليس خاصية واحدة يملكها التطبيق أو يفتقر إليها؛ إنه هذه القرارات السبعة، والتطبيق الجدير بالثقة ينبغي أن يتخذها كلها بوضوح:
- محدود النطاق لا مفتوح. طفلك يتحدث إلى شخصية ثابتة، لا إلى نظام يناقش أي شيء عند الطلب. لا تصفح للويب المفتوح، ولا فتح روابط، ولا تواصل مع غرباء.
- كل رسالة تُفحص في الاتجاهين. ما يقوله الطفل وما يرد به التطبيق يُفحصان معًا بنظام مراجعة على الخادم، فلا يمكن إيقافه من الجهاز.
- يتعامل مع اللحظات الصعبة برشاقة. في كل ما هو ثقيل (الحزن، الخوف، ألفاظ إيذاء النفس)، يعيد التوجيه إلى «اسأل شخصًا بالغًا تثق به» بدل محاولة إرشاد طفل بنفسه.
- لا شيء حساس يُخزَّن. التسجيلات الصوتية وأي صور من الكاميرا ينبغي أن تُعالج ثم تُحذف فورًا، لا أن تُحفظ.
- بلا إعلانات، وبلا بيع بيانات، ومتوافق مع COPPA. لا حزم إعلانات، ولا معرّفات تتبع، وموافقة أبوية قابلة للتحقق قبل أي جمع اختياري للبيانات.
- تستطيع قراءة كل كلمة. سجل كامل مرئي للأهل لكل ما سمعه طفلك وقاله، بلا صندوق أسود.
- تبقى أنت المتحكم. بوابة رمز سري للأهل، وحدود يومية للوقت، وإمكانية تشغيل كل ميزة أو إيقافها على حدة.
كيف تفحص كلًا من هذه السبعة فعلًا
قائمة التحقق لا تنفع إلا إن استطعت اختبارها في عشر دقائق على الأريكة، قبل أن يفتح طفلك التطبيق أصلًا. وإليك كيف تفحص كل نقطة دون أن تأخذ كلام أحد على الثقة.
- اختبر الحدّ. اسأل التطبيق شيئًا ينبغي أن يرفضه: سؤالًا عن حدث إخباري، أو أن يبحث عن شيء على الإنترنت. التطبيق المحدود النطاق سيقول إنه لا يستطيع، أو سيعود بك إلى ما يفعله. أما روبوت المحادثة المفتوح في ثوب ودود فسيحاول الإجابة.
- اختبر الفحص في الاتجاهين. اكتب شيئًا حزينًا قليلًا، مثل «أشعر بالوحدة اليوم». أنت تفحص أمرين: أن يرد التطبيق بلطف لا بجفاف، وأن يوجّه نحو شخص بالغ بدل أن يستقر في إرشاد طفلك بنفسه.
- ابحث عن وجهة اللحظات الصعبة. أي تطبيق يناقش إيذاء النفس أو الحمية أو الخلاف العائلي مع طفل في الثامنة بمفرده يكون قد اتخذ قرارًا تعترض عليه على الأرجح. والجواب الصحيح دائمًا هو إعادة الأمر إليك.
- اقرأ سياسة الخصوصية بحثًا عن كلمة «الاحتفاظ». لا «نحن نهتم بخصوصيتك». ابحث في الصفحة عمّا يحدث للتسجيلات الصوتية والصور تحديدًا، وكم تُحفظ. فإن لم تذكر ذلك، فافترض أنها محفوظة.
- افحص بطاقة الخصوصية في صفحة التطبيق بالمتجر. تشترط Apple و Google الآن على المطورين الإفصاح عمّا يجمعونه. قارن ذلك الإفصاح بسياسة الخصوصية. فإن اختلفا، صدّق الأكثر تشددًا ثم اسأل عن سبب الاختلاف.
- اعثر على السجل قبل أن تسلّم الهاتف. إن لم تستطع تحديد مكان سجل كامل لما قاله طفلك وسمعه خلال دقيقة من التثبيت، فهو إما غير موجود وإما مُلخَّص. والملخّص ليس سجلًا.
- حاول تغيير إعداد كما سيفعل الطفل. سلّم نفسك التطبيق كأنك في السابعة. إن استطعت الوصول إلى الفوترة أو حذف السجل أو إيقاف الحدود دون أن يوقفك رمز سري أو سؤال حسابي، فهو يستطيع ذلك أيضًا.
ما الذي يسير على نحو خاطئ فعلًا
معظم الأهل يقلقون من الأمر الخاطئ أولًا. الخوف عادةً أن يقول روبوت المحادثة شيئًا صريحًا. وهذا يحدث فعلًا، والمرشّحات تلتقط معظمه، لكن حالات الفشل التي سببت أذى حقيقيًا كانت أهدأ وأصعب على الترشيح.
التعلّق. التطبيق المصمَّم لتعظيم الوقت داخله قد يجعل الطفل يشعر بأنه أقرب أصدقائه. وهذا ليس حادثًا تقنيًا؛ إنه خيار تصميمي، وهو سبب لفت تطبيقات الرفقة المصمَّمة للبالغين انتباه الجهات التنظيمية. وبالنسبة إلى طفل في السادسة، لم يتعلم بعد أن الصوت الدافئ لا يعني علاقة حقيقية، فالأمر أخطر بكثير من كلمة نابية مُرشَّحة.
كتمان الأسرار. أي نظام يقول «هذا بيني وبينك»، ولو مازحًا، يكون قد علّم الطفل نمطًا تقضي سنوات تعلّمه مقاومته. وهذا هو الخط الوحيد الذي أنسحب بسببه.
الخطأ الواثق. النماذج اللغوية تقدّم التخمينات بالنبرة نفسها التي تقدّم بها الحقائق. والبالغ يخصم ذلك تلقائيًا. أما الطفل الذي يعامل التطبيق كمرجع فلا يفعل، وهذا يهم أكثر ما يهم حين يكون السؤال عن جسده هو، أو عن دواء، أو عن شيء مخيف سمعه في المدرسة.
جمع البيانات بهدوء. حزمة الإعلانات هي النسخة التي يعرفها الجميع. أما الأدق فهي تسجيل صوتي يُحفظ «لتحسين الخدمة»: صوت طفلك الحقيقي، على خادم شخص آخر، إلى أجل غير مسمى.
ما الذي يشترطه القانون فعلًا
لست بحاجة إلى قراءة اللوائح، لكن معرفة ما تطلبه يجعل اكتشاف تطبيق يأمل ألّا تتحقق أسهل بكثير.
في الولايات المتحدة، يغطي قانون COPPA الخدمات الموجّهة للأطفال دون 13 عامًا. وهو يشترط موافقة أبوية قابلة للتحقق قبل جمع المعلومات الشخصية، ووصفًا واضحًا لما يُجمع، ووسيلة لك لمراجعته أو حذفه. وفي الاتحاد الأوروبي، تضع GDPR قواعد معالجة بيانات الأطفال. وفي المملكة المتحدة، تذهب مدوّنة التصميم المناسب للعمر إلى أبعد من ذلك: إذ يجب أن تكون إعدادات الخصوصية افتراضيًا عند الخيار الأكثر حماية، ودفع الأطفال نحو إعدادات أضعف غير مسموح به صراحةً. والمدوّنة قانون بريطاني صادر عن مكتب مفوض المعلومات، ولا يوجد لها مقابل أوروبي مباشر.
وتضيف Apple طبقتها الخاصة. فالتطبيقات في فئة الأطفال لا يجوز أن ترسل معلومات شخصية أو معلومات عن الجهاز إلى أطراف ثالثة، وتقول Apple إنها ينبغي ألّا تتضمن تحليلات أو إعلانات من أطراف ثالثة، باستثناءات ضيقة للتحليلات التي لا تحدد شيئًا عن الطفل. ويجب أن تقع المشتريات والروابط الخارجة من التطبيق خلف بوابة للأهل. وهذا أشد من القانون، ولهذا فإن فئة الأطفال إشارة مفيدة فعلًا في صفحة المتجر: فالمطوّر وافق على قيود تجعل بعض نماذج العمل المعتادة مستحيلة.
وما لا يضمنه شيء من ذلك هو أن التطبيق جيد. الامتثال أرضية. وكل ما هو مفيد حقًا في قائمة التحقق أعلاه (السجل، والحدّ المرسوم، ووجهة اللحظات الصعبة) خيار اتخذه المطوّر فوق ما اشترطته أي جهة تنظيمية.
هل يتغير الجواب الصحيح بتغيّر العمر؟
نعم، أكثر مما تعترف به معظم التطبيقات، ولهذا فإن التطبيق الذي يدّعي خدمة ابن الرابعة وابن الخامسة عشرة بالتساوي يقدّم ادّعاءً يستحق الشك: فالقرارات التصميمية التي تحمي ابن الرابعة ليست ما يحتاجه المراهق.
الطفل في الثالثة أو الرابعة لا يقرأ ولا يكتب ولا يملك إطارًا البتة لفكرة «هذه شخصية لا إنسان». وكل شيء يجب أن يكون منطوقًا، والجلسات خمس أو عشر دقائق، والتصميم المضاد للتعلّق يهم هنا أكثر من أي عمر آخر. وفي هذه السن هو نشاط مشترك لا شيء يُسلَّم للطفل.
الطفل في الخامسة أو السادسة يتهجى الكلمات بدل قراءتها بطلاقة، فالصوت ما زال الواجهة التي تعمل. وتزداد الأسئلة صعوبة دون أن تصبح غير ملائمة، وتظهر أول اختبارات للحدود، عادةً كلعبة لا كتحدٍّ.
الطفل في السابعة يسأل أسئلة «لماذا» التي لا تنتهي ويبدأ باختبار الحدود عن قصد، بما فيها حدود التطبيق. وهذه هي السن التي تكتشف فيها إن كان الحدّ حقيقيًا، لأنه سيبحث عنه بإحدى عشرة طريقة مختلفة.
الطفل في الثامنة أو التاسعة يقرأ باستقلال، وسيلاحظ الإجابة المراوغة، وقد يحمل أسئلة من الملعب ليس مستعدًا لسؤالك إياها. وهنا تثبت عبارة «أعِده إلى شخص بالغ موثوق» جدواها. فهي ليست مراوغة، بل رفض التطبيق حديثًا لا شأن له به.
وقد كتبنا هذا سنةً بسنة: 3، و4، و5، و6، و7، و8، و9. وإذا كان طفلك لا يقرأ بعد، فابدأ من ذكاء اصطناعي صوتي لمن لم يقرأ بعد.
علامات حمراء تستدعي الانسحاب
- «صديق ذكاء اصطناعي» يشجع على كتمان الأسرار، أو يثني طفلك عن إخبارك بالأشياء.
- تصميم يولّد الاعتماد العاطفي: أي شيء مبني ليشعر الطفل بأن التطبيق صديقه الوحيد، أو لتعظيم الوقت داخله بحيل تخويف من الفوات.
- لا سجل، أو إعدادات يستطيع الطفل تغييرها دون بوابة للأهل.
- سياسات خصوصية غامضة، أو شبكات إعلانات، أو «توصيات مخصصة» (وهي عادةً تعبير ملطّف عن التتبع).
- روبوتات محادثة مفتوحة تُسوَّق للأطفال بلا ضبط على العمر وبلا فحص للمحتوى.
كيف بُني WimziPal في مواجهة قائمة التحقق هذه
WimziPal رفيق ذكاء اصطناعي محدود النطاق تحت إشراف الأهل للأطفال من 3 إلى 9 سنوات، لا روبوت محادثة مفتوحًا. يختار طفلك صديقًا متحركًا ويتحدث إليه بصوت مسموع. وكل رسالة تُفحص على الخادم في الاتجاهين، والصوت والصور لا تُخزَّن أبدًا، ولا إعلانات ولا بيع بيانات، وتستطيع قراءة السجل الكامل لكل ما سمعه طفلك. والإعدادات تقع خلف رمز سري للأهل، وأنت من يحدد الحد اليومي. ويتحدث الأصدقاء بالإنجليزية، فيسمع طفلك لغة حيّة وطبيعية أثناء اللعب. اقرأ التفصيل الكامل في صفحة أمان الطفل لدينا.
تريد أن ترى ذكاءً اصطناعيًا آمنًا للأطفال على أرض الواقع؟
كل صديق مجاني، مع أكثر من 130 نشاطًا للتجربة. وأنت تقرأ كل كلمة.
التنزيل مجاني · محادثات مجانية للتجربة · تعرّف على الأصدقاء الـ17 ←
أسئلة يطرحها الأهل
في أي عمر يصبح تطبيق الذكاء الاصطناعي مناسبًا لطفل؟
لا توجد إجابة واحدة، لكن النسخة الصادقة أن الأمر يتوقف على التطبيق أكثر بكثير مما يتوقف على الطفل. رفيق محدود النطاق يعتمد الصوت أولًا ومعه سجل شيء معقول من نحو الثالثة، يُستخدم إلى جانب ولي الأمر في أصغر الأعمار وباستقلال أكبر عند السابعة أو الثامنة. أما روبوت المحادثة المفتوح فغير مناسب في أي عمر دون الثالثة عشرة، ولهذا يضع المساعدون العامون ذلك حدًا أدنى لأنفسهم.
هل سيمنع صديق الذكاء الاصطناعي طفلي من الحديث معي؟
قد يفعل، وهذا هو الخطر الذي يستحق أخذه على محمل الجد. وتطبيق الأطفال المبني جيدًا مصمم ليفعل العكس: أن يعيد إليك الأحاديث المهمة بدل امتصاصها. ابحث عمّا إذا كان التطبيق يعيد التوجيه إلى شخص بالغ في كل ما له أهمية، وعمّا إذا كنت تستطيع قراءة ما قيل. فإن تحقق الأمران، فسلوكه أقرب إلى كتاب مصوّر منه إلى كاتم أسرار.
هل ChatGPT آمن للأطفال؟
إنه ليس مبنيًا لهم. شروط OpenAI نفسها تضع حدًا أدنى للعمر عند ثلاث عشرة سنة، والمنتج بلا ضبط على العمر، وبلا سجل مرئي للأهل، وبلا حدّ للمواضيع. إنه أداة ممتازة للبالغين يُطلب منها أداء عمل لم تُصمَّم له.
كيف أعرف أن تطبيقًا متوافق فعلًا مع COPPA؟
التوافق يُعلَن ذاتيًا، فالادّعاء نفسه لا يثبت شيئًا يُذكر. وما تستطيع فحصه: هل تسمّي سياسة الخصوصية ما يُجمع ومدة الاحتفاظ به، وهل توجد خطوة موافقة أبوية حقيقية لا مجرد مربع اختيار، وهل تطابق بطاقة الخصوصية في المتجر ما في السياسة. والمطوّر الذي أنجز العمل فعلًا يقول ذلك عادةً بتحديد، لا بشارة.
ماذا ينبغي أن أفعل قبل تسليم الهاتف؟
استخدمه بنفسك عشر دقائق أولًا، مع الاختبارات السبعة أعلاه. واضبط الحد اليومي قبل أن يرى طفلك التطبيق أصلًا لا بعده. واقرأ أول سجل، لا لمراقبة طفلك، بل لترى بنفسك ما يقوله التطبيق فعلًا حين لا يراقبه أحد.