בינה מלאכותית בטוחה לילדים: איך בוחרים (וממה להתרחק)
תשובה קצרה: בינה מלאכותית בטוחה לילדים קיימת, אבל בינה מלאכותית למטרות כלליות היא לא זה. אפליקציה ייעודית לילדים יכולה להיות בטוחה באמת כשהתכנון נכון, והמדריך הזה מסביר מה ״בטוח״ באמת אומר, אילו נורות אדומות מצדיקות לקום וללכת, ורשימת בדיקה בת שבעה סעיפים שאפשר לשפוט בה כל אפליקציית בינה מלאכותית לפני שמוסרים אותה לילד.
למה ״האם בינה מלאכותית בטוחה לילדים?״ היא השאלה הראשונה הלא נכונה
הבינה המלאכותית היא לא הדבר שבטוח או לא בטוח. המוצר שנבנה סביבה הוא כן. אותו מודל בסיסי עצמו יכול להפעיל צ׳אטבוט פרוץ שיענה על הכול, או חבר מגודר בקפידה שרק מספר סיפורים עדינים ומפנה את הילד חזרה אליכם בכל דבר שחשוב. כשאתם בוחנים אפליקציה לילדים, אתם בוחנים בעצם את מעקות הבטיחות, את התנהלות הפרטיות וכמה שליטה נשארת אצלכם כהורים.
שבעת הדברים שהופכים אפליקציית בינה מלאכותית לילדים לבטוחה באמת
הנה רשימת הבדיקה שהשתמשתי בה כשחיפשתי משהו לאחיינים שלי. בינה מלאכותית בטוחה לילדים היא לא תכונה אחת שיש לאפליקציה או שאין לה; אלה שבע ההחלטות האלה, ואפליקציה שאפשר לסמוך עליה צריכה לקבל את כולן בבירור:
- היא תחומה, לא פתוחה. הילד שלכם מדבר עם דמות קבועה, ולא עם מערכת שתדבר על כל דבר לפי בקשה. בלי גלישה ברשת הפתוחה, בלי פתיחת קישורים, בלי מגע עם זרים.
- כל הודעה נבדקת בשני הכיוונים. מה שהילד אומר ומה שהאפליקציה עונה נבדקים שניהם בסינון בצד השרת, כך שאי אפשר לכבות את זה מהמכשיר.
- היא מטפלת ברגעים קשים ברגישות. בכל דבר כבד (עצב, פחד, שפה של פגיעה עצמית) היא מפנה אל ״תשאל מבוגר שאתה סומך עליו״ במקום לנסות לייעץ לילד בעצמה.
- שום דבר רגיש לא נשמר. הקלטות קול וכל תמונה מהמצלמה צריכות להיות מעובדות ונמחקות מיד, אף פעם לא נשמרות.
- בלי פרסומות, בלי מכירת מידע, עומדת ב-COPPA. בלי ערכות פרסום, בלי מזהי מעקב, ועם הסכמת הורים מאומתת לפני כל איסוף מידע אופציונלי.
- אתם יכולים לקרוא כל מילה. תמליל מלא וגלוי להורים של כל מה שהילד שלכם שמע ואמר, בלי קופסה שחורה.
- אתם נשארים בשליטה. שער הורים עם קוד, מגבלות זמן יומיות, והיכולת להדליק ולכבות תכונות בנפרד.
איך באמת לבדוק כל אחד משבעת אלה
רשימת בדיקה שימושית רק אם אפשר לבחון אותה בעשר דקות על הספה, לפני שהילד שלכם פותח את האפליקציה בכלל. הנה איך לבדוק כל אחד מהם בלי לקחת את דברי אף אחד כמובנים מאליהם.
- בחנו את הגבול. בקשו מהאפליקציה משהו שהיא אמורה לסרב לו: שאלה על אירוע חדשותי, או לחפש משהו באינטרנט. אפליקציה תחומה תגיד שהיא לא יכולה, או תחזיר אתכם למה שהיא כן עושה. צ׳אטבוט פתוח בתחפושת ידידותית ינסה לענות.
- בחנו את הסינון בשני הכיוונים. כתבו משהו קצת עצוב, כמו ״אני מרגיש בודד היום״. אתם בודקים שני דברים: שהאפליקציה מגיבה בעדינות ולא בקליניות, ושהיא מפנה אל מבוגר במקום להתיישב ולייעץ לילד שלכם בעצמה.
- חפשו לאן הולכים הרגעים הקשים. כל אפליקציה שתדבר על פגיעה עצמית, על דיאטות או על סכסוך משפחתי עם ילד בן שמונה בעצמה קיבלה החלטה שכנראה אינכם מסכימים איתה. התשובה הנכונה היא תמיד להחזיר את זה אליכם.
- קראו במדיניות הפרטיות וחפשו את המילה ״שמירה״. לא ״אכפת לנו מהפרטיות שלכם״. חפשו בדף מה קורה ספציפית להקלטות קול ולתמונות, ולכמה זמן הן נשמרות. אם לא כתוב, הניחו שהן נשמרות.
- בדקו את תווית הפרטיות בדף האפליקציה בחנות. גם Apple וגם Google מחייבות היום מפתחים להצהיר מה הם אוספים. השוו את ההצהרה הזאת למדיניות הפרטיות. אם הן לא מסתדרות, האמינו למחמירה יותר ואז שאלו למה יש פער.
- מצאו את התמליל לפני שאתם מוסרים את הטלפון. אם אינכם מצליחים לאתר היסטוריה מלאה של מה שהילד שלכם אמר ושמע תוך דקה מההתקנה, היא או לא קיימת או מסוכמת. תקציר הוא לא תמליל.
- נסו לשנות הגדרה כמו שילד היה עושה. מסרו לעצמכם את האפליקציה כאילו הייתם בני שבע. אם אתם מצליחים להגיע לחיוב, למחוק היסטוריה או לכבות מגבלות בלי להיתקל בקוד או בשאלת חשבון, גם הם יצליחו.
מה באמת משתבש
רוב ההורים דואגים קודם כול לדבר הלא נכון. הפחד הוא בדרך כלל שצ׳אטבוט יגיד משהו מפורש. זה אכן קורה, ומסננים תופסים את רובו, אבל הכשלים שגרמו לנזק אמיתי שקטים יותר וקשים יותר לסינון.
היקשרות. אפליקציה שתוכננה למקסם זמן שימוש יכולה לגרום לילד להרגיש שהיא החבר הקרוב ביותר שלו. זו לא תאונה של הטכנולוגיה; זו בחירת תכנון, וזו הסיבה שאפליקציות חבר שנבנו למבוגרים משכו תשומת לב רגולטורית. לילד בן שש, שעדיין לא למד שקול חמים לא אומר מערכת יחסים אמיתית, זה עניין הרבה יותר גדול ממילת קללה מסוננת.
סודיות. כל מערכת שאומרת ״זה רק בינינו״, אפילו בצחוק, לימדה ילד דפוס שאתם משקיעים שנים בללמד אותו להתנגד לו. זה הקו האחד שהייתי קמה והולכת בגללו.
טעות שנאמרת בביטחון. מודלי שפה אומרים ניחושים באותו טון שבו הם אומרים עובדות. מבוגר מנכה את זה אוטומטית. ילד שמתייחס לאפליקציה כאל סמכות לא, וזה חשוב במיוחד כשהשאלה נוגעת לגוף שלו, לתרופה או למשהו מפחיד ששמע בבית הספר.
איסוף מידע שקט. ערכת הפרסום היא הגרסה שכולם מכירים. העדינה יותר היא הקלטת קול שנשמרת ״כדי לשפר את השירות״: הקול האמיתי של הילד שלכם, על השרת של מישהו אחר, ללא מועד סיום.
מה החוק באמת דורש
אינכם צריכים לקרוא את התקנות, אבל אם תדעו מה הן דורשות יהיה לכם הרבה יותר קל לזהות אפליקציה שמקווה שלא תבדקו.
בארצות הברית, COPPA חלה על שירותים המכוונים לילדים מתחת לגיל 13. היא דורשת הסכמת הורים מאומתת לפני איסוף מידע אישי, תיאור פשוט של מה נאסף, ודרך עבורכם לעיין בו או למחוק אותו. באיחוד האירופי, GDPR קובעת את הכללים לעיבוד מידע של ילדים. בבריטניה, ה-Age Appropriate Design Code הולך רחוק יותר: הגדרות הפרטיות חייבות להיות כברירת מחדל באפשרות המגינה ביותר, ודחיפה של ילדים אל הגדרות חלשות יותר אסורה במפורש. הקוד הוא חוק בריטי, שהוצא בידי משרד נציב המידע, ואין לו מקבילה ישירה באיחוד האירופי.
Apple מוסיפה שכבה משלה. אפליקציות בקטגוריה לילדים אינן רשאיות לשלוח מידע אישי או מידע על המכשיר לצדדים שלישיים, ו-Apple אומרת שהן לא אמורות לכלול אנליטיקה או פרסום של צד שלישי, עם חריגים צרים לאנליטיקה שאינה מזהה דבר על הילד. רכישות וקישורים החוצה מהאפליקציה חייבים לשבת מאחורי שער הורים. זה מחמיר יותר מהחוק, וזו הסיבה שהקטגוריה לילדים היא סימן באמת מועיל בדף חנות: מפתח הסכים למגבלות שהופכות מודלים עסקיים רגילים מסוימים לבלתי אפשריים.
מה שאף אחד מכל זה לא מבטיח הוא שאפליקציה היא טובה. עמידה בתקנות היא רצפה. כל דבר באמת מועיל ברשימת הבדיקה שלמעלה (התמליל, הגבול, לאן הולכים הרגעים הקשים) הוא בחירה שהמפתח עשה מעבר למה שכל רגולטור דרש.
האם התשובה הנכונה משתנה עם הגיל?
כן, יותר משרוב האפליקציות מודות, וזו הסיבה שאפליקציה שטוענת כי היא משרתת בני ארבע ובני חמש-עשרה באותה מידה מעלה טענה ששווה להטיל בה ספק: בחירות התכנון שמגינות על בן ארבע הן לא אלה שנער צריך.
ילד בן שלוש או ארבע לא קורא, לא מקליד, ואין לו בכלל מסגרת מחשבתית ל״זו דמות, לא בן אדם״. הכול חייב להיאמר בקול, המפגשים נמשכים חמש או עשר דקות, והתכנון שמונע היקשרות חשוב כאן יותר מבכל גיל אחר. בגיל הזה זו פעילות משותפת, לא משהו שמוסרים.
ילד בן חמש או שש מפענח מילים ולא קורא שוטף, ולכן הקול עדיין הוא הממשק שעובד. השאלות נעשות קשות יותר בלי להיעשות לא מתאימות, ומופיעים מבחני הגבולות הראשונים, בדרך כלל כמשחק ולא כאתגר.
ילד בן שבע שואל את שאלות ה״למה״ שלא נגמרות ומתחיל לבחון גבולות בכוונה, כולל את אלה של האפליקציה. זה הגיל שבו מתברר אם גבול הוא אמיתי, כי הם ילכו לחפש אותו, באחת-עשרה דרכים שונות.
ילד בן שמונה או תשע קורא לבד, יבחין כשתשובה מתחמקת, ועשוי להביא שאלות מהחצר שהוא עוד לא מוכן לשאול אתכם. כאן ״להפנות אל מבוגר שסומכים עליו״ מצדיק את קיומו. זו לא התחמקות, זו אפליקציה שמסרבת לשיחה שאין לה עסק לנהל.
כתבנו את זה שנה אחר שנה: 3, 4, 5, 6, 7, 8 ו-9. אם הילד שלכם עדיין לא קורא, התחילו בבינה מלאכותית קולית לילדים שעוד לא קוראים.
נורות אדומות שמצדיקות לקום וללכת
- ״חבר בינה מלאכותית״ שמעודד סודיות, או מרתיע את הילד שלכם מלספר לכם דברים.
- תכנון שמייצר תלות רגשית: כל דבר שנבנה כדי לגרום לילד להרגיש שהאפליקציה היא החבר היחיד שלו, או כדי למקסם זמן שימוש במנגנוני לחץ מניפולטיביים.
- בלי תמליל, או הגדרות שילד יכול לשנות בלי שער הורים.
- מדיניות פרטיות מעורפלת, רשתות פרסום, או ״המלצות מותאמות אישית״ (בדרך כלל לשון נקייה למעקב).
- צ׳אטבוטים פתוחים שמשווקים לילדים בלי כיוונון לגיל ובלי סינון תוכן.
איך WimziPal בנויה מול רשימת הבדיקה הזאת
WimziPal היא חבר בינה מלאכותית תחום ומפוקח הורים לילדים מגיל 3 עד 9, ולא צ׳אטבוט פתוח. הילד שלכם בוחר חבר מונפש ומדבר איתו בקול. כל הודעה נבדקת בשרת בשני הכיוונים, קול ותמונות אף פעם לא נשמרים, אין פרסומות ושום מידע לא נמכר, ואתם יכולים לקרוא את התמליל המלא של כל מה שהילד שלכם שמע. ההגדרות יושבות מאחורי קוד הורים, ואתם קובעים את המגבלה היומית. אפשר לקרוא את הפירוט המלא בדף בטיחות הילדים שלנו.
כדאי לדעת: החברים מדברים אנגלית. הילד מפטפט, מקשיב לסיפורים ושר באנגלית, ותוך כדי כך סופג שפה חיה ואמיתית. זה לא קורס שפה, אלא יותר סיבה חברית להשתמש באנגלית כל יום.
רוצים לראות בינה מלאכותית בטוחה לילדים בפועל?
כל חבר כלול בלי תשלום, עם יותר מ-130 פעילויות להתנסות. אתם קוראים כל מילה.
ההורדה חינם · שיחות חינם להתנסות · להכיר את כל 17 החברים ←
שאלות שהורים שואלים
מאיזה גיל אפליקציית בינה מלאכותית מתאימה לילד?
אין תשובה אחת, אבל הגרסה הכנה היא שזה תלוי הרבה יותר באפליקציה מאשר בילד. חבר תחום שהקול הוא העיקר בו ושיש לו תמליל הוא סביר מגיל שלוש בערך, בשימוש לצד הורה בגילים הצעירים ביותר ובאופן עצמאי יותר בגיל שבע או שמונה. צ׳אטבוט פתוח אינו מתאים בשום גיל מתחת לשלוש-עשרה, וזו הסיבה שהעוזרים הכלליים קובעים לעצמם בדיוק את הגיל הזה כמינימום.
חבר בינה מלאכותית יגרום לילד שלי להפסיק לדבר איתי?
זה יכול לקרות, וזה הסיכון ששווה לקחת ברצינות. אפליקציה טובה לילדים בנויה לעשות את ההפך: להחזיר אליכם את השיחות החשובות במקום לספוג אותן. בדקו אם האפליקציה מפנה אל מבוגר בכל דבר שחשוב, ואם אתם יכולים לקרוא מה נאמר. אם שניהם נכונים, היא מתנהגת יותר כמו ספר מצויר מאשר כמו איש סוד.
האם ChatGPT בטוח לילדים?
הוא לא נבנה עבורם. התנאים של OpenAI עצמה קובעים גיל מינימום שלוש-עשרה, ולמוצר אין כיוונון לגיל, אין היסטוריה גלויה להורים ואין גבול נושאי. זה כלי מצוין למבוגרים שמתבקש לעשות עבודה שהוא לא תוכנן לה.
איך אני יודע אם אפליקציה באמת עומדת ב-COPPA?
העמידה בתקנות מוצהרת בידי המפתח עצמו, ולכן הטענה כשלעצמה מוכיחה מעט. מה שאפשר לבדוק: אם מדיניות הפרטיות מפרטת בשם מה נאסף ולכמה זמן, אם יש שלב אמיתי של הסכמת הורים ולא רק תיבת סימון, ואם תווית הפרטיות בחנות תואמת למדיניות. מפתח שבאמת עשה את העבודה בדרך כלל אומר את זה בפירוט, ולא בתג.
מה כדאי לעשות לפני שמוסרים את הטלפון?
השתמשו בה בעצמכם עשר דקות קודם, עם שבעת המבחנים שלמעלה. קבעו את המגבלה היומית עוד לפני שהילד שלכם רואה את האפליקציה, לא אחרי. וקראו את התמליל הראשון, לא כדי לבדוק את הילד שלכם, אלא כדי לראות בעצמכם מה האפליקציה באמת אומרת כשאף אחד לא מסתכל.