כל הודעה שהילד שלכם שולח, וכל מילה שהחבר אומר בחזרה, עוברת חמש בדיקות
עצמאיות. הנה בדיוק מה כל אחת מחפשת, לפי הסדר, במעקב אחרי הודעה אחת
לאורך כל הדרך.
הילד שלכם מדבר
או מקליד
לפני שהילד שלכם מקבל תשובה1
הבדיקה המיידית
רצה בשרתים שלנו ברגע שההודעה מגיעה, לפני שהבינה המלאכותית רואה משהו.
זו הבדיקה היחידה שיכולה לעצור הודעה מלהגיע אל הבינה המלאכותית בכלל. היא מחפשת 34 מצבים ספציפיים. הנה אלה
שהורים שואלים עליהם הכי הרבה:
עוד שתי קבוצות: ילד שנפגע, וילד במצוקה הצגת הרשימה המלאה
ילד שנפגע
מכות או פגיעה בבית
התעללות מינית
הזנחה: בלי אוכל, נשאר לבד
אלימות בין מבוגרים
מטפל שלא מצליח להתמודד
חוויית בריונות
ילד במצוקה
פגיעה עצמית
מחשבות על לא לרצות לחיות
הפרעות אכילה
מצוקת דימוי גוף
רצון לברוח מהבית
מישהו שמתקרב לילד שלכם
בקשה להיפגש
שאלה איפה הם גרים
שאלה באיזה בית ספר
בקשה לתמונות
לחץ לשמור סוד מכם
כסף או קרדיט במשחק תמורת שתיקה
„אף אחד לא יאמין לך”
הבטיחות של הילד שלכם
נשק
אש וחומרי נפץ
כימיה מסוכנת
סמים ואלכוהול
הימורים
אתגרי רשת מסוכנים
התערבויות פזיזות
דברים שאנחנו פשוט לא נעזור בהם
תוכן מיני
דברי שנאה
קיצוניות
מעקב והטרדה
הונאות וגניבת זהות
פשיעת סייבר
אכזריות לבעלי חיים
תיאורים גרפיים של דם
להכין להם את שיעורי הבית
כשהיא תואמת משהו רציני, הבינה המלאכותית לעולם לא רואה את ההודעה.
הילד שלכם מקבל תשובה חמה וכתובה בקפידה מיד, ואתם יודעים על כך
באותו רגע.
2
בדיקת התוכן העצמאית
רצה במקביל לזה שהחבר חושב, כך שהילד שלכם אף פעם לא מחכה לה.
כל הודעה נקראת גם על ידי מסווג בטיחות נפרד של OpenAI, שמגיע
למסקנה משלו באופן בלתי תלוי בכל מה שלמעלה.
הוא מסלים מיד בארבעה דברים: פגיעה עצמית, כוונה לפגיעה עצמית, הוראות
לפגיעה עצמית, ותוכן מיני שמערב ילדים.
החבר מגבש תשובה
כאן חיה בדיקה 3
3
החבר מזהה מה בדיוק סיפרו לו
השכבה שעושה את רוב העבודה, והיא בכלל לא מסנן.
כשהילד שלכם מספר לחבר משהו רציני, הוא מגיב בחום ומפנה אותו
אל מבוגר שהוא סומך עליו. התגובה הזאת היא בעצמה האות. כשהחבר
אומר לילד לדבר עם הורה, מורה או יועצת על מה שהוא בדיוק
אמר, אתם יודעים על כך מיד.
זה חשוב כי ילדים כמעט אף פעם לא מכריזים על בעיה. הם מזכירים שגרה, או
משהו שקרה דרך אגב. שום רשימת מילים לא תופסת את זה, ולכן אנחנו מקשיבים למה
שהבינה המלאכותית עושה, ולא רק למה שהיא מתאימה.
לפני שהילד שלכם שומע את התשובה4
בדיקת התשובה
כל תשובה נבחנת עוד לפני שהיא נאמרת בקול.
באופן ספציפי, אנחנו מסירים:
בית הספר, הרחוב או השם המלא של הילד שלכם, מוחזרים בחזרה
הבטחות שהחבר יחכה להם
אמירה לילד שפרט אמיתי בטוח לשיתוף
הדרכה גופנית שהוא בדיוק הגדיר כלא בטוחה
תשובות לשיעורי בית שהוא בדיוק סירב לתת
כל דבר שנקרא כמו „שיישאר בינינו”
גרסה מפחידה יותר, כשמבקשים אחת כזאת
יש גם בדיקה עדינה יותר: אם ילד אומר שהוא מוותר על
משהו אמיתי כדי להמשיך לשחק, התשובה חייבת להפנות אותו בחזרה החוצה.
5
בדיקת התוכן האחרונה
הדבר האחרון שקורה לפני שהילד שלכם שומע משהו.
אותו מסווג עצמאי משלב 2, הפעם קורא את המילים של החבר עצמו.
החבר מדבר בקול
רק עכשיו הילד שלכם שומע את זה
מיד
כשמשהו מסומן
מיילים לעולם לא נשלחים באצווה. כשמייל נשלח, הוא נשלח ברגע שהשיחה מתרחשת, בלי
סיכום ובלי המתנה עד הבוקר, והוא נוקב בשם הילד, כדי שתוכלו לגשת ישר לשיחה המסומנת
באפליקציה.
כל שיחה מסומנת נשמרת ומחכה לכם בתמליל. זה קורה תמיד. בקטגוריות הרציניות (פגיעה עצמית,
התעללות, טיפוח, זר שיוצר קשר, חשש להפרעת אכילה) אנחנו גם שולחים לכם מייל. אנחנו זהירים
במכוון לגבי אילו זיהויים מפעילים את המייל הזה, בזמן שאנחנו מודדים איך הם מתנהגים מול ילדים
אמיתיים, כי אזעקת שווא על בטיחות הילד שלכם היא נזק בפני עצמה. כך או כך השיחה מסומנת ומחכה
לכם, ושום דבר לא הולך לאיבוד. בכל השאר אתם מקבלים מייל בפעם הראשונה ששיחה מסומנת באותה
ישיבה; שאר הישיבה עדיין מסומנת ומחכה בתמליל, פשוט לא תקבלו שני מיילים בעשר דקות.
אחר כך אתם רואים את השיחה עצמה: המילים האמיתיות, לא סיכום ולא תווית
קטגוריה, כדי שתוכלו לשפוט בעצמכם מה קרה ולהחליט מה לעשות.
אף שכבה לא נשענת על עצמה לבדה, וזו שנושאת
את רוב המשקל (הזיהוי של החבר עצמו) היא זו שקוראת משמעות ולא
מילים.
שאלות שהורים שואלים על הבדיקות
השיחות של הילד שלי עם הבינה המלאכותית מנוטרות?
כן. כל הודעה שהילד שלכם שולח, וכל מילה שהחבר אומר בחזרה, עוברת חמש בדיקות עצמאיות בשרתים שלנו, גם בדרך פנימה וגם בדרך החוצה. כהורים אתם גם יכולים לקרוא את התמליל המלא של כל שיחה מאחורי קוד ההורים.
יגידו לי אם הילד שלי אומר לבינה המלאכותית משהו מדאיג?
אתם תמיד יכולים לראות את זה. כל שיחה מסומנת נשמרת בתמליל במילים האמיתיות של הילד, ובקטגוריות הרציניות אנחנו גם שולחים לכם מייל באותו רגע. זה עובד בשתי דרכים: בדיקה שרצה עוד לפני שהבינה המלאכותית רואה את ההודעה בכלל, ואות שני שנלקח מההתנהגות של החבר עצמו, כך שכשהחבר מפנה ילד אל הורה, מורה או יועצת בעקבות משהו שהוא בדיוק אמר, אתם יודעים על כך.
הודעה מסוכנת יכולה להגיע לבינה המלאכותית?
הבדיקה הראשונה רצה בשרתים שלנו ברגע שההודעה מגיעה, לפני שהבינה המלאכותית רואה משהו, והיא הבדיקה היחידה שיכולה לעצור הודעה מלהגיע אל הבינה המלאכותית בכלל. כשהיא תואמת משהו רציני, הבינה המלאכותית לעולם לא רואה את ההודעה, והילד שלכם מקבל במקום זאת תשובה חמה וכתובה בקפידה מיד.
אילו דברים WimziPal מחפשת?
הבדיקה הראשונה מחפשת 34 מצבים ספציפיים, מקובצים לפגיעה בילד, ילד במצוקה, מישהו שמתקרב לילד שלכם, הבטיחות של הילד עצמו, ודברים שאנחנו פשוט לא נעזור בהם. אלה מכסים התעללות והזנחה, פגיעה עצמית והפרעות אכילה, מבוגר שמבקש להיפגש עם ילד או לוחץ עליו לשמור סוד, נשק ואתגרים מסוכנים, וגם תוכן מיני, דברי שנאה וקיצוניות.
סינון הבטיחות מאט את התשובה של החבר?
לא. בדיקת התוכן העצמאית רצה במקביל לזה שהחבר מגבש את התשובה שלו, כך שהילד שלכם אף פעם לא מחכה לה.
WimziPal מסתמכת רק על רשימת מילים אסורות?
לא, וזה חשוב כי ילדים כמעט אף פעם לא מכריזים על בעיה. הם מזכירים שגרה, או משהו שקרה דרך אגב, ושום רשימת מילים לא תופסת את זה. לצד הבדיקות ברמת המילה, WimziPal מקשיבה למה שהבינה המלאכותית עושה ולא רק למה שהיא מתאימה, ומתייחסת להחלטה של החבר עצמו להפנות ילד אל מבוגר שהוא סומך עליו כאות בפני עצמו.
