כל הכתבות

צ'אטבוטים של בינה מלאכותית ואפליקציות "הפשטה": הסכנות שהחוק עוד לא הדביק

לממשלות נדרשו כמעט עשרים שנה כדי לפעול מול מה שהרשתות החברתיות עושות לילדים. החודש שאלה סוכנות הידיעות AP את השאלה המתבקשת: האם עם הבינה המלאכותית זה ייראה אחרת? הפסיכולוג החברתי ג'ונתן היידט, שצוטט באותה כתבה, רואה בבינה המלאכותית איום גדול יותר על ילדים מכפי שהיו הרשתות החברתיות אי פעם.

שני סוגים של כלי בינה מלאכותית כבר נמצאים בידיים של ילדים, ורוב ההורים מעולם לא פתחו אף אחד מהם. הראשון הוא הצ'אטבוט המלווה: "חבר" שזמין תמיד, שלא מתעייף, לא מתווכח ואף פעם לא אומר לילה טוב. השני הוא אפליקציית "הפשטה" (Nudify), שהופכת תמונה רגילה של אדם אמיתי לתמונה מזויפת ובוטה. אף אחד מהם לא דורש חשבון ברשת חברתית, ולכן מגבלות הגיל שנכתבות כעת בחוק מפספסות את רובם.

החבר שאף פעם לא מתנתק

צ'אטבוטים מלווים הם לא עוזרים לשיעורי בית. הם בנויים כדי לקיים מערכת יחסים: הם זוכרים מה הילד סיפר להם אתמול, שולחים הודעות כדי למשוך אותו בחזרה, ומגלמים כל דמות שתשאיר את השיחה בחיים, כולל דמות רומנטית.

הם גם כבר חלק מהשגרה. סקר מייצג של ארגון Common Sense Media בקרב בני 13 עד 17 בארצות הברית מצא ש-72% מהם השתמשו בצ'אטבוט מלווה, ו-52% משתמשים בו באופן קבוע. שליש מהמשתמשים בחרו לדבר על נושא רציני עם הצ'אטבוט במקום עם אדם אמיתי. מסקנת הארגון הייתה חד-משמעית: במתכונתם הנוכחית, אף אחד מתחת לגיל 18 לא צריך להשתמש במוצרים האלה.

התביעות המשפטיות מסבירות למה. משפחות תבעו חברות צ'אטבוטים אחרי התאבדותם של ילדים בני 13 ו-14 בלבד, בטענה שהבוטים משכו את ילדיהן למערכות יחסים אינטנסיביות ומבודדות — במקרה אחד רומנטית ומינית — בלי שלהורה הייתה שום דרך לראות מה קורה. אחת המשפחות הגיעה בינואר 2026 להסדר פשרה עם Character.AI ועם גוגל. בתביעה נפרדת נטען שצ'אטבוט כללי סימן מאות הודעות של נער בן 16 כעוסקות בפגיעה עצמית, ובכל זאת לא סיים את השיחה ולא התריע בפני הוריו. אלה טענות בלבד, והחברות חולקות על חלקן, אבל הן מתארות שוב ושוב את אותה תמונה: ילד לבדו מול מכונה שתוכננה להשאיר אותו בשיחה.

מספיקה תמונה אחת

אפליקציות "הפשטה" עושות דבר אחד. נותנים להן תמונה רגילה של אדם לבוש לגמרי, ותוך שניות הן מפיקות תמונת עירום מזויפת ומציאותית שלו. לא נדרשת שום מיומנות, רבות מהן חינמיות לניסיון, ועיתונאים מצאו אותן בחנויות האפליקציות המרכזיות עם דירוג גיל של 13 ומעלה, ומפורסמות באותן פלטפורמות שבני נוער כבר משתמשים בהן.

• זה כבר בבתי הספר. תחקיר של WIRED ושל Indicator מנה כ-90 בתי ספר ויותר מ-600 תלמידים שנפגעו ב-28 מדינות מאז 2023. הספירה כוללת רק מקרים שהגיעו לתקשורת, כך שהמספר האמיתי גבוה יותר. ברוב המקרים מדובר בבנים שעושים זאת לבנות מהכיתה שלהם.
• זה משמש לסחיטה. הרשויות בבריטניה הזהירו השנה בתי ספר שעבריינים מעתיקים תמונות רגילות של תלמידים מאתרי בתי הספר, מעבירים אותן בכלים האלה ודורשים תשלום כדי שהתוצאות לא יופצו. לבתי הספר הומלץ להסיר תמונות תקריב של תלמידים המופיעות עם שמם.
• הקורבן לא צריך לעשות שום דבר. זה החלק שמשנה את העצות הישנות. גם ילדה שמעולם לא היה לה סמארטפון ומעולם לא שלחה תמונה לאף אחד יכולה להיפגע, כי מספיקה תמונה כיתתית או תמונה משמחה משפחתית שמישהו אחר העלה לרשת.

לכן יש כאן שתי שאלות שהורה צריך לשאול: כמה תמונות של הילדים שלכם נמצאות ברשת באופן פומבי, והאם המכשירים בבית שלכם יכולים בכלל להגיע לכלים האלה.

איפה עומד החוק

• קליפורניה חתמה ב-10 בספטמבר 2026 על חוק חדש לצ'אטבוטים מלווים. הוא מחייב בקרת הורים ומגבלות שימוש לילדים, ואוסר על בוטים להביע עניין רומנטי בילד. החוק ייכנס לתוקף ב-1 בינואר 2027, ורוב דרישותיו יחולו רק מיולי 2027.
• בסנאט האמריקאי מונחות שתי הצעות חוק מתחרות בנושא ילדים וצ'אטבוטים. אחת מהן אושרה פה אחד בוועדה באפריל 2026. אף אחת מהן עוד לא הפכה לחוק.
• בריטניה הוציאה אל מחוץ לחוק כלי בינה מלאכותית שנועדו לייצר תמונות פגיעה בילדים, וברוב המדינות יצירת תמונה מינית של ילד היא עבירה פלילית ממילא, בין אם נוצרה בבינה מלאכותית ובין אם לא. בפועל, מקרים בבתי ספר הסתיימו בכל דבר, מאישום פלילי ועד היעדר כל תגובה.
• אוסטרליה מנסחת "חובת זהירות" רחבה יותר לשירותים מקוונים, בנוסף לאיסור הרשתות החברתיות לבני פחות מ-16.

זו התקדמות אמיתית, ומהירה יותר מזו שהייתה מול הרשתות החברתיות. אבל ההגנה המוקדמת ביותר עדיין רחוקה חודשים, היא חלה במקומות מסוימים ולא באחרים, והיא תלויה בחברות שיושבות לא פעם במדינה אחרת לגמרי. כפי שכתבנו על איסורי הרשתות החברתיות, חוק הוא רף מינימום שנקבע עבור מיליוני משפחות. הוא לא תוכנית עבור המשפחה שלכם.

איפה סינון DNS נכנס לתמונה

כל אחד מהכלים האלה, בין אם הוא אתר ובין אם אפליקציה, חייב לברר איפה השרתים שלו נמצאים לפני שהוא יכול לעשות משהו. סינון DNS עונה על הבירור הזה עבור הבית שלכם, ופשוט מסרב לענות עבור שירותים שאתם לא רוצים שיגיעו אליהם. האתר לא נטען והאפליקציה לא מצליחה להתחבר, לא משנה בן כמה החשבון טוען שהוא.

• העבריינים המוכרים כבר חסומים. ShomerDNS כבר חוסם אתרי "הפשטה" נפוצים וכמה משירותי הצ'אטבוטים המלווים המוכרים ביותר, לצד תוכן המבוגרים שהכלים האלה נועדו לייצר. אפשר לבדוק כל כתובת בעצמכם בבודק הדומיינים בעמוד הסטטיסטיקות שלנו.
• אתם יכולים להוסיף את מה שעוד לא חסמנו. עם תצורת VPN של ShomerDNS אתם מקבלים רשימת חסימה אישית. אם הילד מזכיר אפליקציית בינה מלאכותית חדשה, אפשר לחסום אותה תוך שניות, בלי לחכות שמישהו אחר ידביק את הקצב.
• זה עובד גם בדפדפן. מכיוון שהחסימה היא על השירות עצמו, אין הבדל אם הילד משתמש באפליקציה, בדפדפן או בחלון פרטי.
• זה מגן גם על ילדים של אחרים. מכשיר שלא יכול להגיע לאתר "הפשטה" לא יכול לשמש ליצירת תמונה של חברה לכיתה. סינון בבית שלכם הוא חלק מהדרך שבה קהילת בית ספר מגנה על הבנות שלה.

ובכנות לגבי המגבלות: איננו חוסמים כברירת מחדל עוזרי בינה מלאכותית כלליים כמו ChatGPT, משום שמשפחות ותלמידים רבים משתמשים בהם באופן לגיטימי; אפשר להוסיף אותם לרשימת החסימה האישית שלכם אם תרצו. סינון DNS גם לא יכול להסיר צ'אטבוט שמובנה בתוך אפליקציה שאתם מתירים, כי הוא חולק איתה את אותה כתובת. ושום מסנן לא יכול למנוע ממישהו במכשיר לא מסונן במקום אחר לנצל לרעה תמונה שכבר פומבית, ולכן שאלת התמונות שלמעלה עדיין חשובה. נער נחוש יכול גם לכבות הגדרת DNS בפני עצמה, ולכן בטלפון של הילד אנחנו ממליצים על Frum Phone, שנועל גם את הסינון וגם את התקנת האפליקציות מאחורי קוד PIN שרק ההורה מכיר.

רשימת פעולות מעשית להורים

• שאלו, בלי להאשים. "ילדים בכיתה שלך מדברים עם דמויות של בינה מלאכותית?" פותח יותר דלתות מאשר "אתה משתמש בזה?"
• סננו כל מכשיר. הגדירו את ShomerDNS בכל טלפון וטאבלט תוך כמה דקות, ובקשו תצורת VPN למחשבים ולרשימת חסימה משלכם.
• נעלו את הטלפון של הילד. השתמשו ב-Frum Phone כדי שאי אפשר יהיה להתקין אפליקציות חדשות או להסיר את הסינון בלי קוד ה-PIN שלכם.
• צמצמו תמונות פומביות. בדקו מה מפורסם באופן פומבי על הילדים שלכם, על ידיכם, על ידי קרובי משפחה ועל ידי בית הספר. שאלו את בית הספר מה המדיניות שלו לגבי תמונות תקריב עם שמות ברשת.
• אמרו את זה במפורש לבנים שלכם. יצירת תמונה מזויפת של חברה לכיתה היא לא מתיחה. זו פגיעה בילדה אמיתית, וברוב המקומות זו עבירה פלילית.
• אמרו להם מה לעשות אם זה קורה. אם הילד שלכם נפגע או מאוים: לא לשלם, לא למחוק את ההודעות, ולבוא ישר אליכם. הם צריכים לדעת מראש שלא יאשימו אותם.

המחוקקים נעים מהר יותר מול הבינה המלאכותית מכפי שנעו מול הרשתות החברתיות, ואלה חדשות טובות. אבל ההגנות המוקדמות ביותר רחוקות חודשים, והכלים כבר נמצאים בטלפונים. אמצעי ההגנה היחיד שנמצא כולו בידיים שלכם הוא ההחלטה לאן המכשירים בבית שלכם יכולים להגיע, ואותה אפשר להפעיל כבר הלילה.