חשיפה מטרידה: "חשבונות הנוער" של אינסטגרם מציעים לבני נוער תכנים מיניים ומסוכנים

אינסטגרם מבטיחה להורים כי "חשבונות הנוער" שלה מגנים על ילדים מפני נזק "כברירת מחדל". אולם בדיקות שערכו ארגון ללא מטרות רווח של צעירי דור Z ועיתונאי מוביל מעיתון וושינגטון פוסט, מצאו כי המערכת נכשלת באופן מחריד במספר מימדים חשובים.

באביב השנה, סאהב גולאטי, תלמיד תיכון מסקרמנטו שעומד להיכנס לאוניברסיטת סטנפורד, השתמש בטלפון חד-פעמי כדי ליצור חשבון אינסטגרם ניסיוני עבור נער היפותטי בן 16. מאז סתיו שנה שעברה, כל החשבונות המשמשים בני נוער אמורים לסנן אוטומטית תוכן "רגיש", בין שאר הגנות, למען בריאות הנפש והבטיחות.

במשך שבועיים, מספר גולאטי, חשבון הבדיקה שלו קיבל המלצות לתוכן מיני ש"השאיר מעט מאוד לדמיון". הוא ספר לפחות 28 סרטוני Reels המתארים מעשים מיניים, כולל חדירה דיגיטלית, שימוש בצעצוע מין ומימים המתארים מין אוראלי. חשבון האינסטגרם, הוא טוען, הפך מוטרד מדיונים על "גבריות רעילה" בנושא "מה גברים צריכים ואסור להם לעשות".

ארבעה צעירים, חלק מארגון נוער בשם Design It For Us, ערכו את אותו ניסוי, וכולם קיבלו המלצות לתכנים מיניים. ארבעה מתוך החמישה קיבלו גם תוכן הקשור לדימוי גוף והפרעות אכילה, כמו סרטון של אישה שאומרת "רזון הוא סגנון חיים, לא שלב"

בדיקה מקיפה חושפת כשלים

ארבעה צעירים נוספים, חלק מארגון נוער בשם Design It For Us, ערכו את אותו ניסוי, וכולם קיבלו המלצות לתכנים מיניים. ארבעה מתוך החמישה קיבלו גם תוכן הקשור לדימוי גוף והפרעות אכילה, כמו סרטון של אישה שאומרת "רזון הוא סגנון חיים, לא שלב".

הצעירים, שמחקרם קיבל תמיכה אסטרטגית ותפעולית מארגון ללא מטרות רווח בשם Accountable Tech, קיבלו גם המלצות לתכנים הקשורים לאלכוהול, סמים, שנאה ותכנים מטרידים אחרים. חלקם מפורטים בדוח שפורסם על ידי Accountable Tech אך הם גסים מדי לתיאור כאן.

מה שצריך להיות ברור להורים: לא ניתן לסמוך על חשבונות הנוער של אינסטגרם כדי להגן על ילדים. הסכנה שהם ניצבים בפניה אינה רק אנשים רעים באינטרנט — אלא גם אלגוריתם ההמלצות של האפליקציה, שמחליט מה הילדים שלכם רואים ומדגים את ההרגל המפחיד לקחת אותם בכיוונים אפלים.

מטא מתגוננת

כאשר הדוח הוצג לאינסטגרם ולבעליה, חברת מטא, היא טענה שהצעירים שערכו את הבדיקה היו מוטים וכי חלק ממה שסומן היה "לא פסול" או עקבי עם "הומור מסרט PG-13".

"דוח מפוברק לא משנה את העובדה שעשרות מיליוני בני נוער כעת יש להם חוויה בטוחה יותר הודות לחשבונות הנוער של אינסטגרם," אמרה דוברת מטא, ליזה קרנשו, בדוא"ל. "הדוח פגום, אבל אפילו אם מקבלים אותו כפשוטו, הוא זיהה רק 61 פריטי תוכן שהוא מחשיב 'רגישים', פחות מ-0.3 אחוז מכל התוכן שחוקרים אלה סביר להניח ראו במהלך הבדיקה."

בדיקה עצמאית נוספת

ג'פרי פאולר, עיתונאי הטכנולוגיה של הוושינגטון פוסט, חזר על הניסויים — והתוצאות שלו היו גרועות יותר. ב-10 הדקות הראשונות של חשבון הנוער הניסיוני שלו, אינסטגרם המליצה על סרטון המהלל גבר שהתעלף משתייה מופרזת של אלכוהול. סרטון אחר הציג טבעת עם כפית זעירה שמשווקת למדוד "מנה" של טבק להרחה אך קשורה גם לקוקאין. בסופו של דבר, ההמלצות של החשבון הפכו לאובססיה מלאה למוצרי אלכוהול וניקוטין כמו Zyn, שהופיעו לעתים פעם בכל חמישה סרטוני Reels שראה.

ההשפעה על בני נוער

בני נוער אינם תמימים לגבי נושאים כמו מין, סמים והפרעות אכילה, אומר גולאטי, תלמיד התיכון. אבל לראות אותם שוב ושוב באינסטגרם — נבחרים על ידי האפליקציה — משפיע. "האלגוריתם מעצב את התפיסה שלך לגבי מה מקובל בדרכים שלא הבנתי קודם," אמר לעיתונאי.

למרות שחלק מהתכונות של חשבונות הנוער עובדות, גולאטי אומר, ההבטחה הכוללת "לא נראית שהתממשה בצורה משמעותית שמשנה את החוויה שלך."

הקרב על הגנת ילדים

קבוצות להגנת ילדים מזהירות זמן רב שמדיה חברתית מסכנת בני נוער. נקודת המחלוקת הייתה האיזון של מי אחראי: הורים, חברות הטכנולוגיה שיוצרות את האפליקציות, או הצעירים עצמם.

האיום של רגולציה נראה כמניע עבור מטא. בשנת 2023, 41 מדינות תבעו את החברה, בטענה שאינסטגרם ופייסבוק ממכרים ופוגעים בילדים. בקיץ 2024, המנתח הכללי של ארה"ב המליץ להציב תוויות אזהרה על מדיה חברתית, בדיוק כמו סיגריות.

וכאשר מטא חשפה את חשבונות הנוער בספטמבר, הקונגרס עמד על סף נקיטת פעולה. הסנאט אישר, בהצבעה של 91-3, הצעת חוק בשם "חוק בטיחות הילדים המקוונת" שהייתה דורשת מחברות מדיה חברתית לנקוט זהירות "סבירה" כדי למנוע תכונות עיצוב מוצר המסכנות קטינים בפגיעה עצמית, שימוש בחומרים אסורים או ניצול מיני. מטא הכריזה על חשבונות הנוער יום לפני שוועדה מרכזית בבית הנבחרים עמדה לשקול תיקונים להצעת החוק.

הצעת החוק נתקעה ולא הפכה לחוק. מטא מכחישה שהשיקה את התוכנית כדי למנוע רגולציה. הצעת החוק הוגשה מחדש לקונגרס השבוע.

קריאה לפעולה

רייס, מארגון Accountable Tech, אומרת שתוכניות וולונטריות כמו חשבונות הנוער של אינסטגרם — גם אם הלכו רחוק יותר מהמתחרים — לא עומדות בהבטחות שלהן עצמן. הארגון שלה תומך באחריות משפטית בצורה של חוקי עיצוב מתאימים לגיל, כמו זה שאושר על ידי קליפורניה שהוגשה נגדו תביעה בבית המשפט.

גולאטי, שמתכנן ללמוד מדעי המחשב ופילוסופיה בסתיו באוניברסיטת סטנפורד, אמר שהניסוי לימד אותו שצעירים צריכים להיות מודעים יותר לכוח שיש לאלגוריתמים עליהם.

העצה שלו: "נסו לשמור על עניין או עניין פעיל במה שמוצג בפיד שלכם."