לרשתות החברתיות יש שלל יתרונות אך אחד החסרונות הבולטים הוא שיש לא מעט אנשים המנצלים אותן לפעולות לא חוקיות. לא מזמן פורסם כאן על ניסיונות מחרידים לבצע סחר בילדים ואפילו תינוקות באינדונזיה באמצעות האינסטגרם כאשר גם בפייסבוק מתמודדים עם אתגרים דומים של מניעת פעילות לא חוקית או לא הולמת.

בפייסבוק טוענים שהתוכנה החדשה אכן מפחיתה באופן ניכר את התמונות המכילות תוכן מיני של ילדים (צילום: רויטרס)

אחת התופעות הרחבות יותר שמתקיימות בפלטפורמה של פייסבוק היא פרסום תמונות עירום של ילדים כאשר הרשת החברתית חשפה היום נתון מדאיג ביותר של 8.7 מיליון תמונות כאלה שהוסרו רק במהלך הרבעון האחרון. 

הנתון מדאיג מצד אחד אך מעודד מצד שני מכיוון שבפייסבוק נעזרים בתוכנה מיוחדת המזהה את התמונות הלא הולמות ומסירה אותן עוד לפני שמשתמשים אחרים יוכלו לצפות בהן, כלומר כאשר משתמש מנסה להעלות תמונה כזו, התוכנה מיד מזהה זאת ועוצרת את התהליך.

הכלי החדש תוכנן לזהות תמונה הכוללת שילוב של שני המרכיבים, עירום וילדים והיישום שלו בשנה האחרונה סייע לפייסבוק לאכוף את איסור העלאת תמונות המציגות קטינים באופן מיני. מערכת נוספת של פייסבוק הפועלת על עקרון דומה תופסת בזמן מעשה משתמשים המנסים לפתות או "להתחבר" עם קטינים במטרה לשדל אותם לפעולות של ניצול מיני.

8.7 מיליון תמונות עירום של ילדים הוסרו ברבעון האחרון ע"י פייסבוק

זוהי הפעם הראשונה בה פייסבוק חושפת נתונים של תמונות המכילות עירום ילדים כאשר ברבעון הראשון פרסמה הרשת החברתית נתון של 21 מיליון תמונות המכילות תכנים מיניים של מבוגרים ופעילות מינית באופן כללי וייתכן כי חלק מזה כולל גם פורנוגרפיה של ילדים. לפני כניסתה של התוכנה החדשה בפייסבוק סמכו על המסננים שפועלים על תכנים מיניים של בוגרים וגם על משתמשים אחרים שיזהו תמונות עירום של ילדים ויתריעו עליהן.

החיסרון בתוכנות המסירות תכנים באופן אוטומטי, בניגוד לפעולות הסרה מבוקרות יותר הוא שלעתים נחסמים בטעות תכנים חוקיים לגמרי כאשר במהלך השנה האחרונה מספר מפרסמים וסוכנויות ידיעות התלוננו על כך שפוסטים שלהם נחסמו ללא שום סיבה מוצדקת.

בפייסבוק אישרו שהתוכנה החדשה אכן מסייעת להסיר יותר תמונות לא חוקיות כאשר תמונות המייצגות אמנות כלשהי או תמונות היסטוריות הן היוצאות מן הכלל, כדוגמת התמונה המפורסמת של הילדה הוייטנאמית הערומה שניסתה לברוח לאחר שנפגעה מהתקפה של כוחות צבא דרום וייטנאם במהלך המלחמה. העובדה הזו מעלה תהיות לגבי הסרת פוסט של "מרכז אנה פרנק" לפני כחודשיים בה נראים בזמן השואה ילדים יהודים מורעבים כשהם בעירום.