חומר רקע

המשרד לנושאים אסטרטגיים והסברה , בניין צ'מפיון, רח' ששת הימים30 בני ברק :טלפון072-3275555 , :פקס072-3275556 Ministry of Strategic Affairs and Public Diplomacy Champion Tower, 30 Sheshet Hayamim St. Bnei Brak, Israel Tel: +972 (0)72 5555 - 327 , Fax: +972 (0)72 327-5556 מדינת ישראל ה משרד לנושאים אסטרטגיים והסברה State of Israel Ministry of Strategic Affairs and Public Diplomacy מתווה מוצע ל מדיניות ממשלתית: מאבק ב שיח שנאה אנטישמי ברשת ואר ר פב 2021 2 תוכן עניינים תקציר מנהלים ................................ ................................ ................ 3 מבוא ................................ ................................ ............................ 6 מתודולוגיה, מבנה ומטרות המתווה ................................ ....................... 9 :'פרק א יעדי ממשלת ישראל מול הרשתות החברתיות ............................. 12 מד יניות ................................ ................................ ................................ ....... 12 1) התייחסות החברות להגדרתIHRA ................................ ................................ ................................ .............. 13 2) מידע מהימן ................................ ................................ ................................ ................................ .............. 17 אכי פה ................................ ................................ ................................ ....... 22 1) שפות מועדות ................................ ................................ ................................ ................................ .......... 22 2) אנטישמים מובילים ................................ ................................ ................................ ................................ ... 24 3) הכשרת מנטרי תוכן ................................ ................................ ................................ ................................ .. 26 4) התנהגות בלתי - אותנטית מתואמת ................................ ................................ ................................ ............. 28 5) סחר- שנאה ברשת ................................ ................................ ................................ ................................ .... 30 הגב רת השקיפות ................................ ................................ .............................. 33 פרק ב': יעדי הפעילות הממשלתית ................................ ..................... 36 צו ות בינמשרדי ................................ ................................ ................................ .............................. 36 מע רך ממשלתי לניטור שיח שנאה אנטישמי ................................ ................................ .... 38 רגו לציה– חקיקה ישראלית ועולמית ................................ ................................ ............... 39 שת ״פ בין מדינותG 2 G וארגונים על- לאומיים ................................ ................................ ... 41 שת ״פ ורגולציה בינלאומית כנגד אתרים קיצוניים ................................ ............................. 43 בני ית קואליציות בינלאומיות וסנכרון מול ארגוני חברה אזרחית ................................ ................. 44 נספחים ................................ ................................ ....................... 46 נ'ספח א טבלה השוואתית: מדיניות שיח שנאה של החברות הגדולות ................................ ................................ ........ 46 נס'פח ב פילוח הדוגמאות בהגדרתIHRA לאנטישמיות ................................ ................................ ........................... 48 נס'פח ג שיח שנאה בהיבט משפטי: הסדרים בארץ ובעולם ................................ ................................ ...................... 49 נס 'פח ד המכון הישראלי לדמוקרטיה: המלצות לחברות המפעילות רשתות חברתיות ולמתווכי רשת באינטרנט ............... 61 3 תקציר מנהלים רקע מהפיכת המידע באינטרנט והפיכת הרשתות החברתיות למדיום המוביל לתקשורת ולהעברת תכנים , הציבו לעולם הזדמנויות ואתגרים. לצד פריחה אנושית חסרת תקדים ביכולת לפתח שיח, להביע ולהחליף דעות באופן עצמאי - נולדו תופעות שליליות, ביניהן, היכולת להפיץ שיח שנאה במהירות ובממדים חסרי תקדים . ,אם בעבר דעות קיצוניות היו נחלתם של חוגים רדיקליים בשולי השיח, כיום, בעולם הרשתי וחסר הגבולות תכני שנאה, תעמולה וחדשות כזב מופצים לציבורים רחבים, לעיתים באנונימיות ובלחיצת כפתור. שיח שנאה מסית ופוגע בקבוצות מיעוטים שונות על רקע דת, מין, לאום וגזע. סוג מ יוחד של שיח שנאה הוא האנטישמיות .לגווניה, הפוגעת בעם היהודי ובמדינת ישראל העלייה המדאיגה באירועי האנטישמיות בעולם בשנים האחרונות נמצאת בהלימה לגידול בשיח השנאה ברשת נגד העם הי הודי ומדינת ישראל . במקביל, הרשתות החברתיות, המהוות בפועל מדיום ציבורי בשליטת ידי ים פרטיות, נהנות מחופש רב בהגדרת המדיניות ובפעולות האכיפה בנושא שיח שנאה, לעיתים קרובות ללא מחויבות לסטנדרטים או לרגולציה בינלאומית או מקומית. ברצותן יחליטו לפעול נגד שיח שנאה, ברצותן יי מנעו. כך, על פי שיקול דעתן העצמאי מחליטות הרשתות החברתיות החלטות בעלות השפעה דרמטית על השיח הציבורי . עדות לכך ניתן למצוא ב אירועים בארה"ב ב מהלך ינואר2021 בסוגיית החלפת הממשל . למ ול אתגר מורכב ורב- ממדי זה, גיבשו המשרד לנ ושא ים אסטרטגיים ומשרד התפוצות מתווה פעולה למאבק בשיח שנאה אנטישמי ברשתות החברתיות , מתוקף תפקיד ם להיאבק בתופעת האנטישמיות והדה - לגיטימציה לישראל ברחבי העולם . מטרה ומתודולוגיה מטרת מסמך זה היא להתוות ק ווים מנחים לפעילות הממשלה במאבק בשיח שנאה נגד יהודים ומדינת ישראל במרחב הרשתי. המסמך אף משרטט את היעדים לפעילות צוות בינמשרדי בהובלת משרד התפוצות והמשרד לנושאים .אסטרטגיים ובשיתוף משרדי הממשלה הרלוונטיים למאבק בתופעה המתווה הממשלתי גובש לאחר התייעצות בין משרדי הממשלה העוסקים בתחום– משרד התפוצות, המשרד לנושאים אסטרטגיים, משרד החוץ ומשרד המשפטים- לצד מומחים, נציגי ארגונים יהודיים ופרו ישראליים ותוך עיון במחקרים ר לוונטיים. במקביל, בחודשים האחרונים, התקיים שיח בין נציגי משרדי הממשלה לבין נציגי הרשתות החברתיות המובילות אשר בחנו את גבולות השיח תוך ניתוח דוגמאות שונות של פרסומים 4 .ברשתות החברתיות לצורכי הגדרה במסמך זה, שיח שנאה אנטישמי יוגדר על פי הגדרת העבודה הבינ"ל ה מקובלת לאנטישמיות של ארגון IHRA (הברית הבינלאומית לזיכרון )השואה המעניקה כלים לאבחון וזיהוי אנטישמיות במופעיה השונים כשיח שנאה נגד יהודים וכשיח שנאה בעל אופי של דה- לגיטימציה ודמוניזציה למדינת ישראל. יצוין כי המסמך אינו מבקש להגביל ביקורת לגיטימית המופנית כ לפי ישראל, בדומה לביקורת המופנית כלפי כל .מדינה אחרת "מה רוצים?": יעדי ממשלת ישראל מול הרשתות חברתיות בחלקו הראשון, המסמך מפרט את היעדים לממשלה ולצוות הבינמשרדי בשיח מול הרשתות החברתיות המובילות . יעדים אלה נחלקים לשלושה סוגים: מדיניות, אכיפה, שקיפ ות . מדיניות הגדרת אנטישמיות : קבלת הגדרת העבודה לאנטישמיות שלIHRA כבסיס לאבחון ולזיהוי שיח שנאה אנטישמי, והטמעתה בכללי הקהילה . מידע מהימן : שימוש מגוון בסימונים בנושא שיח שנאה אנטישמי ובהצגת מידע מהימן בדגש על .הכחשה ועיוות השואה אכיפה שפות מועדות : אכיפה מוגברת של כללי הקהילה בשפות בהן רווח שיח שנאה אנטישמי . אנטישמיים מובילים : סגירת חשבונות יהם של מ שתמשים שהורשעו בשיח שנאה אנטישמי, לצד .האטת הוויראליות של תכנים החשודים כשיח שנאה הכשרת מנטרי תוכן : הכשרה מתמשכת של מנטרי תוכן בנושא שיח שנאה אנטישמי על ידי ארגונים בלתי-תלויים, תוך שקיפות מצד החברות לגבי מערך הכשרת המנטרים . התנהגות בלתי- :אותנטית אכיפה נמרצת לאיתור והסרת חשבונות בגין פעילות מתואמת בלתי- .אותנטית המחוללת שיח שנאה סחר שנאה : אכיפת הגבלות על מסחר אנטישמי ברשת - אימוץ ואכיפת כללים האוסרים סחר בפריטים נאציים(Nazi memorabilia) ובפריטים בעלי אופי מסית לשנאה או מכחיש שואה (דרישה )זו מיועדת לחברות המסחר המובילות ברשת ולחברות הסליקה הכספית. 5 שקיפות נתוני שיח שנאה : שקיפות ופרסום נתונים על שיח שנאה, לרבות שכיחות השיח בפלטפורמות השונות , .פילוח לפי קבוצות מוגנות ולפי ערים בעולם "איך עושים את זה?": הפעילות בזירה הממשלתית בחלקו השני, המסמך מפרט את הצעדים הממשלתיים הנדרשים, באופן מתואם ומסונכרן בין משרדי הממשלה הרלוונטיים לטיפול בנושא ולמימוש היעדים– בין היתר באמצעות צוות בינמשרדי לנושא. הצוות ,הבינמשרדי לתיאום המאבק בשיח שנאה ברשת יהווה את הגוף המתאם והמתכלל אשר יתכנס בכל רבעון .ולפי הצורך המשרדים החברים בו יציגו את תכניות העבודה שלהם ויתאמו את המענים לאתגרים, כאשר כל .משרד יוביל פעילות בהתאם להגדרת תפקידו וליתרונו היחסי בתחום הצוות הבינמשרדי יעסוק, בין היתר :, בסוגיות הבאות עיבוי יכולת הניטור הממשלתית– ניטור מתמשך של שיח .שנאה אנטישמי לסוגיו ברשתות הרלוונטיות רגולציה– בחינת מצב החקיקה, לרבות מדיניות ואכיפה במוקדים בעייתיים ופיתוח פתרונות משפטיים .ונורמטיביים עדכניים ״ שת פ בין מדינותG 2 G וארגונים על- .לאומיים ״ שת .פ ורגולציה בינלאומית כנגד אתרים ייעודיים המפיצים שיח שנאה בניית קואליציות בינלאומיות רחבות למאבק בשיח שנאה, שת"פ עם ארגוני חברה אזרחית וכינוס שולחנות .עגולים מייעצים "?"כיצד מסמך זה עשוי לסייע למשרדי הממשלה העוסקים בתחום- לפעול בתיאום ובסינרגיה להשגת היעדים והמשימות המשותפ ים .בשיח מול החברות לארגוני חברה אזרח ית (לרבות ארגונים פרו - )ישראלים בארץ ובעולם ומכוני מחקר - להבין את תפיסת .הממשלה ויעדיה בתחום שיח השנאה ברשת ולהיות שותפים לה לנציגי מדינת ישראל - לניהול שיח מגובש יותר בנושא, לרבות מול אישים, ארגונים ומוסדות בינלאומיים .במטרה לייצר שיתופי פעולה עם ישראל 6 מבוא בשני העשורים האחרונים נמצא העולם בעיצומו של מהפך טכנולוגי. האינטרנט, יחד עם היכולת הטכנולוגית לאחסן כמויות אדירות של מידע והיכולת לייצר תוכן באופן עצמאי ומי י די – הביאו לשינוי חסר תקדים במאפייני השיח העולמי. בתוך כך, לרשתות החברתיות תרומה משמעותית מ אד לחיבור בין אנשים וליצירת "מרחב .שיח" דיגיטלי חופשי ממגבלות,לצד זאת בדומה לתמורות אנושיות אחרות, גם למהפך זה חסרונות ואתגרים, כאשר, לצד משתמשים "נורמטיביים", פועלים כאלה המנצלים את היתרונות העצומים של עולם הדיגיטל והרשתות החברתיות כמדיום לקידום תוכן שלי .לי, להסתה ולהפצת שנאה עד עתה, הפגינו החברות שבבעלותן הרשתות החברתיות איטיות רבה בטיפול בבעיות הנובעות מהשימוש .הפסול בהן זאת במקביל לגדילת החברות בקצב מסחרר, שהורידה את ה קשב מצדן .לתופעות אלו אף יותר בארצות הברית, הציבור וארגוני חברה אזרחית כה מאסו בטיפול הבלתי- מספק של החברות בנושא שיח השנאה, עד שבחודש יולי2020 .נרשם אחד מהקמפיינים האזרחיים המוצלחים ביותר נגד רשת חברתית הליגה נגד השמצה, (ה- (Anti-Defamation League, בשיתוף ארגונים אפרו- אמריקנים מובילים, הביאו לכך שיותר מ - 1,200 חברות, כולל חברות מוביל ות במשק בארה ״ ב, עצרו את הפרסומות שלהן בפייסבוק למשך .חודש, על מנת ללחוץ על החברה לטפל ברצינות בתופעת שיח השנאה1 אחת החוזקות של קמפיין זה הייתה הבלטת העובדה כי שיח שנאה הוא בעיה משותפת לקבוצות מיעוט ים .רבות ושונות במקרים מסוימים, לחוסר הפעילות של הרשתות החברתיות למיגור שיח השנאה, השלכות קטלניות. כך לדוגמה ב - 2018, חברת פייסבוק הודתה כי בסכסוך במיאנמר, בו נרצח באופן שיטתי מיעוט ה רוהינג י ה, היא ."לא פעלה די הצורך למנוע את השימוש שנעשה ברשת חברתית "ללבות פילוג והסתה לאלימות2 לאחר אירועי חודש ינואר האחרון ב גבעת הקפיטול בוושינגטון ב ארה ״ ,ב הודה מייסד טוויטר ג'ק דורסי ב זיקה הקיימת בין שיח שנאה לאלימות פיזי ב , ו ת נקודות הכשל בטיפול החברות :בנושא "פגיעה כתוצאה מ שיח ברשת - יה א אמתי ת .בצורה מוכחת כולנו צריכים לבחון ב ביקורתיות את חוסר- העקביות ב מדיניות ובאכיפה .שלנו א כן, אנחנו צריכים לבחון כיצד השירותים שלנו עלולים לתמרץ הסחת דעת .ונזק א ,כן אנחנו זקוקים ליותר שקיפות ב פעולות הניטור שלנו". 3 1 Stop Hate for Profit דף הבית- https://bit.ly/2LKFh4O 2 ניו יורק טיימס06/11/2018 - https://nyti.ms/3by4F8G 3 טוויטר14/01/2021 – https://bit.ly/2NLIlP7 7 מזה אלפי שנים מהווים היהודים והיהדות מטרה לשיח שנאה . האנטישמיות הקלאסית, שהגיעה לשיאה בתקופת השואה, עברה מטמורפוזה עם הקמת מדינת ישראל. זו, באה לידי ביטוי ,, בקרב קהלים מסוימים באנטי ישראליות, הרואה במדינת הלאום של העם היהודי סיבה עיקרית למגוון עוולות היסטוריות ומדיום חדש שניתן ליצוק לתוכו את אותה שנאה ישנה נגד יהודים. שנאה זו באה לידי ביטוי בהסתה לאלימות כנגד היהודים החיים בישראל; בתעמולת דה- לגיטימציה ודמוניזציה נגד ישראל, ובהצגת קיומה כעוול מוסרי מעצם קיומה וכישות לא -לגיטימית בעליל. בעוד בעבר התרכז שי ח זה במקומות מסוימים בעולם עם דגש למרחב הערבי והסובייטי , הרי שהחל משנת2001 )(ועידת דרבן התרחב מסע השנאה לעולם המערבי . כיום, המדיום המוביל להפצת שיח שנאה אנטישמי , הוא האינטרנט על הפלטפורמות השונות ש ב ו, בדגש על הרשתות החברתיות. השפעת שיח השנאה הווירטואלי אף תור מת .להכשרת אווירה אלימה או לאלימות פיזית מערכת הניטור של משרד התפוצות מצאה הלימה בין אזורים בהם התקיים שיח אנטישמי בעצימות גבוהה לבין מספר התקריות האנטישמיות שת י עדה המשטרה באותם אזורים. זאת ועוד, מבצעי פשעי שנאה משתמשים ברשתות החברתיות כדי להאדיר את מע שיהם במניפסטים וסרטונים שנועדו לעורר השראה ולגייס עוקבים בעולם הווירטואלי. דוגמא בולטת לכך ניתן למצוא בגל ההסתה לאלימות נגד ישראל שהתקיים ברשתות החברתיות במהלך2015 , וגלש לאלימות רחבה בגל "טרור הסכינים" כאשר ההסתה ברשתות החברתיות ומעשי הטרור בשטח יצרו"מעג ל קסמים ", האחד מעצים את השני וחוזר חלילה. בעקבות כך , .החלה ישראל לדרוש הסרת חומר מסית לטרור ולאלימות מהרשת בשנים האחרונות (ועד לשנת2020 בה החל ריחוק חברתי עקב משבר )הקורונה, נרשמה עלייה חדה במספר .אירועי האנטישמיות בעולם ,כך משנת2017 עד שנת2019 חלה עלי יה של33% - ברחבי העולם במספר ."התקריות האנטישמיות המסווגות כ"אלימות חמורה4 בארה ״ ב לבדה, שנת2019 היוותה שיא כל הזמנים במספר האירועים האנטישמיים (עלייה של12% לעומת2018 ) – שכלל ,רצף פיגועים אנטישמיים רצחניים שהחל שנה קודם לכן בפיגוע האנטישמי הרצחני ביותר בתולדות ארה ״ "ב בבית כנסת "עץ חיים .בפנסילבניה5 תחושות יהודים החיים בחו ״ ל מצביעות על הפנמה של האיום– 40% מהנשאלים בקרב יהודים באירופה חוששי מ ם פגיעה פיזית אישית על רקע אנטישמי6; בארה ״ ב31% מהנשאלים בקרב יהודים אמרו כי .הם נמנעו מלהציג סמלים (בלבוש לדוגמה) שיזהו אותם כיהודים7 4 על פי דוחות מכון קנטור של מספר תקריות אנטישמיות "אלימות חמורות" (בשנת2017 דווחו על342 אירועים ובשנת2019 על 456 ) ראו דוחות שנתייםhumanities.tau.ac.il/kantor/rerearch/annual_reports - https://en 5 ADL 12/05/2020 - https://bit.ly/2XxmFb8 6 סוכנות האיחוד האירופי לזכויות יסוד10/12/2018 - s://bit.ly/3nzpFhO http 7 AJC 2020 - https://bit.ly/39sJUbV 8 תחושת המצוקה בגין ביטויים אנטישמיים שכיחה גם ברשתות החברתי ות. כך לדוגמה, צעירים יהודיים דיווחו על תחושת חרדה בעקבות גילויי נאצה .שקיבלו לאחר שהזדהו כיהודים ברשת טיק טוק8 עם התפרצות נגיף הקורונה, זוהתה עליה בשצף ההתבטאויות האנטישמיות ברשתות החברתיות כשפורסמו תכנים המאשימים את היהודים ואת ישראל ביצירת הנגיף ו/או ב .הפצתו9 הדרדרות האנטישמיות בעיצומו של משבר הקורונה החמירה עד כדי כך שדווח האו ״ ם לנושאי חופש דת ואמונה דרש שיינקטו "צעדים תקיפים" נגד "ניצול הנגיף ".להתפשטות שנאה נגד יהודים בפרט, הוא הדגיש את החיוניות בפעולה מצד ה :רשתות החברתיות "...ההתמודדות עם שיח שנאה ברשת לא תצליח כל עוד תקשורת המיינסטרים והרשתות החברתיות לא לוקחים .ברצינות את הדיווחים על מיקוד שיח השנאה ביהודים ובמיעוטים אחרים עליהן להסיר כל פרסומים שמסיתים לשנאה או לאלימות, זאת בנוסף לזיהוי ודיווח על חדשות כזב ("פייק- ".)"ניוז10 ממשלת ישראל זיהתה את הסיכונים הקיימים בהתפשטות שיח השנאה, ובכלל זאת התרחבות האנטישמיות וקמפיין הדה - .לגיטימציה נגד מדינת ישראל. עם זאת, הטיפול הוטל על מספר משרדים, כל אחד בתחומו כיום כבר ברור כי השפעה משמעותית על החברות בנושא מחייבת התכנסות סביב תכנית ממשל ,תית מקיפה .המסנכרנת בין פעילות משרדי הממשלה, ומציבה יעדים ברורים לחברות לטיפול כולל בנושא באמצע שנת2020 החלו משרדי הממשלה הרלוונטיים בתהליך משותף לגיבוש אסטרטגיה ממשלתית סדורה להתמודדות עם שיח שנאה אנטישמי ברשתות החברתיות. תהליך הלמידה והניתוח כלל דיוני ם של כלל הגורמים הממשלתיים הרלוונטיים עם נציגי :החברות .פייסבוק, טוויטר, גוגל וטיק טוק מסמך זה מפרט מתווה מוצע ל מדיניות הממשלתית למאבק בשיח שנאה אנטישמי, על סוגיו, ברשתות .החברתיות 8 NBC 25/09/2020 - https://nbcnews.to/2Lj2Q53 9 בין השאר– The Times of Israel 23/07/2020 - https://bit.ly/3ibL2F0 10 משרד הנציב העליון של האו"ם לזכויות האדם 17/04/2020 - https://bit.ly/39rfXsH 9 מתודולוגיה, מבנה ומטרות המתווה מטרות מטרת מסמך זה הי א ליצור "קווים מנחים" לפעילות מתואמת של משרדי הממשלה למאבק בשיח שנאה אנטישמי. מתווה מדיניות ממשלתית לצד אופני פעולה מוגדרים – יאפשרו מיקוד הפעילות תוך שיתוף פעולה בין משרדי ., להשגת היעדים בשיח מול הרשתות החברתיות מתווה זה יסייע לארגוני חברה אזרחית להם ת פקיד משמעותי במאבק באנטישמיות (ובכללם ארגונים פרו - )ישראלים בארץ ובעולם ומכוני מחקר העוסקים בתחום- להבין בצורה ברורה מהי גישת הממשלה במאבק בשיח האנטישמי ו ב הסתה כנגד ישראל ברשתות החברתיות. המסמך עשוי אף להוות בסיס לשיח בינלאומי ושיתופי פעולה רחבים יותר מול מוסדות ומדינות הפועל ים .בתחום אופן גיבוש המתווה מסמך זה גובש בהתייעצות בין משרדי הממשלה השונים אשר להם נגיעה לתחום– המשרד לנושאים אסטרטגיים, משרד התפוצות, משרד החוץ, ומשרד המשפטים – תוך התייעצות עם מומחים בתחום ונציגי ארגונים יהודיים העומדים בחזית המאבק בשיח שנאה אנטישמי, עיון במחקרים רלוונטיים ושיח בין נציגי .משרדי הממשלה לבין נציגי הרשתות החברתיות המובילות מבנה חלקו הראשון של המסמך נועד למקד את השיח הממשלתי מול הרשתות החברתיות . מוצגים בו היעדים המרכזיים בשיח מולן לטיפול בשיח שנאה אנטישמי. היעדים נחלקים לשלוש קטגוריות: מדיניות, אכיפה .ושקיפות חלקו השני של המסמך מציע מתווה לארגון הפעילות הממשלתית . בחלק זה מוצגים צעדים מוצעים עבור גיבוש גישה ממשלתית אחודה בין היתר , תוך הקמת צוות בי נ משרדי לנושא שיח השנאה, ו הצגת תחומי הפעילות .של הצוות 10 רשתות ופלטפורמות א. רשתות חברתיות מובילות המתווה מציע לקיים שיח מול הרשתות החברתיות אליהן נחשפים הקהלים הרחבים ביותר. התייחסות זו נובעת מפריסתן, שכיחותן וכפועל יוצא- יכולת השפעתן על השי ח. אמנם שיח השנאה הארסי ביותר מתחולל .בקבוצות סגורות ובפלטפורמות נישה, אך הוא זולג משם לרשתות החברתיות הגדולות ומכאן לציבור הרחב .אי לכך המלצתנו היא להתמקד בפלטפורמות הגדולות ביותר )פלטפורמה (חברה משתמשים בחודש פייסבוק 2.6 מיליארד יו- )טיוב (גוגל11 2 מיליארד )אינסטגרם (פייסבוק 1 מיליארד טיק טוק 800 מיליון VK 600 מיליון טלגרם 400 מיליון )(כלל הפלטפורמה טוויטר 330 מיליון היקף משתמשים חודשי ברשתות החברתיות המובילות מתוך רשימה זו , מסמך זה מת מקד בפלטפורמות הגדולות ביותר– פייסבוק, אינסטגרם, יוטיוב , טיק טוק וטוויטר12 – .עמן יש לממשלת ישראל שיח היום, והן ותיקות ומפותחות מבחינת מדיניות ומערך אכיפה לצד חמש הפלטפורמות הגדולות והממוסדות , ישנן שתי חברות נוספות ההולכות וגדלות, וההופכות גם הן למוקדים של שיח שנאה אנ טישמי – VK (VKontakte) וטלגרם ( ,בפרט)ערוצי טלגרם . עם חברות אלה לא קיים ,שיח ממשלתי אין להן מדיניות ואכיפה מפותחים, ו לעת עתה נראה כי מנופי לחץ ציבורי וממשלתי פחות יעילים מולן. חברות אלה מחייבות ,התייחסות מעמיקה וייחודית ש מבוססת על העקרונות המוצגים במסמך ז ה, אך מתואמת מול כל חב רה באופן פרטני (ראו להלן ,פרק 'ב– הזירה ממשלתית– .)הצוות הבינמשרדי 11 לפלטפורמת יו- .טיוב יש אמנם מאפיינים של חברת תוכן, אבל היא מקבלת כאן התייחסות של רשת חברתית 12 השפעת טוויטר גדולה במיוחד בקרב מנהיגים, כתבים ומקבלי החלטות ולכן השפעתה מעבר למספרים כאן 11 ב. פלטפורמות מסחריות וסליקה ברשת המתווה עוסק בנוסף לרשתות חברתיות גם בפלטפורמות מסחריות וסליקה. אלה, באמצעות מתן אפשרות .למכירת פריטים בעלי אופי אנטישמי, מהוות לעיתים מקור מימון ואף ערוץ לקידום שיח אנטישמי ג. רשתות נישה קיצוניות בנוסף לרשתות החברתיות הגדולות, קיימות כיום פלטפורמות נישה אשר ,להן כללי ניהול שיח מקלים בכוונה והן מושכות אליהן את השיח הקיצוני ביותר– מפורנוגרפיה ועד לשיח שנאה. רשתות א לה מאפשרות ביודעין שיח קיצוני , אינן מנהלות שיח ממשלתי ואף אינן עושות שימוש בשירותי תשתי ו ת בישראל. המתווה אינו ע וסק בהרחבה ברשתות אלה, וממליץ כי הצו ות הבינמשרדי יבחן לעומק את הבעיה ו י ציע דרכי פעולה ,להתמודדות בין היתר באמצעות שיתופי פעו לה בינלאומיים ורגולציה (ראו פרק 'ב- יעדי הפעילות הממשלתית- רגולציה ושת ״ .)פ בינלאומי כנגד אתרים ייעודיים מינוח סביב נושא "שיח שנאה" בקונטקסט הישראלי והיהודי נעשה שימוש במספר מונחים, ביניהם – ,אנטישמיות הסתה, הסתה לגזענות ,דה ו- לגיטימציה לישראל. ריבוי המונחים ולעיתים חפיפה ביניהם - מחייבים שימוש בהגדרה ברורה, מקובלת, המציבה מסגרת לשיח השנאה האנטישמי ולביטוייו השונים. המתווה בוחן את שיח השנאה על רבדיו השונים בראי הגדר ת העבודה לאנטישמיות של הברית הבינלאומית לזיכרון השואה ( IHRA ) , (ראו הרחבה על הגדרתIHRA ,בפרק .)א', להלן 12 פרק 'א: יעדי ממשלת ישראל מול הרשתות החברתיות :בבסיס המתווה הממשלתי מונחים שלושה סוגי יעדים למול הרשתות החברתיות א. יעדי מדיניות ב. יעדי אכיפה ג. יעדי שקיפות מדיניות האיסור על שיח שנאה, ככלל, מעוג ן .בדין הבינלאומי במספר אמנות בינלאומיות13 בהתאם, עם עליית הרשתות החברתיות והתרחבות השיח הדיגיטלי, גיבשו לעצמן הרשתות החברתיות המובילות כללי שימוש המתייחסים אל שיח שנאה כסוג שיח האסור בפלטפורמה. הכללים שואפים להעניק הגנה למגזרים ומיעוטים שונים, "קבוצות מוגנות" על בסיס גזע, לאום, דת, מגדר וכיו ״צ ,ב .בדומה לאמנות הבינלאומיות בנושא הכללים, כפי שיוצג להלן, שונים מרשת ל רשת- חלקם ספציפיים, חלקם עמומים – אינם ברורים דיים ונתונים .לפרשנות בבסיס יעד המדיניות לרשתות החברתיות שני נושאים: הראשון, הגדרת מדיניות ברורה לטיפול בשיח שנאה בקונטקסט היהודי/ישראל י על ידי התייחסות החברות להגדרת האנטישמיות המקובלת כיום; והשני, החלת מדיניות להנגשת מידע מהימן, בעל ערך חינוכי - .ציבורי, בהתמודדות מול שיח שנאה אנטישמי ברשת 13 ראו. Reducing Online Hate Speech https://www.idi.org.il/books/31764 עמודים33 - 45 , כמו כן ראו הערת שוליים 'מס17 להלן 13 1) התייחסות החברות להגדרתIHRA היעד תמונת מצב הגדרת העבודה לאנטישמיות של ה- International Holocaust Remembrance Alliance (להלן "הגדרתIHRA .") היא הגדרת האנטישמיות המקובלת בעולם כיום הברית הבינלאומית לזיכרון השואה(IHRA) הוא ארגון בינלאומי העוסק בהנצחת זיכרון השואה ובמאבק באנטישמיות, אשר הוקם ב - 1998 ובו חברות כיום34 .מדינות בשנת 2016 אישר הארגון הגדרת אנטישמיות (הגדרת עבודה, בלתי- מחייבת משפטית) המבוססת על הגדרות קודמות של אנטישמיות. נימוק הארגון לגיבוש ההגדרה היה כי "על מנת להתחיל לטפל בבעיית ".האנטישמיות, יש להבהיר מהי אנטישמיות14 כחלק בלתי נפרד מההגדרה, הוצעו11 דוגמאות שיכולות ;להיחשב כאנטישמיות, ונחלקות לשלושה סוגים: ביטויים אנטישמיים קלאסיים נגד יהודים שימוש 'מניפולטיבי בשואה; וביטויי אנטישמיות חדשה נגד מדינת ישראל. (ראו נספח ב – טבלת דוגמאותIHRA .)לפני סוגים מאז2016 , כשלושים מדינות אימצו את הגדרת העבודה, וכן עשרות רבות של ארגונים, מועצות .מקומיות ואוניברסיטאות האימוץ הבינלאומי הרחב בחמש השנים שחלפו מאז אישור הגדרתIHRA , מבטא את הקונצנזוס ההולך וגובר ביחס לתופעות שונות של אנטישמיות, ואת ההכרה כי אנטישמיות קיימת הן בצורתה הקלאסית והן בצורה בת- זמננו, המופנית נגד מדינת הלאום של העם היהודי, מדינת ישראל. כך, הגדרת העבודה .לאנטישמיות נותנת את המסגרת הנכונה ביותר לקידום שיח בנושא מדיניות מול הרשתות החברתיות15 14 ( כוח המשימה הבינלאומי להנצחת זכר השואהIHRA )- https://bit.ly/39rnacq 15 מאז2016 ההגדרה אומצה רשמית על ידי כ- 30 מדינות, כולל מדינות רבות באירופה ומדינת ישראל. האיחוד האירופי אימץ ."את ההגדרה ובתוך כך קרא "למדינות החברות באיחוד ולמוסדות ולסוכנויות האיחוד לאמץ ולהחיל את הגדרת העבודה בארה״ב, ההגדרה מופיעה כהגדרה של אנטישמיות מטעם מחלקת המדינה עם קריאה למדינות נוספות לעשות שימוש ב ה , והיא מופיעה בצו הנשיאות י למאבק באנטישמיות שנחתם בדצמבר2019 . מזכ״ל האו״ם אנטוניו גוטרש, הדגיש את חשיבות המאמצים של המדינות לעבוד כמקשה אחת באמצעות הגדרת IHRA לשם קביעת ”הגדרה מקובלת לאנטישמיות". ההגדרה אף אומצה על ידי עיריות, מפלגות פוליטיו ת, איגודי סטודנטים לאומיים ואוניברסיטאות . קבלת הגדרת העבודה לאנטישמיות שלIHRA כבסיס לאבחון ולזיהוי שיח שנאה .אנטישמי, והטמעתה בכללי הקהילה 14 אל מול הגדרת העבודה לאנטישמיות המציי נת ,דוגמאות מ"חיי היום יום" העלולות להיחשב כאנטישמיות כללי החברות להגדרת שיח שנאה אינם מתייחסים לאנטישמיות באופן ספציפי, כפי שהם אינם מתייחסים לדתות אחרות (למעט מספר דוגמאות בודדות אצל חלק מהחברות, למאפייני שנאה נגד היהודים או .)להכחשת שואה16 יהודים מוגנים במסגרת כללי שיח שנאה מתוקף היותם קבוצת דת, וישראלים מתוקף 'השתייכותם הלאומית (ראו נספח א – .)טבלה השוואתית של מדיניות החברות .כללי שיח השנאה הגנריים הקיימים כיום אינם נותנים מענה ראוי לתצורות השונות של ביטויי אנטישמיות בהיעדר מדיניות ברורה ל הגדרה של שיח שנאה אנטישמי, מוצאים את דרכם ביטויי שנאה כנגד יהודים וכנגד ישראל ללב תודעתם של מאות מיליוני משתמשים ברחבי העולם. על כן, אחד האתגרים במאבק בשיח שנאה אנטישמי ברשת הוא צמצום הפער בין כללי שיח השנאה של החברות לבין מאפייני שיח שנאה אנטישמית כפי שהם .באים לידי ביטוי בהגדרת העבודה לאנטישמיות יצוין כי הרשתות עצמן מודות בפומבי כי הן מייחסות חשיבות להגדרה ונעזרות בה לעיצוב מדיניותן . .עם זאת, בפועל, מדיניות החברות מתייחסות להגדרה באופן חלקי בלבד ולא באופן רשמי מתווה ליעד הגדרת ה עבודה לאנטישמיות שאומצה ברחבי העולם, מהווה כלי עזר חיוני להגדרת מדיניות ברורה לזיהוי שיח שנאה המתייחס גם לשנאת יהודים (אנטישמיות קלאסית) וגם לשיח שנאה המכוון לדה- לגיטימציה ודמוניזציה למדינת ישראל באופן ייעודי וייחודי (אנטישמיות חדשה). ההגדרה מציינת באופן מפורש כי ביקורת לגיטימית נגד מדינת ישראל" אינה יכולה להיחשב כאנטישמית." ניתוח המצב הקיים מעלה כי מדיניות החברות אינ ה משקפ ת את הגדרתIHRA בכל הקשור להיבטי .אנטישמיות חדשה המכוונת כנגד מדינת ישראל, בהיותה מדינת העם היהודי מהשיח עם החברות, הנימו ק העיקרי לאי- הכללת אנטישמיות חדשה ב מדיניות החברות הוא שכללי שיח שנאה אינם חלים על מדינת ישראל, על אף שהיא המדינה היהודית, כפי שהם אינם חלים על אף מדינה אחרת. לתפיסתן, מדינת ישראל 16 יצוין, כי בהקשר הכללי של שיח שנאה "על הכללים וקווי המדיניות שנועדו להפחית את שיח השנאה להיות כפופים לסטנדרטים ( הבינלאומיים של זכויות האדם, כפי שהם מנוסחים באמנה הבינלאומית בדבר זכויות אזרחיות ומדיניותCovenant on Civil and Political Rights) (בייחוד סעיפי ם19 ו- 20 ) ובאמנות בינלאומיות אחרות כגון האמנה בדבר ביעור כל צורות האפליה הגזעית ( Convention on the Elimination of Racial Discrimination ) (בייחוד סעיפים4 ו- 5(d)(vii) )) או האמנה האירופית בדבר ( זכויות אדםEuropean Convention on Human Rights)." ראו המלצות המ כון הישראלי לדמוקרטיה– נספח ד' המלצה2 . 15 אינה חסינה ("קבוצה מוגנת") משיח שנאה. בנוסף, מנמקים בכירי הרשתות כי מדיניותן של מדינות שונות מושוות לנאצים, ולכן לא ניתן להחריג את ישראל מביקורת כזו; עוד הם טוענים כי הציונות היא תנועה פוליטית .ולא חסינה מפני ביקורת, אף אם זו אנטישמית לכאורה גישה זו מצביעה על חוסר הבנה של התגלמות תופעת האנטישמיות, המשנה צורתה מתקופה לתקופה. גישה ז ו אף מוכיחה את נוחות השימוש שעושים גורמים שונים ב ישראל כמושא או כ - proxy לאנטישמיות, ואת .יעילות הטיעון שמדובר בסך הכל בביקורת פוליטית לגיטימית דרך הדוגמאות הבאות, אשר הופיעו ברשתות החברתיות ואף הוסרו על ידן, ניתן לראות בבירור את הזליגה והשרבוב בין אנטישמיות קלאסית בוטה, שלדעת כולם פסולה, לבין שיח שנאה אנטישמי המוכוון כלפי מדינת :ישראל הדוגמה הידועה לשמצה מן התקופה האחרונה היא הקריקטורה שפורסמה באפריל2019 במהדורה :האירופית של הניו יורק טיימס 16 קריקטורה זו התפרשה על ידי העורך התורן כבי טוי לביקורת פוליטית. מערכת העיתון קבעה שהיא אנטישמית והוסיפה ש"היא עדות לסכנה עמוקה– לא רק לאנטישמיות אלא גם לחדירה מבלי שתורגש... ואי אילו ".ביקורות נגד מדינת ישראל, כמו זאת המתוארת בקריקטורה, מקבלות ביטוי בגלוי במושגים אנטישמיים17 זהו, לצערנו, תיאור מדו יק של המציאות העכשווית מולה חייבות להתמודד הרשתות החברתיות בכל הקשור .לאנטישמיות חדשה נגד מדינת ישראל הבנת והפנמת הניואנסים בשיח אנטישמי על מגוון צורותיו, הינן כורח המציאות. כך, פעילות ארוכת שנים של מחקר, ניתוח, הסבר ולימוד מצד גורמי חברה אזרחית וקהילות יה ודיות- הביאו לשינויים מסוימים במדיניות הרשתות. רק לאחרונה חברות פייסבוק וטוויטר הצהירו על שינוי מדיניות ו כי כוונתן מעתה להסיר תוכן מכחיש .שואה. פייסבוק אף ייחסה את שינוי המדיניות לשיח מתמשך בנושא עם ארגונים יהודיים18 הטמעה נכו נה של הגדרתIHRA על ידי הרשתות החברתיות תחייב, כפי שקובעת ההגדרה עצמה, הבנת הקונטקסט שבו פורסמו הדברים. בחינת הקונטקסט היא אחד האתגרים הגדולים של החברות בהתמודדות .מול שיח שנאה בכלל19 בתוך כך, תחת החשיבות שבאיזון בין עקרון חופש הביטוי לבין פסילת ביטויי שיח שנאה אנטישמי, על החברות לבחון את סימון התוכן, מעבר להחלטה הבינארית אם להסיר או להשאיר פרסום. כך, כצעד התחלתי, מוצע כי על החברות לשקול סימון תכני שיח העומדים בהגדרת האנטישמיות שלIHRA אך אינם מפרים את כללי השימו ש של החברה . 17 ניו יורק טיימס30/04/2019 - https://nyti.ms/2MFfCLv 18 פייסבוק12/10/2020 https://bit.ly/2N209oV 19 בהקשר זה המכון הישראלי לדמוקרטיה ממליץ כי בעת הערכת מדיניות השיח אפשר להביא בחשבון את השיקולים :הקונטקסטואליים של התוכן "...באיזו מידה הגדרת שיח שנאה בתור שכזה (א) מבוססת על רשימה סגורה של מילים, ביטויים, סמלים ותמונות שאין ,להשתמש בהם? (ב) מאפשרת לזהות קישורים מורכבים בתוך השפה הדימויים והרעיונות שעלולים להפוך את השיח לשיח שנאה בנסיבות תרבותיות, חברתיות או פוליטיות מסוימות? (ג) מביאה בחשבון הקשרים רחבים יותר שיש בהם כדי להכשיר את השיח (סאטירה, למשל) או לשלול את צידוקו (כגון מחקר היסטורי מזויף למען מטרות גזעניות)? האם יסוד הסיבתי ות הטבוע בהגדרת שיח השנאה קשור רק בציפייה שהוא עלול להביא לידי פגיעה גופנית באוכלוסיית מטרה כלשהי; או שמובא בחשבון גם נזק לא- "...גופני בקורבנות פוטנציאליים 'ראו נספח ד- המלצות המכון הישראלי לדמוקרטיה- המלצה16 : אמות מידה להערכת מדיניות וכללים 17 2 ) מידע מהימן(Labelling, Flagging, Information panels, Fact check) היעד תמונת מצב ההתמודדות מול שיח שנאה מורכבת מטבעה, בוודאי בתקופה בה קיים ,חוסר בהירות עולמי באשר לאיכותו טיבו ומהימנותו של מידע . יתרה מכך, הסרת תוכן משתמשים מאתגרת את עיקרון ה יסוד של חופש הביטוי , הכולל גם את החופש למסור מידע שגוי או אפילו שקרי . בשנים האחרונות פיתחו הרשתות החברתיות מספר פתרונות יצירתיים המאזנים בין הצורך בניהול שיח תקין לבין שמירה על חופש הביטוי. פתרונות אלה באו לידי ביטוי בעיקר בנושאים מורכבים ,על ידי הצמדה של הערה או אזהרה של הרשתות לגבי מהימנות המידע ומקורותיו. לאחרונה, בעיקר ס ביב מערכת הבחירות בארה"ב ונגיף הקורונ ה, החלו הרשתות לעשות שימוש רב יותר בסימונים (המילה 'סימונים' מתייחסת לשלל האופציות שלlabel, flag, information panel ) של תכנים העלולים להיות בעייתיים. הסימונים מתחלקים לשניים: כאלה שהחברה מפרסמת מיוזמתה ועל פי שיקול דעת ה, וכאלה המתייחסים לאמינות העובדתית של התוכן בלבד, שמופק עבור החברות פייסבוק וגוגל על ידי גורמים חיצוני י ם מהרשת הבינלאומית לבדיקת עובד ו ,תInternational Fact Checking Network . 20 לרוב, החברות מוסיפו ת סימונים, על פי שיקול דעתן , המזהירים את המשתמש מפני חומר ה עלול להיות :פוגעני או שקרי. כך, בצורתו הפשוטה, נראה הסימון בטוויטר 20 מדובר בעמ ותה ובה חברים ארגונים (רובם עיתונאיים) ברחבי העולם הבודקים עבור החברות פייסבוק וגוגל (ויוטיוב) תוכן שהוגדר על ידי המשתמשים כ- misinformation , ראוhttps://www.poynter.org/ifcn/ שימוש מגוון בסימונים בנושא שיח שנאה אנטישמי והצגת מידע מהימן בדגש על הכחש ת השואה ועיוותה 18 לעתים, בנוסף לסימון המתריע, מוצג מידע אמין סביב נושא. מידע מהימן זה מגיע, כאמור, מהרשת הבינלאומית לבדיקת עובדות. להלן דוגמא להתרעה בפני מידע כוזב כפי שהיא מופיעה בפייסבוק : הערה זו, המצורפת לפוסט שלא הוסר, מפנה למידע אמין בנושא הבחירות בארה ״.ב להלן ד :וגמה נוספת, גם מפייסבוק, המסתירה את התוכן התמונה מכוסה באזהרה בה כתוב: "מידע כוזב. המידע נבדק על ידי בודק עובדות עצמאי", בליווי כפתורים לקבלת מידע 19 "נוסף: "ראה למה" ו"ראה תמונה21 להלן דוגמה של הצגת מידע מהימן ביו- :טיוב בנושא נגיף הקורונה בתמונה: בחיפוש ביו- טיוב של המילים"COVID and Ibuprofen" – בראש העמוד לפני תוצאות החיפוש, מונגש למשתמש .מידע (מסומן ברקע כחול) המסביר כי אין הוכחה לטענה כי התרופה איבופרופן מעלה את סיכויי התמותה מנגיף הקורונה בתוך כך יש לציין כי לחברת טוויטר אין מדיניות בר ורה באשר לטיפול בתכני שיח בעייתיים מצד מנהיגי עולם , על אף השימוש בסימונים שהחברה עושה נגד מנהיגים מסוימים וסגירת החשבון של נשיא ארה ״ ב לשעבר דונלד טראמפ ,. החברה אף אינה מחזיקה במדיניות ברורה לסימון התבטאויות שנאה של מנהיגים. לשיטתה מנהיגי העולם חסינים מהכללים למעט קריאה מובהקת לאלימות נגד אינדיבידואל פרטני. כך, אם מנהיג ( מדינה קורא להשמדת עם אחר הדבר נתפס כהתנצחות פוליטיתpolitical saber rattling .), כלשונם כאשר מנהיג פוליטי מפיץ תכנים שהם בגדר שיח שנאה על פי הגדרת החברה, מאפשרת החברה הצגת דעות 21 ראו מקור כאןhttps://bit.ly/3jOQfSm 20 אלו בפני .הציבור, גם אם הן קיצוניות22 בהתאם, לשיטת החברה, המנהיג הרוחני של איראן עלי חמ י נאי, רשאי להפיץ חומרים אנטישמיים ולנקוט בלשון אנטישמית ובהסתה מובהקת לאלימות נגד מדינת ישראל. בשיח שנוהל מול החברה, למרות פניות חוזרות ונשנות של גורמים ממשלתיים ואזרחיים בנושא , חברת טוויטר מסרבת להסיר ציוצים פוגעניים אלה ואף לא הוסיפה סימון על ציוץ כלשהו כפוגעני או כמסית :, דוגמת אלה מתווה ליעד שימוש בסט כלים נרחב יותר לסימון תכנים ולהעברת מידע מהימן, עשוי להתאים במיוחד להפחת ת שיח שנאה אנטישמי, ב דגש על .מקרים בהם לא ברור האם יש להסיר או להשאיר תוכן 22 בלוג טוויטר15/10/2019 - https://bit.ly/35FQBpU . הדברים גם הובאו במכתב מחברת טוויטר לשרה אורית פרקש- הכהן ביום ה- 15 ביוני2020 . 21 על החברות להחזיק בארגז כלים מגוון למיתון תכנים מעבר להסרת .תוכן וחסימת חשבונות23 ב ין השאר, ניתן לעשות שימוש בהפני ה למקורות מידע מוסמכים או להאט טכנולוגית את הפצת הפרסום. כלים אלה ,מאפשרים הנגשת מידע מהימן למשתמש, אשר בדרך כלל אינו מבין מדוע תוכן מסוים נחשב כשיח שנאה ובדיעבד לאחר הסרתו- אף אינו רואה אותו. יש לבחון בנוסף את המלצות המכון הישראלי לדמוקרטיה בדבר הצמדת חומרים מאַ זנים לתוכן שיש לו פוטנ ציאל מזיק, אזהרה למפיצים מפני תוצאות ההפרה, הפניית .בקשה אל המפיצים למת ֵּ ן או להסיר את התוכן והטלה של מגבלות ארעיות על ההפצה24 בהקשר זה יש לציין לחיוב את הכרזת פייסבוק על יוזמה חדשה ל הפני ה למידע מהימן שתופיע בעת חיפוש בנושא השואה . 25 שיטות אלה מהוות נדבך חינוכי חשוב– הסבר למשתמש מדוע פרסום מסוים בעייתי, גם כאשר מדובר )במנהיגי עולם (ראה לעיל דוגמת ציטוטיו האנטישמיים של מנהיג איראן חמינאי- ולאפשר לו לבחון את פני הדברים ממקורות מוסמכים. נדבך זה חשוב במיוחד עבור קהל צעיר בזיהוי תוכן פוג .עני הגולש לשיח שנאה חשובה מאד גם הנגשת והטמעת כללי הקהילה בקרב המשתמשים לרבות באמצעות פרסום אזהרות .אוטומטיות מקום בו נעשה שימוש בביטויים העלולים להיות אנטישמיים ייתכן שאם כלים אלה היו עומדים לרשות החברות בשנים עברו הן היו יכולות להתמודד בצורה טובה יותר מ ול אתגרים מורכבים בבחינת השיח .ברשתות יש לציין לטובה שיחות שניהלו נציגי המשרדים הממשלתיים עם החברות, לפיהן הביעו נציגי החברות התעניינות בהרחבת יכולותיהן להציג סימונים בעלי ערך חינוכי בנושא השואה. הדבר חשוב במיוחד בפלטפורמה כגון טיק -טוק שעושים בה שימוש מאו ת מיליוני .צעירים 23 ראו המלצות המכון הישראלי לדמוקרטיה– נספח ד' המלצה6: מגוון טכניקות למיתון תכנים 24 לעיל 25 פייסבוק27/01/2021 - https://bit.ly/3j3Ne1q 22 אכיפה למרות קיומם של כללי קהילה למ יגור שיח שנאה, מערכי ניטור תוכן של עשרות אלפי עובדים, ואלגוריתמים מתקדמים של בינה מלאכותית - כלל המאמצים שמשקיעות הרשתות החברתיות אינם מספקים ו הפער בין .המדיניות לאכיפה בפועל עדיין ניכר ,בשנתיים האחרונות היקף התוכן שהוסר אמנם גדל מאד, אך כלל לא ברור האם הדבר גרם לירידה משמעותית בשכיחות תכני שיח שנאה בפלטפורמות (ראו להלן– שקיפות). המאמצים הללו, כמו גם ההשקעות של החברות ביכולות הניטור שלהן- .חייבים להימשך בתוך כך, במסגרת יעד האכיפה, אנו מצביעים על מספר גישות אשר, במידה וייושמו, סביר שיתרמו להורדת רף שיח השנאה האנטישמי ובתקווה כי, כפועל יוצא, גם בטיפ .ול בתופעת שיח השנאה בכללותה 3 ) שפות מועדות יעד תמונת מצב לאורך השנים הושקעו מאמצים רבים בטיפול באנטישמיות במערב. למרות זאת, בלט מאד חוסר הקשב לשיח ה שנאה ה אנטישמי הקשה הקיים ב מרחב המזרח התיכון, לרבות מדינות הגובלות ממזרח, וב אזור צפון אפריקה . מבחינת דעת הקהל, מהווה המזרח התיכון את האזור האנטישמי ביותר בעולם. (כך, על- פי מחקר מתמשך מאז2014 של ארגוןADL : בין70 ל- 80 אחוז ים מאזרחי מדינות ערביות שונות מאמצים גישה .אנטישמית26 ) חוסר הקשב לשיח השנאה כלפי ישראל והיהודים מאזור זה ,נבע, בין היתר מאתגרי השפה (תוכן שתורגם לאנגלית עורר תגוב ,)ות נזעמות רגעיות מכך שהחברה האזרחית המערבית (כולל ארגונים יהודיים) חיה במנותק מהאזור ומקהות-חושים (דה-סנס י)טיזציה לאחר שנים רבות של שיח שנאה בשפות כגון ערבי ,ת פרסית ותורכית . 26 ראוADL Global Antisemitism Index https://global100.adl.org/map/meast . אכיפה מוגברת של כללי הקהילה בשפות בהן רווח שיח שנאה אנטישמי 23 בהיעדר שקיפות ראויה באשר למאמצי הניטור של הרשתות הח ברתיות במרחב , לא ניתן לספק נ תונים מהימנים אודות היקף התופעה. גם מאמצי מדינת ישראל לניטור שיח ברשתות חברתיות בערבית מתמקדים בזווית הביטחונית - גורמי הביטחון עוקבים אחר שיח שנאה ברשתות החברתיות שיש בו משום קריאה לאלימות .פיזית או פעילות של ארגוני וגורמי טרור אך כיום, לא ניתן להמשיך ולהתעלם משיח השנאה במרחב הזה כשתכנים עוברים ממקום למקום בגלובוס בלחיצת כפתור. אכן, מה שקורה ב מרחב ה מזרח התיכון, לא נ .שאר במזרח התיכון מתווה ליעד לרשתות החברתיות תפקיד חשוב הן במיתון שיח השנאה האנטישמי אף ו בחיזוק תהליכי נורמליזציה חיוביים בין העולם הערבי לבין ישראל. זאת, במיוחד בקרב הדור הצעיר הערבי, אשר מגבש תפיסת עולם גם באמצעות רשתות חברתיות. על החברות המנהלות להבין את מידת אחריותן לעיצוב עתיד טוב יותר נטול שיח שנאה עבור ,צעירים אלה. אי לכך על השיח הממשלתי מול החברות בנושא טיפול בשיח שנאה במרחב הערבי להתנהל :סביב שני נושאים • אכיפה אחידה של הכללים נגד שיח שנאה אנטישמי ברשת - ,(בפרט אחידות באכיפה בין שפות מערביות ל בין ה שפות ערבית, פרסית ותורכית ) תוך השקעת משאבים לניטור, מעקב וניתוח. בהקשר זה, פייסבוק דיווחה כי היא משקיעה מאמצים ביכולות הבינה המלאכותית בשפה הערבית27 ונכון לעקוב אחרי מאמצים אלה בקרב כלל החברות. יש לבחון בין היתר במסגרת ניטור השיח פרסומים העוס קים בעלילות דם אנטישמיות, הכחשת שואה, שלילת הזכות להגדרה עצמית של העם היהודי, בדומה לדוגמאות השונות בהגדרת העבודה לאנטישמיות שלIHRA .)(ראו לעיל • גיבוש פרויקטים משותפים עם הרשתות החברתיות ובחסותן - .לעידוד תכנים חינוכיים בוני הבנה ושלום הסכמי השלום עם מדינ ות המפרץ ומרוקו יצרו הזדמנות חדשה לפריצת דרך בנושא שיח השנאה לישראל ואנטישמיות בעולם הערבי. שיתוף פעולה בין ממשלת ישראל לממשלות האמירויות, בחריין ומרוקו בנושא שיח .שנאה ברשת עשוי להיות בעל השפעה חשובה בהקשר זה יש לציין בחיוב כי ממסד ים ממלכתי ים ב בחריין ובמר וקו התחייב ו למאבק באנטישמיות, תוך קבלת הגדרתIHRA . 28 שיתוף פעולה עם מדינות אלה אף עשוי 27 VB 11/08/2020 - https://bit.ly/2XODCy0 28 JTA 25/10/2020 - https://bit.ly/39zkZoc , Times of Israel 19/01/2021 https://bit.ly/3oArWtE 24 לפתוח צוהר לחינוך חיוני במדינות ערב בנושא המורשת וההיסטוריה היהודית ותרומת היהודים למזרח התיכון לאורך אלפי שנים – מרכיב שכיום אינו קיים ועשוי להוות צד חינוכי משלים למאבק בשיח שנאה אנטישמי, כלפי .יהודים וכלפי ישראל29 4 ) אנטישמים מובילים יעד תמונת מצב ,מחוללי שיח אנטישמי ברשתות החברתיות מניעים שיח שנאה אלים ומסוכן וחוזרים שוב ושוב על משנתם דבר היוצר פוגענות כפולה. הראשונה, כאשר מסריהם מופצים ואף מקודמים ע ״י האלגוריתמים הקיימים ועלולים לייצר אלימות פיזית. השנייה, שכיחות המסר המופץ ללא הפרעה ברשתות החברתי ות מייצרת .נורמליזציה של שיח השנאה האנטישמי לחלק ממחוללים אלה קהל עוקבים גדול, חלקם ידועים כאנטישמיים או מפירים סדרתיים של מדיניות שיח .שנאה30 על מנת לעקוף את כללי שיח השנאה, להימנע מהסרת תכנים או מסגירת חשבונות - עושים מחוללי שיח שימוש במילות קוד אנטישמי ות, ברמזים מוסתרים ובקיצורי מילים שאינם עולים כבעייתיים בניטור אלגוריתמי. "קריצת העין" האנטישמית ברשתות החברתיות מספקת הצצה לאתגר משמעותי המונח כיום 29 בהקשר זה ראוי לציין את תפיסתו של השליח המיוחד לאנטישמיות של ארה״ב לשעבר, עו"ד אילן קאר, הגורס כי המזור לאנטישמיות מתקיים לא רק דרך המאבק בה, אלא גם דרך חינוך קהלים לתרומה היהודית לעולם, על מנת ליצור מה שמכונה Philo-Semitism "פילו- ."שמיות" או "אהבת יהודים 30 :מספר דוגמאות בולטות מהשנים האחרונות לפעילות מחוללים אנטישמיים • פרשת הקומיקאי האנטישמי דיודונה מ'באלה( מ'באלהDieudonné M'bala M'bala ) בצרפת- המציא את ההצדעה הנאצית ההפוכה ("קאנל") שעודדה צעירים צרפתים בפייסבוק לצלם עצמם ולהעלות לרשת אל מול מוסדות יהודיים .באירופה • "פרשת ההאשטג "יהודי טוב#UnBonJuif – ארגון הסטודנטים היהודי צרפתיUEJF ,תבע את טוויטר, ואף זכה במשפט סביב סוגית קבל ת מידע על המעורבים בהסתה קשה במהלך התפרעויות נגד הקהילה היהודית בצרפת ובראשה שימוש נרחב בתגית "יהודי טוב". בית המשפט הורה לטוויטר להעביר למשטרה את כלל פרטי המשתמשים שהשתתפו ב פרסום ההאשטג. • פרשת ג'ושוע בונהיל2015 - אנטישמי שפעל לגיוס פעילי ימין קיצוני באמצעות טוויטר ופייסבוק לייזום הפגנות נגד נוכחות יהודים על אדמת בריטניה, בין היתר בשכונת סטמפורד היל החרדית בלונדון30 .. בונהיל נעצר ונשפט סגירת חשבונות יהם של מ שתמשים שהורשעו בשיח שנאה אנטישמי, לצד האטת הוויראליות של תכנים החשודים כשיח שנאה 25 לפתחן של החברות: חוסר ידע והבנה מעמיקה בניואנסים של השיח האנטישמי לרבות מילות קוד ורמזים מוסתרים, שאין למי .שעוסק בתחום ספק לגבי פשרם על מנת לסייע באכיפה של הרשתות בנושא שיח שנאה אנטישמי, יש להמשיך את הפעילות שהחלה כיום במשרד התפוצות ולסייע לחברות בלימוד רגישויות ודקויות השיח האנטישמי, המשתנה כל העת. לקהילות היהודיות הפזורות ברחבי העולם ובשלל שפות, תפקיד ייחודי .בהקשר זה מתווה ליעד לצ ד נושא זה טמון בעקיפין נושא הוויראליות. האנטישמיים המובילים הפכו לכאלה הודות לאלגוריתמים של החברות המקדמות תוכן ככל שהמשתמשים מביעים בו עניין. בתחום שיח שנאה, האפקט הוא הרסני והופך ,תכנים של שנאה לנצפים מאד. החברות מודעות לבעיה הזאת ואכן מעידות, באופן כללי כי הן מאטות התפשטות תכני שיח שנאה, אך לא מספקות הסבר מעמיק. אי לכך, יש לדרוש מהחברות שקיפות אלגוריתמית - אילו כללי קהילה מצויים בבסיס ההחלטות האלגוריתמיות והאנושיות על האטת תכנים . פירוט התנאים לפיהם מאיטה חברה ויראליות עשוי לסייע באיתות ברור להצבת גבולות למחוללי שיח שנאה .ברשת בשנים האחרונות מתקיימת פעילות לסגירת חשבונות של מחוללים אנטישמים (ובמסגרתם אישים שהורשעו בבית משפט בגין שיח שנאה) בהובלת משרד התפוצות, כמו גם משרד החוץ, מול הרשתות החברתיות. יש למסד פעילות זו ולהעניק לה .תנופה גם אל מול רשתות חדשות ( "על הרשתות החברתיות לסגור חשבונות של "אישיות ציבוריתPublic Figure ) למי שהורשע בבית המשפט ( בעבירה מוכחת של שיח שנאה העומדת בקנה אחד עם האמנות הבינלאומיות בשיח שנאה ). וזאת, ללא קשר לתוכן בחשבון. הצעד יוכיח שהרשתות החברתיות לא יאפשרו לעברייני שיח שנאה מורשעים להשתמש .בפלטפורמה לכל מטרה ציבורית 26 5 ) הכשרת מנטרי תוכן יעד תמונת מצב על אף השיפורים בבינה מלאכותית ויכולת החברות להסיר תוכן על ידי תוכנה, עדיין קיימים, ותמיד יהיו מקרים ""קשים" המחייבים בדיקה אנושית. בדיקה זו מתבצעת על ידי עובדים המכונים "מנטרי תוכן - Content Moderators . כיום פועלים עשרות אלפי מנטרי תוכן ברחבי העולם, המועסקים על ידי קבלני משנה עבור הר שתות החברתיות. אלה, באמצעות התערבות אנוש, אוכפים בפועל את הכללים, כאשר היישומים הטכנולוגיים אינם מספקים תשובה ברורה. מנטרי התוכן יושבים מול מסך מחשב ועוברים על פריט תוכן (בממוצע, אחת ל- 30 שניות) ומחליטים האם התוכן עומד בסתירה לכללים, ואם כן- .מסירים אותו31 עובדים אלה חשופים לתכנים ,אלימים, מיניים ומעת לעת לשיח שנאה ובמסגרתו .גם לתוכן אנטישמי למרות השיח שהתקיים בחודשים האחרונים עם בכירי הרשתות, לא התקבלו תשובות ברורות באשר לאופי ועומק ההכשרה המקבלים מנטרי התוכן, אם בכלל, בנושא אנטישמיות ושיח השנאה לישראל. כיצד בין שלל השיח המורכב, על מופעיו וגווניו הבעייתיים (מין, אלימות, חדשות כזב ועוד), יודעי ם מנטרי התוכן להחליט אם שיח אנטישמי הוא ציון עובדה או "קריצה לשונית", כזו שברורה לכל מי שעוסק בתחום שמדובר באמירה .אנטישמית ב- 2017 העיתון הבריטיThe Guardian פרסם סדרת כתבות בעקבות מסמכים רבים המשמשים להכשרת והכוונת מנטרי התוכן בחברת פייסבוק שהודלפו לעיתו ן. מחומרים אלה עולה, לדוגמה, כי קיימת אכיפה מוגברת סביב הכחשת השואה ב עיקר ב .ארבע מדינות "מחשש לתביעות": גרמניה, צרפת, אוסטריה וישראל זאת על מנת שאזרחים במדינות הללו ייחשפו פחות לתכנים מכחישי שואה מאשר משתמשים בשאר .העולם32 אמנם מדיניות החברות התפתחה מאז, א בל החומר מציג את הפער הגדול בין הכללים המפורסמים 31 :ראו לדוגמה כתבה זוThe Verge 9 25/02/201 - https://bit.ly/3qwApiH 32 גארדיאן24/05/2017 - https://bit.ly/35O6ESL הכשרה מתמשכת של מנטרי תוכן בנושא שיח שנאה אנטישמי על ידי ארגונים בלתי- תלויים, תוך שקיפות מצד החברות לגבי מערך הכשרת המנטרים 27 .לבין ההכוונה והאכיפה בפועל החברות אמנם מפרסמות כללי קהילה, המציינים את גבולות השיח- מה מותר ומה אסור- בנושא שיח שנאה (ראו נספח א'), אך מעבר לכללים הפומביים קיימים הנחיות והסברים פנימיים, מעין "תורה שבעל פה ," .שהחברות מסרבות לפרסמם מתווה ליעד אחת מאבני הדרך המשמעותיות ביותר בטיפול בשיח שנאה, אגב הפערים הטכנולוגיים בבינה מלאכותית לניטור יעיל של שיח שנאה , היא הכשרה מקיפה למנטרי התוכן. על הרשתות החברתיות לפעול באופן טוב יותר להכשרתם בכלל בשיח שנאה, ובפרט בנוש אי אנטישמיות. זאת , בסיוע ארגונים וגורמים בלתי- תלויים המתמחים בנושא, המבינים את דקויות השיח, על מילות הקוד והרמיזות, שלאוזן המיומנת ברור שמדובר באמירות אנטישמיות הן בקונטקסט היהודי והן בזה הישראלי. ממשלת ישראל, מצדה, תוכל לסייע לקדם הקמת מסגרות בינ ״ ל מקובלו .ת להכשרה מתמשכת של צוותי ניטור שיח אנטישמי .יישום המדיניות כרוך באכיפה מתמשכת ועדכנית, עם יכולת הבנת דקויות ורגישויות שיח ,בהקשר זה המכון :הישראלי לדמוקרטיה ממליץ כי "על חברות המפעילות רשתות חברתיות ועל מתווכי רשת אחרים באינטרנט להגדיר בבירור קווי מדיניות .מפורטים באשר לשיח שנאה אסור ושיח מותר, לפרסמם ברבים ולעגנם בסטנדרטים הולמים של זכויות אדם קווי המדיניות יסבירו איך ליישם את המדיניות ואת הכללים, ובייחוד איך ההקשר מו בא בחשבון בהחלטות על שינויי תוכן. ב"הקשר" הכוונה לגיוון פוליטי, תרבותי וחברתי, לשימוש במילות קוד ובלשון נקייה, לביקורת כלפי שיח שטנה, הומור או מחאה וכן לניכוס מחדש של ביטויים בקרב קבוצות המשמשות מטרה להשמצות ."פוגעניות33 ביחס למנטרים עצמם, המכון ממליץ כי : "על חברות המפעילות רשתות חברתיות ועל מתווכי תוכן אחרים להפעיל תוכניות יעילות להכשרת ממתני ".תוכן, כדי שאלה יכירו את זכויות האדם ויבינו את הרגישויות התרבותיות הקשורות בתכנים שהם בודקים34 33 'ראו נספח ד– המלצות המכון הישראלי לדמוקרטיה, המלצה4 – קווים מנחים מפורטים 34 'ראו נספח ד– המלצות המכון הישראלי לדמוקרטיה, המלצה11 : הגנה על ממתני תוכן 28 בשיחות עם נציגי הרשתות החברתיות שנערכו בחודש י אוגוסט - אוקטובר2020 עלה כי לרובן אין כיום התמחות בתחום האנטישמיות. בכירי החברות מגלים אמנם בקיאות בנושא אנטישמיות ומקיימים שולחנות עגולים עם ארגונים וקהילות יהודיים על מנת לבחון ולהעמיק בסוגייה, אך לא ברור עד כמה הידע הזה "יורד לשטח" אל מנטר התוכן שבקצה. כך, לדוגמה, לא ברור כ לל אם המנטרים עושים שימוש כלשהו בהגדרת העבודה הבינלאומית לאנטישמיות שלIHRA . לפחות אצל חלק מהחברות, קיימים שני רבדים של מנטרי תוכן- צוותים מקומיים (לפי מדינה), המבינים את הניואנסים המקומיים, לעומת מנטרי תוכן המתמחים בנושא מסוים, דוגמת שיח שנאה. בחלוקה זו לא ברור כיצד הרבדים התכניים והגיאוגרפיים מתממשקים; ובפרט, האם קיים הבדל באכיפה בין מדינות בנושאים מסוימים– דבר שאכן קיים כי ום אצל חלק מהרשתות בנושא הכחשת שואה. על החברות לפעול בשקיפות ולספק מידע לציבור הן לגבי אופן הכשרת המנטרים והן לגבי ההנחיות למנטרים לטיפול בשיח שנאה. מידע .זה יסייע בידי ארגונים רלוונטיים וקבוצות מוגנות להציע יוזמות לשיפור האכיפה בפועל 6 ) התנהגות בלתי-אות נטית מתואמת - Coordinated Inauthentic Behavior יעד תמונת מצב מאז הבחירות בשנת2016 לנשיאות ארה״ב , קיימת מודעות הולכת וגוברת לניסיונות להפעיל קמפיינים להשפעה תודעתית ברשתות החברתיות. בכלים טכנולוגיים פשוטים יחסית, יכולים גורמים לדמות פעילות עממית מאסיבית, כאשר בפועל מדובר במספר אנשים בודדים העומדים מאחורי אותה פעילות. מדובר בתופעה ענפה ברשתות החברתיות, המופעלת על ידי בעלי אינטרסים מגוונים, שפוגעת באמינות הפלטפו .רמה ועלולה להעמיד את החברות בפני דין וחשבון במדינות בהן התקיימו השפעות פסולות35 35 :לרוב, המניפולציה נעשית בכלים הבאים בוט , חשבון שתכניו מפורסמים אוטומטית על-ידי תוכנה, והתכנים מוזנים אליה על- ידי מפעילים אנושיים. חשבון שמשמש כבוט הינו בד"כ מזויף, אולם הוא יכול להיות גם של אדם אותנטי, אשר "מנדב" את הפרופיל שלו לטובת פעילות ממוכנת. פרסומיו עשויים לחזור על עצמם בטווח של דקות ואף שניות ספורות, לרוב ללא השקעה מיוחדת באמינות החשבון, ועם מעט מאוד התייחסות אישית לתכנים המפורסמים על- .ידו טרול : חשבון מזויף אקטיבי המופעל על ידי אדם אכיפה נמרצת לאיתור והסרת חשבונות בגין פעילות מתואמת בלתי- אותנטית המחוללת שיח שנאה 29 פעילות מסוג זה קיימת גם בשיח השנאה ובדה- לגיטימציה נגד ישראל, אך ממדי התופעה בתחומים אלה אינם ברורים כלל. המשרד לנושאים אסטרטגיים פרסם שני דו"חות בנושא שיח בלתי - אותנטי: הדו"ח ה ראשון התפרסם לקראת תחרות האירוויזיון שהתקיימה בישראל ב - 2019, וחשף כי ארגון מטה של תנועת ה- BDS ,הפועל מרמאללהPalestinian Academic and Cultural Boycott of Israel (PACBI) , וארגוני חרמות מקומיים נוספים ברחבי העולם, היו מעורבים בפעילות השפעה תודעתית פסולה על מ נת לייצר מראית- עין של קמפיין עממי רחב היקף נגד האירוויזיון, גופי שידור ציבוריים ואמנים. כל זאת במטרה ליצור לחץ ציבורי .מזויף ובדרישה שאלו יצטרפו לחרם כנגד האירוויזיון36 בדו" ח שני, שהתפרסם באוקטובר2020 , חשף המשרד פעילות בלתי אותנטית של גורמי דה- לגיטימציה לישראל שמטרתה הי י תה ליצור רושם מטעה של שיח אנטי- ישראלי נרחב סביב נושא בית הדין הפלילי בהאג וסביב אפשרות ליישום ריבונות ישראל בחלק משטחי יהודה ושומרון. כך לדוגמה, נחשף כי במהלך ארבע שעות הוצפה רשת טוויטר בכשבעת אלפים ציוצים אנטי-ישראליים מתוזמנ .ים37 מחקר נוסף שערך המשרד וטרם פורסם, חושף או מעלה כי גם סביב נושא הנורמליזציה נעשה שימוש בבוטים על מנת לתקוף את המדינות והמנהיגים שחתמו על הסכם .עם ישראל שימוש בכלים לא אותנטיים מ.ייצר זיהום כפול בהקשרי שיח שנאה הראשון, קיומו של שיח שנאה שלא תמיד ניתן לזהות בבירור את מחולליו; השני, עיוות אותנטיות השיח הציבורי על ידי כך שמיעוט המחולל שיח מניפולטיב .י מייצר רושם של שיח ציבורי ער מתווה ליעד כאמור, לא קיימת תמונת מצב מקיפה ומדויקת לגבי היקף השימוש בשיטות הפסולות של "התנהגות בלתי - אותנטית מתואמת" בכל הקשור ל .הפצת וקידום שיח שנאה אנטישמי נגד העם היהודי ונגד מדינת ישראל אותנטי באופן עתי, אך אינו נושא את פרטיו של האדם המפעיל אותו, כי אם פרטים פיקטיביים. לרוב פרסומיו ותגובותיו סובבים סביב אותו הנושא והוא מייצר וכופה שיח בנושא זה בפורומי.ם שונים אווטאר/חשבון מזויף : חשבון בעל רמת אמינות גבוהה עם .רקע ופרטים אישיים הנדמים אמתיים, מעגל קשרים מגוון אך לא אקראי, ותחומי עניין שאינם מוגבלים לנושא או אג'נדה יחידים חשבונות מסוג זה מיועדים לשימוש לטווח ארוך והשימוש בהם לצורך מתקפה נקודתית נפוץ פחות . 36 "ההונאה הרשתית של קמפיין ה- BDS נגד האירוויזיון– כאן 37 המניפולציה הרשתית של גורמי הדה- לגיטימציה- כאן 30 משכך, יש לדרוש מהחברות לשפר את הניטור והאכיפה של התנהגות בלתי אותנטית בכלל ו אנטישמית בפרט . בשל הנזק הפוטנציאלי בקידום שיח לא אותנטי ולאור ממצאי התקופה האחרונה, לפיהם אותרו מניפולציות רשת בהיקפים משמעותיים לליבוי שיח השנאה נגד יהודים או ישראל- אנו ממליצים כי מערך .הניטור הממשלתי (המוצע בפרק ב' להלן) יפעל לניטור עצמאי בנושא גם ביעד זה נדרשת שקיפות ביחס ל טיפול ו ל תוצאותיו. חשיפת התופעה עשויה להביא ל צמצום השימוש בכלים לא אותנטיים, ולטיפול משמעותי יותר בכל הקשור לשימוש מניפולטיבי בשיח הציבורי המתנהל .ברשתות החברתיות 7 ) סחר- שנאה ברשת יעד תמונת מצב .אחד ממקורות המימון לתעשיית שיח השנאה הוא מסחר אינטרנטי ,כך מכירת פריטים מקדמים את השיח ובמקביל מהווים מקור מימון למוביליו. בפרט, מסחר של פריטים נאציםNazi memorabilia מהווה שוק מעורר עניין וקונים .כך לדוגמא, כובע של היטלר לכאורה נ מכר ב- 2019 בסכום של50,000 אירו . 38 יעד זה מוכוון לפלטפורמות המסחר הבינלאומיות המובילות, חברות סליקה, כמו גם לרשתות החברתיות ,המוזכרות במתווה זה. פייסבוק המהווה גם פלטפורמה למסחר, אפשרה פרסום פוסטים הכוללים סחורה .נאצית מובהקת39 על פי כללי חברת פייסבוק, פריטים המוצעים למסחר חייבים לעמוד בקנה אחד עם כללי .הקהילה בנוגע לתוכן. עם זאת, הסחר בפריטים נאצים לא אסור באופן מפורש40 חברת אמזון, חברת המסחר המובילה בעולם, הגדירה כללים האוסרים על מכיר ת פריטים המעודדים או "משבחים "אלימות או שנאה כלפי אדם או קבוצה כלשהי" וכן פריטים בנושא "טרגדיות אנושיות41 , אך ללא 38 בלומברג21/11/2019 - LfFQg https://bloom.bg/3b 39 7 NEWS 24/09/2019 - https://bit.ly/35N2lXW 40 .בי.בי.סי06/04/2018 - https://bbc.in/2LXt5xI 41 אמאזון- https://amzn.to/3sy9Dso ( אימוץ ואכיפת כללים האוסרים סחר בפריטים נאצייםNazi memorabilia ) ובפריטים בעלי אופי מסית לשנאה או )מכחיש שואה (רשתות חברתיות, חברות מסחר וחברות סליקה 31 התייחסות לשואה ולפריטים מתקופת הנאצים או לאנטישמיות. בסוף2019 , אמזון מצאה את עצמה מתגוננת מפני ביקורת ציבורית לאחר שמוזיאון מחנה ההשמדה אושוו יץ- בירקנאו התלונן על כך כי ניתן לקנות באתר פותחני בקבוקים עם צילומים של מחנה .אושוויץ42 לעומת אמזון, חברות מובילות כמוAlibaba ו - ,AliExpress כמו גם חברות סיניות נוספות, מתייחסות באופן ישיר לפריטים נאצים ואוסרת על מכירת "חומרים המאמצים או תומכים בפשיזם, נ אציזם ואידאולוגיות ".קיצוניות אחרות43 לצד חברות המסחר ברשת, לחברות הסליקה אין מחויבות מפורשת שהפלטפורמות שלהן לא ישמשו אמצעי .למימון סחר בשנאה. עם זאת, חברת האשראי ויזה הצהירה שלא תיתן שירותים לאתרי הימין הקיצוני44 חברתPayPal הצהירה כי היא אוסרת על עסקאו ת "המעודדות שנאה, אלימות, חוסר- סובלנות המפלה על בסיס גזע וצור ות נוספ ו "ת45 .והצהירה כי לא תיתן שירותים לארגוני ימין קיצוני46 מתווה ליעד על מנת לצמצם הן את התפשטות השנאה והן את הרווח הכספי ממנה- יש לחתור לאימוץ מדיניות ואכיפה גלובלית של כללים האוסרים על סחר בפריטים נאציים(Nazi memorabilia) ובפריטים בעלי אופי המסית .לשנאה או מכחיש שואה מכל חברות הסחר המובילות, לחברתeBay המדיניות המפורטת והרחבה ביותר, והיא מזכירה מפורשות :פריטים נאצים ואנטישמיות. החברה אוסרת באופן מפורש על סחר ב .• פריטים עם תיאורים גזעניים, אנטישמים או משפילים אחרים • פריטים היסטוריים הקשורים לשואה ונאצים, כולל רפרודוק .ציות • כל פריט שהוא אנטישמי או כל פריט שנוצר אחרי1933 .הנושא צלב קרס • מדיה שזוהתה כתעמולה נאצית47 . 42 ניו יורק טיימס01/12/2019 - https://nyti.ms/2LvJ6LD 43 עליאקספרס- https://bit.ly/3oNPMD4 44 ניו יורק פוסט16/07/2017 - 1u https://bit.ly/3nSmh 45 PayPal - https://bit.ly/3swiSsU 46 PayPal - https://bit.ly/38OnzXh 47 eBay - https://ebay.to/2LTCtCy 32 ,בשורה התחתונה קיימת שונות גבוהה בין חברות הסחר ביחס למדיניות ולאכיפה של מכירת פריטים אנטישמיים. יש לשאוף לרמת פירוט דומה לזו של חברתeBay כבסיס לכללים ג לובליים נדרשים. חשוב מכך הוא מבחן התוצאה – ניטור ואכיפה קפדנית מצד כל חברה על מנת לוודא כי סחר בפריטים אלה לא מתרחש .בפלטפורמה שלה 33 הגברת השקיפות יעד תמונת מצב לרשתות החברתיות אחריות להגנה על כלל המשתמשים העושים שימוש בפלטפורמה. לשקיפות הנתונים ולמגמות ,המפורטות בנושא שיח שנאה ערך רב. זאת הן בהצגת פעילות החברות להגנה על משתמשים ותוצאותיה בפועל והן ביכולתן של קבוצות מוגנות לאמוד את מידת האיום או הפגיעה הנשקפים להן בשימוש ברשתות החברתיות ובמקרים מסוי ,מים אף כדי שיוכלו .לעצור זליגת שיח ווירטואלי פוגעני לאלימות פיזית נתונים אלה, מעבר לכך שנכו ן שיהיו שקופים לציבור, יכולים גם לסייע במאבק נגד שיח השנאה, הכללי והאנטישמי כאחד. כך לדוגמה, אם מנתוני החברות עולה כי בעיר או באזור ספציפי במדינה קיימים נתונים חריגים של שיח שנאה- הרי שניתן יהיה לרכז מאמץ של מערכות החינוך והאכיפה לטיפול בנושא ומניעת הידרד .רותו לכדי אלימות בדומה, כתגובה לשיח שנאה כנגד אוכלוסייה מסוימת, גורמי אכיפת החוק עשויים להגביר את האבטחה סביבה. כפי שהחברות מסייעות לגורמי אכיפה כאשר נשקפת סכנת חיים, בשל מחויבותם על פי דין, כך מתבקשת הגברת השקיפות סביב שיח השנאה שתוצאותיו עלולות להוביל .לאלימות פיזית במצב הנוכחי , החברות מפרסמות מדי רבעון נתון כמותי בודד בקשר לשיח השנאה - מספר פריטי תוכן שהוסרו ברבעון. כך, לדוגמה, פייסבוק מדווחת כי ברבעון האחרון של2019 הוסרו או ננקטו צעדים נגד5.7 מיליון פריטי תוכן שהפרו את כללי החברה בתחום שיח השנאה; בר בעון הראשון של2020 הוסרו9.6 מיליון :שקיפות ופרסום נתונים על שיח שנאה, לרבות • פילוח שיח ההסתה לאלימות ושיח השנאה על פי קבוצות יעד ;מוגנות • פילוח שיח על- ;פי סוגים ולפי ערים בעולם • שכיחות/תפוצ ת תכני שיח שנאה (Prevalence) ; • ;כמות הנחשפים לתכנים ויראליים טרם הסרתם • נתונים לגבי חשבונות בסטטוסPublic Figures שהוסר תוכן מחשבונם בגין שיח שנאה • פעילות של קמפיינים, אותנטיים ולא-אותנטיים, שייעודם הפ צת שיח שנא . 34 פריטי תוכן; ברבעון השני, הודות להתקדמות באבחון האוטומטי, הוסרו22.5 מיליון פריטים וברבעון השלישי ,כמות דומה22.1 .מיליון פריטים48 ברבעון השלישי פייסבוק אף פרסמה, בפעם הראשונה, נתון חשוב מאוד – הערכה לגבי שכיחות שיח שנאה מתוך כלל התכנים בפלטפורמה. על פי הערכת החברה מדובר בכ - 0.1% מכלל התוכן, כלומר, אחד מתוך אלף פריטי תוכן ייתכן ונגוע בשיח שנאה49 . בטוויטר מדווחים כי בחציון השני של2019 פעלה החברה נגד970,000 חשבונות בגין שיח שנאה ("התנהלות שנאה" כהגדרתם), המהווים עלייה של54% .מהחציון הקודם50 ביו- טיוב הוסרו80,000 סרטונים בגין שיח שנאה ברבעון השני של2020 לעומת36,000 .ברבעון הראשון51 בקרב כל החברות ניכרת עלייה בהסרת .תכני שיח שנאה ברבעון (ואף בחציון) האחרון52 זאת, כאמור, בעיקר בשל ההתקדמות ביכול ות הניטור האוטומטי. עם עלייה משמעותית זו בתוכן המוסר , נכון שהחברות יהיו שקופות לגבי רמת הדיוק של המכונות– כמהfalse negatives, false positives נרשמו מתוך התכנים המוסרים אוטומ טית– אחרת קשה יהיה לבחון את יעילות הניטור האוטומטי . לצד פרסום נתונים כמותיים לגבי הסרת תוכן, קיימים פערי מידע. שקיפות ועיבוד נתונים שקיימים בהישג ידן של החברות עשויים ל תת תמונת מצב ברורה יותר לגבי ה י קפי שיח השנאה ברשת ו בכך לסייע במאבק נגד ו . :לדוגמה • לגבי פייסבוק, אשר מפרסם נתון שכיחות לראשונה, עדיין לא ברור מה בין אחוז זה לבין מספר פריטי תוכן שהוסרו, דהיינו, אין תשובה על השאלה איזה חלק מהווים22 מיליון פריטים אלו מתוך אומדן .שיח השנאה השכיח בפלטפורמה • לגבי שאר החברות, לא ברור כלל מהי שכיחות תכני שיח הש נאה, וכן לא ברור אם התוכן שהוסר .מהווה אחוז זניח מכלל התוכן הקיים של שיח שנאה או שהוא מהווה חלק ניכר • ,מתוך התוכן שלא הוסר אוטומטית בטרם נצפה, כמה פרטי תוכן נבחנו ולא הוסרו? כמה זמן לקח ?בממוצע, להסיר תוכן לאחר שהתקבל דיווח 48 פייסבוק- https://bit.ly/3qt1vrb 49 רויטרס19/11/2020 - https://reut.rs/3crmPcO 50 טוויטר- https://bit.ly/3bNVEIS 51 )גוגל (יוטיוב- https://bit.ly/39E6zlM 52 נכון לעריכת מסמך זה לא פורסמו נתונים ע''י החברות לסוף שנת2020 . 35 • מתוך שיח השנאה הכולל, מהו פילוח השיח למול הקבוצות המוגנות (לדוגמא: כמה הוא שיח אנטישמי או איסל א ?מופובי)? באילו מדינות ובאילו ערים הוא שכיח במיוחד • נוסף על תכנים המוכלים בהגדרת החברות כ"שיח שנאה" ישנם עוד סוגי תוכן הפוגעים בקבוצות מוגנות כגון הסתה לאלימות ומידע מפוברק. מהו הפילוח של תכנ ים אלה על פי קבוצות מוגנות ?ואיזורים גיאוגרפיים • בחשבונות שהוסרו בגין התנהגות מתואמת לא- אותנטית (בוטים, אווטרים וכו'), האם חלק מתוכם ?הפיצו שיח שנאה? ואם כן, נגד מי מתווה ליעד החברות, כאמור, מודעות לכך שיש להן עוד כברת דרך לעשות בנושא שקיפות הנתונים. לטענתן, חל שיפור .ניכר בדיווחים בשנתיים האחרונות ומגמה זו צפויה להימשך ,לצד זאת אל מול צמיחתן הנמשכת של הרשתות ונפח שיח גדל – תוצרי השקיפות עדיין מצומצמים, והחברות .אף עומדות בסירובן לאפשר גישה לחוקרים או למומחים בזירה הציבורית למערך הנתונים לגבי הנתון העיקרי שהחברות מפרסמות כיום– כמות פריטי התוכן שהוסרו– נתון זה הוא ללא קונטקסט, א ין לדעת אם מדובר בהרבה או במעט מסך תכני שיח שנאה בפלטפורמה. אי לכך, היעד החשוב באמת מבחינת שיח שנאה הוא הצגת נתונים שיצביעו על ירידה בשכיחות התכנים (prevalence) בפלטפורמה . לסיכום, יש לשאוף ליעד בו הרשתות החברתיות יפעלו לפרסום פירוט נרחב ומקיף על תופעו ת שיח השנאה השונות בפילוח על פי קהלים, פילוח גיאוגרפי ופילוח טכנולוגי, ,לרבות היקפי החשיפה לפרסומי שיח שנאה .'המחוללים העיקריים, והיקפי ההפצה על ידי שימוש ב'התנהגות מתואמת לא אותנטית 36 פרק 'ב : יעדי הפעילות הממשלתית הזירה הממשלתית בעוד פרק א' של המסמך פירט את היעדים המרכזיים לרשתות החברתיות, פרק 'ב י פרט את הצעדים הממשלתיים הנדרשים, באופן מתואם ומסונכרן בין משרדי הממשלה הרלוונטיים לטיפול בנושא – .על מנת להביא למימוש היעדים והשגתם בבסיס הצעדים– הקמת צוות בינמשרדי אשר יבחן את הפעולות הנדרשות בתחומים הבאים: הקמת ( מערך ניטור; בחינת צעדי רגולציה; שת"פ בין מדינותG 2 G) וארגונים על - לאומיים; שת''פ ורגולציה בינלאומית כנגד אתרים ייעודיים קיצוניים המפיצים במזיד שיח שנאה; גיבוש קואליציות בינלאומיות למאבק בשיח שנאה וסנכרון פעי .לות מול גורמי חברה אזרחית :להלן פירוט הצעדים המוצעים לממשלה צוות בינמשרדי לטיפול בשיח שנאה אנטישמי והסתה כנגד ישראל ברשת עם הקמתה של הממשלה ה- 35 בחודש מאי2020 , ואגב הנסיקה המדאיגה בהיקף האנטישמיות בשנת2019 , הן הפיזית, אגב פיגועים בעולם– החלו משרדי הממשלה הרלוונטיים בתהליך בינמשרדי משותף לתיאום הפעילות מול הרשתות החברתיות. השיח ברשתות בלט ביתר שאת לאחר התפרצות מגיפה הקורונ ,ה במהלכה תכנים אנטישמיים בוטים, אם נגד יהודים ואם נגד ישראל– מצאו את דרכם לרשתות החברתיות .ומשם אל תודעתם של מאות מיליוני משתמשים הצוות המשותף למשרדים השונים נפגש עם בכירי הרשתות החברתיות פייסבוק, טוויטר, טיק- טוק וגוגל והציג בפניהם דוגמאות אשר לדעת הצוו ת עלו ל כדי אנטישמיות. במסגרת המפגשים סקרו בכירי הרשתות את .המדיניות ואת הצעדים לאכיפה של שיח שנאה בכלל ואנטישמי בפרט על מנת להביא למימוש עקרונות המתווה הממשלתי המוצע ועל מנת להגביר את התיאום בהשגת היעדים שנמנו בפרק א' :"יעדי ממשלת ישראל מול הרשתות החברתיו ת", יש למסד את פעילות הצוות באמצעות :החלטת ממשלה. להלן העקרונות המוצעים לפעילות הצוות 1. צוות בינמשרדי אשר יפעל למאבק בשיח שנאה אנטישמי דה- לגיטימציה והסתה כנגד ישראל ,ברשתות החברתיות, יעוגן בהחלטת ממשלה. מטרת הצוות תהיה לגבש תכנית פעולה בנושא 37 להוציאה לפועל ול דווח לממשלה על מגמות שיח השנאה כאמור ועל התקדמות יישום תכנית .הפעולה 2. :חברי הצוות ימונו על ידי השרים הרלוונטיים, בכתב מינוי, ויכללו את נציגי המשרדים הבאים .המשרד לנושאים אסטרטגיים; משרד התפוצות; משרד החוץ; משרד התקשורת 3. בראש הצוות הבינמשרדי יעמדו שני יושבי ראש משותפים: מנכ"ל משרד התפוצות ומנכ"ל המשרד .לנושאים אסטרטגיים 4. הצוות יתכנס לפחות אחת לרבעון או בהתאם לצורך ., סדרי הדיון ייקבעו על ידי יושבי הראש 5. הצוות יאשר את תכנית העבודה השנתית לטיפול בשיח שנאה אנטישמי, דה- לגיטימציה והסתה .כנגד ישראל 6. היעדים לרשתות הח ברתיות בנושאי מדיניות, אכיפה ושקיפות יוצגו באופן מתואם על ידי הצוות .הבינמשרדי לרשתות החברתיות המובילות 7. :הצוות יבחן את הפעילות הנדרשת בתחומים הבאים א. .ניטור הרשתות החברתיות ב. שת"פ עם ממשלות, ארגונים על- .לאומיים ובינ"ל ג. .שת"פ עם ארגוני חברה אזרחית ד. רגולציה - .חקיקה ישראלית ועולמית כנגד שיח שנאה ה. .בניית קואליציות בינלאומיות רחבות למאבק בשיח שנאה ו. .שת''פ בינ''ל למאבק בפעילות אתרים קיצוניים 8. הצוות יגבש אסטרטגיה נפרדת וייעודית לטיפול בסוגיות שנדונו במסמך מול חברות מובילות נוספות – VK .וטלגרם 9. .אל הצוות יצטרפו, בהתאם לצורך, מומחים מהעולם האקדמי, האזרחי והטכנולוגי 10 . :דיווחים א. אחת לשנה, ימסור הצוות דיווח למליאת הממשלה באשר להיקפי שיח השנאה ברשתות החברתיות וסטטוס ביצוע תכנית העבודה הממשלתית בנושא. הצוות ימסור את הדיווח הנ"ל .גם לוועדת העלייה, הקליטה והתפוצות ב. הצוות הבינמשרדי יפרסם דו"חות ציבוריים עתיים באשר להיקף שיח השנאה ברשתות .החברתיות. כל דו"ח יכלול מעקב על טיפול הרשתות החברתיות בממצאי הדו"ח הקודם 38 מערך ממשלתי לניטור שיח שנאה אנטישמי לעניין שיח שנאה א נטישמי ודה- לגיטימציה לישראל ברשתות החברתיות, משרד התפוצות פועל כיום לניטור ביטויי אנטישמיות, והמשרד לנושאים אסטרטגיים פועל לניטור פעילות דה-לגיטימציה לישראל , חרמות .והסתה פלסטינית53 עם זאת, היקף הניטור הקיים אינו מאפשר התמודדות מיטבית עם אתגרי השיח, על כלל המורכבויות הטכנולוגיות, הזירתיות והשפתיות הקיימות. שיפור והרחבת יכולת הניטור עשויה לאפשר התמודדות טובה יותר אל מול שלושת היעדים המרכזיים מהרשתות החברתיות בנושא שיח שנאה כפי שהוצגו ל עיל ולקבל תמונת מצב מקיפה ובלתי תלויה על המתרחש ברשתות החברתיות. מערכת ניטור ממשלתית תשרת את שלושת היעדים המרכזיים הממשלתיים מהרשתות החברתיות :בנושא שיח השנאה 1. מדיניות החברות – מערך ניטור יעיל יתמוך בשיח מול הרשתות החברתיות, אגב דוגמאות ספציפיות ובחינת יישום המדיניות הנהוגה בכל מקרה. הוא אף עשוי למדוד מגמות לאורך זמן .ולהצביע על מידת הצלחת הרשתות לפעול כנגד שיח שנאה והתקדמותן מרבעון לרבעון 2. אכיפה – ניטור רציף ומתמשך המפורסם לציבור הרחב, יסייע לקבוצות מוגנות, ובמקרה זה קהילות יהודיות , לפעול מול הרשתות החברתיות להכשיר טוב יותר את מנטרי התוכן לטיפול .בתכנים אנטישמיים 3. שקיפות – בסיס השקיפות המצומצם בדיווחי החברות באשר לטיפול בשיח שנאה בכלל ובאנטישמיות בפרט - אינו מאפשר לגורמים רב ים, ובכללם מדינת ישראל , לאמוד את היקף התופעה והמגמות הנלוות לה. בניית יכולות עצמאיות עשויה לאפשר מנגנון חלופי לאי- שקיפות .החברות זאת , באמצעות דו" חות שיוצגו לעיון הציבור ולטיפול הרשתות החברתיות. כך, וכפי 53 .יצויין כי כיום, פועל מערך מוסדר לדיווח על תכנים לרשתות החברתיות המתופעל על ידי מחלקת הסייבר בפרקליטות המדינה מערך זה הוקם בשיתוף החברות ב- 2016 בעקבות גל הטרור, ומטרתו לדווח בזמן אמת על הסתה לאלימות או על פרסומים של ארגוני טרור. מערכי דיווח דומים מול החברות קיימים במדינות רבות בעולם. סוג תכנים זה שונה במהות מסוג מהתכנים המדוברים ,במסמך זה, תכני שיח שנאה/אנטישמיות. גם מבחינת כללי השימוש של החברות קריאות לאלימות או תכנים של ארגוני טרור אסורים בגין כללי הקהילה למניעת קריאה לאלימות או האיסור על ארגוני טרור להשתמש בפלטפורמה, ואינן חלק מ כללי הקהילה .בנושא שיח שנאה 39 שעלה בדיוני ועדת הכנסת לקליטה, עלייה ותפוצות- מדינת ישראל לא תהא צריכה להיות תלויה במידת השקיפות של החברות על מנת לקבל תמונת מצב עדכנית ביחס לנושא משמעותי כל- .כך :היעדים הממשלתיים בנושא עיבוי מערך הניטור א. ניטור שיח שנאה / אנטישמיות על פי הגדרותIHRA . ב. ניטור וזיהוי תוכן המיוצר על ידי מחוללי שיח אנטישמי .ברשתות החברתיות ג. ניטור שיח שנאה אנטישמי בשפות שונות - ניטור שיח שנאה בשפות דוגמת ערבית , תורכית, ופרסית כבסיס לאסטרטגיה סדורה להעלאת סוגיות מול החברות, תוך הצבעה על .פערים, ככל שיתגלו, באכיפה בין השפה הערבית לשפות אחרות או בין מדינות ערב ומערב ד. ניטור קמפיי נים ויראליים והתנהגות בלתי- אותנטית מתואמת ברשת החותרת להעצים .את שיח השנאה רגולציה– חקיקה ישראלית ועולמית "בישראל אין כיום חוק שדן ספציפית ב"שיח שנאה" ברשתות החברתיות. אמנם, עבירת "הסתה לגזענות ,קיימת בחוק העונשין, וכוללת פרסום תכנים במטרה להסית לגזענות )שניתן להכליל בו אנטישמיות (ראו לעיל וכן עבירות של הסתה לאלימות ועידוד טרור– אך מדובר בהקשה ערכית לא ישירה, שלא נעשה בה שימוש משמעותי בעידן האינטרנט. בשנת2016 פורסמה הצעת חוק ממשלתית "למניעת ביצוע עבירות באמצעות ")פרסום באינטרנט (הסרת תוכן54 שנועדה לייע ל את ההתמודדות של מדינת ישראל עם פרסום תכנים ברשת האינטרנט, במידה והפרסום מהווה עבירה פלילית. הצעת החוק לא עברה, אך כיום בישראל קיים מנגנון א - .פורמלי להסרת תכנים פליליים באמצעות משרד המשפטים עקרונית, שיח שנאה אנטישמי יכול להיות כלול בגדר עבירת ההסתה לגזענות, ומשכך להוות עבירה על החוק הישראלי. פסיקת בית המשפט העליון משנת1996 (הרב עידו אלבה נ' מדינת ישראל) מתייחסת לאנטישמיות :"כ"גזענות כהגדרתה בחוק 54 אתר הכנסת28/12/2016 - https://bit.ly/39Iq5h1 40 "אנטישמיות, בין במשמעותה המודרנית ובין במשמעות של שנאת היהודים והיהדות לאורך הדורות, אף היא גזענות כהגדרתה בחוק. לפיכך, הסתה לאנטישמיות תהווה עבירה של הסתה לגזענות, הגם שבישראל ".היהודים מהווים רוב ואינם חשופים להסתה אנטישמית ככל שהיו בארצות פזוריהם55 ככל שמדובר בעבירה על חוק, המדינה יכולה לאלץ את החברה להסיר תוכן – על אף שתוכן זה אינו מפר את כללי השימ .וש של החברה. כך לדוגמה נעשה בגרמניה, שם הכחשת שואה אסורה על פי חוק כך גם ניתן .לעשות בישראל בכל הנוגע לתוכן מכחיש שואה על פי חוק איסור הכחשת שואה החברות אכן מצייתות ומורידות את התוכן– אך רק במדינה שבה הפרסום נחשב עבירה על החוק. משמע, שאם בישראל תוכן אנטי שמי ,, לרבות תוכן מכחיש שואה הוא בלתי- חוקי, החברה תסיר את התוכן רק עבור המשתמשים בישראל . מצב זה כמובן אינו עונה על האתגר לפיו ביטויי שיח שנאה אנטישמיים ברשתות חברתיות עלולים .להגיע למשתמשים ממדינות שונות ובשפות שונות השוואה לחקיקה במדינות זרות מעלה עיסוק נרחב, הולך וגובר מצד מדינות אשר משקיפות בדאגה עמוקה ( על המתחולל ברשתות החברתיות ראו נספח ג' הסוקר את הרגולציה במדינות ובגופים על- מדינתיים )ביחס לשיח ברשתות החברתיות . כך לדוגמא, גרמניה חוקקה את הרגולציה הקשיחה ביותר, המחייבת את החברות להסיר תוכן העובר על ה חוק הגרמני תוך24 שעות, ולפרסם דיווחים חצי- שנתיים על הטיפול בכל .התלונות המתקבלות דרך המערכת הממשלתית להגשת תלונות בנושא תכנים ברשת באיחוד האירופי הציגו רגולציה רחבה מאד מול הרשתות החברתיות, ה- Digital Services Act 56 אשר כולל סעיפים בנושא שיח שנאה. גם בברי טניה שוקדים על רגולציה מקיפה, שעיקריה גובשו במסמך שנקרא Online Harms White Paper . 57 במסגרת הצוות הבינמשרדי שיוקם, יחד עם נציגי משרד המשפטים וגורמי מקצוע אשר מתמחים בשיח שנאה .ברשתות החברתיות, תתקיים בחינה באשר לנחיצותו ואופיו של אקט רגולטורי בתוך כך, יש לציין את הדיון הציבורי בארה"ב באשר למקור הגמישות בפרסום של החברות- סעיף230 ל"חוק "האמריקאי לתקשורת הגונהSection 230 of the Communications Decency Act אשר פטר את הרשתות החברות מאחריות משפטית לתוכן המופץ בפלטפורמה שלהן. הדיון בנושא זה נסוב על האפשרות 55 העין השביעית- https://bit.ly/3bNgOXK 56 הנציבות האירופית- https://bit.ly/2Kn2c5T 57 אתר הממשל הבריטי- https://bit.ly/3bNiDDK 41 לשינוי החוק כך שתשתנה הפרדיגמה הנוכחית, לפיה החברות "עושות דין לעצמן" ויכולות לשמש אכסניה לכל תוכן ללא כל השלכה ש ל ממש. שינוי בסעיף עשוי לרסן גם אתרים קיצוניים (ראו סעיף שת ״ פ ורגולציה בינלאומית כנגד קיצוניים – .)מטה :היעדים הממשלתיים בנושא רגולציה 1. בחינת הצורך בהצעת חוק ממשלתית להתמודדות עם שיח שנאה ברשתות החברתיות, אשר תכלול :התייחסות להיבטים הבאים א. מהם תכני שיח השנאה שניתן לדרוש מהחברות להסיר, בהתחשב ב ?עקרון חופש הביטוי ב. ?האם הסרת התכנים למשתמשים ישראלים בלבד תשיג את מטרות הרגולציה58 ג. מה ניתן ללמוד מניסיונן של מדינות ו מניסיונו של האיחוד האירופי בהקמת מנגנונים למיתון ?וטיפול בשיח שנאה כמחולל אפשרי לאלימות ד. מה בין מנגנון רגולטיבי מדינתי או בינלאומי, למנגנון אלקטיבי מצד החברות עצמן- בהיבטי ?יעילות וחופש ביטוי 2. גיבוש המלצה בנושא אשר תוגש לשרים הרלוונטיים בתוך פרק הזמן שיקבע הצוות הבינ .משרדי ״ שת פ בין מדינותG 2 G וארגונים על- לאומיים ,מדינות רבות ערות לבעיות הקיימות ברשתות החברתיות, לרבות בנושא שיח שנאה. האיחוד האירופי כפי שהוזכר לעיל, מגבש רגולציה מקיפה בנושא. לאחרונה בארה''ב התקיימו מספר שימועים בקונגרס ,עם ראשי הרשתות החברתיות בהם ע לה בין היתר שיח השנאה ברשת. יתרה מכך, הטיפול באנטישמיות ברשת ה ו .א בעיה בינלאומית, כחלק מבעיית שיח השנאה ,זאת מאחר ו מדינות הכוללות קהילות יהודיות וקבוצות מיעוטים, בני עדות ודתות שונות, נפגעות מתופעה זו. דרישותיה של ישראל מהחברות לפעולה באופן נחוש יותר נגד ש יח שנאה עשויה למצוא אוזן קשובה לשיתופי פעולה עם מדינות אחרות. כך לדוגמה, משרד החוץ מנהל שיח מזה שנים עם האיחוד האירופי בנושא אנטישמיות, וכיום מרכז הכובד 58 עם זאת, תיתכן חשיבות בהסדרת רגולציה נגד שיח שנאה בכללותו מתוך הבנה שחקיקה ישראלית כזו תסייע לישראל לדרוש חקיקה דומה ממדינות אחרות בעולם. סעיף20 לאמנה בדבר זכויות אזרחיות ומדיניות שישראל אישררה יכול להוו ת בסיס לחקיקה .כזו 42 .של שיח זה נסוב סביב שיח שנאה ברשת פריסתן הגלובלית של הרשתות החברתיות וקיומה של בעיית שיח שנאה בשלל ש פות ומדינות, מחייבת שיתוף פעולה בינלאומי. שיתוף גורמים זרים, ממשלתיים, על- לאומיים ואזרחיים כאחד, במאבק בשיח שנאה יחזק את הערך האוניברסלי בניהול שיח מכבד, נטול שנאה ופוגענות כלפי כל קבוצה מוגנת, ובכלל .זאת שיח אנטישמי ישראל נתפסת בעיני מדינות רבות כמעצמת ה יי- טק ועל כן ההובלה שלה בנושא שיח שנאה מול הרשתות החברתיות תיתפס כטבעי ת .במובנים הטכנולוגיים ויהיה ניתן לחבר מדינות נוספות למאמץ מעבר לאחריותן של הרשתות החברתיות לנטר ולמנוע פעילות כזו, קיימת גם חשיבות לשיתופי פעולה בין מדינות ובין גופים לשיתוף מידע, יכולו ת ניטור, טכנולוגיות ושיטות פעולה על מנת לצמצם את היקף .התופעה המדאיגה על כן, בניית קואליציות בינלאומיות רחבות למאבק בשיח השנאה תאפשר מנופים חדשים לישראל לשיח .מול הרשתות החברתיות שמתפקדות הלכה למעשה כמעצמות הפזורות בכלל מדינות העולם במקביל, על הצוות הבינמשרדי לבחון ממשקים ברמה הממשלתית והאזרחית עם מדינות ערב הנכנסות למעגל השלום עם ישראל. חיבור בין האינטרסים השונים והדומים לישראל ולמדינות ערב - עשוי להביא .להישגים בטיפול בשיח שנאה אנטישמי במדינות ערב היעדים הממשלתיים בנושא שת"פ בין מדינות וארגונים על- :לאומיים 1. .בהובלת משרד החוץ, הצוות יציע הזדמנויות לשיתופי פעולה בין מדינות בנושא שיח שנאה 2. בהובלת משרד החוץ, הצוות יציע דרכים למדינת ישראל ולנציגיה לקחת חלק פעיל בקידום הנושא בקרב ארגונים על- לאומיים העוסקים בנושא שיח שנאה, תוך מתן הצעות לש יתוף פעולה עם גורמים ממשלתיים, מוסדות בינלאומיים וארגוני חברה אזרחית (יהודיים ולא יהודיים) העשויים להיות שותפים .למאבק בשיח שנאה בכלל ובאנטישמיות ברשתות בפרט 3. :בחינת שיתופי פעולה עם איחוד האמירויות, בחריין ומרוקו בנושאים הבאים א) שיח השנאה ברשתות החברתיות ב) קי דום יוזמות ממשלתית ואזרחיות לחינוך ל-"פילו- .שמיות" בקרב משתמשים בערבית ג) שילוב הרשתות החברתיות במסגרת מיזמים משותפים המציגים ערכים חינוכיים לסובלנות והבנה .בין עמים ובין דתות 43 ״ שת פ ורגולציה בינלאומית כנגד אתרים קיצוניים מסמך זה התייחס רובו ככולו לחברות הרשתות החברתיות המובילות בעולם מאחר ובפלטפורמות אלה מתרחש השיח הציבורי הרחב ביותר. עם זאת, חשוב לציין כי מקור שיח השנאה האנטישמי (בעיקר מהימין .הקיצוני) אינו ברשתות אלה אלא באתרי נישה, אתרים שלרוב הקהל הרחב אינו חשוף אליו משם הוא .זולג בחלקו לרשתות החברתיות ומקבל חשיפה רבה יותר המדובר באתרים אשר קבעו כללים מקלים בכוונה, והם מושכים אליהם את השיח והתוכן הקיצוני ביותר – מפורנוגרפיה ועד שיח שנאה. (אין התייחסות במסמך ל - Dark Web אלא לאתרים זמינים לכל גולש באינטרנט). רשתות אלה מו דעות לכך ומאפשרות ביודעין שיח ותוכן קיצוני זה. מדובר בחברות שאינן שותפות לשיח ממשלתי (לא בישראל ולא בחו ״ .ל) ואינן נהנות משירותי תשתית בישראל בין הפלטפורמות המובילות נמנ ות 4chan , ופלטפורמות ייעודיות לימין הקיצוני כמו,Gab Bitchute ו - 8kun (לשעבר8chan ). יש לציין בנוסף כי אפליקציית המסרים טלגרם, בדגש על "ערוצי טלגרם", הפכה .למוקד לשיח שנאה, בעיקר בשל ההקפדה של הפלטפורמה בנושא הפרטיות וכללי השימוש הרפים ראשית, עצם חשיפתם וחשיפת תו כנם לציבור הרחב ולמקבלי החלטות עשוי להעלות מודעות לנושא ואף .לאלץ חברות אלה לפעול59 שנית, אתרים קיצוניים אלה מהווים בעיה בינלאומית ונכון לטפל בהם באמצעות שיתוף פעולה ורגולציה בינלאומית. קיי מים ,מגוון מנופים שניתן להפעיל נגד אתרים אלה לרבות פנייה לחברות שרת ים המעניקות שירותי אכסון ואבטחה. יצוין כי כיום החברות הגדולות אינן מוכנות להעניק שירותי אכסניה לאתרי ימין קיצוני, אך די בכמה חברות בודדות המוכנות לשתף פעולה .על מנת שאתרים אלה יוכלו להתקיים היעדים הממשלתיים בנושא אתרים ייעודיים: 1. הצוות הבינמשרדי יגבש רשימה של פלטפורמות מובילות המאפשרות שיח שנאה אנטישמי. הרשימה תכלול בנוסף את פרופיל הבעלים; נותני שירות, כולל חברות השרתים הנותנות שירותי תשתית והמדיניות המוצהרת של שרתים אלה . הצוות יבחן בנוסף את אופן ההתמודדות הרגולטורי וה אכיפתי של מדינות שונות עם את .רים אלה 59 חשיפה כזאת לאחרונה ב- New York Times של אתר הסקסPornhub הביאה לכך שהחברה שינתה והחמירה מיוזמתה את .כללי השימוש באתר תוך ימים בודדים מפרסום הכתבה בגלל הקשב הציבורי שהנושא העלה ראו ניו יורק טיימס12/09/2020 - https://nyti.ms/3bZjTUL 44 2. הצוות יגבש אסטרטגיה, תוך התייעצות עם גורמים ממשלתיים ברחבי העולם, גורמי מקצוע וארגונים בינלאומיים הפעילים בתחום – להתמודדות עם שיח השנאה האנטישמי בפלטפורמות אלה, בדגש על .מקרי בוחן תחילה בניית קואליציות בינלאומיות וסנכרון מול ארגוני חברה אזרחית שיח השנאה האנטישמי במדינות שונות פוגע בראש ובראשונה ביהודים החיים בתפוצות. האיומים שסופגים ,יהודים, התחושות שמלוות אותם בשנים האחרונות אשר מאוששות במחקרים60 ההימנעות מביצוע פעולות וממרחבים פיזיים מסוימים – .כל אלה הם חלק מהחוויה היהודית גם במרחב הווירטואלי61 פעילותם של ארגוני חברה אזרחית יהודיים, קהילות יהודיות, מנהיגות יהודית וארגונים נוספים, ובכללם פרו - ישראליים– .חשובים במיוחד לניהול שיח אותנטי, אזרחי וקהילתי, מול חברות הרשתות החברתיות מספר משרדים ממשלתיים מנהלים שיח עם ארגונים יהודיים רלוונטיים בנושאי אנ טישמיות ברשתות החברתיות. איחוד השיח בנושא זה וניהול קוהרנטי שלו מול שלל הארגונים האזרחיים עשוי להוביל לתוצאות טובות יותר אל מול הרשתות החברתיות. קיומו של שולחן עגול משותף לממשלה ולארגונים רלוונטיים לבחינת המאמצים של כל שחקן, אזרחי וממשלתי- אל מול החברות – .נחוץ על מנת להביא לסנכרון בין המאמצים הצוות אף יכול לקדם הקמת פורום עולמי של בעלי עניין, שיהיו מיוצגים בו ממשלות, חברות המפעילות רשתות חברתיות ומתווכי רשת אחרים, מומחים בטכנולוגיה, במשפטים ובחינוך וארגוני חברה אזרחית. מוצע לכנס את הפורום באופן עיתי קבוע כדי לדון, לפתח ולהעריך את יישומם של הליכים וסטנדרטים בינלאומיים .לצמצום שיח השנאה ברשת62 כמו כן, נכון שהצוות הבינמשרדי יבחן כיצד ניתן להעלות מודעות לנושא בקרב הציבור הישראלי, וכיצד ניתן לסייע לארגוני חברה אזרחית ישראליים הפעילים בתחום ולחבר בינם לבין ארגו נים רב- לאומיים וארגוני חברה אזרחית בחו ״ ל העוסקים .בנושא בנוסף יש לשקול עידוד מחקר אקדמי/ מדעי בנושא שיח שנאה ברשתות החברתיות – הן במישור הטכנולוגי של פיתוח אלגוריתמים וממשקי משתמש ידידותיים יותר והן במישור בחינת המדיניות והאכיפה, כמו גם 60 לדוגמה סקר איחוד האירופי 61 צעירים יהודיים דיווחו על תחושת חרדה בעקבות גילויי נאצה שהופנו אליהם .)לאחר שהזדהו כיהודים בטיק טוק ( ראו מבוא 62 'ראו נספח ד– המלצות המכון הישראלי לדמוקרטיה- המלצה 14 : פורום עולמי של בעלי עניין 45 בחינת .מוקדי ודפוסי פעילות של שיח שנאה אנטישמי, כולל באתרים קיצוניים היעדים הממשלתיים מול ארגוני חברה אזרחית 1. הקמת שולחן עגול במסגרתו יידון סטטוס שיח השנאה האנטישמי ברשתות החברתיות עם ארגוני .חברה אזרחית מובילים בתחום 2. כינוס פיזי בינלאומי בנושא שיח שנאה. כך לד וגמא, הכנס הדו- שנתי של משרד החוץ ומשרד התפוצות למאבק באנטישמיות עשוי להוות פלטפורמה ראויה, כמו גם כנסGC4I של ראשי הארגונים .הפרו ישראלים אשר מכנס המשרד לנושאים אסטרטגיים 46 נספחים 'נספח א :מדיניות חברות טבלה השוואתית מקרא V – תכנים אלה יוסרו על פי כללי החברה הנוכחיים X – תכנים אלה לא יוסרו על פי כללי החברה הנוכחיים הביטוי לאנטישמיות Facebook, Instagram Twitter YouTube (Google) TikTok הסתה לאלימותV V V V מוטיבים אנטישמיים קלאסיים– ,יהודים שולטים עשירים, לא נאמנים We define hate speech as a direct attack on people based on what we call protected characteristics — race, ethnicity, national origin, religious affiliation…. Content targeting a person or group of people… Violent speech or support in written or visual form Designated dehumanizing comparisons, generalizations, or behavioral statements (in written or visual form) harmful stereotypes- that include…. Jewish people and rats Jewish people running the world or controlling major institutions such as media networks, the economy or the government You may not promote violence against or directly attack or threaten other people on the basis of race, ethnicity, national origin, caste, sexual orientation, gender, gender identity, religious affiliation, age, disability, or serious disease. We also do not allow accounts whose primary purpose is inciting harm towards others on the basis of these categories. We remove content promoting violence or hatred against individuals or groups based on any of the following attributes: Ethnicity; Gender; Nationality… Religion… Conspiracy theories saying individuals or groups are evil, corrupt, or malicious based on any of the attributes noted above. We define hate speech or behavior as content that attacks, threatens, incites violence against, or otherwise dehumanizes an individual or a group on the basis of the following protected attributes: Race; Ethnicity; National origin; Religion… Do not post conspiracy theories used to justify hateful ideologies. 47 הכחשת השואה V Posting content about a violent tragedy, or victims of violent tragedies that include claims that a violent tragedy did not occur. Denying or distorting information about the Holocaust X החברה הודיעה כי בכוונתה לאסור תוכן מכחיש שואה אך טרם עדכנה את הכללים . We prohibit targeting individuals with media that depicts victims of the Holocaust… symbols historically associated with hate groups, e.g., the Nazi swastika. Images altered to include hateful symbols or references to a mass murder that targeted a protected category, e.g., manipulating images of individuals to include yellow Star of David badges, in reference to the Holocaust. V We will remove content denying that well- documented violent events, like the Holocaust or the shooting at Sandy Hook Elementary, took place (מתוך הבלוג הרשמי בנושא מדיניות )החברה V Content that promotes any hateful ideologies by talking positively about or displaying logos, symbols, flags, slogans, uniforms, salutes, gestures, portraits, illustrations, or names of individuals related to these ideologies Content that denies well- documented and violent events have taken place ביטויי אנטישמיות נגד מדינת ישראל X X X X 48 נספח 'ב פילוח הדוגמאות בהגדרתIHRA לאנטישמיות דוגמאות ב הגדרתIHRA נושא אנטישמיות קלאסית (נגד יהודים ) גם נגד יהודים וגם נגד וישראל אנטישמיות חדשה ( נגד ישראל כמדינת הלאום של העם היהודי) השמדה/ שלילת קיום קריאה ל- עזרה או הצדקת הרג יהודים הכחשת זכותו של העם היהודי להגדרה עצמית מוטיבים אנטישמיים קלאסיים התייחסויות זדוניות השוללות מיהודים את ,אנושיותם מייחסות להם סטריאוטיפים שימוש בסמלים או בדימויים הקשורים לאנטישמיות הקלאסית כדי לאפיין את ישראל או .ישראלים האשמה לא הוגנת האשמת היהודים כעם בהיותם אחראים למעשים שליליים שבוצעו ע"י אדם יהודי אחד או קבוצה, או ע"י לא- .יהודים ראייה קיבוצית של היהודים כאחראים לפעולותיה של .מדינת ישראל יישום סטנדרטים כפולים כלפי ישראל השואה הכחשת השמדת העם היהודי בידי גרמניה הנאצית האשמת היהודים כעם, או את ישראל כמדינה, בהמצאת השואה או הגזמת ממדיה השוואה בין מדיניותה העכשווית של ישראל .לבין זו של הנאצים נאמנות כפולה ,האשמת אזרחים יהודים, שאינם חיים בישראל בהיותם נאמנים יותר למדינת ישראל 49 'נספח ג שיח שנאה ברשת בהיבט משפטי: הסדרים בארץ ובעולם 1. ישראל 1.1 שיח שנאה ועבירות שנאה כיום אין חוק שדן באופן ספציפי ב"שיח שנאה" (או כל מילה נרדפת). החקיקה הקרובה ביותר היא עבירת ההסתה לגזענות שבחוק העונשין, התשל"ז - 1977 "(חוק העונשין "). גזענות מוגדרת בסעיף144 א לחוק :העונשין כדלקמן "רדיפה, השפלה, ביזוי, גילוי איבה, עוינות או אלימות, או גרימת מדנים כלפי ציבור או חלקים של האוכלוסייה, והכל בשל צבע או השתייכות לגזע או למוצא לאומי- ."אתני 'לפי לשון החוק, העבירה הינה עבירה התנהגותית. קרי, אין צורך ברכיב התוצאה. לפי ס144 ב לחוק העונשין, חל איסור על פרסום דבר מתוך מטרה להסית לגזענות, ואין משמעות לשאלה האם הפרסום הביא לגזענות או אפילו אם תוכנו הכיל תוכן לא אמיתי - ,זו עדיין תיחשב עבירה שהעונש בצידה הוא חמש .שנות מאסר .)עבירות ביטוי נוספות הן הסתה לאלימות (חוק העונשין), וכן עידוד טרור (חוק המאבק בטרור יודגש כי לעניין העבירות שלעיל ניתן יהיה להגיש כתב אישום בהסכמת היועץ המשפטי לממשלה בלבד . חוק העונשין כן כולל התייחסות מיוחדת לעבירות המונע ו( ת משנאהHate Crime :) סעיף144 ו לחוק העונשין קובע "עבירות שנאה" ככאלו שנעברות מתוך מניע של גזענות '. לפי ס144 )ו(א 'לחוק, כל מי שעובר עבירה מתוך מניע של גזענות (כפי שהוגדרה בס144 א), דינו יהיה כפול מהעונש בצד העבירה שנעברה או10 שנות מאסר (הקל מביניהם). כל ומר, המחוקק נתן את הדעת וקבע שמעשים שנעשים ממניעים גזעניים יש לגנות ולכן העונש בצדם יהיה חמור יותר. באופן דומה, קובע הסעיף כי עבירה שנעברה "מתוך עוינות כלפי ציבור מחמת דת, קבוצה דתית, מוצא עדתי, נטייה מינית או היותם עובדים זרים" גם כן תגרור עונש חמור יותר .מהעונש הרגיל בצידה של העבירה ;הסעיף מתייחס לעבירות הבאות: עבירה נגד הגוף, החירות או הרכוש, עבירה של איומים או סחיטה עבירות של בריונות ותקלות לציבור ושל מטרדים הכלולים בסימנים ט' וי"א בפרק ז, ועבירה בשירות הציבור, הכל למעט עבירה שהעונש שנקבע לה הוא מאס.ר עשר שנים ומעלה 50 1.2 הצעת החוק למניעת ביצוע עבירות באמצעות פרסום באינטרנט (הסרת תוכן), התשע"ח- 2018 רקע "הצעת חוק למניעת ביצוע עבירות באמצעות פרסום באינטרנט (הסרת תוכן), התשע"ח– 2018 " מורכבת מאיחוד של הצעת החוק המקורית של חה"כ דאז רויטל סוויד לבין זו של השר לבט"פ גלעד ארדן ושרת המשפטים איילת שקד מ- 2016, והיא ."כונתה בהמשך "חוק הפייסבוק הצעות החוק נולדו על רקע גל טרור הסכינים שפקד את מדינת ישראל באותה העת, בין השאר כתוצאה מהסתה קשה ברשת האינטרנט. יובהר כי הצעת החוק נועדה להתמודד עם עבירות פליליות ולא עם שיח שנאה כלפי ישראל או כלפי קבוצות . כפי שצוין בדברי ההסבר להצעת החוק הממשלתית, מטרת ההצעה היא לייעל את ההתמודדות של מדינת ישראל עם פרסום של תכנים ברשת האינטרנט. במסגרת ההצעה ה וצע ליצור כלי נוסף, בעל אופי ,מנהלי, שישמש את גורמי האכיפה בהתמודדות עם התופעה לצד הכלי הפלילי ולא כתחליף לו– צו .שיפוטי להסרת תוכן מרשת האינטרנט קריאה ראשונה של הצעת החוק התקיימה בישיבה ה - 186 של הכנסת העשרים ביום2.1.17 . החוק עבר רוב ב של36 מול2, ללא נמנעים. הצעת ה חוק עברה לדיון של הוועדה המשותפת לוועדת חוקה חוק ומשפט וועדת המדע והטכנולוגיה להכנה לקריאה שניה ושלישית, ולא קודמה מעבר לכך. זאת בהנחיית רה"מ בנימין נתניהו. מטעם סיעת הליכוד הוסבר שמהלך זה נובע מכך ש"ההצעה תאפשר צנזורה של דעות ותפגע קשות בחופש הביטוי במדינ ."ת ישראל63 ההסדר המוצע בהצעת החוק הצעת החוק עברה מספר שינויים, התיאור שלהלן מבוסס על הנוסח האחרון של הצעת החוק שהוכן לקריאה שניה ושלישית. במסגרת הצעת החוק מוצע להסמיך את בית המשפט המחוזי64 ליתן צו להסרת .תוכן מרשת האינטרנט (לרבות מאתרי חיפוש), ובכלל זה גם מהרשתות החברתיות 63 Ynet 18/08/2018 - https://bit.ly/35NtObI 64 .בהצעת החוק המקורית הוצע להסמיך את בית המשפט לעניינים מנהליים 51 על מנת שלא לפגוע באופן בלתי מידתי בחופש הביטוי, הוצע מבחן כפול שרק בהתקיימו, ניתן יהיה :להוציא את הצו 1. .פרסום התוכן מהווה מעשה שהוא עבירה פלילית 2. יש אפשרות ממשית שהמשך פרסום התוכן יפגע בביטחונו של אדם מסוים או בלתי מסוים .או בביטחון המדינה, או יביא לפגיעה חמורה בכלכלת המדינה או בתשתיות חיוניות :כן הוצע לקבוע מספר הוראות נוספות על מנת שלא לפגוע בחופש הביטוי מעבר לנדרש 1. בקשה להסרת תוכן לבית המשפט תוגש רק לאחר שהיועץ המשפטי לממשלה , או מי שהוא .הסמיך לכך, נתן את הסכמתו לכך בכתב 2. הערכאה שתידון בבקשה – שופט בית המשפט המחוזי שנשיא בית המשפט המחוזי הסמיכו .לכך 3. .חובת פרסום של החלטות בית המשפט בעניין בקשות לפי חוק זה תחולה טריטוריאלית בדיוני הוועדה בכנסת תיאר עו"ד ויסמונסקי, ממחלקת הסייבר בפרקליטות המדינה, את המורכבות של המשפט בעולם מקוון חוצה גבולות. כאשר ישנה בקשה של מדינה מסוימת להסרת תוכן, הספקיות :נוקטות באחת משתי דרכים 1. הסרת תוכן מלאה כלפי כולי עלמא. הטענה הנגדית יכולה להיות שמדובר באפקט מצנן על חופש הביטוי במקומות בהם זה מותר, וכביכו ל ישנה השפעה של מדינה מסוימת אקס טריטוריאלית על .מדינות אחרות 2. .חסימת גישה מהטריטוריה המקומית בלבד ביקורת שהושמעה כלפי הצעת החוק הטענה המרכזית נגד "חוק הפייסבוק " היא פגיעה בחופש הביטוי, באמצעות צנזורה לא מידתית. החוק יאפשר לפנות במעמד צד אחד לבית משפט בלא צורך לפתוח בהליך פלילי ובלא צורך בראיות קבילות .ולטעון שהייתה עבירה על כל אחת מהעבירות בחוק העונשין ובכך ליצור צנזורה על תכנים מעבר לכך, איגוד האינטרנט הישראלי כינה את הצעת החוק "עצימת עיניים לציבור בישראל", זאת מאחר והתוכן יהיה זמין ונגיש לכל אדם בעולם, חוץ מהישראלים. ההצעה אף תגרום להקטנת התמריץ 52 .של גופי אכיפת החוק לפעול לאיתור ותפיסת העבריינים, שזו צריכה להיות פעילותם המרכזית במהלך הדיונים בוועדה הובעה ביקורת כנגד הצעת החוק בטענה שהיא מנוסחת באופן מרחיב, שכן היא חלה לגבי כל .עבירה פלילית עוד נטען כי למרות שבדברי ההסבר להצעת החוק היה ניסיון להבהיר כי יש בהגדרה אמצעים מצמצמים ואף במסגרת הדיונים נראה שיש כוונה לצמצם את השיח אליו מתכוון החוק לכדי כמה עבירות ספציפי ות שהחוק נועד לטפל בהן65 - אולם הנוסח אינו משקף צמצום זה במפורש. עוד עלה החשש שעילת "ביטחון המדינה" שבבסיס החוק מאוד רחבה ועמומה, עלולה להפוך למושג פרוץ .'ולא רק זה, אלא שכלי זה יהפוך לכלי ראשון במקום הליך חקירתי/פנייה למפרסמים עצמם וכד בנוסף, בדיונים בכנס ת עלה החשש שהחוק לא מאפשר טיפול יעיל, שהרי אפילו אם מדובר בטיפול מהיר של48 ,שעות, הנזק מהפרסום יכול להיעשות בדקות ושניות. לבסוף, עלה החשש שהחוק, כפי שכתוב אינו נהיר דיו. למשל, במקרה בו נוצרים העתקים של תכנים או שתכנים כלולים בתוך תכנים אחרים, ואז לא ברור .מה דינם של התכנים בגלגול השני המצב הנוהג- המסלול הוולונטרי קיים מנגנון וולונטרי שפועל לצורך הסרת תוכן ,מהאינטרנט שהוא עבירה פלילית. מנגנון זה מנוהל על ידי מחלקת הסייבר בפרקליטות המדינה, ובמסגרתו מרכזת המחלקה בקשות להסרת תכנים מגופי ממשלה שונים ופונה לאנשי קשר ברשתות החברתיות בבקשות להסרת תוכן, על בסיס הפרה לכאורה של תנאי השימוש של אותן רשתות. היישום תלוי ברצונן הטוב של החברות, ובפועל, למעלה מ80% מהבקשות מתקבלות66 . בהתאם לנוהל העבודה של המחלקה, ישנם מספר תנאים לפניה של המחלקה בבקשה להסרת תוכן :ספציפי 1. .התוכן מפר את תנאי השימוש של הפלטפורמה 2. התוכ ן עולה לכאורה ל .כדי עבירה פלילית לפי הדין הישראלי 3. קיומו של אינטרס ציבורי מ .ובהק המצדיק דיווח על התוכן האמור .בימים אלו תלויה ועומדת עתירה לבג"צ של ארגון עדאללה, לעניין המנגנון האמור 65 .הייעוץ המשפטי של ועדת חוקה הציע לקבוע רשימה סגורה של עבירות 66 "עלייה חדה בהס רת חומרים מהרשתות החברתיות לבקשת משרד המשפטים" כלכליסט28/12/2017 - https://bit.ly/3nNgjit 53 2. משפט משווה 2.1 הנחיות האיחוד האירופי רקע ב-1 במרץ2018 , פרסמה הנציבות האירופית המלצה בדבר ההתמודדות עם תוכן בלתי חוקי במ רחב ( המקווןCommission Recommendation on measures to effectively tackle illegal content online ) 67 . ההמלצה מהווה ביטוי של הרצון הפוליטי, שפורסם על ידי הנציבות בהודעה רשמית בספטמבר2017 ( , במסמך משפטי אך לא מחייבnon-binding legal form .) תוכן מסמך ההמלצה המסמך דורש מפל טפורמות מקוונות, להיות אחראיות יותר בכל הנוגע לניהול תכנים שמועלים על גביהן לרשת. במסמך מוצע לאמץ גישה משותפת לכלל הפלטפורמות למען גילוי מהיר ויזום, להסרה ולמניעת :הופעות חוזרות של תכנים מזיקים. בהמלצה מפורטות חמש הצעות קונקרטיות לפלטפורמות מקוונות 1. הגדרת( הליכי יידוע ופעולהnotice and action procedures ) - פלטפורמות מקוונות אמורות להגדיר כללים ברורים ושקופים יותר כדי לאפשר יידוע אודות תוכן בלתי חוקי, כולל פרוצדורות ( מהירות למדווחים מהימניםtrusted flaggers ). יש לעדכן את ספקי התוכן על ההחלטות הללו ו .לתת להם את ההזדמנות לערער עליהן, כדי למנוע הסרת תוכן חוקי ללא צורך 2 . כלים יעילים יותר וטכנולוגיות פרו- אקטיביות- חברות אמורות לייצר כלים פרו- אקטיביים כדי לאתר ולמחוק תוכן בלתי חוקי, במיוחד כשמדובר בתוכן הקשור לטרו ר ותוכן שאינו מצריך הקשר על - .מנת שיוגדר כבלתי חוקי. למשל: חומרי ניצול מיני של קטינים או טובין מזויפים 3. אמצעי הגנה חזקים יותר כדי להבטיח זכויות יסוד - על חברות להקים אמצעי הגנה אפקטיביים ומתאימים, הכוללים פיקוח אנושי ואימות, כדי להבטיח שהחלטות למחוק תוכן, תה יינה מדויקות ( ומבוססות היטב. זאת כדי להימנע מפגיעה בזכויות יסודfundamental rights ), חופש הביטוי .והגנת הפרטיות שעלולה להיווצר כתוצאה משימוש במנגנונים אוטומטיים 4 . יחס מיוחד לחברות קטנות- באמצעות הסכמים וולונטריים, שיתוף ניסיון, שיטות עבודה ופתרונות טכנולוגי ים, כולל כלים לזיהוי תוכן אוטומטי. המעורבות ההדדית בין חברות בתחום, אמורה להועיל .לחברות קטנות עם מוגבלות במשאבים ובמומחיות 67 הנציבות האירופית- https://bit.ly/3qssTW9 54 5 . שיתוף פעולה הדוק יותר עם הרשויות- ככל שישנה עדות לעבירה פלילית חמורה או לחשד כי תוכן בלתי חוקי מהווה איום לחיים או ל בטיחות, על חבר ות לעדכן באופן מ י .ידי את רשויות אכיפת החוק רגולציה נוספת בנוגע לתוכן בלתי חוקי בא"א 1. ( דירקטיבה2017/541 ) בנושא לוחמה בטרור הדירקטיבה של הפרלמנט האירופי ומועצת האיחוד האירופי מ - 15 במרץ2017 ( 2017/541 ) בנוגע ללוחמה בטרור קובעת כי ,על מדינות לקבוע כי ספקי שירות מחויבים לאסור בתנאי השימוש שלהם פרסום תוכן טרוריסטי לפי הגדרתו בדירקטיבה (סעיף21 ). בנוסף, על מדינות לדרוש כי תוכן בעל אופי טרוריסטי יימחק לגמרי מהפלטפורמה, גם עבור משתמשים מחוץ לשטחיה, ככל שהדבר אפשרי. אם .הדבר אינו אפשרי, נדרש לנקוט בצעדים לחסום תוכן כזה עבור אזרחים הנמצאים בשטחם צעדים למטרת מחיקה וחסימה של תוכן חייבים להיות שקופים ולכלול מגנוני הגנה מתאימים, כדי לשמור על שימוש מידתי ובמידת הצורך, לעדכן משתמשים לגבי הסרת התוכן שהעלו לרשת. מנגנונ י הגנה לגבי .מחיקה או חסימה של תוכן אמורים לכלול גם את האפשרות לפיקוח משפטי 2 . קוד התנהגות של חברות בינלאומיות החל ממאי2016, הנציבות האירופית החתימה חברות אינטרנט רבות68 "( "IT Companies ) .לתמיכה בקוד הקוד לא מהווה תקנה, החלטה או דירקטיבה ואינו מחייב אלא מהווה כלי וולונטרי של רגולציה עצמית מרצון ( ע"י החברות אל מול האיחודself-regulatory and non-binding instrument .) הקוד אינו מחייב מדינות החברות ב איחוד האירופי . ב קוד, הסכימו החברות מול הנציבות של האיחוד האירופי לקבוע כללים נגד שיח שנאה וסטנדרטים קהילתי ים בפלטפורמות אשר אוסרים על המשתמשים שיח שנאה ומאפשרים למשתמשים לדווח על תוכן המפר את הכללים שנקבעו. בנוסף, קובע הקוד כי על החברות לעבור על רוב התוכן שדווח על ידי המשתמשים בתוך24 שעות מזמן הדיווח; להכניס מנגנוני למידה והדרכה עבור הצוותים אשר בוחנים את התו כן; ליזום שיתופי פעולה עם ארגוני חברה אזרחית כדי להרחיב את מעגל המדווחים האמינים של תוכן שמפר את הכללים; לייצר שיתופי פעולה עם דווחים מהימניםTrusted Flaggers) ) ואנשים שיכולים לייצר תוכן חינוכי עבור הפלטפורמה; ( למנות אנשי קשר בתוך המדינות או זירותnational focus point ) 68 ,החברות שחתומות על הקוד: פייסבוק, טוויטר ,מיקרוסופט ויו טיוב (גוגל), סנאפצ'אטDailymotion, Jeuxvideos.com , אינסטגרם, ., וטיק טוק+ גוגל 55 שיודעים לתת מענה לבקשות המתקבלות ע"י רשויות בתוך המדינות ולהגדיל את השקיפות (עם דגש על .)פרסום מספר התלונות ודיווחים שהתקבלו על רקע הסתה ושיח שנאה 3 . פס"ד נגד פייסבוק בבית הדין האירופי לצדק באוקטובר2019, קבע בית הדין האירופי לצדק בלוקסמבורג (ה- ECJ ) בתביעה של חברת הפרלמנט ה אוסטרי )(דאז Eva Glawischnig-Piesczek נגד חברת פייסבוק, כי רשתות חברתיות חייבות להסיר תוכן בלתי חוקי בתוך שטח האיחוד האירופי ופוטנציאלית גם מעבר לכך69 . אמנם ההליך עסק בחברת פייסבוק, אולם בית המשפט ציין כי הפסיקה רלבנטית עבור כלל הרשתות המקוונות הפועלות באיחוד האירופי. בנוסף, בית המשפט אישר את עמדת חברת הפרלמנט כי אין בהוראות הדירקטיבה על סחר אלקטרוני משנת2000 כדי למנוע מבית משפט ממדינה חברה באיחוד לדרוש מפלטפורמה מקוונות .להסיר תוכן זהה, דומה או מפוקפק עבור משתמשים אחרים באיחוד, באמצעות צו 2.2 גרמניה ""החוק לאכיפה ברשת (" setz Netzwerkdurchsetzungsge " או" NetzDG )" בקיצור70 , נכנס לתוקף ב-1 באוקטובר2017 ( . החוק חל על ספקי שירות טלמדיהtelemedia ,) המפעילים, למטרות רווח פלטפורמות אינטרנטיות אשר נועדו לאפשר למשתמשים לשתף תכנים עם משתמשים אחרים או להנגיש תוכן לציבור ("רשתות חברתיות"). ההגדרה של "רשתות ח "ברתיות אינה כוללת : הצגתו של תוכן עיתונאי או מערכת עיתונאית, שעליהם אחראי נותן השירות; פלטפורמות לעידוד תקשורת פרטנית או הפצת תוכן .ספציפי; ספקים עם פחות משני מיליון משתמשים רשומים בגרמניה החוק נועד להילחם בהפצת שיח שנאה, מידע שגוי באופן מכוון ("פייק ניוז ") ותכנים פליליים אחרים הנצפים ברשתות החברתיות. תוכן כזה כולל עלבונות, רכילות זדונית, השמצה, הסתה בציבור לביצוע .פשע, הסתה לשנאה, הפצת תמונות אלימות ואיום על ביצוע פשע לחוק חמישה מרכיבים עיקריים : 1. מנגנון לניהול אפקטיבי של תלונות – המנגנון מגדיר סטנדרטים מחייבים לטיפול בתלונות וכן דורש את שקיפותם, ומחייב את מפעילי הרשתות החברתיות להציע שימוש במערכת פשוטה, נגישה וזמינה .בכל עת למטרות דיווח על תכנים בעלי אופי פלילי 69 בית הדין האירופי לצדק- https://bit.ly/2Nexihd 70 משרד המשפטים הגרמני הפדרלי- https://bit.ly/2M2xyzq 56 2. חובת דיווח – מפעילי הרשתות החברתיות מחויבים להגיש דו"חות דו- שנתיים בעניין הטיפול בתלונות על תוכן בעל אופי פלילי. דו"חות אלו חייבים לכלול מידע רחב, בין היתר על היקף התלונות ועל נהלי קבלת ההחלטות של הרשת החברתית, כמו גם אודות הצוותים האחראים לעיבוד התוכן .המדווח. יש להנגיש את הדו"חות באינטרנט לכלל הציבור 3. קנסות – רשתות חברתי ,ות שמנגנונן לא ראוי לניהול אפקטיבי של תלונות או שאינן בונות מנגנון כלל מבצעות עבירה רגולטורית. אי מחיקה של תכנים פליליים בכלל, או מחיקה שנעשתה חלקית או באיחור, מהוות גם הן עבירות רגולטוריות. ניתן להטיל קנס גם על רשת חברתית שאינה עומדת בחובות הדיווח שלה בא .ופן מלא או בכלל 4. גורם מוסמך לקבל מסמכים רשמיים – הרשתות החברתיות יחויבו למנות אדם שהינו תושב גרמניה, אשר יוסמך על ידי החברה לקבלת מסמכים רשמיים הנוגעים לקנסות והליכים אזרחיים. על .הרשת לפרסם את פרטיו לציבור על אותו אדם שמוסמך לקבל את המסמכים הרשמיים והמידע מרשויות אכיפת החוק, לוודא את אפשרות החברות להיענות מיד לבקשות אלה. הפרה של חובה זו עלולה להוביל לקנס. חובת המינוי בגרמניה חלה ללא קשר למיקומה הרשמי של החברה, כדי .להבטיח אכיפה יעילה של החוק 5. הזכות לגילוי מסמכים ועיון בהם – כל מי שזכויותיו נפגעו כתוצאה מעבי ,רה פלילית המוכרת בחוק יוכל לדרוש מהרשת החברתית לחשוף את הפרטים של מבצע העבירה. זכאות זו מבוססת על .עקרונות כלליים בסדר הדין האזרחי בגרמניה ב- 19 בפברואר2020, החליטה ממשלת גרמניה לקדם את הצעת החוק למאבק בקיצוניות ימנית ושיח שנאה, אשר כולל את חובת מפעילי הר שתות החברתיות להעביר תכנים בלתי חוקיים למשטרת הפלילים ( הפדראליתBundeskriminalamt, "BKA" ). בנוסף, במסגרת שינויים לקודקס הפלילי הגרמני, הכניס המחוקק "מוטיבים אנטישמיים" אל תוך רשימת הנושאים המהווים שיקול לענישה לחומרה על ידי בית משפט הפלילי, בבואו להחליט על גזר דינו של נאשם (סעיף46 (2 .)), קודקס הפלילי הגרמני בנוסף, ב-1 באפריל2020, החליטה ממשלת גרמניה לקדם את התיקון לחוק האכיפה ברשת, שיחזק את זכויות המשתמשים ברשתות החברתיות ויגביר את השקיפות בהן. השינוי כולל מספר נושאים: זכות המשתמש לבקש בדיקה נוספת של החלט ה למחוק פרסום שלו (של המבקש) או החלטה שלא למחוק פרסום של משתמש אחר שבגינו הוגשה תלונה (למשתמש הזכות לקבל מהרשתות את כל היסטורית ה פרסום , גם אם נמחק); הקלה בצורת הדיווח על תוכן לא חוקי מבחינת חווית המשתמש; מתן הרשאה לבית המשפט המטפל בבקשה לגילוי מסמכים, לדרוש את קבלת זהותו של מפרסם ה פרסום ; החלת 57 חובה על חברות לפרסם את האמצעים הטכנולוגיים בהן הן משתמשות כדי לנטר ולהסביר כל שינוי מהותי שהתרחש מפרסום הדו" ח הקודם . שתי הצעות החקיקה נכנסו לתוקף ביוני2020 . חוק ה- NetzDG משך ביקורת ניכרת בנוגע לפגיעה בחופ ש הביטוי וצמצום חופש הפעולה של משתמשים במדיה החברתית. חשוב להדגיש כי ה- NetzDG לא יצר קטגוריות חדשות של תוכן בלתי חוקי, וכי מטרתו לאכוף22 ,חוקים שכבר קיימים בקודקס הפלילי של גרמניה במרחב המקוון, ולטפל בהם באופן יעיל עקבי וזריז בהתאם להנחיות של חברות המדיה .החברתית 2.3 בריטניה ,במהלך השנתיים האחרונות פעלה ממשלת בריטניה לגבי הסדרת נושא ספקי הרשתות החברתיות. עם זאת, עד כה לא אומצה חקיקה מחייבת. ב- 12 בפברואר2020 , פרסמה הממשלה את "המסמך הלבן על ( "נזקים במישור המקווןOnline Harms White Paper ) 71 . המסמך מציג תכנית של מערכת אחריות ופיקוח חדשה של חברת טק, שעוברת את הרף של רגולציה עצמאית. מדובר בתכנית שתציב רף נמוך ( "יותר לתכנים בעלי "פוטנציאל לגרימת נזקpotential to cause harm ), כאשר תכני ניצול מיני של ילדים ותוכן טרוריסטי יוגדרו כחמורים ביותר. המסמך מייצג את מדיניות הממ .שלה בעניין זה המסגרת הרגולטורית תחייב חברות לציין במפורש אילו התנהגויות ותכנים מקובלים באתריהן, ולאכוף זאת באופן עקבי ופומבי. כל החברות שהחוק חל עליהן תייצרנה רמה גבוהה ביותר של הגנה על ילדים ברשת ותנקוטנה בצעדים סבירים כדי להגן עליהם מפני תוכן בלתי הולם .או מזיק המאפיינים העיקריים של המסמך : 1. חובת זהירות סטטוטורית ומינוי של רגולטור– הממשלה תקבע חובת זהירות סטטוטורית ( statutory duty of care ) חדשה שתגרור נטילת אחריות רחבה של חברות על בטיחות המשתמשים ועל התמודדות עם נזקים הנגרמים מתכנים או פעילויות באתריהן. רגולטור עצמאי יפקח על הציות לחובת זהירות זו ולו יהיו סמכויות רחבות כמו הטלת קנסות כבדים והטלת אחריות פלילית על חברי ההנהלה הבכירה. בפברואר2020 הודיעה ממשלת "בריטניה כי בכוונתה למנות את "אופקום ( Ofcom .), הרגולטור של תחום התקשורת בבריטניה, לתפקיד הרגולטור בתחום 71 אתר הממשל הבריטי- https://bit.ly/3bNiDDK 58 2 . הכוונה ממשלתית בנושא תוכן– על רקע האיום על הביטחון הלאומי של בריטניה ועל רקע הרצון להבטחת ביטחונם הפיזי של ילדים, תהיה לממשלה הסמכות להכווין את הרגולטור ביחס לנהלי ( עבודהcodes of practice .), בנוגע לפעילות טרור או התעללות מינית בילדים 3 . דו" חות שנתיים– בידי הרגולטור הסמכות לדרוש דו" ( חות שקיפותTransparency Reports ) שנתיים של החברות שחל עליהן החוק שיפורסמו על ידו באינטרנט, תוך ציון תדירות הופעת תוכן מזיק בפלטפורמות שלהן, ופירוט בדבר האמצעים שננקטו על מנת להיאבק בתופעה. בנוסף, תהיה .לו הסמכות לדרוש מידע נוסף, כולל על השפעה של אלגוריתמים בבחירת תוכן למשתמשים 4. תחולת החוק– טיוטת החקיקה קובעת כי המסגרת הרגולטורית תחול על חברות המאפשרות למשתמשים לשתף או לג לות תוכן של משתמשים אחרים, וכן לתקשר זה עם זה באופן מקוון. בעוד ,ששירותים אלו מוצעים על ידי מגוון רחב מאד של חברות בכל הגדלים בסמכות הרגולטור לקבוע נגד אלו פלטפורמות לפעול ובאיזה אופן, כאשר פעילות זו מבוססת, בין היתר, על גודל הפלטפורמה, רמת הסיכון בפרסום.התוכן, ותדירות הפרסומים המפרים כל דרישה לסקירה או ( "לפיקוח על קטגוריות מוגדרות של תוכן בלתי חוקי לא יחולו על "ערוצי תקשורת פרטייםprivate channels .) "ארגונים בתחום בירכו על יוזמת החקיקה, אשר כללה התייעצות עם מגוון בעלי עניין ובחירה ב"אופקום ,כרגולטור. אך נמתחה ביקורת על כך שחסרה בה המלצה לתמריץ לפלטפורמות לבנות תשתית ועיצוב .טכנולוגי אחראי ומתקדם, שיעניק לרגולטור עוד יכולות בתחום חקירה והערכת המצב 2.4 צרפת ב- 13.5.2020 " , התקבל בצרפת חוק בשםAvia law "( ", במטרה להילחם בשיח שנאה ברשתhate speech "). החוק שאב השראה מהחוק הגרמני שתואר לעיל. ההתמודדות עם שיח זה הינה באמצעות מנגנון מ י ידי של הסרת תוכן, לצד קנסות על אי ציות להוראות החוק, בגובה של עד4% מהמחזור השנתי של החברה המפ י רה. מרבית הכללים ייושמו על פלטפורמות מקוונות ומנועי חיפוש שמגיעים לסף פעילו ת ,מסוים (שייקבע בהמשך) בצרפת, ללא תלות במיקום שבו נמצאות אותן החברות או המטה שלהן. בנוסף פלטפורמות מקוונות שהחוק חל עליהן, יידרשו להילחם בתוכן מסית, ע"י ציות למתווה של ה- CSA ( The French Audiovisual Council Administrative Body .) 72 רשתות חברתיות ואתרי אינטר ,נט אחרים ידרשו לה סיר תוכן, שהרשויות בצרפת מחשיבות כתוכן הקשור לטרור או להתעללות בילדים תוך שעה 72 TaylorWessing 21/05/2020 - https://bit.ly/39Dfcx0 59 מרגע הדיווח. כל תוכן פוגעני אחר, יוסר ב תוך24 שעות ,מרגע הדיווח. כללים אלו יחולו על כל האתרים קטנים כגדולים. לעניין זה, תוכן פוגעני "אחר" כולל בתוכו תוכן שמסית לשנאה, אלימות, גזענות או .הטרדה מינית73 עם זאת, בחודש יוני2020 , בית המשפט החוקתי בצרפת, הביע דעתו שהחוק, שבעצם מטיל את האחריות לנתח תוכן על ה פלטפורמות ה דיגיטליות, ללא התערבות שופט, בתוך זמן קצר ביותר ואף מאפשר להטיל קנסות משמעותיים, יוצר תמריץ למצב הפוך, להסרת תוכן מסומן, גם אם לא מדובר בשיח שנאה ברור. בית המשפט גם פסל חלקים בחוק המחייב ים את הפלטפורמות לה סיר תוכן שסומן כקשור לפורנוגרפיית ילדים או טרור. כיום, נותר רק חלק מצומצם מצורתו המקורית של החוק . 74 2.5 קנדה קיים הסדר לפי הדין הפלילי- לפי סעיף320.1 לקוד הפלילי לפיו שופט יכול להוציא צו - אם שוכנע על ( בסיס מידע מוצהר"information on oath" ), שתוכן כלשהו מהווה "תעמולת שנאה" לפי ההגדרה בסעיף320 (8 ) 75 או נתוני מחשב שמאפשרים את התעמולה ומאוחסנים ופתוחים לציבור ע"י מערכת ,מחשב שנמצאת בתחום שיפוט בית המשפט( :שופט יכול לצוות על האחראי על מערכת המחשב1 ) ( ;להעביר עותק אלקטרוני לבית המשפט2 ) לוודא שהתוכן לא יאוחסן ויהיה פתוח לציבור דרך אותה ( ;מערכת מחשוב3 .) לספק את המידע הדרוש כדי לזהות ולמצוא את האחראי לתוכן שפורסם 2.6 בלגיה הגוף הראשי שפועל כנגד שיח שנאה הינו– UNIA 76 ., זוהי רשות עצמאית, הממומנת מתקציב ממשלתי מי שמרגיש שהיה קורבן לשיח שנאה, יכול לדווח ל- UNIA על התוכן הפוגעני. הנטייה הראשונית שלUNIA תהיה העדפה של חופש הביטוי ועל כן, דרך הפעולה הראשית היא ביצירת דיאלוג וחתירה להג עה לפשרה בין המתלונן למפרסם התוכן ושאר הגורמים המעורבים. במקרים חריגים שבהם דיאלוג אינו אפשרי, או ,שמדובר בעבירות חמורות במיוחד או שנדרשת הבהרה שיפוטיתUNIA יכולה לנקוט בהליכי ם .משפטיים77 .לא אותרה התייחסות פרטנית לפעילות מול הרשתות החברתיות עצמן 73 .בי.בי.סי14/05/2020 - https://bbc.in/2NcEdYh 74 ניו יורק טיימס18/06/2020 - https://nyti.ms/38R3cJ9 75 ocates or promotes genocide means any writing, sign or visible representation that adv hate propaganda “ or the communication of which by any person would constitute an offence under section 319” 76 UNIA - https://bit.ly/2LEdxPH 77 UNIA - https://bit.ly/3bL1WZR 60 2.7 איטליה באיטליה חקיקה ענפה לגבי שיח שנאה, אך רובה מתמקד במדיה משודרת ולא מקוונת. אחד החוקים המרכזיים הינו ה -" Gasparri Law " שמחד, מעגן את חופש הביטוי, ומנגד מדגיש את החופש לכבוד ,ואוסר למשל, על שידור תכניות ש כוללות ,תמריץ לשנאה כלשהי78 ואף קיים גוף שיכול למנוע, בתנאים מסוימים ונוקשים, הפצה של תוכן מלהיות משודר. דע עקא, חוק זה מתמקד בתכנים משודרים ולא תכנים כתובים מקוונים. בשנת2018 ., הוציאה איטליה מסמך מסכם בנושא79 2.8 בולגריה איסור על שיח שנאה, מעוגן בחוקה הבולגרית. מחד, מעוגן חופש הביטוי, אך מנגד, זכות זו מוגבלת על דרך השלילה. כך, בפסקה2 , סעיף39 ( Article 39(2) of the Constitution of the Republic of Bulgaria ), כתוב שהזכות לא תשמש להשמצת המוניטין של אחרים, או כדי לתמרץ שינוי בסדר החוקי במדינה, הכנה לפשע או הסתה לאיבה או אלימות כנגד מישהו. ככלל, שיח שנאה מופיע כעבירה פלילית .בקוד הפלילי של המדינה 78 בית הנבחרים האיטלקי- https://bit.ly/39IuXmj 79 להלן- https://bit.ly/3ipDWwv 61 'נספח ד המכון הישראלי לדמוקרטיה צמצום שיח השנאה ברשת : המלצות לחברות המפעילות רשתות חברתיות ולמתווכי רשת באינטרנט מבוא מאת יובל שני מסמך זה הוא תקציר של קובץ מאמרים (שנכתבו בסתיו2019 ), תוצאת מאמץ מחקרי משותף של המכון הישראלי לדמוקרטיה ומוסד יד ושם שתכליתו לחזק את המאמצים של החברות המפעילות רשתות חברתיות ושל גופים אחרים המפרסמים תוכן באינטרנט (מתווכי רשת) לנסח מדיניות וקווים מנחים כדי .לצמצם את שיח השנאה ברשת80 שיח שנאה בוודאי אינו תופעה חדשה, אבל הפלטפורמות האינטרנטיות מאפשרות היום את פרסומו והפצתו במהירות ובהיקפים חסרי תקדים, ומשום כך נדרשת תגובה נחושה יותר לנזק שהוא גורם. השימוש בפלטפורמות פרטיות להפצת שנאה במרחב הווירטואלי אף מציב א תגרי משילות ייחודיים ומחייב גישות חדשות ל הס .דרת תכנים ולפיקוח מוסדי בפועלו כמכון מחקר א-מפלגתי, יש למכון הישראלי לדמוקרטיה עניין רב שנים באפשרויות ובאתגרים שהטכנולוגיות החדשות מציבות לערכים, לתהליכים ולמוסדות הדמוקרטיים המסורתיים. המכון רואה במרחב הווירטו אלי נכס חיוני לחיים הדמוקרטיים במאה העשרים ואחת, ולכן סבור שיש צורך להגן על מרחב זה מפני ניצול לרעה. גם "יד ושם", המחויב להנצחת זכר השואה והלקחים שנלמדו מן הפרק האפל הזה בתולדות העולם, רואה במרחב הווירטואלי כלי רב ערך וזירה חינוכית חשובה. ביד ושם מודאגים מ ן הניצול הזדוני של פלטפורמת האינטרנט לצורך הפצה של תעמולת שטנה, ובכללה הכחשת שואה אנטישמית. על הרקע הזה החליטו שני הארגונים לפעול עם שותפים ממדינות אחרות כדי לחבר ולהוציא אל הפועל תכנית מחקר שתעסוק בסוגיית שיח השנאה ברשת מנקודת מבט רחבה ולא- מקומית. ברור שמ בחינה עקרונית אין להפריד בין הדרכים להתמודדות עם שיח שנאה אנטישמי ובין הטיפול בצורות אחרות של שיח שנאה נתעב ומזיק שמטפח איסלאמופוביה, הומופוביה, שנאת מהגרים וכדומה. רק על 80 ראוns for Social Media Companies and Internet Intermediaries Online Hate Speech: Recommendatio המכון הישראלי לדמוקרטיה- https://bit.ly/38VTPYJ 62 סמך נורמות ותהליכים המוסכמים על חוגים נרחבים, שמזהים שיח שנאה אסור ומגבילים אותו, יהי ה אפשר לפתח דרכי פעולה מובחנות להתמודדות עם צורות מסוימות של שיח שנאה או להגן על קבוצות מסוימות .של קורבנות פוטנציאליים 16 ההמלצות המובאות כאן נועדו לשמש בסיס למדיניות ולקווים מנחים לחברות המפעילות רשתות חברתיות ולמתווכי רשת אחרים באינטרנט. ההמלצות נגזרו ת מעבודות המחקר המוצגות בספר המלא ומדיונים שהתקיימו במסגרת מיזם מחקר בשלוש סדנאות שנערכו בירושלים, בז'נבה ובאירווין שבקליפורניה. את המיזם הובילה ועדת היגוי בהשתתפות חוקרים מומחים ממדינות שונות בעולם .העוסקים במתח שבין חופש ביטוי ובין המאבק בשיח שנאה והסתה81 המחקרים שעשו חברים בצוות – ד"ר תהילה שוורץ- ( אלטשולר ועו"ד רותם מֶ דזיני (מהמכון הישראלי לדמוקרטיה), פרופ' קארן אֶלטיסKaren Eltis ( ; מאוניברסיטת אוטאווה), ד"ר איליה סיאַ טיצהIlia Siatitsa ; מהאקדמיה לזכויות אדם ולחוק ֶ הומניטרי בינלאומי בז'נווה) ופרופ' סוזן ב( נֶשSusan Benesch ; ממרכז ב ֶרקמן קליין שבאוניברסיטת )הרווארד– מנתחים את המדיניות הקיימת של הפלטפורמות המקוונות ואת המסגרת המשפטית שבתוכה הן פועלות ומציעים כיוונים לתיקון. תקוותנו היא שההמלצות ועבודות המחקר שעליהן הן מבוססות יזינו את הוויכוחים הניטשים ב ימינו על הדרכים האפשריות שהחברות המפעילות את הרשתות החברתיות ומתווכי רשת אחרים באינטרנט יכולים להסדיר את השיח המקוון ולהשפיע על עמדתם של הגורמים המשתתפים בדיונים בנושא זה– מדינות, ארגונים בינלאומיים, מוסדות אקדמיים, ארגוני חברה אזרחית, המגזר הטכנולוגי, הת .קשורת והציבור בכללותו 81 :חברי ועדת ההיגוי פרופ' טֶ נדאי אַ צ'יומֶ ה ( Tendayi Achiume ; דַ ווחית האו"ם לגזענות, אפליה גזעית, קסנופוביה וחוסר ,)סובלנות בימינו פרופ' שרה קליוולנד ( Sarah Cleveland ,); הסגנית לשעבר של יו״ר הוועדה לזכויות האדם של האו"ם 'פרופ אירווין קוטלר ( Irwin Cotler ( ; שר המשפטים לשעבר של קנדה), פרופ' דיוויד קֵּ ייDavid Kaye; דַ ו וח האו"ם לקידום ולהגנה על ,)הזכות לחופש הדעה והביטוי פרופ' אבנר שלו ,)(יו"ר הדירקטוריון של יד ושם פרופ' יובל שני (היו"ר לשעבר של הוועדה לזכויות )אדם של האו"ם וסגן נשיא למחקר במכון הישראלי לדמוקרטיה ופרופ' ז'אק דה וֶרה ( Jacques de Werra ; סגן הרקטור של אוניב .)רסיטת ז'נבה 63 הבסיס המוצע לקווי המדיניות שינקטו חברות מפעילות רשתות חברתיות ומתווכי רשת אחרים באינטרנט 16 ההמלצות שהתגבשו נועדו לספק לחברות המפעילות רשתות חברתיות ולמתווכי רשת אחרים באינטרנט בסיס לקווים מנחים ולבוחן ביצועים, וכן הנחיות לפעולות בעתיד שמטרתן לצמצם את שיח השנאה ולהגן על זכויות אדם יסודיות שמותקפות בשל שיח שכזה, מתוך שמירה בתוך כך על חופש הביטוי (הכולל הגנה גם על ביטויים שיש בהם כדי להעליב, לזעזע ולהטריד את הציבור) ועל זכויות אדם רלוונטיות אחרות. ההמלצות גם נותנות בידיהם של גורמים אחרים שמוטרדים משיח השנאה באינטרנט – ובהם החברה האזרחית, הציבור בכללותו ומוסדות שיש להם אחריות מיוחדת בתחום הזה, כגון ממשלות נבחרות ורשויות משפט עצמאיות – כלים להעריך את המדיניות של החברות, את הכללים הקשורים בשיח השנאה .ואת דרכי יישומם המלצה1 : האחריות על צמצום שיח השנאה לחברות המפעילות רשתות חברתיות ולמתווכי רשת אחרים באינטרנט יש אחריות משפטית ומוסרית לנקוט אמצעים יעילים כדי לצמצם את הפצתו של שיח שנאה אסור בפלטפורמות האינטרנטיות שלהם ולטפל בתוצאותיהם. הדבר הזה כולל, במידת הצורך, מיתון תכנים (ראו המלצה6 .), זיהוי שיח שנאה וגינויו אמצעים כגון מיתון תוכן קשורים קשר הדוק ומכריע עם זכויות אדם בסיסיות, ובהן חופש הביטוי, הזכות להשתתפות שווה בחיים הפוליטיים, הזכות לביטחון אישי והחופש מפני אפליה. המדיניות של החברות והכללים שלהן לאיסור שיח שנאה חייבים לעלו ת בקנה אחד עם הגדרות ואמות מידה משפטיות בינלאומיות מוסכמות, להיות שקופים, גלויים, חשופים לביקורת עצמאית ולתת פתרונות נגישים במקרים של הפרת הנורמות. אחריותם של החברות המפעילות רשתות חברתיות ושל מתווכי רשת אחרים באינטרנט אינה פוטרת משתתפים אחרים – ובהם משתמש ים פרטיים, קבוצות של משתמשים, מנהלי אתרים, אגודות פרטיות וציבוריות, מדינות וארגונים בינלאומיים– מן האחריות המוטלת עליהם לפי החוק הבינלאומי והמקומי לנקוט אמצעים יעילים כדי לצמצם את שיח השנאה ברשת. הם גם אינם פטורים מאחריותם לנזקים שנגרמו במישרין או בעקיפין .משיח שנאה אסור שכזה 64 המלצה2: יישום סטנדרטים משפטיים רלוונטיים על הכללים וקווי המדיניות שנועדו להפחית את שיח השנאה להיות כפופים לסטנדרטים הבינלאומיים של ( זכויות האדם, כפי שהם מנוסחים באמנה הבינלאומית בדבר זכויות אזרחיות ומדיניותCovenant on Civil and Political Rights ) (בייחוד סעיפים19 ו- 20 ) ובאמנות בינלאומיות אחרות כגון האמנה בדבר ביעור כל ( צורות האפליה הגזעיתConvention on the Elimination of Racial Discrimination ) (בייחוד סעיפים4 ו - 5(d)(vii) ( )) או האמנה האירופית בדבר זכויות אדםEuropean Convention on Human Rights ). על כללים וקווי מדיניות אלו לעמוד גם בחוקי המדינות, ובלבד שחוקים אלו עולים בקנה אחד עם הסטנדרטים ,הבינלאומיים. הכללים וקווי המדיניות צריכים גם להתבסס על מסמכים בינלאומיים שקיבלו תמיכה רחבה ( כגון תוכנית הפעולה של רבאטRabat Plan of Action ), וששת הסמנים הפוטנציאליים המוגדרים בה ,לזיהוי שיח פוגעני נפשע (ההקשר, הדובר, התוכן, הצורה, ההיקף וטווח ההשפעה של פעולת הדיבור והסתברות הפגיעה, ובכלל זה המיידיות שלה), וכן הגדרת העבודה של האנטישמיות שקיבל כוח המשימה ( הבינלאומי להנצחת זכר השואהInternational Holocaust Remembrance Alliance .) המלצה3: עקרון הפגיעה כאשר קובעים שביטוי מסוים ראוי או לא ראוי להיחשב שיח שנאה אסור, הכפוף לכללים ולמדיניות של מיתון תוכן, יש לשים לב לצורך למנוע פגיעה בקבוצות או ביחידים– ובכלל זה פגיעה גופנית או נפשית, פגיע ה בשם הטוב ופגיעה בכבוד. כמו כן יש לשקול אם פגיעה שכזאת יש בכוחה לנבוע מן הדיבור, לפי נעימתו וכוונתו הכללית של הדובר, מן השיטות והאמצעים שהדברים מופצים או מן המעמד של הנפגע מהדיבור או של הקבוצה המוגנת שהוא נמנה עימה, בכלל זה דפוסי מתח, אפליה ואלימות כלפי ק בוצות מטרה מוגנות, כגון אנטישמיות, איסלאמופוביה וקסנופוביה. כאשר מדובר בהכחשת עובדות היסטוריות ברורות ומוכחות בדבר פשעים בינלאומיים חמורים, כגון השואה והשמדות עם אחרות שאירעו בעבר, וכאשר ההכחשה נועדה לשוב ולפגוע בקורבנות הפשעים האלה או בצאצאיהם, יש לראות ב דברים צורת דיבור .פוגענית 65 המלצה4: קווים מנחים מפורטים על חברות המפעילות רשתות חברתיות ועל מתווכי רשת אחרים באינטרנט להגדיר בבירור קווי מדיניות מפורטים באשר לשיח שנאה אסור ושיח מותר, לפרסמם ברבים ולעגנם בסטנדרטים הולמים של זכויות אדם. קווי המדיניות יס בירו איך ליישם את המדיניות ואת הכללים, ובייחוד איך ההקשר מובא בחשבון בהחלטות על שינויי תוכן. ב"הקשר" הכוונה לגיוון פוליטי, תרבותי וחברתי, לשימוש במילות קוד ובלשון נקייה, לביקורת כלפי שיח שטנה, הומור או מחאה וכן לניכוס מחדש של ביטויים בקרב קבוצות המשמשות מט רה להשמצות פוגעניות. את ההגדרות המפורטות של שיח שנאה המשמשות את החברות המפעילות רשתות חברתיות ואת מתווכי הרשת האחרים יש לנסח לאחר שתתקיים התייעצות עם מומחים חיצוניים להם שמכירים את הסטנדרטים המשפטיים הלאומיים והבינלאומיים בתחום שיח השנאה, וכן עם מומחים בתח .ומים רלוונטיים אחרים כגון חינוך, סוציולוגיה, פסיכולוגיה וטכנולוגיה המלצה5 : אמצעי מניעה על החברות המפעילות רשתות חברתיות ועל מתווכי הרשת האחרים לנקוט מדיניות מניעה יזומה שתעלה בקנה אחד עם הסטנדרטים הבינלאומיים של זכויות האדם ותפעל למנוע את הפצתו של שיח שנאה אסור קודם שהוא גורם נזק. עליהם לרתום למטרה זו אלגוריתמים אמינים לעיבוד שפות טבעיות וכלים אמינים .לניתוח רגשות ולהעמיד את תוצאותיהם לביקורת של בני אדם ושל מנגנונים לערעור על החלטותיהם עליהם להעסיק בוחני תוכן מאומנים משלהם שתפקידם לשפר את השיטות לזיהוי שיח שנאה, לצמצם את תפוצתו של תוכן אסור ומזיק ולהרשות למשתמשים להפעיל מסננים לחסימת תוכן פוגעני שהם אינם רוצים להיחשף אליו. על החברות המפעילות רשתות חברתיות ועל מתווכי הרשת האחרים לנקוט צעדים כדי לוודא שהמדיניות שלהם גלויה ונגישה למשתמשים, מוצגת בדרך תמציתי ת, שקופה וקריאה ומנוסחת בלשון ברורה ופשוטה, ומכילה גם דוגמאות לתוכן מותר ולתוכן אסור. כדי להרתיע משתמשים מן השימוש בשיח שנאה על המדיניות היזומה להיות מתוכננת כך שתעודד הבנה של כללי המדיניות הרלוונטית ותפעיל אמצעים רגישים מבחינה תרבותית ומחזקי מודעות. לשם כ ך אפשר, למשל, להסביר איך ביטויים או .דימויים מסוימים עלולים להישמע פוגעניים באוזני יחידים או קבוצות 66 המלצה6 : מגוון טכניקות למיתון תכנים כדי לאכוף מדיניות וכללים למניעת שיח שנאה על החברות המפעילות רשתות חברתיות ועל מתווכי תוכן אחרים לפתח שורה של טכניקות למיתון תכנים שמסוגלות לעשות יותר ממחיקת תוכן וחסימת חשבונות בלבד. טכניקות אלו צריכות לכלול אמצעים משוכללים ודקי הבחנה המותאמים לדרגות שונות של הפרת הכללים או של סטייה מן המדיניות, למקור התלונה על ההפרה (למשל אלגוריתם מבוסס על בינה מלאכותית, גוף מוסמך לאכיפת חוק, שותף נאמן בקהילה או משתמש מקוון אחר) ולזהותו של המשתמש שיצר את השיח (אדם פרטי, סוכנות ידיעות, מוסד חינוכי, פוגען מו עד, וכו'). עם הא מצעים דקי ההבחנה נמנים סימון תכנים, הצמדת חומרים מאַ זנים לתוכן שיש לו פוטנציאל מזיק, אזהרה למפיצים מפני תוצאות ההפרה, הפניית בקשה אל המפיצים למת ֵּ ן או להסיר את התוכן והטלה חד- צדדית מצד הפלטפורמה של מגבלות ארעיות על ההפצה. יש לנקוט אסטרטגיות מיוחדות לטיפול בהפרות חוזרות ונשנות או בהפרות חמורות במיוחד של כללי השיח הנאות, ובכלל זה חסימה קבועה של עבריינים מועדים, פירוק מודלים עסקיים שמשתמשים בפלטפורמות מקוונות בכוונה תחילה לצורכי פעילות פוגענית ואסורה ומסירת הודעות לגופי אכיפת החוק על הפרות חמורות שרשויות החוק .עשויות למצוא בהן עניין המלצה7 : מנגנוני סימון חברות שמפעילות רשתות חברתיות ומתווכי תוכן אחרים זקוקים למנגנונים שמאפשרים להם תגובה מהירה ותכליתית לאיתור ולסימון שיח שנאה אסור באמצעות אלגוריתמים או בוחני תוכן אנושיים. עליהם גם להיות מסוגלים להזמין תגובות חיצוניות מצד שותפים אחרים בקהילה (כגון גופי אכיפת חוק, ארגוני חברה אזרחית ומשתמשים אחרים) שיביאו לידי תגובה מהירה ויעילה. לשם כך יש להתקין ממשקי משתמש וכתובות מקומיות ליצירת קשר במקומות בולטים באתר. החברות והמתווכים צריכים להסתמך על מידע שמגיע מחברי קהילה אמינים כדי להיות מסוגלות להפעיל אמצעים ארעיים למיתון תכנים, למשל אמצעים .לבלימת התפשטות מהירה של תכנים פוגעניים 67 המלצה8 : פרסום תלונות והחלטות כדי לאפשר פיקוח מהיר ויעיל בכל שלבי ההחלטות בעניין מיתון תכנים יש לשלוח אל המתלוננים אישור מיידי שתלונתם על תוכן אסור של שיח שנאה התקבלה. כל החלטה הקשורה במיתון תכנים חייבת להימסר להם בצירוף פירוט הסיבות להחלטה, אזכור של כל נזק צפוי או היעדר נזק צפוי ומידע על האפשרויות העומדות לרשותם לערער על ההחלטה. ההחלטות למיתון תכנים ונימוקיהן חייבים להימסר גם למשתמש שפרסם א .ת שיח השנאה לכאורה המלצה9: מנגנונים זמינים לערעור על החלטות על החברות המפעילות רשתות חברתיות ועל מתווכי רשת אחרים לפתח מנגנונים יעילים ונגישים לערעור על החלטות למתֵּ ן או שלא למתֵּ ן תכנים שיש בהם שיח שנאה לכאורה. עליהם להשיב על הערעורים במהירות וביעילות. הליכים לבדיקת ערעורים על החלטות ספציפיות חייבים להיות קיימים ברמ ת הפלטפורמה, ובכלל זה הליך פנימי לבחינה מחודשת של החלטות מסוימות בעניין מיתון תוכן וכן גישה לדרכים פרטיות חלופיות ליישוב מחלוקות או להליכים משפטיים, אם יש בהם צורך, כדי לטפל במחלוקות .על החלטות סופיות בענייני תוכן שלא יושבו בתוך הפלטפורמה המלצה10: מנגנ"ונים לבחינת "מקרים קשים יש לפתח הליכים להתייעצות עם מומחים למשפט או עם גופי ייעוץ אחרים על החלטות מסוימות או על "יישום הכללים והמדיניות במצבים ספציפיים. "מקרים קשים – שבהם לא ברור בו במקום לאנשי החברה הממונים על מיתון התכנים אם אכן מדובר בשיח שנאה או בהפר ה של כללים ומדיניות – צריכים להיבדק בתוך פרק זמן קצר בידי מומחים עצמאיים. ועוד: הממשלות צריכות לוודא שהחלטות בדבר מיתון תוכן שפוגעות בחופש הביטוי ובזכויות יסוד אחרות של אנשים שבתחום שיפוטן יוכפפו לבחינתם של בתי משפט .עצמאיים 68 המלצה11 : הגנה על ממתני תוכן על חברות המפעילות רשתות חברתיות ועל מתווכי תוכן אחרים להפעיל תוכניות יעילות להכשרת ממתני ,תוכן, כדי שאלה יכירו את זכויות האדם ויבינו את הרגישויות התרבותיות הקשורות בתכנים שהם בודקים ובכלל זה השיקולים שהועלו בהמלצה3 . 82 על החברות ומתווכי התוכן לנ קוט אמצעים הולמים כדי לשכך טראומה ותוצאות שליליות אחרות שעלולות להיגרם מחשיפה גבוהה וממושכת לשיח שנאה. בתוך כך עליהם לקבוע גבולות לשעות העבודה של בוחני התוכן ולהעניק להם ייעוץ וצורות אחרות של סיוע .פסיכולוגי המלצה12 : מועצות מייעצות מומלץ לחברות המפעילות רשתות חברתיות ולמתווכי תוכן אחרים באינטרנט לכונן מועצות מייעצות שיעריכו מעת לעת את מדיניות מיתון התכנים שלהם ואת האופן שבו הם מפקחים על התכנים ואוכפים את כללי המדיניות שלהם, בכללם הכללים להגדרת "מקרים קשים", הליכי הערעור ומדיניות השקיפות. גופים מייעצים אל ה יורכבו בעיקר ממומחים עצמאים שמכירים את הסטנדרטים הבינלאומיים בענין זה, את הטכנולוגיות למיתון תכנים, את מדיניות ההכשרה ואת ההקשרים הפוליטיים, התרבותיים והאחרים. במידת )הצורך יוקמו מועצות מייעצות לא רק בדרג הבינלאומי אלא גם בדרג הלאומי (או האזורי– כדי שיו כלו להיטיב להעריך ולהציע דרכים להתאמת מדיניות כללית לנורמות מקומיות ולהקשרים תרבותיים בלי להפר את הסטנדרטים הבינלאומיים של זכויות האדם וכדי להבטיח שקיפות ומתן דין וחשבון. ההליכים ואמות המידה לבחירת חברים למועצות המייעצות האלה, ובכלל זה האמצעים למניעת ניגוד עניינים בקרב .חברי המועצה, צריכים להיות גלויים וידועים לציבור המלצה13 : מיטוב תהליכים וחילופי מידע בין חברות מומלץ לחברות המפעילות רשתות חברתיות ולמתווכי רשת אחרים ליצור הליכים (ובכלל זה מועצות מייעצות משותפות) כדי להחליף ביניהן מידע על הכללים הנהוגים אצלם, על המדיניות שלהן למיתון תכנים, על שיטות ההדרכה שלהם ועל מנגנוני הערעור על החלטות המקובלים אצלם, מתוך שאיפה לשתף 82 ( ראו, לדוגמה, שני קורסים פתוחים מקוונים: קורס מקוון של יד ושם בנושא אנטישמיות11 בנובמבר2018 ;) e racisme et L l'antisémitisme )FUN( 69 פעולה במידת האפשר ולחשוף את היסודות המרכזיים שלהם להליכי מיטוב. עליהם גם לשקול בניית מסדי ( נתונים דיגיטליים משותפים של תגי הקבצהhashtags ), תמונות, צירופי מילים ומילות קוד הקשורים בשיח שנאה אסור בכל מיני הקשרים חברתיים, פוליטיים ותרבותיים, מתוך הקפדה על אילוצי פרטיו ת, ולשתף .מידע על מפירים מו עדים של מדיניות השיח שלהם המלצה14: פורום עולמי של בעלי עניין יש להקים פורום עולמי של בעלי עניין, שיהיו מיוצגים בו ממשלות, חברות המפעילות רשתות חברתיות ומתווכי רשת אחרים, מומחים בטכנולוגיה, במשפטים ובחינוך וארג וני חברה אזרחית. יש לכנס את הפורום מדי פעם בפעם כדי לדון, לפתח ולהעריך את יישומם של הליכים וסטנדרטים בינלאומיים לצמצום שיח .השנאה ברשת83 המלצה15: שקיפות על החברות המפעילות רשתות חברתיות ועל מתווכי הרשת האחרים לפרסם בקביעות דוחות מפורטים על יישום מדיניות השיח שלהם, ובכלל זה מידע ספציפי למדינה שבה הם פועלים בעניין שינויי תוכן מסוימים – אם עקב בקשה מצד גופי אכיפת החוק ואם ביוזמתם שלהם. כמו כן, עליהם לפרסם מידע בדבר הודעות שנמסרו לגופים חיצוניים, ערעורים על החלטות בעניין מיתון תכנים ותוצאותיהם, הדרכת ממתני תו ,כן המאמצים שהם עשו כדי להגביר את מו דעות המשתמשים, שיתופי פעולה שלהם עם ארגונים של החברה האזרחית ויוזמות ואמצעים אחרים. הדוחות על פעילות מיתון התוכן צריכים להיות מפורטים די הצורך כדי לאפשר הערכה חיצונית של ההליכים והתאמתם לסטנדרטים הבינלאומיים של זכויות ה אדם. עוד יש לפרסם בציבור מידע על מידת חשיפתו של הציבור לתכנים פוגעניים קודם למיתון התכנים על ידי .הפלטפורמה 83 ( ""יוזמת הרשת הגלובליתGlobal Network Initiative) ו"כוח המשימה הבינלאומי להנצחת זכר השואה" הם דוגמאות אפשר יות .לפורום עולמי שכזה 70 המלצה16: אמות מידה להערכת מדיניות וכללים מועצות מייעצות, ארגונים של החברה האזרחית, אמצעי תקשורת ומשקיפים אחרים עשויים למצוא לנכון לבחון .ולהשוות את כללי המדיניות למיתון שיח שנאה שיישמו פלטפורמות חברתיות ומתווכי רשת אחרים המניע לכך יכול להיות הרצון לעורר מיטוב תהליכים ולאפשר למשתמשים להחליט החלטות מושכלות יותר כשהם בוחרים בין צורות המדיניות הלגיטימיות השונות ולהעריך אם כל אחת מהן מאזנת בין הצורך להתמודד עם שיח השנאה ובין כיבוד חופש הביטוי וזכויות אדם אחרות. בעת הערכת מדיניות השיח אפשר :להביא בחשבון את השיקולים האלה (1) ,הגדרת קבוצות מוגנות: האם המדיניות מכסה קיבוצים אחרים נוסף על קבוצות גזעיות, אתניות ודתיות ,כגון קיבוצים שמוגדרים לפי מגדר נטייה מינית או זהות מגדרית, או לפי מוגבלות, או קבוצות המוגדרות לפי השתייכות מרצון (כגון מפלגות פוליטיות או אגודות מקצועיות)? האם ההגדרות האלה מתייחסות למצבים של אפליה רב- ?מגזרית (2) באיזו מידה הגדרת שיח שנאה בתור שכזה (א) מבוססת על רשימה סגורה של מילים, ביטויי ם, סמלים ותמונות שאין להשתמש בהם? (ב) מאפשרת לזהות קישורים מורכבים בתוך השפה, הדימויים והרעיונות שעלולים להפוך את השיח לשיח שנאה בנסיבות תרבותיות, חברתיות או פוליטיות מסוימות? (ג) מביאה בחשבון הקשרים רחבים יותר שיש בהם כדי להכשיר את השיח (סאטירה, למשל) או לשלול את צידוקו (כגון ?)מחקר היסטורי מזויף למען מטרות גזעניות (3) האם יסוד הסיבתיות הטבוע בהגדרת שיח השנאה קשור רק בציפייה שהוא עלול להביא לידי פגיעה גופנית באוכלוסיית מטרה כלשהי; או שמובא בחשבון גם נזק לא - גופני בקורבנות פוטנציאליים, כגון פחד או תחושת דחיקה לש וליים, או אף פגיעה עקיפה, כגון אפליה, שנובעת מסטראוטיפים שליליים ויחס חברתי ?שלילי כלפי הקבוצה המוגנת (4) האם בתהליך ההחלטה על מיתון תוכן מובאות בחשבון השלכות חברתיות שליליות רחבות יותר על קהל צרכני השיח – למן האפשרות להפרות אלימות של השקט (לדוגמה, מהומות או ת סיסה חברתית) ועד לתוצאות לא- ?גופניות ארוכות טווח, כגון טיפוח אווירה של גזענות ושנאה גוברת בחברה (5) האם ההחלטות בדבר מיתון תכנים מבוססות רק על כוונתם המפורשת של הדוברים או שמא גם על כוונתם ?המרומזת, או שהן אינן מתחשבות בכוונה כלל (6) האם הכלים למיתון תכנים מופעלים על הפצת שיח בפלטפורמות ציבוריות בלבד, או שהם מיועדים גם ?לקבוצות סגורות ולדברים שמועברים במסרים פרטיים 71 (7) האם התגובה על הפרת כללי מדיניות השיח כרוכה רק בהגבלת תפוצתם, או שיש אמצעים אחרים, כגון בקשה מן המשתמשים להסיר או למתן בעצמם את התוכן שהעלו לרשת, או הסרה חד - ,צדדית של תכנים ?או חסימה ארעית או קבועה של החשבון מומלץ לחברות המפעילות רשתות חברתיות ולמתווכי הרשת האחרים לבצע הערכה עצמית תקופתית של .מדיניותן לאור אמות המידה האלה ולפרסם ברבים את תוצאותיה