חומר רקע

1 הסתה לטרור ברשת – נייר עמדה מטעם איגוד האינטרנט הישראלי )ע"ר( מוגש לועדת המדע והטכנולוגיה של הכנסת לקראת דיון ביום 21.11.16 כתבו ד" עו : יורם הכהן מי ד" ועו - טל גרייבר שורץ 2 תוכן עניינים תקציר מנהלים ................................ ................................ ................................ ................................ ................ 3 מבוא ................................ ................................ ................................ ................................ .............................. 4 המאפיינים הייחודיים של הרשת בהקשר של הסתה לטרור ................................ ................................ ............... 6 ?האם ניתן באופן אפקטיבי למנוע הסתה ברשת באמצעות חקיקה ................................ ................................ ....8 הסכנות הכרוכות בחקיקות המוצעות ................................ ................................ ................................ .............. 10 הסדרה עצמית בהעדר חקיקה ................................ ................................ ................................ ....................... 12 אמצעים חלופיים לצמצום ההסתה ברשת ................................ ................................ ................................ ....... 13 3 תקציר מנהלים מסמך זה נכתב על בסיס סיעור מוחות של מומחים הבאים מרקעים ודיס י פלינות שונות במתווה של שולחן עגול שהתקיים ביוזמת איגוד האינטרנט הישראלי )ע"ר( ביום 19/9/16 במשרדי האיגוד 1 . הסתה אינה תולדה של האינטרנט , אך בשנים האחרונות נעשה שימוש נרחב במרחב הווירטואלי , בין היתר לצורך ההסתה לטרור . תופעה זו מציבה אתגרים חדשים בשל המאפיינים הייחודיים של התקשורת באינטרנט המאפשרת העצמה של המסר והגעתו לקהלים רבים . 2 . כל לא אדם הוא יעד למסרי הסתה , שכן אצל מרבית הציבור בעולם הוא יגרום זעזוע או כעס . אף ש שי מי כל לא חשף למסר יוסת לבצע דבר עבירה , עשויים להיות בין המוני הנחשפים כאלה שכן יונעו לביצוע . 3 . לאינטרנט, ולשירותי התקשורת שהתפתחו על בסיסה, מאפיינים ייחודיים : .א הפצה בלתי ניתנת לעצירה במהירות גבוהה .ב עולם ללא גבולות גיאוגרפיים .ג אפקט "הצתה" בלתי ניתן לצפיה .ד אפשרות לאנונימיות )יחסית( 4 . חברות האינטרנט הגלובליות )דוגמת Facebook, Google, Twitter ('וכד פועלות בפלטפורמות שלהן בהתאם לתנאי שימוש שנקבעו על ידן, ו מסירות מה פלטפורמה תכנים המפרים אותם . ב נוסף , רוב החברות הללו רואות עצמן מחוייבות לפעול בהתאם לצווי בתי משפט מדינתיים המפרשים חקיקה מקומית - ,מדינתית ומסירות מעיני המשתמשים במדינה מסוימת תכנים הסותרים את החוק המקומי בהתאם לצו שניתן בהליך משפטי סדור . 5 . הסרה של תכנים המפרים את תנאי השימוש של הפלטפורמה עדיפה על הסרה של תכנים בהתאם לצו של בית משפט ב מדינה מסויימת , שכן תכנים הסותרים את תנאי השימוש יוסרו מ כלל המופעים בפלטפורמה . הסרה של תכנים המפרים חוק של מדינה ספציפית )כל עוד אינם גם סותרים את תנאי השימוש של הפלטפורמה (, תמנע עיון במידע אך ורק מגולשים במדינת היעד )בהתאם לסמכות השיפוט של אותה מדינה(, ולא במופעים של אותו מידע במדינות אחרות . 6 . לא ברור אם תכנים הסותרים חוק ישראלי , יוסתרו ממשתמשים הגולשים , למשל , בתחומי איו "ש. שאלה זו צריכה להיבחן בהתאם לסמכות השיפוט של בתי משפט בישראל על האיזור ממנו מבקשים להסיר את התוכן המפר. 7 . אין יכולת טכנולוגית לאתר פרסומים שיש בהם חשש לעבירת ביטוי בשפע התכנים המועלה לרשת ובוודאי לא ניתן בניטו ר אוטומטי של תכנים כאלה לנתח את ההקשר שלהם כדי להכריע אם מדובר בטקסט מסית או לא . 8 . הפעלת מנגנוני ניטור אוטומטי תהיה כרוכה בטעויות – חסימת ביטוי י לג ים טימי ים מצד אחד ו "בריחת" פרסומי ם ממנגנון הניטור. 9 . אין זה ראוי שההחלטה אודות הסרת פרסומים שנויים במחלוקת תהיה בידי גוף מסחרי. שאלות אלה הן שאלות ערכיות שראוי שבית משפט יקבע בגינם ולא עובד בחברה מסחרית. 10 . תנאי השימוש הקיימים כיום ברשתות החברתיות מבהירים כי תכנים הקוראים לאלימות , העוסקים בגזענות, בריונות ועוד ייחסמו . כל הסדרה אחרת שתיעשה בין הפלטפורמות )גורמי הביניים( לבין המדינה , מחייבת שקיפות מירבית . בהעדר שקיפות , חופש הביטוי וערכי יסוד נוספים עשויים י לה פגע עוד יותר מ אשר ב חקיקה שמאזנת באופן גלוי בין חופש הביטוי וחופש הרשת לבין סכנה לחיי אדם . 11 . ,לאור כל זאת עמדת היא כי חקיקת חוק ישראלי לטיפול בהסתה לטרור ברשת )כנגד ישראלים( אינו יעיל, מהווה איום .לפגיעה בחופש הביטוי ואינו מהווה פיתרון ראוי ורצוי אם יש צורך בהסרת תכנים, יש לעשות את זה על דרך הצמצום, דהיינו רק במקרים מובהקים של הסתה לטרור, כדי למנוע עד כמה שניתן הסרה של תכנים לגיטימיים ופגיעה בחופש הביטוי . 12 . לא ניתן למצוא פיתרון שיהא אפקטיבי ב - 100% .מהמקרים של ההסתה לטרור ברשת עם זאת , לדעת כותבי מסמך זה , ניתן לעשות מספר דברים שיסייעו בצימצום התופעה ללא חקיקה שעשויה לפגוע בזכויות אדם : .א דיווח מהיר ואפקטיבי אודות תוכן מסית ; .ב הקמת הרכב בית דין מהיר ומתמחה בכל בית משפט העוסק בסוגיות של משפט וטכנולוגיה ושל תחום האינטרנט; .ג עם מ" מו הפלטפורמות הגלובליות להרחבת תחולתם של תנאי השימוש שלהן על תכנים נוספים שעשויים להכלל לדעת הציבור בישראל בגדר הסתה לטרור ולאלימות ואשר כיום לא נכנסים ב גדר מקרים המפרים את תנאי השימוש , תוך שקיפות מכסימלית של גם התנא וגם ים של המקרים ש הוסרו בגינם . 4 מבוא טרור הינו תהליך של "הטלת אימה על ידי מעשי אלימות"1 של קבוצות שונות. לאחרונה אנו עדים לתופעה במסגרתה טרוריסטים קוראים לאנשים נורמטיבים , שאינם לים י פע בקבוצה טרוריסטית , לבצע פעולות טרור , אשר גורמת ל"טרור של יחידים" . הכנסת אנשים נורמטיביים למעגל הטרור בדרך של פניה כללית היא ה תופעה של "הסתה לטרור ". ההסתה לטרור הינה רעה חולה המטריד ה את שנתם של ראשי מדינות רבות בעולם , עת העולם עובר ממאבקים מזויינים בין צבאות סדירים לסכסוכים בין בעלי עניין שונים במרחב מדינתי מסויים , הנושאים אופי טרוריסטי . ההסתה לטרור מבקשת להרחיב את מעגל הטרוריסטים לקבוצות רחבות באוכלוסיה . הסתה אינה תולדה של רשת האינטרנט. הסתה מתרחשת ראשית בעולם האמיתי ועשויה להתקיים במסגרות פורמליות כגון מערכת חינוך או תקשורת ממוסדת. אך בשנים האחרונות נעשה שימוש נרחב במרחב הווירטואלי , בין היתר לצורך ההסתה לטרור , ותופעה זו מציבה אתגרים חדשים הנובעים מ המאפיינים הייחודיים של התקשורת באינטרנט המאפשרת העצמה של המסר והגעתו לקהלים רבים , בקלות, במהירות ולעיתים באנונימיות . המ רשת ת ויכולות התקשורת שהיא מציעה הפכ ו בשני העשורים האחרו נים למרכיב אינטגרלי ומהותי בחיי היום- יום של הציבור ורשויות המדינה השונ ות . לצד האפשרויות המדהימות הגלומות במרחב הדיגיטלי, אשר משמש ות רבים, צעירים כמבוגרים, ככל י לגילוי עולמות חדשים, מפגש עם אנשים, הבעת דעות, פעילות עסקית , תרבותית והתנדבותית, מנוצלת לעיתים הרשת לרעה כבמה להסתה, לגזענות ולפגיעה באחר . ראוי לציין כי רק אחוז מזערי מהמידע והעמדות המפורסמים ב רשת הם כאלה שניתן להגדירם כ מסיתים לטרור עם . זאת, אין להתעלם מהעובדה כי הרשת היא כלי אפקטיבי ביותר להפצת תכנים מסיתים , וזאת בשל מגוון תכונות הייחודיות לתקשורת האינטרנטית כן על . עולות שאלות לגבי אפשרות מניעת ההסתה ברשת או צמצומה . יש לזכור כל לא כי אחד הוא קהל יעד של סרטוני או תכני הסתה . סרטון או תוכן הסתה יעורר אצל מרבית הציבור זעזוע או כעס מי כל לא . שיראה את הסרטון יוסת לבצע דבר עבירה , אלימות או טרור . אך בשל התפוצה העצומה של המידע, מסר הסתה יכול להגיע ליעד אשר יונע לפעולה. 1 דנה בלאנדר , " טרור - כואב , אבל עמום " פרלמנט | גיליון 59 |טרור ודמוקרטיה אחרי ה - 11 בספטמבר , המכון הישראלי לדמוקרטיה . 5 מסמך זה עוסק בסוגיות אלה , ובמיוחד הוא מבקש לבחון מספר שאלות : • האם הסרה של תכנים מסיתים אכן תפסיק את ההסתה לטרור ברשת ? • האם ניתן באופן יעיל למנוע הסתה לטרור ברשת באמצעות חקיקה? • האם קיימים אמצעים חלופיים לצמצום ההסתה לטרור ברשת? • ?מהן ההשלכות של הסדרה עצמית בהעדר חקיקה • ?מהן הסכנות הכרוכות בחקיקה המוצעת וכיצד ניתן לצמצם אותן מסמך זה נכתב על בסיס סיעור מוחות של מומחים הבאים מרקעים ודיספלינות שונות במתווה של שולחן עגול שהתקיים ביוזמת איגוד האינטרנט הישראלי )ע"ר( ביום 19/9/16 במשרדי האיגוד )להלן – השולחן העגול ( נוכח שתי הצעות חוק שפורסמו לאחרונה . האחת היא " תזכיר חוק הסרת תוכן המהווה עבירה מרשת האינטרנט , התשע "ו- 2016 " )להלן – התזכיר הממשלתי ( והשניה היא הצ "ח " הסרת פרסום הסתה שהתפרסם ברשת החברתית המקוונת , התשע "ו–2016 /)פ3110/20 (" של ח"כ רויטל סוויד ואח' )להלן – הצעת החוק הפרטית (. בדיון השתתפו )לפי סדר א - (ב של שם המשפחה : • עו "ד אור דן- ,חוף מומחה למשפט באינטרנט , אור - חוף טכנולוגיות וקניין רוחני • עו "ד גאל אזריאל , מחלקת ייעוץ וחקיקה , משרד המשפטים • פרופ ' ניבה אלקין- ,קורן הפקולטה למשפטים , אוניברסיטת חיפה , אשר הכינה ו ניהלה את הדיון • פרופ ' מיכאל בירנהק , הפקולטה למשפטים , אוניברסיטת תל אביב • עו "ד אלי בכר, חוקר, המכון הישראלי לדמוקרטיה ולשעבר היועץ המשפטי של שב"כ • ד "ר ענת בן דוד, המחלקה לסוציולוגיה , למדע המדינה ולתקשורת , האוניברסיטה הפתוחה • עו "ד מי- טל גרייבר שורץ , סמנכ "לית קשרי קהילה ורגולציה , איגוד האינטרנט הישראלי )ע"ר( • אורנה היילינגר , מנהלת המרכז לאינטרנט בטוח , איגוד האינטרנט הישראלי )ע"ר( • עו "ד יורם הכהן , מנכ "ל איגוד האינטרנט הישראלי )ע"ר( • מר איתי ולדמן, עורך אתר mako • עו "ד ליאור חיימוביץ , יועץ השר לביטחון פנים לענייני כנסת וממשלה • פרופ ' ברק מדינה, הפקולטה למשפטים , האוניברסיטה העברית • עו "ד עמית מררי , מחלקת ייעוץ וחקיקה , משרד המשפטים 6 • פרופ ' קרין נהון , חברת וועד , איגוד האינטרנט הישראלי )ע"ר( ; חוקרת בתחום הפוליטיקה של המידע , ' אונ וושינגטון • עו "ד דור נחמן , חבר וועד , איגוד האינטרנט הישראלי )ע"ר( ; משרד עו "ד שוק- ,שקד נחמן • עו "ד אורי סבח , האגודה לזכויות האזרח בישראל • ח "כ רויטל סויד יו , "ר השדולה למרחב הוירטואלי והרשתות החברתיות בכנסת • עו "ד אבנר פינצ 'וק, האגודה לזכויות האזרח בישראל • הגב ' אורית פרלוב, חוקרת, מומחית לענייני רשתות חברתיות, המכון למחקרי ביטחון לאומי )inss ( • תא "ל יוסי קופרווסר, לשעבר ראש חטיבת המחקר באמ"ן ומנכ"ל המשרד לעניינים אסטרטגיים • עו "ד ליאת קילנר , יועמ "ש יחידת הסייבר , להב 433, משטרת ישראל • עו "ד חיים רביה, מומחה למשפט באינטרנט, שותף בכיר בפרל כהן צדק לצר ברץ האמור במסמך זה אינו כולל דעות פרטיות ומזהות של המשתתפים בו , אך הוא מבוסס על נושאים שעלו ועמדות שהובעו במהלך הדיון בשולחן העגול . המאפיינים הייחודיים של הרשת בהקשר של הסתה לטרור לאינטרנט , ולשירותי התקשורת שהתפתחו על בסיסה, מאפיינים ייחודיים . השולחן העגול חידד מספר מאפיינים ייחודיים של הרשת הרלבנטיים להסתה לטרור וב , יניה :ם 1 . הפצה בלתי ניתנת לעצירה במהירות גבוהה . תכנים המועלים לרשת מגיעים במהירו ת מסחררת למיליוני נמענים , שהם עצמם יכולים להפיצם עוד ועוד . פי על מחקרים , 98-99% מהתוכן העולה לרשת אינו ויראלי רק ו . 1-2% מהתוכן העולה לרשת יהפוך להיות ויראלי2. על פי מומחי רשתות חברתיות, זמן הטיפול לזיהוי ולהסרת תכנים באופן אפקטיבי עומד כיום על כ- 7 דקות . זמן זה הינו זמן קצר להפליא בהתחשב בכמות התכנים האדירה המועלית לרשת בכל דקה. אף על זאת , בזמן רשת פרק זמן של שבע דקות מאפשר לפרסום , מעשית , חיי נצח. גם אם לאחר 7 ת דקו הוסר הסרטון או התוכן הבעייתי , רבים כבר ראו אותו , העבירו אותו הלאה, הורידו אותו למחשב או לסלולרי שלהם ואפילו יצרו ממנו Remix . כך שגם אם הפרסום המקור י ה וסר מהרשת , הסרת ו לא באמת אפקטיבית שכן שכפוליו ממשיכים להיות מופצים . 2 ovember 2013 , N Jeff Hemsley & Karine Nahon Going Viral, . 7 2 . עולם ללא גבולות גיאוגרפיים . הפעילות ברשת היא גלובלית , וזו הפוגעת והמסיתה אינה בהכרח "מתקיימת" בישראל . השרתים עליהם נמצאים חומרי ההסתה לרוב לא יהיו באותה מדינה בה מתבצע ת ההסתה ובה נמצאים המסיתים ו/ או המוסתים. הכללים והחוקים החלים בכל אחת מהמדינות בהן "עוברת" ההסתה שונים , ובמרבית המקרים לא ניתן להחיל את הדין הישראלי על האתרים המס יתים . פער דינים זה מאפשר למי שמבקש לפגוע, לפעול תחת משטרים משפטיים וטכנולוגיים אשר מונעים אפקטיביות אכיפתית של רשויות חוק ישראליות, ועשוי ים להפוך כל חוק שיגובש לבלת י ישים ולאות מתה . במקביל , הפלטפורמות ן בה מתפרסמים חלק גדול מהתכנים ברשת הן של חברות גלובליות וניתנות לצפיה ולגישה מכל העולם . חברות אלה פועלות בהתאם לתנאי השימוש שלהן ו חלקן3 מסירות תכנים הסותרים את תנאי השימוש שלהן בהליך של "הודעה והסרה" . כיוון על ש פניו מדובר בעבירות ביטוי יש , חשיבות לפרשנות הניתנת לתכנים הנכתבים . למרות שתוכן שמסית באופן ברור לאלימות יוסר מהפלטפורמה שכן הוא סותר את תנאי השימוש שלה, יש לא מעט מקרים בהם מדובר בביטויים שהפרשנות שלהם עשויה להיות שנויה במחלוקת. לעיתים , פרשנות זו אינה לוקחת בחשבון פגיעה ברגשות לאומיים או פרשנות מקומית . אמירות אשר עשויות להתפרש "י ע הציבור בישראל כ הסתה , עשויות להחשב ידי על הפלטפורמות הגלובליות כביטוי ים לגיטימי ים ולהיפך . ביטוי הוא עניין של גיאוגרפיה ותרבות . כך לדוגמא, פרסום תמונת ראש הממשלה לבוש בבגדים נאציים אינה נחשבת כהפרה של כללי השימוש של הפלטפורמות, עוד כל לא נאמר לצידה מסר ספציפי הקורא לאלימות . הפרשנות הישראלית - יהודית הניתנת לתמונה כזו אינה הפרשנות הגלובלית . יש גם לזכור כי רבים מהביטויים ה עשויים להיחשב כביטויים מסיתים בישראל, הם ביטויים לגיטימיים על פי קודי הדת של הדוברים , ו חלקם אף הינו ציטוט מכתבי דת. על כן, בקשת הסרה מכניס ה את הפלטפורמה להתנגשות מובנית בין תפיסות תרבותיות ודתיות שונות , ויכול לפעול גם כבומרנג כנגד ביטויים הלקוחים ממקורות דת יהודיים. 3 . אפקט ה "הצתה ". אירועים קטנים וזניחים, מקבלים לעיתים העצמה באמצעות הרשת , כך ש האפקט של פרסום האירוע גורם לתהודה גדולה של האירוע הזניח . קשה מאוד לחזות את התפתחותם של אירועי "הצתה" ויראליים כ אלה , ויש בהם , ככל הנראה , מרכיב משמעותי של אקראיות . קיימים מקרים בהם האירוע האינטרנטי מתלכד עם תהליך בעולם האמיתי , רוכב עליו ומעצים אותו . הדוגמא המפורסמת ביותר של תהליך זה הוא פריצת ה"אביב הערבי" בשנת 2010 ,כתוצאה מפרסום ברשתות חברותיות דבר הצתתו העצמית של הרוכל מוחמד בועזיזי , בעקבות סטירה שנתנה לו פקחית עירונית תוניסאית . 3 מרבית הביקורת והדרישות להסרה מגיעות לגופים הידועים – גוגל ופייסבוק . עם זאת , אל לנו לשכוח לא כי מעט תוכן מסית נמצא באתרים פרטיים שפרטי הזיהוי מי של שעומד מאחורי האתר חסויים או באתרי בלוגים היושבים על הפלטפורמה של WordPress או שמועברים ברשת Whatsapp בה כלל לא ניתן להסיר תכנים . 8 4 . (אפשרות לאנונימיות )יחסית . במהלך השנים האחרונות הצטמצמה באופן משמעותי תפיסת האנונימיות ברשת, ומשתמשים רבים, כולל כאלה המבצעים הסתה או פגיעה ברשת, אינם מסתירים את זהותם ומבצעים אותה באופן מזוהה, כגון תוך שימוש בחשבון רשת חברתית אמיתי. אך הרשת עדיין מאפשרת, למי שמבקש זאת ויודע כיצד להשיגה , לפעול באנונימיות ברמה גבוהה. זו עשויה להיות מושגת באמצעות יצירת זהות בדויה , או באמצעים טכנולוגיים כגון שימוש במנגנוני הסתרה דוגמת TOR או פלטפורמות טכנולוגיות שהדין הישראלי אינו חל עליהן במובהק . כאשר מדובר במסית שהשתמש לצורך ההסתה בתשתית תקשורת בעלת זיקה ישראלית , ניתן לנסות לאתר את המסית בהתאם לחוק נתוני תקשורת, אולם במרבית המקרים איתורו קשה מאוד עד בלתי אפשרי . חשוב לנו להזכיר , כי ליכולת שמירה על אנונימיות ברשת חשיבות רבה ל מימוש חופש ה ביטוי, ו זו מגנה על המתבטא מפני נחת זרועו של בעל הסמכות לגביו התבטא, כגון במקרים של ביקורת פוליטית, חשיפת הטרדה מינית וכד '. האם ניתן באופן אפקטיבי למנוע הסתה ברשת באמצעות חקיקה? על שולחנ של ן הכנסת והממשלה עומד ים כעת תזכיר ממשלתי שהופץ להערות הציבור , והצ "ח פרטית המבקש ים ) בדרכים שונות לחלוטין ( למנוע את המשך ההסתה ברשת . בתמצית , התזכיר הממשלתי מבקש להסמיך בית משפט לעניינים מנהליים להוציא צווים כנגד אתרי אינטרנ ט המורים להם להסיר תוכן המהווה מעשה שהוא עבירה פלילית רק לא ) בשל הסתה לטרור ול ( הורות ל מנועי שירותי איתור מידע באינטרנט להסיר אתרים אלה מרשימת ההפניות שלהם , בתנאי שיש בהמשך פרסום התוכן כדי לסכן באופן ממשי את ביטחונו של אדם , את בטחון הציבור את או בטחון המדינה . הצעת החוק הפרטית מבקשת לחייב רשת חברתית לנטר באופן מתמיד את השיח המתקיים בה , ואם זיהתה דבר הסתה לטרור ) כהגדרתה בהצעת החוק (, או שנודע כך על לה ממקור אחר – להסיר ו תוך48 שעות . ולא – תיקנס בסכום גבוה . הצעות אלה צריכות להיבחן לפי עקרונות של מידתיות , ובין היתר כמובן לשאול את השאל ות המתבקש ות מאליה : ן האם ניתן לפתור באמצעות חקיקתן את הבעיה שהם מנסים לפתור , קרי ההסתה לטרור ברשת ? האם ביכולתה של חקיקה מעין זו למנוע מהסתה להגיע אל מוסתים פוטנציאליים ? ו מנגד – האם הסיכון הקיים בחקיקה מעין זו )כמפורט להלן ( גובר על האפקטיביות שלה )ככל שזו קיימת .?( 9 חברות האינטרנט הגלובליות )דוגמת Facebook, Google, Twitter ('וכד פועלות בפלטפורמות שלהן בהתאם לתנאי שימוש שנקבעו על ידן , ו במסגרת זו מסירות מהרשת תכנים המפרים א ותם . במקביל, רוב החברות הללו רואות עצמן מחוייבות לפעול בהתאם ל צווי בתי משפט מדינתיים המפרשים חקיקה מקומית - ,מדינתית ומסירות תכנים הסותרים את החוק המקומי בהתאם לצו שניתן ב הליך משפטי סדור . דוח פי על השקיפות של גוגל4 , במהלך2015 התקבלו162 בקשות של מדינת ישראל להסרת תכנים שהפרו חוקים מקומיים ובה ן בקש ות להסרה של 892 פריטים בסה "כ. 65.5% מהבקשות נענו ידם על . במקביל , באותה תקופה הסירה פייסבוק5 431 פרסומים שהפרו את תנאי השימוש שלה או ש הפרו הוראות חקיקה בישראל. במקביל , יכולים המדינה וכל אדם פרטי לפנות בדרישה לפלטפורמה להסרה של תוכן בעילה של הפרת תנאי השימוש6 , או לצרף צו שניתן בהליך משפטי . דיווחים אלה מועברים לשיקול דעת של הפלטפורמה , ובמקרים ש מתקיימים התנאים ל" הנ המידע מוסר . עם זאת , ההסרה של תכנים שהפרו את תנאי השימוש של הפלטפורמה שונה מהותית מהסרה של תכנים בהתאם לצו של בית משפט במדינה מסויימת. תכנים הסותרים את תנאי השימוש יוסרו מהרשת כולה. עם זאת, הסרה של תכנים המפרים חוק של מדינה ספציפית )כל עוד אינם גם סותרים את תנאי השימוש של הפלטפורמה , ( תמנע עיון במידע אך ורק מגולשים במדינת היעד )בהתאם לסמכות השיפוט של אותה מדינה( , ולא במופעים של אותו מידע במדינות אחרות7 , כן ש לבית המשפט שהוציא את הצו אין סמכות שיפוט במדינות ה אחרות . כך לדוגמא, החוק הגרמני אוסר הצגת כל סממן נאצי. צו שהוצא להסרת פרסום כזה יוס , תר ממשתמשי פייסבוק בגרמניה אולם יהיה ניתן לצפיה באוסטריה או בישראל . לעניין זה כלל לא ברור אם תכנים הסותרים חוק ישראלי , יוסתרו ממשתמשים הגולשים , למשל , בתחומי יו א "ש. שאלה זו צריכה להיבחן בהתאם לסמכות השיפוט של בתי משפט בישראל על האיזור ממנו מבקשים להסיר את התוכן המפר. כך , ביטוי שייחשב פי על הדין הישראלי כהסתה לטרור כנגד ישראלים , אשר יכתב במדינה שבה ביטוי זה אינו בניגוד לחוק , בודאי לא יוסתר מהמשתמשים באותה מדינה ) בהנחה , כמובן , שהפרסום אינו סותר את תנאי השימוש בפלטפורמה (. 4 ראו : https://www.google.com/transparencyreport/removals/government/?hl=iw 5 ראו : H2 - https://govtrequests.facebook.com/country/Israel/2015 #/ 6 כדאי לשים לב שלדברי הפלטפורמות , השימוש בכלים הקיימים הוא נמוך ורחוק ממיצוי. שיפור המיומנות וההיקף בשימוש בכלים אלה יתן מענה משמעותי ביחס לחלק גדול מהתכנים. בוודאי תכנים קיצוניים שמהווים הסתה על פניהם. 7 .או בקרב משתמשים במדינת היעד שמרמים את מנגנון ייחוס המיקום של המשתמש ומזדהים כגולשים ממקום אחר 10 בשל אופי הפעולה של הרשת, כמתואר לעיל, נראה כי האפקטיביות של חקיקה נגד הסתה ברשת הינה נמוכה ואין היא גוברת על הסיכון שבה לערכי יסוד, כמתואר להלן. הפרסומים יוסתרו אך ורק מהמשתמשים בישראל ולא ממשתמשים במדינות אחרות בעולם או ממשתמשים "ש יו אב , שזו עיקר האוכלוסיה שהחוק מנסה למנוע הסתה אותה . יותר מכך - הסתרה זו תתבצע לאחר פרק זמן ארוך מדי, לאחר שכבר רבים ראו את הפרסום. הסכנות הכרוכות בחקיק ות המוצע ות8 לרשת מתווספות בכל יום כמויות אדירות של מידע חדש. כך לדוגמא, על פי דיווחי Facebook , בכל יום מתפרסמים בה כ- 432 מיליון פרטי מידע אישיים חדשים וכ- 300 מיליון תמונות חדשות ל . - YouTube עולות 400 !שעות של וידאו בכל דקה הצעת החוק הפרטית מבקשת לחייב את הפלטפורמות לנטר באופן רציף את זרם המידע , ולזהות בתוכו תוכן שהוא הסתה לטרור . אין יכולת טכנולוגית לאתר פרסומים שיש בהם חשש לעבירת ביטוי בים כזה של תכנים ובוודאי – שלא ניתן בניטו ר אוטומטי של תכנים כאלה לנתח את ההקשר שלהם כדי להכריע אם מדובר בטקסט מסית או לא . הפעלת מנגנוני ניטור אוטומטי תהיה כרוכה בטעויות משני סוגים: 1 . ביטוי י לג ים טימי מו סחי שי ים באופן אוטומטי על ידי המערכת, בשל אי דיוק מובנה במערכות הניטור הנ"ל. 2 . אי יכולת של מערכות אוטומטיות לאתר באופן מדויק ביטויים פוגעניים, אשר יגרמו ל"בריחת" פרסומים ממנגנון הניטור )וכמובן, אותם משתמשים בפלטפורמ ה שירצו לעבור את המסננת, ילמדו לעשות כן ו"לעב וד" על הפלטפורמה (. במקביל, אין זה ראוי שההחלטה אודות הסרת פרסומים שנויים במחלוקת תהיה בידי גוף מסחרי. שאלות אלה הן שאלות ערכיות שראוי שבית משפט יקבע בגינם ולא עובד בחברה מסחרית. הדרישה בהצעת החוק הפרטית לניטור רציף של הרשת , תוך מתן קנס על אי ניטור, מהווה תמריץ אפקטיבי ביותר להשתקת ביטוי . מדובר ב מתן לגיטימציה ) ואף קביעת חובה !( לגוף מסחרי , לבצע פעילות ניטור רציפה של כלל המידע שמועלה ידי על הציבור ושל התקשורת בין משתמשי הרשת חברתית , למטרות של בקרת ביטוי, מבלי שהמשתמש התיר זאת . 8 אין באמור להלן כדי לפרט כל את הערות איגוד האינטרנט לתזכיר ולהצ "ח הפרטית . אלה פורטו בתגובתנו לתזכיר הממשלתי . ראו : http://www.isoc.org.il/files/docs/ISOC-IL_Position_paper- Memorandum_Act_removing_content_which_constitutes_an_offense.pdf 11 הרשת ות החברתיות ואתרי החיפוש מופעלים בידי גופים עסקיים-מסחריים אשר ם לה נטיה טבעית למזער את הסיכון העסקי . מתן סמכות ההחלטה בידי גופים עסקיים -מסחריים אילו ביטויים לצנזר כדי לא להקנס יגרום לפגיעה אנושה בביטוי ברשת , שכן הגופים יצנזרו מידע עודף . התזכיר הממשלתי , בניגוד להצ "ח הפרטית , מחייב אמנם ביקורת שיפוטית בטרם הסרת התכנים , אולם בשם ההגנה על בטחון המדינה , שלום הציבור או עניין ציבורי חשוב אחר , מבקש התזכיר לקבוע הליכי שיפוט חריגים כגון : הצגת מידע או דיון במעמד צד אחד בלבד , הצגת ראיות לא קבילות ועוד . במקביל , משתמש התזכיר במונחים עמומים הניתנים לפרשנות רחבה ) בטחון הציבור , בטחון המדינה (. הדבר עשוי לפגוע קשות בחופש הביטוי . יודגש , בהליכים פליליים ב בתי המשפט ניתן לקבל כבר כיום , ללא צורך בהסמכה חוקית נוספת צו , להסרת תכנים מהרשת כאשר הפעולה המובעת בהם בה יש כדי לעודד ביצוע עבירה זה צו . ינתן לאחר בחינה יסודית של דיות הראיות , מידתיות הפגיעה בחופש הביטוי שתגרם כתוצאה מהסרת התוכן הפוגע ו וידוא כי הפגיעה הינה לתכלית ראויה . כאמור לעיל, צו כזה שינתן יוביל להסתרת אותו תוכן אך ורק מהמשתמשים המצויים בתחום השיפוט של בית המשפט. התזכיר מבקש לקבוע הסדר חריג לדיון בהסרת תכנים , אולם הסדר מיוחד , זה בשל האפשרות לחריגה מדיני הראיות וסד "פ, מ עצים את החשש לפגיעה בחופש הביטוי וראוי שייעשה רק במקרים חריגים ובמלוא הזהירות . יתר כן על - התזכיר הממשלתי מבקש לטפל בהסרת דבר העבירה מהרשת , אך חסרה בו קביעת חובה בסיסית ועדיפה לפעול כנגד העבריין עצמו אשר פרסם את דבר העבירה . הוא יוצר מסלול עוקף להליך הפלילי היסודי , של אכיפת חוק נגד העבריין האמיתי , ומוריד את המוטיבציה של גופי האכיפה לפעול כנגדם . הוסר הפרסום , נפתרה הבעיה וניתן לעבור לצו הבא יש . לוודא כי ככל שיחוקק חוק המנסה לטפל בהסתה ברשת , תהיה אחת הדרישות ב חוק כי המשטרה תחוייב לעשות מאמץ לאיתור העבריין שביצע את הפרסום, שכן העבירה לא תפסק והעבריין יפרסם במקום אחר . אין ספק על כי הרשתות החברתיות לסייע במיגור ההסתה ברשת , ולהענות לבקשות של גורמי האכיפה השונים באופן מהיר ואפקטיבי מקום בו מתקיים ביטוי המניע לפעולת טרור . אולם , הסרת תכנים לא יכולה להיעשות ללא בחינה קפדנית של ערכאה שיפוטית כלשהי , אשר תבחן האם האמירה המדוברת הינה ביטוי לגיטימי , שנוי במחלוקת ככל שיהיה , או הסתה שה תוצאה הברורה והמיידית שלו היא מעשה טרור . רק לאחר קביעה של אותה ערכאה כי מדובר בתוכן מסית יש , לחייב את הרשת החברתית להסיר את התוכן . 12 ובמקביל , כפי שנאמר לעיל , כיוון שהמסיתים והמוסתים אינם בהכרח יושבים תחת טריטוריה ישראלית , דרישה לחסימה של תכנים שתיעשה ידי על בית משפט ישראלי ידי על או חקיקה ישראלית , תוביל בהכרח לחסימה של התוכן ורק אך בגבולות ישראל ולא מחוצה . לה הסדרה עצמית בהעדר חקיקה תנאי השימוש הקיי ם מי כיום ברשתות החברתיות מבהיר את ים הנושאים לגביהם יוסרו תכנים מהרשת החברתית . בהתאם לתנאים אלה , יוסרו תכנים הקוראים ל אלימות , העוסקים בגזענות, בריונות ועוד . תנאי שימוש אלה מהווים הסדרה עצמית של הרשת החברתית . באופן מסורתי , תומך איגוד האינטרנט הישראלי בהסדרה עצמית ללא חקיקה פי על . הפרסומים בתקשורת , פועלים גורמים בממשלה לשינוי כללי ההסדרה העצמית של הפלטפורמות ) גופי הביניים . ( הסדרה , זו ככל שתעשה , מחייבת שקיפות מירבית של גורם הביניים )הפלטפורמה( ושל המדינה כלפי הציבור . בהעדר שקיפות , עשוי גור ים מי הביניים והמדינה להגיע להסכמות שיפגעו ב חופש הביטוי על מזבח אינטרסים כלכליים של גורם הביניים ושל המדינה . בהעדר שקיפות , חופש הביטוי וערכי יסוד נוספים עשויים להפגע , בהליך של הסכמות בין הגופ ים, יותר מחקיקה שמאזנת באופן גלוי בין חופש הביטוי וחופש הרשת לבין סכנה לחיי אדם . במהלך השולחן העגול שהתקיים באיגוד הועלתה טענה כי פלטפורמה כגון רשת חברתית אינה נייטרלית , כיוון שיש לה אינטרס בעידוד המשתמשים להעלאת עמדות שנויות במחלוקת ומעוררות מהומה , תהליך אשר מגדיל את תנועת הגולשים באתר . עמדה זו שימשה להצדקת הטלת חובה על הפלטפורמה לבצע תהליך של ניטור עצמי . טענה זו לא נבחנה עובדתית על ידי כותבי מסמך ולא הוצג לה ביסוס בדיון , אך ככל שהיא אכן קיימת הכלי לטפל בה אינו בקביעת חובת ניטור אלא במענה על השאלה האם פרקט יקה כזו מהווה סיוע לטרור , ועל כן מפירה את הקוד הפלילי בישראל . לאור כל זאת, עמדתנו היא כי חקיקת חוק ישראלי לטיפול בהסתה לטרור ברשת )כנגד ישראלים( אינו אפקטיבי , מהווה איום לפגיעה בחופש הביטוי ואינו מהווה פיתרון ראוי ורצוי. אם יש צורך בהסרת תכנים, יש לעשות את זה על דרך הצמצום, דהיינו רק במקרים מובהקים של הסתה לטרור, כדי למנוע עד כמה שניתן הסרה של תכנים לגיטימיים ופגיעה בחופש הביטוי . 13 אמצעים חלופיים לצמצום ההסתה ברשת לא ניתן למצוא פיתרון ש יהא אפקטיבי ב- 100% מהמקרים של ההסתה לטרור ברשת . עם זאת , לדעת כותבי מסמך זה , ניתן לעשות מספר דברים שיסייעו בצימצום התופעה ללא חקיקה שעשויה לפגוע בזכויות אדם : 1 . דיווח מהיר ואפקטיבי אודות תוכן מסית – אלמנט קריטי למניעת או ,ה לכל הפחות לצימצום ההסתה לטרור הוא פרק הזמן החולף עד להסרת התוכן המסית מהרשת . ניטור הרשת צריך להעשות ) ולמיטב הבנת כותבי המסמך גם מבוצע י"ע ( גורמי ביטחון ישראליים האחראים על סיכול טרור יש . לפעול ליצירת ושכלול ערוץ תקשורת אפקטיבי ומהיר שבו ייפנו גורמי ביטחון ישראליים לפלטפורמה לטיפול והסרת תוכן אשר באופן ברור וחד משמעי מסית באופן ברור ומיידי לטרור עם . זאת ח , שוב שניטור הרשת על- ידי גורמי ביטחון, ייעשה לפי החוק, תוך איזון מול זכויות יסוד כ גון חופש הביטוי ופרטיות, ועל פי נהלים והנחיות מסודר ים . יש להמנע משמירת מידע שלא לצורך על אודות משתמשי הרשת , או תיוג אוכלוסיות שלמות בלי חשד ממשי יש . לשקף לציבור באופן סדור את דבר קימו ואופן פעולתו של ערוץ תקשורת מיוחד בין גורמי הביטחון לפלטפורמות פרטיות , כמובן תוך שמירה על אינטרסים בטח ו ניים של אפקטיביות מניעתית . בכל מקרה יש , לקיים מערך ביקורת חיצוני ובלתי תלוי לממשק זה , על מנת להגן על זכויות יסוד . 2. אופ ייה המהיר והגלובלי של הרשת , ההבנה המיוחדת של התחום הטכנולוגי והחובה לשמור על אינטרנט חופשי ופתוח , מחייבים לדעתנו הקמה של הרכב בית דין מהיר ומתמחה בכל בית משפט , בדומה לבית דין לעניינים כלכליים . הרכב כזה יאפשר איזון ראוי בין חופש הביטוי , הגנת הפרטיות , הזכות למידע וכד ' ומזעור אפשרות הפגיעה באחר במסגרת זמנים התואמת את זמן הרשת . הרכב בית משפט כזה צריך להיות מאוייש ע"י שופטים בעלי הבנה ועניין בסוגיות של משפט וטכנולוגיה ולהיות מסוגל לפעול מהר מספיק כדי להתמודד עם תופעות מהירות כגון אפקט ההצתה . נבהיר כל לא כי תיק בית משפט שמוזכר ת בו המילה " אינטרנט " צריך ל עבור לטיפול של הרכב זה . כן צריכות לה ידון בו סוגיות של הסתה לטרור ברשת , המחייבות דיון מהיר והבנה טכנולוגית , תוך האיזון והמידתיות מול השמירה על חופש הרשת ועל חופש הביטוי . עם זאת , בניגוד להצעה המופיעה בתזכיר , בית משפט כזה עדיין צריך לשמור על כללי הראיות ועל סדרי דין תקינים. 14 3. מקרים ברורים של הסתה לטרור ולאלימות יוסרו גם כיום מהרשת שכן הם מנוגדים לתנאי השימוש של הפלטפורמה. עם זאת, מומלץ לפתוח במו עם מ" הפלטפורמות הגלובליות להרחבת תחולתם של תנאי השימוש של על הן תכנים נוספים שעשויים להכלל לדעת הציבור בישראל בגדר הסתה לטרור ולאלימות ואשר כיום לא נכנסים בגדר מקרים המפרים את תנאי השימוש. היה ויסוכמו תנאים כאלה, יש לשים לב כי הם מפורסמים תוך שקיפות מכסימלי ת גם של התנא ים וגם של המקרים שהוסרו בגינם .