חומר רקע

הכנסת– מרכז המחקר והמידע www.knesset.gov.il/mmm השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב :כתיבה רועי גולדשמידט :| אישור יובל וורגן :תאריך'ט ב טבת "תשפ ד , 21 ב דצמבר 2023 סקירה השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm תוכן עניינים 1. רקע ................................ ................................ ................................ ................................ .. 2 2. דיווחים על היקף השימוש בכלי בינה מלאכותית ליצירה והפצה של מידע כזב .............................. 3 3. דרכי ההתמודדות עם חדשות כזב והשימוש בכלי בינה מלאכותית ................................ ............. 5 3.1 חסימה והסרת תוכן מפלטפורמות רשת ................................ ................................ ............. 6 3.2 רגולציה.. ................................ ................................ ................................ ......................... 8 3.2.1 רגולציה ויוזמות חקיקה בחו"ל ................................ ................................ ...................... 8 טיוטת חוק הבינה ה מלאכותית ................................ ................................ ................................ . 8 3.2.2 חוק השירותים הדיגיטליים- DSA ................................ ................................ ................ 11 3.3 שאלת הצורך ברגולציה או חקיקה בישראל ................................ ................................ ...... 14 4. חינוך לאוריינות דיגיטלית ................................ ................................ ................................ ... 16 השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 1 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm תמצית מסמך זה נכתב עבור ועדת המשנה לוועדת המדע והטכנולוגיה של הכנסת לבינה מלאכותית וטכנולוגיות מתקדמות, בראשות חברת הכנסת אורית פרקש, לקראת דיון בנושא" השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל" . המסמך סוקר בקצרה את הנושא של הפצת חדשות כזב ואת חדירתם של כלי .יצירה והפצה מבוססי בינה מלאכותית והשלכות השימוש בהם :מן המסמך עולים הממצאים הבאים  זמינותם ותפוצתם הגדלה של כלי בינה מלאכותית משפיעים על הקלות היחסית ליצור חדשות או מידע כזב, ובהתאמה על היקפ ם .ההולך וגדל  עיקר השפעתם של כלי בינה מלאכותית היא בייעול והאצת היקף וקצב היצירה והפצה של תוכן ב כז, ש הופכים אות ו .למהלך שגם שחקנים קטנים יכולים לבצע ברמת אמינות גבוהה יחסית ובעלות נמוכה  הבעייתיות של מידע שגוי או מסולף גדולה במיוחד בתקופות של אירועים כמו מלחמה או בחירות בהן העומס התקשורתי גבוה במיוחד.  לפי איגוד האינטרנט, מאז החלה מלחמת "חרבות ברזל" ניתן לזהות גידול בהיקפי ההפצה של תכנים בעייתיים ,מסוגים שונים. עם זאת מרבית התוכן והמידע הכוזב שהופץ מאז ראשית המלחמה לא היה סינתטי ולא נוצר באמצעות כלי בינ ה מלאכותית.  חברות ומדינות מנסות להי אבק בחדשות כזב שנוצרו באמצעות בינה מלאכותית– בין השאר על ידי יחידות ייעודיות העושות שימוש גם .בכלי בינה מלאכותית כך למשל, ממשלת בריטניה הודיעה בשנת2022 על הקמתו של "מרכז לטכנולוגיות מפציעות ובטחון", כדי ל .אמץ כלי בינה מלאכותית למאבק בדיסאינפורמציה  פנייתנו למערך הסייבר בבקשה למידע ונתונים אודות הטיפול הממשלתי בישראל בנושא היצירה וההפצה של .חדשות כזב באמצעות כלי בינה מלאכותית, לא קיבלה מענה עד סיום כתיבת מסמך זה  לטענת מומחים, אין די בפיתוח כלים טכנולוגיים ל מאבק בתוכן סינטטי, אלא נדרש לפעול לשיפור האוריינות .הדיגיטלית של האוכלוסייה לצד פיתוח מנגנוני שקיפות ודיווח  לפי טיוטת חוק הבינה המלאכותית האירופי: מערכות בינה מלאכותית היוצרות או מבצעות מניפולציה ( Manipulates ) על תוכן כתוב, קולי או חזותי, ומציגות תוכן זה באופן שנחזה לאותנטי או אמיתי, ואשר מציגות אנשים "( הנראים או עושים דברים שהם לא אמרו או עשו, ללא הסכמתםDeep Fake )" – מחויבות לסמן באופן ברור וגלוי ,כי מדובר בתוכן שנוצר או בוצע באופן מלאכותי, וכן, ככל שניתן.את שמו של הגורם שיצר או ביצע את המניפולציה  ,לפי חוק השירותים הדיגיטליים האירופי על פלטפורמות גדולות מאוד ומנועי חיפוש גדולים מאוד ( מעל45 מיליון משתמשים בשוק האירופי), להבטיח שמידע המוצג בממשקים המקוונים שלהן, בין אם מדובר בתמונה, אודיו או ( וידאו, שנוצרgenerated ) או עבר מניפולציה ונחזה להיות אותנטי או אמיתי, יהיה ניתן לזיהו י כמידע שכזה באמצעות .סימון בולט. על הפלטפורמות לספק למקבלי השרות כלים פשוטים לזיהוי מידע כאמור השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 2 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm 1. רקע :להלן סקירה תמציתית של כמה סוגיות הניצבות ברקע לנושא הדיון  המושגים פרופגנדה, דיסאינפורמציה ו"פייק ,ניוז" משמשים לעיתים בערבוביה אך בהכללה כולם מסמנים מידה מסוימת של מניפולציה או שיבוש שיטתי של מידע. 1  ישנה "נטייה להתייחס לתפוצה של מידע וחדשות באינטרנט במונחי "ויראליות, שנתפסת כתלויה בעיקר באלגוריתמים של פלטפורמות אינטרנט המזהות העדפות אישיות וטרנדים בקבוצות באוכלוסייה,. עם זאת עדויות שונות מצביעות גם על ידיים מכוונות המשפיעות על התוכן המופץ, בין השאר באמצעות : יצירתן של ידיעות שקריות; הפצה שלהן באמצעות ישויות פיקטיביות מ רובות הנשלטות על ידי מעט גורמים; ערבוב מכוון של מסמכים אמיתיים ופיקטיביים, אמת ובדיה; והכוונה של .עיתונאים ושל הציבור אל המידע2  ניסיון של מדינות זרות או של גורמים שונים בתוך מדינות (לשם מימוש אינטרסים )מסחריים, פוליטיים או אחרים לעצב את תודע ת הציבור ולהשפיע על החלטות שלו בנושאים שונים שעל סדר היום אינן תופעה חדשה וישנן עדויות שונות על שימוש .בפרקטיקות דומות מזה שנים רבות3  זמינותם ותפוצתם הגדלה של כלי בינה מלאכותית משפיעים על הקלות היחסית ליצור חדשות או מידע כזב, ובהתאמה על היקפ ם .ההולך וגדל יישומי בינה מלאכותית יוצרת (Generative AI) מאפשרים ליצור באמצעות שאילתה קצרה, תוכן חדש – טקסטים, תמונות, סרטונים, מוזיקה ועוד ,, ובכך מקלים על יצירת תוכן סינטטי פיקטיבי שקשה ולעיתים כמעט בלתי אפשרי להבדיל בינו לבין תוכן אותנטי. כלי בינה .מלאכותית נוספים יוצרים אפשרויות הפצה חדשות של תוכן כזה4 לפי איגוד האינטרנט הישראלי, למרות שתוצרי בינה מלאכותית אכן מקלים על יצירת תוכן שקרי מסוגים 1 בעוד המושג הרחב של פרופגנדה מצוי בשימוש כבר מאז המאה ה- 17 , והמושג "דיסאינפורמציה" נטבע במהלך המלחמה הקרה בין ארצות הברית ורוסיה, המושג "פייק .ניוז" הוא חדש יחסית. עם זאת, התופעות אותן נועדו המושגים הללו להגדיר הן ככלל, לא חדשות ,"בסקירה של הפרלמנט האירופי בנושא, נטען כי בעוד "פרופגנדה היא הפצה מכוונת של מידע ורעיונות" בייחוד "בצורה מוטה או מטעה ,והיא קשורה לרוב לשכנוע פוליטי ולוחמה פסיכולוגית הרי ש"דיסאינפורמציה" היא "הונאה שיטתית ומכוונת" ומכאן כי היא ניסיון השפעה .חריף יותר European Parliament Research Service, "Understanding Disinformation and Fake News", At a Glance, November 2015, accessed: December 6, 2023. 2 " ,רועי גולדשמידט הפצ ת מידע כזב ותקיפות סייבר לשם השפעה על בחירות ", מרכז המחקר והמידע של הכנסת, אפריל2019 ; רועי " ,גולדשמידט הפצת מי דע כוזב באינטרנט ותקיפות סייבר לשם השפעה על בחירות ," ,מרכז המחקר והמידע של הכנסת יוני 7 201 . 3 .שם 4 " ,רועי גולדשמידט בינה מלאכותית יוצרת: הזדמנויות, סיכונים ורגולציה ", מרכז המח קר והמידע של הכנסת, יוני2023 . השימוש בבינה מלאכותית ליציר ה והפצה של חדשות כזב | 3 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ,שונים עיקר השפעתם של כלי בינה מלאכותית היא בייעול והאצת היקף וקצב ה יצירה ו.הפצה של תוכן כזה5  במסמ ך עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית שפרסם משרד ,החדשנות המדע והטכנולוגיה בדצמבר2023 נכתב בין השאר כי מודלים פורצי דרך( כגוןChatGPT ו- Bard ) השפיעו באופן ניכר על חיי היום יום אך מעוררים גם אתגרים חדשים ושאלות מורכבות, ו בהן: כיצד להתמו דד עם החשש משימוש בזיופים עמוקים) Deep fakes ( של וידיאו וקול לביצוע הונאות למשל, או להפצת דיסאינפורמציה ומידע כוזב ;ו כיצד להגיב לשימוש לרעה במודלי שפה, כגון ליצירה של מיילים הנחזים למהימנים במיוחד כחלק ממתקפת סייבר( ""פישיניג), או לטובת יצירת תכנים שליליים .ומסיתים6  נראה כי חדירתן של טכנולוגיות בינה מלאכותית לתחומי היצירה וההפצה של חדשות כזב מסמנת אבולוציה ולא מהפכה. עם זאת, כאמור, כלים אלה מקלים ומוזילים את היצירה ובעיקר את ההפצה של חדשות כזב ולכן הופכים אותן ממהלך שאפיין בחלקו לפחות בהכרח גופים גדולים או מדינתיים, לכזה שגם שחקנים קטנים יכולים לבצע .ברמת אמינות גבוהה יחסית ובעלות נמוכה  לטענת חוקרים בתחומי המידע, הבעייתיות של מידע שגוי או מסולף גדולה במיוחד בתקופות של אירועים כמו מלחמה או בחירות בהן העומס התקשורתי גבוה במיוחד ושומרי הסף נוטים להפיץ מידע באופ ן מהיר ללא בדיקה מעמיקה שלו טרם פרסומו. כפועל יוצא הציבור איננו "בודק את העובדות" אלא מגבש עמדות על .בסיס מידע שגוי או מבסס עמדות שהוא כבר מאמין בהן על מידע כזה הפגיעה באמון הציבור בתקשורת, בחדשות, ובמידע, היא אתגר איתו מתמודדות מדינות .דמוקרטיות רבות7 2 . די ווחים על היקף השימוש בכלי בינה מלאכותית ליצירה והפצה של מידע כזב במאמר שפורסם לאחרונה נטען כי מלחמת רוסיה- אוקראינה היא המקרה הראשון של שימוש"ב זיוף עמוק" .כחלק מלחימה עם זאת, לפי המאמר שסקר ציוצים ברשת החברתית X )(לשעבר טוויטר, חלק ניכר מן המקרים שתויגו כז יוף היו למעשה מדיה אמ י.תית8 5 עידן רינג, אסף וינר וניצן יסעור, "שימוש בבינה מלאכותית לצורך זיוף תמונות והפצת מידע כוזב במלחמת ישראל- "חמאס עזה– מענה ,לפניית מרכז המחקר והמידע של הכנסת19 בדצמבר2023 . 6 " ,משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית ", דצמבר2023 . 7 " ,רועי גולדשמידט הפצת מידע כוזב באינטרנט ותקיפות סייבר לשם השפעה על בחירות ," ,מרכז המחקר והמידע של הכנסת יוני 7 201 . 8 Twomey J. et al., "Do Deepfake Videos Undermine Our Epistemic Trust? A thematic Analysis of Tweets That Discuss Deepfakes in The Russian Invasion of Ukraine", PLOS ONE 18(10) 25th of October 2023. השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 4 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm תופעה המכונה במחקר "דיווידנ ד "השקרן(Liar's Dividend) מתארת מצב בו ריבוי המניפולציות על תוכן גורר חוסר אמון או סקפטיות כללית כלפי התוכן, ובכך פוגע דווקא בתפיסת המהימנות של מידע חדשותי אמין. בשל תופעה זו, נטען במאמר כי קיים חשש כי דווקא העלאת המודעות לתופעות של זיוף תפגע עוד יותר באמון הציבורי במדיה. לפי מחברי המאמר, תופעה זו מדגישה את מורכבות הטיפול בנושא ואת חשיבותה של יצירת אוריינות דיגיטלית ויכולת קריאה ביקורתית, לצד החשיבות בפיתוח דרכים לתיוג מדויק יותר של מידע כזה מצד ערוצי .מדיה9 במסמך גלוי שפרסמו כמה מסוכנויות הביטחו ן של ארצות הברית בספטמבר2023 , העוסק בהבנת ההקשר של איומי "זיוף עמוק" על ארגונים, נכתב כי האיומים המשמעותיים עקב שימוש לרעה במדיה סינטטית כוללים טכניקות המאיימות על המיתוג של ארגונים, חיקוי והתחזות למנהיגים א ו מנהלי כספים ושימוש בהונאות תקשורת כדי לאפשר גישה לרשתות .ארגוניות, לתקשורת ולמידע רגיש עם זאת, לפי המסמך, כיום ישנן רק אינדיקציות חלקיות .לשימוש משמעותי של שחקנים מדינתיים עוינים בטכניקות כאלה10 :בין הדוגמאות לשימושים בזיוף עמוק  בהקשר של מלחמת רוסיה-אוקרא ינה: וידאו שהופק בטכנולוגיות "זיוף עמוק" הציג את נשיא אוקראינה זלנסקי כביכול אומר לאזרחיו להיכנ ע לרוסיה; ערוצי טלוויזיה ורדיו רוסיים נפרצו והציגו סרטון "זיוף עמוק" של נשיא רוסיה, פוטין המכריז כביכול על ממשל .צבאי בשל פלישה של אוקראינה לרוסיה  במאי2023 הופ צה תמונה שנוצרה באמצעות תוכנת בינה מלאכותית (לפי המסמך בשל טעות מערכת) של פיצוץ סמוך לפנטגון. הפצת התמונה גרמה לבלבול וגררה .אנדרלמוסיה גם בשוק המניות  במסמך עקרונות מדיניות בינה מלאכותית שפרסם לפני ימים ספורים משרד ,החדשנות המדע והטכנולוגיה, מוזכר מקרה דומ ה של פרסום מזויף מ- 2013 כי ,התרחש פיצוץ בבית הלבן ובעטיו צנחו מדדי המסחר בבורסה בארה"ב. לפי המסמך השימוש במערכות מסחר אוטונומיות מבוססות בינה מלאכותית (אלגו- טריידינג) היא .בין הגורמים לתגובה המיידית למידע הכוזב11 בהקשר הישראלי, לפי איגוד האינטרנט מאז החלה מ לחמת "חרבות ברזל" ניתן לזהות גידול בהיקפי ההפצה של תכנים בעייתיים מסוגים שונים (בהם: עידוד טרור, ידיעות שקריות נגד 9 .שם 10 NSA, FBI, CIS. "Contextualizing Deepfake Threats to Organizations", September 2023. 11 משרד החדשנות, המדע והטכנולוגיה ומשרד המש" ,פטים עקרונות מדיניות, רגולציה ואתיקה בתחום הבינה המלאכותית ", דצמבר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 5 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ;קבוצות מיעוט; תאוריות קונספירציה ;תכנים כוזבים ומסיתים ומתקפות סייבר ופישינג). עם ,זאת מרבית התוכן והמידע הכוזב שהופץ מאז ראשית המלחמה לא הי ה סינתטי ולא נוצר באמצעות כלי בינה מלאכותית , אלא תוכן מוטעה או שקרי שהתבסס על שימוש בתמונות או .סרטונים שצולמו בעבר בהקשר ובמועד אחר והופצו בעת הזו, כדי לקדם נרטיבים שקריים12 ,למרות ההיקף המוגבל של הפצת מידע כזב מבוסס בינה מלאכותית בעת מלחמת חרבות ברזל דוג מה בולטת לכך הייתה שימוש של העיתון צרפתיLiberation בתמונת שער של תינוקת בין הריסות בניינים בעזה– .שהתבססה על תמונה סינטטית שהופקה באמצעות בינה מלאכותית13 3 . דרכי ההתמודדות עם חדשות כזב והשימוש בכלי בינה מלאכותית כאמור לעיל, למרות שחדשות כזב אינן תופעה חדשה, כלי בינה מלאכותית מקלים על יצירה והפצה של תוכן חזותי, קולי או טקסטואלי, שהוא שקרי או סינטטי. בדומה לתחומים נוספים בהם נוצרת מעין תחרות בין השימוש לרעה בטכנולוגיות לבין הניסיונות לרתום אותן טכנולוגיות להתמודדות עם שימוש לרעה זה, גם בהקשר לנושא הנדון נעשים ניסיונות שונים, של חברות ושל מדינות, להילחם בחדשות כזב שנוצרו באמצעות בינה מלאכותית– על ידי יחידות ייעודיות .העושות שימוש בין היתר בכלי בינה מלאכותית ,כך למשל ממשלת בריטניה הודיעה בשנת2022 על הקמתו של "מרכז ל טכנולוגיות מפציעות ובטחון", כדי לאמץ כלי בינה מלאכותית למאבק בדיסאינפורמציה . שבדיה הקימה ב- 2022 את "הסוכנות להגנה פסיכולוגית " במטרה לזהות, לנתח ולהגיב על מאמצי .דיסאינפורמציה המכוונים כלפי שבדיה והאינטרסים שלה14 בהקשר זה יצוין כי מערך הסייבר הלאומי פרסם באו קטובר2023 קול קורא להקמת "קבוצת עבודה לסיוע בהתמודדות עם בחינת ."אימות פייק ניוז מהותיים ברשת הנוגעים לתקופת הלחימה15 עוד יצוין כי פנייתנו למערך הסייבר בבקשה למידע ונתונים אודות הטיפול הממשלתי ב נושא ה יצירה ו ה הפצה של חדשות כזב באמצעות כלי בינה מלאכותית, לא .קיבלה מענה עד סיום כתיבת מסמך זה לטענת מומחים, ככל שהטכנולוגיות שמאפשרות לבצע מניפולציות לקטעי וידאו או תוכן אחר תשתפר, כך יהיה קשה יותר לכלים טכנולוגיים לזהות מניפולציות כאלה. בנוסף, לטענתם, ניטור וידאו הכולל דיסאינפורמציה או מידע מוטעה באמצעות כלים טכנ ולוגיים הוא קשה עוד יותר מעצם הזיהוי של מניפולציה טכנולוגית בווידא ו ,ולכן לטענתם אין די בפיתוח כלים טכנולוגיים 12 עידן רינג, אסף וינר וניצן יסעור, "שימוש בבינה מלאכותית לצורך זיוף תמונות והפצת מידע כוזב במלחמת ישראל- "חמאס עזה– מענה ,לפניית מרכז המחקר והמידע של הכנסת19 בדצמבר2023 . 13 " ,יעל רם ולירן ענתבי 'דיפ פייק במלחמת 'חרבות ברזל– מאבק על דעת הקהל ," INSS ,מבט על1779 , 2 בנובמבר2023 . 14 Jordan Hill, "Policy Responses to False and Misleading Digital Content: A Snapshot of Children's media Literacy", OECD working paper No. 275. 15 " ,מערך הסייבר הלאומי קול קורא- יחד ננצח את הפייק ניוז ," 10 לאוקטובר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 6 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm אלא נדרש לפעול לשיפור האוריינות הדיגיטלית של האוכלוסייה לצד פיתוח מנגנוני שקיפות .ודיווח16 בהכללה, נראה כי ניתן לסמן שלושה כיוונים עיקריים להתמודדות עם חדשות כזב מבוסס ות :בינה מלאכותית  ;חסימה או הסרה של תוכן כזה  חינוך לאוריינות דיגיטלית שיסייע לאוכלוסייה לזהות חדשות כזב מסוגים שונים ;ולצרוך תוכן באופן ביקורתי  רגולציה וחקיקה במטרה להגביל את התפוצה שלהן, לסמן תוכן מבוסס בינה מלאכותית, ולקבוע כללים בדבר אחריותן של פלטפורמות על תוכן המופץ על .גביהן 3.1 חסימה והסרת תוכן מפלטפורמות רשת למרות שהסרת תכנים איננה קשורה בהכרח להפצת מידע כזב תוך שימוש בכלי בינה מלאכותית (למעט במקרים בהם ההסרה נעשית באמצעות כלי בינה מלאכותית), כיוון שהסרה של תוכן דיגיטלי כו ,זב או מטעה היא אחד מן הכלים האפקטיביים לצמצום התפוצה של תוכן כזה .להלן נציג בקצרה התייחסות להסרת תכנים וחסימתם לפי מסמך קודם של מרכז המחקר והמידע של הכנסת, הרשתות החברתיות מתנהלות כמרחבים כמעט אוטונומיים הנתונים לכללים המוכתבים על ידי בעלי השליטה בהן באמצעות תנאי השימוש וכללי הקהילה שלהן, ועם הבדלים ברמת השקיפות וברמת ההשפעה של .משתמשים פרטיים או מסחריים על המתרחש בהן בנוסף, רוב חברות המדיה החברתית שנסקרו במסמך ,ציינו כי הן משתמשות במנגנוני ניטור "אוטומטיים" או מבוססי בינה מלאכותית לצד השימוש בבודקים א.נושיים17 לפי סקירה של הלשכה המשפטית של הכנסת משנת2021 , אין כיום בישראל חקיקה המסדירה את הסרתם של תכנים אסורים (שלא אגב הליך משפטי אזרחי אחר, כגון תביעת לשון הרע) או של .תנאי השירות של הרשתות החברתיות והאופן שבו יש ליישמם 18 ,עם זאת,לפי המסמך התקבעה בפסיקת בתי המשפט בישראל פרקטיקה של יישום מנגנון "הודעה והסרה" בכל הנוגע .לתכנים פוגעניים המופצים ברשתות החברתיות כמו כן , ועדת ארבל שדנה בנושא המליצה 16 Edmund L. Andrews, "Using AI to Detect Seemingly Perfect Deep-Fake Videos", Stanford University, HAI. 17 " ,רועי גולדשמידט מדיניות הסרת תכנים ברשתות חברתיות: תמונת מצב ," 1 ביוני2021 . 18 " ,ירון אונגר הסדרת ההסרה של תכנים ברשתות חברתיות– סקירה משווה ,", הלשכה המשפטית, תחום חקיקה ומשפט משווה, הכנסת 20 במרץ2021 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 7 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm להסדיר :בחקיקה כמה מנגנונים להסרת תכנים1 . ;"הודעה והסרה" בכפוף לתלונה2. הסרה או הגבלת גישה על פי בקשת גורם ממשל ;תי3. .הסרה מכוח צו שיפוטי לבקשת הנפגע19 כפי שעלה גם מדיון בוועדת החוקה, חוק ומשפט של הכנסת שנערך לאחרונה, הגורם הממשלתי המרכזי העוסק בהסרה של תכנים פוגעניים דוגמת תכני טרור מרשתות חברתיות או מהאינטרנט, הוא מחלקת הסייבר בפרקליטות המדינה. הבקשות נעשות באופן מתואם אך בבסיסן הן "אכיפה וול ו נטרית" כלומר, הן מתבססות על הכרות ויצירת מוקד פניות מרכזי לרשתות החברתיות ,מצד הממשלה. הבקשות שמגישה מחלקת הסייבר להסרת תכני הסתה :עידוד לטרור וכדומה מפלטפורמות הרשת הפופולריות נעשות בשל אחת משתי עילות עיקריות 1 ;. התוכן מפר את החוק בישראל2 . התוכן מפר את "כללי הקהילה" או "תנאי השימוש" של הפלטפורמות. יצוין כי מחלקת הסייבר של הפרק ליטות איננה עוסקת בניטור תוכן ברשת אלא מופנה אליה תוכן בעייתי על ידי גורמי ממשלה אחרים בהם: צה"ל, שב"כ, המשרד לביטחון .לאומי, משטרת ישראל, מערך הסייבר ועוד באשר להפצה של דיסאינפורמציה או מידע מוטעה, לפי מנהל מחלקת הסייבר ,בפרקליטות ,ד"ר חיים ויסמונסקי המד ינה מוגבלת מבחינת מקור הסמכות שלה לפעול ,ביחס לנושאים אלה ו ככל שהדיסאינפורמציה המדוברת איננה מאמץ מתואם, לדבריו ,הנושא לא מטופל על ידי רשויות המדינה אלא.על ידי גופי מגזר שלישי במקרים שגופי הממשלה מזהים שימוש בבוטים או בחשבונות לא אותנטיים המהווים "פעילות לא אותנטית מתואמת" – Coordinated Inauthentic Behavior , קיימת לדבריו .פעילות ממשלתית לטיפול בנושא20 עוד לדברי ד"ר ויסמונסקי, מנהל מחלקת הסייבר של פרקליטות המדינה, המחלקה איננה עוסקת במישרין בניטור תכנים בלתי חוקיים או במחקר ביחס לתכנים אסורים ברשת, אך הם ע .דים לעלייה בהיקף התכנים הקוראים לביצוע מעשי טרור ולהפצה של מידע כוזב או מטעה לדבריו, אין לו נתונים באשר להיקפי השימוש בבינה מלאכותית ליצירה או הפצה של מידע כזב .שכן הם אינם מאפיינים את התוכן לפי צורת היצירה או ההפצה שלו21 במאמר הסוקר את השימוש של פרקליטות המדינה באכיפה אלטרנטיבית של עבירות ביטוי ,באמצעות פלטפורמות הרשת הגדולות מציעות המחברות :בין השאר לחייב את המדינה לפרסם את נ ו הלי הפעולה של יחידת הסייבר בהיבטים אלה, לתעד את הפניות, לקבוע נ ו הלי 19 .שם 20 הכנסת ה- 25 ', ועדת החוקה, חוק ומשפט של הכנסת , פרוטוקול מס158 " , הפצת חדשות כזב ותכנים מסיתים ברשתות החברתיות על ידי גורמים עוינים" . 21 ,ד"ר חיים ויסמונסקי, עו"ד, מנהל מחלקת הסייבר, פרקליטות המדינה, דוא"ל מענה לפניית מרכז המחקר והמידע של הכנסת17 בדצמבר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 8 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ערעור ולדווח לכנסת; ו לחייב את הפלטפורמות להגביר את השקיפות של פעולתן בעניין סינון והסרה של תוכן. בין השאר מוצע לעגן בחקיקה את חובת הדיווח של פלטפורמות ואתרים בעלי אופי ציבורי ו לבחון דרישה מהפלטפורמות לספק הסבר לא רק על התוכן שסונן אלא גם על הכלים המסייעים בהחלטה, .ובפרט מנגנונים מבוססי בינה מלאכותית בעניין מערכות בינה מלאכותית מוצע ל דרוש מן הפלטפורמות ל שפר את ההסברים הניתנים ואת השקיפות של .המידע המוזן למערכות ושל שיקולי המדיניות שבבסיסן22 יצוין כי במסגרת מסמך זה ,ומפאת מגבלות זמן לא סקרנו את תנאי השימוש ברשתות החברתיות השונות, בכל הנוגע לאזכור מפורש של מידע כזב וב ינה מלאכותית. במענה של חברת גוגל לפנייתנו בנושא, ציינה החברה כי תציג את הכלים והמדיניות הרלוונטיים לנושא בדיון הוועדה, וכי אין בידיה נתונים ספציפיים בנושא תפוצת מידע כזב בהקשר של בינה מלאכותית סביב אירועי השבעה באוקטובר. עוד הפנתה החברה לכללי המדיניות בנוש א מידע מוטעה של )פלטפורמת יוטיוב (שבבעלות גוגל 23 :, בה מצוין בין היתר כי אין לפרסם  תוכן שעבר שינוי ועיבוד : תוכן שעבר שינויים או עריכה באמצעים טכניים כדי להטעות משתמשים, ושעלול להוות סיכון רציני לנזק חמור. בדרך כלל מדובר על שינויים שהם מעבר ל קליפים שהוצאו מה.קשרם  תוכן מועתק שאינו מקורי : תוכן שעלול להוות סיכון רציני לנזק חמור כתוצאה מטענה .כוזבת, שלפיה קטע וידאו ישן מאירוע שהתקיים בעבר הוא למעשה מאירוע נוכחי 3.2 רגולציה 3.2.1 רגולציה ויוזמות חקיקה בחו"ל24 שני הסדרי חקיקה אירופאיים עדכניים מתייחסים, בין השאר, לנושא השימ וש בבינה מלאכותית "ליצירה או הפצה של חדשות כזב: טיוטת "חוק הבינה המלאכותית(AI Act) – המצויה בשלבי ניסוח ואישור מתקדמים; וחוק השירותים הדיגיטליים(DSA) . טיוטת חוק הבינה המלאכותית באפריל2021 ( , הציגה הנציבות האירופיתEuropean Commission ) – שהיא הגוף האחראי, בין השאר, ליזום חקיקה חדשה עבור האיחוד האירופי ולהביאה לאישורם של הפרלמנט האירופי 22 דלית קן— דרור פלדמן וניבה אלקין קורן, "שקיפות פעולות המדינה בסיבה הדיגיטלית: 'אכיפה אלטרנטיבית' של עבירות ביטוי באמצעות ,"ענקיות הרשת המשפט ,, כ"ה2020 , 54-27 . 23 ,ליאת גלזר, מנהלת מדיניות וקשרי ממשל, גוגל ישראל, דוא"ל מענה לפניית מרכז המחקר והמידע של הכנסת21 בדצמבר2023 . ראו " גם את כללי המדיניות של בנושא מידע מוטעה ." שמפרסמת גוגל ביחס לשירות יוטיוב 24 פרק זה נכתב יחד עם .עו"ד עדי כהן אהרונוב מצוות המחקר המשפטי המשווה במרכז המחקר והמידע של הכנסת השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 9 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ( European Parliament ( ) ושל מועצת האיחוד האירופיCouncil of the European Union ) – את טיוטת חוק הבינה המלאכותית ( EU AI Act .) הצעת חוק זו, שטרם אושרה סופית א ך מצויה בהליכי חקיקה מתקדמים, נועדה להסדיר את השימושים בבינה מלאכותית ברחבי האיחוד האירופי והיא נחשבת לחקיקה המקיפה הראשונה מסוגה בתחום זה בעולם. על פי הפרלמנט האירופי, האסדרה של הבינה המלאכותית נועדה להבטיח תנאים טובים יותר לפיתוחה של טכנולוגיה חדשנית זו ולשימושים בה ולהביא לכך ,שמערכות בינה מלאכותית הנמצאות בשוק או שנעשה בהן שימוש באיחוד האירופי יהיו בטוחות .שקופות, ניתנות למעקב, לא מפלות וידידותיות לסביבה בנוסף, הצעת חוק הבינה המלאכותית שואפת להשיג כמה יעדים ספציפיים: להבטיח שמערכות בינה מלאכותית ה נמצאות בשוק ברחבי האיחוד האירופי יהיו בטוחות ו יכבדו את חוקי האיחוד האירופי ;להבטיח ודאות משפטית כדי להקל על השקעה וחדשנות בבינה מלאכותית; לשפר את המ שילות והאכיפה ה יעילה של חוקי האיחוד האירופי בכל הנוגע ל זכויות יסוד ודרישות בטיחות ש חלות על מערכות בינה מלאכותית; ו להקל על פיתוח שוק יחיד ליישומי ם חוקיים, בטוחים ומהימנים של בינה מלאכותית ולמנוע פיצול שוק. עקרונות החקיקה ,לפי הסקירה של הפרלמנט האירופי טיוטת החוק מגדירה גישה מבוססת סיכון, לפיה כללי הרגולציה והחובות מתוקפם יהיו רבים יותר ככל שמידת הסיכון של מערכת הבינה המלאכותית גדולה יותר . החוק המוצע מבחין בין:ארבע רמות סיכון  "סיכון בלתי מתקבל על הדעת " – ( מערכות אסורות בשימוש בהן: מערכות המשתמשות במסרים מניפולטיביים או תת-הכרתיי,ם מנצלות בני אדם או משמשות "ל"דירוג חברתי (social Scoring) לפי התנהגויות, מצב כלכלי- חברתי ועוד .  "סיכון גבוה" – מערכות שיש להן השפעה על בטיחותם של אנשים או על זכויות היסוד שלהם (בהן: מערכות אכיפת חוק, מערכות זיהוי ביומטרי ומיון של אנשים) יהיו חייבות בחובות שונות בהן: רישום במאגר מידע אירופי; בחינת עמידתן בכללי בטיחות, מבדקי עמידות טכנית, בחינת תהליכי אימון המערכת, כללי שקיפות, פיקוח אנושי, בטחון ;סייבר ועוד  "סיכון "מוגבל– ;מערכות שיש בהן סיכון מסוים בלבד ובעטיו הן חייבות בשקיפות  " "סיכון נמוך/מינימלי– .מערכות שהשימוש בהן אינו מטיל חובות25 25 Tambiama Madiega, "Artificial intelligence act – Briefing", EPRS. June 2023. השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 10 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ,לפי הסקירה מערכות המתקשרות עם בני אדם כגון "צ'ט-בוט;" מערכות היוצרות או משנות תמונות, תוכן קולי או חזותי (המכונה גם זיוף עמוק- deep fake ) – נחשבות מערכות בסיכון מוגבל ו יחויבו בחובות שקיפות מסוימות .)(ראו פירוט להלן עוד לפי הסקירה, חברות המפתחות מודלי בסיס) Foundation Model ( 26 יצטרכו לוודא כי הן מגינות היט ב על זכויות יסוד, בריאות, בטיחות, סביבה, דמוקרטיה ושלטון החוק. הן יידרשו להעריך ולמתן את הסיכון הנלווה למודלים שלהן, לעמוד בחובות הנוגעות לעיצוב, למידע .ולסביבת העבודה ולרשום את המודלים במאגר של האיחוד האירופי מודלי שפה גדולים ) LLM's ( 27 המשמשים ליצירת אמנות, מוזיקה ותוכן אחר יחויבו בדרישות שקיפות מחמירו ת ומפורטות ובין השאר יהיו חייבים לסמן בצורה ברורה שהתוכן נוצר באמצעות בינה מלאכותית ולא בידי אדם ולאמן את המודלים כדי למנוע יצירה של .תוכן לא חוקי בנוסף, מערכות בינה מלאכותית המשמשות להשפעה על בוחרים בקמ פיינים פוליטיים ומערכות בינה מלאכותית המשמשות למערכות המלצה) recommender systems ( 28 המוצגות ברשתות חברתיות מוגדרות לפי חוק השירותים הדיגיטליים– DSA –כפלטפורמות רשת גדולות מאוד שלהן יותר מ- 45 מיליון משתמשים באירופה, יוגדרו כמערכות בסיכון גבוה (ולא כאמור לעי ל .)כמערכות עם סיכון מוגבל פירוט סעיפי הצעת החוק הנוגעים לנושא הדיון סעיף52 ( "לטיוטת החוק, שכותרתו "חובות שקיפותTransparency obligations ), קובע דרישות שקיפות בנוגע למערכות בינה מלאכותית המבצעות מניפולציה על תכנים מסוגים שונים ובנוגע למערכות המתקשרות עם בני אדם )(כגון צ'ט בוט . בהתאם לסעיף קטן3 ( , מערכות בינה מלאכותית היוצרות או מבצעות מניפולציהManipulates ) על תוכן כתוב, קולי או חזותי, ומציגות תוכן זה באופן שנחזה לאותנטי או אמיתי, ואשר מציגות אנשים הנראים או עושים דברים שהם לא אמרו או עשו, ללא הסכמתם"( Deep Fake "), מחויבות לגלות באופן ברור וגלוי כי מדובר בתוכן שנוצר או בוצע באופן מלאכותי, וכן, ככל שניתן, את שמו .של הגורם שיצר או ביצע את המניפולציה חובת הגילוי משמעה חובה לסמן בצורה ברורה .ונראית לעין כי מדובר בתוכן לא אותנטי 26 מודל בסיס הוא מודל המאומן על מידע בהיקף עצום ובתחומים שונים ומסוגל באמצעות למידה עצמית של המערכת לבצע משימות .שונות. המונח מתאר את המעבר ממודלים ליישומים ספציפיים למודלים חזקים וגדולים המסוגלים לבצע מגוון משימות 27 מודלי שפה גדולים הם מודלים המוזנים בכמויות גדולות של מידע לא מתויג, מאומנים לנתח אותו ומסוגלים להשתמש בו כדי לבצע משימות שונות שלא .אומנו להן באופן ספציפי וכך ליישם ידע בהקשרים שונים. מודלי שפה גדולים הם סוג ספציפי של מודלי בסיס 28 מערכות המלצה הם אלגוריתמים ממחושבים המאפשרים בהתבסס על מידע אודות משתמש ספציפי ומידע רב על שתמשים אחרים להציע לו מוצרים או שירותים המותאמים אישית לצרכיו, ד .רישותיו או העדפותיו השימוש בבינה מלאכותית לי צירה והפצה של חדשות כזב | 11 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm סעיף קטן3 לא יחול כאשר מדו בר במערכות המורשות על פי חוק ליצור או לבצע מניפולציה בתוכן כתוב, קולי או חזותי, או אם הדבר דרוש לשם מימוש הזכות לחופש הביטוי והזכות לחופש אומנותי, בכפוף להגנת זכויותיהם וחירויותיהם של צדדים שלישיים. כאשר התוכן מהווה חלק ,מיצירה קולנועית, סאטירית, אומנותית בדיוניות וכדומה, חובות השקיפות מוגבלות לגילוי כי מדובר בתוכן שנוצר או עבר מניפולציה, באופן שאינו פוגע בהצגת היצירה או חושף את זכויות .היוצרים אין באמור כדי למנוע מרשויות אכיפת החוק מלעשות שימוש במערכות בינה מלאכותית שנועדו לזהות"deep fake", לאתר, למנוע ו.לחקור עבירות פליליות הקשורות לשימוש בו בהתאם לסעיףb 3, הגילוי הנדרש בסעיף 52 ייעשה לכל המאוחר במועד האינטראקציה או .החשיפה הראשונה ויהיה נגיש לאנשים עם מוגבלויות או ילדים בנוגע למערכות בינה מלאכותית המתקשרות עם בני אדם– בהתאם לסעיף קטן1 לסעיף52 , ( ספקProvider ( ) או משתמשUser ) מחויבים ליידע באופן ברור ומובן את מי שנחשף למערכת בינה מלאכותית, כי הוא מקיים אינטראקציה עם בינה מלאכותית, אלא אם הדבר עולה בבירור מנסיבות והקשר השימוש. במקרים בהם הדבר רלוונטי, הגיל :וי יכלול מידע בנוגע לפרטים אלה אלו פונקציות משתמשות בכלי בינה מלאכותית (which functions are AI enabled) ; האם מתבצע פיקוח אנושי ומיהו הגורם האחראי לקבלת החלטות ; האפשרות להתנגד ליישום של מערכות אלה והאפשרות לבקש סעד שיפוטי במקרה של נזקים הנגרמים על ידי מערכ ות בינה .מלאכותית חובת גילוי זו לא תחול על מערכות בינה מלאכותית המותרות על פי חוק לצורך איתור, מניעה וחקירה של עבירות פליליות, לרבות העמדה לדין, אלא אם מדובר במערכות הזמינות לציבור .לשם דיווח על עבירות פליליות 3.2.2 חוק השירותים הדיגיטליים- 29 DSA לפי סקירה של איגוד האינטרנט הישראלי, חוק השירותים הדיגיטליים האירופי נועד להתמודד עם פערי כוחות בין המשתמשים לפלטפורמות המקוונות; לשפר את הטיפול בתוכן לא חוקי– ובכללו גם דיסאינפורמציה; וליצור אחידות רגולטורית שתגדיר כללים קבועים במדינות האיחוד האירופי. בכ ,ך החוק נועד לצמצם את השונות בטיפול במקרים דומים במדינות שונות באירופה .ולשפר את הוודאות הן עבור החברות והן עבור גופי הפיקוח של הרשויות למרות שנראה כי חוק השירותים הדיגיטליים כולל התייחסות מעטה בלבד לנושא של מידע או חדשות כזב ושימוש בכלי בינה מלאכותית ליצי רה או הפצה שלהם, מעצם העובדה כי הוא מגדיר 29 ,אסף וינר, עדו אילי ואסף ניאזוב ,איגוד האינטרנט "מודל ה- Digital Services Act לרגולציה של שירותים מקוונים– סקירה מתעדכנת ," 4 בספטמבר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 12 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm סטנדרטים, כללים וחובות שונות של דיווח, שקיפות ועוד, הרי שהוא יכול לסייע הן בהבנת היקפי .התוכן המזויף, והן בפיתוח מנגנונים להתמודדות וצמצום שלו :החוק מתייחס לקטגוריות שונות ומחיל עליהן חובות שונות: הקטיגוריות כוללות שירותי תיווך ברמת התשתית (כגון: ספקי אינטרנט– ISP's ;)שירותי אירוח (בהם שירותי ענן ושירותי אחסון ;)אתרים פלטפורמות אינטרנט ;)(כגון: חנות אפליקציות או מדיה חברתית פלטפורמות אינטרנט גדולות מאוד ומנועי חיפוש גדולים מאוד - שלהן יותר מ- 45 מיליוני משתמשים .באירופה השונות בין החובות החלות על כל קטגוריה קשורות הן לסוג השירות שהן מספקות (ולכמה הוא קשור או יכול להשפיע על התוכן עצמו) והן לגודל שלהן– כאשר בפרט ביחס לפלטפורמות ישנן חובות מוגברות על חברות גדולות מאודVLOP) ) - הן בשל השפעתן הרבה והן בשל יכולתן המוג.ברת לעמוד בחובות רגולציה נרחבות בלי שהדבר יפגע ביכולתן לפעול ,לפי הסקירה כלל סוגי השירותים חייבים : בשיתוף פעולה עם רשויות לאומיות בהתאם לקבלת ;)צווים; באספקת נקודת קשר דיגיטלית לרשויות ולאזרחים (שלא תהיה אוטומטית לגמרי בהצגת תנאי השירות ובשמירה על זכויות המשתמשים ובחובת דיווח ושקיפות על פעילות ניהול .)התוכן (חברות קטנות פטורות פלטפורמות גדולות מאוד ומנועי חיפוש חייבות גם לבצע( ניהול סיכונים סעיף 34 ) ובכללו הן :נדרשות לזהות, לנתח ולהעריך, לפחות אחת לשנה, כל סיכון מערכתי משמעותי הנובע מהשימוש בשירותיהם. על פי החקיקה, הסיכונים המערכתיים אשר על פלטפורמות גדולות :מאוד מוטלת החובה לאתר ולמנוע  ;הפצה של תוכן בלתי חוקי באמצעות שירותיהן  כל פגיעה או השפעה שלילית על מימוש זכויות היסוד לכבוד ול חיי משפחה, מידע אישי, חופש הביטוי והמידע כולל החופש לתקשורת חופשית ,ומגוונת, איסור אפליה זכויות צרכן וזכויות הילד.  השפעה שלילית ממשית או עתידית על ההגנה על בריאות הציבור, קטינים, שיח אזרחי, אלימות מגדרית, בריאות גופנית ופיזית של בודדים, תהליכי בחירות וביטחון הציבור. בעת ביצוע ניהול הסיכונים, על פלטפורמות גדולות מאוד לבחון :את מערכות ההמלצה והאלגוריתמים ,שלהן, מערכות ניהול התוכן שלהן, תנאי השירות ופעולות הקשורות לאיסוף .עיבוד או העברה של מידע אישי בכלל הפעולות המוזכרות לעיל, הפלטפורמות מחויבות לבחון את ההשפעה של מניפולציה מכוונת של השירות, באמצעות שימוש לא אותנטי או ניצול א וטומטי של השירות , כמו גם של הפצה מהירה ורחבת היקף של תוכן בלתי חוקי ושל מידע שאינו תואם את תנאי השימוש שלהן. השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 13 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm טיפול בסיכונים(סעיף 35 :) פלטפורמות גדולות מאוד א ו מנועי חיפוש ג וד לים מאוד מחויב ים להפעיל אמצעים אשר יטפלו בסיכונים אלו ובו זמנית יהיו סבירים, מידתיים ויעילים, ומותאמים .לסיכונים שזוהו בסעיף הקודם בכלל זאת קובע סעיף קטן1(k) כי על הפלטפורמות להבטיח שמידע המוצג בממשקים המקוונים שלהן, בין אם מדובר בתמונה, אודיו או וידאו, שנוצר ( generated ) או עבר מניפולציה ונחזה להיות אותנטי או אמיתי, יהיה ניתן לזיהוי כמידע שכזה באמצעות סימון בולט. על הפלטפורמות לספק למקבלי השרות כלים פשוטים לזיהוי מידע ( כאמור. כמו כן קובע סעיף קטן(c 1, כי על הפלטפורמות לבצע התאמה של תהליכי ניהול התו ,כן לרבות עיבוד מהיר של תוכן בלתי חוקי, ובמידת הצורך, לבצע הסרה מהירה או השבתת גישה .לתוכן שכזה, בפרט כאשר מדובר בדברי שטנה או אלימות ברשת מנגנון תגובת חירום (סעיף36 ) : בעת תקופת משבר (נסיבות חריגות ש מובילות לאיום חמור על ביטחון הציבור או בריאות הציבור בא יחוד או בחלקים משמעותיים ממנו) הנציבות יכולה לאמץ החלטה, המחייבת פלטפורמות גדולות מאוד או מנועי חיפוש גדולים מאוד ל נקוט ב אחת :או כמה מהפעולות הבאות לבדוק כיצד הפעולות והשימוש בפלטפורמה תורמים למשבר ; ,לזהות וליישם אמצעים ספציפיים, יעילים ומידתיים, כדי למנוע להעלים או להגביל כל תרומה כזו לאיום החמור שזוהה ; לדווח לנציבות האם זוהתה תרומה למצב המשבר ומה האמצעים .שננקטו30 כמו כן, כפי שעולה מסעיף103 למבוא של החוק, הנציבות האירופית והמועצה האירופית ( לשירותים דיגיטלייםEuropean Board for Digital Services) צריכות לע ודד יצירת כללי ( התנהגותcodes of conduct) וולונטריים, על מנת לתרום ליישום הוראות החוק . סעיף104 מתייחס לעניינים אותם יש להסדיר במסגרת אותם כללי ההתנהגות, ובפרט כלים לצמצום סיכונים הנוגעים לתוכן בלתי חוקי. מצוין כי יש להביא בחשבון את ההשפעות השליליות ( האפשריות של סיכונים מערכתייםsystemic risks ) על החברה והדמוקרטיה, כגון .דיסאינפורמציה או פעילויות פוגעניות ומניפולציות, כמו גם השפעות שליליות על קטינים סיכונים אלה כוללים פעולות מתואמות שמטרתן להעצים מידע, לרבות דיסאינפורמציה, כגון שימוש בבוטים או בחשבונו ,)ת מזויפים לשם יצירת מידע לא מדויק או מטעה (באופן מכוון .לעיתים במטרה להשיג רווח כלכלי, אשר מזיקים מאוד למקבלי השירות, כמו למשל קטינים ביחס לעניינים אלה מצוין, כי כאשר מדובר בפלטפורמה מקוונת גדולה מאוד או במנוע חיפוש מקוון גדול מאוד, קיומם של כללי התנהגות .עשוי להיחשב כאמצעי הולם להפחתת סיכונים סירוב של ספק פלטפורמה מקוונת או של מנוע חיפוש מקוון לקחת חלק ביישום של כללי 30 עוד יצוין בהקשר זה, כי כעולה מסעיף108 למבוא של ה חוק, לצד מנגנון תגובת חירום עבור פלטפורמות מקוונות גדולות מאוד ומנועי חיפוש מקוונים גדולים מאוד, הנציבות האירופית עשויה ליזום ניסוח של פרוטוקולים לעתות משבר, לשם תיאום תגובה מהירה, קולקט יבית וחוצה גבולות בסביבה המקוונת. כך למשל, במצבים בהם פלטפורמות מקוונות מנוצלות לרעה לצורך הפצה מהירה של תוכן לא חוקי או ,דיסאינפורמציה, או מנגד, במצבים בהם מתעורר צורך בהפצה מהירה של מידע מהימן. פרוטוקולים כאמור יופעלו למשך פרק זמן מוגבל ויפרטו מהם האמצעי ם בהם יש לנקוט לצורך טיפול בנסיבות יוצאות הדופן (ולא יטילו על הפלטפורמות חובה כללית לפיקוח וחיפוש .)אקטיבי של תוכן בלתי חוקי השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 14 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm התנהגות כאמור, ללא מתן נימוקים הולמים, עשוי להילקח בחשבון, במידת הצורך, בעת קביעה אם הללו הפרו את החובות הקבועות בחוק (ואולם אין בעצם קיומם ,של כללי התנהגות ויישומם .)כשלעצמם, כדי להצביע על עמידה בהוראות החוק למרות שלא סקרנו במסגרת זו חקיקה במדינות נוספות, יצוין כי בצו נשיאותי של נשיא ארצות הברית ביידן בנושא בינה מלאכותית מאוקטובר2023 נקבע בין השאר כי משרד המסחר של ( ארה"בDepartment of Commerce ) יפתח הנחיות, כללים וכלים לבדיקת אותנטיות של ( תוכן ולסימוןwatermarking .) של תוכן שהופק באמצעות בינה מלאכותית כלים אלה ישמשו את אזרחי ארה"ב כדי לוודא שתקשורת שהם מקבלים מהממשלה היא אמ י תית )(אותנטית וישמשו דוגמא למגזר הפרטי ולממשלות ברחבי העולם. 31 3.3 שאלת הצורך ברגולציה או חקיקה בישראל ההכרה בהשפעות ו ב השלכות של השימוש ברשתות החברתיות:על היבטים כגון ,חופש הביטוי פרטיות המשתמשים, הפצה של מידע כזב, הסתה ועידוד לאלימות , ,בריונות רשת ותוכן פוגעני הפכו את הדיון מצד רגולטורים ברחבי העולם לערני במיוחד, ולקריאות למעורבות ממוסדת בפעילותן של ענקיות הרשת ו ל.הגבלת כוחן חוק השירותים הדיגיטליים האירופי שהוזכר לעיל .הוא דוגמה עדכנית ומובהקת לכך לטענת נציגי איגוד האינטרנט , בישראל "תמונת המצב של הפיקוח והרגולציה על הסיכונים החברתיים של פלטפורמות תוכן ורשתות חברת."יות גלובליות איננה חיובית לשיטתם, ריבוי הגורמים העוסקים בנושא בהם: מערך הסייבר הלאומי, משטרת ישראל, מחלקת הסייבר בפרקליטות המדינה, שירות הביטחון הכללי, ורגולטורים נוספים כמו הרשות להגנת הצרכן והרשות להגנת הפרטיות, יוצר בעיות של הגדרת תחומי האחריות והסמכ ,ות בין הגופים .לצד לאקונות בטיפול בהיבטים מסוימים32 עמדה דומה, באשר להעדר סנכרון, וחלוקת סמכות 31 The White House, "FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence", October 30th 2023. סעיף4 לצו הנשיאותי האמור , אשר עוסק בעקרון המנחה של הבטחת הבטיחות והאבטחה של טכנולוגיית הבינה המלאכותית, מתייחס בצורה מפורשת לסוגיה של סימון תכנים של בינה מלאכותית . לעניין זה קובע סעיף קטן4.5 , שכותרתו "הפחתת סיכונים הנשקפים "מתוכן סינתטי(2 )כי בכדי לקדם יכ ולות של זיהוי וסימון תוכן סינתטי המיוצר על ידי מערכות בינה מלאכותית; ועל מנת להגדיר אותנטיות של מקור ותוכן דיגיטלי, סינתטי ולא סינתטי, המיוצר על ידי הממשל הפדרלי או מטעמו, שר המסחר של ארה"ב(Secretary of Commerce) ,, בהיוועצות עם גורמים נוספים, יפתח הנחיות כללים וכלים לבחינת הסוגיות הבאות: אותנטיות של תוכן ומעקב אחר מקור "התוכן; סימון תוכן סינתטי, כגון שימוש ב"סימון מים(watermarking) ( ; איתור תוכן סינתטי; מניעת בינה מלאכותית יוצרתgenerative AI ) של תכני התעללות מינית בילדים או הדמיות אינטימיות של אנשים, ללא הסכמתם; וכן ביקורת על תוכן סינתטי ושימורו. בהמשך ( לאמור, מנהל משרד הניהול והתקציבDirector of OMB ), בהיוועצות עם גורמים נוספים, ייפתח הנחיות לסימון ואימות של תוכן דיגיטלי רשמי המיוצר או מפורסם על ידי הממשלה, וזאת לצורך חיזוק אמון הציבור באמינות של תוכן כאמ.ור יצוין כי לצו האמור קדמו שני צווים נשיאותיים אחרים שעסקו אף הם בבינה מלאכותית. שני הצווים הללו לא התייחסו בצורה מפורשת לסוגיה .של סימון תכנים של בינה מלאכותית ואף לא לסוגיה של חדשות כזב 32 ,עידן רינג, אסף וינר וניצן יסעור ,איגוד האינטרנט "שימוש בבינה מלא כותית לצורך זיוף תמונות והפצת מידע כוזב במלחמת ישראל- "חמאס עזה– ,מענה לפניית מרכז המחקר והמידע של הכנסת19 בדצמבר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 15 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm ואחריות בין השחקנים במרחב הרגולטורי הציגה ד"ר תהילה שוורץ- אלטשולר מהמכון הישראלי .לדמוקרטיה בדיון בוועדת החוקה בנושא הפצת חדשות כזב33 בישראל, הועלו במהלך השנים הצעות חוק שונות ביחס להסדרת פעילותן של רשתות חברתיות, למניעת הסתה ברשת, להגנה על הציבור מפני פרסומים מסוכנים ברשת ,ולסימון מסרים המופצים באמצעים אוטומטיים (מה שכונה "חוק הבוטים"). אך עד כה .טרם חוקקו הסדרים מהותיים חדשים בתחומים אלה במענה לפנייתנו ציין מנה ,ל מחלקת הסייבר של פרקליטות המדינה כי יש מקום לבחון האם הצעות חקיקה דוגמת הצעת חוק הסרת תוכן המהווה עבירה מרשת האינטרנט, יכול ות לסייע בפעילות מול פלטפורמות שאינן משתפות פעולה באפיק הוול ו נטרי או כלפי פלטפורמות שהחליטו להימנע מהסרת תוכן באפיק זה. 34 נציגי איגוד האינטרנט טוענים עוד, כי העדר הסדרה חקיקתית בעייתי בפרט בישראל בשל מגבלות במנגנוני הפיקוח והאכיפה (האוטומטית והאנושית) מצד פלטפורמות רשת דוגמת חברת מטא(Meta) בשפה העברית, וכי בשונה מן ההתמודדות הסדורה עם הגנת מפני תקיפות סייבר טרם גובש מענה תכ נוני או מבצעי למקרים של השפעות זדוניות מצד גורמים מדינתיים שמכוונות לאזרחי ישראל במדיה החברתית. כאמור לעיל, מדיון בוועדת החוקה, חוק ומשפט השתמע כי דווקא היבטים אלה, ככל שניכר בהם "מאמץ מתואם" מצויים בטיפולם של שירותי .הביטחון הישראליים לטענת נציגי איגוד ה אינטרנט35 יש מקום לגבש משטר אחריות ורגולציה על הפלטפורמות הדיגיטליות הפועלות בישראל, ובכללו כפיפות לדין המקומי והחלת צווים שיפוטיים. בהתאם :לחמישה עקרונות 1. ;אכיפה אפקטיבית ושוויונית של כללי התוכן והשימוש של הפלטפורמות 2. תיקון פערי מידע ומיקוח בין הפלטפורמות ל משתמשים וחיובן לפרסם דוחות שנתיים ;ביחס לאפקטיביות ניהול התוכן שלהן בישראל 3. ;זכויות פרוצדוראליות והליך הוגן ושקוף ביחס לאכיפת הכללים 4. ;יצירת ערוצי דיווח ומסירת מידע לפלטפורמות מצד רשויות ונפגעים 5. שקיפות ביחס לדרכי ההתמודדות עם תוכן מזיק ברמה הלאומית-חברתית (ד וגמת .)דיסאינפורמציה או הסתה לטרור 33 הכנסת ה- 25 ', ועדת החוקה, חוק ומשפט של הכנסת , פרוטוקול מס158 " , הפצת חדשות כזב ותכנים מסיתים ברשתות החברתיות על ידי גורמים עוינים." 34 ד"ר חיים ויסמונסקי, עו"ד, מנהל מחלקת הסייבר, פרקליטות המדינה, דוא"ל מענ ,ה לפניית מרכז המחקר והמידע של הכנסת17 בדצמבר2023 . 35 ,עידן רינג, אסף וינר וניצן יסעור ,איגוד האינטרנט "שימוש בבינה מלאכותית לצורך זיוף תמונות והפצת מידע כוזב במלחמת ישראל- "חמאס עזה– ,מענה לפניית מרכז המחקר והמידע של הכנסת19 בדצמבר2023 . השימוש בבינה מלאכותית ליצירה והפצה של חדשות כז ב | 16 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm 4 . חינוך לאוריינות דיגיטלית היקפן של חדשות כזב ותוכן לא אמין או לא אותנטי, בין שזה נוצר באמצעים מתקדמים מבוססי בינה מלאכותית ובין שהוא נוצר בשיטות בסיסיות יותר, פוגע באמון הציבור במידע, ביכולת לנהל שיח ציבורי דיגיטלי פעיל ומ .בוסס עובדות וכפועל יוצא גם בערכי דמוקרטיה ויציבות שלטונית בשל האמור, לאוריינות דיגיטלית– לא רק ברמת מיומנות השימוש בכלים דיגיטליים, אלא גם ,ביכולת לקרוא באופן ביקורתי תוכן, לזהות ניסיונות תקיפת סייבר, ולזהות חדשות ומידע כזב .ישנה חשיבות רבה גורמי ממשלה ש ונים פועלים בהיבטי הסברה וחינוך לשימוש חכם באינטרנט ולצמצום התנהגויות וחשיפה לתוכן פוגעני, בהם: מערך הסייבר הלאומי, השירות הפסיכולוגי ייעוצי במשרד החינוך, רשות הגנת הפרטיות, משטרת ישראל ובפרט המטה הלאומי להגנה על ילדים ברשת מוקד105 (המופעל בשיתוף מספר משר די ממשלה) ועוד. 36 חלק ניכר מהגופים האמורים גם פרסמו בעת האחרונה מדריכים או הנחיות להתמודדות עם :תופעת חדשות הכזב, או העברה והפצה של תוכן לא אמין. כך למשל  המטה הלאומי להגנה על ילדים ברשת - 105 , פרסם מדריך לדיווח והסרת תכנים ברשתות החברתיות; ופוסטים במדיה ה חברתית בנושא הפצת חדשות כזב ודרכי התמודדות עם התופעה, לצד אתרי תוכן המתייחסים למלחמה ולצמצום חשיפה לטרור .במשחקי רשת  רשות הגנת הפרטיות במשרד המשפטים פרסמה כבר בשנת2022 מסמך בנושא " פרטיות ואבטחת מידע בשימוש בטכנולוגיותDeepfake (זיוף עמוק.") 37  מערך הסייבר הלאומי בשיתוף משטרת ישראל ופיקוד העורף פרסמו מדריך "כך תזהו חדשות כזב"; והעלו במגוון ערוצי מדיה קמפיין תחת הכותרת "מתגברים על ."השתפת38 לצד גופי הממשלה פועלים ארגוני חברה אזרחית שונים להעלאת המודעות ולטיפול בסוגיות :דנן, בהן בין השאר 36 ממסמך שנכתב לאחרונה בנושא פעילות הממשלה בתחומי האוריינות הדיגיטלית עלה כי רוב הפעילות הממשלתית, גם כשזה ממומנת .על ידי הממשלה, נעשית באמצעות ותחת ניהול של הרשויות המקומיות " ,להרחבה, ראו: רועי גולדשמידט תוכניות ממשלתיות להקניית אוריינות דיגיטלית ," 10 בספטמבר2023 . 37 " ,הרשות להגנת הפרטיות משרד המשפטים פרטיות ואבטחת מידע בשימוש בטכנולוגיותeepfake D )(זיוף עמוק ," 29 באוגוסט2022 . 38 " ,מערך הסייבר הלאומי)כך תזהו חדשות כזב (פייק ניוז" ;"מתגברים על השתפת;" השימוש בבינה מלאכותית ליצירה והפצה של חדשות כזב | 17 הכנסת – מרכז המחקר והמידע www.knesset.gov.il/mmm  איגוד האינטרנט המפעיל את קו הסיוע לאינטרנט בטוח, והמהווה גם "גוף מדווח "רשמי(Trusted Flagger) המוסמך מצד רוב פלטפורמות הרשת לספק דיווחים ובקשות ;הסרה של תוכן פוגעני  גופי בדיקת עובדות"דוגמת "פייק ריפורטר39 ; "בודקים" וגופים נוספים כמוiron " " Truth ו- " Off – Fake " 40 שמטרתם לצמצם א ת תפוצתן של חדשות כזב ולחשוף גם .השפעות זרות על השיח ברשת הישראלית 39 https://fakereporter.net / 40 off.com - https://www.fake /