חומר רקע

?פייק" מהו-"דיפ , Deepfake( פייק-הדיפ טכנולוגיית או "זיוף עמוק") מאפשרת, באמצעות אלגוריתמים של בינה מלאכותית, יצירת תמונות, סרטונים ואודיו בהתבסס על תוכן קיים. זאת, גם אם התוכן המוצג לא התרחש מעולם אלא מדובר בזיוף מוחלט. בימינו, איכותו של תוכן אשר נוצר פייק יכולה להיות גבוהה -באמצעות דיפ במיוחד, עד כדי כך שיהיה קושי אמיתי להבחין כי מדובר בזיוף. שימוש מעניין בטכנולוגיה זו ניתן לראות במהלך הסכסוך הנוכחי בין רוסיה ואוקראינה. לאורך הסכסוך פורסמו סרטונים שונים אשר חלקם הוסרו על ידי פלטפורמות המדיה החברתית, בהם נחזה נשיא אוקראינה נושא נאום ובו הוא מכריז על כניעה חד צדדית לרוסיה. דומה כי הסרטונים פורסמו במטרה לשכנע את האוקראינים להיכנע במלחמה. מקרים כאלו קורים אף במהלך תקופות בחירות. , כחלק מקמפיין 2018 למשל, כבר בשנת -להעלאת המודעות לטכנולוגיית הדיפ פייק, פורסם סרטון ברשתות החברתיות של נשיא ארצות הברית לשעבר, ברק אובמה, מדבר בקולו לכאורה אך אומר דברים בלתי סבירים עבורו. -האתגרים שמציב השימוש בדיפ פייק להליכי בחירות בחירות נתפסות כשיאו של ההליך הדמוקרטי ומבטאות השתתפות אזרחית ומרכיב מרכזי בבניית אמון הציבור במדינה ובמוסדותיה. זהו יום חג בו לכל אדם יש קול שווה, ובמסגרתו כל אחד או אחת יכולים לבחור לנסות ולייצג את הערכים בהם הם מאמינים ואשר אותם הם מבקשים לקדם. בהתאם, פגיעה בהליך הבחירות משמעותה פגיעה חמורה באוטונומיה אישית, במרקם החברתי וביציבותו של שלטון דמוקרטי. למרות שאנו נמצאים בשלב מוקדם יחסית בהליך הבחירות לנשיאות של ארצות , 2024-הברית, אשר יתקיים בפועל ב ניתן כבר לראות השפעה אפשרית של פייק, מתוך -התפתחות טכנולוגית הדיפ ניסיון להשפיע על דעת הבוחרים ועל תוצאות הבחירות. כך, בעת האחרונה היינו עדים לשימוש שכזה על ידי הקמפיין למרוץ למועמדות המפלגה הרפובליקנית לנשיאת ארצות הברית של מושל פלורידה, סנטיס. במסגרת שימוש זה פורסמו -רון דה פייק, המציגות את -תמונות, שנערכו בדיפ המועמד המוביל ונשיא ארצות הברית לשעבר, דונלד טראמפ, מחבק בכיר באגף המחלות הזיהומיות בארצות הברית שאינו אהוד בקרב הרפובליקנים. במקרה של מושל פלורידה, המטרה פייק הייתה -המרכזית של השימוש בדיפ פגיעה במוניטין של מועמד בבחירות. פייק עשוי -כמובן, ישנה אפשרות כי דיפ לשמש אף את המועמדים עצמם לשם חיזוק המוניטין שלהם, ולמשל כדי לפרסם תוכן, שאינו אמיתי, אשר מטרתו היא להטיל ספק במידע עובדתי המזיק לאותו מועמד. בזמן בחירות ומלחמה- פייק-סכנות השימוש בדיפ פייק, המאפשרת ליצור תוכן בדיוני אשר נחזה כאותנטי, מעלה חששות רבים ומגוונים. בעידן שבו-טכנולוגיית הדיפ פייק עלול להעצים -המידע מתפשט מהר יותר מאי פעם באמצעות פלטפורמות תוכן דיגיטליות, השימוש בדיפ מחלוקות, להטעות את הציבור ולערער את אמון הציבור. השפעות אלו עלולות להיות הרסניות במיוחד בתקופות שקט חברתי, מלחמה או בחירות. -של אי 1 תמצית עמדתנו פייק ובמיוחד ביחס להליכי בחירות -• בדומה למדינות אחרות בעולם, ראוי לפעול לאסדרת השימוש בדיפ (ברמה הארצית או המקומית). במסגרת זאת, יש לעגן חובת סימון של תכנים המיוצרים או הנערכים באמצעות פייק, ולפעול לעיגון סנקציה פלילית או מנהלית בגין הפרת החובה. -טכנולוגיית דיפ • לקראת הבחירות המקומיות בישראל – על משרד הפנים וועדות הבחירות המקומיות לקדם תכנים הסברתיים עבור הציבור על אודות הטכנולוגיה והסיכונים הנלווים לה. בפרט, ניתן להפעיל עמוד מקוון, להוביל קמפיין ציבורי ולפתח תוכנות למידה עצמית. • במבט רחב, יש להאיץ אסדרה של כללי המשחק ברשתות החברתיות. מכון תכלית ממליץ על אימוץ מודל הליכית בתחום הרשתות החברתיות המבוסס על "עסקת חבילה" בין המדינה לבין -של רגולציה מבנית הפלטפורמות – הפלטפורמות מקבלות חסינות מותנית מאחריות נזיקית ופלילית על תכני המשתמש כנגד מחויבות לסדרה של חובות רגולטוריות שנועדו להביא לפיקוח ועיצוב מדיניות תוכן מיטיבים. יג' טבת, התשפ״ד הכהן -לכבוד : ח״כ אורית פרקש 2023 דצמבר25 יו״ר ועדת המשנה לבינה מלאכותית וטכנולוגיות מתקדמות פייק בעת בחירות מעלה-השימוש בדיפ אתגרים אתיים ומשפטיים. המרכזי מבין אלו נוגע להשפעת השימוש הנרחב בטכנולוגיה על דעת הבוחרים. מאחר פייק -שהמדיה הנוצרת באמצעות דיפ מבקשת להציג מציאות אמיתית לכאורה, ובשל הקושי הרב להבחין אם מדובר בזיוף, שימוש נרחב בה עלול לטשטש את הגבול בין המציאות לדמיון או בין אמת לשקר. יכולות שכאלו מייצרות סכנות מעצם קיומן, והחשש מתחזק במיוחד בתקופות רגישות דוגמת חוסר שקט חברתי, מלחמה או בחירות. בהקשר של בחירות, השימוש בטכנולוגיה אף עשוי להשפיע השפעה ממשית על תוצאות הבחירות ולהטות את הכף – במיוחד כאשר אין זמן מספק להפרכת המידע המזויף. לדוגמה, אם יופץ פייק המציג -ערב הבחירות סרטון דיפ באור שלילי את המועמד/ת המוביל/ה בבחירות, חלון הזמנים לתגובה אינו מאפשר למועמד שנפגע מהפרסום זמן מספק כדי להפריך את הסרטון (אם כלל ניתן להפריכו). במצב שכזה, פרסום יכול להיות הרסני על מועמד/ת ולהטות את תוצאות הבחירות. לכך יש להוסיף את החשש להתערבות זרה של מדינות אחרות בבחירות הגובר בשנים האחרונות. כפי שראינו בעבר, יש אינטרס למדינות זרות להתערב בדרך כזו או אחרת בבחירות דמורקטיות המתנהלות , 2016 במדינה אחרת. כבר בשנת כפי שקבעה קהילת המודיעין בארצות הברית, היינו עדים להתערבות רוסית זרה בבחירות לנשיאות ארצות הברית במטרה לפגוע בקמפיין של הילארי קלינטון ותוך סיוע לדונלד טראמפ. זאת, בין היתר, באמצעות פעילות חברת "קיימברידג' אנליטיקה" (אשר עבדה עבור הקמפיין של דונלד טראמפ והשיגה גישה למידע מיליוני בעלי 87-האישי של למעלה מ חשבונות בפייסבוק). החברה העבירה את הנתונים לקמפיין של הנשיא טראמפ לשם מטרות פוליטיות שונות, ובדגש לצורך הפצת מסרי הקמפיין בהתאם לתכונותיהם ונטיות ליבם של המשתמשים השונים. חשיפת הפרשה באמצעי התקשורת עוררה סערה ציבורית בארצות הברית וחששות כבדים הנוגעים לפרטיותם של המשתמשים ברשתות החברתיות ולהתערבות זרה בבחירות לנשיאות. במסגרת הדיון הציבורי הופנה ביקורת נוקבת כלפי חברת פייסבוק, ואף להזמנה של מארק צוקרברג, מנכ"ל מטא (לשעבר פייסבוק), לשימוע בפני בית הנבחרים האמריקני והסנאט. ההתמודדות המשפטית בישראל פייק"-עם תופעת ה"דיפ מטבע הדברים, ההתקדמות הטכנולוגית והאתגרים שהיא מציבה מעוררים שאלות רבות אף בזירה הפוליטית המקומית. בישראל, החוק הרלוונטי לעניין השימוש פייק הוא חוק הבחירות (דרכי -בדיפ , הכולל הוראות 1959-תעמולה), התשי"ט שונות המגבילות את תעמולת הבחירות של מפלגות ופוליטיקאים. חוק זה נחקק בסוף שנות החמישים במציאות שונה לחלוטין מזו הקיימת היום, כאשר לא היו בישראל טלוויזיה או אינטרנט, ולמרות מספר עדכונים שהוא עבר מדובר בפיסת חקיקה מיושנת וארכאית אשר לא מסוגלת להתמודד עם המציאות של רשתות חברתיות ופלטפורמות תוכן דיגיטליות בהיקף הנוכחי שלהן. בהקשר זה יש להזכיר את חשיבותן של פלטפורמות המדיה החברתית בתקופות בחירות. בעידן הדיגיטלי של ימינו מייצרות פלטפורמות המדיה החברתית מרחבים דיגיטליים המשמשים ליצירה ולהעברה של מידע בין חלקי הציבור, הבעת ביטוי אומנותי, פוליטי ומסחרי, החלפת דעות, קיום פעילות מסחר ושירותים, צריכת חדשות ועוד. פלטפורמות המדיה החברתית שינו את הנוף הפוליטי, והשפיעו על האופן שבו מתנהלות בחירות , בקמפיין 2008 וקמפיינים. כבר בשנת הראשון לנשיאות של ברק אובמה, נרתמה המדיה החברתית לצורך גיוס מצביעים וניצחון בבחירות. ייחודיותה של המדיה החברתית מתבטאת באפשרות של היחיד להביע את דעתו, לעסוק בשיח פוליטי וציבורי ולהשתתף בתהליך הבחירות. הדבר יצר אפיק חדש להשתתפות פוליטית של האזרחים וחיזק את התעסקותם בסוגיות פוליטיות ובמיוחד בזמן בחירות. פלטפורמות מספקות אף החברתית המדיה לפוליטיקאים ולמפלגות גישה ישירה לקהל עצום לאין שיעור. כך, הן מאפשרות לפוליטיקאים לתקשר באופן ישיר ובקלות רבה עם מיליוני מצביעים, תוך עקיפת ערוצי המדיה המסורתיים. הדבר הביא לכך שפלטפורמות המדיה החברתית הפכו כיום למקור עיקרי של חדשות ומידע עבור אנשים רבים, וקמפיינים פוליטיים מנצלים מגמה זו לצורך הפצת מסרים ועמדות במטרה להשפיע על דעת קהל הבוחרים. ועדיין, בישראל, החשיבות הרבה שיש הליכי במהלך החברתיות לרשתות 2 בחירות לא באה לידי ביטוי בחוק דרכי תעמולה. בעוד שהחוק מסדיר אמצעי 1,תעמולה ישנים דוגמת השימוש בלפידים הוא אינו מתייחס כלל לנושא התעמולה באינטרנט – האמצעי המרכזי להפצת תעמולת בחירות בימינו אנו. ואולם, בשל מרכזיותם של האינטרנט ושל הרשתות החברתיות, יושב ראש ועדת הבחירות , השופט בדימוס 21-המרכזית לכנסת ה ח' מלצר, החיל בהחלטתו את הוראות חוק דרכי תעמולה גם על רשת האינטרנט, 2.לרבות הרשתות החברתיות דוגמה מרכזית להתמודדות עם התופעה פייק בעת בחירות היא החלטת -של דיפ יושב ראש ועדת הבחירות המרכזית , השופט ע' פוגלמן, בתב"כ 24-לכנסת ה יש עתיד – בראשות יאיר לפיד נ' 9/24 עמותת "כן לשלום". החלטה זו מהווה דיון ראשוני ותקדימי ביחס לשימוש פייק בעת בחירות בדין -בטכנולוגיית דיפ הישראלי. עניינה של עתירה זו בפרסום סרטון על ידי עמותת "כן לשלום", בזמן . בסרטון 24-תקופת הבחירות לכנסת ה זה נחזה יאיר לפיד, יושב ראש מפלגת יש עתיד, נושא נאום בחירות ואומר דברים שלא אמר כלל. לאחר הגשת העתירה הוסיפה העמותה לסרטון שקופית גדולה המבהירה כי מדובר בסרטון מזויף. כי פוגלמן השופט ציין בהחלטה פייק מצויה -ההתמודדות עם תופעת הדיפ לחוק דרכי תעמולה. סעיף 13 בסעיף זה קובע כי "לא תהא תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחת או למענה בצורה או בדרך שיש בהם משום הפרעה בלתי הוגנת של תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחרת או למענה". בהקשר זה, פייק -קבע השופט פוגלמן כי פרסום דיפ ייחשב כהפרעה בלתי הוגנת לבחירות וכהפרה של הסעיף האמור אם הוא עלול להביא באופן קרוב לוודאי להטעיית במצב שכזה, רשאי יושב ראש 3.הציבור ועדת הבחירות המרכזית, מכוח סעיף ב לחוק דרכי תעמולה, להורות על צו 17 המונע פרסום של התוכן. בנסיבות אותו המקרה, נקבע כי לאור השקופית שנוספה והבהירה כי מדובר בסרטון מזויף, הסרטון אינו מהווה הפרעה בלתי הוגנת לבחירות. ועדיין, השופט פוגלמן ביקש להבהיר כי פייק -קבצים אשר יוצרו בטכנולוגיית דיפ עלולים להביא בוודאות קרובה להטעיית הציבור. פייק בתקופת -לדעתנו, פרסום קבצי דיפ בחירות, ללא כל סימון כי מדובר בתוכן מזויף, עלול להביא בוודאות קרובה להטעיית הציבור ודורש מתן צו מניעה לפי סמכותו של יושב ראש ועדת הבחירות. פייק יש השפעות -כפי שניתן לראות, לדיפ עומק משמעותיות ונראה כי הסרת פוסט לא תמיד תפתור בעיה של השפעה או פגיעה במוניטין, במיוחד כאשר פרסום צבר כבר צפיות רבות. בהתאם, בעוד אולי מדובר בפתרון פרקטי בנסיבות החוק הישן, נכון לשקול פתרון מקיף יותר שיהיה ממוקד בעולם המודרני של הרשתות החברתיות ובפרט על רקע התחזקות פייק-יכולות טכנולוגיית הדיפ מה הלאה? העולים החששות כי סבורים אנו בחירות ובעת ככלל, מהטכנולוגיה בפרט, דורשים גיבוש מענה משפטי רגולטורי ייחודי להתמודדות. אומנם, רוב הפלטפורמות החברתיות, וביניהן מטא (פייסבוק לשעבר), יוטיוב וטוויטר, פייק -אוסרות על הפצת תכנים מסוג דיפ ללא כל סימון של תכנים אלו והודיעו כי ועדיין, נוכח חדשנות 4.יפעלו להסרתם המשמעותיים והאתגרים הטכנולוגיה נדרשת לדמוקרטיה, מציבה שהיא לשיטתנו מדיניות רגולטורית סדורה בעניין. בגיבוש מדיניות שכזו ראוי להביט על מענים משפטיים שנקבעו במדינות 2019 אחרות. בטקסס למשל, בשנת נקבע איסור פלילי על יצירה או הפצה של פייק -תכני וידאו שנוצרו באמצעות דיפ בשלושים הימים שלפני יום הבחירות, אם אלו נועדו לפגוע במועמד בבחירות או חקיקה 5.להשפיע על תוצאות הבחירות מקיפה יותר בנושא התקבלה במדינת קליפורניה, בה נקבעו איסורים פליליים דומים על יצירה או הפצה של תוכן מסוג פייק בעת בחירות. מעבר לאיסור על -דיפ יצירה או הפצה, החוק בקליפורניה מאפשר למועמדים שנעשה שימוש בדמותם בתוכן פייק ללא סימון, לפתוח בהליכים -דיפ משפטיים כנגד המעורבים ביצירה או בהפצה של התוכן בגין הנזקים שנגרמו להם וכן מסמיך את בתי המשפט להעניק צווי מניעה לפלטפורמות ולגופי המדיה אשר אמונים על מניעת המשך הפצת התוכן. במקביל, אנו קוראים למשרד הפנים לפעול – גם באמצעות ועדות הבחירות פייק -המקומיות – נגד השימוש בדיפ בזמן הבחירות הקרבות. יש לפנות לציבור ולחשוף אותו באמצעות אמצעי -התקשורת והמדיה אל טכנולוגיית הדיפ פייק ולאתגרים הטמונים בשימוש בה 3 בעת בחירות. למשל, ניתן להפעיל עמוד פייק, בדומה לעמוד -מקוון בנושא דיפ 24-שהפעילה ועדת הבחירות לכנסת ה בנושא חדשות כזב ('פייק ניוז') אשר כלל הסברים על הדרכים להימנע מההשפעה הבלתי רצויה של חדשות כזב ועל הדרכים להימנע ממנה. יש אף לפעול להדרכת הציבור בנוגע פייק וסיכוניה בעתות -לטכנולוגיית דיפ בחירות, ולמשל באמצעות קמפיין פרסום, תוכנות למידה למבוגרים וכן משחקי למידה עצמיים לילדים. לדעתנו, כך ניתן להביא לידי היכרות של הציבור עם התופעה ולעודד ביקורתיות כלפי האותנטיות של התכנים. המדובר בטכנולוגיות המבוססות על בינה מלאכותית, אשר מנתחות את התוכן, את מאפייניו וביכולתן לזהות האם מדובר בתוכן שעבר מניפולציה באמצעות פייק. לאחרונה, ענקיות הטכנולוגיה -דיפ וביניהן חברת מייקרוסופט, החלו להציע 6.כלים כאלו לקהל המשתמשים שלהן בהתאם, לצד הצעדים המוצעים, יש לחשוף את הציבור לכלים טכנולוגיים חדשניים אשר ביכולתם לזהות תכנים פייק.-שעברו מניפולציה על ידי דיפ לבסוף, אנו קוראים להגברת שיתוף הפעולה בין רשויות המדינה כדוגמת מחלקת הסייבר בפרקליטות ומערך הסייבר הלאומי, לבין רשתות חברתיות. ראוי כי הדבר יתבצע באמצעות אסדרה של כללי המשחק ברשתות החברתיות ובפרט במובנים של אחריות על פרסומים בלתי חוקיים מזיקים, ועל פרסומים חוקיים אך מזיקים וכן במובן של הגברת שקיפות לגבי פרסומים המבוססים על בינה מלאכותית ובמיוחד כאלו שעובדו פייק. במאמצים -על ידי טכנולוגיית דיפ אלו, בראייתנו, ניתן להסתייע בחברה האזרחית, למשל באיגוד האינטרנט הישראלי. במובן רחב יותר, אנו סוברים במכון תכלית כי אין מנוס מהתמודדות עם שורש הבעיה – כלומר אימוץ מודל של הליכית בתחום הרשתות -רגולציה מבנית פייק היא -החברתיות. טכנולוגיית הדיפ בסוף אפיק אחד של ניצול לרעה של רשתות חברתיות, אבל לצידו יש רבים אחרים אשר התמודדות אמיתית עמם תוכל להתקיים רק בהתקיימה של מסגרת משפטית סדורה אשר מאפשרת פיקוח על רשתות חברתיות אגב שיתוף פעולה בינן לבין גופי השלטון בישראל (על בסיס כללי משחק ברורים, ולא במצב הקיים שהוא וולונטרי ולוקה במובנים של בהירות וודאות כלפי משתמשים והציבור הרחב). בבסיסו של מודל שכזה, הדומה לנהוג באיחוד האירופי וארצות הברית, ראוי כי תהיה "עסקת חבילה" בין המדינה לבין הפלטפורמות: במסגרתה הפלטפורמות ), safe harbor( "מקבלות "נמל בטוח שפירושו חסינות מותנית מאחריות נזיקית ופלילית על תכני המשתמש המופצים ברשתות, כנגד מחויבות לסדרה של חובות רגולטוריות המיועדות להשפיע על מבנה התמריצים שלהן ולעמידה בדרישות הליכיות לפיקוח ועיצוב מדיניות ניטור תוכן. 4 תַּ כְ לִ ית– המכון למדיניות ישראלית (ע״ר) הוא מכון חשיבה ציוני מוכוון מדיניות, המבקש להביא לשינוי המציאות בישראל באמצעות הכוונה וסיוע למערכי קבלת ההחלטות הפוליטיים והבירוקרטים ליישום מדיניות מושכלת ואפקטיבית, המחזקת את מהותה של ישראל כמדינה יהודית ודמוקרטית ברוח מגילת העצמאות. לצורך מימוש יעדיו, מפעיל המכון מארג של שלושה כלים, אשר שילובם מקנה ערך מוסף ייחודי בתחום המדיניות בישראל. מחקר עומק מוכוון מדיניות, המתקיים בשיתוף פעולה עם אקדמאים ואנשי פרקטיקה מובילים מהארץ ומהעולם; פעילות תשתיתית שתכליתה תרגום והנגשה של המדיניות המופקת בידי המכון ישירות למקבלי ההחלטות הרלוונטיים ליישומה, וכן הטמעת מערך תמיכה היקפי המבקש לייצר שותפות שיח, על בסיס התוכן, עם מגזרים נוספים בישראל, כגון ארגוני חברה אזרחית, התקשורת, המגזר הפרטי והציבור הכללי הרחב. ד"ר טל מימרן ראש תוכנית "אמנה חברתית לעידן הדיגיטלי" במכון ַּתƶּ ְכְִלִית, חבר סגל במכללה האקדמית צפת והמנהל האקדמי של הפורום למשפט בינלאומי באוניברסיטה העברית. .1959- לחוק הבחירות (דרכי תעמולה), התשי"ט8 ראה סעיף1 .)27.2.2019 עו"ד שחר בן מאיר נ' הליכוד (נבו8/21 ראה תב"כ2 ' הליכוד – תנועה לאומית ליברלית נ28/20 ); תב"כ3.9.2019 (נבו14 בע"מ נ' הליכוד – תנועה לאומית ליברלית, פסקה13 החדשות14/22 ראה, מיני רבים: תב"כ3 כולנו בראשות משה כחלון נ' רשימת הליכוד בהנהגת בנימין נתניהו ראש45/20 ); תב"כ2.3.2015 רשימת "המחנה הציוני" בראשות יצחק הרצוג וציפי ליבני (נבו ).17.3.2015 הממשלה (נבו /; https://about.fb.com/news/2020/01/enforcing-against-manipulated-media : להודעה של פייסבוק, ראה4 ;?/https://blog.youtube/news-and-events/how-youtube-supports-elections :להודעה של יוטיוב, ראה .https://help.twitter.com/en/rules-and-policies/manipulated-media :להודעה של טוויטר, ראה .Texas Senate Bill 751 (2019-2020) 5 https://blogs.microsoft.com/on-the-issues/2020/09/01/ :פייק. ראה- חברת מייקרוסופט הציגה שני כלים טכנולוגיים להתמודדות עם דיפ2020 בחודש ספטמבר6 ./disinformation-deepfakes-newsguard-video-authenticator