פרוטוקול ועדה

הכנסת העשרים-וחמש מושב רביעי פרוטוקול מס' 94 מישיבת ועדת המדע והטכנולוגיה יום שני, ט"ז בטבת התשפ"ו (05 בינואר 2026), שעה 12:30 סדר היום: << נושא >> התמודדות עם קמפיינים תודעתיים מבוססי בינה מלאכותית ובפרט בתקופת הבחירות << נושא >> נכחו: חברי הוועדה: אורית פרקש הכהן – מ"מ היו"ר חברי הכנסת: קארין אלהרר איתן גינזבורג מוזמנים: אורלי עדס – מנכ"לית, ועדת הבחירות המרכזית סימה לנקרי – ראש אגף תכנון, תיאום ומערכות ידע (תאו"ם), ועדת הבחירות המרכזית בוקי כרמלי – יועץ סייבר לוועדת הבחירות, ועדת הבחירות המרכזית אביעד נימקובסקי – יועץ משפטי, ועדת הבחירות המרכזית אוראל שריקי בן צבי – רפרנטית עיצומים כספיים וחילוט מחלקת משפט פלילי, משרד המשפטים שרון רובינשטיין צמח – ראש צוות ייעוץ משפטי, המשרד לביטחון לאומי רפ"ק ניר שדה – ראש חוליית פשיעה מקוונת, אח"מ, המשרד לביטחון לאומי יואב זקס – רח״ט מו״פ וטכנולוגיה, המטה לביטחון לאומי יוסי אבירם – ר׳ מרכז אסטרטגיה, מערך הסייבר הלאומי איתי גוהר – מנהל צוות אכיפה אלטרנטיבית, פרקליטות המדינה ניר גרסון – סגן ראש מחלקת יעוץ משפטי ואסדרה, הרשות להגנת הפרטיות ד"ר גיא לוריא – עמית מחקר, המכון הישראלי לדמוקרטיה ד"ר אסף וינר – סמנכ״ל מחקר ומדיניות ציבורית, איגוד האינטרנט הישראלי עידן רינג – סמנכ"ל קהילה וחברה, איגוד האינטרנט הישראלי ליאור וינטרוב – מנהל המדיניות הציבוריות, טיקטוק ישראל דוד סימן טוב – חוקר בכיר, המכון למחקרי ביטחון לאומי INSS מאיה אילני – מנכ״לית מכון ברנדייס (לחברה, לכלכלה ולדמוקרטיה) ניר רוזן – מנכ״ל, פייק ריפורטר יונתן חסידים – מנכ״ל, חברת Scooper עמרי בן חורין – מנהל קשרי ממשלה ומדיניות ציבורית, Google ישראל יהודה בן יעקב – מנהל מדיניות, חברת Meta מיקה שלומוביץ – מתאמת פעולות בכנסת, מועצת התלמידים והנוער הארצית יהודה קונפורטס – עורך ראשי "אנשים ומחשבים" צחי גרינוולד – יועץ מקצועי ליו"ר הוועדה רועי גולדשמידט – ראש תחום מחקר ומידע, מרכז המחקר והמידע (ממ"מ), הכנסת משתתפים באמצעים מקוונים: ענבל ארמה – רמ"טית, המטה הלאומי לבינה מלאכותית ליאל אריה – עוזר דוברת מש"מ, מרכז השלטון המקומי בישראל ד"ר רועי צזנה – חוקר עתידים ובינה מלאכותית, אוניברסיטת ת"א אופיר דיין – חוקרת, INSS אור מנור – חוקרת טרנדים טכנולוגים מתקדמים יריב קסנר – שותף, ראש תחום הי-טק, פירון ושות' עורכי דין ייעוץ משפטי: צח בן יהודה מנהלת הוועדה: איילת חאקימיאן רישום פרלמנטרי: מוריה אביגד רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות. << נושא >> התמודדות עם קמפיינים תודעתיים מבוססי בינה מלאכותית, ובפרט בתקופת הבחירות << נושא >> היו"ר אורית פרקש הכהן: << יור >> << יור >> היו"ר אורית פרקש הכהן: << יור >> שלום לכולם, תודה לכל הנמצאים. שנת הבחירות בישראל כבר החלה והדיון היום מתקיים בנושא קריטי ורגיש במיוחד – טוהר הבחירות, סיכון להטיית בחירות, שיבוש, בלבול, השפעה על התודעה בימים של בינה מלאכותית ומפץ טכנולוגי. הנושא הזה אינו חדש, הוא מלווה אותנו מאז ומעולם, לא רק בעידן הטכנולוגיה, תמיד היו קמפיינים, תמיד היו ניסיונות להשפיע על דעת הקהל בתוך מסע יצרי שקשור לתודעה ולבחירות. אנחנו מכירים את הביטוי "הערבים נוהרים לקלפיות", ראיונות אסורים לפי כללי הבחירות, זה לא דבר חדש שמדובר בתחום שהוא מאוד מאוד סוער ורגיש. אבל מהפכת הבינה המלאכותית הפכה את הסכנה לשיבוש בחירות דמוקרטיות לאחרת כי, צריך לומר – וראינו את זה בוועדה פעם אחר פעם – מעולם לא היה קל יותר לשקר, מעולם לא היה קל יותר להפיץ מידע כוזב, להעלות סרטוני פייק עם דמויות כוזבות כשקשה להבדיל בין דמות אמיתית לדמות מזויפת. ראינו את זה בדיון שקיימנו בוועדה הזאת עם רשות ניירות ערך לא לפני זמן רב בנושא הונאות פיננסיות ברשת, פריצות לטלפונים, זריעות דעת קהל שקריות, בלבול והטעיית הציבור. את כל הדברים האלה אפשר לעשות היום בצורה הרבה יותר טובה ועם הרבה יותר השפעות על טוהר הבחירות. גם השיטות עלו ליגה בכל הכלים הטכנולוגיים החדשים, כולל צ'אטבוטים, הבוטים, הפנייה והקשר הרגשי בין המשתמשים והרשתות, והדברים הללו משתקפים במציאות. העיתוי של הדיון הזה הוא מעניין, קודם כל מאחר שמדינות רבות עברו בחירות בשנה האחרונה ברחבי הגלובוס וראינו בהן תצוגה מקדימה לאתגרים ולבעיות שגם מדינת ישראל יכולה ועשויה לעבור. למשל, ברומניה – והדברים יוצגו כאן בוועדה – ממש ביטלו תוצאות של בחירות בגלל קמפיין השפעה פסול, עד כדי כך. אצלנו מדובר בעיתוי מאוד רגיש, אנחנו במערכת בחירות ראשונה לאחר מלחמת "חרבות ברזל" ובנוסף, גם לאחר מהפכת ה-AI הנפוצה, השימושית. התבשרנו גם על בדיקה שמבקר המדינה עושה בעניין הזה, אבל זה כמובן לא יהיה נושא הדיון. בדיון היום קיבצנו מומחים שונים שישתפו אותנו במידע הקריטי, שנבין מהם האתגרים, מה קרה בעולם, מהן הסכנות, איך זה פוגש אותנו בישראל, מה הסמכויות בישראל להבטיח בחירות חופשיות והוגנות במציאות היותר מארגנת הזו, מה עושים וכיצד נערכים. בדיון היום יש השתתפות רחבה. קודם כל, אני רוצה להודות לאורלי עדס, מנכ"לית ועדת הבחירות המרכזית, שהגיעה לכאן עם הצוות שלה ותציג בנושא המאוד חשוב הזה, יהיו לנו נציגים מאוניברסיטת רייכמן, מה-INSS, מהרשתות, ממטא, מטיקטוק, מהמכון הישראלי לדמוקרטיה, ממחלקת הסייבר ומערך הסייבר, משרד המשפטים ומשרדי הממשלה הרלוונטיים. ראשון הדוברים, ד"ר רועי צזנה, חוקר עתידים מאוניברסיטת תל אביב, נתחיל לקבל קצת מידע על מה קורה בעולם ונצלול למה שקורה בישראל. בבקשה. << אורח >> רועי צזנה: << אורח >> נעים מאוד ותודה רבה על ההזמנה לדבר בפורום המכובד הזה, התנצלותי שלא יכולתי להגיע פיזית. אני רוצה לדבר במהירות על כמה ניסיונות השפעה לבחירות בעבר, בהווה ומה אנחנו מצפים שיקרה גם בעתיד, כאשר אנחנו נדבר על שני ניסיונות שאפשר לטעון שהם נכשלו וניסיון אחד שבאמת גם הצליח כפי הנראה. נתחיל בניסיון הראשון, אני רוצה להשמיע לכם הקלטה של ג'ו ביידן. מה ששמעתם כאן זה בינואר 2024, ניו-המפשייר ארצות הברית, 25,000 אנשים שומעים בעצם את הקול של ג'ו ביידן שאומר לבוחרים לא להגיע לפריימריז אלא להתמקד בהצבעות שחשובות באמת, הצבעות אחרות. למעשה מדובר בקול שג'ונרט, יוצר על ידי בינה מלאכותית. העלות של הייצור הזה הייתה דולר אחד בלבד. היקף העבודה – 20 דקות. הכלי שזה נעשה איתו – Elevenlabs, זמין לכולם. התוקף, מי שהזמין את זה, היה אחד מהיריבים של ביידן. במקרה הזה לא ידוע אם הייתה השפעה על הבחירות אבל בהחלט ברור שהייתה יכולה להיות לזה השפעה. זה ניסיון ראשון ברמת הקול. ברמת הווידאו, ב-2024 ראינו בבחירות לנשיאות טאיוואן שבימים לפני הבחירות הופיעו ביוטיוב אלפי סרטונים שמשווקים פייק ניוז עם איזשהו מסמך סודי מזויף לחלוטין שמציג את המפלגה האנטי-סינית באור שלילי. רוב הסרטונים שהועלו ליוטיוב נעשו בעזרת בינה מלאכותית עם אווטארים של קרייני חדשות, שנראו פחות או יותר כך. רמה יחסית גבוהה. התוקף במקרה הזה היה כנראה Dragon Bridge, לפי גוגל, שזו קבוצה סינית שמשתמשת בבינה מלאכותית. ההצלחה הייתה חלקית, אבל עדיין הייתה כנראה הצלחה. הייתה משמעות לתקיפה כי 16% מהקולות עברו למועמדים אחרים ולא למועמד הפרו-דמוקרטי, כפי שאנחנו רואים כשאנחנו משווים את התוצאות לבחירות ב-2016 ו-2020. לפני שאני מתקדם למקרה השלישי אני רוצה לתת את התחזית לפי מה שאנחנו מכירים לעתיד הדיפ-פייק בפוליטיקה, כי אנחנו רואים שכבר היום, כשזה מגיע לתמונות ולקול ש-AI מג'נרט, מייצר, אנשים כבר כמעט לא מסוגלים להבדיל ביניהם לבין הדבר האמיתי, מדובר בהטלת מטבע, לפי מחקר בסין, גרמניה וארצות הברית, וכשמדובר בסרטוני בינה מלאכותית ברמה גבוהה, רק 24% מבני האדם מצליחים לזהות שהם מזויפים. כלומר, אנחנו כבר חושבים שסרטוני הבינה המלאכותית הם יותר אמיתיים מהאמת בעולם הפיזי, והרמה רק עומדת לעלות ויהיה יותר ויותר תוכן מג'ונרט בעולם הדיגיטלי וברשתות החברתיות. אנחנו רואים שיש שפע ניסיונות לייצר דיפ-פייקים, לייצר שכפולים של פוליטיקאים, במיוחד לצערנו פוליטיקאיות – 96% מהדיפ-פייקים המיניים של נציגי ציבור בארצות הברית הם של נשים. צפויה לזה השפעה מזיקה על שילוב נשים בפוליטיקה. אנחנו נערכים למצב שבו יהיה מה שנקרא בעגה המשפטית Liar's dividend, שכל שקרן יוכל להגיד: זה לא אני, הבינה המלאכותית - - - << דובר >> קארין אלהרר (יש עתיד): << דובר >> למה דווקא נשים? מה מיוחד? << יור >> היו"ר אורית פרקש הכהן: << יור >> למה אתה חושב שבפייק הולכים בעיקר על נשים פוליטיקאיות? זה ממצא מעניין. << אורח >> רועי צזנה: << אורח >> ממה שאנחנו רואים כשמחפשים במאגרים של אתרים מיניים, של דיפ-פייקים – מחקר מהשנה האחרונה חשף כ-35,000 סרטונים ותמונות שהם דיפ-פייקים של פוליטיקאים, של חברי קונגרס וסנאט בארצות הברית, 96% מהסרטונים והתמונות האלו הם של נשים. למעשה מצאו דיפ-פייק רק של פוליטיקאי גבר אחד בקונוטציות מיניות. << דובר >> קארין אלהרר (יש עתיד): << דובר >> אבל זה רק בקונוטציות מיניות, כן? << יור >> היו"ר אורית פרקש הכהן: << יור >> כן, כדי לערער את האמינות של הנשים לדעתי, זו הנקודה. << אורח >> רועי צזנה: << אורח >> לגבי הניסיון השלישי, מדובר במה שהיה ברומניה בנובמבר 2024, ששם היו הבחירות לנשיאות. דבר די מדהים קרה, שבסיבוב הראשון מועמד עצמאי לנשיאות בשם ג'אורג'סקו זינק פתאום מ-5% אחוזי תמיכה בציבור ל22% אחוזי תמיכה וניצח בסיבוב הראשון בניגוד לכל מה שציפו. ג'אורג'סקו הצהיר על אפס תמיכה כספית, אבל גילו שהיה לו מבצע השפעה מצד גורמים זרים שהשקיעו שווה ערך של מעל מיליון יורו במבצע הזה. בית המשפט החוקתי ברומניה, בעקבות הניצחון המאוד מפתיע, החליט לבחון את הראיות שעשו שירותי המודיעין הרומניים, פרסם את הראיות בשלושה דוחות שונים שהוא חשף לציבור והחליט לבטל את תוצאות הבחירות, מכיוון שהייתה כאן – ואני מצטט – "מניפולציה של הבוחר ועיוות של שוויון ההזדמנויות". << יור >> היו"ר אורית פרקש הכהן: << יור >> הבנתי ממך שהדבר הזה קרה בפרק זמן של שבועיים, שמועמד אחד עלה משיעור זניח של תמיכה לניצחון והשירותים המיוחדים של רומניה בעצם מטפלים בנושא הזה. זה הסיפור, נכון? << דובר_המשך >> רועי צזנה: << דובר_המשך >> נכון, תוך שבועות ספורים זה קרה, והמדיה המסורתית לא הייתה עדה לזה בכלל, הכול קרה מתחת לרדאר, במדיה החברתית. הווקטורים של התקיפה – הופעלו שם 25,000 חשבונות טיקטוק בתיאום מושלם, חלק מהחשבונות האלה היו רדומים מ-2016, שזה סממן של לוחמת מידע בחסות מדינה עם נכסים אסטרטגיים לטווח ארוך שהפעילו לטובת המבצע הזה. חלק מהם, אגב, הזדהו עם לוגואים של שירותי המודיעין הרומניים. החשבונות הציפו את הרשת החברתית, בעיקר טיקטוק וטלגרם, בתוכן שהיה פרו ג'אורג'סקו, פרו-רוסי, ניפחו מאוד מלאכותית את מדדי המעורבות. חלק גדול מהתוכן הגיע ממקורות רוסיים ועבר הלבנה באתרים הרומניים וכך נראה יותר לאומי, יותר רומני, אותנטי. הייתה שם התמקדות רבה בקונספירציות, בתוכן פרו-רוסי, רשת פדופיליה גלובלית, האליטות המערביות נגד הציבור, והייתה משיכה של אנשים לרשתות האלו באמצעות מה שקוראים לו AI slop, שזה בעצם יצירות של מוזיקה, של ויזואל, של תמונות, של וידאו עם דימויים דתיים, לאומניים, דברים מאוד צבעוניים, מאוד מושכים את העין, מאוד מפתים את האנשים להיכנס פנימה ולהתחבר לזה. התוצאה הייתה, כמו שאמרתי, שביטלו את תוצאות הבחירות ברומניה. בית המשפט טען שתודעת הבוחר עברה מניפולציה לא חוקית מצד מעצמה זרה, עם שימוש בכספים לא מוצהרים, שימוש בנשק אלגוריתמי, והיה כאן איום קיומי על הביטחון הלאומי. זו החלטה מאוד יוצאת דופן. וועדת ונציה, שהיא הגוף המייעץ למועצת אירופה למשפט חוקתי, אישרה שיש לבית המשפט סמכות לבטל את תוצאות הבחירות. ג'אורג'סקו נעצר, גילו אצלו עשרה מיליון דולרים במזומן, גילו כרטיסי טיסה למוסקבה, ובמאי 2025 הבחירות נערכו מחדש והמועמד האנטי-רוסי מנצח. אבל על הדרך, במשך חצי שנה, היה בלגן שלם במדינה. אני רוצה לדבר על המלצות: קודם כול, גופי הביטחון כמובן צריכים להיות מודעים לסכנות ולאיומים ולהתכונן אליהם; חלק מהאחריות צריכה ליפול גם על החברות עצמן, על הרשתות החברתיות. אם אנחנו מסתכלים על טיקטוק, למשל, הרי שבעקבות כל העניין הזה היא הסירה עשרות-אלפי חשבונות מזויפים, סילקה מיליוני עוקבים מזויפים, מנעה ארבעים מיליון לייקים מזויפים, אבל את כל זה היא עשתה אחרי הקטסטרופה, אז צריך להכין את עצמנו מראש; וצריך להיערך בבירור להטיית הבחירות בעזרת פייקים של בינה מלאכותית שיכולים למשוך את הציבור לרשתות חברתיות ולמקומות שם שיטו את דעתם, ושיכולים, כמו שראינו במקרה של ביידן ובמקרה של טאיוואן, גם להטעות את הציבור. אלה ההמלצות לעתיד. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה, רועי. חבר הכנסת גינזבורג, בבקשה. << דובר >> איתן גינזבורג (כחול לבן – המחנה הממלכתי): << דובר >> תודה רבה, גברתי יושבת-הראש, אני רוצה לברך אותך על קיום הדיון המאוד מאוד חשוב הזה בייחוד בשנה הזאת. זה דבר שבאמת מדיר שינה מהרבה מאוד אזרחים, קרו דברים בעולם. אני משמש בין שאר תפקידיי כסגן יושב-ראש ועדת הבחירות המרכזית ואני שמח שהמנכ"לית נמצאת כאן. קיימנו בנשיאות ועדת הבחירות המרכזית דיון בנושא הזה כי אנחנו לא קופאים על השמרים, אנחנו מבינים את האתגרים שעומדים בפנינו. אני בטוח שגם המנכ"לית – שתרחיב כאן גם בהמשך – ערה לנושא הזה וכבר החלה לפעול מבעוד מועד כדי להתמודד עם התופעות המאוד מטרידות שניצבות בפנינו. אנחנו נמצאים פה בעולמות חדשים. אלה יהיו בחירות ראשונות בישראל שיהיו בחסות הבינה המלאכותית. אנחנו רואים שזו טכנולוגיה שמתפתחת כל יום ואנחנו לא יכולים להדביק את הקצב של התפתחות הטכנולוגיה הזאת. הציגו פה מקומות שבהם בוטלו בחירות, אבל יש הרבה מאוד מקומות אחרים שבהם הייתה השפעה על בחירות. ראינו איך באירלנד, למשל, מועמדת לנשיאות הודיעה בקולה שהיא מסירה מועמדותה, מה שלא היה ולא נברא. לכן, אנחנו צריכים להתמקד: א', כמו שאמר פה מר צזנה, כוחות הביטחון חייבים להיות מעורבים – השירותים החשאיים, גם מערך המודיעין של צה"ל, גם השב"כ, גם המוסד, גם המשטרה, מערך הסייבר וועדת הבחירות המרכזית – בניסיון למפות את כל הקמפיינים הפייקים שקיימים. אני מאמין שצריך להיות גורם שמרכז את כל הדבר הזה. אנחנו צריכים ליצור מערך הסברה והכשרת הציבור כדי לזהות פייקים כאלו כי זה דבר שיעסיק אותנו יום-יום מעתה וזה יגבר עוד יותר בבחירות. אנחנו צריכים להשקיע בזה לא מעט, גם מחשבה וגם תקציבים. אנחנו צריכים להבין שזה לא רק הפלטפורמות, אך הן צריכות להיות שחקן מרכזי, אני לא יודע אם הן נמצאות מסביב לשולחן. << יור >> היו"ר אורית פרקש הכהן: << יור >> כולם כאן, אנחנו רק בתחילת הדיון, אתה מסכם וזה חשוב אבל אנחנו נדבר בדיוק על האתגרים האלה. << דובר_המשך >> איתן גינזבורג (כחול לבן – המחנה הממלכתי): << דובר_המשך >> לפלטפורמות יש תפקיד מאוד מאוד חשוב בניקיון הרשת, אבל לא פחות חשוב מהפלטפורמות, שחייבות להתגייס כמו שעשו באירופה, גם אותן רשתות P2P (Person-to-person), טלגרם, וואטסאפ, גיימינג, שנמצאים שם ומעבירים מסרים, גם הם צריכים להיות מנוטרים או לדעת ששם קורים דברים. ובעיקר, המפלגות והפוליטיקאים צריכים לדעת שיש להם אחריות ביחס למה שיהיה פה. אני מברך אותך, מצטער שאני צריך לעזוב להצבעות בוועדת החוקה, אנחנו נמשיך לעסוק בזה גם בוועדת הבחירות וגם כמפלגות. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. אנחנו נעמיק היום בסמכויות שקיימות ומה הדברים שנעשים, עו"ד עדס תסביר ותפרט. חברת הכנסת קארין אלהרר, בבקשה. << דובר >> קארין אלהרר (יש עתיד): << דובר >> תודה רבה, גברתי, על הדיון, הוא חשוב מאוד. אני מברכת את מנכ"לית ועדת הבחירות כי אני יודעת שהנושא ממש בליבה. אני רוצה לומר כמה נקודות שקשורות דווקא מקומית לישראל. קודם כל, הקושי בזיהוי המגמה. גופי האכיפה נוטים להתמודד עם מקרים נקודתיים, רואים את העץ אבל פחות רואים את היער. בנקודה הזאת אני כן הייתי מצפה שזה לא יהיה זניח, לא להגיד: טוב, זה קטן, זה קטן. בסוף יש פה תופעה גדולה ורחבה ומכיוון שקשה לצפות את ההשפעה המצטברת של כל מקרה נקודתי קטן וזניח, זה יכול להגיע למשהו מאוד מאוד מז'ורי ואנחנו נראה את הכלל בשלב מאוחר יותר, אחרי שנעשה כבר נזק כבד. אני מצטרפת לכל הדברים שאיתן אמר. העובדה שזה מופץ בין כל הפלטפורמות והן בהיזון חוזר ביניהן, והעובדה שאין חקיקה, וככל הנראה לא תהיה, מחייבת את הפלטפורמות לאקסטרה זהירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> יש חקיקה, פשוט צריך לראות איך אנחנו מיישמים אותה ביחס לאתגרים החדשים. << דובר_המשך >> קארין אלהרר (יש עתיד): << דובר_המשך >> היא מאוד לא מעודכנת לטכנולוגיה היום. כולם מבינים את זה וכולם מבינים שגם לא תהיה עד הבחירות הקרובות. לכן יש אחריות מוגברת לפלטפורמות בעניין הזה. דבר אחרון – היעדר הגדרה ברורה של תחומי אחריות וסנכרון בין כל הגופים. בעיניי, צריך להיות כזה, אם לא יהיה כזה דברים יתפספסו וזה יפגע בכולם. תודה רבה. << יור >> היו"ר אורית פרקש הכהן: << יור >> צודקת, תודה רבה. מאיה אילני ממכון ברנדייס, תשתפי אותנו בעוד התרחשות שקרתה בעוד מדינה. דיברנו על טאיוואן, על רומניה ועל ארצות הברית ועכשיו תספרי לנו על עוד אירוע. << אורח >> מאיה אילני: << אורח >> נכון. תודה רבה ליו"ר על הדיון הזה. שמי מאיה אילני, מנכ"לית מכון ברנדייס לחברה, כלכלה ודמוקרטיה. אנחנו נדבר עכשיו על המקרה של מולדובה, שהיא מדינה קטנה, אוכלוסייה של שלושה מיליון, אבל במקום מאוד אסטרטגי, גובלת באוקראינה, מה שהפך אותה לסוג של מעבדת ניסויים של רוסיה בבחירות האחרונות, שהיו בספטמבר 2025. רק בשביל להבין את סדר הגודל, נראה שרוסיה השקיעה כ-250 מיליון דולר בניסיון להטות את הבחירות במולדובה, שזה בערך אחוז מהתמ"ג שלהם. היו כמה אירועים ששילבו AI שאני חושבת שכדאי שנשים אליהם לב מחשש שאנחנו נראה דברים דומים בישראל בבחירות הקרובות. חודש לפני הבחירות במולדובה, באוגוסט 2025, עולה סרטון סינתטי שנוצר על ידי AI, מופיעה בו יו"ר ועדת הבחירות, בו היא מאשרת שיש מעורבות צרפתית, אירופאית, מערבית והיא אומרת שזה בסדר כי מולדובה בכל מקרה בדרך להצטרף לאיחוד האירופי. תוך 48 שעות הסרטון הזה הופץ ברשתות חברתיות והגיע ל-800 מיליון חשיפות. הוא גם הופץ על ידי דוברת משרד החוץ הרוסי, מה שעזר לתפוצה שלו, אבל, כאמור, גם אחרי שהוא הוסר, ב-48 שעות הראשונות הוא הגיע ל-800 מיליון חשיפות במדינה שיש בה אוכלוסייה של פחות מ-3 מיליון. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה בעצם המטרה של הודעה כזו, שלא אומרת "הקלפיות סגורות", לא אומרת שמועמד מסיר את המועמדות שלו, כמו ביידן? זה משהו מוזר כזה, לא? << דובר_המשך >> מאיה אילני: << דובר_המשך >> נכון. במקרה של מולדובה המפלגה בשלטון הייתה פרו-מערבית, פרו הצטרפות לאיחוד האירופי, והאופוזיציה, שמאוד נתמכה על ידי הקרמלין, הייתה פרו-רוסית. הרעיון היה שאם אי אפשר לנצח בבחירות אז לערער על התוצאות ועל זה שהתהליך היה הגון. בגלל זה המתקפה לא הייתה רק נגד פוליטיקאים או יריבים פוליטיים אלא נגד מוסדות המדינה עצמם ובראשם עובדי ציבור כמו יו"ר ועדת הבחירות של מולדובה. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, לייצר מצב שלכשתהיה התוצאה היא תהיה לא אמינה ואפשר יהיה להגיד: פה בישלו את הבחירות. << דובר_המשך >> מאיה אילני: << דובר_המשך >> בדיוק. עוד מקרה מעניין שלא תוקף מוסדות ציבוריים אבל חברה אזרחית ואת הרשות הרביעית, את התקשורת, מבצע שנקרא עומס יתר. נוצרו באמצעות סרטוני AI סרטונים עם לוגואים של חברות חדשות לגיטימיות, מוכרות, והם לא הופצו באופן ישיר ברשתות אלא נשלחו ישר אל עיתונאים ואל עמותות שמתעסקות בבדיקת עובדות, ב- Fact-checkingובעצם העמיסו עליהן עומס עבודה מטורף בניסיון שהם יעשו debunk, שהם יפריחו את הסרטונים האלה, כשהמטרה הייתה שעל ידי זה שאותם גופים שהציבור נותן בהם אמון, כמו תקשורת ובודקי עובדות, יפריכו את הסרטונים המזויפים הם ישיגו להם עוד תהודה. זה גם מגיע למעל ל-100 מיליון צפיות, חלק מהסרטונים שעשו להם debunking. היו שם הרבה מאוד מבצעים מעניינים אבל נקודה אחרונה לסיום: מבצע שנקרא Storm-1516. אתרים שמתחפשים לאתרי חדשות לגיטימיים, אתרים מפוברקים. מה שמעניין היה שימוש ב-AI על מנת להקנות לאתרים האלה אמינות. באמצעות AI יצרו המון תוכן ש"הופלף" על נושאים שהם לא שנויים במחלוקת או פוליטיים, אבל ברגע האמת, קרוב למועד הבחירות, נשתלו, באמצעות המערכת הזאת של אתרי חדשות שנראים לגיטימיים אבל הם בעצם מפוברקים, הרבה כתבות ומאמרים עם דיסאינפורמציה ופייקים על הבחירות, חלקם גם ממש השתמשו בשמות של עיתונאים אמיתיים ולגיטימיים והיה גם שימוש ב- AIעל מנת לייצר הרבה תגובות למאמרים האלה ולשיתופים של התכנים האלה בטיקטוק וברשתות אחרות על מנת לייצר לזה אמינות. אז שלושה שימושים ב- AIשאני חושבת שצריכים להיות בראש שלנו לקראת הבחירות בישראל. מבחינת שיעור שאפשר ללמוד ממולדובה, כי בסוף הקמפיין הזה לא הצליח להטות את הבחירות לחלוטין, ועדת הבחירות וגופי אכיפת החוק במולדובה עברו מהגנה לתגובתיות, כמו סדרת מתח בנטפליקס, המשטרה וגופי האכיפה אחרים שיתפו כמעט יום-יום את הציבור בחומרים חסויים של אנשים שניהלו רשתות בטלגרם, ניהלו משפיענים שהפיצו פייקים - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> חשפו את מי שטווה בחוטים במאמץ הזה לייצר כאוס. << דובר_המשך >> מאיה אילני: << דובר_המשך >> נכון, אבל חשפו את זה ממש באופן שגרם לציבור להיות דרוך, להתעניין בנושא ולהבין שצריך להיות מאוד זהירים. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני רוצה גם להוסיף, כשסיפרת לי על הסיפור של ועדת הבחירות אמרת שלא רק שיצרו דמות שהיא פייק יו"ר ועדת בחירות אלא גם יצרו תשתית של אתר ועדת הבחירות או משהו כזה, לא? << דובר_המשך >> מאיה אילני: << דובר_המשך >> אני לא יודעת בנוגע לאתר אבל הפיצו את זה על ידי חשבונות שמקורבים לקרמלין ברשתות חברתיות כמו טוויטר וטיקטוק, והם השתמשו בטלגרם בעיקר כמו מטה בקרה על מנת להפעיל את כל המשפיענים שנמצאים ברשתות השונות. << יור >> היו"ר אורית פרקש הכהן: << יור >> מדהים. תודה רבה, מאיה, על הדוגמאות הנוספות. אני חושבת שזה רק מראה כמה היריעה רחבה וכשיש לנו סעיף, שתכף נדבר עליו, שאומר שאסור להפריע ליום הבחירות, אנחנו בעולם קצת צר לעומת קשת האפשרויות שנוכל לכנות אותן "הפרעה ליום הבחירות". דודי סימן טוב, חוקר בכיר ב-INSS, נשמע ממך עוד תופעות ועוד ניתוחים. << אורח >> דוד סימן טוב: << אורח >> בסדר גמור. אני אדבר לא רק על הבחירות, אלא במבט יותר רחב. למעשה, לפני כשמונה שנים היה כאן דיון בנושא הזה של פייק בבחירות, גם אנחנו אז התעסקנו בפייק, זה היה המרכז, והיום, לפחות באיחוד האירופי, יש מושג חדש שנקרא: Foreign Information, Manipulation & Interference (FIMI). זה מושג שבאיזשהו מקום מחליף את העיסוק בפייק, כי המיקוד בפייק עושה בעיה פוליטית, כי זה קשור לדעה ולעמדה פוליטית. ברגע שריכוז המאמץ הוא חיצוני, יגיעו לאיזושהי הסכמה. אנחנו רואים גם מה קרה בארצות הברית, שאחת הסיבות שארצות הברית עסקה בפייק היא שנוצרה התסבוכת כשטראמפ עלה, שביטלו חלק גדול מהמנגנונים שהוקמו והורידו גם את הלחץ על חברות המדיה הדיגיטלית כי בעצם עסקו בדבר הלא נכון. אני חושב שהדבר הזה יכול לעבוד גם לישראל – לא רק בהקשר של בחירות, דרך אגב, הקמפיינים האלה קורים כל הזמן, אף אחד לא מפסיק לעשות אותם, אנחנו עוקבים אחרי האיראנים כבר חמש שנים וגם אחרי רשתות נוספות, ברור שבבחירות כל המערכת נדרכת. << יור >> היו"ר אורית פרקש הכהן: << יור >> תזכיר לכולנו, אתה מדבר על הבחירות הראשונות שבהן טראמפ הפסיד, נכון? << דובר_המשך >> דוד סימן טוב: << דובר_המשך >> הבחירות הראשונות שטראמפ הפסיד, אחריהן התחילו להקים מנגנונים, גם בגוף המודיעין, במשרד החוץ, ב-FBI, ב-ODNI, שהמטרה שלהם היא לחסום התערבות זרה, אבל גם לחסום פייק, והדבר הזה, בתקופת ביידן, הפך להיות חרב פיפיות כי הטענה של טראמפ הייתה: עושים לנו צנזורה. חשוב להבין שיש כאן למעשה שני סוגים של קמפיינים: יש את הקמפיינים החיצוניים, שזה מאוד ברור שהם זרים, זדונים ומנסים להתערב לבחירות – רק עליהם דובר עד עכשיו – ויש קמפיינים פנימיים, domestic ,information manipulation and interference (DIMI) ולגופי המדינה יש בעיה להתעסק איתם. אני לא טוען שאין קשר בין ה-FIMI ל-DIMI, הם הרבה פעמים מתערבבים. יכול להיות מצב שיש קמפיין חיצוני שגוף פנימי מאמץ אותו ומהדהד אותו וזה באמת עושה בעיה, אבל אם אתה, כמדינה, שם את האיום החיצוני במרכז, לכאורה זה מקל עליך עם ההתמודדות כי אתה אומר שמוקד האיום הוא חיצוני. הדבר השני שעשו באיחוד האירופי שהוא מאוד חשוב – לפני שנתיים עשו סוג של חיבור בין הנושא של FIMI ל-cyber security. ברור שזה לא אותו דבר, ברור שיש הרבה דברים שונים, אבל התחברו לשפה, למערכת מושגית ולכלים שאפשר לקחת ולעשות להם סוג של התאמה. הדבר הזה לפחות חילץ מהתסבוכת הזאת שלא יודעים מה לעשות, שיתוק שלדעתי במידה רבה גם מאפיין את - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> תסביר רק מה זה FIMI אל מול מה שבין האמת לשקר. הסברת לי שהסיפור של הטכנולוגיה והבינה המלאכותית קפץ מדרגה במובן הזה שאם היינו עסוקים בדיון של מה אמת ומה שקר בסרטונים, מה פייק ומה לא, אנחנו עכשיו בעוד אתגר. תסביר אותו. << דובר_המשך >> דוד סימן טוב: << דובר_המשך >> רועי צזנה דיבר על מה הולך להיות עם הבינה המלאכותית ואני חושב שלכולם ברור שיהיה מאוד קשה לגרום לאנשים לדעת להבחין, אבל ברגע שאתה לא מתרכז בשאלה אם זה אמת או שקר, אלא בשאלה של מי הגורם שמאיים וזו נקודת המבט שלך, זה הדבר החדש ב-FIMI, Foreign Interference, וזה הדבר שנותן לך הצדקה לסנן או לפחות לנסות לנטרל את האיומים החיצוניים. אנחנו, בשנים האחרונות – לא לבד, אני אומר "אנחנו" כחלק מהחברה האזרחית, וזה גם שונה מהאופן שבאנו לפה לפני שמונה שנים – חקרנו מבצעי השפעה ספציפיים שמיועדים להשפיע על ישראל, גם בבחירות אבל גם בין הבחירות, החל מהאיראנים, שזה היה מחקר משותף שלנו עם "פייק ריפורטר", אחרי זה את הרוסים. יש רשת מאוד מעניינת שנקראת "איסנאד" של אחים מוסלמים, כשהעלינו אותה אז אמרו לנו: מה זה? זו לא מדינה. צריך להבין, זה סוג האיומים שיש. יש גם איומים שלא מצאנו, אני גם לא חושב שאנחנו הגורם היחיד שעושה את זה, חלק מהעניין כשחברה אזרחית חוקרת את זה, זה שאין לה את המתחים שיש לגורמי מדינה, כי אם עכשיו היא נכנסת לתוך קבוצה של מפלגה, שלשם בסוף האיראנים נכנסים, היא לא מרגישה שהיא עושה איזשהו פאול גדול. אני מאוד מבין את הבעיה של הגופים הממלכתיים לעשות את זה, אבל מצד שני יש בפירוש גם דברים שגופי המודיעין צריכים לעשות. המסקנה שלי מכל הסיפור הזה זה שכמובן צריכה להיות היערכות גם בין בחירות ולייצר מדיניות של המדינה בנושא הזה, מה שמאוד חסר. כמובן שבחירות זה זמן שכולם נדרכים ואפשר לעשות עוד דברים. יש חשיבות לרכיב החוסן ולנסות להעלות את המודעות, יש חשיבות לנושא רגולציה. נאמר פה קודם שעד הבחירות לא יקרה שום דבר, אבל כמובן שזה נושא מאוד מרכזי. נושא נוסף זה החברה האזרחית, שיש דברים שהיא עושה לבד, יש דברים שאפשר פשוט להסתמך על זה שהיא תעשה, אבל זה כמובן גם נושא שיש בו הרבה פעמים מתחים ולא תמיד הדברים האלה הולכים בצורה חלקה. הנושא של בינה מלאכותית ששאלת עליו – אין ספק שהוא הולך להעלות. אני שמעתי שעד סוף השנה 90% מהמידע יהיה פייק, מה זה פייק? יש דברים, כמו לשנות קצת פילטר, שזה פייק אבל זה לא מפריע. אבל אין ספק שהיכולת להבדיל – ואת זה גם אנחנו רואים במחקרים שלנו – השתנתה. אם לפני חמש שנים היינו מצליחים מאוד מהר לאתר מישהו שהוא לא מכאן, שהוא לא אותנטי, היום זה הרבה יותר קשה. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, גם הפעילות הלא אותנטית שמפיצה תכנים בצורה מלאכותית כדי להשפיע מתחילה להיות מוסווית יותר, קשה לדעת שזה לא אמיתי. << דובר_המשך >> דוד סימן טוב: << דובר_המשך >> יש את השאלה איך אפשר לרתום את ה-AI לטובת מציאת הדברים האלה, אני חושב שזה כיוון שמאוד חשוב לפתח אותו. אני אגיד משפט אחרון, שהוא פתח אולי לדיון אחר, והוא כל נושא של הרעלת מידע, data poisoning. אנחנו חושבים רק על קמפיינים, וגם כל הדוגמאות פה היו כאלה, של רשתות חברתיות, אבל תחשבו שאנשים הולכים ומחפשים את התשובות במנועי השפה, ב-LLM, ומישהו מרעיל אותם. יש דוגמאות של הרוסים שעושים את זה, גם בוויקיפדיה ובמקומות אחרים, הוא מסתמך על המקומות המורעלים, אחר כך זה נכנס ל-LLM, מישהו לוקח משם, מעביר את הזיהום הלאה והאיום הזה הוא בכלל לא קשור לבחירות, הוא קשור לידע, למאבק על הידע האנושי. אנחנו כותבים מחקר בנושא הזה. אם אנחנו לפני שמונה שנים דיברנו על קמפיינים, עכשיו אנחנו צריכים גם להתחיל לדבר על הדברים האלה. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. יונתן חסידים, מנכ"ל חברת Scooper, צפיתי בך בתוכנית שהייתה בסוף השבוע האחרון בנושא הזה בערוץ 12, ראיתי שאתה מדבר על ישראל יותר, פנימה ביחס למה שקורה ברשתות בישראל. בבקשה. << אורח >> יונתן חסידים: << אורח >> תודה רבה, יושבת-הראש, שמי יונתן חסידים, מנכ"ל חברת Scooper. Scooper היא חברה טכנולוגית ישראלית, אנחנו עוסקים בניטור, מחקר וניתוח של שיח גולשים בהיקפים רחבים מאוד בישראל ובעולם. רוב הפעילות שלנו היא בליווי ועבודה מול מותגים, חברות מסחריות, גם תנועות חברתיות ופוליטיות, אבל אנחנו מתמחים גם בעבודה מול משרדי ממשלה וגופים ציבוריים בנושאים של תדמית מדינת ישראל בזירה הבינלאומית, ניתוח שיח אנטישמי, זיכרון השואה, מדידת אפקטיביות של פעולות הסברה וגם עבודת מודיעין מבוססת OSINTלצרכים ביטחוניים ואזרחים. אני חייב להדגיש שהניסיון הזה הוא סטנדרט אצלנו לגישה זהירה שהיא מבוססת נתונים. אנחנו לא מייחסים כוונות וגם לא קובעים אשמה אבל אנחנו כן מזהים תבניות וחריגות ובמיוחד כשמדובר בתקופת בחירות לתבניות האלה יש משמעות ציבורית. אני אגע פה בשלוש נקודות מרכזיות: השפעה זרה למטרת זריעת כאוס, כמו שהזכיר חברי מה-INSS, אני אגע בזה מעט; השפעה פנימית בישראל קשורה לפעילות פוליטית; וכמה תובנות ופתרונות שאנחנו מציעים ב-Scooper. אנחנו מזהים שני סוגים עיקריים של פעולות השפעה עם מטרות שונות: הסוג הראשון זה השפעה זרה שמטרתה זריעת כאוס בשיח בישראל. יש דוגמה מובהקת, וגם הוזכרה פה, זו הרשת "איסנאד", שגם אנחנו זיהינו וחקרנו אותה וגם גופי מחקר אחרים. חשוב להבין שרשתות ההשפעה הזרות אינן פועלות כדי לקדם איזושהי עמדה פוליטית מסוימת, הן רוצות לערער את השיח עצמו משני קצוות המפה הפוליטית. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה כמו למשל כשחודרים לטלפון? כשאנחנו רואים שחדרו לטלפון של נפתלי בנט, חדרו לטלפון של איילת שקד, זה הכול כדי לייצר כאוס בעצם? << דובר_המשך >> יונתן חסידים: << דובר_המשך >> כן, המטרה היא יצירת כאוס, אבל המטרה של יצירת כאוס זה פשוט לשפוך לתוך הרשת מגוון רחב של תכנים שהם יודעים שהם בנושאים של מחלוקת – אם למשל יש את נושא הגיוס או נושאים אישיים של פוליטיקאים וכדו' – כל דבר שייצור הקצנה ותסיסה בתוך החברה הישראלית, אותן רשתות זרות פועלות לעשות. הן עושות את זה בעזרת פרופילים שנראים ישראלים, שמתוחזקים – זה נקרא "גינון" – "מגננים" אותם כפרופילים ישראלים. הם מדברים עברית, העברית שלהם היא כבר לא העברית הגרועה שהייתה לפני כמה שנים, בעזרת AI הם מדברים עברית שנראית מאוד מאוד אותנטית. עם AI כבר יש היום סרטונים וכו'. צריך להבין שגם רשתות ההשפעה הזרות, ממה שאנחנו מזהים כרגע, גם יותר מתוקצבות ממה שיש ברשתות ההשפעה המקומיות. המאפיינים של הרשתות ההשפעה הזרות זה פתיחה מסיבית של חשבונות בפרקי זמן מאוד מאוד קצרים, פעילות מתואמת סביב אירועים פוליטיים וביטחוניים, קצב מאוד מאוד גבוה של סגירת חשבונות ופתיחת חשבונות, כל חשבון שנסגר – מיד נפתח איזשהו חשבון חדש. צריך להבין שהעלות היא נמוכה והבינה המלאכותית הופכת את המודל הזה למאוד מאוד יעיל, חכם ומהיר. הסוג השני של השפעה היא השפעה פנימית, היא קשורה לפעילות פוליטית של נבחרי הציבור ומועמדים בניסיון להשיג אהדה וחשיפה ושינוי של עמדות קהל. אנחנו מזהים את זה אצל לא מעט פוליטיקאים ישראליים אבל לא אצל כולם. לא אצל כל הפוליטיקאים אנחנו מזהים את התבניות האלה. יש פה תבניות של חריגות של פעילות ברשתות החברתיות שחוזרות על עצמן לאורך זמן. דוגמה אחת זה גל של שיתופים או לייקים שהוא מאוד מאוד חריג, הוא קורה בעיקר בשניות ובדקות הראשונות שלאחר פרסום הפוסט - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> על ידי הפוליטיקאי? << דובר_המשך >> יונתן חסידים: << דובר_המשך >> הפוסט של הפוליטיקאי, כן. בכתבה ב"אולפן שישי" נתנו את הדוגמה לציוץ של ראש הממשלה –נתנו דוגמה לציוץ אחד אבל אנחנו רואים את זה במגוון מקרים, אנחנו לא מתייחסים למקרים בודדים – פרסום סרטון בחשבונו הפרטי של ראש הממשלה של חמש דקות בעברית שהוא מדבר, בשניות הראשונות אנחנו רואים ש-70% מהמשתפים הם בכלל אינם ישראלים. זאת אומרת, חשבון הודי משתף סרטון של ראש הממשלה הישראלי שמדבר בעברית, תוך 12 שניות כבר הבין שהכתבה הזאת מעניינת אותו – הוא כנראה מבין עברית – ומשתף אותו. והוא לא לבד, אנחנו רואים גם מצרים, אנחנו רואים גם איראנים, הודים כמובן, קטרים וכו', הכל סביב הדבר הזה. זו דוגמה שהיא מאוד מאוד מובהקת, היא לא רק אצל ראש הממשלה אבל זו דוגמה שאנחנו הבאנו. אם צוללים לתוך החשבונות האלה צריך גם להבין איך החשבונות האלה נראים בצד שלהם. חשבון הודי שמצייץ מעל ל-165,000 ציוצים בשנה, זה אומר שהוא מצייץ כ-7 ציוצים בכל שעה 24/7, כל הזמן מצייץ, משתף, מצייץ, עושה לייקים, משתף. אז זה היקפים מאוד מאוד גבוהים, וזה איזשהו חשבון ממוצע, ראינו כאלה גם עם 300,000 בשנה ויותר. הדוגמה הנוספת היא דוגמה לשינויים חריגים במספר העוקבים. אנחנו עוקבים אחרי כל חברי הכנסת, מודדים המון נתונים על חברי הכנסת בישראל וחלק מהנתונים שאנחנו אוספים זה גם שינויים במספר העוקבים, כמה עוקבים מצטרפים אליהם, כמה עוקבים יורדים להם ולעיתים אנחנו רואים קפיצות של מאות ואלפי עוקבים בפרקי זמן מאוד מאוד קצרים. זה מראה שיש פה איזושהי פעילות של בוטים, למה? כי כנראה שאותה רשת חברתית סגרה להם בנק של בוטים ומיד הם מחזירים כדי שלא יהיה להם את אותו חוסר. אז זאת עוד איזושהי רשת מתואמת. צריך להבין שכל מה שציינתי יוצר איזשהו מנגנון של גמול ועונש. פה חשוב להדגיש, כשאני מדבר על גמול ועונש ישר אומרים לי: מה אתה רוצה, זה האלגוריתם של הרשת החברתית – אז אני לא מדבר על האלגוריתם של הרשת החברתית, אני מדבר פה על ניצול של האלגוריתם על ידי יד מכוונת כדי לקדם אג'נדות ועמדות. איך התגמול הזה עובד? למשל, פוסט מסוים מקבל תגמול חריג, מקבל יותר לייקים, יותר שיתופים, יותר חשיפה. אז לאותו פוליטיקאי, גם אם הוא לא הפעיל רשת של בוטים, יש תמריץ ברור להמשיך לפרסם תכנים כאלה. הוא גם שם לב שככל שהוא גם מקצין את התכנים גם יש יותר לייקים, יותר שיתופים, יותר חשיפה. אנחנו ראינו במחקרים שלנו שכשהתוכן נוגע בנושאים שהם נפיצים ורגישים הוא מקבל תגמול גבוה, ולכן תהיה נטייה טבעית לפרסם תכנים דומים בצורה רבה וקיצונית יותר. כפי שציינתי, אנחנו מנטרים באופן שוטף את השיח של חברי הכנסת ומנתחים אותו במגוון רחב מאוד של נושאים וזיהינו חריגה משמעותית בכל מה שקשור לפוסטים למשל של הקואליציה סביב מערכת המשפט. מה החריגה שראינו? ראינו שממוצע הלייקים על פוסטים בנושא מערכת המשפט של חברי הכנסת בקואליציה גבוה עד פי שלושה מממוצע הלייקים בפוסטים אחרים במגוון רחב מאוד של נושאים, שהנתון הזה של המגוון הרחב מאוד של נושאים מאוד מאוד דומה גם למספר הלייקים של חברי האופוזיציה. זאת אומרת שיש פה אג'נדה ברורה, יש פה נושא שהוא מאוד מאוד רגיש ונפיץ שמישהו מעוניין לקדם אותו ולכן הוא גם מתגמל שם. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני יכולה להוסיף שזה גם מייצר דעת קהל מסוימת, כי כשאתה רואה את כל הלייקים האלה ואת כל זה, אתה אומר: וואלה, זה באמת הדבר הכי חשוב לכולם. אתה יכול להתבלבל וזה באמת מעניין. כלומר, ההדהוד הוא לא רק של פרסונה, יש גם אג'נדות מסוימות שמהדהדים אותן ספציפית. << דובר_המשך >> יונתן חסידים: << דובר_המשך >> כן, בדיוק. כל מה שאמרתי זה באמת על קצה המזלג, יש עוד הרבה דברים שאנחנו רואים ובודקים לאורך זמן. דרך אגב, חשוב לי להסביר ולהבהיר: אנחנו לא בודקים רק צד אחד של המפה. רק הבוקר פורסם שפוסט של מתמודד לבחירות הושפע על ידי רשת בוטים איראנית, קיבל חשיפה מטורפת ומאוד פשוט, אפשר להיכנס את החשבון, לראות מי המשתפים ולצפות בחשבונות של האיראנים בצורה מאוד מאוד חריגה. זה לא רק צד אחד ואנחנו בודקים את זה כל הזמן. אנחנו ממליצים על שלוש פעולות עיקריות שיסייעו לציבור לצרוך תוכן בצורה בטוחה: אחת, שקיפות – אנחנו נותנים את האחריות דווקא לפוליטיקאים, להיות שקופים יותר, לעשות שקיפות יזומה. << יור >> היו"ר אורית פרקש הכהן: << יור >> יש גם חוק, החוק אומר שמי שמממן את ההדהוד של המסרים שלו חייב להיות שקוף בנושא הזה, גם אם זה לא בהכרח לעשות retweet אלא בכלים יותר מתוחכמים. תכף נדבר על זה. << דובר_המשך >> יונתן חסידים: << דובר_המשך >> נושא השקיפות הוא מאוד מאוד חשוב וזה מוביל לדבר הבא, כל הנושא של חינוך ומה שנקרא חיסון תודעתי לציבור, חינוך לזיהוי פעילות מתואמת וחריגה, דיווח לפלטפורמות – אפשר לדווח לפלטפורמות, אם מזהים דבר כזה אפשר לדווח לטוויטר, לפייסבוק, לטיקטוק ובמרבית מהמקרים הם כן פועלים, הם לא תמיד יודעים, צריך להגיד להם. דבר נוסף שאני חושב שהוא מאוד חשוב, ואני רוצה להתייחס פה לכמה דברים שאמרו לפניי, שדווקא זה שגורמי ביטחון יפעלו יהיה פחות אפקטיבי. זה נכון, מה שחברת הכנסת אלהרר אמרה פה, גורמי הביטחון מנסים למצוא את המפגע הבודד, הם תמיד מנסים למצוא את נקודות הקצה והם לא מסתכלים על דברים בצורה מאוד מאוד רחבה. לכן אני חושב שדווקא כאן החברה האזרחית, במימון ובהכוונה של המדינה, יכולה להיות יותר יעילה, מהירה ואפקטיבית בזיהוי הדברים האלה ולכן לבחור גופים טכנולוגיים מקצועיים ניטרליים. << יור >> היו"ר אורית פרקש הכהן: << יור >> איזה גופים למשל? לא במקרה לא נמצא כאן מטה ה- AIבמשרד ראש הממשלה. בעיניי זה בכלל לא הסקופ שלהם, הם באו לטפל בנושא בינה מלאכותית, בתעשיית ההייטק, בלשפר את חיינו, זה לא הנושא, זה לא באחריות שלהם. << דובר_המשך >> יונתן חסידים: << דובר_המשך >> כשאני מדבר על גופים אני מדבר דווקא על חברות, יש לא מעט חברות ישראליות – Scooper ביניהן אבל אני לא מדבר רק על Scooper, יש לא מעט חברות. דרך אגב, ה-INSS חוקרים, ראיתי שיש פה מפייק ריפורטר, יש לא מעט אנשים וגופים אזרחיים פרטיים שיודעים לעשות את זה ועושים את זה טוב. אני חושב שעבודה משותפת עם אימון – כמובן שגם הגורמים האלה צריכים אימון – תוביל לאורך זמן לכך שנוכל לזהות הרבה מאוד חריגות ולהצביע עליהן. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה. אני חושבת שתיארו כאן הרבה מאוד יכולות להשתמש בטכנולוגיה ובבינה מלאכותית כדי להדהד מסרים, אבל מה שאנחנו צריכים לדייק בדיון הזה זה מה עולה בגדר הפרעה לבחירות, מה עולה בגדר הטיה של הבחירות, בלבול הקהל וכו', כי, למשל, אפשר יהיה לטעון ששר או ח"כ שעשה איזה משהו במהלך התקופה הרגילה של עבודתו, אין כאן בהכרח הטיה במובן של שיבוש הבחירות. שימוש באותם הכלים יכול פעם אחת לעלות כדי הפרת החוק ופעם אחת לא לעלות כדי הפרת החוק בהיבט של חוקי הבחירות. אני קצת עברתי, אורלי, על הסעיפים שיש היום בישראל, הם לא רבים. יש את סעיף 2א1 לחוק הבחירות דרכי התעמולה שמחייב בשקיפות: "לא יפרסם אדם מודעת בחירות בלי שהיא נושאת את שמו של האדם שאחראי להזמנה", אז זה גם יכול להיות במודעת פייק, שצריך שקיפות, שלא ברור לי אם זה נעשה היום; וכמובן, הסעיף המרכזי, סעיף 13, שאומר שאסור להפריע הפרעה בלתי הוגנת בתעמולת בחירות לרשימת מועמדים, להטעיה ולבלבול של הציבור, והדבר הזה הוא גם סעיף פלילי. אני מעבירה את הבמה אלייך, מנכ"לית ועדת הבחירות. תספרי לנו מה עושה הוועדה, מה הסמכויות שמכוחן אתם פועלים. ראינו ושמענו גם, כמו שאמר כאן חבר הכנסת גינזסבורג, שהוא חבר בוועדת הבחירות, שהתחלתם לקיים דיונים בנושא הזה, איך באמת אתם רואים את הדברים ונערכים. << אורח >> אורלי עדס: << אורח >> תודה רבה. אני אפתח ישר בכלים שעומדים לרשותנו, כי האיומים, החששות, הכול כבר ברור. כל הנושא של בינה מלאכותית הוא חדש מאוד, כשלצד זה, חוק הבחירות דרכי תעמולה, שמטיל מגבלות כאלה ואחרות על תעמולת בחירות, הוא חוק מאוד מיושן, משנת 59', כשבחוק הזה נעשו מעט מאוד תיקונים במהלך השנים וברור שאין בו מענה ספציפי לסוגיה של שימוש בכלים של בינה מלאכותית בתעמולת בחירות. כרגע אנחנו לא נמצאים בדיון משפטי, אבל אני כן אזכיר שכל הנושא של הזכות לתעמולה פוליטית הוא בלב ליבו של הערך של חופש הביטוי. לכן כל החקיקה בהקשר הזה וכל הפסיקה של יושבי-ראש ועדות הבחירות המרכזית מדברות על כך שאין מגבלות לחופש ביטוי, ועל חופש הביטוי הפוליטי בפרט, אלא אם כן הם נקבעו במפורש בחוק. וכאן, אגב, החוק לא קובע שאסור לשקר בתעמולת בחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל הוא קובע שאסור להטעות. << דובר_המשך >> אורלי עדס: << דובר_המשך >> נכון, אז יש הבדל בין הטעיה לבין לשקר בתעמולה. הטעם לכך הוא ברור, כי ליושב-ראש הוועדה אין את הכלים לבחון כל דבר אם הוא דבר שקר או אמת, זה הדין, כדאי להכיר את זה. למעשה, הכלי המשפטי העיקרי שקיים בידי יושב-ראש ועדת הבחירות להתמודדות עם הפרות של הוראות חוק התעמולה זו האפשרות להגיש בקשות לצו מניעה בהתאם לסעיף 17ב לחוק הבחירות דרכי תעמולה. מדובר בהליך שיפוטי. קודם כל צריך להצביע על הפרה של סעיף מסעיפי חוק התעמולה, אבל צריך לזכור שזה נתון לשיקול דעתו של השופט, לפרשנות, זה נתון לבחינה בהתאם לנסיבות המקרה הספציפי שנדון בפניו והראיות שמונחות בפניו, ולא בהכרח כל החלטה תקפה או רלוונטית למקרה אחר והיא לא יכולה להצביע על כיוון כזה או אחר בהחלטות. << יור >> היו"ר אורית פרקש הכהן: << יור >> יו"ר ועדת הבחירות היום הוא השופט סולברג. << דובר_המשך >> אורלי עדס: << דובר_המשך >> כן, המשנה לנשיא. צריך גם להבין שאין ליושב-ראש סמכות ליזום התערבות בתעמולה כזו או אחרת, הוא יכול רק לדון בבקשות שמונחות בפניו. הוא לא יכול ליזום קביעת כלל כלשהו שאינו בסמכותו בחוק, או ליזום פנייה אם הוא ראה קמפיין כזה או אחר והוא סבור שהוא לא חוקי, הוא לא יכול ליזום החלטה הזו. זה מפנה אותנו לסעיף שציינת, סעיף 13 לחוק הבחירות דרכי תעמולה, שמפנים אליו כסעיף שמאפשר, לאור העובדה שאין סעיף ספציפי, לדון בעתירות למניעת תעמולה שנעשה בה שימוש בטכנולוגיות של בינה מלאכותית. סעיף 13 לחוק דרכי תעמולה עוסק באיסור הפרעה לבחירות וקובע שלא תהיה תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחת או למענה בצורה או בדרך שיש בהן משום הפרעה בלתי הוגנת של תעמולת בחירות מטעם מפלגה או רשימת מועמדים אחרת. זאת אומרת, קודם כל, זה עוסק אך ורק בתעמולה מטעם מפלגה או רשימת מועמדים. אם יש משהו מגורם פרטי כלשהו או מבחוץ זה לא רלוונטי. מדובר בסעיף מורכב שהפירוש שלו לרוב הוא באיסורים הצורניים ולא בפן של התוכן של הדברים. כך למשל, יצירת מצג כאילו מועמד ברשימה מסוימת כשהוא לא באמת מועמד בה, או הצגת תעמולת בחירות כאילו היא מטעם רשימה מסוימת. אני אזכיר שוב ושוב שזה נתון לשיקול הדעת של יושב-ראש הוועדה ובהתאם למקרה הקונקרטי שמונח לפניו. חשוב להבין שהאיסור בסעיף הזה לא חל על כל הפרעה בלתי הוגנת של תעמולת בחירות ולא משנה מה התוכן שלה. כמו שאמרתי, הוא חל רק על פרסום מטעם מפלגה. כך למשל, לגבי פרסומים מטעם ועדת הבחירות – אם מישהו יוציא איזשהו סרטון מטעם יושב-ראש הוועדה שהוא פייק או נעשו בו שימוש באמצעים כאלה ואחרים – זה לא נכנס בגדרי הסעיף הזה. << יור >> היו"ר אורית פרקש הכהן: << יור >> את אומרת שיש היום סעיף שאומר שלא תהיה תעמולת בחירות מטעם מפלגה או רשימת מועמדים בדרך שיש בה הפרעה בלתי הוגנת של תעמולת בחירות או למענה. היה מקרה, אני מבינה, שעתרו בפניכם, בפני השופט סולברג, על תמונת AI שראש הממשלה שם שבה הנשיא טראמפ כאילו מקבל פרס נובל לשלום. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני מודה, לא מכירה את זה. << דובר_המשך >> אורלי עדס: << דובר_המשך >> זו החלטה שהיא פומבית. יש כאן החלטה של עו"ד שחר בן מאיר שעתר בגין פרסום תמונה שנוצרה באמצעות בינה מלאכותית. הרעיון היה בשאלה האם זה בגדר תעמולת בחירות פסולה. מצד אחד כתב בהחלטה השופט סולברג שזה לא פרסום שהוא תעמולת בחירות, אבל הוא אומר שהבינה המלאכותית ויצירות כזב מציבות אתגרים במשפט, בדיני תעמולת הבחירות, אולי צריך לעשות כאן הסדרה מכוח חוק, אבל הוא כן אומר שאתם כן תידרשו להתייחס למקרים כאלו בשנה הקרובה. << דובר_המשך >> אורלי עדס: << דובר_המשך >> נכון, הכול לפי נסיבות המקרה הספציפי שנדון בפני יושב-ראש הוועדה. תיכף אני אדבר על החידוש שבסעיף 2א1 לחוק התעמולה, שהוא סעיף שנחקק בשנת 2022, בעקבות החלטה של השופט מלצר, ששם הוא פסק על איסור תעמולה אנונימית. החיקוק הזה היה בעקבות ההחלטה. לא היה איסור כזה והשופט מלצר, בפרשנות שלו ולפי נסיבות התיק הספציפי שנדון בפניו – זה היה התיק שנקרא "פרשת הבוטים" – החליט את החלטתו. בעקבות זה נחקק הסעיף שמחייב בחובת שקיפות שחלה על פרסומים מסוימים בלבד של תעמולת בחירות. הסעיף מגדיר על איזו תעמולה מדובר: תעמולת בחירות שנעשית על ידי מתמודד בבחירות, גוף הקשור לסיעה או גוף פעיל בבחירות או מי מטעמם. << יור >> היו"ר אורית פרקש הכהן: << יור >> זו הגדרה די רחבה. << דובר_המשך >> אורלי עדס: << דובר_המשך >> נכון. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, דווקא עכשיו אנחנו עוברים לסעיף אחר שאומר שמחייבים שקיפות. כשמישהו מממן איזו פעילות, כשמישהו עושה איזה משהו, כשמישהו מהדהד משהו, אפילו אם הוא קשור בצורה עקיפה לאלמנטים של בחירות או פוליטיקה, הוא צריך להגיד: אני מממן את זה. זה משהו חדש? מתי זה נכנס לתוקף? << דובר_המשך >> אורלי עדס: << דובר_המשך >> משנת 2022. זה היה חידוש משמעותי, חידוש מאוד דרמטי כאשר זה נחקק כי באמת זה מנוגד לכל מה שבדין הקיים משנת 59'. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז זו בעצם תהיה מערכת הבחירות הראשונה שיהיה לכם הסעיף הזה, שהוא סעיף מאוד משמעותי? << אורח >> גיא לוריא: << אורח >> השנייה. זה עבר לפני הבחירות האחרונות. << דובר_המשך >> אורלי עדס: << דובר_המשך >> היה את הבחירות לרשויות המקומיות גם, שזה אותו חוק. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל מבחינת בחירות ארציות? << אורח >> גיא לוריא: << אורח >> גם בבחירות הארציות האחרונות זה כבר חל. << אורח >> אורלי עדס: << אורח >> זה היה חידוש מאוד מאוד דרמטי ומשמעותי והיה צעד גדול בהתמודדות עם כל התופעה של דרכים בלתי לגיטימיות להטעיית דעת הבוחר ולהפצה של תעמולה לא הוגנת. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז איך אתם רואים את האתגר שהצפנו כאן, ממדינות כמו מולדובה, ארצות הברית? איך אתם נערכים למה שהולך לקרות, ויכול שכבר קורה כרגע, בזירה הטכנולוגית, ברקע הסעיפים שמחייבים אתכם להיות הגוף שמוודא שיש שקיפות, שאין הפרעה בלתי הוגנת? איך אתם נערכים לאתגרים האלה? << דובר_המשך >> אורלי עדס: << דובר_המשך >> אני אספר מה הפעולות שנקטנו במערכות קודמות ומה אנחנו מתכוונים לנקוט, עושים כבר הפעם ומתכוונים להרחיב. קודם כל, הכלי העיקרי זה מתן החלטות על ידי יושב-ראש הוועדה בהתאם למקרים שיבואו לפניו. כפי שציינת, היו כאלה ואחרות שנתנו חידושים וכן התייחסו לסוגיות הללו. אנחנו מקיימים בכל מערכת בחירות – נדמה לי שזו תהיה כבר מערכת הבחירות החמישית – מפגשים אחד על אחד עם נציגי הפלטפורמות השונות. הפעם כבר הקדמנו את המפגשים האלה. נמצא כאן ליאור מטיקטוק ויהודה ממטא, שניפגש איתם בשבוע הבא. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, אתם בקשר שוטף עם הרשתות החברתיות. מה עם טלגרם? << דובר_המשך >> אורלי עדס: << דובר_המשך >> טלגרם זו סוגיה בעייתית, אני חושבת שכולם מבינים שאין - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> זו פלטפורמה רוסית, לא? << אורח >> עידן רינג: << אורח >> אין להם נציגים בישראל. << אורח >> אורלי עדס: << אורח >> אין נציגות ואין יכולת לפעול מולם. אנחנו פועלים מול הפלטפורמות שניתן. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל זו גם הערה חשובה, שאין יכולת לפעול מול טלגרם. << אורח >> עידן רינג: << אורח >> גם מול X אין יכולת לפעול. << יור >> היו"ר אורית פרקש הכהן: << יור >> למה? << אורח >> עידן רינג: << אורח >> כי אין להם נציגים. << אורח >> אורלי עדס: << אורח >> ניסינו בעבר, כשהיה את טוויטר. << אורח >> עידן רינג: << אורח >> אני אשמח להרחיב על זה אחר כך, יש הרבה מה להגיד. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני אשמח שתרחיב. << אורח >> אורלי עדס: << אורח >> אנחנו מקיימים את המפגשים הללו, קודם כל כדי להדק את הקשר ואת שיתופי הפעולה, כדי לגרום גם למחויבות שלהם כלפי מערכת הבחירות במדינת ישראל. אנחנו כן רוצים ללמוד מהם, יש להם תובנות ממערכות בחירות ברחבי העולם. זה נאמר כאן, רק לאחרונה היו 30 מערכות בחירות, הם מקבלים את התובנות, עושים שימוש בכלים טכנולוגיים כאלה ואחרים לניטור, הסרה וכו'. << אורח >> עידן רינג: << אורח >> הם מפרטים איזה? << יור >> היו"ר אורית פרקש הכהן: << יור >> הם יציגו. הדיאלוג מול הרשתות החברתיות הוא כדי שבזמן אמת יהיה מנגנון שאתם תסירו תכנים, נכון פייסבוק וטיקטוק? אתם תדברו. << אורח >> אורלי עדס: << אורח >> צריך להבין שזה לא בכל מקרה ויש הליך מאוד סדור שמתנהל מול פרקליטות המדינה. אבל כן, זה כדי לוודא גם שמביאים את התובנות, וככל שעושים שימוש בכלים טכנולוגיים כאלה ואחרים במערכות בחירות ברחבי העולם והן רלוונטיות, אז לוודא את זה. יש מחויבות מאוד מאוד גדולה שלהן, אני מוכרחה לומר, ושיתוף פעולה מצוין עם הפלטפורמות הללו. אנחנו נקבע גם פגישה עם גוגל, נרחיב את הדברים. זה בקשר למפגשים. כבר מזה מספר מערכות בחירות – דיברו על זה ואני מניחה שידובר כאן עוד רבות – הכלי האפקטיבי ביותר זה קמפיין תודעה לציבור וחינוך לאוריינות דיגיטלית. זה הכלי הכי הכי משמעותי. גם במערכת הבחירות האחרונות בארצות הברית הבינו את זה וגם במדינות אחרות. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, להסביר לציבור שהם בעידן חדש שבו יכולים להתל בו, שהציבור צריך להיות ספקן בנוגע למה שהוא רואה. אתם מתכננים את הקמפיין הזה כבר? << דובר_המשך >> אורלי עדס: << דובר_המשך >> עשינו קמפיינים כאלה כבר שלוש מערכות בחירות, זה נקרא "קמפיין פייק ניוז", לא היה את הבינה המלאכותית אבל בקמפיינים שלנו פנינו לציבור וניסינו ללמד איך לצרוך מידע, יש כל כך הרבה מידע ברשת אז לתת כלים איך לצרוך מידע ברשת, איך לשים לב לתכנים כוזבים. עכשיו המיקוד יהיה גם בבינה מלאכותית, אנחנו נחדד את התכנים, נגבש את המסרים יחד עם גופים שונים רלוונטיים. אנחנו מתכוונים לתקצב תקציב מאוד מאוד גדול לקמפיין הזה כי אנחנו חושבים שזה כלי מאוד מאוד משמעותי. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז אתם כבר נערכים לקמפיין הסברה לציבור. << דובר_המשך >> אורלי עדס: << דובר_המשך >> בוודאי. הוא היה בעבר ונרחיב אותו. נפגשנו כבר עם הלפ"מ, אנחנו כבר עושים חשיבה על המסרים, אנחנו פועלים בתחום הזה. אבל אני רוצה להפנות תשומת לב, ברשותך יושבת-הראש: מישהו כאן דיבר על ניקוי התכנים, אבל צריך לזכור שאנחנו מדברים בבחירות במיליוני קמפיינים כנראה, או לפחות מאות-אלפים, כולנו כאן מבינים שאי אפשר לנקות את "רחובות" המרחב המקוון מכל הקמפיינים האלה. זה לא יקרה, זה בלתי ישים. יש פה אנשים טכנולוגיים ומהתחום שיותר מבינים את זה ממני כמובן, זה לא ניתן, זה לא בר ביצוע לנקות את כל המרחב המקוון מתכנים בעייתיים או אפקטיביים. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל השאלה אם לא נכון שתקימו אצלכם מין חמ"ל טכנולוגי, עם אנשי מקצוע, שייערכו 90 יום, 100 ימים. אני אומרת לך את הדברים האלה גם כפוליטיקאית בבית, זה יכול לקרות כהרף עין. אנחנו לא באמת יודעים אם הבחירות יתקיימו בסוף השנה או יוקדמו בגלל כל הסיפור עם הגיוס וכו'. שמענו כאן מאיתן ואחרים שאתם רוצים להתמקד ספציפית בנושא הטכנולוגי, זה נכון? << דובר_המשך >> אורלי עדס: << דובר_המשך >> כן. אני רק אסיים את המשפט הקודם לגבי ניקוי המרחב. צריך גם לזכור סוגיה נוספת, שגם אם מסירים קמפיין, גדול ככל שיהיה, הוא יכול לעלות תוך מספר שעות בחזרה שוב. לכן הכלים הנוספים, בעיקר הקמפיין לתודעת הציבור, כנראה הוא היותר משמעותי. דבר נוסף שאנחנו עושים, וזה מכוון לדברים שדיברת עליהם, זו כבר מערכת הבחירות השישית שלקראת כל מערכת בחירות מכנסים פורום מאוד מאוד רחב, עם נציגים של כל גורמי הביטחון במדינת ישראל, שירות הביטחון הכללי, מוסד, צה"ל, מערך הסייבר, פרקליטות המדינה, משטרת ישראל, הרשות להגנת הפרטיות, כל הגורמים הרלוונטיים לסוגיה הזו, קודם כל כדי לייצר פורום משותף, שפועל בשיתוף פעולה וכל אחד מביא את הכלים ואת התובנות שלו. אני אזכיר שלגופי הביטחון יש כלים שהם יכולים לעשות בהם שימוש ורק הם יכולים לעשות בהם שימוש. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל יש לכם מנגנון עבודה מסודר איתם? << דובר_המשך >> אורלי עדס: << דובר_המשך >> כן, יש לנו. אנחנו עובדים בשיתוף פעולה הדוק עם השב"כ, קיימנו כבר מפגש עבודה איתם מאחר שנכנסנו לשנת בחירות. החלטנו להקים צוות משותף, צמ"מ, צוות מיוחד, שאנחנו בדיוק בימים אלה מגבשים את הרכבו, לחשוב על צוות מצומצם יותר מהפורום הרחב, שהוא פורום מעולה שמשיג הישגים גדולים אבל אנחנו רוצים לעשות גם צוות משותף שלנו מיוחד, מצומצם, וזה דבר משמעותי. דבר נוסף, אנחנו בכל מערכת בחירות מקימים דסק, יש לנו בדיוק בקומה הזו את משל"ט יום הבחירות שלנו, מרכז השליטה של ועדת הבחירות. במרכז השליטה הזה אנחנו מקימים דסק מיוחד של להתמודדות עם פייק ניוז, שבו יושבים נציגים מפרקליטות המדינה, המשטרה, שב"כ, הגורמים הרלוונטיים, וככל שיש סוגיה שדורשת טיפול מידי יש לנו את כל הפורום ואת כל הכלים לעשות את זה בו במקום. אני אתן דוגמה לפייק ניוז שהיה למשל ביום הבחירות לפני מספר מערכות בחירות, דומה לדברים שנאמרו כאן. יצא סרטון בבוקר יום הבחירות בשמה של אורלי לוי, שהייתה בעלת רשימה משלה, הגישה מועמדות ונאמר שהיא פרשה מהמרוץ, שאין מה להצביע על הרשימה שלה כיוון שהיא פרשה מהמרוץ. מיד הוגשה עתירה ליושב-ראש הוועדה והודות לטיפול בדסק הזה עשינו הליך מאוד סדור ומהיר והייתה פעולה להסרת התכנים הללו. כאן הפלטפורמות הן השותפות המשמעותיות. << יור >> היו"ר אורית פרקש הכהן: << יור >> האם בדסק הזה שאתם מקימים עכשיו יהיו יועצי בינה מלאכותית? זה דבר חדש שתעשו? << דובר_המשך >> אורלי עדס: << דובר_המשך >> אנחנו כרגע נמצאים בדיוק בהליך בחינה לאיתור יועצים, אנחנו רוצים לאתר יועץ מומחה AI ומומחה פייק ניוז להקים פורום פנימי שלנו שילווה את כל תהליכי העבודה מהיום עד יום הבחירות. יש לנו יועץ AI שלקחנו כרגע לפעילות הפנימית שלנו לתדרוך העובדים. << יור >> היו"ר אורית פרקש הכהן: << יור >> לטיוב של המנגנון שלכם ליום הבחירות עצמו, אבל זה נושא אחר. << דובר_המשך >> אורלי עדס: << דובר_המשך >> בדיוק. כרגע אנחנו עוסקים בהליך לאיתור יועצים שיהוו פורום. אנחנו נרחיב את זה, זה משהו שהוא על סדר יומנו. אני מניחה שעד תקופת הבחירות ותוך כדי תהליך הבחירות במעלה הדרך יהיו לנו תובנות נוספות, כמו שאנחנו יודעים באתגרים אחרים שהיו לנו, גם אתגר הסייבר. אני אזכיר, בבחירות שהתקיימו בשנת 2019, הראשונות בסבב, זה לא היה אתגר מוכר בתהליכי בחירות, עיקר הבחירות נסוב סביב אתגר סייבר ותודה לאל צלחנו אותו חמש מערכות בחירות בהצלחה רבה. נמצא כאן, אגב, בוקי כרמלי, שהוא יועץ הסייבר של ועדת הבחירות, הקים את מערך הסייבר הלאומי, הוא חלק מהתהליכים בוועדה, חלק מהיועצים שלוקחים חלק. אני רוצה לומר שזה על סדר יומה של הוועדה, כפי שהבנתם, אנחנו עושים פעולות רבות, שגם הקדמנו אותן, ואנחנו הולכים להרחיב פעילויות רבות ולעשות פעולות רבות. אני מאמינה שכל המהלכים הללו יחד יובילו להתמודדות עם האתגר הזה. אני לא ציינתי אבל בטח ידברו כאן על חקיקה באיחוד האירופי, אם נדרשת, וכאן חברי הכנסת יחליטו אם הם רוצים להסדיר חובת זיהוי על שימוש באמצעי AI בתעמולה או לא. << יור >> היו"ר אורית פרקש הכהן: << יור >> לדעתי, מקריאת סעיף השקיפות, הוא לגמרי חל כי הוא אומר: "לא יפרסם אדם מודעת בחירות בלי שהיא נושאת את שמו ואם פעל אדם מטעם מתמודד או גוף אחר". "גוף אחר" – כלומר, אפילו רשימה מאוד רחבה. גם, מה זה "מודעת בחירות"? זה משהו מאוד מאוד רחב. זה ממש דורש שקיפות גם במודעות פייק של AI להגיד מי משלם, מי עומד מאחורי זה, ולדעתי זה יכול להיות פתרון לחצי מהמקרים. << דובר_המשך >> אורלי עדס: << דובר_המשך >> אבל יש את עניין חובת הסימון. << יור >> היו"ר אורית פרקש הכהן: << יור >> סימון אין, זה באמת מה שרציתי לומר. << דובר_המשך >> אורלי עדס: << דובר_המשך >> לסמן שהסרטון נעשה באמצעי בינה מלאכותית ואז כצורכת מידע אני יודעת שאני צורכת מידע שעשוי להיות פיקטיבי. << יור >> היו"ר אורית פרקש הכהן: << יור >> נכון, רציתי לומר, ואני מניחה שגם נדבר על זה, שאנחנו עדיין לצערי נמצאים במקום שבו במדינת ישראל אין חובת סימון מוצרים של AI, אין חובה לומר "הסרטון הזה נוצר באמצעות בינה מלאכותית", אין את הסעיף הזה, בשונה ממדינות אחרות בעולם, והדבר הזה גם מקשה עליכם מהבחינה הזו. דבר שני, אין גם סמכות במדינת ישראל לבוא ולתת צו כופה על הרשתות החברתיות: תסירו במידי את התוכן הזה. בעצם את מתארת תהליך שדנו בו בדיונים אחרים בוועדה, לא בהקשר של בחירות, בהקשר של פייק, בהקשר של הונאות, זה תהליך מסודר עם הפרקליטות במשרד המשפטים, שפונה לרשתות ואומרת: אנא מכם, תסירו, או משכנעת אותן להסיר, במקום שיהיה לנו צו כמדינה שיפעל במהירות. אני רוצה לשאול אותך: א', מה באמת את חושבת שהיה מטייב או משפר את היכולת שלכם לעבוד אל מול האתגרים האלו? את יכולה להגיד לי תיקון החוקים, שזה באמת לא רק בידייך. וב', הייתה כתבה גדולה על מבקר המדינה שמבקר מאוד את ההיערכות שלכם, ממה שבדקתי, אני יודעת שזאת עבודה בעיצומה, אבל מה את יכולה לומר לנו על הדבר הזה. << דובר_המשך >> אורלי עדס: << דובר_המשך >> אני אתייחס לאמירות שנאמרו על ידי מבקר המדינה. << יור >> היו"ר אורית פרקש הכהן: << יור >> למה מבקר המדינה אומר שאנחנו צריכים לדאוג? << דובר_המשך >> אורלי עדס: << דובר_המשך >> הייתי שמחה לראות את המסמך שעליו הוא מסתמך כי אנחנו עדיין לא קיבלנו אותו. להבנתי, מבקר המדינה עורך דוח גדול על כל סוגיית ההתמודדות עם AI בכלל, בכל התחומים: חינוך, חקלאות וכו', וגם בתחום הבחירות. הוא פנה אלינו, נדמה לי לפני שנה וחצי, ביקש לדעת איזה פעולות נקטנו בבחירות וכו'. מאז לא ממש שמענו ואז שמענו את הכותרת הגדולה. אני ביקשתי לקבל את הבסיס לאמירות האלה כדי שנוכל ללמוד מזה לתגובה. להפתעתי, מדובר בדוח שנמצא בשלבי כתיבה, כשטיוטה אפילו לא אושרה עדיין, לא הועברה למבוקרים, אנחנו לא קיבלנו. זאת אומרת שהמסקנות מהדוח כבר נגזרו כשאין דוח סופי ואין תגובות של מבוקרים, שזה דבר שאינו מקובל, מסקנה סופית לדוח שעדיין איננו סופי. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני מניחה שהדברים יפורסמו, שאתם תקבלו את החומרים ואז תראו במה מדובר. << דובר_המשך >> אורלי עדס: << דובר_המשך >> אני חושבת אבל שגם בדברים שהוצגו כאן אתם מבינים שהוועדה פועלת ועושה הרבה מאוד דברים. אני אציין שממה שאנחנו למדנו בעולם, יש בגדול ארבע פעולות שעושים כדי להתמודד עם הסוגיה: חקיקה ספציפית – דובר כאן שחקיקה רחבה כנראה לא תהיה, יכול להיות שכן צריכים לשקול את חובת הסימון שנעשה שימוש באמצעי AI. << יור >> היו"ר אורית פרקש הכהן: << יור >> שאדם יראה סרטון וידע שזה מלאכותי. << דובר_המשך >> אורלי עדס: << דובר_המשך >> כן, זה יחסית תיקון קטן אבל הוא בהחלט יכול להביא בשורה. << יור >> היו"ר אורית פרקש הכהן: << יור >> מסכימה איתך. << דובר_המשך >> אורלי עדס: << דובר_המשך >> יכול להיות שכדאי שחברי כנסת יקדמו את זה וזה בהחלט יהיה כלי יעיל ליושב-ראש הוועדה. << יור >> היו"ר אורית פרקש הכהן: << יור >> הממשלה, לצערנו, לא רוצה לקדם את החקיקה הזו, אבל אני מצטרפת להערה שלך. << דובר_המשך >> אורלי עדס: << דובר_המשך >> אני לא אכנס לזה. הדבר השני שהעולם עושה זה הנושא של קידום קמפיינים להעלאת מודעות הציבור; הדבר השלישי זה קידום הוולונטריות של הפלטפורמות השונות להפעיל כלים טכנולוגיים לזיהוי תכנים שלא נכון לאפשר את קידומם – אנחנו כן מזהים נכונות כזו, הפלטפורמות צריכות להיות מאוד מחויבות אבל זה וולונטרי בגדול; והסרת תכנים בהליכים חוקיים סדורים, שיש הליך כלשהו אבל הוא לא חל על כל תוך תוכן, הוא מאוד מצומצם. << יור >> היו"ר אורית פרקש הכהן: << יור >> הוא לא מהודק. היום למדינת ישראל אין סמכות חוקית להורות לרשתות החברתיות להסיר ולכן הכול הולך לאט ומבזבזים אנרגיות. אני יודעת שאתם עושים כאן עבודה מאוד חשובה. אני אתן לאיתי, ממשרד המשפטים, לדבר, איש הקשר שעושה בדרך כלל את הדברים הללו ברמה היומיומית. תודה רבה, נמשיך לשמוע. אני חושבת שהרעיון של חמ"ל שמהדק את העבודה בין השב"כ עם כוחות טכנולוגיים משופרים ומחוזקים אצלכם זה מהלך מאוד מאוד חשוב, שיהיה לכם כוח טכנולוגי לקראת וביום הבחירות. אני גם שואלת את עצמי, לפני שנפנה בדיוק ליהודה, מפייסבוק, ממטא, ולליאור, מטיקטוק, אם באמת טלגרם, שהיא רשת רוסית – וראינו פה שרוסיה מאחורי כל כך הרבה כאוס, או משמשת בעצמה הדהוד לאיראן ולגופים אחרים – האם לא נכון ביום הבחירות לחסום רשת שלא מייצרת דיאלוג עם ישראל, כמו טלגרם, או משהו אחר. אני לא יודעת מה, אני מנסה לחשוב. << אורח >> עידן רינג: << אורח >> בסופו של דבר, רוב השימוש של אזרחים בישראל הוא לא בטלגרם, הוא ברשתות שנמצאות פה בחדר ומה שהם יכולים לעשות הוא הרבה יותר ממה שנדרש מהם. << יור >> היו"ר אורית פרקש הכהן: << יור >> תן לי קצת לחלוק עליך. אני חושבת שאחרי ה-7 באוקטובר השימוש בטלגרם - - - << דובר_המשך >> עידן רינג: << דובר_המשך >> יש לנו את הנתונים פה, אנחנו חוקרים את זה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז תכף נראה. << אורח >> אורלי עדס: << אורח >> ברשותך, יושבת-הראש, רק לחדד נקודה בדברים שנאמרו קודם: לגבי צווים של יושב-הראש, כן יש הליך מאוד מאוד סדור להסרת תכנים. כשיושב-הראש נותן צו להסרת תוכן מפלטפורמה כלשהי, יש הליך סדור שמתנהל באמצעות פרקליטות המדינה שפונה לפלטפורמה להסרת התוכן שנדון בעתירה. << אורח >> עידן רינג: << אורח >> שזה תהליך שלוקח הרבה זמן, שאין בבחירות. זה לא רלוונטי לבחירות. << אורח >> אורלי עדס: << אורח >> נתתי דוגמה של אירוע שקרה בבוקר יום הבחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני חושבת שבאמת צריך להיערך, צריך לחזק את השריר הטכנולוגי וצריך גם לבנות מראש תרחישים שתיערכו אליהם בהקשר השקיפות. אני חושבת שהסעיף של השקיפות, שהוא יחסית חדש, נותן כאן כלים, ואני מצטרפת לקריאה שלך, שלא ייתכן שבמדינת ישראל אין סעיף שמגן על אזרחי המדינה או עלינו, כמו בכל העולם, שאומר: תסמנו כשמשהו לא אותנטי, תסמנו כשמשהו הוא פייק. יהודה ממטא, בבקשה. << אורח >> יהודה בן יעקב: << אורח >> קודם כל, תודה על ההזמנה לדיון. אני אפתח ואגיד שהנושא של שימוש לרעה בפלטפורמות, או באינטרנט בכלל, בהקשר של הפרעה לבחירות, זה משהו שאנחנו מכירים המון שנים. אנחנו גם משקיעים בו המון משאבים וגם לומדים ממערכת בחירות למערכת בחירות. כמו שאמרתם, היו רק בשנתיים האחרונות כ-30 מערכות בחירות מסביב לעולם. בכל המדינות שבהן היו בחירות הפלטפורמות של מטא פעילות ואנחנו לומדים ומשתפרים מהדברים האלה, כשאחד הלקחים המרכזיים שלנו זה אותו צוות ייעודי לליווי מערכת בחירות שאנחנו מקימים - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> יש לכם באמת צוות ייעודי שמלווה בחירות? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> כן, יש צוות מומחים ייעודי שבעצם מלווה מערכות בחירות בכל העולם והוא מוקצה ביחס למערכת בחירות כאשר מתקיימת אחת כזאת במדינה. במערכות הבחירות שהיו בישראל משנת 2019 ועד היום הצוותים הייעודיים האלה הוקצו לטובת הפעילות במדינת ישראל, הם בעצם אלה שנותנים את המענה המידי כשוועדת הבחירות פונה אלינו או כשדברים עולים מהשטח. אז יש גם ניטור וגם תגובתיות מהירה באמצעות צוות כזה שעובד מסביב לשעון סביב מערכת הבחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> בבחירות קודמות, ממה שאני יודעת למשל בשנת 2019, אתם הסרתם הפרות כללי בחירות, למשל של בנימין נתניהו שהעלה סקר ביום הבחירות, שזה דבר שהוא אסור. מטא בעצם הסירה בעקבות צו שזו הפרה. זה לא נוגע לטכנולוגיה, אני מנסה להראות איך אתם פועלים בעולם הישן יותר. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> כן, אנחנו נותנים מענה לצווים של ועדת הבחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז קיבלתם צו להסיר את הסקר בחירות ביום הבחירות וזה מה שעשיתם. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> כן. אם אורלי רוצה להתייחס לזה או מישהו מוועדת הבחירות, בבקשה. << יור >> היו"ר אורית פרקש הכהן: << יור >> לא, זו שאלה עובדתית. זה קרה? << אורח >> אורלי עדס: << אורח >> כן. << אורח >> יהודה בן יעקב: << אורח >> כשאנחנו נערכים לבחירות אנחנו מקיימים גם תהליך מסודר של הערכת סיכונים ועושים את זה לאור מה שאנחנו שומעים מיו"ר ועדת הבחירות, לאור מה שאני שומע כאן ומה שהמומחים בחדר אומרים. אז כל הערכת הסיכונים הזאת מתקיימת. גם ביחס לבחירות שקרו בעולם בשנתיים האחרונות, כחלק מהערכת הסיכונים הנושא של שימוש בבינה מלאכותית לייצר מצגי שווא זה משהו שעלה בצורה בולטת, מן הסתם. כן צריך לומר שמהנתונים שאנחנו לומדים ממערכות הבחירות מ-2024 אחוז ניסיונות הטעיה באמצעות בינה מלאכותית במובן הקלאסי של דיפ-פייק לא היה מאוד משמעותי, ודווקא יש עדיין המון מקום לאותן הונאות קלאסיות שפחות דורשות שימוש בכלים מתוחכמים. אם אני יכול לתת דוגמה, משאל עם שהיה באוסטרליה לפני כשנתיים, בו לקחו תוכן מוועדת הבחירות המרכזית שמדבר על הצבעה כפולה, הוציאו אותו מהקשר וגרמו לאיזושהי קונספירציה שלמה שאפשר להצביע פעמיים, ועדת הבחירות שם פעלה כמובן מול הפלטפורמות ואנחנו הסרנו את התכנים האלה. אז כן צריך להגיד שבינה מלאכותית אמנם הולכת ומשתפרת, והיא גם זמינה יותר אז אנשים ישתמשו בה יותר, אבל נכון להיום אין ראיות שזה נעשה ממש - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> למרות שהסיפור של מאיה ממולדובה, של סרטון פייק של יו"ר ועדת הבחירות שם, כל ההדהוד והתשתית שעליה מהדהדים את כל הדברים האלה זה הרשתות. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> נקודה מעניינת, אני רוצה רגע להתייחס לנושא של AI ואני חושב שיש לו שני היבטים: היבט אחד זה השימוש בבינה מלאכותית יוצרת כדי לייצר תוכן. שם אני חושב שכולנו מדברים על איך שאנחנו מבינים בינה מלאכותית היום ואיך שאנחנו רואים אותה היום, אבל גם ברור לנו שזו טכנולוגיה שהיא זזה בקצבים אחרים לגמרי. מה שאנחנו יודעים להגיד היום על תפוצה של תוכן ב-AI ואיך שתוכן שנוצר ב- AI מתנהג ברשתות חברתיות, זה לא מה שיקרה פה בעוד חצי שנה וזה לא מה שהיה פה לפני חצי שנה. רק בסוף השבוע האחרון אדם מוסרי, המנכ"ל של אינסטגרם, כתב בלוג שעורר המון הדים, שאומר: אנחנו נמצאים במצב שבעתיד ממש לא רחוק לא נצטרך לחשוב על סימון של תוכן AI – אפרופו השיחה שניהלתם כאן – אלא דווקא ניסיון לעשות אותנטיקציה של תוכן אותנטי, מכיוון שתוכן AI יהיה תוכן שמאוד שולט בפלטפורמות אינטרנט באופן כללי, באתרי האינטרנט, בחדשות, אפילו בחדשות המיינסטרים, יצירה של תכנים באמצעות AI מוזילה תהליכי הפקה וזה גם משהו שיעשו שם. גם השאלה היא מה אתה עושה ב-AI, אתה משנה רגע את הפילטר? אתה גורם למישהו להיראות טיפה יותר שזוף? זו הטעיה? זו לא הטעיה? איפה אנחנו מכניסים סימונים ולמה? בעצם הוא אומר כאן משהו מהפכני, הוא אומר שבעתיד הלא רחוק אנחנו נצטרך לשאול איך אנחנו עושים אותנטיקציה של תכנים אותנטיים ולא לשאול את עצמנו איך אנחנו מסמנים תכנים שנוצרו ב- AIוזה קצת היפוך היוצרות. בהקשר הזה הנושא של חינוך - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> מה אתה בעצם אומר? האתגר הוא לא הסימון אלא? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> אני לא אומר שהאתגר הוא לא הסימון, אני רק אומר שעם הקצב שהטכנולוגיה מתפתחת וכמות התפוצה של תוכן AI, יתכן והשאלה אם אנחנו מסמנים תוכן AI תהפוך להיות לא משמעותית כי אנחנו נצטרך לחשוב איך אנחנו מסמנים תוכן שהוא אותנטי, או איך אנחנו עושים אותנטיקציה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני חושבת שגם וגם. אם אתה רואה מועמד בחירות שאומר: אני פורש, אל תצביעו לי, די, ביום הבחירות אני פורש – זה קיצוני. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> זה מקרה שהיה באמת באירלנד, עם קתרין קונולי. התוכן הזה הוסר, אגב, בתגובה מאוד מהירה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אתם הסרתם את התוכן הזה באירלנד. מה באמת אומרת מדיניות השימוש של מטא? אני עורכת דין בהכשרתי אז כמו שדיברתי עם אורלי, בסוף, במדיניות השימוש שלכם, איזה סעיפים אתם מחויבים אליהם ואפשר לחדד אותם בהקשר של בחירות ויום בחירות? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> בהקשר של AIאו בהקשר של בחירות? << יור >> היו"ר אורית פרקש הכהן: << יור >> גם וגם, כל מה שאתם מסירים. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> הנושא של בחירות הוא נושא מאוד רחב - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> יש לכם סעיפים ספציפיים במדיניות השימוש בנושא בחירות? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> כן, יש סעיפים ספציפיים. << יור >> היו"ר אורית פרקש הכהן: << יור >> ומה הם אומרים? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> אני יכול לחלק את זה למדיניות שימוש בפלטפורמות שלנו בכל מה שקשור לפרסום בנושא בחירות, אני מתכוון פרסום ממומן, שם חלות חובות שקיפות מוגברות, חובה לאמת את זהות המפרסם, צריך שיהיה כתוב בכל פרסומת שיוצאת מטעמו של פוליטיקאי מי משלם עליה. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה בעצם חופף לסעיף הישראלי של השקיפות. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> נכון, זה משהו שהושק ב-2019 בשיח עם הוועדה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל זו מדיניות שימוש כללית של מטא העולמית, היא לא ייחודית לישראל. << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> נכון, אבל היא הייתה בחיתוליה במערכות הבחירות הראשונות שהתחלנו ללוות פה בישראל באמצעות צוות ייעודי, עברה גם מאז שיפורים וכל נושא אימות מפרסמים נעשה. לצד זה, בכל מה שקשור לתוכן אורגני יש תכנים שאנחנו לא מאפשרים. ההסרה של התוכן שנוצר בבינה מלאכותית של המועמדת האירית בבחירות נעשה מכיוון שהוא תוכן מטעה לגבי ההליך הדמוקרטי עצמו, לגבי הבחירות. נאמר בו שמועמדת פורשת כשהיא לא פורשת. באותה מידה אנחנו נסיר תכנים גם אם אלה תכנים שאומרים לצורך העניין שקלפי מסוימת סגורה או שיש מצב חירום בעיר מסוימת ולכן אי אפשר להגיע להצביע שם, דברים מהסוג הזה, שמטרתם להטעות לגבי עצם קיום התהליך. אני רוצה להדהד את מה שנאמר כאן גם ע"י דודי מה-INSS. הרבה פעמים כשאנחנו מדברים על מידע כוזב ועל שימוש בתכנים מבינה מלאכותית אנחנו צריכים לשאול את עצמנו מה הסיגנלים ההתנהגותיים שעומדים מאחורי זה ובעצם מי מעביר את התוכן ולא מה התוכן עצמו. הרבה פעמים זה עוזר לנו לזהות את אותם מבצעי השפעה – ככה קראתם לזה גם בכותרת הדיון – וכשאנחנו מדברים על מבצעי השפעה יש לנו צוותים של מומחים שחוקרים מבצעי השפעה כל הזמן ואותם צוותים הופכים להיות צוותים שמוקצים בצורה ייעודית לליווי של מערכות בחירות. אני יכול לתת דוגמאות. אנחנו מפרסמים בכל רבעון את המחקרים האלה. אנחנו מדברים על כ-20 רשתות שאנחנו מפרסמים עליהן ברבעון. ב-2025 ראינו השפעה איראנית על תהליכים דמוקרטיים באזרבייג'ן, שהתכנים שהופצו באמצעותה היו קשורים לישראל. להשפיע על דעת הקהל שם שקשורה לישראל בכלים של איראנים. זה רשתות שזיהינו והפרענו את הפעילות שלהן באמצעות המחקרים שלנו. אז אני חוזר לנקודה שאנחנו מסתכלים על היבט אחד שהוא התוכן, ההיבט השני זה הסיגנלים ההתנהגותיים, דיברנו על זה גם בהקשר של הונאות ברשת, מאיפה זה מגיע, האם זה מתואם, איך הדברים האלה קורים. << יור >> היו"ר אורית פרקש הכהן: << יור >> סיימתם מול רשות ניירות ערך? << דובר_המשך >> יהודה בן יעקב: << דובר_המשך >> אנחנו ממשיכים בתהליך, כמו שהובטח, לפי לוחות הזמנים שדיברנו עליהם. << יור >> היו"ר אורית פרקש הכהן: << יור >> תסיימו כבר. תודה רבה. בקיצור, אתם עובדים כרגע בזמן אמת עם ועדת הבחירות, אתם על הדברים. ליאור, טיקטוק, בבקשה. << אורח >> ליאור וינטרוב: << אורח >> צהריים טובים. דובר פה הרבה על בינה מלאכותית אבל לא רק בינה מלאכותית, אז זו הזדמנות להגיד מה מותר, מה אסור ומה טיקטוק עושה בהקשרים של הבחירות. אז קודם כל, אנחנו בטיקטוק פועלים בכל האמצעים כדי לא להיות איזה פקטור בתוך התהליך הדמוקרטי וכדי למנוע כל פגיעה בתהליך הדמוקרטי. אנחנו רוצים לאפשר שיח אבל אנחנו רוצים גם לאפשר לקהילה שלנו לראות מתי שיח הוא אותנטי ומתי שיח הוא מלאכותי, להבחין בתכנים כאלה ואני תכף אסביר איזה כלים אנחנו נותנים. אנחנו צברנו הרבה ניסיון סביב כ-200 מערכות בחירות אחרונות ואנחנו כל הזמן משתפרים ולומדים, וגם צריך להגיד שמי שמנסה להערים על המערכת שלנו גם משתפר וזה תמיד משחק של חתול ועכבר. נתחיל מזה שבטיקטוק פרסום פוליטי אסור. זאת אומרת שלפוליטיקאים, למפלגות, לממשלות אסור לשים כסף מאחורי פרסום פוליטי. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה זאת אומרת? תוכן פוליטי בטיקטוק נמצא בלי סוף. << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> את לא יכולה לעשות קמפיין ממומן. את יכולה להגיד מה את עושה אבל את לא יכולה לשים מאחורי זה כסף. הגוף היחיד בזמן מערכת בחירות שיכול לשים כסף מאחורי פרסום זו ועדת הבחירות המרכזית שרוצה להנגיש את התהליך הדמוקרטי, מה קורה, מתי קורה, איפה מוצאים את זה ומודעות בסגנון הזה. בזמן מערכת בחירות אנחנו פותחים MCC, שזה מין חדר מצב, חמ"ל, שכולל את כל מומחי התוכן ואת כל אנשי הפרודקט בכל המערכת כדי לאפשר מתן מענה מידי לכל מיני סוגיות שעולות, כי אנחנו מבינים שהזמן הוא מאוד מאוד מרכזי פה. אנחנו כבר דרוכים ומסתכלים על מערכת הבחירות בישראל, שעדיין לא התחילה – הוזכרה פה הפגישה עם ועדת הבחירות המרכזית – ונמצאים בקשר עם מומחים. אנחנו כבר בקשר, לפני המהלך, כדי לראות מה מתפתח, איזה נרטיבים ואלה מגמות עלולות להיות וכדי שנקדים תרופה על המכה. << יור >> היו"ר אורית פרקש הכהן: << יור >> איך טיקטוק פועלת בנושא קמפייני תודעה? כי אולי פוליטיקאים לא יכולים להעלות סרטונים ממומנים אבל בסוף אנחנו יודעים מי הבעלים של טיקטוק. אנחנו גם ראינו את הצעדים הקיצוניים של ארצות הברית, שהודיעה לטיקטוק שעם כל הכבוד, כל מעורבות סינית בארצות הברית לא תהיה בטיקטוק. בארץ לא עושים את הדברים הללו אז איך אנחנו מתגוננים – אנחנו מכירים הרי את הציר, ציר שקשור קשר הדוק גם לרוסיה – מפני אינטרסים זרים בטיקטוק עצמה? בוא תרגיע אותי. ארצות הברית הכריחה את טיקטוק הסינית למכור את הבעלות בטיקטוק ושהיא תהפוך לחברה אמריקאית כדי להגן על האזרחים האמריקאים מפני חדירה לפרטיותם וקמפייני תודעה כי הם רוצים שהדבר הזה יהיה מופרד, בארץ לא עושים את הדברים האלה, אז איך אתה רואה את הדברים? << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> קודם כל, אני מודה על ההזדמנות להגיד שוב שהבעלות בטיקטוק שייכת ל-60% משקיעים בין-לאומיים, רובם אמריקאים, עוד 20% בידי העובדים ועוד 20% בסקטור פרטי - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> כן אבל מדיניות השימוש כפופה לכללים של סין, כבר עשינו את הדיון הזה בהקשרים אחרים. << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> אני לא הייתי בדיון, אני לא מכיר, אבל תמיד חשוב לומר את זה שוב. וה-20% הנוספים נמצאים בידי סקטור פרטי בסין. קמפייני השפעה אסורים בטיקטוק, אסור גם בוטים, אסור גם דיסאינפורמציה ואסור הטעיה מכוונת, בוודאי בהקשר של מערכת בחירות. למשל, אפרופו בנושא בינה מלאכותית – תכף ניתן גם ממש נתון – כל הנושא של בינה מלאכותית נמצא בכל הנושא של דיסאינפורמציה, כשאנחנו רואים את זה אנחנו מורידים את זה. יש לנו את המערכת שלנו, יש לנו - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> זה במדיניות השימוש שלכם גם? << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> כן, ודאי. דיסאינפורמציה מזיקה, שבאה לפגוע בתהליך הדמוקרטי, להגיד: קלפיות פתוחות, קלפיות סגורות, מועמד פרש, אסורה אצלנו. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה עם הפצה לא אותנטית בכמויות מטורפות, כמו שדובר? << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> גם זה בניגוד לכללי הקהילה שלנו. אנחנו כל הזמן משפרים את המאמצים שלנו. קמפייני השפעה זרים, פנימיים, אסורים. כשאנחנו יודעים, אנחנו מורידים, שאנחנו מקבלים אינפורמציה עליהם, אנחנו מורידים. << יור >> היו"ר אורית פרקש הכהן: << יור >> איזה קמפיין השפעה למשל טיקטוק הורידה? << דובר_המשך >> ליאור וינטרוב: << דובר_המשך >> כל מי שיכתוב במרכז שקיפות שלנו קמפייני השפעה. אנחנו כל רבעון מפרסמים על איזה קמפייני השפעה עלינו והורדנו אותם. מדי פעם יש גם קמפייני השפעה שקשורים בסביבה שלנו, בישראל, ברשות הפלסטינית. זה פתוח לציבור, אני ממליץ להסתכל על זה מדי פעם. אז אמרנו שקמפייני השפעה אסורים. אנחנו גם בקשר עם רשויות החוק, גם עם ועדת הבחירות המרכזית, במערכת בחירות אנחנו יותר דרוכים, מסתכלים יותר טוב. גם פה זה מאמץ קהילתי. לגבי AI, שימוש ב- AIמצריך אצלנו שימוש בתווית שהתוכן נעשה באמצעות AI. יצרנו בתוך האפליקציה כלי מאוד נגיש וקל לשימוש שעשרות מיליונים משתמשים בו. אם השתמשת ב- AIאתה צריך להשתמש בכלי הזה ואז זה כותב ש- AIהיה מעורב פה. במקרה ולא עשית את זה, אנחנו נחפש את זה ונסמן את זה בעצמנו. במידה ולא עשית את זה וזה חומר שהוא חומר מזיק, בוודאי בהקשר של מערכת בחירות, זאת אומרת לתת דמות שמדמה דמות פוליטית או דמות ציבורית שתומכת במועמד או תומכת באיזושהי עמדה, זה כבר משהו שירד, או שאנחנו נוריד את זה עצמאית. אם אנחנו נשמע על זה אנחנו נוריד את זה ולכן יש חשיבות גדולה בדיווח. ברבעון הראשון של 2025 הורדנו באופן פרו-אקטיבי 97% מהחומרים שעברו על מדיניות ה- AI שלנו. רובם המוחלט – אין לי את הנתון המדויק אבל מעל 90% – לא קיבלו צפייה אחת. אנחנו במקביל גם מייצרים – אני מצטרף לדברים שאמרה מנכ"לית ועדת הבחירות – קמפיינים גם בתוך הפלטפורמה כדי ליידע את הציבור בשורת החיפוש שהוזכרה פה קודם, כשמישהו רוצה מידע, אנחנו מעדכנים, אנחנו מפנים למקורות מידע אמינים ולפעמים גם נותנים הערה שיש אירועים שמתפתחים מהר ורצוי לחפש מידע ממקורות אמינים. אנחנו מייצרים מרכז בחירות בתוך הפלטפורמה, גם פה, לחבר לוועדת הבחירות המרכזית או למקורות מידע מאומתים אחרים. אני חוזר ואומר, אנחנו עובדים טוב עם רשויות הממשלה, אני חושב שהמאמץ הזה הוא מאמץ של חתול ועכבר, גם מול הטכנולוגיה וגם מול כאלה שמבקשים להפר ולפגוע במאמץ של הבחירות, ואנחנו נהיה בכל שולחן עגול וכל תהליך שנידרש אליו בשוטף וגם במערכת הבחירות עצמה. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. שכחתי לציין את ההתנצלות של ראש ועדת המדע, יאסר חוג'יראת, שלא משתתף בדיון בגלל שהוא נסע להלוויה של עוד נרצח בתראבין. אני מצטערת, שכחתי למסור את זה בשמו. הוא ביקש לומר שבכפר תראבין, ליד רהט, נרצח האזרח מוחמד תראבין בתוך ביתו מול ילדיו. במקום גינוי, בחר השר לביטחון פנים לפרסם סרטון שמעניק גיבוי לשוטר שירה. מאז כניסתו של השר לתפקיד נרצחו בחברה הערבית 754 אזרחים ערבים, אזרחי המדינה, והוועדה הזו חייבת לומר בקול ברור: דם האזרחים איננו הפקר. אני מתנצלת, הוא היה אמור לקיים את הדיון הזה לצדי וביקש ממני לומר את הדברים האלה שבגללם אינו משתתף בדיון. במעבר חד, עו"ד איתי גוהר, משרד המשפטים, יועמ"ש מחלקת הסייבר, בבקשה. אני אשמח סוף סוף לשמוע הסבר למה אתם לא מתקנים את החוק כך שתהיה לכם סמכות להורות על הסרת תכנים ולא לבקש, וגם לשמוע איך אתה רואה את הדברים. << אורח >> איתי גוהר: << אורח >> עו"ד דין איתי גוהר, אני מפרקליטות המדינה, במחלקת הסייבר, מנהל את הצוות שעוסק באכיפה אלטרנטיבית, למעשה אכיפה שהיא אלטרנטיבית להליך הפלילי, התעסקות בפרסום ולא במפרסם. בשנים האחרונות פעילות הצוות הופכת להיות רלוונטית יותר ויותר. << יור >> היו"ר אורית פרקש הכהן: << יור >> אחרי ה-7 באוקטובר עבדתם מאוד מאוד קשה. << דובר_המשך >> איתי גוהר: << דובר_המשך >> מה-7 באוקטובר הפעילות שלנו עלתה במאות אחוזים. מה-7 באוקטובר ועד היום בחנו אצלנו במחלקה למעלה מ-300,000 תכנים. תכנים יכולים להיות גם פרסום בודד וגם פרסום רוחבי עם השלכות על עוד אלפי תכנים. הצוות מאוד מאוד מאוד עסוק בנושאים האלה. חשוב לי להגיד בהקשר של בחירות הוא שיש לנו שני כובעים: אחד, אנחנו סוג של היד הארוכה של ועדת הבחירות בהעברה של צווים והחלטות לפלטפורמות שלאו דווקא יש להן נציגות בישראל. פלטפורמות שיש להן נציגות בישראל בדרך כלל מקבלות את זה - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> מבחינה משפטית, כשיש צו של ועדת הבחירות, אתה מוסמך לכפות על מטא להסיר תוכן, או שעדיין אתה רק פונה אליהם, אומר: ניתן צו, אנא מכם הסירו? << דובר_המשך >> איתי גוהר: << דובר_המשך >> בפעילות שלנו לא היה שינוי בשנים האחרונות. האדנים של הפעילות שלנו זה שלושה תנאים מצטברים: אחד, אנחנו מזהים הפרה של החוק, שניים, מזהים הפרה של תנאי השימוש, ושלוש, יש לנו אינטרס ציבורי בפעולה מדינתית להפסקת הפרסום. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל חשוב לי לחדד כמשפטנית, גם הפעילות הזו לא נעשית מכוח חוק שאומר להם בלי שיקול דעת תסירו. אתם צריכים להראות להם שזה נוגד את מדיניות השימוש שלהן ויתר התנאים שבגינם אתם פונים בשם המדינה, אבל זה לא אומר: אתם חייבים להוציא את זה תוך חמש דקות, נכון? << דובר_המשך >> איתי גוהר: << דובר_המשך >> לתפיסה שלנו, הוראה מחייבת של יו"ר ועדת הבחירות מחייבת גם את החברות בתוך ישראל. אנחנו מעבירים את זה כצו כופה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז ספציפית בחוקי בחירות, התפיסה שלך היא שזה צו כופה. << דובר_המשך >> איתי גוהר: << דובר_המשך >> או צווים ספציפיים, שהם לאו דווקא מוועדת הבחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל אז למשל אם יש לך משהו רחב יותר שהוא לא צו של ועדת הבחירות – קמפיין תודעה, דברים כאלה – אתה שוב חוזר לרמת דיאלוג ביניהם. << דובר_המשך >> איתי גוהר: << דובר_המשך >> המדינה באזורים האלה היא סוג של מדווח מהימן, אין לנו סמכות לכפות וזה משהו שהוצג גם בוועדות אחרות. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה סוג של אתגר. בצו ספציפי של ועדת בחירות שנוגע למקרה אחד ספציפי ביום הבחירות – בסדר; אבל אתם עדיין גם בעולמות הדמוקרטיה, שיבוש בחירות וטוהר הבחירות נמצאים בעולם של מדווח מהימן. << דובר_המשך >> איתי גוהר: << דובר_המשך >> נכון. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה הסברת לגבי רשתות שאין לנו קשר איתן, טלגרם? << דובר_המשך >> איתי גוהר: << דובר_המשך >> אנחנו יודעים לעבוד עם טלגרם באזורים מסוימים. בגלל שאנחנו בוחנים את תנאי השימוש, תנאי השימוש של הרשת מאוד מכתיבים את ההסרה או אי ההסרה של התכנים. אם יש רשת מסוימת שתנאי השימוש שלה מתירים המון המון תוכן, אז גם אם אנחנו נפנה זה לא יוסר. לכן אנחנו רואים את זה באחוזי ההסרה, אבל אנחנו לא יכולים לבוא ולהגיד שאין לנו שום יכולת מול טלגרם. כנ"ל גם טוויטר. אנחנו פועלים גם עם טלגרם וגם עם טוויטר באזורים שבהם מוסדרים תנאי השימוש שלהם. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, אין סמכות לכם או לנו כמדינת ישראל לבוא ולהגיד "תסירו את זה" כמו שיש במדינות אחרות. צריך להגיד שיש את הסמכות הזו למדינות אחרות. פה אתם בעצם אומרים: תקשיבו, הפרתם את מדיניות השימוש של עצמכם, אנא תסירו. << דובר_המשך >> איתי גוהר: << דובר_המשך >> הפרסום הפר את תנאי השימוש ואנחנו עושים לכם את ה-notice, למעשה מעדכנים אתכם בהפרה הזאת ומבקשים את ההסרה. זו הפעילות שלנו שגובשה ורצה כפעילות פרקטית בהיעדר הסדרה אחרת. << יור >> היו"ר אורית פרקש הכהן: << יור >> היה לך, איתי, חיים יותר קלים אם היית יכול לומר: זו ההנחיה שלנו. << דובר_המשך >> איתי גוהר: << דובר_המשך >> כשאנחנו מדברים על הבחירות יש מסמך עקרונות שגובש לפני כמה מערכות בחירות, הוא מנחה אותנו עקרונית, אבל מעבר למסמך הזה, כמחלקה אנחנו מתעסקים כל היום בתחום הזה ויש לנו צוות ספציפי שמתעסק בפעילות מול הרשתות ומול הפרסומים, וכאשר עולה איזושהי אינדיקציה לקמפיין או אירוע שמגיע מוועדת הבחירות או מהשותפים הביטחוניים, אצלנו במחלקה אוחזים את זה, אנחנו מנתחים את כל המידע שיש ובמקרים המתאימים אנחנו פועלים. בתקופת הבחירות אנחנו מצמצמים את זמני התגובה שלנו בדברים האלה לשעות ספורות של התייעצות וקבלת החלטה, גם קבלת החלטה על ידי דרג יותר בכיר, אם צריך לעלות לפרקליט מדינה או לגורמים נוספים במערכת, אנחנו עושים את הכול מאוד מאוד מהר. אנחנו גם עושים סוג של מפגש התנעה עם הרשתות לפני כן וכולם מכירים שצריך להגביר את התשומות לפרסומים מהתחום הזה. אני יכול להגיד שמהניסיון שלנו אנחנו כן מדברים על פרק זמן יחסית קצר מרגע הדיווח עד הגשת הבקשה ועד סיכול התוכן או ההסרה שלו. << יור >> היו"ר אורית פרקש הכהן: << יור >> האם אתם נערכים להתקדמות שהוצגה לנו כאן? כי סיפרו לנו דברים מאוד קיצוניים על רומניה, שלוקחים בן אדם שיש לו 5% תמיכה והופכים אותו למנצח בבחירות בתוך שבועיים, השפעה זרה על סרטוני פייק ברמה מאוד מאוד גבוהה של יו"ר ועדת הבחירות. האם אתם נערכים וחושבים שהבחירות הללו דורשות מכם איזושהי היערכות אחרת ואיך אתם עושים את זה? << דובר_המשך >> איתי גוהר: << דובר_המשך >> היתרון שלנו כמחלקה זה שאנחנו פועלים באופן רציף גם בין תקופות הבחירות, אז הסוגיות האלה של AI או פרסומים בנפח גדול ופרסומים שהם יצירי מכונה, זה משהו שאנחנו נוגעים בו גם ביום-יום באזורים אחרים. מן הסתם זה יוסיף לנו אתגר אבל אנחנו כן פועלים גם בשגרה בתכנים האלה, ולמעשה אנחנו לא פוגשים את ההתקדמות הטכנולוגית באינטרוולים של בחירות, אנחנו פוגשים אותה כל הזמן. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל אתה לא חושב שיש כאן איזשהם אירועים שגורמים לכם להיערך אחרת? מה זה "אתם רואים כל הזמן"? הסיפורים ששמענו בפרק זמן של שנה וחצי זה לא דברים שראיתם בעבר. << דובר_המשך >> איתי גוהר: << דובר_המשך >> אבל ראינו פרסומים וקמפיינים כאלה גם בתקופת "חרבות ברזל", במהלך המלחמה, במטרה להניע או לבצע קמפיינים של השפעה מקומיים גם בתחומים אחרים, אז אנחנו לא פוגשים את זה פעם ראשונה עכשיו בהקשר הבחירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אז אתם בעצם ערוכים. אתם חלק מהצוות שוועדת הבחירות מקים? << דובר_המשך >> איתי גוהר: << דובר_המשך >> נכון. << יור >> היו"ר אורית פרקש הכהן: << יור >> טוב, אז נסיים בשאלה: איזה כלים היית שמח שיהיו לך? << דובר_המשך >> איתי גוהר: << דובר_המשך >> נמצא פה נציג של ייעוץ וחקיקה, זו נראית לי שאלה שמתאימה יותר אליהם, אנחנו בתחום הפרקטי והביצוע של הפעולה, אנחנו רצים על התכנים וכל מה שמגיע אלינו נבחן באופן מקצועי וכמה שיותר מהר. << יור >> היו"ר אורית פרקש הכהן: << יור >> נציג ייעוץ וחקיקה רוצה לומר? אני פשוט רואה שיש כאן אירוע רגיש כי מאוד מכבדים את ועדת הבחירות כגוף שעומד בפני עצמו וכל הנושא של הבחירות זה שלו. משרד המשפטים נזהר מאוד לא להעיר הערות ביחס לתחום הזה בגלל הסיבה הזו, כשזה לא באמת, הסיפור של הבחירות הוא עניין של ממשלה. << אורח >> אוראל שריקי בן צבי: << אורח >> נעים מאוד, אוראל שריקי בן צבי, מהמחלקה הכלכלית, אשכול טכנולוגיה. אני חושבת שיש פה שני נושאים שונים: אחד, הנושא שאתה מציין, שנוגע להסדרת רשתות חברתיות או להקשרים יותר רחבים של הסרת תכנים, שזה כמובן נושא מורכב, אני לא עוסקת בו בייעוץ וחקיקה, אני כן מכירה שבוחנים אותו גם בהקשר ליישום חקיקת ה-DSA שנכנסה לתוקף לפני שנתיים באירופה ולמידה של הלקחים משם, אבל זה כן נושא מורכב שגם מעורר שאלות על תחולה אקס-טריטוריאלית וחופש ביטוי. בהקשר של בחירות – אני מתחברת למה שיושבת-הראש אמרה – באמת יש גוף ייעודי שאמון מכוח חוק על ניהולן של הבחירות לכנסת, ועדת הבחירות המרכזית, ובכוונת מכוון ועדת הבחירות היא גוף סטטוטורי בעל מעמד מיוחד במבנה המשטרי שלנו, היא גוף עצמאי מהרשות המבצעת, הממשלה, וחיצוני לה והיא לא כפופה להחלטותיה ולהנחיותיה. הטעם לכך הוא הרגישות המוסדית המובנית בכך שהממשלה תהיה מעורבת בניהול הבחירות מטבע הדברים. על הרקע הזה ובשל יחסי הכיבוד ההדדי בין רשויות השלטון והפרדת הרשויות, הממשלה לא נוהגת ככלל ליזום הצעות חוק בהקשר של דיני הבחירות על ההיבטים השונים שלהם, גם פרשנות הדין הרלוונטי נתונה בידי יו"ר ועדת הבחירות. אני כן אומר שאנחנו כמובן מאזינים לדיון, לומדים את החומר וגם נעמוד לרשות הוועדה, ככל שיבקשו להיוועץ איתנו או בכל הקשר אחר. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני מכבדת את התפיסה שלכם שאומרת: אנחנו ייעוץ משפטי לממשלה – למרות מה שאומרים עליכם בימים אלה – זה לא עניין של ממשלה, הבחירות זה אירוע אחר. אבל מצד שני אנחנו במין מעגל שוטה כי כולנו יודעים שצריך לתקן חלק מהדברים. את אומרת: אני לא מתקנת כי זה של ועדת הבחירות, אבל יושבת אורלי, ועדת הבחירות עצמה לא יוזמת תיקוני חקיקה. היא לא תיזום ותגיד: הינה, אני מעלה לוועדת שרים לענייני חקיקה חקיקה. היא אמרה עכשיו: אם רוצים לתקן, שהממשלה תתקן, שחברי הכנסת יתקנו. אז נוצר כאן ואקום. אנחנו קצת בענייני נימוסים והליכות במקום לטפל בבעיה. << אורח >> אורלי עדס: << אורח >> הוועדה כן יוזמת חקיקה, אנחנו הובלנו המון המון מהלכים לתיקון החקיקה בתחום הבחירות, אבל תחום של דיני התעמולה, את בעצמך ציינת את זה קודם, זו סוגיה רגישה, היא גם סוגיה פוליטית וועדת הבחירות לא נכנסת לסוגיות הפוליטיות הללו. לכן אנחנו ניתן את כל התמיכה המקצועית, ככל שהכנסת תרצה לחוקק, אבל יש כאן סוגיות שיש להן משמעויות פוליטיות ואינטרסים כאלה ואחרים ואנחנו בוודאי לא רוצים להיות במקום הזה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל חקיקה כמו סימון של תוצר AI זה בכלל בתפר בין משרד המשפטים לוועדת הבחירות, זה לא נושא שהוא פרטי של ועדת בחירות וזה נושא שבאמת אין הסבר למה הוא מתעכב, פשוט אותו הסבר שבגללו מה שנקרא "חוק הפייסבוק" יתאדה מחיינו. יש כאן שיקולים נסתרים של הממשלה, ישבו כאן והסבירו לנו מי בדיוק עושה קמפניי תודעה, גם בממשלה עצמה. אני רוצה שהדיון יהיה באמת ענייני ושניקח מכאן דברים כי הנושא חשוב, אבל בואו לא נשלה את עצמנו שהוא לא מטופל ובדברים הכי בסיסיים, כמו סימון AI, כמו לתת סמכות לאיתי להגיד לרשתות: תסירו, כמו בנושא של פלטפורמות מסוימות שלא מדברות איתנו וכו'. פייק ריפורטר, בבקשה. << אורח >> ניר רוזן: << אורח >> פייק ריפורטר – אני מנכ"ל הארגון – הוא מיזם מחקר בשיתוף הציבור שמשתמש בחוכמת המונים, חוקרים ומומחי רשת כדי להיאבק בפעילות זדונית, הכוללת פעילות לא אותנטית, הסתה לאלימות, שיח שנאה וקונספירציות ופייק ניוז. הדיון פה מתחלק לשני חלקים: יש את הסיבה הרשמית שלשמה התכנסנו, שזה דיון על AI ומערכת הבחירות, וכל הזמן ברקע יש כאן את הדיון על מבצעי תודעה שהם אינם דווקא מחוברים ל-AI. אם אמרנו מקודם שהדיון מאוד מנומס אז אני אחרוג מהנימוס ואני אגיד שאני קצת יוצא מוטרד ומדוכא מהדיון הזה, כי לתחושתי, ממה שאני שומע פה מסביב לשולחן, אנחנו לא ערוכים לבחירות ולמה שהולך להתרגש עלינו. אני רוצה לספר רק כדי לתת טעימה קטנה על רשת שאנחנו גילינו לפני כשבועיים והיא פורסמה ברבים. זו רשת איראנית שפעלה בערבית על הציבור הישראלי. כולנו חושבים לעצמנו ש- AIזה סרטוני דיפ פייק, אבל בעצם ה- AIלא פיצח רק את הוויזואליה, ה- AIפיצח את הוורבליות, וכשאנחנו מסתכלים בפייק ריפורטר על קמפייני AI, אנחנו לא מסתכלים רק על סרטון שבו נראה את נתניהו אומר משהו או ששתלו משהו ליאיר גולן בפה, אלא אנחנו מדברים על אקו סיסטם שלם שיכול לשבת בחור בטהרן ולהפעיל אותו, וזה כולל קנייה של נכסים דיגיטליים, שזה כולל הפעלת אתרי אינטרנט, שזה אומר פנייה לפעילים. במקרה שאנחנו חשפנו זו רשת שרכשה עמוד אינסטגרם עם 30,000 עוקבים, התחזתה לארגון חברה אזרחית ישראלי-ערבי, פנתה לגופי תקשורת בערבית ופרסמה בהם מאמרי דעה, ראיינה יועצים פוליטיים, עשתה שיתופי פעולה והדהודים באותו עמוד אינסטגרם עם חברי כנסת מהבית הזה, הקימה מגזין תרבות שבו ראיינו ושיתפו אנשים. והחברים ברשתות, אני באמת מחבב אתכם ברמה האישית, אבל גם אחרי פרסום הרשת המשיכו לפנות לפעילים, לארגוני חברה אזרחית ולפוליטיקאים ולשתף איתם פעולה, והרשת הזאת, לפחות בחלקה, עדיין פעילה היום. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, אתה אומר שהאמירה הזו שהכול מטופל והמנגנון עובד בצורה מיטבית היא לא בדיוק נכונה. << דובר_המשך >> ניר רוזן: << דובר_המשך >> "לא עובד בצורה מיטבית" זה אנדרסטייטמנט. אני יכול לספר על רשתות שחשפנו. יושבים פה חברים ב-INSS שעבדנו איתם על זה, רשתות שחשפנו לפני שנה ויותר, רשתות איראניות שבזמן מלחמת ישראל-איראן עדיין פעלו כאן. איך לדעתכם גויסו כל כך הרבה סוכנים, מרגלים, אנשים בשטח בישראל? כמה היו, מעל 30? שפעלו ועד ימים אלו ועד עכשיו אנחנו רואים מעצרים שלהם. הרשתות האלה עדיין פועלות. << יור >> היו"ר אורית פרקש הכהן: << יור >> למשל דבר כזה, אתם פונים למשרד המשפטים, לפרקליטות, למטה הסייבר? << דובר_המשך >> ניר רוזן: << דובר_המשך >> אנחנו פונים למטה הסייבר, אנחנו פונים לרשתות, אנחנו משתפים פעולה בערוצים פחות רשמיים. << אורח >> אורלי עדס: << אורח >> יש את שירות הביטחון הכללי, זה המקום. << קריאה >> קריאה: << קריאה >> איך אתם פונים לרשתות? << אורח >> ניר רוזן: << אורח >> באמצעות דואר אלקטרוני ובאמצעות תוכנות מסרים מידיים. << יור >> היו"ר אורית פרקש הכהן: << יור >> למה ללכת לנושאים ביטחוניים וקמפיין תודעה? היה כאן דיון על הונאות פיננסיות, שאנשים לוקחים את זהותם הפרטית ומוכרים השקעות ומפילים אנשים בכסף, זה לוקח חודשים וזה לא מוסר מהרשתות. עכשיו אנחנו מקווים שהדבר הזה יבוא לכדי פתרון, ויש את היכולות הטכנולוגיות לטפל בזה, זה פשוט עניין של סדרי עדיפויות וגם רווח כלכלי שהדבר הזה מניב לרשתות. צריך לומר את האמת. << דובר_המשך >> ניר רוזן: << דובר_המשך >> חד-משמעית, אני מסכים. אמר פה נציג Scooper מקודם שצריך החברה האזרחית וארגונים כלכליים, אז אני מצטער, לא, זה לא תפקידנו לנטר, לדווח ולמצוא, לרשתות החברתיות יש את המשאבים, המדינה יכולה לכפות ולהכריח את הרשתות לקיים דברים. זה לא תפקיד החברה האזרחית וזה לא תפקיד ארגונים מסחריים כאלה ואחרים. אז על אף הכוונות הטובות של כולם, ואני באמת מאמין שיש כוונות טובות לכולם, צריך לטפל בדבר הזה. אגב, גברתי מנכ"לית ועדת הבחירות, גם דברים שהם אינם מבוססי AI שראינו במערכת הבחירות האחרונה, כמו קמפיין "גונבים את הבחירות", שאנחנו יודעים טוב מאוד איך הוא התנהל והוא הלך על הראש ספציפית של יו"ר ועדת הבחירות, של מנכ"לית ועדת הבחירות, אל מול הדבר הזה, זרועות המדינה ללא יכולת לעשות פעילות ממשיות. הדבר הזה הולך לחזור, זה קמפיין שכבר התחיל, אנחנו יכולים להמשיך ולהתריע - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> האם אפשר להציע, מנכ"לית ועדת הבחירות, שאת תקיימי שולחן עגול עם ארגוני הרשתות, חברה אזרחית, פייק ריפורטר, איגוד האינטרנט? יש להם מה לתרום. << אורח >> אורלי עדס: << אורח >> אנחנו יכולים בהחלט לשקול לעשות, אבל אני חייבת להתייחס בשתי מילים לאמירה שנאמרה כאן. צריך להבין, ועדת הבחירות לא יכולה לכפות מהלכים ללא הסמכה חוקית. לכל מהלך שהוועדה צריכה לעשות נדרשת הסמכה בחוק. יושב-הראש לא יכול לכפות לא על הפלטפורמות ולא על גופים כאלה ואחרים פעולות, הוא לא מוסמך בחוק. ככל שאין חקיקה כזו זה לא יקרה. לכן הידיים כבולות. << יור >> היו"ר אורית פרקש הכהן: << יור >> צריך למצוא את הדרך, אולי דרך סעיפי השקיפות, אבל בואו נתקדם. << אורח >> ניר רוזן: << אורח >> רק להגיד לגברתי, זה כמובן לא הופנה כלפייך אלא - - - << אורח >> אורלי עדס: << אורח >> עשיתם עבודה נהדרת במערכות הבחירות ואנחנו נחשפנו אליה באמצעות מטא. << יור >> היו"ר אורית פרקש הכהן: << יור >> לסיכום, מה אתה חושב שהיה משפר את המצב מבחינת צעדים לפעולה? << אורח >> ניר רוזן: << אורח >> אני חושב שבראש ובראשונה חקיקה, על אף הרגישות, על אף הנימוסים ועל אף הקשיים. אנחנו נמצאים פה בבית המחוקקים על מנת לדבר על חקיקה אפשרית. יש כאן מומחים רבים, גם איגוד האינטרנט, גם ברנדייס, המון המון גופים נמצאים עם הצעות מאוד טובות וניסיונות מהעולם, אפשר וצריך לקדם את הדבר הזה ולא לסמוך על טוב ליבם של יהודה וחברים אחרים כאן, שבאמת סומכים על טוב ליבם. מעבר לזה, אני כן חושב שכולנו מבינים שפייק ודיסאינפורמציה רצה הרבה יותר מהר מהפרחה של פייק וקמפיינים שחושפים את הדיסאינפורמציה, ואני חושב שזרועות המדינה לכל הפחות צריכות לחשוב כיצד מתווכים לציבור, בין אם על ידי יצירת פורטלים, בין אם על ידי יצירת שיתופי פעולה, הקצאת משאבים, דברים מהסוג הזה, לכל הפחות. תודה רבה על הדיון. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. איגוד האינטרנט, בבקשה. << אורח >> עידן רינג: << אורח >> קודם כל, הגשנו לוועדה מסמך מקיף על היערכות לבחירות בישראל, הוא נמצא באתר הוועדה, כתב אותו ד"ר אסף וינר, שנמצא פה לידי, ביחד איתי, ואני חושב שכדאי מאוד לקרוא אותו. דיברו פה הרבה על מולדובה, מדינות בעולם, והבעיה היא פה, עכשיו, מתחת לאף שלנו, כמו שאמרו איתי וניר. מבצעי ההונאה וההשפעה מתרחשים ברגע זה ללא הפרעה של הפלטפורמות, ללא טיפול הולם של הרשויות, למרות שיש דיווחי משתמשים שהם לא מטופלים. וזה לא רק הונאות כפי שראינו בדיון הקודם פה, וחשוב לציין שהרבה מההונאות האלה – ואנחנו גם יכולים להביא הרבה דוגמאות – משתמשות ללא הפרעה בדמויות של פוליטיקאים, סרטוני של שרים שממליצים על מניות או סרטונים של ראשי רשויות שונים ופוליטיקאים שונים שמופצים בפלטפורמות ללא סימון, עצירה או ניטור של הפלטפורמות. זה דברים שהם לא ממדינות אחרות, הם כאן ועכשיו, לרבות מעורבות איראנית והשפעות של כנסיות סיניות והמון דברים שאין שום סיבה שלא לא יחזרו על עצמם בבחירות, זה מאוד מאוד ברור. אנחנו מפעילים קו סיוע לאינטרנט בטוח שמקבל כ-5,000 דיווחים של אזרחים מדי שנה. אנחנו מוכרים כמדווחים לפלטפורמות ועדיין ראינו למשל אחרי 7 באוקטובר שממוצע התגובה של הפלטפורמות היה כחמישה ימים. זאת אומרת שההיערכות הרגילה, הוולונטרית ממש לא מספקת לאירוע של תהליך דמוקרטי, אירוע של בחירות, זה דורש היערכות שונה לחלוטין. דבר שני, לפני שלוש או ארבע שנים, בבחירות הקודמות, פנינו למטא ושאלנו אותם: איך אתם נערכים לבחירות? מה אתם עושים כדי לתת מענה לכשלים האלה? לא קיבלנו תגובה. פנו עיתונאים – לא קיבלו תגובה. אני חושב שאחד הדברים החשובים ביותר, בעיקר כי אין חקיקה, הוא שקיפות. אי אפשר להגיד: אנחנו מקימים חדר מצב ואז מגלים שחדר המצב הוא בכלל בקליפורניה או בדבלין. כמה אנשים דוברי עברית יש בחדר מצב? כמה אנשים דוברי ערבית יש בחדר המצב? מה זמן התגובה של חדר המצב? << יור >> היו"ר אורית פרקש הכהן: << יור >> ובאמת הנתונים לא שקופים מצד הרשתות. את זה, יהודה, אני זוכרת גם מדיונים קודמים. << דובר_המשך >> עידן רינג: << דובר_המשך >> אני רוצה להדגיש שבמדינות אחרות המצב הוא לא כזה. אנחנו הכנו מצגת, שלא נספיק להציג אותה פה, תמונת מצב של מטא, טיקטוק וגוגל במדינות אחרות והיא מאוד שונה. במדינות כמו ברזיל, גרמניה ובאיחוד האירופי, דווקא כן אומרים מה הם עושים, כמה כסף הם משקיעים, כמה אנשים עובדים, מה חדרי המצב עושים, מה אוסרים ולא אוסרים. בישראל אנחנו לא מקבלים את הנתונים האלה. אנחנו חושבים שאחד הדברים החשובים ביותר הוא לא רק להגיד "עושים פגישות על אחד על אחד" – ואת זה אני אומר לוועדת הבחירות המרכזית – צריך לדרוש הרבה יותר מזה, צריך לדרוש היערכות ייעודית לאורך זמן, בזמן אמת, איך הם מגיבים, באיזה אמצעים טכנולוגיים. אמרת קודם שקמפיינים עולים מחדש, יש לפלטפורמות כלים להתמודד עם retention של קמפיינים, הם יודעים לעצור קמפיינים שחוזרים מחדש, ולפעמים הם לא יודעים לעשות את זה, או לא רוצים לעשות את זה. אז אני חושב שצריך לדרוש הרבה יותר. אני מסכים עם ניר, אני חושב שאי אפשר רק להגיד: טוב, הם נערכים אז יהיה בסדר, צריך לדרוש הרבה יותר תשובות. דבר נוסף, לא דיברו פה בכלל על חברות ה-AI. יש חברות שמייצרות את הכלים האלה, הן גם צריכות להיות חלק מהדיון. אנחנו רגילים לדרוש תשובות רק מהפלטפורמות, צריך ללכת ל-OpenAI, Gemini הם של גוגל, צריך לשאול את גוגל מה Gemini עושה, מה המגבלות ומעקי הבטיחות שיש על הכלים האלה בזמן בחירות, כי היום אנחנו רואים שחלקם מאפשרים לייצר תכנים שקשורים בפוליטיקה ובחירות ללא הפרעה. נקודה אחרונה – אנחנו חקרנו את הפייקים שהופצו סביב המלחמה בין ישראל לאיראן, רק 20% היו פייקים עם AI, אמרו פה את זה קצת לפניי. בואו לא נתבלבל ונחשוב שהבעיה היא רק AI, הבעיה היא הרבה יותר רחבה וצריך לתת לציבור באמת - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> היא פשוט הפכה להרבה יותר מגוונת. גם אני פתחתי את דבריי שתמיד מאז ומעולם בחירות היו נושא למניפולציות. << דובר_המשך >> עידן רינג: << דובר_המשך >> בדיוק. אני מאוד מאוד מצטרף לקריאה פה, לעשות קמפיינים, לחנך את הציבור, לתת מודעות לציבור. אנחנו עוסקים בזה בשנתיים האחרונות בצורה אינטנסיבית, גם מערך הסייבר עוסק בזה, אנחנו נשמח לתת מהידע שלנו. חינוך זה חשוב, זה לא מספיק. זה לא יספיק, במיוחד בתהליך כזה קריטי. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה, חשוב מאוד. אני באמת מבקשת, אורלי, שהצוות הטכני או אתם תשבו עם הגופים הללו, יש להם המון ידע, המון ניסיון ובסוף הם עושים עבודה אזרחית מאוד מאוד חשובה. גיא, המכון לדמוקרטיה, בבקשה. << אורח >> גיא לוריא: << אורח >> גיא לוריא, המכון הישראלי לדמוקרטיה. אני לא אדבר על הזווית הטכנולוגית למרות שתכננתי לדבר בעיקר על זה, אבל קצת על הזווית החוקית, ואני מסכים שבאמת יש הרבה חללי הסדרה, הרבה דברים לא מוסדרים. קודם כל, יש רפורמות שמונחות על השולחן שלא הושלמו, דוח ועדת בייניש למשל, שגובש יחד - - - << אורח >> אורלי עדס: << אורח >> כבר לא רלוונטי. << אורח >> גיא לוריא: << אורח >> עדיין יש בו דברים שלא מומשו במלואן. למשל, חובת ההזדהות שהתקבלה בחוק בעקבות דוח ועדת בייניש, אבל גם זה לא הוגשם במלואו. דוח ועדת בייניש דיבר על הזדהות כל תקופה ולא רק בתקופת הבחירות, ויש עוד דברים אחרים. יש עוד כלים חוקיים אחרים שלא קל להשתמש בהם, כמו איסור הפרעה בבחירות, סעיף 119 לחוק הבחירות, שלא דובר פה עדיין. אני חושב שבאמת יש דברים שמבחינת הסדרה חוקית אפשר עוד לחשוב עליהם בהמשך ויש לנו כל מיני הצעות עוד מנייר שכתבנו ב-2020 שעדיין מאוד רלוונטיות, בין היתר לגבי הסדרת הממשק בין הזכות לפרטיות לבין תעמולת בחירות, נושא של הסדרה של פעילות לא אותנטית מתואמת ברשתות, הגבלות על איסוף מידע פרטי, איסור הפרעה לבחירות באמצעים דיגיטליים וכו'. אני חושב שכן יש דברים מינהלים שאפשר לעשות גם במצב החוקי הקיים. אני חושב שמה שאמרה מנכ"לית ועדת הבחירות לגבי שיתוף פעולה גם לגבי הפלטפורמה, גם עם גופי מדינה אחרים זה מאוד חושב. אני כן חושב שאפשר לחשוב על דרך יצירתית משפטית שאפשר לעשות גם בלי הסמכה חוקית למצוא דרכים לסימון תוכן יציר מכונה. אני מזכיר את ההחלטה של יו"ר ועדת הבחירות מלצר שהיה עוד לפני ההסמכה בחוק. זה משהו שאפשר לעשות. פעילות של הרשות להגנת הפרטיות – אני חושב שחשוב לעשות עוד לפני הבחירות, לפני שמגיעים למגבלות שיוצר תיקון 13 לחוק הגנת הפרטיות. הנושא של השולחן המשותף לגבי ניטור מה שקורה ברשתות, יו"ר ועדת הבחירות יכול ליזום דבר כזה, אני חושב שזה יהיה מצוין אם זה ייעשה. וגם פעילות של גופי אכיפת החוק. יש החלטה מהתקופה של יו"ר ועדת הבחירות עמית של סגירת מעגל מהירה לגבי הפרה של חוקי בחירות, הפרה של חוקי תעמולת בחירות, זה נכון שזה בצווים של יו"ר ועדת הבחירות, אבל אם הדברים כבר נעשו – יש הנחיית יועץ משפטי לממשלה – זה באחריות של גופי אכיפת החוק. צריכים לעשות את זה ולסגור את המעגל מהר, ואפשר לעשות את זה אם יושבים ומייצרים צוות עבודה משותף, כפי שהיה במערכות קודמות. צריך לוודא שזה נעשה גם עכשיו. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. נציגת מועצת התלמידים, בבקשה. << אורח >> מיקה שלומוביץ: << אורח >> אני מיקה, מתאמת פעולות בכנסת של מועצת התלמידים והנוער הארצית, מראשון לציון. דובר פה הרבה על המניעה ועל לגרום לתכנים כמה שפחות להופיע ולרדת, אבל חשוב גם שנדע איך להתמודד איתם, כי כפי שנאמר כבר, אי אפשר באמת במאה אחוז לנקות את המרחב הדיגיטלי ואנחנו צריכים לדעת איך להתמודד עם זה. הנוער הוא הדור שהולך להצביע במערכת הבחירות הבאה שאחרי זאת, הוא הולך להיות זה שיהיה כאן כשהטכנולוגיה תתפתח, תהיה יותר מורכבת וכבר יהיה הרבה יותר קשה לזהות, אז חשוב שנבוא לכאן, כמו שנאמר קודם, בגישה שהיא חינוכית. ברגע שאנחנו נלמד את התלמידים והנוער להבין איפה הבעיה, לשים לב, לפתח חשיבה ביקורתית וללמד שימוש מושכל ב-AI, איך מתנהלים איתו נכון ואיך מזהים אותו, נוכל למנוע הרבה דברים שיהיו בעתיד. אנחנו בשותפות עם משרד החינוך וכבר מקדמים יחד את הנושא. יש כאן איזשהו תהליך שעובר ומתקדם אבל חשוב שהוא ימשיך והתלמידים ילמדו לזהות את הדברים האלה כבר מגיל צעיר, שנדע בהמשך איך להתמודד עם הדבר הזה. ויותר מזה, חשוב לי לקרוא לפוליטיקאים להתייחס למערכת הבחירות הזאת ביושרה. בסוף אנחנו מדינה דמוקרטית ואנחנו רוצים לשמור על הדמוקרטיה, וחלק מזה זה בערכים שלנו, לשמור על כנות מול המצביעים שלנו, מול הנוער, שהולכים להיות כאן ולהתפתח, אנחנו בסוף הדור הבא, הדור שיצביע, דור העתיד. << יור >> היו"ר אורית פרקש הכהן: << יור >> מיקה, את נהדרת, אני מסכימה עם כל מילה שלך. עשינו כאן דיון על כל האתגרים של ה-AI, גם בנושא האתגרים שהבינה המלאכותית מציבה בפן הנפשי ומערכות היחסים. אני באמת חושבת שצריכים לעשות המון עבודה מול הנוער. אני מצטרפת לכל מילה שלך לגבי הבחירות. לסיכום, אני חושבת שחוק התעמולה הוא משנת 59' וזה אומר את הכול. הדבר הזה, עם כל ההתפתחויות שקיימות, דורש עדכון ומטיל אתגר מאוד מאוד גדול לקראת הבחירות הקרובות, שהן בחירות קריטיות, משמעותיות, בחירות ראשונות אחרי מלחמת "חרבות ברזל", בחירות סוערות ומאוד דרמטיות בעיני הציבור בישראל. דווקא בגלל זה שהבחירות הן הראשונות אחרי מלחמת "חרבות ברזל", אחרי סוג של מפץ בשימוש בבינה מלאכותית – מעולם לא היה קל יותר לשקר, מעולם לא היה קל יותר לתעתע, מעולם לא היה קל יותר לעשות קמפייני תודעה ולייצר איזשהו בלבול והטעיה – יש כאן אתגר מאוד מאוד גדול. צריך לחשוב איך אנחנו מייצרים יותר שקיפות. צריך בעיניי לייצר איזה גוף או פורום טכנולוגי שיקבל יכולת ביצוע טובה בתוך ועדת הבחירות, ואני מקווה שהדברים האלה יועצמו ובאמת ייבנו, לייצר קמפייני השפעה. העובדה שאתם מביאים יועצי בינה מלאכותית אל תוך ועדת הבחירות היא דבר חשוב מאין כמותו. אני כן צריכה להגיד שבסוף לא יהיה מנוס מלחשוב על דרכים חוקיות לטפל באתגרים, להרחיב את הסמכויות של ישראל אל מול הפלטפורמות, לחייב אותן לשקיפות, לחייב אותן להגיב להסרת תכנים, כמו שמקובל בעולם דרך אגב, ולא רק בפורמט הקיים שהוא פורמט של יותר דיאלוג, לתת סמכויות בזמן אמת, לשמור על הפרטיות של פנקס המצביעים, בקרה בזמן אמת והבטחת מידע. אני מאחלת בהצלחה גדולה כי בסוף ההצלחה שלך, אורלי, ושל ועדת הבחירות, היא הצלחה של כולנו ואנחנו מוכרחים לשמור ככל שניתן על טוהר הבחירות, בטח אחרי הסיפורים ששמענו שהם באמת מסמרי שיער. מה שקרה במדינות אחרות רק עכשיו – ברומניה, במולדובה, באירלנד, בארצות הברית – אלה דברים שחייבים להיערך אליהם ומראש. תודה רבה, הישיבה נעולה. << סיום >> הישיבה ננעלה בשעה 14:41. << סיום >>