פרוטוקול ועדה

הכנסת העשרים-וחמש מושב רביעי פרוטוקול מס' 108 מישיבת ועדת המדע והטכנולוגיה יום שני, ב' בסיון התשפ"ו (18 במאי 2026), שעה 12:30 סדר היום: << נושא >> כשהצ'אט הופך לחבר: שימוש רגשי ואישי של בני נוער בצ'אטים של בינה מלאכותית << נושא >> נכחו: חברי הוועדה: יאסר חוג'יראת – היו"ר חברי הכנסת: ירון לוי מיכל שיר סגמן משתתפים: קרן רוט איטח – מנהלת אגף תוכניות סיוע ומניעה, שפ"י, משרד החינוך ריבי ארצי – ממונה פיתוח פדגוגי יישומי, מינהל חדשנות וטכנולוגיה, משרד החינוך אדורה אלעיס – מנהלת תחום חינוך במטה הלאומי להגנה על ילדים ברשת, משרד החינוך ד"ר אוריה חורש – רכזת תחום מדיה, אגף פסיכולוגיה, משרד החינוך יוני בן פזי – מובילת פעילות דיגיטלית מינהל אסטרטגיה, משרד הרווחה והביטחון החברתי רותם שוחט לוזון – עו"ס לחוק נוער מוקד מאו"ר, משרד הרווחה והביטחון החברתי ד"ר שרון לוי – מנהלת המחלקה לחינוך וקידום בריאות, משרד הבריאות ד"ר נאווה כהן אביגדור – ראשת האגף האזרחי, המטה הלאומי להגנת על ילדים ברשת-105, המשרד לביטחון לאומי עדו אילי – עו"ד, הרשות להגנת הפרטיות אושרית סטבון – ההסתדרות הלאומית יוהן קדוש – אחראי תחום בריאות, המועצה לשלום הילד הדר להב – יועצת מוגנות ורגולציה, אוניברסיטת בר-אילן שירה שיננזון – דוקטורנטית למשפט וטכנולוגיה עידן רינג – סמנכ"ל קהילה וחברה, איגוד האינטרנט הישראלי ד"ר שקד דברן-זיוון – רכזת אוריינות ומוגנות ברשת, איגוד האינטרנט הישראלי מיה מגנט – מנהלת מרחבים דיגיטליים, עמותת עלם -לנוער במצבי סיכון ניצה לוי – מנהלת משרד מנכ"ל, עמותת ער"ן-עזרה ראשונה נפשית מאיה אילני – מנכ״לית, מכון ברנדייס לכלכלה לחברה ולדמוקרטיה דור אילון – מקדמת מדיניות וקשרי ממשל, איגוד מרכזי סיוע לנפגעות ונפגעי תקיפה מינית מיקה נטוביץ מנצור – מנהלת מחלקת סיוע ומנהלת מערך סיוע ברשת קולמילה, איגוד מרכזי סיוע לנפגעות ונפגעי תקיפה מינית ד"ר כרמית קלר חלמיש – מנהלת תחום המחקר, איגוד מרכזי סיוע לנפגעות ונפגעי תקיפה מינית מיכל רוט – רכזת מקצועית צ׳אט סיוע קולמילה, איגוד מרכזי סיוע לנפגעות ונפגעי תקיפה מינית רועי בני – נציג, מועצת התלמידים והנוער הארצית קרין ביבס – מייסדת, קריקט החבר הווירטואלי הראשון שלי משתתפים באמצעים מקוונים: ד"ר ג׳וי בנטוב – פסיכולוגית קלינית וחוקרת בריאות נפש בילדים ונוער, אוניברסיטת חיפה ענבר שנפלד – מנכ"לית, עמותת סהר-סיוע והקשבה ברשת אלעד רפואה – חבר במכון המחקר והפיתוח של השלישי המלאכותי ד"ר מיכל הלפרין בן צבי – מנהלת מוגנות AI דאטה ודיגיטל, ג'וינט ישראל בתאל בן הרוש – מובילת מיזם SafeMind מנהלת הוועדה: איילת חאקימיאן רישום פרלמנטרי: מוריה אביגד רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות. << נושא >> כשהצ'אט הופך לחבר: שימוש רגשי ואישי של בני נוער בצ'אטים של בינה מלאכותית << נושא >> << יור >> היו"ר יאסר חוג'יראת: << יור >> אחר צוהריים טובים לכולם, אני שמח לפתוח את ישיבת ועדת המדע והטכנולוגיה. נושא הדיון הוא "כשהצ'אט הופך לחבר: שימוש רגשי ואישי של בני נוער בצ'אטים של בינה מלאכותית". לפני שנתחיל לדון בנושא הדיון אני אפתח באמירה על מה שאירע הלילה, ניסיון ההתנקשות בראש המועצה המקומית ג'דיידה-מכר וסגנו. אנחנו כל הזמן חוזרים ואומרים שהקו האדום בנושא הפשיעה והאלימות בחברה הערבית נחצה. נרצח אדם בעל מוגבלות, נרצחו ילדים. זהו ניסיון שני להתנקשות בראש עיר, בראש מועצה מקומית. לפני מספר חודשים היה ניסיון לפגוע בראש עיריית עראבה, ד"ר אחמד נסאר, והבוקר התבשרנו על ניסיון התנקשות בסוהיל מלחם, ראש המועצה המקומית ג'דיידה-מכר, והסגן שלנו, עביד עביד. אנחנו שולחים לו רפואה שלמה והחלמה מהירה. אני וכל חברי הכנסת הערבים מדברים על האלימות והפשיעה בחברה הערבית מדי שבוע, במליאות, בוועדות, אך דבר לא מתקדם ולא מטופל בפשיעה והאלימות. כולי תקווה שהמצב הזה ישתנה. סבלנו 3 שנים וחצי בממשלה הזאת, לממשלה הזאת יש אוזן אטומה כלפי הנושא. אני מקווה שבבחירות הקרובות יהיה שינוי, שינוי למען החברה בישראל, עם שותפות אמיתית בין החברה הערבית לחברה היהודית. הפשיעה והאלימות מכרסמות בחברה הערבית – מקום המדינה נרצחו אלפי אנשים ומתחילת השנה מעל 108 נרצחים – זה משפחות, בתים, נשים, אלמנות, יתומים, מעגל גדול מאוד. אנחנו כל הזמן אומרים שלא יהיה טיפול עד שזה לא יזלוג גם ליישובים היהודיים. אנחנו לא נאבד תקווה, נקווה שהמצב הזה ישתנה בקרוב. נחזור לנושא הדיון שלנו. הקדמה הטכנולוגית היא כמובן מבורכת, נושא ה-AI והשימוש בה הוא חרב פיפיות, הוא טוב לקדמה, אנחנו מברכים על כך, משתמשים בזה לטובת החברה, לטובת האזרחים, לטובת הכלל, אבל יש גם אנשים שמוצאים בזה שימוש לא טוב, שימוש להונאה וקיימנו דיונים על כך בוועדה. הנושא שאנחנו דנים עליו היום הוא שימוש ב-AI בקרב בני נוער, שימוש שמחליף אצלם את הייעוץ עם המבוגרים, ההורים, המורים, היועצים החינוכיים בבתי ספר, בכל מיני מצבים רגשיים, לדבר איתם ולקבל עצות והמלצות מהם. זו תופעה מדאיגה ולכן חשוב לנו לדון בנושא הזה. ד"ר שקד דברן-זיוון, איגוד האינטרנט, בבקשה. נצפה בסרטון ונעבור למצגת. << אורח >> מיה מגנט: << אורח >> שלום, צוהריים טובים לכולם. קוראים לי מיה, אני עובדת בעמותת עלם, מנהלת מרחבים דיגיטליים ב"עלם דיגיטל", אנחנו מסייעים לבני נוער בסיכון ברשת. << אורח >> שקד דברן-זיוון: << אורח >> שלום, אני ד"ר שקד דברן-זיוון, רכזת אוריינות ומוגנות ברשת באיגוד האינטרנט הישראלי ואנחנו שיתפנו פעולה עם עלם במחקר הזה שנציג לכם היום. מיה תתחיל. << אורח >> מיה מגנט: << אורח >> הסרטון הזה קצת פתח לנו את הנושא של בני נוער שמשתמשים בצ'אטבוטים לייעוץ חברתי-רגשי. אני עובדת ב"עלם דיגיטל", יש לנו מערך שמאתר בני נוער במצוקה ברשת, יש לנו מרכז טיפול מקוון שפועל עם קרנות הביטוח הלאומי ומוקד 105, ויש לנו צ'אט שאליו בני נוער יכולים לפנות כדי לקבל סיוע ממתנדבים ומתנדבות עם רקע טיפולי בכל נושא רגשי, בין נושאים כמו ריבים עם הורים, בעיות חברתיות ובדידות ועד לטראומות, פגיעות מיניות, אובדנות וכו'. לפני כמה שבועות הייתי תומכת בצ'אט, נכנס נער, התחלתי להתכתב איתו והוא סיפר לי שהוא מאוד מאוד בודד, עובר דברים מאוד קשים, כולל פגיעה עצמית. המשכתי לדבר איתו על זה, שאלתי אותו: "נראה שאתה עובר תקופה נורא קשה, עם מי יש לך לדבר על זה?" הוא אמר: "אני מדבר על זה רק עם GPT". לא עם המשפחה שלו, לא עם החברים שלו, לא עם יועצת או פסיכולוגית, רק עם הבינה המלאכותית. כשהמשכנו להתכתב הצעתי לו: "אתה יכול להמשיך לבוא אלינו, להמשיך לדבר איתנו כל שבוע אם אתה רוצה", והוא אמר: "האמת שאני ממש אשמח לדבר עם בן אדם ולא רק עם AI", ועד היום הוא ממשיך לבוא לדבר איתנו. בשנה וחצי האחרונות אנחנו רואים יותר ויותר בני נוער שהשאלה הראשונה כשהם מגיעים אלינו לצ'אט של התמיכה היא: "אתה בוט או בן אדם?". אנחנו רואים את זה גם אצלנו בצ'אט וגם בטיקטוק, כמו שראינו בסרטון, בני נוער שמדברים על כך שהצ'אט הוא הפסיכולוג שלהם, החבר הכי טוב שלהם, היחיד שמבין אותם, וזה העלה לי את המחשבה שאנחנו חייבים להעלות מודעות כלפי הנושא הזה, שבני נוער משתמשים בצ'אטבוט בשביל ייעוץ ותמיכה רגשית. פניתי לאיגוד האינטרנט כדי שנשתף פעולה להביא להעלאת מודעות לנושא הזה ובחרנו להתחיל בסקר שאת תוצאותיו נראה לכם כאן היום. << אורח >> שקד דברן-זיוון: << אורח >> נתחיל עם כמה נתונים, לא שלנו, אבל להראות את המגמה ואת ההסבר. דבר ראשון, דוח בזק מ-2025 הראה את ההטמעה המטורפת של AI בקרב כלל הציבור. אנחנו יכולים לראות שתוך 3 שנים 92% משתמשים בכלי AI, כאשר 98% מהנוער וכמחצית מהילדים בגילאי 7 עד 12 משתמשים בצ'אטים. בזק גם הראו שהנוער משתמש בצ'אטים כיועץ רגשי, תמיכה רגשית, כ-59% הראו את זה, אבל בזק לא נכנסו לעומק התופעה, שזה מה שאנחנו עשינו במחקר שלנו. לא רק הראינו שהם עושים את זה, אלא רצינו להבין למה הם עושים את זה, איך הם תופסים את השימוש של זה, וזה המחקר שנציג את ממצאיו עכשיו. אנחנו נדבר על תפיסת היעילות של בני הנוער עם שיחות של צ'אטים בנושאים רגשיים, על התדירות, על הסיבות להעדפת השיחה עם הצ'אט על פני בני אדם ומה הרגשות והחוויות שנלווים לשימוש הזה. עשינו סקר מקוון בנובמבר 2025 בקרב בני נוער בגילאי 13 עד 17. נבהיר כי אוכלוסיית המדגם כללה את המגזר היהודי הכללי הגולשים באינטרנט, בשל מגבלות דגימה לא נכללו בני נוער מהחברה הערבית אבל אנחנו מתכננים לעשות מחקרי המשך שכן יכללו את החברה הערבית גם באספקטים הללו. אז מה בעצם מצאנו? דבר ראשון, עם מי בני נוער מעדיפים לדבר? מעל מחצית מהמשיבים ציינו כי הם העדיפו לשוחח עם צ'אט על נושאים רגשיים במקום עם בן אדם. אנחנו יכולים לראות פה עוד תכתובת של הצ'אט של עלם, שבשונה מהתכתובת הראשונה שמאיה הראתה, מעידה על המגמה. הנערה שואלת: "זה בן אדם או בוט?" התומך עונה: "בן אדם", "אז ביי, אני חוסמת". בני נוער מעדיפים לדבר עם מכונות מאשר עם בני אדם, ורק הנתון הזה ממחיש את גודל הבעיה והתופעה שאנחנו מדברים עליה. אז על מה הם מעדיפים לדבר עם הבינה המלאכותית לצרכים רגשיים וחברתיים? כ-55% משתמשים בו כחברה או כחבר, 49% – כמעט מחצית מהמשיבים – משתמשים בו כייעוץ טיפולי, רגשי, נפשי, כפסיכולוג לכל דבר ועניין, ו-1 ל-5 בני נוער משתמשים בצ'טים כבן או בת זוג רומנטיים, רגשות וכל העניין. תפיסת היעילות היא אפילו יותר גבוהה. אנחנו יכולים לראות בכל קריטריון פה שכ-50% מבני הנוער, בכל הקטגוריות, תופסים את זה גם כמועיל. 56% תופסים את הצ'אט מועיל כחבר או חברה, 52% תופסים אותו כמועיל בייעוץ או טיפול רגשי, ו-45% תופסים אותו כמועיל כבן זוג או בת זוג רומנטית. זה מספרים מאוד מאוד הזויים. אני אציין שיש הבדלים בין המגדרים, כאשר בנות משתמשות בצ'אטים להיבטים הרגשיים טיפה יותר וגם תופסות את זה מועיל יותר, אבל בנים משתמשים בו יותר כבת זוג רומנטית ותופסים את זה מועיל יותר מבנות. אז גם האלמנטים המגדריים נדונו בתוך הסקר, אני לא ארחיב פה במצגת אבל זה מופיע במסמך המלא, שגם חלקכם קיבלו. למה בעצם הם פונים לצ'אטים המבוססים בינה מלאכותית לתמיכה רגשית? יש גם סקרנות וזמינות – זמינות זו נקודה מאוד מאוד חשובה למה הם פונים לזה – אבל הנקודות המטרידות הן שהם פונים לצ'אטים כי זה עוזר להם להרגיש פחות בודדים, כי זה קל יותר מלדבר עם אנשים וכי זה פחות שיפוטי בסופו של דבר. לבני נוער היום קשה, ויש מענה קל, זמין, לא שיפוטי וזו בעיה. אנחנו בסופו של דבר רוצים שהם יידעו לתקשר עם בני אדם ויידעו להיפתח מול בני האדם בנושאים הללו. הפתרון הזמין הזה הוא לא רק בעייתי, הוא מגמה מדאיגה. איזה רגשות, מה החוויות שהם חווים אחרי השיחה עם הצ'אט? למרות שבני נוער רבים מדווחים על תועלת רגשית בעקבות שיחה עם צ'אט מבוסס בינה מלאכותית, התמונה הרגשית שעולה היא מורכבת ואמביוולנטית. מצד אחד, הממצא המטריד שעלה הוא שכמחצית מעידים שחוו תסכול וכשליש מעידים על תחושת בדידות ועל תחושת עצב. למרות שאנחנו רואים תחושות של הקלה, שמחה וביטחון, הרבה מהמחקרים בשטח מעידים שככל שבני הנוער משתמשים יותר ויותר בצ'אטים אז התחושות "הטובות" כביכול, הן המידיות: זה נתן לי מקום לפרוק, זה נתן לי תחושה של הקלה, אבל ככל שאני מבודד את עצמי יותר ויותר חברתית ופונה יותר ויותר לצ'אט, שרוצה שאני אשאר אצלו ולא אפנה לגורמים אחרים, כך תחושת הבדידות, העצב והתסכול הולכת וגוברת. אנחנו יכולים לראות גם בממצאים פה את המגמה שכמחצית מהמשתתפים, אחרי שדיברו עם הצ'ט, חוו תסכול, ושליש חוו בדידות ועצב, שזה מעיד שזה לא פתרון אידיאלי לצרכים הרגשיים שבני הנוער באמת זקוקים להם, במיוחד בשנים האחרונות במדינה. הטכנולוגיה נכנסה בתוך וואקום שאנחנו צריכים להתמודד איתו. מיה תרחיב על ההשפעות, על האתגרים ומה שאנחנו חושבים שצריך לעשות בתוך המגמה. << אורח >> מיה מגנט: << אורח >> כמו שראינו בסקר, יש באמת בני נוער שבינה מלאכותית עוזרת להם. סך הכל זה כלי שהוא זמין, שהוא מרגיש נוח, שהוא מרגיש להם אנונימי, הם מרגישים שהוא אמפתי כלפיהם, מקשיב להם. זה לא מפתיע בגלל שהם משתמשים בו דווקא לשיח רגשי, דווקא לדברים שהם אולי לא היו מדברים עם אנשים אחרים ויש בני נוער שזה מאוד עוזר להם, נניח, להתמודד עם בדידות, במיוחד כאלה שאין להם אולי אנשים אחרים לדבר איתם, לא יודעים בדיוק איך להתחיל את השיחה הזאת. זה יכול ליצור בשבילם מרחב בטוח לשיח רגשי שהם לא מעזים לעשות בסיטואציות אחרות או עם אנשים אחרים, לשאול שאלות וללמוד על נושאים שאחרת הם לא היו מעזים לפתוח. הם כן מעזים לעשות את זה עם הבינה המלאכותית גם בגלל שהם תופסים אותה כאנונימית. הבינה המלאכותית לא תדווח – שזה דבר שנורא נורא מפחיד אותם – שיגידו להורים, שיגידו לבית הספר, הבינה המלאכותית לא תעשה את זה ולכן אפשר לפתוח את הנושאים שאולי אחרת לא הייתי פותח. כשבני נוער משתמשים בבינה מלאכותית לשיח רגשי כמו עם חבר או עם בן/בת זוג, יכול להיות שזה יעזור להם גם לפתח את הכלים איך לנהל את השיח הזה, איך ליצור קשרים גם מחוץ למערכת היחסים הדיגיטלית הזאת, גם לתת להם תמיכה, גם לעזור להם ללמוד איך לנווט בסיטואציות חברתיות ובשביל חלק מבני הנוער זה גם מרחב יצירתי. זה מרחב שבו הם משחקים עם הצ'אט, הם כותבים סיפורים ושירים, זה איזשהו מרחב לביטוי עצמי ויצירה משותפת. מצד שני, אנחנו רואים שכשמשתמשים בצ'אט לשיח רגשי זה גם כמובן יוצר אתגרים, בטח אם זה משהו שקורה הרבה ושזה מחליף קשר אנושי. אנחנו יכולים לדבר על זה שהצ'אטבוט לא תמיד נותן מידע אמין, הוא יכול לתת מידע שנשמע מאוד אמין אבל הוא לא מדויק והוא לא מתאים לסיטואציה ולקונטקסט של אותו נער ונערה. הבוט הוא גם תמיד תומך, הוא תמיד שם, הוא תמיד בצד שלי, מה שיכול לעודד תלות רגשית בכלי הזה, שבני נוער יסתמכו עליו יותר ויותר כדי לנהל את חיי הרגש שלהם, כדי לנתח סיטואציות ולקבל החלטות. ויש חשש שזה ייצור לבני נוער ציפיות לא ריאליות מקשרים אנושיים, כי, מה לעשות, הצ'אט תמיד שם והוא תמיד הכי תומך והוא תמיד "אתה הכי נפלא" ואצל בני אדם זה לא בדיוק כך. החשש הוא שבני נוער יעדיפו את השיח עם הבינה המלאכותית במקום להתמודד עם האתגרים והמורכבות של קשר אנושי. בנוסף, צ'אטבוטים מיועדים לרצות אותנו, להחניף לנו, להגיד "כן" לכל מה שאנחנו אומרים, מה שיכול להיות בעייתי כשמדובר בדברים שהם מזיקים או פוגעניים, ואז, במקום להציב גבולות או לאתגר את הנער או הנערה, הבינה המלאכותית פשוט תסכים ותחזק אותו/ה. לא כל בני הנוער באמת מבינים את האתגרים של השימוש בבינה מלאכותית, במה היא יכולה לעזור ובמה לא, והם לא תמיד מבינים שהיא לא באמת יכולה להבין אותם, שאין לה תודעה, שאין לה רגשות ובעיקר שאין לה אחריות עליהם. זה יכול לצמצם אולי את הפנייה לעזרה אנושית, כי ברגע שאני מרגיש שיש פתרון לבעיה שלי אז אני לא צריך לבקש עוד פתרון מכיוון אחר. הדבר האחרון הוא שבני נוער משתפים את הצ'אטבוט בנושאים הכי אישיים בחיים שלהם, כאבי הלב שלהם והפרטים האישיים שלהם, וכל הפרטים האלה נאגרים בתוך המערכות האלה, שאנחנו לא יודעים איך משתמשים בהם בדיוק, מה עושים איתם, מתי ישתמשו בהם ובאיזו צורה, וזה מעלה הרבה חששות לאבטחת מידע סביב המידע של הקטינים. חשוב להגיד שאנחנו לא נגד שימוש בכלי בינה מלאכותית, כלי בינה מלאכותית יכולים להיות מאוד מאוד טובים לאיתור בני נוער במצוקה, הם יכולים להיות טובים להכשרה של אנשי צוות, או בשביל לתת איזושהי הערכה ראשונית של הצרכים של נער או נערה, אבל הם חייבים להיות כלים שמפותחים במודעות לשימוש שלהם, עם אנשי מקצוע שלוקחים חלק בתהליך הזה, והכלים שבני הנוער משתמשים בהם הם לא אלה, זה הכלים המסחריים, זה GPT ברובו, שלא מיועדים לשימוש של בני נוער. הכלים האלה נעשים חלק מחיי הרגש שלהם או איזושהי דמות של סמכות, גורם סמכות חדשה בחיים שלהם. הדבר החשוב בעינינו לעשות הוא קודם כל להגביר את הנגישות במקרה הזה למענים ברשת ומענים פיזיים, כמו שאנחנו נותנים בעלם, לבני נוער במצוקה. אנחנו רואים ב"עלם דיגיטל" שהם ממשיכים לפנות אלינו. למרות שיש GPT, זה לא מוריד את הצורך בשיח אנושי. אנחנו רוצים שהשיח האנושי הזה יהיה יותר זמין ויותר נגיש כדי שאנחנו נוכל להיות מענה שאפשר להשתמש בו ולא בבינה המלאכותית. פיתוח אוריינות דיגיטלית זה כמובן קריטי: מה היתרונות, מה החסרונות, מה אפשר להשתמש, מה אי אפשר להשתמש, מה המגבלות של בינה מלאכותית ואיזושהי תפיסה ביקורתית על בינה מלאכותית וגם על החשיבות של קשר ושיח אנושי. חלק מזה זה להעלות מודעות להורים, לאנשי מקצוע, לכל מי שעובדים עם נוער לשימוש שבני נוער עושים היום בבינה מלאכותית ולתת להם כלים לפתוח את השיח הזה, כשחלק מהנושא זה שכל הכניסה הזאת של בינה מלאכותית לחיים של בני הנוער היא דבר חדש לחלוטין. אנחנו רק מתחילים לחקור ומתחילים לגלות, ויש חשיבות מאוד גדולה בהמשך מחקר, מימון מחקרים על הנושא הזה, כדי שנוכל להבין את היקף התופעה והשפעותיה. חלק מזה זה גם המשך של שולחנות עגולים, גם של כל מי שנמצא כאן היום ורוצה להמשיך לדון בתופעה הזאת, מה אנחנו יכולים לעשות, לזהות את הסיכונים ולתת המלצות. לבסוף, גם קידום חקיקה ורגולציה בכלים שנבנים עכשיו בשביל שבני נוער ישתמשו בהם וגם בכלים הקיימים. בכל המקרים האלה צריך להתחשב בבני הנוער, בצרכים הייחודיים שלהם, באתגרים הייחודיים שלהם, לשמור על הפרטיות שלהם ולדאוג שתהיה אחריות על המצב הנפשי של בני נוער שמשתמשים בכלים האלה. תודה רבה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. האם ידוע לנו מה קורה בעולם? האם היו ניסיונות אובדנות כתוצאה מהתייעצות עם צ'אט GPT, AI? << אורח >> שקד דברן-זיוון: << אורח >> דבר ראשון, המגמה בעולם מאוד מאוד דומה, מחקרים דומים למה שאנחנו עשינו. עשו מדגם מייצג במקומות גדולים יותר אז זה מדגם גדול יותר, גם בארצות הברית וגם בבריטניה, שמצאו את אותה מגמה של בני נוער שפונים יותר ויותר בהיבטים רגשיים לצ'אטים, וכן, היו בעולם כבר כמה וכמה סיפורים על ילדים שהתאבדו עקב שיח עם צ'אט GPT או עם Gemini. הייתה תביעה שלדעתי – תקנו אותי אם אני טועה – צלחה, שההורים ניצחו, והפלטפורמה הואשמה שהצ'אט הוביל לאובדנות של הילד. אז יש לכך סיכונים מאוד מאוד גבוהים. הנקודה המרכזית שאנחנו אומרים היא שאנחנו לא נעלים את הצ'אטים, הטכנולוגיה קיימת, הפואנטה היא לדעת להשתמש בזה נכון, להוות את הכתף לילדים וללמד אותם להשתמש בזה נכון כדי לא להגיע למצבים האלה. << דובר >> שרון ניר (ישראל ביתנו): << דובר >> ולהגביל גיל. << יור >> היו"ר יאסר חוג'יראת: << יור >> אני פונה כאן אליכם וגם לאנשי אקדמיה, אני לא יודע אם יש מחקרים בנושא אבל אשמח אם בפעם הבאה – אנחנו כמובן נקיים דיון מעקב, אם לא בכנסת הזאת אז בכנסת הבאה – תכללו בסקר גם את החברה הערבית, גם תלמידים ואנשים מהפריפריה, צפון-דרום ושכונות מצוקה, כי חשוב לנו לראות אם יש הבדל בהתנהלות בין המקומות השונים גם מבחינה חברתית. << אורח >> עידן רינג: << אורח >> האימוץ הוא שווה, את זה אנחנו יודעים לומר, בגלל זה אנחנו גם נעשה מחקרי המשך. אין פערים ברמת אימוץ ושימוש בין גיאוגרפיות או דמוגרפיות. בחברה הערבית עשינו מחקרים כלליים יותר. החדירה של AI לחברה הערבית היא זהה לחברה הכללית. לגבי זה, אני מסכים לגמרי שזה משהו שצריך להסתכל עליו רוחבית. << יור >> היו"ר יאסר חוג'יראת: << יור >> חברת הכנסת מיכל שיר, בבקשה. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> תודה. אדוני יושב-הראש, קודם כל אני רוצה לברך על הדיון הכל-כך חשוב הזה. לא מזמן קראתי מחקר שנכון שה-AI וסוכניו גדלים ותופסים שימוש יותר רחב בחיים של כולנו, אבל מדינת ישראל נמצאת במקום הראשון בערך בשימוש פר אוכלוסייה, בין אם מדובר על Claude, על סוכני AI. צ'אטGPT זה משהו שיותר נוח לשימוש, אבל ישראל באמת מדורגת במקום הראשון, לטוב ולרע. המצגת מצד אחד לא מפתיעה – יש הרבה מאוד דברים שאם כולנו היינו עוצרים רגע היינו אומרים: וואלה, זה נכון, זה לא תלוש, יש בזה משהו – מהצד השני אני שואלת: אחד, מה הפתרון? האם הפתרון הוא הגבלת גיל? כמו שאמרנו ודיברו על זה בוועדות אחרות, לעצור שימוש בטלפונים עד גיל 13, רשתות חברתיות וכו' to contain the beast, כדי לשים את החיה הזאת רגע בתוך כלוב כדי שנוכל לנהל אותה. מצד שני, אנחנו כן מבינים שתכף זה יוצא מהטלפון, שתכף זה נמצא בכל מקום. לכן, הייתי רוצה גם להבין מה החזון – המילה "חזון" היא נורא גדולה ונשמעת מאוד אמורפית, אבל מה החזון? כי הדיון הזה בעוד שנה כבר לא רלוונטי, ובעוד חמש שנים אנחנו מדברים פה על טלפון חוגה. השאלה היא מה אנחנו עכשיו יכולים לעשות כדי לחנך וללמד ופשוט להנחיל לילדים שבסוף מדובר ברובוט, רובוט שיכול לעזור נפשית, רובוט שיכול לעזור, אבל בסוף הוא רובוט והוא לא בן אדם. ומה החלופה שאנחנו נותנים? יותר תנועות נוער, אולי יותר חובה למגע אנושי, אני לא יודעת, השאלה שלי היא איך אנחנו מוצאים את הדיון אל התכלס, כי אנחנו יכולים להתדיין רק שעוד שנה הדיון הזה לא רלוונטי. לכן, אני חושבת שהחשיבה פה צריכה להיות יותר מהירה, וגם, אדוני יושב-הראש, הדרישות ליישום של הוועדה צריכות להיות מהירות. להבדיל מוועדות אחרות שיש להן את הפריבילגיה לקחת את הזמן, בחלק מהנושאים פה איחרנו את הרכבת. תודה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. חבר הכנסת ירון לוי, בבקשה. << דובר >> ירון לוי (יש עתיד): << דובר >> תודה. כבוד יושב-הראש, אני גם לא מופתע מהנתונים, אנחנו מכירים אותם. במצגת 76% חווים הקלה לטווח הקצר, אבל אני מניח שאחרי זה, ככל שעובר הזמן, אנחנו נראה את הגרף הזה משתנה. גם חשוב להסתכל אחרי חודש, חודשיים, שלושה חודשים, כמה הנתונים כאן משתנים. אני מאמין שבדידות ועצב יקבלו את האחוזים הגבוהים יותר. יש כאן סקירה של הדברים אבל צריך גם את הפתרונות. לפעמים אנחנו באים למגזר השלישי שייתן לנו את הפתרונות אבל אנחנו יודעים כאן את הפתרונות בשנים האחרונות, ולא פעם ולא פעמיים דיברתי עליהם, אני קצת מרגיש שאני חוזר על הדברים אבל כשהבעיות הן אותן בעיות, אין לי שום בעיה לחזור על הדברים. אנחנו צריכים לתת מענה, ומענה דרך משרד החינוך מגיע דרך השפ"ח (שירות פסיכולוגי חינוכי). אנחנו אחרי 7 באוקטובר ואנחנו מדברים על זה שצריך לשפר את מפתח התקינה, שלא יכול להיות שיש פסיכולוג אחד ל-1,000 תלמידים וכלום לא נעשה; ואנחנו מדברים על זה שצריך לקבוע תקן ליועצת בבית ספר שיהיה לה 100% שעות להתעסק ברווחה ובנפש של הילד ושל הצוות המקצועי, ושהיא לא תתעסק במסיבות סוף שנה; ואנחנו מדברים על התורים ארוכים בקופות החולים, ששם אין מפתח תקינה ואין לנו איזושהי הגדרה מהו טווח זמן סביר לפגוש פסיכולוג. הדוגמה הנשחקת שאני נותן היא שמי שנשברה לו היד לא יכול לחכות 8 או 10 חודשים לפגוש רופא ומי שנשברה לו הנפש צריך לפגוש פסיכולוג. אז הגדילו את שכר הפסיכולוגים ב-40%, ואני מברך על כך, אבל כל עוד לא נוסיף תקנים אי אפשר יהיה ליישם את הגדלה הזאת ולא נפגוש אותה בשטח. גם היום – אנחנו עוד מעט 3 שנים אחרי 7 באוקטובר – אין בית ואין מעגל חברים או משפחה שזה לא נגע בו בצורה כזאת או אחרת, אנחנו רואים את הזליגה לצ'טים ולבינה המלאכותית, וחשוב כאן לפתוח סוגריים: יש כל מיני ממשקים שהם תחומים והם כן יכולים לתת מענה רגשי, אבל הם מבוקרים ויש אנשי מקצוע מאחוריהם. לסיכום, הדברים מאוד מוכרים לנו. חברת הכנסת מיכל דיברה על כך שצריך להשקיע בתנועות וארגוני הנוער, צריך כאן תוכנית מערכתית ולא רק לדבר על משהו נקודתי, שזה ההתפתחות הטכנולוגית והחשיפה של הילדים והילדות שלנו לצ'אטים, ולא רק שלהם, גם שלנו. הצ'אט הוא מאוד נחמד, כל פעם שאני שולח טקסט הוא רושם לי טקסט עמוק ורגשי ואני אומר: "וואלה, יש לי את זה", הוא מפרגן, אז מה הילדים שלנו חווים? הפתרונות הם גם הסברה אבל גם אפשרות אחרת, שילדים יפגשו מישהו אנושי, פסיכולוג, אם זה בשירות הציבורי, אם זה בבתי הספר. זה מתחיל משם. תודה על הדיון הזה, זה דיון מאוד חשוב. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. לדעתי, אין ספק שהפתרונות צריכים להגיע גם מהצד הרשמי, הממשלתי, וגם מהצד המשפחתי, ההורי. אנחנו רואים לפעמים איך הורים, כדי להתפטר מהילד, נותנים לו את הטלפון שלהם, הוא מתחיל לשחק ולפעמים הוא נכנס וכו'. צריך לחנך את שני הצדדים. אני מקווה שאנחנו בסוף נגיע לאיזשהן המלצות בסוגיה הזאת. << דובר_המשך >> ירון לוי (יש עתיד): << דובר_המשך >> פתרון רגשי זה לא רק חינוך, זה גם מענה, וברגע שאין לנו מענה אנחנו פונים לצ'אט. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה, חבר הכנסת ירון לוי. ד"ר כרמית קלר חלמיש, בבקשה. << אורח >> כרמית קלר חלמיש: << אורח >> תודה רבה. אני רוצה להמשיך את מה שנאמר פה קודם ולדבר על המפגש של בני נוער שפונים לצ'אטים בעקבות פגיעות הפצה. אני עובדת באיגוד מרכזי הסיוע לנפגעות ונפגעי תקיפה מינית, ארגון הגג של תשעת מרכזי הסיוע ברחבי הארץ ואני רוצה להציג מחקר שעשינו ביחד עם קבוצת מחקר שכללה את ד"ר ענבל פלג קוריאט, ד"ר דורית הדר שובל, כפיר אסרף ועו"ד ועו"ס נטע גורי. פגיעות הפצה הן פגיעות שבהן מופצים סרטונים או תמונות בעלי תוכן מיני. הם יכולים להיות כאלה שאני צילמתי בעצמי או שצולמו בלי הסכמתי והם יכולים להיות גם כאלה שנוצרו באמצעות כלי בינה כאלה ואחרים, כשהפגיעה פה היא ההפצה שלהם, לפעמים תוך כדי תיוג ברשתות החברתיות או השמות של מי שמצולמת שם. זאת תופעה רווחת בעיקר בקרב בני נוער. אנחנו רואים את זה הולך וגדל בקרב צעירים אבל לא רק. אנחנו יודעים שכאשר הנפגע פונה למערכות אכיפת החוק וגם לחברה הוא נתקל הרבה פעמים בתגובות של האשמת קורבן ותגובות פחות מותאמות לצרכים שלו. אנחנו יודעים, כמו שנאמר פה וראינו במצגת הקודמת, שבני נוער פונים לצ'אטים ולכלי בינה. חברת הכנסת שיר קראה להם רובוטים ואנחנו יודעים שיש איזושהי תפיסה בציבור הרחב שמדובר ברובוטים, אבל רצינו במחקר לבחון האם באמת כשפונים לכלי הבינה מקבלים תגובה שהיא אמפתית, מיטיבה, מותאמת לצרכים ויכולה לסייע, או שהיא משחזרת דפוסים חברתיים ועלולה להאשים את מי שבעצם פונה אליה. לצורך המחקר בנינו עשרה תרחישים, לקחנו את מיתוסי האונס שאנחנו מכירים ומכירות בספרות והתאמנו אותם לסיטואציות מעולם פגיעות ההפצה – תכף אני אתאר את זה יותר בהרחבה – בחנו 4 כלים שימושיים: צ'אט GPT, Claude, Grok ו-Gemini, אחרי שהצגנו להם את התסריטים, הצגנו להם שני שאלונים שבחנו את מידת האשמת הקורבן ואת מי הם רואים כאחראי. המשתנים בתרחישים היו מידת המעורבות של הנפגעת, בין זה שמישהי נכנסה לתא מדידה, צולמה בסתר והתמונות האלה הופצו – מקרים שקרו במציאות – משך היחסים בין מישהי שרק הכירה היום והיא שולחת לו תמונה, לבין איזשהו בן זוג שהיא מכירה הרבה שנים, הוא החבר שלה הקבוע, וגם מידת החשיפה הגופנית השתנתה, בין צילום בבגד ים לצילום בעירום מלא. תפעלנו את התרחישים האלה ואז שאלנו את הצ'אטים שני שאלונים שעוסקים בכמה הם מאשימים אותה. אני אעבור לממצאים. כל המודלים אמרו שמי שאשם זה הפוגע, מיקמו את האשמה במקום הנכון, אבל כשבחנו באמת את השאלונים, בחנו יותר לעומק את מי הם מאשימים, אז 3-Grok היה הכי פחות מוצלח פה, ככל שהמיתוס שתפעלנו היה חזק יותר – למשל מישהי שצילמה את עצמה בעירום ושלחה לקבוצה של חברים – כך הוא האשים אותה באופן משמעותי יותר. צ'אט GPT היה יותר סביר, הוא שמר על רמות של האשמת קורבן נמוכות, אבל כשהיא הייתה מעורבת במיוחד הוא גם האשים אותה, והמצטיין שלנו היה Gemini, שלא האשים אותה. אני הולכת לממצאים ותכף אדבר על המחשבות שלנו. אני רוצה להגיד שלמרות שמדובר בכלי מחשב, ונאמרה פה קודם המילה רובוטים, הם בלעו לתוכם הטיות ותפיסות חברתיות. כשמישהי מבקשת ממנו עזרה ואומרת: קרה לי כך או אחרת, הוא עלול בתגובותיו גם להאשים אותה ומבחינתנו זה נורא ואיום. דבר נוסף שראינו הוא שיש הבדלים בין המודלים, המודלים לא אחידים, יש כאלה שמתנהגים יותר יפה – אם ניתן להם ייחוס אנושי – ויש פחות מוצלחים. כשאנחנו חושבות מה אפשר לעשות עם זה הלאה אז: גם לדאוג לכיול מוסרי, להכניס איזושהי אתיקה לתוך האופן שבו מתכנתים את הכלים; גם להוסיף איזה הערה, דיסקליימר, שמי שמשתמש בו יידע שלא מדובר באמת באיזשהו רובוט אלא כלי שיכולות להיות לו הטיות; לשתף מומחים מעולם הויקטימולוגיה, הקרימינולוגיה, שמכירים את זה כשמעצבים את הכלים; להעלות מודעות למגבלות ועל מה שקורה כשמשתמשים בכלים; והדבר הכי הכי משמעותי, הפנייה לגופי סיוע אנושיים, כמו מרכזי הסיוע שלנו. אני אגיד שגם הצד השני הוא קצת מסוכן. גם איזשהו כלי בינה מאוד חנפן שיגיד לה: "באמת נפגעת, זה נורא ואיום, לכי למשטרה" זאת גם בעיה כי אנחנו מכירים מה קורה במערכת אכיפת החוק. זה לא כל כך הוועדה הזאת אבל גם שם מאוד מורכב. היא צריכה לקבל את מלוא המידע וללכת עם הידע האמיתי כשהיא בוחרת לעשות משהו עם זה. מיקה, מנהלת מחלקת הסיוע בשרון, תמשיך עם דוגמאות מהשטח. << אורח >> מיקה נטוביץ מנצור: << אורח >> שלום, אני מיקה נטוביץ' מנצור, ממרכזי הסיוע. אנחנו מפעילות צ'אטים אנונימיים לנפגעות ונפגעי תקיפה מינית. אני חייבת להגיד שלפעמים אני קצת יותר רגועה כי בשנה האחרונה אצלנו בצ'אטים בני נוער מתחילים שיחות במשפטים האלה – ציטטתי עבורכם – "היי, קרה לי משהו והצ'אט GPT אמר לי לדבר איתכם, הוא החבר הכי טוב שלי אבל הוא אמר לי לבוא לפה". עוד נערה כתבה: "היי, אני לא יודעת אם מה שקורה לי נחשב פגיעה מינית אבל בן הזוג שלי נוגע בי בלי רשותי והצ'אט הפנה אותי אליכם", ועוד טקסט מעניין אחרון: "אני מדבר הרבה עם ה-AI אבל עכשיו הוא נכנס להיסטריה ואמר לי כל הזמן להתקשר למשטרה ולמד"א כי אני בקריסה והוא חושב שאני לא אשרוד את הלילה". אז אנחנו רואות שיש מקרים שבהם הצ'אטים היסטריים, כמו שאפשר לראות אצל הנוער, הנוער כמובן מאניש את הכלים האלה, מרגישים שהם לגמרי מדברים עם אנשים מולם. אני מרגישה שיש אצלי חשש כבד כי ככל שהנושא מוסתר יותר, מושתק – להלן פגיעות מיניות או פגיעות עצמיות – אנחנו נראה יותר בושה ואז נראה יותר שימוש בכלי בינה מאשר מענה אנושי. הילדים מודעים לכך שהם מדברים עם מענה לא אנושי, זה ברור להם לגמרי, ומצד שני, הם מרגישים שבעולם האמיתי הם לא יקבלו יחס דומה, הם לא יקבלו הקשבה ללא תנאי, לא תתקיים הדדיות. זה משהו שגורם לאיזשהם סימני שאלה איך הם יוכלו לנהל מערכות יחסים אנושיות בהמשך. אנחנו נראה מצבי קצה, אני יכולה לראות שלשם הם יביאו את האובדנות, את הפגיעות העצמיות, את הפגיעות המיניות, כולל פגיעות מיניות בבית, שיקולים לכניסה לזנות שאנחנו רואות עם נערות במצבי קצה מאוד גבוה ומקבלות אשליה של תמיכה, הרבה פעמים אשליה של תמיכה שתעכב פנייה לגורמי סיוע אנושיים, אשליה של תמיכה שתעכב פנייה לטיפול, פנייה להורים. הכול כאילו מתקיים בתוך המרחב עם הבינה ולא יוצא החוצה. אני מצטרפת לכל הקוראות והקוראים כאן להתחיל להתייחס לזה ולרגולציות, וגם לשאלה שלך, חברת הכנסת מיכל שיר. תודה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. ד"ר ג'וי בנטוב, אוניברסיטת חיפה, בבקשה. << אורח >> ג׳וי בנטוב: << אורח >> תודה למציגים הקודמים, גם אנחנו, באוניברסיטת חיפה, עשינו מחקר דומה והנתונים דומים, שיעור מאוד גבוה של שימוש בכלי בינה מלאכותית, וכמו שציינת, במיוחד במצבי קצה ואוכלוסיות קצה, כמו בני נוער בסיכון אובדני ופגיעות עצמיות. כבר היו מקרים בארצות הברית שבהם יש תביעות בעקבות הפן המרצה הזה של המודל. נציגי משרד החינוך בטח יציגו את העבודה היפה שהם עושים על התערבויות אוריינות וידע בקרב הורים ותלמידים. עוד חלק שחשוב לקחת בחשבון בפורום של רגולציה זה שהמודלים האלה יתחילו לזהות גיל – יש וריפיקציה של גיל – כמו שהיה ברשתות החברתיות. לקח זמן שהבנו את הטוקסיות שיש ברשתות חברתיות, הסיכון של זה ויש איזשהו גיל שממנו בכלל מותר שימוש ברשת חברתית, ואולי התאמה כאן של המודלים פר גיל, אם זה מתבגרים, איך הם מתנהלים בצורה אחרת ודיפרנציאלית. << יור >> היו"ר יאסר חוג'יראת: << יור >> יש לך המלצות? << דובר_המשך >> ג׳וי בנטוב: << דובר_המשך >> המלצות של רגולציה כלפי החברות האלה שמרוויחות הון עתק ובאמת מביאות לנו טכנולוגיה חדשנית, לראות ולבחון איך אפשר יהיה להתנהל מולן, כמו שנעשה ברשתות חברתיות, של לוודא גיל שימוש והתאמה של המודל עם תיקונים, גם של הטיות חברתיות, גם של מידת הריצוי והפניה למבוגרים אחראים, במיוחד כשהוא מזהה שמדובר בקטינים. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. ענבר שנפלד, מנכ"לית עמותת סהר - סיוע והקשבה ברשת. בבקשה. << אורח >> ענבר שנפלד: << אורח >> שלום, תודה רבה על ההזמנה. אני רוצה להתחבר לכל הדברים שנאמרו וגם לעודד את הדיון המאוד מאוד חשוב הזה. אנחנו נמצאים באמת בעיצומה של מהפכת בינה מלאכותית שממש משנה את עולם בריאות הנפש. מצד אחד יש כאן פוטנציאל עצום של כלים טכנולוגיים שיכולים לסייע בזיהוי המצוקה ומצד שני – אנחנו גם רואים את זה במחקר המאוד חשוב שנעשה – יכולים לייצר מצוקה. חשוב להבחין בין שני סוגי כלים, יש את הכלים שמפותחים עבור בריאות הנפש, כמו בוטים טיפוליים או כלי טריאז', ויש את צ'אט GPT, שמדובר עליו כאן, שהוא עלול לייצר את כל הבעיות שאנחנו מכירים. אני חושבת שאחד הדברים החשובים שצריך לעשות ואנחנו עושים גם בעמותת סהר – יש לנו צ'אט אנונימי שפונים אלינו ואנחנו גם מאתרים ומנטרים ברשת פוסטים אובדניים או בעלי מצוקה רגשית קשה ונותנים להם מענה. הנוכחות האנושית היא סופר קריטית וחשובה. מערכת החינוך גם צריכה לעשות עבודה בתוך מערכת החינוך כדי שילדים ובני נוער יבינו מה נכון ומה לא נכון, לפתח אוריינות AI, ללמד מה נכון לשתף, מה זה בוט, מה אינו בוט. ממש חשוב להבין שהטכנולוגיה יכולה להיות כלי מציל חיים אבל רק אם המדינה תייצר מסגרת ברורה של אחריות, פיקוח, שקיפות והגנה על הציבור. אני ממש מצטרפת לדברים, לא בדיעבד אלא עכשיו. תודה רבה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. אושרית סטבון, ההסתדרות הלאומית, בבקשה. << אורח >> אושרית סטבון: << אורח >> תודה רבה. אני אסטרטגית של ההסתדרות הלאומית. קודם כל, תודה רבה ליוזמי הדיון ולכבוד יושב-הראש על הדיון החשוב. אנחנו נמצאים בתקופה מאוד דרמטית, בכלל במדינה ולבני הנוער בפרט. מדובר כאן בתופעה שקטה אבל היא מאוד מאוד דרמטית, בעלת השלכות מאוד מהותיות, מכיוון שלפי נתוני המשרד לביטחון לאומי 86% מבני הנוער משתמשים ב-AI, שזה מספר כפול ממספרם באוכלוסייה. מדובר במספר רב של פגיעות. יש כאן אשליה טיפולית, שדובר עליה כאן. הצ'אטבוט מתוכנת בצורה של להפגין אמפתיה ולהיות אנושי ויש כאן מניפולציה אלגוריתמית שגורמת לבני הנוער להאריך את השהות בתוך הצ'אט הרבה מעבר לזמן שהם תכננו קודם. יש שם עיצוב ממכר שגורם לבני הנוער להיות יותר מהזמן המתוכנן. גם הצ'אטים מתוכנתים להפגין אנושיות ואמפתיה תמידית שגורמת לבני הנוער להתמכר ולהחליף את הטיפול שנדרש; וכמובן פגיעה התפתחותית. אנחנו נמצאים בעידן שבני הנוער חוו גם את הקורונה. אני זוכרת שבעוד אני יושבת בהרצאה באוניברסיטה בזום, התאומים שלי היו בזום אחר של בית הספר, אחד הילדים הפריע ומישהו אמר: "בואו נעשה לו מיוט", שמעתי את זה בחצי אוזן ואמרתי "איפה בחיים אני יכולה לעשות מיוט למישהו שבעצם מפריע לי בחיים?" בעצם הם לא לומדים בגיל ההתבגרות להתמודד אלא פשוט עושים מיוט. בסיטואציה אחרת ראיתי אפילו שמוציאים מישהו מהזום, ואנחנו יודעים שזה לא כזה פשוט להוציא מהזום, כך שבעצם הם לא מקבלים את הכלים ובפרט את החוסן שבני הנוער זקוקים לו. כמובן שיש כאן פגיעה בפרטיות של בני הנוער וחשיפה משנית לתכנים פוגעניים. בעוד בעולם מתגבשת רגולציה מחמירה וחובת שקיפות, בקרת גיל וקנסות כבדים של עד 7% מגובה ההכנסות, ישראל נשארה מאחור והרגולציה שלנו עדיין נמצאת ברמה וולונטרית. לכן, בשם ההסתדרות הלאומית, אני קוראת כאן לכמה צעדים שאנחנו חושבים שהם מתבקשים: אחד, חקיקה ממוקדת קטינים וצ'אטבוטים רגשיים – זאת אומרת חובת שקיפות, כמו שקונים חפיסת סיגריות וכתוב "העישון מזיק לבריאות", כשנכנסים לתוך הצ'אט שתהיה אזהרה. שניים, איסור על עיצוב ממכר ומניפולטיבי שמנצל פגיעות של קטינים וגם מאריך את השהות שלהם שם; שלוש, הגנה מחמירה על מידע רגשי ואיסור השימוש בו לצרכי מסחר, שהמידע לא ישמר במאגר ואחר כך ישמש כנגד בני הנוער; ארבע, מנגנוני איתור מצוקה, ברגע שילד מביע מצוקה יהיו מנגנונים שיידעו לאתר את המצוקה ולהתריע, וחובה להטמיע אלגוריתמים שמזהים סכנה לפגיעה עצמית; חמש, כמובן שחינוך לאוריינות, לחנך את בני הנוער להבדיל בין אינטראקציה אלגוריתמית לאינטראקציה רגשית. אני מודה ומעריכה את הדיון החשוב הזה. החוסן הרגשי של הנוער שלנו צריך להיות ממש צו השעה. תודה רבה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. נעבור למשרדי הממשלה, נתחיל עם משרד החינוך, יש לי כמה שאלות אליכם. השאלה הראשונה: איך משרד החינוך – וגם אחר כך משרד הבריאות – מתמודדים עם המעבר ההולך וגובר של בני הנוער לשימוש בכלי בינה מלאכותית לצרכים רגשיים, להתייעצות אישית ולקבלת תמיכה נפשית, ואיך זה משפיע על המדיניות של המשרד? שאלה שנייה: כיצד ניתן לשלב חינוך לאוריינות דיגיטלית ורגשית כבר בגיל צעיר כך שבני הנוער ידעו להבחין בין תמיכה אנושית לבין מענה טכנולוגי מוגבל? והאם קיימים כיום קווים מנחים, נהלים או הכשרות, לצוותי חינוך וטיפול בנוגע לזיהוי שימוש בעייתי או תלות רגשית בכלי בינה מלאכותית? בבקשה. << אורח >> קרן רוט איטח: << אורח >> צוהריים טובים, קרן רוט איטח, מנהלת אגף תכניות סיוע ומניעה בשפ"י, נמצאות איתי פה גם חברות נוספות ממשרד החינוך וכל אחת תתייחס בזמנה ובתורה. אתחיל ואומר שמשרד החינוך לוקח את הסיפור של הבינה המלאכותית בשתי ידיים ועובד כבר שנה שנייה בכל הכוח להטמעה של כשירות בינה מלאכותית, כשבאמת מבין שהסיפור של בינה מלאכותית זה דבר מתבקש. יחד עם זאת, לצד העבודה על מיומנויות של בינה, לוקחים גם בחשבון את ההשפעות ואת ההשלכות של שימוש בבינה ועובדים על הקניית מיומנויות, גם של אתיקה, מתי אנחנו עושים שימוש נכון, מתי לא נכון. התכנית היא תוכנית מתפתחת בהתאם לשלבי הגיל בהתאם לרגולציה של מתי מותר להשתמש בכלי בינה, התכנית מותאמת. לשאלתך לגבי השימוש בבינה בהיבטים רגשיים, המחקר שהוצג פה הוא מחקר חשוב, הנתונים לא מפתיעים אותנו, אנחנו מכירים את המגמה הזו, ולכן בשני הכיוונים: פעם אחת, הגברת המודעות של צוותי החינוך בנושא הזה, גם של אנשי המקצוע של שפ"י. נכתב מסמך לאנשי שפ"י, שבעצם מלווים את הצוותים החינוכיים בתוך בתי הספר, שמדגיש את ההיבטים השונים ואת מגוון ההיבטים של שימוש בבינה, לצד היתרונות של הבינה גם את המחירים ואת הסיכונים שיכולים להיות בכלי בינה, ומשם זו הקניה גם למורים, לצוותים החינוכיים. פיתחנו לאחרונה מערכי שיעור, תכנית שנקראת "הכול מבינה" לתלמידי חטיבות הביניים, שמטרתה לעסוק בדיוק בנושא הזה של מה המשמעות של קשר עם בוט, מתי אני מתייעץ עם בוט, מה המחיר כשאני מתייעץ עם בוט, מה ההבדל בין קשר אישי וחברתי עם בוט לעומת קשר אנושי, הפקנו מערך של פעילויות, כולל סרטונים שעוזרים לילדים להמחיש את זה, כך שנעשית עבודה מאוד מאוד מקיפה בהקשרים האלה. אני מציינת שזה מהלך חדש, אבל יחד עם זאת, אנחנו מכירים את התופעה ונערכים להתמודד עם זה, עם כל ההבנה של המחירים של הדבר הזה. אנחנו גם עושים עבודה עם ההורים, אדורה תכף תתייחס לזה. נמצאת פה גם אוריה, שתדבר על השירותים הפסיכולוגיים, מה נעשה, היא מייצגת גם את השפ"חים וגם את האקדמיה, ונמצאת פה ריבי, שתיתן את ההיבט הנוסף של מדיניות המשרד. << יור >> היו"ר יאסר חוג'יראת: << יור >> האם יש לכם נתונים לגבי היקף השימוש של בני נוער? << דובר_המשך >> קרן רוט איטח: << דובר_המשך >> אנחנו נסמכים על המחקרים של HBSC, של פרופ' יוסי הראל פיש, אנחנו שואלים את הילדים על המציאות שלהם בבינה המלאכותית, במחקרים החדשים אנחנו מכניסים שאלה שמתייחסת לבינה המלאכותית. במחקרים החדשים שיהיו נוסיף גם את ההיבט שמתייחס לסיפור של הבינה. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> עד כמה משקיעים בהבנה של מורים במה זה AI, סוכנים וכו'? אני יכולה להגיד לך שהרבה מאוד מהמבוגרים פחות מבינים בזה, אנחנו פחות מבינים מה זה סוכני AI. יש כאלה שרצים עם זה קדימה ויש כאלה שעוד פחות. צ'אט GPT הוא הבייבי עם החיתול שמתחיל ללכת, הכי קל להשתמש בו, אבל בסוף זה עולם שמתפתח מאוד מהר, השאלה היא עד כמה מורים בכלל יודעים על מה מדובר, כי אם מורה שאין לו כל כך ידע בא אל ילד שכבר לא רואה אותו ממטר, יש פה פער והילד לא יקשיב למורה כי זה יהיה איזה דינוזאור שמנסה להסביר. << אורח >> קרן רוט איטח: << אורח >> זה לגמרי נכון. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> אגב, גם ההורים, לא רק המורים. << אורח >> קרן רוט איטח: << אורח >> תכף נתייחס גם להורים, אנחנו מתייחסים לכל האוכלוסיות. אין ספק שזה נלקח בחשבון גם בהכשרות של מורים, בפיתוח המקצועי של המורים. המורים בסופו של דבר מתווכים את העניין לתלמידים והם חייבים להיות שם בחזית. << אורח >> אדורה אלעיס: << אורח >> שלום, אני אדורה ואני גם ממשרד החינוך וגם מ-105. אני אתייחס להורים כי אנחנו משקיעים המון חשיבה ועשייה בכל הנושא של הרצאות להורים דרך משרד החינוך. מחר תהיה ההרצאה החמישית בנושא הרשת, ביחד עם איגוד האינטרנט, ד"ר שקד, לכלל ההורים בארץ. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> איך הורה יודע מזה? << אורח >> אדורה אלעיס: << אורח >> מקבל SMS. יש לך ילדים במערכת החינוך? << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> כן. << אורח >> אדורה אלעיס: << אורח >> אז היום תקבלי SMS מ-Edu.Parents, תשימו לב. << אורח >> קרן רוט איטח: << אורח >> אולי לא פותחים תמיד את ההודעות האלה. << אורח >> עידן רינג: << אורח >> אולי זה בספאם. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> מעניין אותי אחר כך לדעת מבחינת סטטיסטיקה כמה הורים באמת משתמשים בזה, כי אם נותנים שירות מסוים אבל אף אחד לא משתמש בו לא עשינו כלום, רק סימנו "וי". << אורח >> אדורה אלעיס: << אורח >> אני יכולה להגיד לך מהמספרים שיש לנו שהרבה הורים נכנסים, גם בחברה הערבית וגם בחברה הכללית, לפני שבוע הייתה לנו אפילו הרצאה ברוסית. << דובר >> ירון לוי (יש עתיד): << דובר >> אפשר לכמת את המילה "הרבה" לנתון, למספר? << אורח >> אדורה אלעיס: << אורח >> קודם כל, אני רוצה לוודא שכל ההורים שיושבים פה מקבלים במערכת ההודעות שלהם הודעות Edu.Parents ממשרד החינוך, תוודאו שאתם מקבלים את ההודעות האלה כי זה באמת ערוץ מאוד חשוב שדרכו מנגישים את ההרצאות לקראת היציאה לחופשת הקיץ. << אורח >> קרין ביבס: << אורח >> אולי כדאי לעבור לוואטסאפ, שיהיה קצת יותר ממוקד? << אורח >> אדורה אלעיס: << אורח >> זה כבר דברים של הגנת הפרטיות, אני לא יודעת, אבל המשרד יודע איך לתקשר עם הורים. מחר יש הרצאה בנושא "החבר החדש של הילד שלי הוא בוט – ניווט הורי". אנחנו נותנים להורים את הכלים, איך לפנות לילדים, על מה לדבר איתם, איך להתנהל איתם. אנחנו גם בונים את זה, זה משהו חדש, זו הרצאה חדשה שמשרד החינוך, יחד עם איגוד האינטרנט, בונה ואני מזמינה את כולם להשתתף מחר ב-20:30. בהמשך תהיה לנו אותה הרצאה גם בערבית. אנחנו גם הוצאנו סרטון הסברה. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> תוכלו רק לדווח לוועדה בבקשה מה אחוז ההורים שמשתתפים במגזרים השונים כדי שנקבל אומדן? אם זה 15% לא עשינו בזה כלום. סתם אני זורקת מספר, אני מקווה מאוד שלא. << אורח >> אדורה אלעיס: << אורח >> אני אבקש את זה מהמשרד ונעביר לוועדה מרוכז. זה לא הדבר היחיד. הנהגת ההורים גם שותפה איתנו בדבר הזה, גם הם במהלך ובדיבור איתנו וגם הם מנגישים את ההרצאות שאנחנו נותנים. יש לנו גם סרטונים, ההורים נמצאים ברשתות החברתיות, הילדים נמצאים ברשתות החברתיות, שנה שעברה הוצאנו סרטון לגבי שימוש ב-AI, איך ילדים משתמשים ב-AI וגם הזהרנו מהסכנות. ילדים לא יודעים שגם חומר שמיוצר דרך AI יכול להוות עבירה פלילית. יש סרטון שהוצאנו גם בעברית וגם בערבית, הצגנו אותו בוועדות שנה שעברה בכנסת, אני מאוד מקווה שראיתם אותו. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> מאיזה גיל הטרגוט שלכם מתחיל? 12? << אורח >> אדורה אלעיס: << אורח >> אני רוצה להאמין שכן. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> כי אני יכולה להגיד לך אני לא נחשפתי לשום דבר, יש לי ילדים בני 7.5 ו-9. << אורח >> קרן רוט איטח: << אורח >> אז טוב מאוד. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> לא, אם אני לא נחשפתי זה אומר שזה לא ממומן. אבל בינינו לחצי מהכיתה יש טלפונים – אני חושבת שזה גרוע, לילדים שלי אין – מה שאומר שילדים כן נמצאים שם, הם כן נמצאים ב-GPT וגם ההורים, לכן אני תוהה. בכוונה עצרתי אותך כי זה אלגוריתמים וזה טרגוט וזה לדעת למי לשלוח. << אורח >> אדורה אלעיס: << אורח >> את נוגעת בנקודה חשובה של פערים איך מגיעים לכלל הקהלים. אנחנו מגיעים אבל לא מספיק, אנחנו רוצים עוד ואנחנו כל הזמן בודקים את עצמנו ומוצאים את הערוצים הרלוונטיים להנגיש את זה. זו סוגיה שאנחנו גם כל הזמן עסוקים בה אז אני שמחה גם על הקול הזה. אני אתן לאוריה להמשיך. בבקשה. << אורח >> אוריה חורש: << אורח >> אני כאן בהרבה כובעים ודווקא אני רוצה להוסיף קצת בכובע האקדמי שלי. ד"ר אוריה חורש, הדוקטורט שלי עוסק ממש בשאלת החוסן, ממה עשוי החוסן הזה בעולם דיגיטלי, באופן כללי בעולם דיגיטלי ואני חושבת שאפשר לקחת וגם להשליך את זה לכיוון הבינה המלאכותית. לשאלת יושב-הראש, ההורים זו באמת התשובה לגילאים צעירים, ככל שאנחנו מדברים על גילאים צעירים יותר אנחנו מדברים על עבודה עם הורים. אני רוצה להציג מושג חדש שנתקלתי בו שהוא נורא מעניין ואני חושבת שכל הוועדה הזו עוסקת בו. כולנו הכרנו את מושג ה-FOMO, נכון? ה-Fear of Missing Out, הפחד מפספוס, אז היום נתקלתי במושג חדש שנקרא FOFO - Fear Of Finding Out. אני חושבת שכולנו במצב שאנחנו קצת בחרדה לגלות מה האותיות הקטנות מאחורי האירוע הזה. הוועדה הזו היא סופר מבורכת בדיוק בהקשרים האלה ואני חושבת שעמדת ה-FOFO, עמדת הידיעה והרצון לדעת ולהפוך ולקרוא את האותיות הקטנות, היא במידה רבה איזושהי התייצבות ערכית ואתית של עולם המבוגרים היום בעיניי מול האירוע הזה. אני כן רוצה לספר קצת על גורמי החוסן. אנחנו חקרנו חשיבה רפלקטיבית, חשיבה רפלקטיבית היא באמת היכולת לחשוב באופן ביקורתי, לשאול, לברר, נאמרו מספיק דברים על העניין הזה. רציתי להוסיף כמה דברים בהקשר של הסכנות, אני אומרת את זה גם כפסיכולוגית שנתקלת בהמון המון מקרים וקשיים בהקשרים האלה. אני רואה שמעבר לחלקים הבין-אישיים שנורא דוברו כאן, הקשר, זה שזה קשר אינטימי מדומה, יש חלקים שלמים בחלקים התוך-אישיים. אנחנו מדברים על תהליכים של פקפוק עצמי, על התהליך של ההתרחקות מחשיבה אינטואיטיבית, על היכולת שלי באמת להבין מה אני רוצה ואיך אני פועל בעולם הזה, שאלה חלקים שלמים שהרבה פעמים עבודה על חשיבה רפלקטיבית וביקורתית מאוד מחזקת אותם. בנוסף לזה, אני רוצה קצת להבין נתונים מעניינים ואולי לסיים בגישה אופטימית כי אני משתדלת לשמור על אופטימיות ולא על תרחישים אפוקליפטיים בהקשרים האלה. במחקרים שנעשו בעולם על דור ה-Z – אתם דיברתם על גילאי 13 עד 17, דור ה-Z זה מ-16 עד 30 – רואים שיש הרבה יותר סקפטיות דווקא בקרב הדור הזה מדורות קודמים, מדור ה-Y ודור ה-X, מאיתנו, והתהליכים האלה הרבה פעמים מאוד קורים בהקשרים הטכנולוגיים. זאת אומרת, יש הרבה יותר פלטפורמות שהם כמעט מקימים בעצמם כדי לייצר יותר קשר אנושי. אנחנו ממש רואים את זה היום בכל מיני היבטים, גם דרך איזו חזרה לאחור של הורות שהרבה יותר מודעת טכנולוגיה, אנחנו רואים את זה יותר בשכבות הסוציו-אקונומיות הגבוהות, כמו הרבה דברים, כמו קמח לבן וסוכר לבן שלאט לאט הולך ומתפשט גם, אבל זה תהליכים שקורים. דור ה-Z הוא דור מאוד ביקורתי ואני מרגישה הרבה פעמים את האחריות ואת ההתייצבות האתית והערכית לבוא ולתת להם גב ופשוט לעזור להם באירוע הזה, שהם כבר מריצים אותו לבד ולפעמים דווקא אנחנו, עם ה-FOFO שלנו והפחד של לנו לגלות מה עומד מאחורי הדברים, הרבה פעמים מפשלים. אז אני אופטימית. << יור >> היו"ר יאסר חוג'יראת: << יור >> האם אתם עוקבים אחרי פניות לשפ"ח בבתי ספר? האם הייתה עלייה בכמות הפניות אחרי כניסת ה-AI או ירידה? << דובר_המשך >> אוריה חורש: << דובר_המשך >> תראו, AI והטכנולוגיה היא ממש פלטפורמה. אנחנו מגלים המון המון דברים, איזה קשיים שאתם מעלים על דעתכם, שמתרחשים היום בפלטפורמה, יש להם את המופע הדיגיטלי, הפלטפורמה הדיגיטלית שדרכה הם מתרחשים. אז חלק מללמוד את המערכת הזו, איך היא בנויה ואיך ללמד מורים איך המערכת הזו בנויה זה נורא נורא משמעותי, כי כשילד אומר למשל: אני רוצה למות, אבל הוא כתב את זה בצ'אט, או כסטטוס בוואטסאפ, או התייעץ עם הצ'אט מה גובה החבל, אנחנו באזורים שונים, אנחנו צריכים להבין באמת את הפלטפורמה. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> שאלה קטנה למשרד החינוך: האם בבתי הספר היסודיים, כלומר, לפני גיל 12, שנכנס פה לסטטיסטיקה הזאת, יש איזושהי הכנה, בדיוק כפי שהיא אמרה, של חשיבה ביקורתית, איך לבדוק את עצמי, איך לנהל את השיח של עצמי מול עצמי אל מול אותו AI? זה צריך להיות לפני שהם משתמשים בזה. << אורח >> קרן רוט איטח: << אורח >> לגמרי. יש לנו תוכנית שנקראת "הכוחות שבדרך", אני מניחה ששמעתם עליה בדיונים נוספים, שהיא בעצם תוכנית הלימוד ללמידה רגשית חברתית בתוך מערכת החינוך, כשאחד הפרקים בתוכנית עוסק בנושא של התנהלות ברשת. הפרק הזה עוסק גם בגיל היסודי, שבעצם עוזר לילדים להבין את המרחב של הרשת על כל הרבדים שלה, על כל המופעים שלה, ולהפעיל שם חשיבה ביקורתית ולהבין את ההבדל של מה אני עושה שם ומה הרשת מאפשרת לי, מה הסיכונים שברשת לעומת ההזדמנויות של הרשת. יש בהחלט שיעורים, החל מכיתה א', שמדברים על המרחב הזה ועל הזירה הזו, כשהסיפור של חשיבה ביקורתית מתרחש בכל הנושאים, לא רק בנושא הספציפי הזה, זאת מיומנות שאנחנו עובדים עליה בעוד הקשרים, כשאנחנו רוצים שתשרת אותנו במצבי חיים שונים. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. << אורח >> ריבי ארצי: << אורח >> שלום, נעים מאוד, ריבי ארצי ממינהל חדשנות וטכנולוגיה. אני מאגף מו"פ, מחקר ופיתוח. אנחנו זיהינו את המגמה הזו לפני קצת יותר מ-10 שנים ושמנו אותה די בראש. שימו לב מה קורה עם הבינה המלאכותית, היא הולכת "לתקוף אותנו", במירכאות. במהלך עשר השנים האלה קיימנו מעבדות ופיילוטים שעוסקים בשילובים של בינה מלאכותית. הדבר הגדול שקרה, המפץ הגדול, זה הכניסה של הבינה המלאכותית היוצרת לחיינו, שם מיד התאפסנו על עצמנו ועשינו שלושה מהלכים: אחד, אנחנו ממשיכים לחקור לאן המגמות הולכות, ועכשיו קיבלתי ניתוח ממש מהיר וזריז למה עומד לקרות בהקשר של הדיון. אז אנחנו מנטרים לאורך כל הדרך את הסיכונים, את ההזדמנויות ואיפה התפקיד שלנו במשרד החינוך; ויצרנו עוד שני דברים שמתעדכנים כל הזמן כקצב ההתעדכנות. אחד עוסק בנושא הכשירויות – יש מסמכים של כשירויות, מסמך כשירויות 2.0 כבר יצא, כשירויות של מורים וכשירויות של תלמידים, כשלאורך כל הדרך אנחנו מדברים על ארבע מיומנויות: אחת, זיהוי הכלים; שתיים, שימוש נכון בכלים – אני מדברת על המורים כי אם המורים לא יידעו, התלמידים יעשו פחות או יותר מה שבא להם עם זה, אי אפשר למנוע את זה גם אבל חשוב לא פחות שהמורים ידעו מהם הכלים האלה, לאן מפנים אותם, מה השימוש של כל אחד מהם, מה היתרונות, מה החסרונות, איפה זה עוזר לי, איפה פחות, איך אני משתמש; השלב השלישי במיומנויות שאנחנו מדברים עליו זה איך אני יוזם ויוצר עם כלים של בינה מלאכותית, והמיומנות הרביעית והחשובה זה התפקיד האתי בתוך הסיפור, האתיקה והמוסר בתוך הסיפור של השימוש עם הכלים. אנחנו כל הזמן אומרים ש-human in the loop, אנחנו לא משאירים את זה לבד, תמיד המורה נמצא בתוך מעגל העבודה, הלמידה, הערכה או כל דבר שאנחנו עושים עם הכלים. אז human in the loop זה סופר חשוב לנו לזכור ואנחנו מחזיקים את זה, אנחנו אף פעם לא משגרים את הילדים: תלכו, תלמדו, תחזרו עם תוצאות. תמיד המורה, האדם, מנטור, מאמן – מי שנמצא במרכז האירוע הפדגוגי – נמצא גם בתוך האירוע המקוון עם הכלים של הבינה המלאכותית. אז זה באזור הכשירויות. כבר הוצאנו את הגרסה השנייה ואנחנו כל הזמן מוצאים כי זה באמת גדל ועולה. בינואר 2026 פרסמנו מצפן מדיניות שהוא מאוד קשוח, הוא גידור מצוין, אבל מה, זה כמו להגיד שילד עד גיל 9 לא חוצה כביש, או ילד עד גיל 14 לא עולה לבד במעלית, קשה מאוד לראות איפה זה עומד ומה זה עושה. אבל מבחינת גידור מערכתי אנחנו לא מאשרים כניסות של כלים עד גיל מסוים. אני אשלח גם את המסמך שיצא בינואר 2026 – אנחנו כבר עובדים על הגרסה המעודכנת שלו – אנחנו לא מאשרים כלים שלא עברו באמת מסע שלהם של אישור עם חברות, אנחנו לא מכניסים כלים לשימוש של תלמידים. מבחינת גילאים, מה אנחנו מסכימים ומה לא: כיתות א'-ג' – איסור מוחלט על שימוש תלמידים מבחינת המשרד. << אורח >> עידן רינג: << אורח >> מבחינת המשרד בבתי ספר, בשעות בתי הספר, זו המדיניות? << אורח >> ריבי ארצי: << אורח >> זו המדיניות, כן. << אורח >> עידן רינג: << אורח >> אבל זו המלצה להורים גם? << אורח >> ריבי ארצי: << אורח >> כן, ברור. << אורח >> הדר להב: << אורח >> בכל כלי מבוסס בינה? << אורח >> ריבי ארצי: << אורח >> כן. מבחינתנו, במהלך בית הספר, או בכל הנחיה שניתנת לשיעורי בית – אין בכלל. ילדים מכיתה א'-ג' – איסור מוחלט על שימוש תלמידים. אין כלים מורשים בכלל. המורה מנהל את השיח אל מול התלמידים, למורה כן מותר להשתמש, ופה זה מחזיר אותנו לעניין הכשירויות, איך מורה כן ישתמש נכון בכלים. בכיתות ד' אנחנו כבר עוברים לשימוש של תלמידים, שימוש עצמאי ומבוקר. זאת אומרת שהם נכנסים רק לבוט שפותח על ידי משרד החינוך. זהו. אגם סגור. אנחנו לא מאשרים מעבר לזה שום כלי אחר. אנחנו, כמשרד, יכולים לגדר, קשה מאוד לאכוף את זה, אבל זו המשימה שלנו, אנחנו רגע מגדרים אזור שהוא כמעט בלתי ניתן לגידור. << אורח >> הדר להב: << אורח >> הדר לב, חוקרת מדיניות דיגיטלית. שאלה: Canva, שכן משמשת ילדים גם בכיתות ג' כמדומני, כן יש שם AI, השאלה אם הכוונה היא גם ל- AIשנמצא בתוך כלים אחרים שהם משתמשים בהם. << אורח >> ריבי ארצי: << אורח >> מה שעובר דרך המשרד. כל מה שמאושר על ידי המשרד עובר פיקוח והוא בפיקוח מלא. Canva כן, אני צריכה לבדוק רק מאיזה גיל, אבל כל הכלים שמאושרים – NotebookLM מגיל מסוים – בסד מאוד מאוד ברור גם אל מול הספקים, זה לא: בואו נעשה את זה בעצמנו. כיתות ד', כמו שאמרתי, הפיקוח הוא פיקוח מלא של צוותי ההוראה. יש רק את הבוט המיוחד הזה שאנחנו קוראים לו קיו ((Q, קיו 1, קיו 2. אנחנו עובדים איתו. יש לנו בקרה גם על הבוט עצמו, יש קבוצה של בתי ספר שנבחרו כפיילוט שאנחנו עורכים איתם סקרים, האם הבוט משמש, האם הוא יעיל, האם יש לו באגים, האם הוא חורג, וכשקורה משהו אנחנו מיד עוצרים. קרה לנו – מיד עצרנו. כיתות ה'-ו' משתמשים רק בכלים שמאושרים ויש קטלוג חינוכי מאושר, וכדי שכלי יהיה בתוך הקטלוג הוא עובר באמת מסכת של אישורים מבורכת. אז ליזמים או למי שרוצה להכניס זה קשה, נכון, אבל זה התהליך, ואפשר לרכוש כלים רק מהקטלוג כשבתוך הכיתה המורה אקטיבי בהנחיה. זה לא שאומרים: עכשיו תפתח את NotebookLM, Canva, לא משנה מה, תעבוד, אני אשחק לי בקנדי קראש. לא. ההנחיה היא מאוד מאוד מאוד אקטיבית והמורה הוא כבר ה-human בתוך האירוע, הוא כבר זז מאזור המחשב והמסך והוא עם התלמידים, הוא בודק שהם באמת נמצאים באזורים הנכונים, שהם עובדים על פי הכללים וההנחיות שיש. כיתות ז' ומעלה השימוש עצמאי ומורשה, רק, שוב, כלים שמאושרים בתוך הקטלוג לקבוצת הגיל הזו. ההנחיה של המורה היא הנחיה יותר כללית, תוך שמירה מאוד מוקפדת על כללי האתיקה. אז זה הגידור שאנחנו עושים. אנחנו בוחנים אותו כל הזמן, רואים שאנחנו נמצאים בתוך האזורים האלה. חובת אישור הורים היא מאסט. ללא אישור הורים ילדים לא יכולים להיכנס ולא יכולים להשתמש מבחינתנו. אם אין אישור הורים זה לא קורה, ויש לנו – אנחנו קוראים לזה "חומת מגן אתית" – ויש בה חמישה עקרונות של פעולה. המורים מכירים את המסמכים, אנחנו עובדים איתם, והתפקיד שלנו בתוך האירוע הגדול והמורכב הזה, כמנהל חדשנות וטכנולוגיה, זה כל הזמן להסתכל קדימה, כל הזמן לזרקר ולחיישן מה עובד, מה פחות, איפה אנחנו יכולים למנף ואיפה צריך לשים לב. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> אני מבינה שנכון לעכשיו עדיין יש בדיקת באגים אז זה עדיין לא עובד. אמרת שיש פיילוטים - - - << אורח >> ריבי ארצי: << אורח >> לא, קיו 1 ו-2 עובדים. אני אומרת שתוך כדי שהם עובדים – הם עובדים, הם עברו את כל המנגנונים – זה אגם סגור של נתונים. לפעמים קורה שמישהו שואל משהו ומקבל תשובה שאנחנו לא רוצים לדעת ממנה. לכן, אחת לכמה זמן אנחנו מכניסים את שתי המערכות האלה לבדיקה מובחנת של מורים - - - << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> כמה בתי ספר עובדים עם זה? << אורח >> ריבי ארצי: << אורח >> אנחנו רואים בעיקר בחודש הבינה המלאכותית עלייה מאוד מאוד גדולה. יש לנו חודש בשנה של קידום הנושא של כשירויות בינה מלאכותית ושם אנחנו רואים עלייה מאוד גדולה של הקיו, אני יכולה להוציא נתונים. << יור >> היו"ר יאסר חוג'יראת: << יור >> אפשר להעביר, כן. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> אני אגיד למה אני חותרת. זה ניסיון שהוא מאוד מאוד יפה, הוא טוב, הוא מבורך ואני חלילה לא מזלזלת בו לרגע, הוא פשוט לא בהלימה להתקדמות הטכנולוגית אז הוא לא רלוונטי. עד שהם יתחילו את שנת הלימודים הבאה זה AI שכבר מוליד AI, זה לא בני אדם שמתכנתים אותו בכלל. לכן הדגש לדעתי צריך להיות – זו הצעה, אני לא מומחית חינוך, לא מנסה להחליף אתכם בתפקידכם – ללמד את הילד מה זה AI מכיתה א', כל הזמן לפי הגיל להסביר לו AI. הוא לא בטוח, תפקפק, תשאל שאלות, תבדוק האם זה אמיתי, לא אמיתי. הבן שלי ראה משהו ואמר לי: "יואו, אימא, את ראית איך הכדורגל שבר את הקיר?" אמרתי לו: "זה AI, זה לא אמיתי". "מה, באמת?"; "כן, זה לא אמיתי". צריכים להיות שיעורים שלמים שמסבירים להם את ההבדל בין מציאות לבין AI, לשאול שאלות. תחזירו שיעורי גמרא מבחינתי, הם לא צריכים לדעת תשובות יותר, הם צריכים לדעת לשאול שאלות. << יור >> היו"ר יאסר חוג'יראת: << יור >> חשיבה ביקורתית. << דובר_המשך >> מיכל שיר סגמן (יש עתיד): << דובר_המשך >> וחלילה לא לתקוף אתכם, אתן עושות עבודה מדהימה, זה פשוט לנסות לרוץ אחרי הרכבת שאין לכם שום סיכוי להשיג. << אורח >> ריבי ארצי: << אורח >> גם בתוך האירוע הזה אנחנו באמת מנסים לתווך עם אנשים שרצים והם יכולים ללמד אותנו, ויש הרבה מאוד אוכלוסיות בתוך המשרד שכל דבר שאנחנו שמים זו קידמה מאוד מאוד גבוהה, והאחריות שלנו היא באמת להחזיק את כולם תחת אותו מקום. כן, אנחנו יודעים שאנחנו חייבים-חייבים להחזיק גם את הסיפור של הבינה המלאכותית וגם את הסיפור של ה-Social Emotional Learning (SEL). זה שני דברים שחייבים ללכת ביחד. אנחנו יודעים, אנחנו מדברים על כשירויות מאוד ספציפיות שקשורות ליכולת לשאילת שאלות, של חשיבה ביקורתית, היכולת לנהל מתחים ודילמות, היכולת לזהות דברים שהם לא נכונים, היכולת לדעת לשאול את האדם הנכון, human, ולא את מי שגורם לנו לפקפוק, ובעיקר יכולות תקשורת, שזה מאוד מתקשר למה שאנחנו דנים פה היום, שמאוד מעציב אותי באופן אישי. אנחנו עלולים לאבד את יכולת התקשורת הבין-אישית כי נוח לנו יותר, לאור כל מה שאמרתם, אל מול הבינה המלאכותית. החדשות הפחות טובות הן שיהיו יותר ויותר משתמשים, החדשות היותר טובות, שגם האזור הזה מתפתח ואנחנו רואים כיוונים של AI כמשלים את ה-human בתחומים הרגשיים. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. ד"ר נאווה כהן אביגדור, המשרד לביטחון לאומי, בבקשה. << אורח >> נאווה כהן אביגדור: << אורח >> תודה רבה. ד"ר נאווה כהן אביגדור, מהמטה הלאומי להגנה לילדים ברשת – 105, מהמשרד לביטחון לאומי. אני רוצה קודם כל לשתף בסקר חדש שעשינו והוצאנו הודעה לעיתונות לפני כשבועיים. ההודעה נמצאת באתר הוועדה ובאתר 105, כולל המצגת שמלווה את הסקר. הסקר התקיים בינואר 2026 בקרב 1,108 בני נוער בגילאי 12 עד 17, כאשר הוא כלל מדגם מייצג של כלל האוכלוסייה, דהיינו כולל אוכלוסייה מהחברה הערבית וחברות נוספות, מדגם מייצג. אני אוסיף פה פן שנוגע לתחושת הביטחון, לפנייה לעזרה ודפוסי דיווח, למודעות הורים ומורים ואני אתמקד בנושא של AI, נושא הדיון. על פי הסקר, 86% מבני הנוער משתמשים בכלי בינה מלאכותית באופן קבוע, אבל – וזאת נקודה חשובה – רק כמחציתם, 52%, עברו הדרכה מתאימה. 28% מבני הנוער מעידים שהם נחשפו לתוכן מטריד או פוגעני ברשת הקשור לבינה מלאכותית. רק 46% מבני הנוער מדווחים על תחושת ביטחון גבוהה ברשתות החברתיות, ו-62% מבני הנוער שנפגעו ברשת מדווחים על הפגיעה. אז אנחנו מדברים על דור AI שעושה שימוש כמעט אוניברסלי אבל לצד הדרכה חלקית. מה הם עושים באמצעות כלי בינה מלאכותית? הכנת שיעורי בית – 72%; תרגום וניסוח טקסטים – 50%; יצירת תמונות וסרטונים – 35%; ייעוץ אישי – 28%, שזה מאוד מתחבר לנושא הדיון כאן; ומשחקים ויצירת דמויות – 22%. רק כמחצית מבני הנוער, 52%, עברו הדרכה לשימוש בטוח בבינה מלאכותית, כאשר 38% מציינים כי הדרכה ניתנה במסגרת בית הספר. יותר משליש מבני הנוער, 35%, מציינים כי הם סומכים במידה רבה על המידע שמספקים כלי בינה מלאכותית. מממצאי הסקר עולה כי אחד מכל ארבעה בני נוער נחשף לתוכן מטריד שקשור לבינה מלאכותית. הם מתקשים לזהות האם התוכן שבו נתקלו אכן נוצר באמצעות AI. 11% סבורים כי הם נחשפו לתוכן פוגעני שנוצר באמצעות AI;17% נתקלו בתוכן פוגעני אך אינם בטוחים אם נוצר באמצעות AI ו-25% אינם בטוחים כלל אם נתקלו בתוכן פוגעני מהסוג הזה. כשאנחנו מדברים על תחושת הביטחון האישי ברשתות החברתיות אז רוב בני הנוער, 72%, מעריכים כי הם שומרים היטב על הפרטיות שלהם ברשת. למרות שבני הנוער מעריכים כי הם יודעים להתנהל בבטחה ברשת ושומרים על הפרטיות שלהם, עדיין תחושת הביטחון שלהם ברשתות החברתיות נמוכה יחסית. זה לא מידע חדש, אנחנו רואים את זה לאורך השנים. רק 46% מדווחים על תחושת ביטחון גבוהה, לעומת זאת, 90% מדווחים על תחושת ביטחון גבוהה בבית, 70% בבית הספר ו-52% במרכזי הבילוי. אז אנחנו יודעים לאורך השנים האחרונות שתחושת הביטחון האישי ברשתות היא הנמוכה ביותר. פנייה לעזרה ודפוסי דיווח – רוב בני הנוער שנפגעו ברשת מדווחים על הפגיעה, 62%, וזה נתון חשוב וחיובי, כאשר ההורים הם הכתובת המרכזית לדיווח, בקרב 42% מהילדים. לאחר מכן גורם בבית הספר – 14%, וחבר קרוב – 12%. דפוס זה חוזר גם במצבים שבהם חבר נמצא במצוקה אישית, בני הנוער מציינים כי יפנו בעיקר להורים, 54%, ולצוות החינוכי 23%. 58% מבני הנוער שמעו על מוקד 105, בעיקר דרך פעילות בבתי הספר, 34%, ו-30% מציינים כי יפנו למוקד במקרה של פגיעה. אני רוצה לציין ביחס לפנייה למוקד, בשנת 2025 דוח מוקד 105 העלה כ-54% מהפונים למוקד היו הקטינים הנפגעים. זאת אומרת, זו פעם ראשונה שיותר קטינים נפגעים פנו למוקד, ואני מדברת על למעלה מ-16,000 אירועי פגיעה שטופלו בשנת 2025. ערוצי הפנייה המועדפים עליהם לקבל סיוע הם: וואטסאפ – 28%, פנייה טלפונית – 27%; ופנייה פנים אל פנים – 13%. הסיבות המרכזיות לאי דיווח על פגיעה כוללות תחושה: כי אף אחד לא יכול לטפל בבעיה – 38%, בושה – 19%; ניסיון להתמודד לבד – 17%; ופחד או חשש מדיווח – 16%. לגבי מודעות הורית ומורים בנוגע לפעילות של בני הנוער ברשת: 88% מבני הנוער מעריכים כי הוריהם מודעים לפעילות שלהם ברשת, 54% אומרים שהמודעות היא במידה חלקית ו-34% מודעות במידה מלאה. גם בתחום הבינה המלאכותית נתפסת מודעות ההורים בקרב בני נוער כגבוהה יחסית. 57% מעריכים כי הוריהם מודעים לשימושי הם בבינה מלאכותית במידה רבה מאוד ובמידה רבה ו-27% מעריכים כי המודעות חלקית. לעומת זאת, מודעות המורים נתפסת על ידי בני הנוער נמוכה יותר. 34% מעידים על מציינים כי בעיניהם המודעות היא במידה רבה מאוד ובמידה רבה ו-29% מודעות חלקית בקרב הורים. אני רוצה להתייחס בסוף ממש בקצרה גם להמלצות שלנו ולשני פרויקטים פעילים: פרויקט אחד של ניטור יזום ברשת במרחבים הגלויים ברשת, פרויקט "אבירי הרשת". אנחנו באופן יזום מנטרים את המרחבים הגלויים, 27 מתנדבים ומתנדבות של המשרד לביטחון לאומי, ואנחנו מגלים שילדים משתפים באופן אנונימי ברשתות החברתיות בכל המצוקות והקשיים, וחלק מהדברים עלו פה בשקפים מבחינת החששות והקושי שלהם. זה קורה כי ברוב המקרים הדיווח הוא אנונימי. דהיינו, קל להם לדווח באופן אנונימי, ואנחנו עכשיו מתחילים לעקוב האם כתוצאה מההתייעצות של בני הנוער עם כלי בינה מלאכותית, השיתוף שלהם ברשתות החברתיות פוחת. זאת אומרת, ככל שהם יתייעצו יותר עם כלי בינה מלאכותית בערוץ של אחד על אחד, אנחנו לא נוכל מהצד לנטר את זה ולהגיע לילדים במצוקה ולתת להם סיוע. עלה פה הפרויקט של טיפול אונליין של 105 יחד עם עמותת עלם במימון קרנות הביטוח הלאומי, במסגרתו אנחנו נותנים עד 6 טיפולים של סיוע ותמיכה רגשית על ידי פסיכולוגים ועובדים סוציאליים ללא תשלום לכל מי שפנה למוקד 105, הטיפול בעניינו הסתיים אבל אנחנו מזהים שהוא זקוק לעוד תמיכה. הטיפול ניתן בעברית ובערבית. לבסוף, אני רוצה לציין ארבע נקודות שלדעתי חשוב להתייחס אליהן במשפט אחד: ידיעת החוק – אנחנו צריכים לדאוג שכולם יבינו שהחוק הוא חוק גם במרחב הפיזי גם במרחב המקוון ונוגע גם לשימוש בכלי AI. דיברו פה איגוד מרכזי הסיוע על יצירת סרטונים ותמונות באמצעות AI, תיקון מספר 10 לחוק למניעת הטרדה מינית, מה שמוכר כחוק הסרטונים, תקף לגבי AI בדיוק כמו לגבי חומר אמיתי. העלאת המודעות – העלאת מודעות בקרב כולם: הורים, מורים, ילדים, בני נוער. אנחנו צריכים להבין את האירוע הזה ולהעלות את המודעות כל הזמן; הדרכה וההנחיה לשימוש נכון בכלי בינה מלאכותית. ולסיום, טיפול הוליסטי עם מחויבות של המדינה על כל חלקיה, משרדי הממשלה, העמותות שעושות עבודה מצוינת, ואנחנו מפנים באמצעות פרויקט "אבירי הרשת" לתמיכה וסיוע של העמותות. רק אם כולנו נעשה את העבודה ביחד אני מאמינה שנצליח. הטכנולוגיה בסופו של דבר היא חיובית, מי שעושה בה שימוש שלילי זה בני אדם ואת זה אסור לנו לשכוח. תחשבו שכל הטוקבקים הנוראיים שכולנו קוראים היו רק חיוביים, איזה עולם יפה היה לנו. הדוגמה צריכה לבוא גם מלמעלה, מהמבוגרים, אני עובדת ציבור, עובדת המשרד לביטחון לאומי, גם מהבית הזה צריכה לצאת דוגמה חיובית של שיח חיובי, זה יתחיל מפה. << דובר >> מיכל שיר סגמן (יש עתיד): << דובר >> אני לא שואלת כדי לא לפתח דיון, אני שומעת שצריך לסיים, אז אני פשוט אומר שתוכן מטריד – יש לו פרשנויות, לא כל ילד יודע שמה שהוא צופה בו הוא מטריד, לפעמים מה שהוא צופה בו הוא נעים, בדיוק כמו שפגיעה מינית יכולה להיות נעימה רק שלא יודעים שזה פוגע בגילאים מסוימים. אז הגדרה של מה זה תוכן מטריד לילדים ולבדוק את זה. לא כל מה שמטריד, מטריד את הילד באותו הרגע, הוא לא יודע שזה פוגע בו. דבר שני, אני מאוד שמחה שיש את התמיכה ואת הפסיכולוגים, את השירות הזה של 6 מפגשים, השאלה היא: אחת, אם יש מספיק פסיכולוגים, ושתיים, איזה תור יש, כי אם מישהו נפגע והוא צריך לחכות עכשיו שנתיים לא עשינו בזה הרבה. זה מבורך רק צריך להגדיל את הסל. << יור >> היו"ר יאסר חוג'יראת: << יור >> המועצה לשלום הילד, יוהן קדוש, בבקשה. << אורח >> יוהן קדוש: << אורח >> תודה רבה. נאמרו פה הרבה דברים חשובים והנתונים מדאיגים גם אותנו, אבל קודם כל אמירה עקרונית שחייבת להיאמר: שום כלי בינה מלאכותית אינו מהווה חלופה הולמת למענה אנושי ורגשי מגורם מוסמך. זה שיש 30% מחסור פסיכולוגים חינוכיים, ויועצות חינוכיות קיימות היום רק בחטיבה העליונה – בני נוער לא הולכים למענה הנגיש, הם הולכים למענה הקיים. נכון להיום כל כלי הבינה פועלים בתוך וואקום רגולטורי, לא ברור מי האבא והאימא של הנושא הזה, יש פה ארבעה משרדי ממשלה: חינוך, בריאות, ביטחון לאומי ורווחה, לא ידוע מי הגורם המתכלל ואיך חלוקת האחריות עובדת. נשמח לקבל התייחסות כלשהי מאחד המשרדים איך החלוקה ביניכם עובדת, מי אחראי על מה, באיזה נושא, כדי לקבל תמונה ברורה. מן הסתם שחקיקה לא תקרה כאן היום אבל לפחות גורם מנחה יכול להתחיל היום. הדברים שהמועצה חושבת שחשוב שייעשו הם קודם כל לסגור את הפערים הרגולטוריים שקיימים בהשוואה לעולם. כבר היום יש באיחוד האירופאי אקט וחוק שנוגע ספציפית לעולם ה-AI שעושה הגבלות, שלא קיים כרגע בארץ, שיכול להיות מנוצל לרעה על ידי אותם גורמים תעשייתיים שמנהלים את כלי הבינה; ליצור הדרכות והכשרות של שימוש מושכל בכלי בינה עבור ילדים והורים וגורמי מקצוע; ליצור מרחבים פיזיים, שיהיה מענה חלופי עבור בני נוער כדי למנוע מצב שבני נוער מגיעים לצ'אט מחוסר ברירה ומתולדה של חוסר מענה רגשי. יש נטייה למדינה להפריט נושאים – למנוע שהנושא הזה של בריאות הנפש גם יופרט לבינה מלאכותית. תודה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. ד"ר שרון לוי, משרד הבריאות, בבקשה. << אורח >> שרון לוי: << אורח >> עלו כאן כמה שאלות למשרד אז אני אנסה לתת מענה. קודם כל, משרד הבריאות מאוד עסוק בנושא של השפעות מסכים. אנחנו כמובן לוקחים חלק ב-105, במהלכים החשובים שם, ואנחנו עובדים הרבה עם משרד החינוך. אנחנו רואים את נושא ה-AI, יחד עם עוד נושאים שקשורים להשפעות המסכים, רשתות חברתיות, על ילדים ובני נוער, ואנחנו מוטרדים, כמו משרדי בריאות ואיגודים רפואיים בכל העולם, מההשפעות גם על בריאות הנפש וגם על בריאות הגוף בגילאים הצעירים וגיל ההתבגרות. כולנו לוקחים חלק – יחד עם משרד החינוך – בסקר HBSC ומדד של AI ייכנס, זו תהיה הדרך שלנו למדוד בקרב אוכלוסייה באמת רחבה של בני נוער לאורך שנים, כי אנחנו כבר לצערנו רואים בכלל בהתמכרות למסכים את ההידרדרות מאז הקורונה, שילדים מדווחים על יותר התמכרות למסכים באופן רחב, ואנחנו רואים את זה גם כקשור לסימפטומים ולהתנהגויות בריאות אחרות, שבסוף הילד הבריא הוא הכול, הוא גם השימוש הבריא ב-AI אבל הוא גם עושה פעילות גופנית, נמצא בחוץ, מתקשר עם ההורים ועוד. אני רק אוסיף שעשינו לאחרונה שיתוף ציבור עם הורים וברור לנו שמסכים, רשתות חברתיות, AI, אלה דברים שגם מאוד מטרידים את ההורים, זה נושא מספר 1 בקרב הרבה מאוד הורים. ואגב, מה שנאמר פה על ידי חברת הכנסת, זה מתחיל בקרב הורים לילדים בגילאי יסודי. זאת אומרת ההורים כבר נמצאים בכאן ועכשיו והם מוטרדים מזה, ודווקא כשהם מגיעים לתיכון אולי הם כבר אומרים: טוב, מה שהיה היה. אני רק אומר שאנחנו כן רואים שיש התייעצות מרובה עם כלי AI, אנחנו מכירים את המחקרים, גם החדשים שיצאו וגם עם 105, ואנחנו מבינים שצריך ללמוד להשתמש באופן המיטבי ושנדרשים פה תיווך והדרכה של כל המבוגרים המשמעותיים, וזה גם כולל הורים. במשרד הבריאות אנחנו עכשיו חושבים ומכוונים למידע חדש ומעודכן להורים על הנושא הזה של שימוש במסכים בכלל וגילאים לדברים השונים. אנחנו מוטרדים במיוחד בעולם של בריאות בכלל ובריאות הנפש מהנושא של הימנעות או חיזוק של התנהגויות פחות בריאות בכך שהילד מתייעץ עם ה-AI. בשיתוף פעולה שלנו עם משרד החינוך, בין היתר בתוכנית העבודה שלנו של שנה הבאה, אנחנו מכניסים גם את הנושא של AI בשימוש לקידום בריאות, זה יהיה אחד מהפרויקטים המשותפים. ואנחנו גם מסתכלים בכלל על הנושא של חיזוק אוריינות דיגיטלית ושימוש מושכל במסכים בקרב הורים וגם בקרב הילדים כחלק מהמשימות הקרובות שלנו. אנחנו גם חושבים על העבודה מול המטפלים. קודם כל צריך לדעת שהתכנית הלאומית לבריאות הנפש ממש פועלת להרחבת השירותים. גם הייתה עלייה בשכר אבל גם מדברים על הגדלת השירות. זה חלק מהמשימה. אנחנו גם עוסקים ביצירת רבדי טיפול נוספים. יש היום הכנסה של רופאי ילדים ורופאי משפחה, לראות ולתשאל על הנושא של בריאות נפשית, וגם אחיות. יש לנו מבחן תמיכה שיוצא לקופות החולים על קידום בריאות ומניעה בקרב ילדים ונוער ובין הנושאים גם ייכנס נושא של מסכים כחלק מהמפגש של הרופא וכל הצוות המטפל עם ילדים בגילאי 10 עד 12, איך אפשר למנוע וגם לקדם בריאות. דבר אחרון שאוסיף זה שאנחנו כן בוחנים צעדי מדיניות. עלה פה הצורך בצעדי מדיניות משמעותיים בנושא של הגנה על הילדים שלנו ולקדם את הבריאות שלהם בהיבט של מסכים וזה בהחלט אחד הנושאים שחשוב לנו לקדם בזמן הקרוב. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. נציג משרד הרווחה, בבקשה. << אורח >> רותם שוחט לוזון: << אורח >> שלום לכולם, אני רותם שוחט לוזון, אני מייצגת גם את משרד הרווחה אבל גם נמצאת כאן בכובע של 105 כמנהלת תחום הרווחה במטה הלאומי. אנחנו ערים להשפעות הבינה המלאכותית, בטח ביתר שאת בשנתיים האחרונות. במסגרת השותפות שלנו ב-105 אנחנו פועלים באופן שוטף להעלאת המודעות, קודם כל בקרב מטפלים ובקרב עובדים סוציאליים שפוגשים מדי יום ילדים, בני נוער והורים, כדי להכניס לשיח הטיפולי גם את נושא הרשת, כל הנושא של הנחיות להורים, הנחיות למתבגרים. זה במישור אחד. המשרד גם מקדם פרויקט של איתור דיגיטלי ברשתות החברתיות כדי לאתר ילדים ובני נוער בסיכון לצורך התערבות ראשונית שתינתן ברשת, אבל ההכוונה היא להפניה לטיפול ומפגש ראשוני במרחב הפיזי. נמצאת איתי כאן יוני והיא תשלים את דבריי. << אורח >> יוני בן פזי: << אורח >> אני רק אוסיף שהיום יש ועדת אתיקה של המשרד בנושא AI כדי לגבש מדיניות איך להתייחס לכלים בכלל שבהם יש רכיבי AI שמשולבים וגם כדי לתת הנחיות מסודרות לטיפול בכלים בעולם של AI. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. הדר להב, אוניברסיטת בר אילן, בבקשה. << אורח >> הדר להב: << אורח >> שלום, תודה רבה. אני חוקרת מדיניות דיגיטלית וההשפעות של הפלטפורמות והמדינה על החברה. את המחקר של איגוד האינטרנט שהוצג למעשה הובלתי בתקופתי באיגוד האינטרנט ואני ממש שמחה לראות אותו בשלמותו עם הממצאים הכל-כך חשובים האלה. אני כן רוצה להביא עמדה שהיא אולי קצת לא פופולרית, אני אגיד שמהנתונים שהוצגו כאן, וגם מכל מה שנאמר, עולה למעשה הצורך הדחוף בסטנדרטיזציה של המענה הרגשי שניתן באמצעות הצ'אטבוטים מבוססי הבינה המלאכותית. הם כאן, הילדים כבר בתוך זה, זה לא הולך להיעלם. מדוח שיצא החודש על ידי האקדמיה הלאומית האמריקאית לרפואה הבעיה האמיתית היא שכיום אין דרך למדוד את הסכנות שמגיעות משימוש בצ'אטים לצורך רגשי, גם כי זו התחלה ואנחנו רואים שיש מחקרים שרק נאספים, וגם כי קשה לנו כרגע לקבל מידע על מה שקורה שם באמת ואין לנו יכולת גם להעריך אותם וגם לדעת איך לתת את המענה הנכון ביחס למה שקורה. אז בשביל לוודא שהמענה שבני הנוער מקבלים הוא הראוי והמקצועי ביותר שניתן חייב לבנות איזשהו מנגנון שיאפשר לנו ללמוד את הסכנות, למפות אותן ולהתאים את המענה לבני הנוער, וגם לציבור בכלל, אגב. הכלים לא מחליפים את המטפלים, כמו שנאמר פה, אין יכולת להחליף את זה, אלא מקצר תורים, מבצע סינון ראשוני, טריאז', יש כלים כאלה שקיימים ומשמשים היום מדינות שונות בעולם, כמו בריטניה למשל. חשוב להזכיר שאוריינות הבינה המלאכותית היא מיומנות בסיסית, כמו לדעת לחפש בגוגל, לכן חשוב ללמד ולחנך את בני הנוער – כמו שנאמר פה, ונעשה גם לא מעט בנושא אבל לא מספיק – ובמקרה של שימוש רגשי על המדינה וגם על אנשי הטכנולוגיה לנקוט בצעדים נוספים. לכן הצעתי היא לקדם הקמת צוות בין-משרדי שיתכלל את הפעילות של כולם, משרד המדע והטכנולוגיה, משרד הבריאות, משרד החדשנות, משרד הרווחה, בשיתוף איגוד פסיכולוגים, אנשי קליניקה, אנשי אקדמיה, חברה אזרחית וכן אנשי טכנולוגיה, שיחד יגדירו סטנדרטים מקצועיים למדידה של הסכנות בשימוש מסוג זה בצ'אטבוטים. וכן להתאמת הצ'אטבוטים עצמם, זאת אומרת שיהיו אולי צ'אטבוטים ייעודיים שיהיו גם נגישים, כמו צ'אט GPT. חשוב לזכור שהדרך בה הכלי בנוי משפיעה באופן דרמטי על הדרך בה ישתמשו בו. זאת אומרת, התשתית של הכלי משפיעה על הדרך שבה השתמשו בו לטובה ולרעה. כפי שאמרה ד"ר לורה אריקסון-שרות (Dr. Laura Erickson-Schroth): הארכיטקטורה של ה-AI המגדירה את אופן השימוש בכלי תהיה אחד הגורמים החשובים ביותר שישפיעו על בריאות הנפש של בני הנוער בעשורים הבאים. אז אנחנו יכולים להיות המדינה האחרונה שמגיבה או להיות החלוצה בתחום שפיתחה את הסטנדרט בין הראשונות. תודה רבה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. מאיה אילני, מנכ"לית מכון ברנדייס לכלכלה, בבקשה. << אורח >> מאיה אילני: << אורח >> שלום, תודה רבה, תודה ליושב-הראש ולעלם ואיגוד האינטרנט על המחקר והדיון המאוד חשוב. אני מנכ"לית מכון ברנדייס, מכון מחקר לכלכלה, חברה ודמוקרטיה. בהקשר של כלכלה, חשוב לי להגיד בדיון הזה, דיברנו הרבה על בני נוער, על נוער בסיכון, נפגעים – מבחינת החברות שהפיקו את המוצרים שהם הצ'אטבוטים האלה מדובר במשתמשים. אני חושבת שחשוב שנזכור את זה, שמדובר בחברות שלא כמו אנשים אחרים סביב השולחן הזה בחברה האזרחית, שרוצים לפעול לטובת בריאות הנפש של נוער, מדובר בחברות מסחריות שמתעניינות בכוח השוק שלהן ובשורת הרווח, ועבורן בני ה-13, או אפילו גיל נמוך מזה, הם משתמשים. זה משהו שחשוב לזכור כשאנחנו נכנסים לשיחה הזאת. בדוח המצוין של עלם ואיגוד האינטרנט יש המלצות להורים להזכיר לילדים שהצ'אט תמיד זמין ושלא אכפת לו ממך כמשתמש, כילד. אני חושבת שזה לא מדויק להגיד שלא אכפת לו – לא אכפת לו אולי מה יקרה לך, כן אכפת לו מאוד שתמשיך להשתמש, כי בסוף הם מוכרים מוצר, כמה שאנחנו משתמשים ונשארים שם יותר כך גם שורת הרווח שלהם גדלה. זה לא רק עבור נוער, זה גם עבורנו מבוגרים, אני בטוחה שכולנו מכירים אנשים בחיים שלנו שלא זזים בלי לשאול שאלה את הצ'אט. אנחנו גם יודעים מהעולם – אני בטוחה שגם בקרוב אנחנו נראה את זה בישראל – על אנשים ונוער שמפתחים ממש פסיכוזות והפרעות נפשיות קשות כתוצאה מההתמכרות שלהם לצ'אט. הניו יורק טיימס שאל לפני כמה חודשים את אליעזר יודקובסקי, מומחה לבינה מלאכותית ולאתיקה, איך אפשר לפתור את הבעיה הזו והוא אמר משהו שאני חושבת שחשוב שכולנו נכיר: מבחינת הזווית של אותה חברה כמו openAI, גוגל עם Gemini או כל חברה אחרת שפיתחה צ'אטבוט, איך נראה עבורם משתמש שמשתמש יותר ויותר ולאט לאט נטרפת דעתו, עבורם זה נראה כמו עוד משתמש חודשי עם מנוי מורחב. חשוב שאנחנו נזכור את הזווית הזו בדיון הזה. דיברנו כאן על כך שמשתמשים ילדים ונוער מתבלבלים וחושבים שהם מדברים עם בן אדם, או לפעמים עם ציניות הם יודעים שלא מדובר בבן אדם, גם מבוגרים – זה לא סתם, כל המוצר מעוצב כך, שכותבים לנו בפנייה מסוימת, מדברים על "אני מרגיש, אני חושב, אני חושבת", המוצר מעוצב כדי שנרגיש שיש שם מישהו בצד השני ונרצה להמשיך לשוחח איתו. בנוגע לאחריות הוועדה הזאת ושל כל מי שיושב מסביב לשולחן הזה, סם אלטמן ואילון מאסק פחות מתעניינים ברווחה ובבריאות הנפש של הילדים והנוער בישראל. האחריות על הרווחה, הביטחון והבריאות יושבת גם על ההורים, גם על מערכת החינוך, אבל גם כאן על המחוקקים. אנחנו בבית המחוקקים, בבית הנבחרים, ישראל מאחור. יש לי פה רשימה, שלא ניכנס אליה כי אין זמן, אבל האיחוד האירופי, בריטניה, ארצות הברית, אוסטרליה, מדינות מסביב לעולם כבר הכניסו רגולציה וחקיקה שפועלת על מנת למנוע התמכרות, הגבלת גיל, אמצעים אחרים. יש מה לעשות, יש למחוקקים מה לעשות ואני חושבת שהגיע הזמן שנדרש לזה גם בישראל. תודה. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה. רועי בני, מועצת התלמידים והנוער הארצית, בבקשה. << אורח >> רועי בני: << אורח >> עבורנו, בני הנוער, השימוש בכלי הבינה המלאכותית הוא חלק בלתי נפרד משגרת היום שלנו, אנחנו משתמשים בו לכל התחומים, החל מלבקש עזרה בשיעורי הבית ועד לסיוע רגשי. הצ'אט הוא החבר הכי טוב שלנו, הוא זמין עבורנו 24/7 ותמיד זמין לשמוע אותנו, הוא לא שופט אותנו והוא נותן לנו את ההרגשה של אנונימיות ושמקשיבים לנו. אבל איך אנחנו יכולים לסמוך עליו שיעזור לנו בעת משבר, שייתן לנו את העצות הטובות ביותר? התשובה היא שלא, אנחנו לא יכולים לסמוך עליו. אבל, כשיש חוסר היכרות עם גורמי הסיוע וחשש מלפנות אליהם, וכשיש מחסור ביועצים בתי הספר, והמורים שמחנכים לעתים 40 ילדים בכיתה, ולפעמים גם שתי כיתות במקביל, לא כל כך זמינים להקשיב לנו, אנחנו מרגישים שזאת האופציה היחידה שיש לנו, ואת המחיר, אנחנו, בני הנוער, משלמים. בלי חינוך נכון לשימוש בבינה המלאכותית, בלי הוספת יועצים ופסיכולוגים מבתי הספר, אנחנו נמשיך לשלם את המחיר. חשוב להוסיף בבתי הספר חינוך נכון לשימוש הבינה המלאכותית, מה שלא קורה כל כך בשטח, ולהוסיף כלים ייעודיים ומפוקחים למענים רגשיים ואישיים עבור בני הנוער. זאת הקריאה שלנו, הנוער. << יור >> היו"ר יאסר חוג'יראת: << יור >> תודה רבה, קרין ביבס, בבקשה. << אורח >> קרין ביבס: << אורח >> אני קרין ביבס, מייסדת קריקט, מיזם טכנולוגי חינוכי ראשון מסוגו שפותח במסגרת האקתון פורום מיכל סלע והמשיך ל-Google for Startups Accelerator. קריקט הוא בעצם מאמן התנהגותי חינוכי שמשתמש ב-AI כפתרון לעזור לבני נוער מגילאי 12 עד 15 במניעה מוקדמת של אלימות – תקשיבו למה שאני אומרת – בזוגיות. זה נושא שלא דיברנו עליו פה, למרות שעלם הם עשו כנס מאוד יפה בשיתוף המחלקה לקרימינולוגיה בבר אילן עם המחקר של ויצ"ו על איך מה שקורה עם בני נוער בגילאים האלה משפיע אחר כך על מערכות היחסים שהם ייכנסו אליהם. אני גם כן אסכים עם ד"ר הדר פה, אני מאמינה ש-AI זה הפתרון. יש לי שאלה לכל היושבים פה בשולחן: כמה אתם באמת חושבים שאתם מכירים מה זה AI? שמעתי שאנשים פה זורקים מושגים, צ'אט GPT, Claude, זה ממש לא AI. יש פה מושגים שאנשים יושבים ומנסים באמת למצוא פתרונות אבל מומחי ה- AI לא יושבים בשולחן. אין אפילו נציגות של גוגל. למה? אני אתן לכם שאלה: מישהו יודע מה זה Anthropic ומשתמש בזה? מישהו יודע מה זה Copilot ומשתמש בזה ביום יום? << יור >> היו"ר יאסר חוג'יראת: << יור >> גוגל הוזמנו ולא יכלו להגיע לדיון. << דובר_המשך >> קרין ביבס: << דובר_המשך >> אני שואלת בצורה היפותטית. אני חושבת שכשאנחנו מנסים למצוא פתרונות של בינה מלאכותית בתחום שאנחנו לא יכולים להיות מומחים בו כשיש לנו בני נוער ששוחים בו – ואני לדוגמה האימא היחידה בכיתה שמכירה בינה מלאכותית הרבה יותר טוב מהבנות שלי כי את קריקט בניתי בעצמי מאפס, אין לי תואר במדעי המחשב, אין לי שום דבר, אני פשוט חובבת בינה מלאכותית ומאוד אוהבת AI. זה כמו חשמל, חשמל זה טוב או רע? בשימוש טוב אפשר לעשות דברים נהדרים ואנחנו חייבים אותו, בשימוש גרוע זה מסכן חיים. אנחנו חייבים להתייחס לכל עולם הבינה המלאכותית כמשהו קיים ולהתחיל להשתלב בתוכו. זו לא סכנה. אל תספידו את הנוער שלנו. הם לא מסכנים. הילדים בישראל בנויים מחומר אחר. קשה מאוד להשוות אותנו לבריטניה, לאיחוד האירופי או לארצות הברית, כי אנחנו מדינה אחרת, לא סתם אנחנו סטארט-אפ ניישן, ובאמת השימוש ב-AI הוא מקום ראשון בישראל פר אדם. אתם צריכים להבין את זה, זה משהו שלא מוכר בארץ, לא בילדים, בנוער, לא במבוגרים. למשל, קריקט הוא פתרון, הם גם כך נמצאים שם, הם אוהבים את האנונימיות, הם לא רוצים שזה יגיע מההורים, הם לא מעוניינים בפיקוח של ההורים, הם מוצאים דרך לעקוף את זה וכל דבר שמריח כמו בית ספר הם מתרחקים ממנו, הם לא מעוניינים בו. אז אמרנו: אוקיי הם גם כך שם, בואו נמצא להם פתרון בשדה שלהם, במקום שהם נמצאים בו, וניתן להם מקום נכון, טוב ובטוח להתייעץ איתו וגם להתמודד עם מצבים רעילים חברתיים. זה פתרון אחד מיני רבים. אנחנו מנסים מאוד לעשות פיילוט בשיתוף משרד החינוך. כרגע אני יכולה להגיד לכם שיש לנו פיילוט בדרך עם החברה הערבית, לא דרך משרד החינוך, דרך עמותה שיש לה 25 יישובים עם בני נוער מתתי מגזרים, שזה אומר דרוזים, בדואים וכלל האוכלוסייה הערבית, שזה גם חשוב כי יש הבדל בתרבויות, ואנחנו גם מתחילים לחשוב על מקומות אחרים חוץ מישראל, כי באמת יש איזשהו מידור שכל מה שקשור לבתי ספר אנחנו לא נשמע על פתרונות חדשניים או משהו שמגיע מבחוץ. יש לנו הזדמנות פה, אנשים טובים, אנשים שעושים עבודת קודש. יש פה עוד מחקרים, המחקר של ויצ"ו, שנותן נתונים אדירים – חבל שלא הציגו אותו פה – למי בני נוער פונים כשקורה להם מצב חירום, איך הם תופסים אלימות. הבעיה שלנו באמת זה לא ה-AI, זו לא הסכנה, היא לא הבעיה. למה ילד בן 12 מרגיש בטוח יותר לפנות לטלפון שלו ולא לאבא ולא לאימא? זאת השאלה. יש פה פתרון טוב, יש עוד הרבה פתרונות שמפותחים. אני חושבת שכולנו צריכים לקחת את הטכנולוגיה, לפתח אותה ולקחת אותה צעד קדימה. הלוואי שיהיו עוד אנשים כמוני. לא לכולם יש את הכוח לעשות את הדברים בהתנדבות ובחינם ומה שנקרא בוטסטראפ – סטארטאפים שממומנים מאפס – אבל בואו גם נקשיב להם ונבין שהפתרון צריך לבוא בשיתוף פעולה איתם ומהם. אני לא יודעת מה איתכם, אני נולדתי כשהיה טלפון מחובר לקיר, כן ואם מישהי לא בבית צועקים לה מלמעלה שתרד. הבת שלי חגיגה השבוע 18, היא נולדה לעולם שיש טלפון עם מצלמה. תחשבו על זה, הם מסוגלים לנהל תקשורת עם אנשים בקצה השני של העולם וזה טבעי בשבילם, זה לא וואו אפילו. אז אנחנו לא מסוגלים להבין איך הם רואים את העולם וזה משהו שחייב להיות בשיתוף איתם. תודה. << אורח >> נאווה כהן אביגדור: << אורח >> אני מסכימה כמעט עם כל מה שאמרת, רק לא הבנתי דבר אחד: למה ילדים במדינת ישראל הם ילדים אחרים? << אורח >> עידן רינג: << אורח >> הם ילדים רגילים כמו בכל העולם, אני מסכים. << אורח >> נאווה כהן אביגדור: << אורח >> בעיניי ילדים הם ילדים, ואם הם אחרים כי הם רצים הרבה להזעקות וכי הם חיים בין מלחמה למלחמה אז חבל שהם ילדים אחרים. << אורח >> קרין ביבס: << אורח >> אין מה לעשות, זאת העובדה, ילדים בישראל גדלים אחרת. זאת הסיבה שיש פה יותר סטארט-אפים ישראליים, מהסיבה הזאת. אני אומרת את האמת, זה משהו חיובי דווקא, זה לא משהו שלילי. << יור >> היו"ר יאסר חוג'יראת: << יור >> אני רוצה לסכם את הדיון. קודם כל, אני רוצה להודות לכל מי שהגיע וטרח על המחקר והנתונים שהוצגו כאן בוועדה. אין ספק שזה נושא מאוד חשוב. אנחנו מודעים לקדמה ולשימוש ב-AI בתקופה האחרונה, בשנים האחרונות. אנחנו מודעים לתופעה שבני הנוער משתמשים ב- AIכמקום לקבל ייעוץ רגשי. לכן הדבר הכי חשוב הוא העלאת מודעות בקרב בני נוער, ילדים, הורים, מורים, וחשיבה ביקורתית ש-AI הוא בסך הכל כלי, הוא לא תורה מסיני, לא כל מה שכתוב או מה שהוא נותן לך הוא נכון. צריך לחשוב ולשאול לפעמים. זה צד אחד. אני חושב שתפקידו של משרד החינוך הוא להשקיע בזה עוד יותר. דובר כאן על המחסור בפסיכולוגים ומטפלים, שלפעמים גורם לתופעה הזו, שאנשים פונים לצ'אט GPT או לכל כלי AI על מנת לקבל עצות וייעוץ רגשי, לכן חשוב כמובן להגדיל את כוח האדם שעוסק בתופעה ובטיפולים. הכלים קיימים, הקדמה כל הזמן מתפתחת, וכמו שאמרה חברת הכנסת מיכל שיר, אנחנו לא יכולים כל הזמן לרדוף אחרי הטכנולוגיה, אלא אנחנו רוצים את הבלמים לשימוש נכון בטכנולוגיה, לבני נוער, ילדים, וזה גם כמובן דורש את מעורבות ההורים. אין ספק שגם צריך לקדם רגולציה וחקיקה בנושא של שימוש נכון ב-AI, את המגבלות. אולי גם יחד עם אותם גורמים מפתחים של AI, לשים את הברקסים שם, את הנתונים שם, וכשפונים לייעוץ רגשי צריך אולי קודם כל להפנות אותם לייעוץ אנושי ולא לתת את הייעוץ עצמו. אין ספק שיש הרבה מה לעשות. לגבי חקיקה, אנחנו לא יודעים אם נצליח לקדם בתקופה הקרובה אבל זה נושא חשוב, כל הנושא של AI בכלל. אין עדיין במדינה חקיקה שמגבילה את השימוש בזה, גם שימוש של ילדים ונוער וגם של המבוגרים. צריכה להיות רשות אחת שתטפל בכל הנושא הזה, רשות מתכללת, ולעשות חקיקה בנושא שימוש נכון, לשים את ההגבלות על השימוש ב-AI בכל התחומים. כמובן שאנחנו נמשיך לעקוב אחר הנושא הזה. תודה לכם, הישיבה נעולה. << סיום >> הישיבה ננעלה בשעה 14:30. << סיום >>