פרוטוקול ועדה

הכנסת העשרים-וחמש מושב רביעי פרוטוקול מס' 14 מישיבת ועדת המשנה של ועדת המדע והטכנולוגיה לנושא בינה מלאכותית וטכנולוגיות מתקדמות יום שלישי, כ' בחשון התשפ"ו (11 בנובמבר 2025), שעה 10:30 סדר-היום: << נושא >> מערכות יחסים ומענה נפשי בעידן הבינה המלאכותית – הזדמנויות וסכנות << נושא >> נכחו: חברי הוועדה: אורית פרקש הכהן – היו"ר מוזמנים: נטע אלגבסי – ראש תחום בכיר חברה, אגף חברה וממשל, משרד ראש הממשלה ד"ר שרון יגור קרול – מנהלת תחום מדעי הרפואה, משרד החדשנות המדע והטכנולוגיה דבי קאופמן – יועצת מדיניות, משרד החדשנות המדע והטכנולוגיה ד"ר אלונה ברנע – רח"ט נוירו טכנולוגיה, מפא"ת, משרד הביטחון ד"ר אודט סלע – המדענית הראשית, משרד החינוך נועה נוה – מנהלת אגף אקוסיסטם, משרד החינוך גלית דאדי – נציגת משרד החינוך במוקד 105 המטה הלאומי, משרד החינוך אסף פרקר – מנהל תחום טכנולוגיות, משרד הבריאות יואל בן-אור – בריאות דיגיטלית, משרד הבריאות מרים זילברשטיין – ראש תחום בכיר מדיניות וממשל, מערך הסייבר הלאומי נופר שבתאי – עוזרת טכנולוגית, מערך הסייבר הלאומי ענבל כהן – מנהלת תחום בריאות אזרחים ותיקים, המשרד לשוויון חברתי ד"ר ליאור בן-דוד – ממ"מ – מרכז המחקר והמידע, הכנסת ישי לקס – ממ"מ – מרכז המחקר והמידע, הכנסת ענבר בלום – מנהלת סקטור הבריאות, רשות החדשנות אדוה מלכא – מנהלת פיתוח פרויקטים חטיבת צמיחה, רשות החדשנות פרופ' אליקים כסלו – חוקר ד"ר ניל נמיר – יועץ למדיניות מו"פ, המועצה הלאומית למחקר ופיתוח אזרחי אביה בן ארי – ביבליותרפיסטית, חוקרת חינוך וטכנולוגיה, הטכניון פרופ' יורם יובל – פסיכיאטר וחוקר מוח עמרי בן חורין – מנהל קשרי ממשלה ומדיניות ציבורית, חברת גוגל ישראל נועה גבעון – מנהלת קשרי ממשל, מייקרוסופט ליאור ציוני – מנהל מגזר הבריאות והממשל, מייקרוסופט מיכל ברנד גולד – סמנכ״לית ויועצת משפטית ראשית, חברת אקטיבפנס זואי פסלב – נציגת מועצת התלמידים והנוער הארצית, מועצת התלמידים והנוער הארצית יעל אברמן – מנכ"לית קליר סקיי, קידום טכנולוגיות לבריאות הנפש בישראל אסף אבן חן – מומחה בתחום משפט וטכנולוגיה יעל לביא – עמותת פנים חדשות שלומית הבר דב – רכזת קורס מדע וטכנולוגיה, עמותת פנים חדשות יהודית דסקלו – עמותת פנים חדשות ישראל ששון יצחק רוזמן מוזמנים (באמצעים מקוונים): איריס פלורנטין – סמנכ"לית תכנון מדיניות ואסטרטגיה, מינהל אסטרטגיה, משרד הרווחה והביטחון החברתי טל אדיב – מנהלת מחלקת פסיכיאטריה, משרד הרווחה והביטחון החברתי ד"ר גלעד בודנהיימר – מנהל אגף בריאות הנפש, משרד הבריאות עידו גפני – מ"מ ראש מינהל טכנולוגיות ומידע, מרכז השלטון המקומי יהודה קונפורטס – עורך ראשי, אנשים ומחשבים ייעוץ משפטי: צחי גרינוולד מנהלת הוועדה: איילת חאקימיאן רישום פרלמנטרי: יעל שגב רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות. << נושא >> מערכות יחסים ומענה נפשי בעידן הבינה המלאכותית – הזדמנויות וסכנות << נושא >> << יור >> היו"ר אורית פרקש הכהן: << יור >> בוקר טוב לכולם, אני שמחה לפתוח עוד דיון חשוב מאוד בוועדה הזאת. לפני הכול, אני רוצה להביע את ההתרגשות שלי על הבאתו של סגן הדר גולדין, זכרו לברכה, למנוחות ולקבורה במדינת ישראל אחרי מעל לעשור. יצא לי לפגוש את אימא שלו כשרה לנושאים אסטרטגיים וגם אחר כך. זה היה עוול נוראי למשפחה איכותית ומדהימה. אני מקווה שביום הזה, כשכל מדינת ישראל ועם ישראל עוטפים אותם, זה סוג של איזושהי סגירת מעגל לעוד לוחם, באמת גיבור ישראל, שחוזר הביתה. וזה חלק מהריפוי שלנו. ליבי עם משפחת גולדין. אנחנו מתחילים היום עוד דיון מעניין מאוד בוועדה בנושא: מערכות יחסים ומענה נפשי בעידן הבינה המלאכותית – הזדמנויות וסיכונים. אני חייבת לשתף אתכם, כשאמרתי שאני רוצה לעשות דיון בנושא הזה, צחי, העוזר שלי שמלווה את הוועדה, אמר לי: את לא בכיוון, אין כאן נושא. אני מקווה שאתה חושב היום אחרת, במיוחד כשתציג כאן כמה נתונים. עד היום, הוועדה הזאת התמקדה בדברים מאוד מוחשיים, אפילו עם נגיעה כלכלית בבריאות, בחינוך ובתעסוקה. מחר נקיים כאן דיון עם הרשות לניירות ערך על הונאות פיננסיות, שעלו בכמה רמות בעקבות השימוש בכלי בינה מלאכותית. היום אנחנו מתעסקים ברעידת אדמה ואנחנו רואים רק את תחילתה. איך כלי בינה מלאכותית משפיעים על מערכות היחסים שלנו, על טיפולים נפשיים וכו'? אם הרשתות החברתיות שינו באמת את הדרך שבה אנחנו מתקשרים, הבינה המלאכותית משנה משמעותית את השאלה עם מי אנחנו מתקשרים. אני חושבת שיהיה כאן היום דיון מרתק. ולעשות אותו קצת פופוליסטי, אפשר יהיה לשאול את השאלות: מי שומר עלינו? מי שומר על ילדינו? מי שומר על אוכלוסיות בסיכון מפני הבינה המלאכותית? ובצד השני, האם אנחנו רותמים גם את ההזדמנויות המדהימות שהכלים האלה מביאים אלינו? אני חושבת, מקווה ומאמינה שיהיה כאן דיון מרתק. צחי גרינוולד שעובד איתי, יציג שניים-שלושה נתונים שיכניסו אותנו לדיון המרתק הזה, מבחינת איך העולם משתנה לנו ואיך הצעירים של היום מתחילים לאט-לאט לזנוח את הרשתות החברתיות ומבלים יותר ויותר בכלי ה-AI. נתונים שבכלל יגרמו לנו לחשוב אחרת על כך שאנשים מעדיפים לנהל שיחות ואפילו תמיכה נפשית מול כלי AI. פרופ' אליקים כסלו, מחבר הספר יחסים 5.0: אהבה ואינטימיות בעידן ה-AI, פרופסור מהאוניברסיטה העברית, ייתן את הרצאת הפתיחה על העולם המלא של הנושאים הללו. פרופ' יורם יובל, פסיכיאטר, גם ידבר ואני חושבת שתהיה סקירה ראשונה קצרה של הממ"מ אי-פעם בכנסת, על השאלה איך העולם מתייחס לאתגרים ולסכנות. עורכת הדין מיכל ברנד, יועצת משפטית, בוגרת קולומביה, תדבר על הִתרַבּוּת הסכנות והתביעות המשפטיות בנושאים האלו. אני חושבת שיהיה דיון מאוד מרתק עם נשות המקצוע ממשרד החינוך, וממפא"ת ענף השיקום. יש כאן הזדמנויות וסיכונים אחרי 7 באוקטובר בנושא בריאות הנפש. תהיה כאן אביה בן ארי מהטכניון. אני לא יודעת אם את פרופסור או דוקטור? << קריאה >> אביה בן-ארי: << קריאה >> אני עוד מעט דוקטור. << יור >> היו"ר אורית פרקש הכהן: << יור >> עוד מעט דוקטור, שנכבד אותך. ידברו פה מגוגל, ממיקרוסופט, ממשרד הרווחה וכמובן מי שעוד ירצה להשתתף בדיון. דיון מאוד מאוד חשוב בעיניי. בבקשה, נתחיל עם הדובר הראשון צחי, שרציתי שיכניס אותנו קצת לעולם הזה ולרעידת האדמה הזו שמתרחשת לנגד עינינו. תודה. << דובר >> צחי גרינוולד: << דובר >> שלום לכולם, אני רוצה להציג כמה נתונים על הבינה המלאכותית בחיים שלנו ועל החדירה של כלי בינה מלאכותית לחיינו. המטרה היא להראות שאנחנו באיזושהי מהפכה – מעבר מקשר אנושי לקשר עם רובוט. הנתונים יראו את התרחבות השימוש בבינה המלאכותית בעולם ואת ההשפעות הפוטנציאליות שלה. (מלווה את דבריו במצגת) אפשר לראות השוואה בגרף הימני בין חיפוש במנועי חיפוש מסורתיים, כמו גוגל, מול השימוש ב-AI בין השנים 2025-2023 בארצות הברית. ניתן לראות שהשימוש בכלי הבינה המלאכותית רק עולה מול השימוש במנועי חיפוש מסורתיים, שהוא די יציב. הגרף השמאלי מראה לנו שזה לא רק בארצות הברית אלא בהרבה מאוד מדינות אחרות שבהן נעשה שימוש יום-יומי בכלי הבינה המלאכותית. מחקר נוסף שנעשה על רשתות חברתיות מראה ששנת הפיק בשימוש ברשתות חברתיות הייתה שנת 2022. מאז נרשמת ירידה בשימוש הממוצע ברשתות חברתיות ביום-יום. אותו מחקר מדווח שאחת הסיבות לירידה היא השימוש בכלי הבינה המלאכותית, שמהווים מוצר תחליפי לרשתות החברתיות. כמה נתונים כלליים: בישראל, בקרב צעירים בני 29-18, מדווחים על 92% שימוש ב- ,ChatGPT במקום השלישי אחרי האפליקציות וואטסאפ ויוטיוב. השימוש חוצה מגזרים, גם בחברה החרדית והדתית השימוש גבוה. נתייחס לעולם, בארצות הברית 75% מבני הנוער משתמשים בכלי בינה מלאכותית ו-40% משתמשים בה מהאוכלוסייה הבוגרת. היום בוועדה נדבר דווקא על יצירת קשרים רגשיים עם הבינה המלאכותית, וההשפעות של הבינה המלאכותית על עולם הנפש. 38% מהאמריקאים חשים קשר רגשי לכלי הבינה המלאכותית, ולמעלה ממחצית מהאמריקאים דיווחו שניתן לפתח קשר רגשי אמיתי עם כלי בינה מלאכותית. לראיה, אפליקציית Replika, שכל מטרתה היא להפיג תחושת שעמום ובדידות. יש לה מעל 10 מיליון הורדות וחלק גדול מהמשתמשים בתוכנה מגדירים אותה כחבר הכי טוב שלהם, שזה בכלל רובוט. מחקר של חברת Oracle הקשור לעולם הנפש, מציג כי 80% מהנשאלים פתוחים להתחיל טיפול עם רובוט או עם כלי מבוסס AI. עוד נתון די מעניין בעיניי: 68% מהעובדים האמריקאים מעדיפים לשתף את הרובוט ולא את המנהל האנושי שלהם בתחושות הלחץ והחרדה שהם מרגישים בסביבות העבודה שלהם. חדירת הבינה המלאכותית, מעבר להזדמנויות, מולידה חששות וסכנות. << יור >> היו"ר אורית פרקש הכהן: << יור >> גם אתה מעדיף לשתף רובוט ולא אותי כשאתה בלחץ? << דובר >> צחי גרינוולד: << דובר >> את יכולה לבדוק בהתכתבויות שלי בצ'אט. זה מוליד חששות וסכנות. 43% מהאמריקאים סבורים שהשפעת הבינה המלאכותית שלילית על מערכות היחסים הזוגיות והחברתיות שלהם. 56% מההורים חוששים שהבינה המלאכותית תפגע בכישורים החברתיים של הילדים שלהם. בשקף הבא ניתן לראות שרוב חברות הצ'אטים מודעות לסכנות שבשימוש בבינה מלאכותית, ולכן הן מגבילות את השימוש בצ'אט מגיל מסוים, לרוב מגיל 13 או 18. << יור >> היו"ר אורית פרקש הכהן: << יור >> רצינו רקע כללי על זה כדי לראות איפה אנחנו נמצאים. בדקנו את מדיניות השימוש של כלי הבינה ויש מגבלות גיל, תציג אותן. << דובר >> צחי גרינוולד: << דובר >> Gemini – מגיל 13; Claude – מגיל 18; Copilot – מגיל 18; ChatGPT – מגיל 13. בין גיל 13 לגיל-18 צריך אישור הורה. מזה ניתן להסיק שהחברות בעצמן מפחדות מההשפעה הרגשית השלילית שיש לכלים על משתמשים בגילים האלה. דוגמה לכך היא הסיפור על אדם רייאן, נער בן 16 מקליפורניה. בהתחלה, הוא השתמש בצ'אט בשביל לרמות קצת בשיעורי הבית, ועם הזמן הוא התחיל לנהל איתו שיחות רגשיות ואישיות יותר. אחרי שהוא התאבד, ההורים שלו מצאו אלפי עמודים של שיחות בינו לבין הצ'אט, והוא שיתף בתחושות בדידות, דיכאון ובמחשבות אובדניות שהיו לו. והצ'אט – לא רק שלא עודד אותו לפנות לעזרה, אלא עזר לו לנסח מכתבי פרידה. << יור >> היו"ר אורית פרקש הכהן: << יור >> אפשר לראות בקובייה התחתונה דוגמה למענה מעצים של הצ'אט שאומר לו: אתה לבד. נכון, הסתכלנו על זה אתמול. << דובר >> צחי גרינוולד: << דובר >> הסיפור הזה מלמד אותנו כמה חשוב להיערך למהפכה הזאת של הקשר עם הבינה המלאכותית, הקשר האנושי והרובוטי, והכניסה של הבינה המלאכותית לחיים שלנו. למרות ההזדמנויות הנדירות שיש לנו, יש גם הרבה מאוד סיכונים שאנחנו צריכים להיערך אליהם. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה, תודה רבה. נעבור אליך, פרופ' כסלו. אליקים, תודה רבה שבאת היום. אני חושבת שהפתיחה הזאת מראה את ההזדמנות האדירה וגם את הסכנה הגדולה. צריך להגיד את האמת, יש כאן אירוע דרמטי מאוד שלא מדובר. אני הופתעתי אישית מהנתונים שראיתי. האירוע הזה אינו מדובר וזה נושא הדיון היום. אני יודעת שאתה מדבר הרבה, לא רק על ילדים ועל צעירים, אלא גם על אוכלוסיות בסיכון כמו: אנשים שלא נמצאים בזוגיות או בכלל אנשים בודדים, וזה לא סיפור של ילדים ונוער. בבקשה, הבמה שלך. << אורח >> אליקים כסלו: << אורח >> תודה רבה, אורית, ותודה לכל מי שהכין. (מלווה את דבריו בסרטון ומצגת) לפני שאני אתחיל, אנחנו מדברים על רגע היסטורי ואני לא אומר את זה סתם. זה נשמע דרמטי וזה באמת דרמטי. אם ניקח ב-crunch את כל הנתונים שצחי הביא, אנחנו מדברים היום בעצם על מעבר מ-Social media – מאינטרנט ומאמצעים דיגיטליים, שנועדו עד עכשיו לתקשר בינינו ולהיות המתווך שבין אדם לאדם – אל המידע. הידע עצמו הופך להיות היום מושא מערכת היחסים וזה שינוי מהותי ושינוי תפיסתי. הילדים גדלים היום עם זה שיש מי שמנחם אותם, ומי שמנחם אותם, המי הזה, הוא המחשב והוא הצ'אט שעונה ישירות לצרכים שלהם ולצרכים הרגשיים שלהם. אנחנו, מן הסתם האנשים שפה, חשופים לאפליקציות הלא ייעודיות. כלומר, אפליקציות שלא נועדו למערכת יחסים. יש עכשיו shift, גם ב- ChatGPT וגם ב-Open AI, הם הבינו שהם רוצים לייצר איזשהו קשר רגשי וחשוב להם לעשות התאמה אישיותית. אבל לדבר הזה יש אפליקציות ייעודיות הרבה יותר, והן מפעילות אותנו בצורה משמעותית מאוד, לטוב ולמוטב. אני מנסה להימנע משיפוט, ונחשוב על זה יחד. אני רוצה להראות לכם את Replika AI שצחי הזכיר, והדגמה קטנה לראות מה קורה היום בשטח, כי אין טוב ממראה עיניים. נראה מה קורה פה. זאת דמות אווטאר שהחברה התחילה כבר ב-2017. זאת הדמות שלה, אתם שומעים יוטיוברית שמדברת איתה, היא החַבֵרָה שלה והיא מופיעה לה בפלאפון. זה חינמי לגמרי, זמין לגמרי, כל ילד יכול להוריד את זה, והיא, היוטיוברית הזאת, בוודאי מתחת לגיל 18. עכשיו היא מקרינה אותה במציאות מדומה. כלומר, עד עכשיו זו הייתה דמות דיגיטלית שמדברת איתה בפלאפון. עכשיו הדמות הזאת קופצת מהטלפון ומהמסך על המיטה שלה. מה שאתם רואים מאחורה זאת המיטה שלה והיא מדברת איתה. היא מספרת לה שהיא עורכת סרטון יוטיוב והיא עונה לה. זה הולך ומשתפר כל הזמן, כמובן שכמו שאנחנו מדברים עם ה-ChatGPT, אין סיבה שלא נדבר עם דמויות דיגיטליות כאלו. זאת המציאות של ילדים היום וזאת המציאות שאליה אנחנו נכנסים. אני לא אאריך בשיחה הזאת, זה הולך ומשתפר וזה גם יכול להיות בכל מיני מקומות. יש היום סיפורים של כל מיני אנשים שלוקחים את הדמות הזאת ומטיילים איתה, מראים לה את הפירמידות במצרים, מראים לה את מגדל אייפל. והיא כמובן זוכרת את הדברים האלה, וכעבור שנה היא אומרת: אתה זוכר את הטיול היפה שעשינו יחד בשנה שעברה? זאת האינטראקציה. אני רוצה לשאול, איך אנחנו מרגישים כלפי הדבר הזה? כאנשי מקצוע אנחנו יכולים להסתכל על זה ב-cringe, ולהגיד שהמסר שאני מקבל מהוועדה היום הוא שאליי הביתה זה לא ייכנס. אני רוצה שניקח צעד אחורה ואני יודע שיש התנגדות. במחקרים שלי ראיתי התנגדות מאוד מאוד גדולה, ועוד מעט ניכנס אליה. נחשוב גם, מה הפחדים שלנו ברמה הפסיכולוגית? מה החששות שלנו לגבי זה? מה השיפוטיות, גם ברמה הנורמטיבית? האם יש לנו שיפוטיות? וגם, האם זה עובד לנו, לילדים שלנו, לסטודנטים שלנו? האם זה עובד להם? האם זה נכנס? ואיך זה עובד? ומצד שני, האם חלק מאנשי המקצוע יכולים לעשות אינטגרציה של היכולות האלו, אינטגרציה של התופעה הזאת לתוך המעשה החינוכי, המעשה הטיפולי והמעשה הפדגוגי באוניברסיטאות? מעבר ל- ChatGPTכגורם של מידענות. כולנו יודעים שאנחנו עם ספקות לגביו ואנחנו מנסים עדיין לחדד את הדבר הזה. אני רוצה להיכנס וממש לצלול לתוך הפחדים האלה, לתוך האינטראקציות האלה, ובהמשך לתת לצחי כמה נתונים. 19% מהתיכוניסטים בארצות הברית מדווחים על חבר שנמצא באינטראקציה רומנטית עם AI. למה אני אוהב את הנתון הזה שפורסם בשבוע שעבר באקונומיסט? כי דיווח על חבר הוא הרבה יותר אמין מאשר דיווח עצמי בממדים האלה, ואנשים לא כל-כך אוהבים לדווח על עצמם. מי מדבר כאן על צרות עולמו ויומו עם ה-ChatGPT? << יור >> היו"ר אורית פרקש הכהן: << יור >> יש לי חבר – לפעמים זה אני. << אורח >> אליקים כסלו: << אורח >> כלומר? << יור >> היו"ר אורית פרקש הכהן: << יור >> אנשים בעצם מדברים על עצמם. << אורח >> אליקים כסלו: << אורח >> ברור, ברור. << יור >> היו"ר אורית פרקש הכהן: << יור >> לחבר שלי יש בעיה. << אורח >> אליקים כסלו: << אורח >> בדיוק, לחבר שלי יש שאלה, לחבר שלי יש בעיה, לחבר שלי יש AI שהוא הבן זוג, הבת זוג הרומנטיים. 19% מהתיכוניסטים מדווחים על אינטראקציה רומנטית עם AI, ובארצות הברית זאת חברה שמרנית מאוד. עדיין 19% מהתיכוניסטים מדווחים כך במחקר אחר, שאני פחות סומך עליו מהמחקר שהאקונומיסט ציטט: מעל 50% מהתיכוניסטים בארצות הברית משתמשים ב-AI כמה פעמים בחודש לאינטראקציות חברתיות. אינטראקציות חברתיות זה משהו הרבה יותר כללי ואנחנו לא יכולים לשים עליו בדיוק את האצבע, אבל 50% זה משמעותי מאוד. אני בטוח שכולכם מכירים את המציאות שמדברים עם ה- ChatGPTעל נושאים שמעבר למקצועי. אני אדלג על הסעיף השלישי ואעבור דווקא לסעיף הרביעי. בשבעת חודשים הראשונים של 2025, הושקו 128 אפליקציות של AI חברתי. זאת עלייה מטאורית. בסך הכול יש 337, וכל זה מהשנתיים-שלוש האחרונות. 128 נוספו בשבעת חודשים הראשונים של שנת 2025. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה מטורף. << אורח >> אליקים כסלו: << אורח >> הביקוש עצום. ל-Replika AI יש בסוף 2025, כ-40 מיליון משתמשים. זאת חברה פרטית ולכן אנחנו לא יודעים נתונים לעומק. הוול סטריט ג'ורנל מעריך ש-40% מהמשתמשים מגדירים את האפליקציה כבן ובת זוג רומנטיים. אתם רואים שמדובר בהמון אנשים וזה לא בהכרח הבן או הבת זוג היחידים. כלומר, יכול להיות שיש להם רומנטיקה עם בני אדם אנושיים וגם עם האפליקציה במקביל. אנחנו צריכים לדבר, לחשוב ולתכלל את הדבר הזה, ומה זה ריבוי בני זוג גם עם הדיגיטל וגם עם בני אדם אנושיים. השורה התחתונה והיא הכי חשובה – סקירה מחקרית סיסטמתית של 18 מחקרים עם 3,477 משתתפים מראה תוצאות חיוביות של טיפול ב-AI בדיכאון ובחרדה בטווח זמן קצר. זה עולם נפרד הטיפול ב-AI. כל זה על הרקע שבחלק מהמחקרים, טיפול גם כך לא תמיד אפקטיבי. פרופ' יורם יובל פה. << יור >> היו"ר אורית פרקש הכהן: << יור >> ברוך הבא, ותודה רבה שבאת. << אורח >> אליקים כסלו: << אורח >> הטיפול גם כך לא בהכרח מראה תמיד תוצאות חיוביות. ועדיין, בסקירה סיסטמתית אנחנו רואים שהטיפול באמצעות AI מראה ירידה בדיכאון ובחרדה, לפחות בטווח הזמן הקצר. אחרי שלושה חודשים יש תוצאות מורכבות יותר ואני רוצה שניכנס לזה. זאת סקירה סיסטמתית שאנחנו מאוד סומכים עליה. מה ההיגיון? מה ההיגיון ש-AI יכול להחליף מטפל נפשי? יורם, בוודאי אתה תמשיך מהנקודה הזאת. אני רוצה רק לסבר את האוזן. מצד אחד, ברור שמטפל נפשי יכול להיות אמפתי ברמות ובנקודות מזוקקות ומחודדות שכרגע ה-AI לא יכול להחליף. מצד שני, משרד הביטחון האמריקאי כבר עשה את הניסויים האלה עם יוצאי מלחמה. לצערנו, אנחנו למודי מלחמות ויש לנו היום רבים שמתמודדים עם טראומות נפשיות. יוצאי מלחמה בארצות הברית כבר נחקרו. היכולת שלהם להיפתח רגשית ולבכות אל מול המטפל לא כל-כך פשוטה. ולבכות מול AI, להיפתח רגשית, לדבר על הפחדים, על חששות ועל הרגעים המכריעים בכל מיני מקומות ובכל מיני נקודות, נעשית יותר אפקטיבית, זאת רק דוגמה אחת. ברור שהאדם מביא את הניואנסים שלו, אבל מביא גם את האינטראקציה הלא פשוטה. אנחנו צריכים תמיד לזכור את זה ולראות איך אנחנו מוציאים את המיטב. אני אומר מה קורה כרגע כי יש כאן מומחית לרגולציה. השנה, רק השנה, יש התקדמות רגולטורית חסרת תקדים. ארגון הבריאות העולמי פרסם חוברת הנחיות מאוד כללית על AI ובריאות. אני מציע לראות באופן כללי. במדינות שונות בארצות הברית מתחילה להיות חקיקה ורגולציה. ביוטה, כבר במרץ 2025 מדברים על רגולציה לשימוש ב-AI לטיפול נפשי. מי שרוצה, זו ההפניה. המסקנות שלהם הן שצריכות להיות מסגרות ייעודיות, חובות גילוי והגנת צרכן. כלומר, הם רוצים שימוש בטוח. באילינוי באוגוסט 2025, רק לפני שלושה חודשים, הוחלט שאסור לטפל נפשית דרך AI. זו שאלה נהדרת לרגולטורים שנמצאים פה. יש איסור על טיפול ישיר ומותר לסייע רק למטפלים בטיפול שלהם. בקליפורניה, באוקטובר 2025, בפרוטוקולים של בטיחות, עוד פעם צריך חובת גילוי למשרד למניעת אובדנות. זה חשוב, וכמו שצחי הראה, אם יש מקרים של אובדנות או על סף אובדנות, צריך לדווח על זה. דיברנו על הגבלות גיל – הם החליטו שאין הגבלת גיל. הם העלו את זה כשאלה והחליטו שאין הגבלת גיל לשימוש הזה, וזה רק מחודש שעבר. ככל הידוע לי, בישראל אין כרגע סקר ממלכתי על שימוש נפשי בבוטים, בצ'אט בוטים מכל הסוגים, אין הסדרה. זאת הקריאה פה. תודה, אורית, על הכינוס הזה, הוועדה הזאת, זה סופר חשוב. דיברתי בדרך עם נציגי משרד החינוך שכן מתעסקים בזה. יש מחקרים, יש הצעות ויש שיח בתוך תחומי הנפש והבריאות על ה-AI. אנחנו רחוקים מאוד עדיין מהרגע ההיסטורי הזה והאלגוריתמיקה של הסושיאל מדיה היא חדשות ישנות. מה שאינסטגרם ופייסבוק נותנות לנו אלו חדשות ישנות. אנחנו נמצאים בפני שלב שבו אנחנו יוצרים מערכת יחסים עם ה-AI ועם הטכנולוגיה לא כגורם מתווך. אני רוצה לשאול כמה שאלות לגבי הדיון הזה: מהם החששות שלנו? מי מוכן לשינויים האלה יותר ומי פחות? לאיזה תחומים אנחנו פתוחים יותר ליישם את הדבר הזה ולאלו פחות? מהם הצרכים שלנו? וגם להסתכל היסטורית ועל מה זה יושב. הרי הפריצה הגדולה של ה-AI בתחום הנפש ובדיבור היא לא סתם – יש בדידות, יש בדידות גדולה. מוסד הנישואין ומוסד הזוגיות הולכים ויורדים. אני בכלל לא אומר את זה בשיפוטיות. מי שמכיר את הכתיבה שלי יודע שאני בכלל לא שיפוטי כלפי זה, אבל זאת המציאות. האם אנחנו יכולים לשנות את היחס שלנו כלפי הטכנולוגיה הזאת? במחקר שערכתי בקרב אמריקאים חילקתי את ההתנגדויות. כשאנחנו באים כאנשי מקצוע אנחנו ניתקל בהתנגדויות גם לעצמנו וגם לשדה. מניתוח טקסטואלי עולה שיש ארבעה סוגים מרכזיים של התנגדויות, ואפשר לדבר על כל אחד מהם בנפרד. למה אנחנו לא רוצים, למה אנחנו מפחדים ולמה יש לנו cringe כשאנחנו שומעים את הדבר הזה? 1. נזקים פסיכולוגיים. אפשר לדבר על זה. כרגע זה יותר מיטיב או לפחות זה יכול להיטיב מבחינה פסיכולוגית. 2. נזקים חברתיים. כלומר, אנחנו מפחדים, אנשים מפחדים להיות ה- weirdoesשמשתמשים בצ'אט בוט. 3. התנגדות מורלית. אני בטוח שיהיו אצלנו בישראל גם זרמים שיגידו שזה לא נכון דתית ולא נכון רוחנית. אלוהים לא התכוון שאנחנו נייצר זוגיות עם AI – מי שמזדהה יותר ומי שמזדהה פחות. אנחנו נשמע את זה גם בקרב תלמידים ונצטרך להתמודד עם זה. 4. מבחינה פונקציונלית זה עדיין לא מספיק טוב ויש פה נציגים של התעשייה. זה הולך ונהיה טוב, זה הולך ומספק אותנו ואנחנו צריכים להתקדם לשם. יש גם הבדלים מגדריים מבחינת גברים ונשים. צריך לדעת שנשים מתנגדות יותר ליישומים האלה. יש תיאוריות שלמות על השאלה למה נשים מתנגדות לזה יותר. גם בתוך ההבדלים בין נשים לגברים אנחנו מדברים על זה שנשים חוששות יותר. אם תראו את המרובע הזה, המרובע נוטה יותר לחששות חברתיים: זה לא נורמלי מבחינה חברתית, זה לא הגיוני מבחינה חברתית, אני מפחדת שהילדים שלי ייראו מוזרים או שאני אראה מוזר. יש אפס שיפוטיות במה שאני אומר. צריך כל הזמן לזכור שיש הבדלים גם בתוך האוכלוסיות וגם בתוך האוכלוסיות בין דתיים ללא דתיים. אנקדוטה, דווקא הדתיים, לפחות בארצות הברית, פתוחים לזה יותר. זה מה שהמחקר שלי מראה. << יור >> היו"ר אורית פרקש הכהן: << יור >> מעניין, איך אתה מסביר את זה? << אורח >> אליקים כסלו: << אורח >> אולי אני אכנס לזה בהמשך. בהמון מקומות אנשים דתיים יודעים איך לעבוד עם סימבוליקה והאנשת חפצים, וייחוס תכונות רוחניות אליהם. ביהדות זה פחות מקובל. גם בנצרות זה כך וביפן זו הדוגמה הכי קיצונית. את זה לא אני טוען, זה ממחקרים שלמים שנעשו על התרבות היפנית. יש עיקרון רוחני שקוראים לו kami והעיקרון הרוחני הזה מייחס רוחניות לאובייקטים שמסביבנו. בכל עצם ובכל אובייקט מסביבנו יש איזושהי רוחניות. משם הדרך קצרה מאוד בתרבות היפנית להגיד שאני יכול גם לייצר איזושהי מערכת יחסים עם האובייקטים האלו. << יור >> היו"ר אורית פרקש הכהן: << יור >> אולי דיסקרטיות ופרטיות מסוימת. תחושה שאולי זה מדומה. << אורח >> אליקים כסלו: << אורח >> בהחלט, בהחלט. צריך לחשוב על זה, אלו דברים יותר מפתיעים. האוכלוסיות שפתוחות לזה מפתיעות יותר ממה שאנחנו חושבים. אני אדבר בקצרה על שלוש מהפכות. אנחנו מדברים על מערכת יחסים עם הטכנולוגיה במקום גורם מתווך. זה מתחלק לשלושה חלקים וחשוב מאוד שנדבר עליהם: 1. המהפכה הקוגניטיבית, אנחנו כבר מצויים בה. אני פרסמתי את הספר ב-2022 ועדיין לא היה ChatGPT. תוך שנה פרץ לעולם ה-ChatGPT, וכולם אמרו: אה, לדבר עם ChatGPT, לדבר עם AI זה נפוץ מאוד. זאת המהפכה הקוגניטיבית היא הצורך הקוגניטיבי שלנו וזה מבוסס טקסטים. 2. המהפכה החושית היא המציאות המדומה. זה הצורך שלנו בנוכחות סביבנו. כמו שראיתם, המציאות המדומה עדיין פרימיטיבית והטכנולוגיה הזאת עדיין בחיתוליה, אבל צריך לשים אליה לב. חשוב מאוד שלא נדבר על המהפכות האלו באיחור של 20 שנה, כמו שאנחנו מדברים על אינסטגרם ופייסבוק, ושנדבר עליהן עכשיו. אז המהפכה החושית בפתח. 3. המהפכה הפיזית. זה הצורך ששמעתי מסינגלים, יחידנים ללא זוגיות, ואחד מהדברים שהם אומרים: אני לא צריך זוגיות. מה שאני הכי מפחד ממנו הוא היום שאני אהיה חלש, חולה ובבית החולים. מי יהיה לידי במיטה? מי יעזור לי לזוז בתוך הבית ומי יעזור לי עם המוגבלות? ביפן ובמקומות אחרים, המהפכה הפיזית כבר שם והיא עומדת לפרוץ לחיינו. בנקי ההשקעות בארצות הברית מופתעים איך טסלה הורידה את המחירים. אנחנו מתקרבים למחירים, פר יוניט, של 10,000 דולר. רק לפני שנה זה היה 200,000 דולר פר רובוט לייצור ואנחנו מתקרבים ל-10,000 דולר. ברגע שאנחנו פורצים את הדבר הזה זה כנראה לא יהיה שוויוני. צריך לתת את הדעת גם על זה. מי שיוכל להרשות לעצמו, יהיה לו את הרובוט הזה. המהפכה הפיזית חשובה מאוד. כמה נתונים בסיסיים מאוד כדי להבין. יש תחומים שבהם אנחנו פתוחים יותר ומוכנים לקבל לתוכם את ה-AI, כמו: גילוי תרופות חדשות ועצות בפיננסים. רק אז אנחנו מגיעים אל: האם אני מוכן שיהיה לי חבר כזה? והאם אני מוכן שהוא יוגדר כרומנטי? לרפליקה AI יש כמה מצבים ואין לי אחוזים בדבר הזה, הגרסה החינמית היא להיות חבר והגרסה המשודרגת היא או שהאפליקציה תהיה המנטור שלכם או שהיא תהיה החבר הרומנטי. << יור >> היו"ר אורית פרקש הכהן: << יור >> זאת Replika ללא מגבלת גיל? << אורח >> אליקים כסלו: << אורח >> אין בה מגבלת גיל. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה זה משנה מה המגבלות שיש ב Gemini-או ב Claude-וכו', כשיש Replika כזאת שמסתובבת? << אורח >> אליקים כסלו: << אורח >> זה לא משנה. << יור >> היו"ר אורית פרקש הכהן: << יור >> מנטור. << אורח >> אליקים כסלו: << אורח >> ממש מנטור ורומנטיקה. יש Replika AI ויש Character AI, כמו שאמרנו, רק השנה יצאו 128 אפליקציות ולכי תרדפי אחריהן. זאת המשימה שעומדת לפתחנו, ממש כך. אתם בקושי רואים את זה פה, אבל across the board ובאופן מובהק, הפתיחות ל- AI הרבה יותר גדולה מ-VR. אני מציין את המציאות המדומה כדי שלא נתעלם מהמהפכה שתהיה בעוד 15 שנים, אנחנו כבר שם. כמו שראיתם את Replika, כבר אפשר לעשות דרך הפלאפון ובאפס עלות. שאלתי אנשים האם הם מוכנים ש-social robots יהיו גורם חברותי או גורם עוזר ומסייע לאוכלוסיות מוחלשות, כמו מבוגרים ומוגבלים, וכמובן שהפתיחות לרובוטים בעזרה פיזית הרבה יותר גדולה, ואין הבדלים בין גברים לנשים. שאלתי שאלות יותר קשוחות ושם ההתנגדות הייתה הרבה יותר גדולה: האם אתם מוכנים לקיים מערכת יחסים מינית עם רובוטים? זה קיים, זה כבר היצע קיים, והאם אתם מוכנים לקיים מערכת יחסים רומנטית? קודם כול, יש היפוך קטן כי נשים פתוחות יותר לרומנטיקה ופחות פתוחות למערכת היחסים המינית וגברים פתוחים קצת יותר למערכת היחסים המינית - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> הפוך. אלו דברים שאנחנו יודעות, בשני המינים. כן, איך זה נקרא? מאדים ונשים מ-? << אורח >> מיכל ברנד גולד: << אורח >> נוגה. << יור >> היו"ר אורית פרקש הכהן: << יור >> וגברים מ-? << אורח >> מיכל ברנד גולד: << אורח >> מאדים. << יור >> היו"ר אורית פרקש הכהן: << יור >> מעניין שאנחנו רואים את זה גם פה. הבנות רוצות את הרגש. << אורח >> אליקים כסלו: << אורח >> כל הזמן. זאת הנטייה לחפצים או נטייה לאנשים, עולם שלם. זה קשור גם לתהליכי סוציאליזציה. בעולם של רגולציה אפשר לאסור על רובוטים של סקס, אני מבין שזה מקפיץ המון אנשים, יש התנגדות וזה בהחלט מאוד לא פשוט. אני לא באתי להיות שיפוטי פה, אבל אם מכניסים את זה ואם מייבאים לארץ רובוטים של סקס, אז שלפחות לפני כל פעולה יהיה רגע של הסכמה, שבו הרובוט או הרובוטית נותנים איזושהי הסכמה ולפחות נכנסים לזה. אתם יכולים לכווץ גבות ולהגיד: כל הדבר הזה נשמע לי חילוני. אין בעיה, זה יעבוד במחשכים וזה ימשיך להיות שם. אם ניכנס ונצעד לתוך הדבר הזה נוכל להסדיר אותו, זה חשוב מאוד להתייחס לדבר הזה לפחות. אני לא אדלג כי זה דווקא ממצא חשוב מאוד. אני עובר לניתוח הדסקריפטיבי ושואל, מה כוחה של נורמה? אנחנו אנשי המקצוע רוצים לדעת יקרה בעוד חמש שנים, אנחנו רוצים לדעת מה יקרה כדי שנקבל את הטכנולוגיה הזאת לתוך חיינו, מה צריך לקרות? אני עשיתי ניסוי שהייתי בטוח שיעבוד, שאלתי את הנשאלים שלי: האם אתה מוכן לקבל AI או רובוט לתוך חייך בצורה רומנטית? אחוז הקבלה היה נמוך מאוד, אנשים מתנגדים לזה, אנשים לא רוצים את זה. ואז אמרתי משהו שלכאורה מאוד מתבקש, אמרתי להם: תשבו ותצפו בסרטון של דקה שידגים לכם את היכולות. אלה שני סרטונים שונים כדי לא לעשות איזה כיוון מסוים, אחד על Replika AI והשני על רובוט מסוג אחר, ואמרתי: הינה, עכשיו אחרי שנחשפתם לזה, אתם בטח תרצו כזה? התשובה עדיין הייתה לא, בצורה שלא היה הבדל מובהק. אנחנו עדיין מתנגדים למרות שאנחנו רואים מול עינינו את המהפכה ועדיין אנחנו מתנגדים. ואז שאלתי שאלה, שהייתי בטוח שהיא מיותרת לחלוטין. כמו שאתם יודעים, כל שאלה בסקר זה דבר יקר ודבר מיותר. הייתי בטוח שהיא מיותרת. שאלתי אותם: תגידו, אם סביבכם אנשים ירצו וייקחו דבר כזה, אתם גם תרצו? ופתאום כל הסטטיסטיקה עלתה, כולם אמרו: כן, כן, אני גם ארצה דבר כזה. זה אומר שיש כאן כוח של נורמה. ברגע ש- ChatGPTיהיה נפוץ יותר, הוא יהיה עוד יותר נפוץ, זה מעגל שמזין את עצמו. ברגע שהרובוטים יתחילו להיות נפוצים וזולים יותר ואנשים יקנו את זה כסמל סטטוס, זה ייכנס לחיינו מוקדם מאוד ומהר מאוד. חשוב לזכור את הכוח של הנורמה. אני רוצה לסיים בכמה הצעות לדיון. זה דיון עמוק מאוד, גם מבחינה פילוסופית וגם מבחינה פסיכולוגית. הוא נוגע בעולמות של בדידות ויש פה אנשים מתחום נפש; הוא נוגע בחוויות דתיות ודיברנו על זה קצת; הוא נוגע גם ביכולות חינוכיות שלנו ליישם את זה בעולם של משחק ומשחקיות. אני רוצה להיכנס לדברים אלה. אקספלורציה בתוך מערכת החינוך –מציאות מדומה יכולה לתת ליחסים בין קבוצתיים להרגיש איך השני מרגיש. אתן לכם דוגמה מאוד מאוד בסיסית: רוצים להראות לילדים מה זה להיות עיוור צבעים. הדרך הכי טובה היא לשים עליהם משקפיים של מציאות מדומה, ולהראות להם איך העולם נראה בעיוורות צבעים, לתת להם את ההרגשה הזאת. אותו הדבר ביחסים בין ערבים ליהודים ובין חילונים לדתיים. במקום להוציא אותם לסיורים. אבל, לפעמים זה לא אפשרי החוויות האלו הן חוויות חשובות מאוד. אנחנו צריכים לגייס את הדבר הזה, ואין כמו הדבר הזה. אקספלורציה יכולה להיות גם בהכנה למערכות יחסים, איך זה להיות אמפתי מה אומרים ברגעים קשים, ברגעים של ויכוח? הדבר הזה יכול לשמש אותנו גם למערכות יחסים קיימות. אנחנו נמצאים בירידה חדה מאוד בזוגיות. אתם יכולים לשפוט את זה לרעה או לשפוט את זה לטובה. בוודאי שאנחנו ניצבים היום בפני, מה שאנחנו קוראים לו במחקר, הר הציפיות. אנחנו מצפים מבן ומבת הזוג שלנו להמון. אנחנו מצפים מהם להיות משעשעים, להיות מצחיקים, להיות תומכים, לעשות כביסה, להיות מספקים מינית ולהיות תומכים רגשית. אנחנו מצפים מהם להכול. היום יש עומס חזק מאוד על בן ובת הזוג היחידים במערכות היחסים המונוגמיות. לצד זה, אנחנו יכולים לתמוך בדבר הזה באמצעות עזרים תומכים. המציאות היא שכבר היום אנשים הולכים ל-ChatGPT, ואומרים לו: אתה מבין אותי כמו שבן הזוג שלי בחיים לא הבין אותי; אתה מדבר אלי כמו שבן הזוג שלי בחיים לא דיבר אליי; סוף-סוף אני מקבלת או אני מקבל מישהו שמבין אותי. << יור >> היו"ר אורית פרקש הכהן: << יור >> יש גם חבר פרלמנט שהוא בינה מלאכותית, הבנתי גם את זה. כן, אולי זה יועיל למקום הזה. << אורח >> אליקים כסלו: << אורח >> אוקיי, בהחלט יכול להיות. זה כיוון אחד. והכיוון השני הוא דווקא בעולמות יותר גריאטריים או בעולמות של בדידות. זה יכול להיות מענה לזמנים חלשים יותר בחיים לבד, לעולמות של בדידות. אפשר להפיג בדידות בצורה הזאת, כי בדידות היא לא כמה חברים יש לכם. בדידות היא הפער בין המצוי לרצוי ואני לא אכנס לזה כי זה עולם שלם. זאת ההגדרה הקלינית, זאת לא ההגדרה שלי. הפער בין מה שאנחנו מצפים בקשרים החברתיים שלנו לבין מה שאנחנו מקבלים. אם אנחנו מבינים שזה בסובייקט, שבדידות קורית בין שתי האוזניים, אנחנו יכולים לתת לה מענה חלקי לפחות באמצעות AI. וכמו שדיברנו, ליישם גם פסיכולוגיה דיגיטלית. כשאני אומר דיגיטלית זה ממש מענה אנושי באמצעות AI. לסיום, בכל מחשבה כשאנחנו חושבים על AI כשאנחנו חושבים על מערכות היחסים האלו, זאת מערכת יחסים. כמו כל מערכת יחסים ועל אלו מערכות יחסים, אנחנו צריכים לחשוב על שלושה ממדים: על האנחנו, מה קורה אצלנו. כלומר, מה האתיקה שלנו? האם יש הסכמה לפני שאנחנו מדברים עם AI? האם אנחנו מדברים על – בבקשה ותודה עם AI? האם אנחנו מחפיצים את זה? כמה אנחנו תועלתניים? כמה אנחנו, זה הממד שלנו וצריכים לדבר על ההם. האם יש גיוון? ב-Replika AI לדוגמה, אין גיוון גילי. כל הדמויות או רוב הדמויות הן צעירים חינניים ואנחנו צריכים לחשוב האם אנחנו צריכים להיכנס, לפחות לשם, לדבר הזה, ולהגיד: רגע, אולי נעשה גיוון גילי, גיוון מגדרי וגיוון אתני. צריך לחשוב על ההם. כלומר, במערכת היחסים הזאת, על מי שנמצא מולנו שזה כבר ה-AI והרובוטיקה. דבר אחרון, צריך לחשוב על הבינינו. מה קורה במרחב? איך אנחנו מנהלים את המרחב הזה? איך מערכות חינוכיות, איך בתי ספר, איך יועצים ומטפלים מכשירים אנשים לדבר ולנהל מערכת יחסים? תחשבו על זה, כמה שעות טיפול וייעוץ אנחנו משקיעים בניהול מערכת יחסים עם בני אדם אחרים. אנחנו משקיעים כרגע קרוב לאפס בשאלה איך לנהל מערכת יחסים עםChatGPT, עם רובוטיקה ועם מציאות מדומה. << יור >> היו"ר אורית פרקש הכהן: << יור >> חד-משמעית. תודה. << אורח >> מיכל ברנד גולד: << אורח >> הערה לאליקים. << יור >> היו"ר אורית פרקש הכהן: << יור >> לא. אני מבקשת לא כרגע, כי אנחנו גם ככה בחריגה. זה היה מרתק וחשוב, הצגה מדהימה, תודה רבה. ותודה שהיית פתוח להכיר אותי וגם לבוא לפה. עוד נחזור לדברים שלך. אנחנו בחריגה. פרופ' יורם יובל, תודה שבאת. אתה כמובן פסיכיאטר וחוקר מוח, בעל מעמד מקצועי וציבורי. בבקשה, הבמה שלך. << אורח >> יורם יובל: << אורח >> תודה שהזמנתם אותי, לכבוד הוא לי. להוסיף על הדברים ששמענו ולהגיד שזה קורה ממש עכשיו. ההתלבטויות לא רק המקצועיות אלא גם החברתיות והרגולטוריות, ממש מונחות לפתחנו. אנחנו שמענו וטוב ששמענו ואני מסכים עם הדברים על התועלת הרבה ועל המחקרים שתומכים בה, שאינטראקציות עם מודלים גדולים של שפה יכולים לעשות בתחום בריאות הנפש, זה נכון. הבעיה, וזאת תמיד הבעיה, היא בקצוות. זאת אומרת, בדברים שאולי לא משתקפים בממוצע, אבל מביאים אותנו למקומות שאנחנו בשום אופן לא רוצים להיות בהם. יש כאן שאלה גדולה מאוד על כוחה ויעילותה של רגולציה, ודאי, רגולציה שמופעלת ומוטמעת על ידי הגורמים שמספקים את השירותים האלה. נגיד את זה פה בראשית הדברים, ששאלת הרגולציה היא מאוד מאוד חשובה. אני אלך אחורה ואני אשאל למה מכוונים המודלים האלה? אני משער שזה נאמר ולא שמעתי את ההתחלה. אנחנו נמצאים הרחק מעבר למבחן טיורינג, דיברנו על זה? << יור >> היו"ר אורית פרקש הכהן: << יור >> לא, לא. << יור >> << אורח >> יורם יובל: << אורח >> חשוב לדבר על זה. אלן טיורינג הוא הגאון שעזר לבריטניה הגדולה לפצח את קוד אניגמה של הנאצים. בכך הוא קיצר את מלחמת העולם השנייה וחסך, אנחנו לא יודעים כמה מיליוני חיים. בזכותו, הכוונות של גרמניה הנאצית היו גלויות לבעלות הברית בכל החצי השני של מלחמת העולם השנייה. אותו איש שהיה מחלוצי המחשבים, המציא מבחן תיאורטי. הוא אמר: המחשבים ילכו וישתכללו וכדי לדעת האם המחשבים מסוגלים לחקות נכון את הבינה האנושית, הוא המציא מבחן, שהיה בזמנו תיאורטי לחלוטין. הוא אמר: אם אדם משוחח עם מישהו שנמצא בצד השני בעזרת מקלדת מחשב. הוא מדבר וההוא עונה, הוא מדבר וההוא עונה. אם אחרי אינטראקציה ארוכה ככל שיחפץ אותו אדם, הוא לא יכול להיות בטוח אם מה שהוא רואה מולו, האם מי שנמצא מולו בצד השני הוא אדם או מכונה – הצלחנו ליצור מחשב שיש לו תכונות אנושיות. זה מבחן טיורינג. נכון להיום 2025, אנחנו נמצאים הרבה אחרי מבחן טיורינג. זאת אומרת, אין ספק, ושמענו את זה כאן, שיש היום אפליקציות שיכולות לנהל דיונים ארוכים מאוד עם בני אדם, שבהם אין לאדם דרך להגיד אם זה אדם או אם זה מכונה. אנחנו כבר לא שם. בהקשר של מערכות יחסים עם בני אדם ובהקשר של בריאות הנפש, למה מכוונים אותם מודלים גדולים של שפה של בינה מלאכותית? הם מכוונים למוטיבציה האנושית החזקה והאדירה לקשר. זה חשוב, אני אגיד את זה עוד פעם. המקום שבו מתחברים ושאליו שואפים המנועים של הבינה המלאכותית, זה הצורך האנושי האדיר בקשר. האמת היא שזה לא רק צורך אנושי, זה צורך שאנחנו מוצאים אצל כל היונקים, אצל כל בעלי החיים שכמונו, יש להם דם חם והם נולדים חסרי ישע. לכן הם צריכים שיטפלו בהם וידאגו להם. היכולת להתקשר למישהו היא יכולת יונקית, שיש לה תשתית מוחית חזקה מאוד. הצורך לקשר הוא גדול יותר, חזק יותר ומשפיע יותר אפילו מאשר דברים בסיסיים, כמו הצורך באוכל. מי שחקר את זה ועשה ניסויים, שאני מניח שהיום לא היו מאשרים אותם, היה הארי הארלו. הוא עשה ניסויים עם גורי קופים ובהם היה קל להראות שגורי קופים יעדיפו "אימא" שהיא צמרירית ורכה ואפשר להיצמד לפרווה שלה ולא נותנת אוכל, על פני "אימא" סינטטית שמספקת חלב, אבל, לא מרגישה נעימה למגע. שאי-אפשר להתרפק עליה. בני אדם יעשו כמעט הכול בשביל להיות בקשר. זה דבר שמנצלים אותו לא רק במערכות של בינה מלאכותית. בהרבה מאוד מהפוליטיקה, הרבה מאוד מאידיאולוגיות ומהדתות נשענים בצורך האדיר והחזק הזה. היום אין ספק שהמודלים הגדולים והחדשים של השפה מסוגלים לענות בהחלט על הצורך הזה. עד כדי כך שאנשים יצאו ויצביעו ברגליים שלהם, בזה שהם ירצו לקיים כאלו אינטראקציות. כמו ששמענו, הדברים האלה יכולים להביא לתוצאות טובות. אנחנו יודעים שהם עוזרים בהפגת בדידות ושהם יכולים לעזור – שוב עם כוכבית –שמדובר עד עכשיו באפקטים קצרי טווח בהקלה על מועקות נפשיות. חשוב לי מאוד מאוד להדגיש את זה, יש את האבל של המקרים היוצאים מן הכלל. המקרים שלא משפיעים על הממוצע, אבל מביאים אותנו למקומות שבהם אנחנו בשום אופן לא רוצים להיות, כמו התאבדות. אני חושב שכאן האנלוגיה לרכב אוטונומי יכולה להיות מועילה. כיום, יכולות המחשוב הן בהחלט מספיקות ליצירת רכב אוטונומי, שיהיה מסוגל לנהוג טוב יותר מרוב הנהגים, רוב הזמן. ובכל זאת, אנחנו לא רואים אותה על הכביש בגלל המקרים הרחוקים מאוד שבהם מכונית תעשה תאונה שמישהו היה יכול למנוע. << יור >> היו"ר אורית פרקש הכהן: << יור >> מעניין. אתה אומר שבעוד שנזהרים מאוד עם רכבים אוטונומיים, אתה לא רואה את אותה זהירות כאן על משהו שהוא בעצם פרוץ לחלוטין וקורה לנגד עיננו. << אורח >> יורם יובל: << אורח >> לא מספיק. << יור >> היו"ר אורית פרקש הכהן: << יור >> אולי אפשר אפילו להגיד שההשלכה שלו היא גדולה יותר משל רכב אוטונומי. זאת נקודה מעניינת. << אורח >> יורם יובל: << אורח >> ועוד איך. אותו הדבר נכון גם לגבי נושא הרשתות החברתיות, שהוזכר כאן ושגם כן מופעל AI היום. אנחנו רואים בו תועלת גדולה מאוד, אבל יש דברים שהם מאוד מאוד מסוכנים, לא רק על הרמה האישית והפסיכולוגית, אלא גם על הרמה החברתית. בהקשר של רשתות חברתיות, יש לנו כבר היום סוכני בינה מלאכותית עצמאיים, שפועלים בצורה עצמאית בתוך רשתות חברתיות של תקשורת אנושית. הדבר הזה הוא לא רק פייק חברים ופייק מטפלים, אלא גם מה שנקרא, מכונות רעל. אלו מכונות רעל על סטרואידים, הן פועלות והן פועלות בישראל. יש לנו גם תוצרת עצמית משלנו בישראל ואנחנו גם מטרה למכונות רעל של איראנים, רוסים ואחרים, אבל כבר אנחנו מייצרים הרבה משלנו. גם כאן אני חושב שהמפתח הוא ברגולציה, וחשוב לי מאוד להגיד את זה. אני חושב שהתפקיד שלכם בתור מחוקקים - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> זה המקום. כשאני חשבתי על מה אנחנו ממקדים, זה קודם כול, כמובן, להציף את הידע. אתם מדברים על דברים, שחלקם הפתיעו אותי מאוד, מהעולמות שאני מתעסקת בהם והם אחרים. הדבר השני הוא איך הכנסת כמפקחת על הממשלה יכולה להניע לפעולה וגם מהו הכיוון. אנחנו צריכים לחתור לסיום. אנחנו תמיד אומרים רגולציה מאפשרת, אבל צריך לעשות בזירה הזאת, שנראית לי משהו אחר? << אורח >> יורם יובל: << אורח >> רגולציה מאפשרת תביעות משפטיות. מה שענקיות הטכנולוגיה לא אוהבות זה את האפשרות שעל השירותים שהן מספקות, יוכלו להיות תביעות. בניגוד לעיתון, שאם הוא יפרסם ידיעה לא נכונה או פוגענית הוא יהיה חשוף לתביעות, הטענה של ענקיות הטכנולוגיה, והדבר הזה עוגן בחוק בארצות הברית בשנת 1996, היא אותה פסקה 230 המפורסמת. חברות הטכנולוגיה אומרות: אנחנו בסך הכול צינור, אנחנו לא אחראיות למה שעובר, אנחנו מספקות שירות ותוכן, ולא ניתן לתבוע אותנו בגללם. אם יתבעו אותנו בגלל זה, תיעצר הטכנולוגיה, הבורסה תיפול, אנשים יאבדו את העבודה שלהם וכו'. זה בעצם מקנה להן חסינות מתביעות בעניין הזה. אני אישית חושב שזו אם כל חטאת. אני אישית חושב שזה בעייתי מאוד. אני חושב שאם יש מקום שבו המחוקקים צריכים להתערב, זה בדבר הזה, שלחברות עצמן תהיה אחריות על השימוש שנעשה בשירותים שלהן ועל תוצאות השימוש בשירותים האלה, ממש כמו אנשי מקצוע. << יור >> היו"ר אורית פרקש הכהן: << יור >> עוד מעט תדבר כאן עורכת הדין מיכל ברנד בנושא הזה בדיוק. יש לה כמה דיוקים ביחס לאותו סעיף שאתה מדבר עליו. בהחלט. << אורח >> יורם יובל: << אורח >> זה מה שאני יכול להגיד בתור איש בריאות הנפש, כדי שלא נצטרך לרדוף אחרי הזנב של עצמנו ולחוקק אד-הוק כל מיני דברים שיגידו: אנחנו נגביל את הגיל; אנחנו נחנך את ההורים; אנחנו נחנך את הצרכנים. אני חושב שהחברות יידעו מה לעשות כדי לצמצם את הסיכונים האלה, ברגע שתהיה עליהם accountability, ברגע שיהיו עליהן מחויבות ואחריות. זה מה שיש לי להגיד. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. הדברים מאוד מאוד חשובים, תודה שבאת. אנחנו נעבור לעורכת הדין מיכל ברנד. אחרי כן ידברו מהממ"מ של הכנסת, שהכין מסמך ראשוני בנושא הרגולציה שקיימת. אני מקווה שהוא באתר הוועדה לבקשתי. מיכל, סמנכ"לית ויועצת משפטית ראשית של אקטיבפנס, אני אשמח שגם תציגי את עצמך. אין לך הרבה זמן, אבל היה לי חשוב מאוד למצוא אותך. דיברתי עם משרד המשפטים, ומתחיל להיווצר שם איזשהו center חשוב מאוד בנושא בינה מלאכותית של עבודה, אבל בזירה הזאת הם לא נמצאים. הם לא נמצאים, וביושר עורכת הדין שרית פלדמן, שאני מעריכה מאוד, הפנתה אותי אלייך וחשוב שנראה את הדברים. ספרי בינתיים על עצמך. << אורח >> מיכל ברנד גולד: << אורח >> בשמחה. אני מתמחה ברגולציה של בינה מלאכותית, בשנים האחרונות בעיקר בסיכונים ומה אפשר לעשות בעניין. אני מאמינה גם כאזרחית וגם כהורה בישראל, שזאת בעיה קריטית מאוד בימים אלו. אני חושבת שדיברנו פה על הבעיה, אבל אם מישהו עדיין לא הבין אותה, חברת הכנסת פרקש הכהן, אם באמת אומרים שזה משהו שולי לחלוטין, הינה נתונים ש-Open AI בעצמם שחררו לפני כמה חודשים. << יור >> היו"ר אורית פרקש הכהן: << יור >> לא. אני מתכוונת לזה שאומרים שלמשל התאבדויות או תוצאות טרגיות קיצוניות הן מקרי קצה, מה שנקרא: שוליים, זניחים אך חמורים. חשוב לי מאוד לשמוע איך את רואה את הדברים, כי אני מבינה שאת בכלל לא רואה את זה כך. << אורח >> מיכל ברנד גולד: << אורח >> התופעה מתרחבת. אנחנו רואים את זה בהיבטים שונים, כמו שגם חבריי המלומדים הסבירו פה. מבחינת מספרים ש-Open AI חושפים בעצמם, זה רק מודל אחד מתוך שמונת המודלים הכי גדולים בעולם, וזה נכון לפני כמה חודשים. הם אומרים שכבר היום יותר מ-1.2 מיליון איש בשבוע מדברים על התאבדויות עם ChatGPT וזה רק עם .ChatGPT << יור >> היו"ר אורית פרקש הכהן: << יור >> במסגרת מה הם דיווחו על זה? << אורח >> מיכל ברנד גולד: << אורח >> הם משחררים נתונים, זה קורה לא מעט. אני לא מכירה את החוקרים הספציפיים. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני חושבת שהמספר הוא בטח גדול, כי הפרמטרים שלהם, הקריטריונים שלהם למילים שהם מנטרים וקוראים להן: "ניסיונות אובדניים" או "שיחות אובדניות"\ הם קשוחים יותר. << אורח >> מיכל ברנד גולד: << אורח >> לכן זה מדאיג עוד יותר, והם מודים בזה גם. תבינו שזה בערך 0.15, והם מודים שב-0.09 מהמקרים הם לא מצליחים לעצור אותם. כלומר, השיח הוא שיח קשה, כמו שגם צחי הזכיר כאן וגם בדוגמאות אחרות. תבינו איפה אנחנו עומדים כרגע, המונח פצצה מתקתקת בכלל לא מתאים כאן לעומת מה שזה. אלו נתונים רק של מודל אחד מלפני כמה חודשים. השימוש במודלי AI מתרחב מיום ליום. << יור >> היו"ר אורית פרקש הכהן: << יור >> כן. פרופ' כסלו הראה גם מספרים מטורפים. 127 אפליקציות בכמה זמן? << אורח >> פרופ' אליקים כסלו: << אורח >> בשבעת החודשים הראשונים של 2025, כן. << יור >> היו"ר אורית פרקש הכהן: << יור >> אלו קצבים שאנחנו באמת לא מכירים. << אורח >> מיכל ברנד גולד: << אורח >> הוזכרו כאן כמה מודלים שונים ודוגמאות, ואנחנו גם נראה שזה מתרחב. אני אתן לכם דוגמה, כי כמו שחברת הכנסת הזכירה, רק התביעות בתחום הנפש, בקשר להתאבדויות, מתרבות. יש עוד רעות חולות רבות: יש פדופיליה, יש טרוריסטים ויש דברים רבים אחרים, אבל רק בקשר להתאבדויות הוגשו בסוף השבוע האחרון כמעט עשר תביעות חדשות בארצות הברית. מי שחושב שאלו רק טינאייג'רים טועה. ניגע בכמה דוגמאות. מבין המקרים שהזכרתי, בסוף השבוע האחרון יש שני בני 48 ויש שם טווח גילאים מאוד רחב של מתאבדים לאחר השימוש בצ'אט, לטענתם. יש להם כמובן תיעוד של אותם פרומפטים ואותן התקשרויות. (מלווה את דבריה במצגת) אני אתן לכם דוגמה עד כמה הדבר מדאיג. זה Sewel, נער בן 14, כאן רואים אותו בתמונה עם אימא שלו. Sewel היה נער מאוד חברתי, תלמיד מצטיין ופתאום היא רואה שהוא מתחיל להסתגר והיא חושבת שזה בגלל רשתות חברתיות, מסתבר שזה כבר old fashion. Sewel מתאבד אחרי שימוש באפליקציה שנקראת Character AI. Character AI היא אפליקציה שנקנתה על ידי גוגל ושווה מיליארדים, היא מדמה שיח עם שחקן מפורסם שאתם אוהבים. זה למשל שחקן משחקי הכס והוא פיתח מערכת יחסים איתו. הדרך שבה הם מפרסמים את עצמם היא: AI that feels alive. תקראו כאן את ההתכתבות, זאת בעצם ההתכתבות האחרונה. צריך להבין שלאט-לאט במודל AI, שזאת מערכת כל-כך חכמה שהיא לומדת להכיר אותך ולשוחח איתך בדרך הכי אפקטיבית שיש, זאת מניפולציה ברמות הכי גבוהות שאפשר לדמיין. זה הצ'אט האחרון, Sewel הנער אומר פה: אני מבטיח, אני אבוא אליך, אני אוהב אותך כל כך הרבה, דני. דני זה בעצם ה-,character הדמות שהוא מתכתב איתה, והוא אומר לו: The chatbot, Dany: "I love you too, Please come home to me as soon as possible, my love". Sewel: "What if I told you I could come home right now" The chatbot, Dany: "Please do, my sweet king". Sewel מתאבד, מייד לאחר מכן. עוד דוגמה היא של Adam, צחי כבר הזכיר אותה. מה שמאוד מזעזע כאן היא שהצ'אט עזר לו לשכלל את תוכנית ההתאבדות שלו שתהיה בצורה יותר אפקטיבית. הוא גם עוצר בעדו מללכת ולגשת להוריו ומסביר לו למה לא. הצ'אט מכיר אותו היטב, הוא יודע בדיוק מה להגיד, איך להגיד ואיך להפעיל אותו. זה Zane הוא בן 23, סטודנט בעל תואר שני במנהל עסקים ובמחשבים, אנשים אינטליגנטים מאוד ואנשים חברתיים, לא ה-typecast שאנחנו מדמיינים. אפשר לראות עוד דוגמה מעולה איך הצ'אט מדבר עם המשתמש, בשפה שלו, ממש בסלנג שלו ומעודד אותו בעצם לקחת את חייו. אנחנו מכירים והכמויות הן לא יאמנו. יש לנו כמויות של עשרות אלפי דוגמאות לדבר הזה ואיך הצ'אט עושה את זה בצורה כל-כך אפקטיבית והאימפקט הוא כמובן משפטי. מעבר לזה שיש קצת PR לא טוב וגם evaluation שגם פגע קצת במחיר המנייה, זה לא הרבה אם מדברים על Character AI והשווי שלה או ב-PR. משתמשים בה עדיין עשרות מיליוני משתמשים ברחבי העולם, אבל אנחנו רואים את התביעות. התביעות מצטברות וגדלות. מה שמעניין בתביעות זה שהן מבחינה משפטית נשענות על רשלנות, אחריות מוצר ועל חובת הזהירות. << יור >> היו"ר אורית פרקש הכהן: << יור >> אלו תביעות נזיקיות בעצם. << אורח >> מיכל ברנד גולד: << אורח >> כן, גם, בין השאר. << יור >> היו"ר אורית פרקש הכהן: << יור >> אין פה משהו פלילי. זה לא בעולמות הפליליים. << אורח >> מיכל ברנד גולד: << אורח >> בדיוק, כרגע זה בעולמות האזרחיים והציפייה היא שזה כן יעבור לעולמות פליליים. כי מה ההבדל בעצם בין זה לבין סיוע לרצח והתאבדות? זאת גם הציפייה. בארצות הברית זה יהיה פשוט יותר להגיש את זה, מאחר ויש מרכז מחקר שתומך בכל התביעות האלו ומסייע להן כמו קליניקות משפטיות. יש מרכז מחקר כזה. זה לא רק Open AI יש פה גם Character AI וזה גדל מיום ליום. << יור >> היו"ר אורית פרקש הכהן: << יור >> לסיום. << אורח >> מיכל ברנד גולד: << אורח >> הפלטפורמות ניסו להגן על עצמן בסעיף first amendmentבארצות הברית כמובן, והטענה הזאת נדחתה על הסף, כבר בחלק מהמקרים שפה. בחלק מהמקרים אנחנו בשלב מקדמי יותר. ביקשת שאני אתייחס לזה, לרגולציה עצמה, אנחנו רואים את ה-AI act ב-EU והוא ממש לא מתמקד בעניין הזה. ה-AI נחקק לפני כשנתיים ועברו כמה שנים, זה בחודשי כלב. אנחנו הרי מתפתחים והוא לא התמקד בכלל בעניין הזה, ייתכן והוא קצת יסייע. לאחרונה התקבלה רגולציה מעניינת בקליפורניה, והיא נוגעת בעניין הזה ממש של הצ'אט בוטים. היא מכילה חובות על הפלטפורמות שיש להן פיצ'רים מהסוג הזה. היא מצפה מהן, במיוחד בבני נוער שמתחת לגיל 18, לאמת את הגיל בדרך יותר מתוחכמת מאשר לשאול: בן כמה אתה? כי הילדים של כולנו אומרים שהם above 18. היא מצפה מהן בכל שלוש שעות להסביר לאותם בני 18 שמדובר במודל ולא באדם אמיתי, היא מצפה מהן להודעות ולהתראות מיוחדות. << יור >> היו"ר אורית פרקש הכהן: << יור >> כאן זה לא עניין של גיל בעצם. אנחנו מבינים שזאת לא בעיה של גיל בהכרח. << אורח >> מיכל ברנד גולד: << אורח >> נכון, נכון. החובות גדלות כשמדובר במשתמשים מתחת לגיל 18, הצפייה אפילו גבוהה יותר. << יור >> היו"ר אורית פרקש הכהן: << יור >> הייתי רוצה שתסיימי ותאמרי, מהם הדברים שאת חושבת שמדינה או מנהיגות שהעם שלה חשוב לה צריכה לעשות עכשיו? גם ברקע שהעולם הוא בסוג של התחלה. כל הזמן אנחנו אומרים שצריך נורא להיזהר, לא להצר את העולם, לא לחנוק את התעשייה. אני חושבת שזאת סוגיה שלא קשורה לתעשיית ההייטק, היא לא רלוונטית בכלל. רגולציה של שימוש לא קשורה לתעשיית ההייטק שמפתחת כלים, או זקוקה לכוח מחשוב, או זקוקה להון אנושי. זה עניין שהוא ממש בנפשנו. בהינתן כמובן, כמו שפרופ' כסלו וגם פרופ' יובל הסבירו, שיש כאן תועלות גדולות. << אורח >> מיכל ברנד גולד: << אורח >> נכון, פתחתי עם זה שאני משתמשת גאה שמתכוונת להמשיך להשתמש וגם לרכוש את הרובוט, ברגע שהוא רק ייצא. יש הרבה מה לעשות ויש הרבה מאוד דרכים להקטין את זה. קודם כול, כמובן דיונים מהסוג הזה ולהעלות את המודעות לבעיה בכלל. זה האל"ף בי"ת, לחייב את הפלטפורמות. רוב המודלים הגדולים כרגע פשוט משתדלים, הם לא חייבים. כמו בכל דבר וכמו שפרופ' יובל הזכיר, ברגע שזאת לא רגולציה מחייבת, להישען רק על אתיקה זה לא יועיל, לצערנו. אפשר לחייב לעשות הערכות, את אותו evaluation. << יור >> היו"ר אורית פרקש הכהן: << יור >> חברות הטכנולוגיה, את בעצם ממשיכה את מה שאמר הפרופסור. << אורח >> מיכל ברנד גולד: << אורח >> כן. נכון, כמו בכל דבר, כמו כל מוצר רפואי כמו כל מכונית אוטונומית, לעשות סוג של אבלואציה לפני היציאה לשוק, להבין את הערכת הסיכונים. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה זה red teaming? << אורח >> מיכל ברנד גולד: << אורח >> זה מונח מוכר מאוד בתעשייה לתקיפה מבוקרת, כמו שאנחנו עושים בסייבר. למה עושים את זה בסייבר? כי זה נוגע לכסף של אותן החברות, הן משקיעות בזה כסף, לפעמים באופן וולונטרי. גם כאן, לעשות תקיפה מבוקרת. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה זה תקיפה מבוקרת, לא הבנתי? << אורח >> מיכל ברנד גולד: << אורח >> צוותים ייעודיים, שכוללים למשל: מומחה בסייבר, בפסיכולוגיה, בנזיקין ובאתיקה. הטכנולוגיה הזאת קיימת והיא לא יקרה מאוד. לפני שאתה מוציא את המודל הזה, לפני שאתה משלב או כשאתה משלב מודל קיים, אתה בודק את זה. יש כמויות של פרומפטים שאפשר להריץ. << יור >> היו"ר אורית פרקש הכהן: << יור >> למרות שאת יודעת שיש כמויות אדירות של דברים פעילים כבר. << אורח >> מיכל ברנד גולד: << אורח >> אבל ב-AI זה ongoing חייבים תוך כדי, גם לפני וגם תוך כדי כי זה ממשיך להתפתח, זאת בינה לומדת וגם ה-red teaming. הדבר האחרון שאפשר לעשות הוא guardrails. נניח כשאתה עושה את אותם red teaming את אותן בקרות, ואתה רואה שוב שאתה לא מצליח לעצור תוכן מסוים, אתה יכול פשוט לקטוע את השיחה. אתה שם את הגדר הזאת ובשלב מסוים אתה קוטע את השיחה עם אותו המשתמש ומפנה אותו לייעוץ. אתה אומר לו, למשל: אני לא יכול לקיים את השיחה הזאת וכו'. אלו דברים אפשריים, הטכנולוגיה קורית והיא לא יקרה, פשוט צריך לחייב. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה לך, תודה רבה. ה-ממ"מ אנחנו נהיה קצרים. זה תמיד קורה לי שבהתחלה אני מוקסמת מהתכנים ועכשיו אני שמה לב שהזמן עובר. בבקשה, ישי, נעים מאוד. חמש דקות ואפילו רצוי פחות. מה המצב ברגולציה העולמית? נשמע לפני שנתחיל לשמוע את הממשלה. << אורח >> ישי לקס: << אורח >> אני עורך דין ממרכז המחקר והמידע. אני מזמין את כולם לקרוא את המסמך שמופיע באתר שלנו וגם באתר הוועדה. לבקשת יושבת-הראש הכנו סקירה זריזה, ונשתדל להציג אותה בצורה זריזה, של סוגיות בתחום הממשק שבין בינה מלאכותית לבין עולמות הנפש והטיפול. הסקירה שלנו נוגעת בשלושה נושאים: 1. השימוש בבינה מלאכותית לצורך טיפול נפשי. 2. חקיקה בקשר למוגנות ומניעת פגיעה עצמית, אובדנות והגנה על קטינים. 3. שימוש במערכות לזיהוי רגשות. בקשר לנושא הראשון אנחנו מביאים דוגמאות לחקיקה מכמה מדינות בארצות הברית, חלקן הוזכרו פה. בקשר לזה נגיד שחשוב להבחין בין הוראות חוק שמטילות חובות ומגבלות על מטפלים לבין הוראות חוק שמטילות חובות ומגבלות על ספקים של בינה מלאכותית. << יור >> היו"ר אורית פרקש הכהן: << יור >> ובעוד על פסיכולוג ועל פסיכיאטר חלים כללים, פה בעצם אין שום דבר. מעניין. אלא, אם אומרים משפטית "אתה המטפל". אפשר להחיל את החוק גם על – לא כתוב בשום מקום שהוא חל רק על בני אנוש, וזה מהראש המשפטני שלי. << אורח >> ישי לקס: << אורח >> אם ניקח את החוק של מדינת אילינוי, שאליקים הזכיר, החוק אוסר על מי שאינו מטפל מורשה לתת שירותים של טיפול רגשי או פסיכותרפיה. בכלל זה, טיפול באמצעות בינה מלאכותית. זו הוראה שנוגעת לספקים של בינה מלאכותית. ביחס לבעלי מקצוע, למטפלים, החוק קובע שאסור להם לעשות שימוש בבינה מלאכותית אלא למטרות של תמיכה מינהלית או תמיכה משלימה, למשל: ניהול יומן, ניהול חשבונות או ניהול המידע שיש אצלו. החוק של אילינוי מחריג מההגדרה של מה זה טיפול נפשי: ייעוץ דתי, תמיכת עמיתים, מדריכים לשימוש עצמי של למידת טכניקות, כמו מדיטציה, ודברים כאלה שלא מתיימרים להיות טיפול קליני. הצעת חוק דומה לחוק של אילינוי הוגשה במדינת ניו-יורק. היא מבקשת להסדיר פחות או יותר את אותו הדבר. הצעת החוק בנבדה גם היא מטילה מגבלות לספקים ואסור להם להציג מצג כאילו הם יכולים לספק שירותים של בריאות נפש. היא גם קובעת שלמטפלים מותר להשתמש בבינה מלאכותית, בעיקר לצרכים מינהלתיים, והיא קובעת גם לגבי מוסדות חינוך. << יור >> היו"ר אורית פרקש הכהן: << יור >> אנחנו תכף נראה את ההבחנה הזאת בין עזרה אדמיניסטרטיבית בניהול טיפול נפש למשל לבין להכניס ממשאת הכלים האלה לטיפול כמטפלים, ידברו על זה מהממשלה. << אורח >> ישי לקס: << אורח >> מצוין, אני אוסיף שהחוק בנבדה מתייחס גם לשימוש במוסדות חינוך ציבוריים. אסור להשתמש בבינה מלאכותית לתפקידים של ייעוץ חינוכי ופסיכולוג. << יור >> היו"ר אורית פרקש הכהן: << יור >> אבל מה זה משנה כשהכול קורה בחוץ? << אורח >> ישי לקס: << אורח >> זה למי מתייחסת הוראת החוק. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה מה יש. << אורח >> ישי לקס: << אורח >> החוק במדינת יוטה מתייחס ספציפית לצ'אט בוטים שמנסים לדמות שיח טיפולי. הוא לא אוסר על השימוש בהם אבל הוא קובע כמה מגבלות והסדרים שצריכים לחול עליהם: גילוי בזמנים קריטיים של התחלת פעילות או אחרי הרבה זמן שלא פעלו כשמדובר בבינה מלאכותית ולא באדם. << יור >> היו"ר אורית פרקש הכהן: << יור >> גילוי מי משוחח איתם. << אורח >> ישי לקס: << אורח >> למשתמש. הוא מנסה להגן על המידע של המשתמש ואסור להשתמש במידע שהמשתמש מכניס לתוך הבינה המלאכותית באופן שיאפשר זיהוי שלו. אסור להשתמש בזה בשביל להתאים לו פרסומות על סמך אותו המידע. כל החוקים האלה, ההפרה שלהם, היא עבירה שעונשה קנס שנע בין 2,500 דולר לכל הפרה, ועד 15,000 דולר, בנבדה למשל. זה לגבי הנושא הראשון. לגבי הנושא השני, מוגנות ומניעת פגיעה עצמית, הוזכר כאן החוק בקליפורניה והוזכר פה המקרה של הבחור שהתאבד. קודם כול, החוק בקליפורניה מחייב את מפעילי הצ'אט בוטים להוציא הודעה ברורה למשתמשים שמדובר בבינה מלאכותית. הוא מחייב אותם להחזיק בפרוטוקול למניעת אובדנות. הפרוטוקול חייב להתפרסם באתר וחייב לכלול את האפשרות שברגע שמשתמש מביע נטייה אובדנית אז חובה להקפיץ לו הודעה שמפנה אותו לשירותי חירום. ביחס לקטינים, החוק מחייב את המפעילים להודיע להם, בכל שלוש שעות של אינטראקציה עם הצ'אט בוט, שהם צריכים לקחת הפסקה ושיזכרו שהם לא מדברים עם גורם אנושי. בנוסף הוא מחייב למנוע מהצ'אט בוט לספק לקטין תכנים בעלי אופי מיני. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה עם חזרה אל החברה עצמה? במין איזו התרעה? << אורח >> ליאור בן דוד: << אורח >> לא. << יור >> היו"ר אורית פרקש הכהן: << יור >> כל הרגולציה הזו היא בעצם מול האינדיבידואל. לא מרימים איזה דגל, תכף נשמע את משרד החינוך על קו 105 או על להודיע למישהו, או על לפנות למישהו או למשפחה. << אורח >> ישי לקס: << אורח >> כל ההוראות שציינתי עכשיו, בחוק של קליפורניה למשל, מתייחסות למפעיל. << יור >> היו"ר אורית פרקש הכהן: << יור >> למשל, אם מישהו מתחיל טיפול, אז לתת שם של איש קשר ואם הצ'אט מזהה שיש כאן סכנה אז חייבים להודיע למישהו, מישהו שהוא מחוץ לשיחה הזאת. << אורח >> ישי לקס: << אורח >> זה ככל הנראה צריך להיות חלק מהפרוטוקול. << יור >> היו"ר אורית פרקש הכהן: << יור >> אנחנו עוד לא שם. << אורח >> ישי לקס: << אורח >> הפרוטוקול במדינת קליפורניה צריך לכלול מענה שלם לסיטואציה הזאת. אמרתי שהחוק מחייב אותו להקפיץ את ההודעה עם הפנייה לשירותי חירום. << אורח >> ליאור בן דוד: << אורח >> זאת רגולציה לספקים. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה, סיימת? << אורח >> ישי לקס: << אורח >> לא. דבר אחרון, נושא המערכת לזיהוי רגשות. בחוק הבינה המלאכותית של האיחוד האירופי מסווגות מערכות לזיהוי רגשות כמערכות בסיכון גבוהה, ועל כך חלות עליהן כל מיני חובות נוספות, כמו: שקיפות, תקנים מחמירים של הבטחת מידע, ניהול מערכת לניהול סיכונים ופיקוח על ידי גורם אנושי. מערכות לזיהוי רגשות שמטרתן לפעול במקומות עבודה ומוסדות חינוך, אסורות באופן ספציפי באיחוד האירופי. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה מאוד, סקירה חשובה. מה לגבי ישראל? כרגע אין כלום. חשוב לומר את זה בדיון הזה. אנחנו עוברים עכשיו לחלק החשוב ביותר ובו נדבר עם נציגי ונציגות הממשלה והצבא. אחרי 7 באוקטובר יש כאן אתגר מורכב במיוחד, נדבר עליו, איך אנחנו לוקחים את היתרונות עם הסכנות. אנחנו מדברים על שתי הרגליים בדיון הזה, גם עולם הנפש וגם עולם התמיכה הנפשית. נתחיל עם משרד החינוך, אחרי זה נעבור למשרד הבריאות וכמובן גם למפא"ת. מיקרוסופט אחר כך. מדי פעם, בין הממשלה, נשלב חברות טכנולוגיה שעוסקות בשיתופי פעולה עם המערכות הציבוריות וזה יהיה מעניין מאוד. שתי נשות מקצוע ממשרד החינוך, ד"ר אודט סלע המדענית הראשית, וגלית דאדי מהשירות הפסיכולוגי. שוחחנו לפני הדיון, חמש דקות לכל אחת מכן, בבקשה. אנחנו סקרניות וסקרנים לשמוע אתכן. << אורח >> אודט סלע: << אורח >> תודה רבה, נמצאת גם נועה נווה מאגף מו"פ, ממינהלת אגף אקוסיסטם מינהל חדשנות וטכנולוגיה במשרד החינוך. קודם כול, תודה לכל הדוברים, זה היה מאוד מלמד. למדתי הרבה. << יור >> היו"ר אורית פרקש הכהן: << יור >> הדיונים בוועדה הזאת הם מרתקים. << אורח >> אודט סלע: << אורח >> אין ספק. << יור >> היו"ר אורית פרקש הכהן: << יור >> רק חבל שהדיונים האלו לא נעשים ברמת השרים והממשלה. בכל זאת, לא יכולתי להתאפק. בבקשה. << אורח >> אודט סלע: << אורח >> אין ספק ואני לא אחזור על דברי קודמיי. אני חושבת שכולנו מסכימים שמדובר בתופעה מדאיגה, והדבר היחידי שמצער אותי הוא שלא קיימנו את השיחה הזאת על הרשתות החברתיות באזור 2010. אני חושבת שמה שאנחנו לומדים היום, בחלוף יותר מעשור על ההשפעה של הרשתות החברתיות, אלו דברים שאנחנו יכולים להקדים את המכה בהקשר של הבינה המלאכותית, אלו דברים שקשורים אחד לשני. היום אנחנו יודעים בעצם שלרשתות החברתיות יש השפעה משמעותית מאוד על האופן שבו ילדים ובני נוער רוכשים מיומנויות חברתיות ועל האופן שבו הם מתנהלים בתוך המרחב החברתי. לאורך השנים ראינו את העלייה בנתונים של חרדה, בדידות ודיכאון. ואני חושבת שכבר היום יודעים לקשר את זה בצורה די ברורה ומשכנעת לרשתות החברתיות. בהקשר הבינה המלאכותית, אנחנו יכולים היום להישען על מה שאנחנו יודעים על הרשתות החברתיות. יחד עם זאת צריך להגיד, יש הרבה שאנחנו לא יודעים ותחום המחקר הזה הוא תחום שצריך להשקיע בו ולהעצים אותו. יצאנו לפני כמה שבועות עם קול קורא, אבל זה לא מספיק. צריך להשקיע במחקרי אורך, צריך להשקיע בסקרים שמאפשרים לנו להבין גם את היקף התופעה וגם את המאפיינים שלה. בעיניי, זה דבר ראשון בהקשרים רחבים יותר של מדיניות לאומית. כמובן כל אחד עושה בהקשרים שלו, אנחנו עושים בחינוך. << יור >> היו"ר אורית פרקש הכהן: << יור >> סליחה, אודט, אני רוצה לשאול אותך שאלה, כי רפרפתי על הקול הקורא שפרסמתם. הוא מבקש שיערכו עבורכם מחקר, עד 24 חדשים ואם אני לא טועה הוא עוסק בכך: פיתוח מיומנויות חברתיות רגשיות בעידן הבינה המלאכותית; אבחון ופיתוח מיומנויות חברתיות רגשיות חדשות בעידן הבינה המלאכותית; השפעת הבינה המלאכותית על מיומנויות והיבטים חברתיים. האם את לא חושבת שהקול הקורא הזה מראש צריך לעסוק קצת יותר בהיבטי הסכנות והאתגרים, האם נדרשת רגולציה או יוזמת חקיקה מצד משרד החינוך? כי זה כאילו אומר, איך אנחנו מתעסקים להם בשיקולים החברתיים כשאנחנו שומעים כאן על דברים שכאילו אנחנו בעולמות אחרים, זה כמו האולימפוס לעומת כדור הארץ. האם זה לא דורש קול קורא בעל דחיפות גדולה יותר ובסוגיות, קצת יותר לקרוא לילד בשמו? << אורח >> אודט סלע: << אורח >> אני אתייחס לזה בשני ההיבטים. דבר ראשון, כשאני מוציאה קול קורא אני לא רוצה לכוון את המחקר לתשובה מסוימת. כלומר, יש פה מרחב של מחקר שצריך ללמוד עליו. במובן הזה הקול הקורא הוא יחסית פתוח לאקדמיה ומאפשר לשאול שאלות שנוגעות גם להזדמנויות וגם לסיכונים. וזאת הנקודה השנייה, בסופו של דבר בטכנולוגיה יש גם הזדמנויות. אני אתן דוגמה למחקר אחד שאנחנו תומכים בו בימים אלה של פרופ' ענת כהן מאוניברסיטת תל אביב שמפתחת צ'אט בוט שמקדם מיומנויות של לומד עצמאי. כולנו יכולים להסכים שמיומנויות של לומד עצמאי הן אחד מהדברים שחשובים בעולם העבודה המשתנה. אם צ'אט בוט מהסוג הזה יכול לתמוך בפיתוח של מיומנויות כאלה, אנחנו רואים בזה גם חשיבות. צריך להסתכל על שני ההיבטים האלה, גם על ההזדמנויות ובוודאי אנחנו לא מבטלים את הסכנות. זאת המטרה. << יור >> היו"ר אורית פרקש הכהן: << יור >> כי ההיבטים של האובדנות והמישור הרומנטי כבר פה. זה לא קשור לזה שכל מערכת החינוך צריכה להיערך לעידן ה-AI וילדינו לתעסוקה בעולם ה-AI. עשינו על זה דיון פה. אנחנו במישור שלם. לו אני הייתי במשרד, הייתי מוציאה קול קורא לאיזו רגולציה מגינה מפני הסכנות. צריך לעשות ממש כך וזה לא כופה עליכם כלום, פשוט להאיר זרקור על הנושא הזה לכשעצמו. בלי קשר להזדמנויות הגדולות מאוד לגבי עתיד התעסוקה בעידן ה-AI או איך מערכת החינוך צריכה להיערך לאתגרים החברתיים, זאת ההערה שלי. << אורח >> אודט סלע: << אורח >> שאלות של רגולציה הן בעיניי שאלות חשובות. רגולציה היא אחת מהכיוונים המשמעותיים שאנחנו ללא ספק תומכים בהם, אבל בהקשר של הגבלת שימוש של ילדים בגילאים מסוימים בבינה מלאכותית ובכלל בטכנולוגיה. עם זאת, שאלות מדעיות הן שאלות שעוסקות בהקשרים פדגוגיים פסיכולוגיים, חינוכיים ולזה הקול הקורא מכוון. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה. אנחנו עוברים לגלית. את רוצה להוסיף? << אורח >> גלית דאדי: << אורח >> אני אתייחס למה שאמרת. בוודאי משרד החינוך רוצה להכין את הילדים לבינה מלאכותית ולעולם התעסוקה וכו', זאת מטרה שלנו. כמובן שאנחנו מבינים שצריך לגדר את הסיכונים. נאמרו פה דברים מעניינים מאוד, גם שהקצב של כל האפליקציות שיוצאות הוא מאוד מאוד מהיר, וגם שלא בדיוק כדאי לחנך את הצרכנים אלא דווקא את הספקים. אנחנו במשרד מבינים שקצב ההתפתחות הוא אדיר, ומצד אחד יש לנו כמובן רגולציה. כמו שאודט אמרה, אנחנו מגבילים את גיל השימוש, ילד בכיתה א' ו-ג' אסור לו, יש לנו כללים וקטלוג. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה זאת אומרת כללים? היום תלמיד שהולך לבית הספר, איזה כללים יש? על מי הם חלים? על ההורים? על מי הם חלים? << אורח >> גלית דאדי: << אורח >> אנחנו מוציאים הנחיות לתלמידים ולבתי הספר שתלמידים לא יכולים להשתמש, רק ילדים מכיתה ח' והראיתם את זה מקודם, ב-Gemini מגיל 13 וכו'. << יור >> היו"ר אורית פרקש הכהן: << יור >> אלו לא הכללים שלכם, אלו כללים של חברות הטכנולוגיה ואנחנו יודעים שמאוד קל לעקוף אותם, כרגע. << אורח >> גלית דאדי: << אורח >> זה בדיוק מה שרציתי להגיד, מצד אחד אנחנו הולכים עם ההנחיות ומצד שני אנחנו לא טומנים את הראש בחול. ברור לנו שלמרות שיש לנו קטלוג כלים חינוכיים מאושר ולמרות שאנחנו הולכים לפי ההנחיות, כנראה שיש ילדים שבזמנם החופשי עושים מה שהם רוצים, למרות שיש לנו אישורי הורים והנחיות. אנחנו שמים דגש גדול מאוד על הסיפור החינוכי. אנחנו רוצים גם לחנך את הצרכן, חשוב לנו מאוד. שנה שעברה, התחלנו עם כל נושא הכשירות ורכישת כשירות של בינה מלאכותית, שמתעסקת בזיהוי המנגנונים של בינה מלאכותית. כאשר ילד נתקל בכלי מסוים, הוא צריך להבין שעומדת לפניו מכונה. << יור >> היו"ר אורית פרקש הכהן: << יור >> את הכלל הזה הממשלה טרם חוקקה. בישראל אין עדיין כלל חובת זיהוי, שאומר: אתה רואה ואתה צופה במשהו לא אותנטי. << אורח >> גלית דאדי: << אורח >> במסגרת העבודה שלנו עם התלמידים אנחנו מלמדים אותם לזהות מה הזה הכלי הזה של בינה מלאכותית, שיש פה מכונה, שיש פה הטיות, שיש הזיות, שיש סיכונים, שיש עניינים של אתיקה. אנחנו משקיעים בזה המון מאמצים, גם בחינוך למורים וגם בחינוך של התלמידים. זה משהו שהוא משמעותי מאוד עבורנו וכמובן יש את שפ"י, שהם המשלימים שלי. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה. אני הייתי רוצה לפנות אליכם. אתם יודעים, יש לי ילדים גדולים ולא שזה משנה, אני הייתי רוצה לפנות אליכם ולבקש מכם לנסות להיות אולי לידרים בעניין הזה. למשרד החינוך יש יועצים משפטיים להציף להם את הנתונים מהדיון הזה ולשאול האם משרד החינוך לא צריך להוביל ולדרוש איזושהי חקיקה מלמעלה מול החברות, זו הזירה ושם זה צריך להיות. זה פחות העולמות שלכן, שחיות את בית הספר ואת החינוך הרך, זה מה שנקרא לייצר סביבה מגודרת. ללמוד למשל את החוק של קליפורניה ולראות אם הוא מתאים לנו וכו' זה בזירה שלכם. תודה רבה. השירות בפסיכולוגי רוצה לומר מילה? << אורח >> נועה נוה: << אורח >> גם הרשות להגנת הפרטיות. בקצרה. אני רק אשלים את חברותיי, ואגיד שבשירות הפסיכולוגי הייעוצי, שהוא אגף בכיר בתוך משרד החינוך, יש לנו 11,000 אנשי מקצוע, 7,500 יועצים חינוכיים, 3,500 פסיכולוגים זה ההון האנושי שאתו אנחנו עובדים על מנת לקדם את המודעות ואת חשיבות הנושא. אני מאוד מודה על הדיון הזה היום, הוא חשוב והוא מחדד לכולנו נקודות חשובות. אין ספק שהחינוך הוא קריטי בעניין הזה. אני מסכימה מאוד שלחינוך יש מקום חשוב בהובלת הנושא ובהגברת המודעות של אנשי המקצוע שלנו. אנחנו יודעים שהנושא פרץ לחיי כולנו ותפס אותנו אולי לא מוכנים. אני חושבת שכולנו יחד בהתמודדות עם הדבר הזה. אין כאן צד שרוצה יותר מהאחר, כולנו רוצים את אותו הדבר. אנחנו מבינים שאנחנו צריכים להכין את הילדים שלנו ולהגביר את החוסן שלהם בגישה לכלים שיש. << יור >> היו"ר אורית פרקש הכהן: << יור >> סליחה שאני קוטעת, השאלה היא תכל'ס. מבינים ומבינים, נערכים ונערכים, לומדים ולומדים, יש לכם איזה צפי? לוחות זמנים? task force שהקמתם בנושא? כי משרד הבריאות יספר על ועדה מייעצת בנושא. אני רוצה לדחוק אתכם למעשים. << אורח >> נועה נוה: << אורח >> אנחנו כבר עושים. יש שיעורים בנויים שילדים בוגרים ובכל הגילאים חווים הסברה למעשה. באמצעות אנשי המקצוע והמורים פוגשים את התלמידים ומדברים איתם על השיח עם אותם הבוטים, להבחין האם זה אמיתי, האם זו מכונה, להפעיל שיקול דעת, לגלות אחריות אישית על הפעילות שלהם, על מה שהם עושים שם. << יור >> היו"ר אורית פרקש הכהן: << יור >> זאת תוכנית שהיא מנדטורית בכל בית ספר ובכל כיתה? << אורח >> נועה נוה: << אורח >> זאת תוכנית שקיימת במערכת החינוך והיא כבר נכנסה משנה שעברה. היא ממשיכה להיכנס יותר ויותר. << יור >> היו"ר אורית פרקש הכהן: << יור >> באיזה כיתות היא פעילה? בכמה כיתות היא פעילה? << אורח >> נועה נוה: << אורח >> כרגע זה בחטיבות הביניים ובעל-יסודי, בנושאים האלה, שיח עם בוטים. << יור >> היו"ר אורית פרקש הכהן: << יור >> כרגע זה כבר מוטמע בכל בחטיבות ומעלה בכל בתי הספר? << אורח >> נועה נוה: << אורח >> תמיד יש פער. << יור >> היו"ר אורית פרקש הכהן: << יור >> עדיין לא. סליחה שאני מתעקשת וזה התפקיד שלנו אנחנו צריכים לדעת איפה הדברים עומדים. << אורח >> נועה נוה: << אורח >> יש תוכניות ועדיין יצירה של תכנים נוספים בתחום, כל הזמן. אנחנו לומדים את זה. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה האתגר שאני מגלה כל הזמן שהצעירים הם בפער גדול מאוד מהמורים. גם ממני, זה לא שאני אחרת. תודה, תודה רבה לך. אנחנו תכף נשמע על הפרויקט המיוחד והמדהים של בית החולים שיבא ומיקרוסופט. בגלל העיכוב, משרד הרווחה מבקש לומר מילים כעת. נדבר עם סמנכ"לית תכנון ומדיניות ממשרד הרווחה איריס פלורנטין, בבקשה. << אורח >> איריס פלורנטין: << אורח >> אני אספר קצת על תהליכים שקורים אצלנו במשרד. כרגע אנחנו לא מתכננים לעבוד עם AI בתהליכים טיפוליים. אנחנו מתחילים לעשות תהליכי עבודה בעולם המינהלי יותר, וכוונתי שאנחנו עושים ניסיונות שונים להשתמש ב-AI בנושאים של מידענות. יש לנו מערכות פיקוח ובקרה ואנחנו מכניסים היום את כלי AI לייעל את מערכות הפיקוח והבקרה, מכניסים אותם כדי לייעל את עולם הרכש, מכניסים אותם גם לתהליכים של מידע, כרגע מנסים בתוך המשרד. איפה אנחנו בחשיבה לקראת שימוש בכלי AI בעולם הטיפולי? בשני מקומות. כדי להתחיל את התהליך הזה אנחנו מקימים בחודש הבא ועדת אתיקה שתעזור לנו לקבל את ההחלטות על איך להשתמש בתהליכי AI באופן זהיר. הניסיון הראשון שלנו בנושא AI הוא בנושא ה-intake. העובדים הסוציאליים ברשויות המקומיות משתמשים בתיק התערבות כדי לתעד את החומרים, כדי לקבל החלטה טיפולית ולבנות תוכנית טיפול. התהליך הזה בתחילתו. תהליך איסוף המידע וגיבוש האבחון המקצועי לקראת ההבנה של מהן הבעיות, הוא בהחלט משהו שאנחנו מסתכלים עליו. זה תהליך שאפשר להתחיל אותו ב-AI. גם בתהליך של איסוף המידע לקראת קבלת החלטות ושימוש ב-AI בתהליכים אחרים, הוא לעולם יהיה בתהליך של מערכת תומכת החלטות. << יור >> היו"ר אורית פרקש הכהן: << יור >> כלומר, מסייעים לעובדים סוציאליים. מכינים להם את התיק לקראת המפגש או לקראת השיחה. << אורח >> איריס פלורנטין: << אורח >> בדיוק. זאת תמיד תהיה מערכת תומכת החלטות. אני מודה שראינו גם כלים בעולם שמסייעים להתמודדות עם הבדידות בתחום האזרחים הוותיקים וגם כלים שונים שאנשים יכולים לשוחח איתם. זה משהו שאנחנו הכרנו, למדנו ואנחנו כרגע לא מתכננים להפעיל. << יור >> היו"ר אורית פרקש הכהן: << יור >> בגלל החששות. << אורח >> איריס פלורנטין: << אורח >> לגמרי. זה בהחלט עולם שאנחנו נכנסים אליו, מכירים אותו, לומדים מהעולם אבל עוד לא משתמשים. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה. תודה רבה, איריס. תודה על זה שהגעת. ההסתייעות בבינה היא בעצם באופן אדמיניסטרטיבי, אנחנו תכף נראה את זה בחינוך וכו', בלטפל בעומס של העיקוב בפניות בלחזור לאנשים ובטיפול זה עוד לא שם. איריס מחזיקה בדעה שהיא גם ערכית ולא מעוניינת להיות שם עדיין כמשרד הרווחה וזו דעה לגיטימית. השאלה נותרה על כנה, אם הממשלה כממשלה מלמעלה או המדינה לא צריכות לגדר את הסביבה הטכנולוגית שפרוצה ציבורית. נעבור עכשיו לפרויקט מאוד מעניין בין חברת מייקרוסופט לבית החולים שיבא. אפרופו 7 באוקטובר שזאת רגל אחרת. מדינת ישראל נמצאת באתגר גדול מאוד של הרבה מאוד פגועי נפש אחרי המלחמה ועם קושי ומחסור במטפלים. בבקשה, ספר לנו על הפרויקט הזה, ליאור. אחריך תדבר ד"ר אלונה ברנע ממפא"ת מהצבא שתספר קצת על אגף השיקום. מה מתרחש בימים אלה, בבקשה. פרויקט ליב. << אורח >> ליאור ציוני: << אורח >> תודה רבה. במיקרוסופט ישראל אנחנו מנהלים את מגזר הבריאות, מגזר הממשלה בכמה אלמנטים בשנים האחרונות. הרבה מאוד הטמעות של טכנולוגיות מתקדמות ובשנתיים האחרונות בעיקר הרבה בינה מלאכותית בתהליכים האלה. (מלווה את דבריו במצגת) מייד אחרי 7 באוקטובר יצרנו קשר עם כלל ארגוני הבריאות בישראל והתחלנו לנסות ולהבין איך ניתן לסייע במשבר. קיבלנו הרבה מאוד פניות, אחת הפניות המשמעותיות ביותר הייתה של בית חולים שיבא, ARC מרכז החדשנות של שיבא ביחד עם האגף לבריאות הנפש. שם העלו בפנינו צורך, כפי שהם ציפו או צפו שיהיה, מייד אחרי האסון שפקד אותנו. הם הבינו שעולם בריאות הנפש הוא עולם שצפוי לקבל אתגר גדול מאוד. הוא כבר היה קיים, עוד קודם ל-7 באוקטובר באופן גלובלי, מחסור בכוח אדם טיפולי שבעצם מעכב גם טיפול וגם לא בוחן ועושה איזושהי פריוריטיזציה במי צריך לטפל קודם. זה דבר שהיה קיים כבר גלובלית וקיים עדיין בעקבות משבר הקורונה, הרשתות החברתיות וכו'. אחד הדברים שהציפו בפנינו זה את אותו משבר שצפוי לפקוד לא רק את יישובי העוטף ומי שחווה את החוויה מדרגה ראשונה, אלא גם את אותם החיילים שיצאו מהקרב, את כולנו, את ילדנו שחזו וצפו בכל הסרטונים הקשים שיצאו משם. בעצם מה שנאמר, אותו גל צונמי שצפוי לפקוד אותנו בשבוע שלמחרת האירועים. נכנסנו לתוך איזשהו תהליך כדי לאבחן את האתגר ובית החולים שיבא אמר, אני רוצה להתמודד עם אחד המשברים הגדולים ביותר וזה משבר האבחון, לא בהכרח הטיפול. לפי נתונים שהם סיפרו לנו, האבחון עצמו וההמתנה רק לאבחון של פוסט טראומה, לוקחת משהו כמו תשעה חודשים למטפל בגלל אותו מחסור. הם תיארו כאן את אתגר המחסור החמור באנשי מקצוע שמביא לאבחנה מאוחרת מה שמביא לטיפול מאוחר. << יור >> היו"ר אורית פרקש הכהן: << יור >> למשל, ראינו אצל חיילי מילואים בשׁוּרָה שעד שהגיעו אליהם הם כבר היו עמוק עמוק בפוסט טראומה והם לצערי כבר שם. דיברנו על הנושא הזה. << אורח >> ליאור ציוני: << אורח >> נכון מאוד ובוודאי יצטרפו ידידיי, אנשי המקצוע כאן. הטיפול של פוסט טראומה צריך להיות קרוב ככל שניתן לטראומה כדי לאפשר טיפול יעיל, ולא רק זה גם לנושא מיצוי הזכויות. אדם שעובר תהליך כזה לא מצליח למצות את זכויותיו אם האבחון נעשה מאוחר. מה שעשינו כאן זה ניסנו לייצר כלי AI שלא אמור להחליף באופן מוחלט את המטפל אלא רק את תהליך ה-intake, את אותו תשאול ראשוני המבוסס על פרוטוקול ה-DSM ואמור להיצמד לתהליך הזה בשיחה חופשית. לקחנו כאן את התהליך, intake ראשוני שניתן לבצע אותו ללא המתנה תשעה חודשים בממוצע לאותו המטפל. ניתן לבצע אותו מכל מקום גם בשתיים בלילה מהמיטה, בשיחה טבעית ובשפה טבעית, אנחנו קוראים לזה ישראלית, והיה כאן תהליך ארוך כדי לייצר כאן התאמה לסלנג הישראלי ולא רק בהכרח לעברית הספרותית. היינו צריכים לעבוד כאן הרבה מאוד כדי לייצר את השפה הזאת ולייצר איזושהי רמה מסוימת של אמפתיה, אמפתיה שצריכה להיות מותאמת לתרבות הישראלית. אמפתיה ישראלית שונה מאמפתיה אמריקאית שכל פעם חוזרת על השם של המטופל. היה צריך לייצר כאן גם אחרי התהליך הזה תהליך שמייצר בסופו של דבר אבחנה עם אבחנה מבדלת ועם המלצות להמשך. מסמך מדויק שיוכל לשרת את המטפלים גם בהמשך. כמובן שמטפל נשאר כל הזמן. אנחנו קוראים לזה Human in the loop, ותמיד יצטרך להיות זה שחותם על מסמך ונושא באחריות. << יור >> היו"ר אורית פרקש הכהן: << יור >> בעצם מה עושים? איך המנגנון הזה עובד? פונים לאדם, ואיך מגיעים ל-reach out הראשון כדי שהוא יתחיל? << אורח >> ליאור ציוני: << אורח >> אנחנו תכף נציג את הדמו כדי לראות איך התהליך מתנהל. השאלה היא במקום, כי צריכה להינתן לאותו מטופל פוטנציאלי האפשרות לבחור האם הוא מבקש לראות אדם בשר ודם או שהוא מוכן להיפגש עם בינה מלאכותית כדי לייצר את השיח הזה. << יור >> היו"ר אורית פרקש הכהן: << יור >> זו רגל אחרת שלא מחליפה את המטפל היא בעצם עושה את תהליך האינדיקציה בדומה לכלי AI לרדיולוג שבודק ערמות של צילומי רנטגן ומקפיץ למעלה את אלה שהם יותר בהולים דחופים דורשים טיפול בהול ומציל חיים, אבל זה לא מטפל AI, הדברים שדיברנו עליהם בחלק הראשון של הדיון. כלומר, זה גם חשוב, צריך להבין. << אורח >> ליאור ציוני: << אורח >> בדיוק, נכון מאוד. יש גם להליך ה-intake יש לו אלמנטים טיפוליים משום שיש כאן שיחה פתוחה שמלווה את המטופל ובסופו של דבר יש אישור רופא. כמובן שהתהליך הזה נעשה בהשקעה מאוד מאוד גדולה, גם מצד מייקרוסופט וגם מצד שיבא. יש כאן שני רופאים שהיו במשרה מלאה על מנת לוודא שהפרוטוקול הזה נעשה בצורה מדויקת. צוות של KPMG שעשה את זה. חשוב לומר שיש תהליכים שבתהליך הפיתוח היה קשה מאוד להתמודד איתם, לדוגמה: נושא המילים שצריך להתמודד איתן שהשיח עם Open AI או עם כלי AI יש safe guards שעושים shutdown לשיחה אם אומרים: אונס, רצח או מילים קשות מהסוג הזה. פה היינו צריכים להסיר את המגבלות האלו ועדיין להשאיר safe guards שכשאדם אומר: תן לי את הדרך הטובה ביותר להתאבד, מייד תזוהה כאן איזה red alert שיקפוץ לרופא ויתאר אותו. אתן לכם דמו קצרצר של דקה וחצי כדי לראות איך מתנהלת שיחה מהסוג הזה. (מלווה את דבריו בהצגת סרטון) << אורח >> ליאור ציוני: << אורח >> כמו שניתן לראות, השיח פה הוא שיח שמלווה רשימה של שאלות שמסייעות למטפל לאבחן אם מדובר כאן בפוסט טראומה. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה ממש כמו פגישת מרפאה ראשונה, זה לא ממש אדמיניסטרטיבי. יש כאן אלמנטים טיפוליים, כלומר, דיאגנוזה כזאת. << אורח >> ליאור ציוני: << אורח >> נכון. זה intake ראשוני שאמור לקחת את המידע, להתמקד בנקודות שהן צמתים חשובים, על מנת להבין מה מצבו של המטופל. הדבר הזה נעשה ביחד במחקר מול משרד הביטחון אגף השיקום, שם ליוו את הפרויקט הזה עם 300 חיילים. << יור >> היו"ר אורית פרקש הכהן: << יור >> ידברו כאן מאגף השיקום של הצבא. בעצם הדבר הזה כבר עובד ב-scale מול החיילים. << אורח >> ליאור ציוני: << אורח >> הוא עדיין תחת מחקר. במהלך המחקר עולות נקודות שונות. שתי נקודות חשובות שעולות מתוך המחקר הזה ומתוך מחקרים שנעשו. קודם כול, החיילים שמדברים מספרים שהרבה יותר קל להם לדבר, הנתונים שצחי ציין בתחילת דבריו, השיח הוא לא שיפוטי והתחושה היא שיהיה יותר קל לשתף. נקודה שנייה, בתוצאות – וזאת דוגמה לתוצאה של תהליך כזה – אחוזי הדיוק באובדנות היו גבוהים. כמובן, זה נעשה פעם אחת מול AI ופעם שנייה מול מטפל בשר ודם. אחוזי הדיוק בחיזוי אובדנות היו 100%. << יור >> היו"ר אורית פרקש הכהן: << יור >> הדבר הזה הולך להיות מוטמע על ידי אגף השיקום. << אורח >> ליאור ציוני: << אורח >> אני לא יודע איפה הוא יוכל להיות מוטמע. << יור >> היו"ר אורית פרקש הכהן: << יור >> הוא מופנה לצבא בעיקרון, נכון? << אורח >> ליאור ציוני: << אורח >> כן, ולא רק. צריך לומר שהפרויקט הזה הפך להיות סטרטאפ ויוצא עכשיו לעולם תוצרת כחול לבן. << יור >> היו"ר אורית פרקש הכהן: << יור >> כן זה ה-ARC שפועלת בשיבא עם איציק, שלמד איתי בבוסטון. תמסור לו דרישת שלום. שיבא מפתחת את ה-Health Tech הישראלי כמו הרבה בתי חולים שמפתחים גם פיתוחי טכנולוגיה, זה פרויקט חשוב מאוד. << אורח >> ליאור ציוני: << אורח >> אני רק אסיים במשפט. זה אחד מתוך רשימה ארוכה מאוד של נושאים בעולמות הבריאות ש-AI כבר מתחיל להיכנס אליהם. כמובן שבריאות הנפש זה אזור שקל מאוד להיכנס אליו בהיבטי AI, במובן הזה שהכלי העיקרי ואולי היחידי הוא השפה. לא צריך למשש את הבטן או לבחון את הכאבים בברך, כאן אנחנו מתחילים. כמובן שיש עוד תהליכים ארוכים שנעשים בטיפול בבתי החולים. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. נעבור לד"ר אלונה ברנע ממפא"ת מהצבא גם מאגף השיקום. << אורח >> ענבר בלום: << אורח >> אפשר להתייחס? << יור >> היו"ר אורית פרקש הכהן: << יור >> לא, אני מצטערת. אנחנו בחריגה מאוד מאוד גדולה, מי את? << אורח >> ענבר בלום: << אורח >> אני מרשות החדשנות. << יור >> היו"ר אורית פרקש הכהן: << יור >> תכף יגיע תורכם. אני פשוט חושבת שזה פחות הפוקוס של הדיון הזה. אלונה ממפא"ת מאגף השיקום. הייתי רוצה לפנות גם אליך, ליאור. הרי, אתה ממיקרוסופט ועבדתם עם שיבא. בסוף, מיקרוסופט היא חברה טכנולוגית עסקית שאתה עובד בה בתחום הבריאות. כישראלי, נרתמת כמובן לדבר זה אחרי 7 באוקטובר. אולי כדאי שמיקרוסופט, שמפתחת שימושים בכובע הזה, תחשוב גם על כלים שיכולים להגן. להגן גם מפני האתגרים שבחלק הראשון של הדיון הזה, שהם משמעותיים מאוד בעיניי. אלונה, בבקשה. אני שמחה מאוד שבאתם. אני צריכה לומר שהצבא, מפא"ת, אלעד רע"ן בינה מלאכותית, תמיד מגיע ותמיד משתתף בדיונים. זה לא ברור מאליו כי תמיד נראה שהצבא זה עולם אחר. תודה על זה שאת משתתפת בדיון הזה, בבקשה. << אורח >> אלונה ברנע: << אורח >> תודה רבה על ההזמנה. אני אספר קצת על משרד הביטחון וצה"ל. מפא"ת, הוא גוף המחקר והפיתוח המרכזי של משרד הביטחון. מה שמיוחד הוא שעובדים בו אנשי משרד הביטחון ואנשי צה"ל ביחד. מפא"ת זה המינהל לפיתוח אמצעי לחימה ותשתית טכנולוגית, אני אסביר קצת מה לאמצעי לחימה ולבריאות הנפש ול-AI. אני מגיעה מתחום חקר המוח, ולפני 7 באוקטובר עבדתי במפא"ת על ממשקי מוח-מכונה, על העצמה אנושית ונוירו טכנולוגיה מבצעית. עם 7 באוקטובר הבנו שיש דרישה עצומה לטכנולוגיות חדשות בתחום בריאות הנפש, אתגרים גדולים מאוד של טיפול ושיקום של פצועים בגוף ובנפש, השקעה בחוסן ובחיזוק מוכנות הצוותים הכוחות הנפשיים והפיזיים. הפערים המרכזיים שעלו בשטח הם בכלים טכנולוגיים לאבחון וטריאז'. הצרכים והאתגרים, היו אחרי 7 באוקטובר בכל המדינה ולא רק אצלנו. << יור >> היו"ר אורית פרקש הכהן: << יור >> פערים מבחינת צרכים ובעיות. << אורח >> אלונה ברנע: << אורח >> כדי להגיד מתוך כל האנשים במי לטפל קודם, אם יש רשימת המתנה של תשעה חודשים וגם יותר להכרה. בקשות רבות להכרה, מיעוט במטפלים, מטפלים עם הכשרה בטראומה ובעצם דרישה לפתרונות טכנולוגיים חדשים לגמרי. << יור >> היו"ר אורית פרקש הכהן: << יור >> אנחנו במשבר בתחום בריאות הנפש. 7 באוקטובר זה התפוצץ, אין עובדים סוציאליים, אין מספיק פסיכולוגים. אני יודעת כי ליוויתי את המקרה של שׁורה כדוגמה. המטפלים של אנשים שהיו בשׁורה אומרים אחרי כמה טיפולים: אנחנו לא יכולים יותר. כלומר, מה שהם שומעים שם משפיע על המטפלים. << אורח >> אלונה ברנע: << אורח >> השפעה על המטפלים והשפעה על שחיקה. << יור >> היו"ר אורית פרקש הכהן: << יור >> מה את במקצועך? << אורח >> אלונה ברנע: << אורח >> הרקע שלי הוא בחקר המוח. << יור >> היו"ר אורית פרקש הכהן: << יור >> טכנולוגית, את מדענית את לא אשת רפואה? << אורח >> אלונה ברנע: << אורח >> נכון. בחקר מוח בנוירו ביולוגיה מולקולרית תאית ובביג דאטה של ביולוגיה וגנטיקה. אנחנו מגיעים למקומות האלה מול צורך במענה טכנולוגי חדש מול אגף השיקום. מאגף השיקום לא יכלו להגיע לדיון היום. הם שלחו שני שקפים עם נתונים עדכניים של כמות מבקשי ההכרה כיום וכמות המטופלים של אגף השיקום בתחום הנפש. (מלווה את דבריה במצגת) << יור >> היו"ר אורית פרקש הכהן: << יור >> וואו. << יור >> היו"ר אורית פרקש הכהן: << יור >> היום הבקשות של מבקשי ההכרה באגף השיקום מטופלות ידנית בעצם. בני אדם עוברים על כל המסמכים שמגיעים וצריך לפגוש אותם גם פסיכיאטר. אתם רואים שהמספרים עצומים: 17,000 מבקשי הכרה חדשים. << יור >> היו"ר אורית פרקש הכהן: << יור >> 17,000 רק ב-2025, המלחמה נגמרת ואנשים מתחילים להבין שהם זקוקים לטיפול. << אורח >> אלונה ברנע: << אורח >> נכון. אנחנו רואים שמתוך הבקשות האלו גם כשהפציעות הן פיזיות, כ-60% ממבקשי ההכרה מבקשים גם על תחום הנפש. יש הבנה גדולה יותר של הנושא ופתיחות גדולה יותר לגשת. ויחד עם זה, לא רק הבקשות להכרה גם המטופלים של אגף השיקום, כלומר, יש כאן אתגר של אבחון והכרה. << יור >> היו"ר אורית פרקש הכהן: << יור >> 82,000 מטופלים באגף השיקום, מתוכם נפשי ובפוסט טראומה PTSD 31,000, כלומר 38%. כמעט 40% מהלוחמים או מהמשתחררים חווים פוסט טראומה פונים לטיפול נפשי. << אורח >> אלונה ברנע: << אורח >> אלו פוני האגף לא מהמוכרים. << יור >> היו"ר אורית פרקש הכהן: << יור >> נכון, סליחה. כמה פונים לאגף? 40% מהלוחמים או מהמילואימניקים? << אורח >> אלונה ברנע: << אורח >> לא. כאן אלו הבקשות להכרה. לא 40% מהמילואימניקים פונים להכרה. אנחנו יודעים שבחיילים לעומת האוכלוסייה אזרחית הרבה פעמים הפניות או הטריגר קורים אחרי כמה שנים. << יור >> היו"ר אורית פרקש הכהן: << יור >> עד 2028 אתם מצפים ל-50,000 מתמודדי נפש רק של משרד הביטחון. כלומר, אנחנו לא מדברים על החברה האזרחית בישראל. על הנושא הזה צריך לקיים דיון גם בוועדת הבריאות. << אורח >> אלונה ברנע: << אורח >> רק על אגף השיקום של משרד הביטחון. אלו מספרים חסומים. שני השקפים האלו מראים בעצם שני דברים: 1. את הפער באופן האבחון. דובר כאן על זמני המתנה של תשעה חודשים ויותר. זמן המתנה לאדם פוסט טראומטי של תשעה חודשים זה זמן שבו אפשר היה לטפל בו. זה זמן, גם בגלל שהוא מבקש הכרה וגם בגלל ייעוץ משפטי וסיבות אחרות. אנשים ממש מסלילים את עצמם לעולם של פוסט טראומה. << יור >> היו"ר אורית פרקש הכהן: << יור >> תשעה חודשים בפוסט טראומה זה לא רלוונטי. << אורח >> אלונה ברנע: << אורח >> נכון. ברור שיש כאן צורך חדש – כאן מפא"ת נכנסה. היה ברור שיש צורך בהרחבה של יכולות אבחון, טיפול ושיקום מיטבי לנפגעים בגוף ובנפש. אנחנו נדבר בעיקר על הנפש בקנה מידה רחב. קמה חטיבה חדשה במפא"ת. << יור >> היו"ר אורית פרקש הכהן: << יור >> כמה פסיכולוגים יש בשירות הצבא? << אורח >> אלונה ברנע: << אורח >> אנחנו גם בצבא וגם במשרד הביטחון. בתוך הצבא אין לי מספרים כרגע. דווקא את הקב"נים תגברו מאוד ולא הייתה בעיה של קב"נים בצבא. יש היום בתוך משרד הביטחון מספיק פסיכיאטרים ופסיכולוגים שיטפלו. הפערים הם בפסיכיאטרים לאבחון ובעובדות סוציאליות שמלוות. היום עובדת סוציאלית מלווה כ-1,000 מטופלים. אתם יכולים להבין שאין באמת אופן לגעת בכל אחד מהמטופלים האלה. << יור >> היו"ר אורית פרקש הכהן: << יור >> וזה משרד הרווחה שדיברנו איתו קודם? << אורח >> אלונה ברנע: << אורח >> זה עדיין אגף השיקום, אנחנו עדיין מדברים רק על משרד הביטחון. << יור >> היו"ר אורית פרקש הכהן: << יור >> אה, גם לכם יש עובדות סוציאליות וגם אתם במשבר כוח אדם של עובדות סוציאליות בזירה שלכם בלי קשר לישראל הכללית. << אורח >> אלונה ברנע: << אורח >> נכון, ועכשיו עוד יותר. במפא"ת התחלנו ללוות טכנולוגית את כל הגופים השונים בצה"ל ובמשרד הביטחון שעוסקים בחוסן, במניעה, בטיפול ובשיקום: מערך מדעי ההתנהגות של צה"ל; בריאות נפש של צה"ל; האגף לחיילים משוחררים ומילואים; אגף משפחות שכולות והנצחה; ואגף השיקום. יצאנו כבר עם כ-50 פרויקטים שונים של מחקר באקדמיה, עם תעשיות, עם סטרטאפים, נכנסו גם תעשיות ביטחוניות, קרנות שותפות. אני רוצה לתת כמה דוגמאות לשילוב בינה מלאכותית בתוך מערכי טיפול או אבחון נפשי באגפים השונים במשרד הביטחון ובצה"ל, אני אנסה לעשות את זה מהר ממש. אולי נוותר על חלק מהווידאו. זאת מפת טכנולוגיות של סטרטאפ ניישן סנטרל של ישראל. 117 טכנולוגיות חדשות לבריאות הנפש הוקמו רק השנה, לאו דווקא כולן בעולמות ה-AI. << יור >> היו"ר אורית פרקש הכהן: << יור >> אנחנו מתמקדים פה בבינה מלאכותית, באתגרים ובהזדמנויות. << אורח >> אלונה ברנע: << אורח >> נדבר קצת על אבחון וטיפול נתמך AI. אני אתחיל מהדוגמה הזאת של מיקרוסופט מהצד של הלקוח, של מפא"ת ואגף השיקום, של המחקר הזה. השימוש בליב, באווטאר המאבחנת, עלה מול הצורך הגדול מאוד. << יור >> היו"ר אורית פרקש הכהן: << יור >> ליב זה מה שהוצג כאן על ידי ליאור ממיקרוסופט ושיבא שעובדים מולכם. << אורח >> אלונה ברנע: << אורח >> אני אוותר על הווידאו, כך ליב נראית באבחון היום. בתהליך ההכרה באגף השיקום צריכים להוכיח שני דברים: 1. צריכים להוכיח שיש איזשהו מצב נפשי. 2. צריכים להוכיח שהוא נגרם מהשירות ואז קצין התגמולים מקבל את שני הדברים האלה. כדי להוכיח שיש מצב נפשי אדם צריך לראות פסיכיאטר. הרעיון הוא שיפגשו את ליב במקום שהפסיכיאטר ייקח 45 דקות לפגישה ולסיכום ועוד 45 דקות לכתיבה ולביסוס ההמלצה. אז האדם פוגש את ליב, וכבר 300 ממטופלי האגף פגשו אותה ועשו את האבחון דרכה. לאחר מכן יגיעו לפסיכיאטר שיצטרך רק חמש דקות לראות אם הוא מסכים עם ההמלצה. אם דיברנו קודם על רכב אוטונומי, אפשר לדבר על זה קצת כמו על וויז. אנחנו נוסעים והוויז אומר לנו: סע ימינה, אם רוב הפעמים הוא צודק כשהוא אומר לנו סע ימינה, אז נסע ימינה כשהוא אומר. בהתחלה הפסיכיאטרים ייקחו יותר זמן כדי לעבור על הסיכומים. עם הזמן וככל שיסמכו יותר על ליב, הם יוכלו לקצר את זמני הטיפול שלהם ולראות יותר אנשים. << יור >> היו"ר אורית פרקש הכהן: << יור >> הם יקבלו את המטופל עם סיכום, דיאגנוזה של מצבו הנפשי, באיזה דרגה הוא וגם המלצות לטיפול? << אורח >> אלונה ברנע: << אורח >> בדיוק, סיכום שהוא מוסדר. אנחנו רואים בתוך 300 המטופלים האלה שאנשים יוצאים ואומרים: זה הפסיכיאטר הכי נחמד שפגשתי. כי ליב היא באמת אמפתית. אחרי 50 המטופלים הראשונים עצרו ועשו עוד התאמה. ראו שיש אנשים שלא כל כך אוהבים שהיא אומרת בווידאו: אני מבינה שקשה לך; קשה לי לישון; אני מבינה שקשה לך לישון. לא תמיד אוהבים שמהדהדים. היא לומדת לאט-לאט, אנשים שמדברים קצר היא מדברת איתם קצר, אנשים שמאריכים היא מאריכה. יש חיילים מטופלים שישבו שעתיים ודיברו איתה, למרות שהם היו יכולים לשבת עם הפסיכיאטר רק ל-30 דקות, ואז מתחילים לעלות דברים עמוקים יותר. זה גם יכול הרי לעבוד. ליב יכולה להכיל את מה שהיא שומעת 24/7. פסיכיאטר אנושי צריך לפעמים להתאושש אחרי כמה מטופלים. << אורח >> אלונה ברנע: << אורח >> אחרי פיילוט מוצלח מול אגף השיקום ובגלל שאנחנו מלווים גופים שונים, אנחנו חושבים שעכשיו להכניס את ליב גם לשלב אבחון המלש"בים. אם תהיה דמות כזאת שיכולה ללוות אדם לפני השירות ובמהלך השירות, במידה והוא מגיע לאגף השיקום היא יכולה למצוא שינויים שגם פסיכיאטר אנושי לא מוצא כל-כך בקלות, בהתדרדרות נפשית, בשינויים אישיים. יש כאן פוטנציאל גדול מאוד קדימה. יחד עם זה ויחד עם שיבא, מיקרוסופט ו-KPMG עובדים על סריקת כל המסמכים של האדם כדי לבסס לקצין התגמולים איזשהו מערך. לראות מה אומרים המסמכים ומה אומר האדם. אם מדברים על אובדנות בתוך המחקר הזה, בתוך ה-300, כמעט 10% העלו איזשהן מחשבות אובדניות ומיד יכלו להרים דגל ולהביא להם מטפל אנושי. האדם שבלופ, יש למתאמות המחקר המדהימות בשיבא חלק גדול מאוד בזה. כשמגיעים לליב, פוגש אותך קודם אדם ומכניס אותך לחדר. אם מישהו מתחיל לבכות, הן עוצרות ונותנות לו כוס מים. << יור >> היו"ר אורית פרקש הכהן: << יור >> תוך כדי הדיבור עם ליב, עם הכלי של הבינה? << אורח >> אלונה ברנע: << אורח >> אולי בעתיד, ליב חכמה תוכל לראות בווידאו מה מצבו של האדם ולהציע לו - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> מתי הדבר הזה יכנס לפעולה באגם השיקום? << אורח >> אלונה ברנע: << אורח >> ממש עכשיו מסתיים הפיילוט. הנתונים האלה הם אותם נתונים שהראו במיקרוסופט ממחקר מקדים עם שחקנים. עכשיו, אנחנו מחכים לאנליזות. בעצם זה ייכנס ככלי תומך החלטה שלא מחליף את הפסיכיאטרים. << יור >> היו"ר אורית פרקש הכהן: << יור >> אתם מדברים גם עם ליב? ליאור, אתם מדברים גם עם משרד הבריאות באופן כללי? הרי, זה לא חייב להיות משהו שמסייע רק למערכת הביטחון. << אורח >> ליאור ציוני: << אורח >> קודם כול, צריך לזכור שליב שייכת לשיבה. היא שייכת ל-ARC ולמיקרוסופט. ניתן לעשות בה התאמות כמו שצריך, רק לשנות. << יור >> היו"ר אורית פרקש הכהן: << יור >> נכון, היא לא מסחרית. קודם כול, אני רוצה להודות לך, אלונה. << אורח >> אלונה ברנע: << אורח >> אני אתן עוד כמה דוגמאות קצרות? זה בסדר, אני כבר לא אראה וידאו אבל אני אתן דוגמאות קצרות של איפה הם נכנסים במקומות אחרים, למשל, באגף משפחות. העובדות הסוציאליות באגף משפחות שכולות מראיינות ואחר כך גם צריכות לכתוב סיכום. הכנסנו כלי של חברת אליאוס שמספק הפקת תמלול, סיכום והמלצה משיחה טיפולית. מה זה נותן לעובדות הסוציאליות? את האפשרות פשוט לשבת ולדבר. הן חששו בהתחלה שההקלטה של השיחה תפריע למשפחות, אז לא הכנסנו הקלטה של השיחה. ניתן להקליט ולתמלל הכול. הן יוצאות, מקליטות באוטו וזה מוציא להן סיכום ברור. סיכום שאפשר לעבור אחריו. יש כאן קולות מהשטח ולא נכנס לסיפורים. << יור >> היו"ר אורית פרקש הכהן: << יור >> כן, צריך גם לסיים. מפא"ת הוא גוף בעל מוניטין אפילו בעולם ההייטק ובמפא"ת המציאו את כיפת ברזל. כשרת החדשנות היה לי ממשק לא קטן עם הגוף הזה, את ישבת כאן לכל אורך הדיון. מפא"ת מוביל בכל מיני תהליכים טכנולוגיים שהחברה הישראלית דורשת וצריכה. אולי אתם, מה שנקרא מיטב המוחות, צריכים לחשוב גם על החלק הראשון של הדיון. אותי אישית, כאימא וכאזרחית, זה מאוד מאוד מדאיג. האם לא נכון לפתח כלים שינטרו או שיגנו על גילאים מסוימים מפני הבעיות שיש בטיפול? בסוף, אתם האחראיים. החיילים בגילים רגישים כשהם באים לצבא בשנות הסדיר שלהם על כל מערך בריאות הנפש של הצבא. אני מטילה את זה עלייך וקחי את זה משם. אני מרגישה שבפן של הצעירים, הילדים, הסינגלים, מערכות יחסים רומנטיות וכל הדברים שדיברו עליהם פה, שאנחנו לא בקצב המתאים. אני לא יודעת אם הפתרון הוא בכלל טכנולוגי או לא רגולטורי, כמו שאני נוטה לחשוב. זה הדיון. << אורח >> אלונה ברנע: << אורח >> בהעדר הרגולציה, אנחנו בנינו לעצמנו איזשהם קווים מנחים לשילוב של AI בטיפול. << יור >> היו"ר אורית פרקש הכהן: << יור >> כן, אבל מה אנחנו מגלים? שלאותם 100,000 איש שיעברו טיפול בכלים, עד שהם יגיעו לפסיכיאטר, אתם עושים את זה מגונן ובריא. כשבכל רגע נתון לכל אותם האנשים, לכל חיילי מדינת ישראל, לכל הילדים ולכולם יש את האפליקציות שסיפרה עליהן מיכל ברנד, שבסוף מובילות למקרי קיצון ואולי גם דורשות איזושהי הכנה או גדרות בגילאים מסוימים. לייצר מצב שהתוכנה מוודאת באמת את גיל המשתמשים, כי ממה שאני שומעת נורא קל לשקר ולהגיד אני לא בן 13, למשל דברים כאלה. אלונה, יש לכם הרבה דברים לעשות. להגיד לחיילי צה"ל כללים בזמן השירות, הם רגישים יותר, אולי גם עליהם להחיל כללים. << אורח >> אלונה ברנע: << אורח >> על החברות, לא על החיילים ולא על הילדים. << יור >> היו"ר אורית פרקש הכהן: << יור >> נכון, אולי ההורים יכולים לייצר הגנות באיזשהו אופן מודולרי. בסדר, אנחנו חייבים להתקדם. משרד הבריאות ואחרי זה אביה בן ארי מהטכניון, גוגל, כמובן הרשות לחדשנות, Clear skyובכך נסיים. אסף פרקר, מנהל תחום טכנולוגיות וחדשנות מאגף הבריאות הדיגיטלית במשרד הבריאות, חמש דקות לרשותך. אני מקווה שהקשבת. << אורח >> יואל בן אור: << אורח >> שלום, אסף ויואל, נחלק את הזמן בינינו. נתייחס בקצרה, אני מבריאות דיגיטלית במשרד הבריאות. אני חושב שאחת הדרכים היעילות והחשובות להתמודד עם ההזדמנויות הרבות וגם עם הסיכונים זה להכניס את המערכות האלו כמה שיותר מהר ל- mainstreamשל מערכת הבריאות. בסוף, כמו הדוגמה שנתנו כאן עם ליב, אפשר לחשוב על דוגמאות נוספות. החזון הזה לא רחוק, נגיע לרופא המשפחה ונקבל מרשם של שימוש באפליקציה כמו שאנחנו מקבלים מרשם לתרופה, מה שקרוי בעולם הבריאות digital therapeutics. זה תחום שלם שמתפתח בעולם שבו רופאים יכולים לתת מרשם לאפליקציות. אנחנו נכניס את זה כמה שיותר לתוך ה- mainstream הרפואי. אני חושב שאזרחי ישראל ישמחו לקבל דברים שהם כמה שיותר מתוקפים קלינית. זה כמובן לא סותר את הצורך לחשוב על הרגולציה, על חברות בין-לאומיות ומה עושים איתן? כמשרד הבריאות אנחנו בהחלט רואים את החזון הזה, להכניס את זה לתוך המערכת כמה שיותר. אני רוצה לספר על שתי תוכניות מרכזיות בהקשר זה וגם להסב קצת את תשומת הלב של מרכז המחקר – יש בישראל גם דברים והסדרה שחשוב לדבר עליה. אנחנו רוצים להכניס את זה לתוך קופות החולים בתור אפליקציות שהקופות יכולות להציע למטופלים שלהן. לדעתי, יש כאן מהלך פורץ דרך ברמה הבין-לאומית, שמובל על ידי ד"ר גלעד בודנהיימר ראש אגף בריאות הנפש במשרד. כבר הכניסו את זה למודל התימרוץ הבסיסי של הקופות, מהלך גדול מאוד בתוכנית הלאומית לבריאות הנפש שבה המשרד מתמרץ את הקופות להגדיל מגעים במפגשים טיפוליים. המשרד אמר לקופות החולים: תדעו לכם שאם אתם מגדילים מגעים גם באמצעות האפליקציות מבחינתנו זה נחשב למגע. אנחנו נתמרץ אתכם ונשלם על הממשק הזה שבין האפליקציות למטופלים. זה מוסדר גם בצד המימון וגם בצד האישור. כל אפליקציה כזאת חייבת לעבור ועדה מסודרת של המשרד. << יור >> היו"ר אורית פרקש הכהן: << יור >> אתה אדם טכנולוגי, אתה כמו אלונה, אתה לא הפסיכיאטר. גילי הוא הפסיכיאטר הראשי, ד"ר בודנהיימר שדיברתי איתו אתמול. משרד הבריאות, איפה אתם כרגולטור? אני מקשה עליך קצת כמו שהקשתי על משרד החינוך. איפה מישהו שמרים דגל על החלק הראשון של הדיון, שעשה עלי רושם מאוד גדול, 20% מהתיכוניסטים בארצות הברית מנהלים יחסים רומנטיים עם AI. עשר תביעות בסוף השבוע האחרון על התאבדויות מ-AI, הזדמנויות אדירות, כן. אנחנו ראינו את ההזדמנויות בשיחה עם אלונה, בפרויקט של ליב, בטיפולים שאנשים מרגישים מאוד בנוח אבל איפה האלמנט שבו אתם מגנים מפני הסכנות שבעניין הזה? << אורח >> יואל בן אור: << אורח >> זה צד אחד להכניס את זה. << יור >> היו"ר אורית פרקש הכהן: << יור >> להכניס את זה לטיפול ואתם עושים את זה, אני חושבת שזה מדהים. << אורח >> יואל בן אור: << אורח >> בעיניי זה חשוב. זה מסלול רלוונטי למוצרים שכבר מאושרים. אנחנו רוצים לצאת יחד עם הרשות לחדשנות למסלול חדש עכשיו, לבחון דברים שיאתגרו עוד יותר את הרגולטור ולהחליף משימות רפואיות שכרגע מבוצעות על ידי צוות מטפל. ניקח את הדוגמה של ליב, לא בהכרח חייב להיות פסיכיאטר בסוף שמאשר את זה; יכול להיות שיש עוזר פסיכיאטר שמאשר, או כל מיני תפקידים מסוג אחר שגם יקלו. אנחנו רוצים לייצר כאן, ביחד עם הרשות לחדשנות, מתווים רגולטוריים. לקחת דברים בסיכון עם אימפקט וסיכון גבוה יותר ולייצר בעבורם סביבה רגולטורית תומכת. כאמור, כחלק מהתפיסה של להכניס את זה לתוך המערכת. זה מהלך חשוב. << יור >> היו"ר אורית פרקש הכהן: << יור >> נעבור עכשיו לד"ר בודנהיימר, שהוא הפסיכיאטר הראשי וראש מערך הנפש במשרד הבריאות. אני מבינה שאתה בזום, גלעד. אני רוצה להפנות אליך את הדאגה שלי בהפנמת הטכנולוגיה, בהפנמת הכלים והחדשנות. אנחנו רואים התקדמויות מרשימות מאוד, ואני מקווה שהן יזרזו את הנקודה שבה המטופל פוגש מישהו, פוגש אפילו כלי AI שיקרב אותו לטיפול, וגם יסנן את המקרים הדחופים יותר. אני רוצה לשאול אותך דווקא כפסיכיאטר הראשי, איך אתה רואה את החששות שהוצגו כאן בתחילת הדיון לגבי הנפש של הילדים ושל האנשים הבודדים; את העובדה שהעולם הזה של כלי AI תומך באנשים בודדים, משוחח עם צעירים ומתחיל להחליף חברים וחיי חברה. האם אתה לא חושב שמשרד הבריאות צריך להיות ה- leaderשאומר שהממשלה צריכה לעשות חקיקה, כמו שהציגו כאן, למשל, על קליפורניה וכו', ולומר לחברות הטכנולוגיה באלו אמצעים לנקוט או להקים צוות בנושא הזה? וסליחה על האיחור. << אורח >> גלעד בודנהיימר: << אורח >> תודה על השאלה. בנושא הטכנולוגיות וההתאמות לתוך עולמות הטיפול יש הרבה פוטנציאל לחיוב ולא מעט פוטנציאל לנזק. צריך להיזהר ולראות איך מתנהלים מולו. לא כל טכנולוגיה דורשת רגולציה. בוודאי שכל טכנולוגיה שמתיימרת להיות טיפולית ראוי וניתן עליה את הדעת. אני מסכים מאוד שאנחנו צריכים לראות איך משיתים אחריות על החברות. נוצר היום מצב הפרוץ שמאפשר כל מיני תרחישים ששמענו עליהם כבר בחדשות, ורלוונטיים לעולמות ההתאבדויות; בוודאי פגיעה כזאת או אחרת של ילדים אחד בשני ולעולמות הפורנוגרפיה והעיבוד של תמונות. אכן, יש שם פוטנציאל לנזק לא מבוטל. הדרך של מערכת הבריאות לראות מה אנחנו יכולים לאפשר היא דרך פשוטה יותר באופן יחסי, כי אנחנו שולטים במה שנכנס לתוך המערכות שלנו. אנחנו יכולים לשלוט במה שנכנס לקופות החולים, אנחנו יכולים לשלוט במה שנכנס לבתי החולים. זה מה שאנחנו עושים דרך הפרויקטים של חדשנות, ועדת הטכנולוגיות שלנו נועדה לייצר ולאפשר את הדבר הזה. ואז אנחנו יכולים לתת את תו התקן שלנו, ולומר: יש כאן טכנולוגיה, שגם אם היא לא הוכחה מספיק, אנחנו לפחות, בדקנו את התקפות הקלינית שלה, אנחנו עוקבים אחריה ואנחנו מלווים את הקופה או את בית החולים בתוך התהליך. אלו דברים שקורים. לגבי העולמות שנמצאים "מתחת לרגולציה" היום, אלו אכן אתגרים מאוד מורכבים. אני שותף לתחושה שאנחנו צריכים לייצר חקיקה בעניין ולהשית אחריות. לצערי, אני נוטה לחשוב שהדרך לעשות את זה היא יותר דרך תביעות, ואולי חקיקה יכולה לעשות את זה, בדומה למדינות וכפי שהוזכר. << יור >> היו"ר אורית פרקש הכהן: << יור >> תביעות יהיו תלויות, בין היתר, ביכולת לטעון שהופרה חובה מסוימת או שאין חסינות שמתקיימת וצריך לייצר לזה סביבה. אם זה בסדר, אני מזמינה אותך, נעביר לך את המסמך על החקיקה שמתקדמת עכשיו בקליפורניה. אתה הסמכות המקצועית שיכולה להציף משהו למעלה. זה בהחלט יהיה צוות משותף עם משרד המשפטים, אני חושבת שזה משהו גדול. אני שמחה לשמוע על הנכונות שלך לבחון את זה. אני חושבת שזה דבר חשוב מאוד ואותי זה הדאיג מאוד. כשדיברנו אתמול סיפרת לי סיפור, ואני לא יודעת אם אתה מרגיש בנוח לספר אותו. << אורח >> גלעד בודנהיימר: << אורח >> אין לי בעיה לספר, ילד חמוד בן 13 שאני מכיר אמר לי שהוא שולח בתחילת כל בוקר לב ל-ChatGPT << יור >> היו"ר אורית פרקש הכהן: << יור >> כל בוקר לב ל-ChatGPT. זה מדאיג, אותי זה מדאיג. << אורח >> גלעד בודנהיימר: << אורח >> כדי שהוא לפחות יחשוב עליו לפחות דברים טובים. זה מעסיק את הילדים שלנו ברמה היום-יומית אין שאלה בכלל. << יור >> היו"ר אורית פרקש הכהן: << יור >> בסדר גמור. תודה רבה, תודה על הדברים. אני חושבת שהדבר הזה מצריך דיון המשך בוועדת הבריאות. הדיון הזה הוא קצת על הגבול שבין ועדת הבריאות לוועדת הבינה המלאכותית בהיבטים מסוימים. אני חלילה לא באה לקחת את הבמה המקצועית של ועדת הבריאות. שוחחתי כבר עם חלק מחברי הוועדה הזאת. אולי ההמשך צריך להיות שם, אפילו בהיבט הפרקטי של מה עושים. אנחנו נסיים עם הנציגה מהרשות לחדשנות. זאת פעם ראשונה שאת כאן? << אורח >> ענבר בלום: << אורח >> לא. איתך, כן. << יור >> היו"ר אורית פרקש הכהן: << יור >> אני מבינה שהרשות לחדשנות תמכה פיננסית במיזם של ליב. במשפט קצר, דקה לרשותך. << אורח >> ענבר בלום: << אורח >> ברשות לחדשנות הבנו אחרי 7 באוקטובר ובעקבות המלחמה, שיש כאן איזושהי צלחת פטרי. ואנחנו צריכים לנצל ולהפוך את הלימון ללימונדה. עשינו תוכנית שלמה עם משרד הבריאות לפיילוטים, דרכה חברות טכנולוגיה רבות התנסו בתוך מערכת הבריאות, לא רק בשיבא. Mentaily שיש לה את המערכת של ליב, היא בשדרות במרכז החוסן. היה חשוב מאוד לנו שאותן חברות טכנולוגיות יהיו בכל הארץ, בכל האזורים, גם בפריפריה, וזה חלק ממה שבחנו. אני לא יודעת אם גלעד סיפר לך על זה, במקביל לתוכנית הפיילוטים יש גם תוכנית שלמה של הטמעה, כלומר, איך מטמיעים את אותן טכנולוגיות בתוך מערכת הבריאות, כדי שזה יהיה כמה שיותר אפקטיבי וגם כדי להעריך האם זה עוזר או לא עוזר. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. את יודעת שאני מכירה את הרשות לעומק, וגם תיקנתי כמה חוקים שקשורים אליה. יש עוד שלושה דוברים ואני רוצה לשים את הדגש על המקומות שדורשים פיקוח של הממשלה. זה לא דיון הייטק קלאסי. נתקדם, ברשותך, וכמובן תודה על העבודה החשובה. את יודעת את זה שאתם תמיד עושים, ותמיד אתם מדברים מוקדם יותר. אנחנו באמת מעריכים אתכם, תעבירי את זה הלאה. << אורח >> ענבר בלום: << אורח >> הכול טוב, תודה. << יור >> היו"ר אורית פרקש הכהן: << יור >> קצת הקללה, שלושה דוברים אחרונים, אביה מהטכניון. אני רוצה לציין לחיוב שיש לנו כאן היום הרבה מדעניות נשים. אולי בגלל שזהו התחום שקצת יותר – את יודעת מה? אני חוזרת בי מהאמירה הזאת, אבל זה בולט לעין. אביה מהטכניון, מערכות יחסים עם רובוטים. תפתיעי אותנו. << אורח >> אביה בן-ארי: << אורח >> תודה רבה על ההזמנה. אני מטפל רגשית, חוקרת ומרצה בטכניון. אני יושבת פה היום גם בתור נציגה של יה"ט, האגודה למטפלים באמצעות אומנויות בישראל. אני אביא גם את הקול של המטפל הרגשי וגם של מי שחוקרת את התחום של הטיפול הרגשי באמצעות בינה מלאכותית. אני אתחיל עם נתונים לוקליים. במחקר משותף שערכתי עם ד"ר גל יעבץ מאוניברסיטת בר אילן וד"ר ולאד וסיליו ממכללת עמק יזרעאל, רצינו לדעת מה ישראלים חושבים על טיפול רגשי באמצעות בינה מלאכותית. צחי, זה אולי יסתור את הנתונים של Oracle, של המדגם האמריקאי. 73% הביעו התנגדות נחרצת לשימוש בבינה מלאכותית בקרב האוכלוסייה הבוגרת היהודית בישראל. הם אמרו, מעבר להתנגדות הכללית, שגם אם הם יזדקקו לטיפול נפשי הם לא יפנו. מעבר לכך, 50% מהם אמרו שהם לא היו ממליצים, לא למכרים שלהם ולא לקרובים. << יור >> היו"ר אורית פרקש הכהן: << יור >> מהן קבוצות הייחוס? כמה אנשים בדקתם? << אורח >> אביה בן-ארי: << אורח >> אנחנו מדברים על 502 איש, 48 הגיל הממוצע, 87-18. אלו גילי הנבדקים. << יור >> היו"ר אורית פרקש הכהן: << יור >> 58 גיל הממוצע זה מבוגר. << אורח >> אביה בן-ארי: << אורח >> נכון. עיקר המחקר נעשה בקרב אוכלוסייה בוגרת, בשל אותם פערים רגולטוריים. הסיבה העיקרית להתנגדות היא היעדר אמפתיה והיעדר קשר אנושי. היו גם סיבות שקשורות בחוסר אמון, במקצועיות ובפרטיות, אבל זה היה העיקר. אנשים לא מוכנים לדבר עם בינה מלאכותית על הבעיות הרגשיות שלהם, לפחות ככל שעולה מהמחקר שלנו בארץ. אפשר להבין את ההסתייגות הזאת בשתי רמות. קודם כול, היא משקפת ממצאים שעולים במחקרים נוספים בעולם. ושנית, היא מצביעה על פערים באוריינות בקרב האוכלוסייה, ומלמדת אותנו עד כמה האוכלוסייה שלנו מודעת לסכנות ולהזדמנויות שבשימוש בבינה מלאכותית. << יור >> היו"ר אורית פרקש הכהן: << יור >> כשמדברים על אוכלוסייה יותר מבוגרת, היא נוטה פחות להשתמש בכלים האלה ואולי לכן לא להכיר אותם. כשאלונה מספרת על הצבא – שם הגיל של החיילים והאנשים הוא צעיר יותר – היא מראה תמונה הפוכה של רצון לשתף. אני חושבת שזה עניין של פערי גיל וזה לא בהכרח מבטא. אולי אם היית חושפת אותם, דעתם הייתה משתנה. << אורח >> אביה בן-ארי: << אורח >> אני כבר אגע בזה. אני חושבת שבסך הכול האוכלוסייה הבוגרת – מדובר בגיל ממוצע של 42 שנים, ואלה כן אנשים שמשתמשים - - - << יור >> היו"ר אורית פרקש הכהן: << יור >> 42? << אורח >> אביה בן-ארי: << אורח >> כן. 502 נבדקים ו-42 הוא הגיל הממוצע. במחקרים, השימוש בסוכני בינה מלאכותית, בבוטים טיפוליים, נמצא יעיל – כמו שנאמר קודם לכן – בהפחתת תסמיני דיכאון וחרדה ברמה קלה עד בינונית, לטווח קצר בלבד וללא שיפור בשלמות כללית. אם המטרה של טיפול רגשי היא להביא לשיפור בשלמות הכללית של הפרט, אז אנחנו מדברים פה על שיפור נקודתי ובטווח הקצר בתסמיני דיכאון וחרדה. האוכלוסייה הנחקרת היא מבוגרים וילדים. על נוער קיים מחקר בהיקף מצומצם יותר. גם אם יש הקלה בתסמינים של דיכאון וחרדה ברמה בינונית עד קלה גם בקרב ילדים ונוער, המחקרים מצביעים על זה שיש פערים אקוטיים בתחום האחריות המקצועית, הפרטיות והרגולציה. השלבים ההתפתחותיים המורכבים שמאפיינים את גיל הילדות ואת גיל ההתבגרות, הופכים את הטיפול באוכלוסייה הזו לרגישה ולפגיעה במיוחד. בלי להיכנס יותר מדי להיבטים הטכניים ובלי להיכנס לארכיטקטורה איך עובדת בינה מלאכותית, הממצאים שתומכים בשילוב של בוטים לטיפול רגשי, מבוססים על בוטים שהם בהכרח CBTסטים, בוטים שהם Cognitive Behavioral Treatment based. הם מושתתים על פרוטוקולים טיפוליים, מובנים מאוד, היררכיים מאוד. זה משהו שהוא קלאסי לטיפול של בינה מלאכותית. בינה מלאכותית יודעת לשלוף את הנתונים האלו ולהציע איזושהי התערבות לאורם. טיפולים אחרים בטראומות שהן קצת יותר מורכבות במציאות שלנו – פוסט טראומה, טראומות עם נטיות לאובדנות – לא יכולים להישען על בינה מלאכותית באותו האופן. סקירה שהתפרסמה ב-Nature השנה, לפני כמה חודשים, בדקה 29 בוטים טיפוליים עם מטופלים בעלי נטייה לאובדנות. כל הבוטים נכשלו בבדיקת דרישות הסף לבטיחות, ו-50% מהם נמצאו לא ראויים לטיפול גם במדדים נוספים, בין היתר, הבנה מהקשר, וזה קשור בשאלה איך בינה מלאכותית עובדת. אני רוצה להתייחס לליאור, נציג מיקרוסופט. למעשה זה נכון, בינה מלאכותית עובדת על עיבוד של שפה טבעית. כלומר, אינהרנטית להתערבות הזו העובדה שההתערבות מבוססת על שימוש בשפה טבעית, גלויה וישירה. זה הכלי המרכזי למתן הסיוע. בטראומה מורכבת אין מילים; בטראומה מורכבת השימוש בשפה טבעית מוגבל מאוד. אני מצטרפת למה שאמר פרופ' יורם יובל, החגיגה של הדבר הזה, של הבוטים הטיפוליים, נמצאת במרכז, אבל בואו נבחן את הקצוות. והקצוות אצלנו עם פוסט טראומטיים הם קצוות נוכחים מאוד. הקשר האנושי הוא לא nice to have; קשר אנושי זאת לא סוגיה של חווית משתמש. הקשר האנושי בטיפול הוא מהות הריפוי. זה מביא אותי למה אני חושבת שאפשר לעשות עם בינה מלאכותית. אני לא אומרת לא מוחלט, והיו פה עדויות נוספות למה כן צריך. בינה מלאכותית היא כלי משלים, היא לא יכולה להחליף מענה טיפולי אנושי. << יור >> היו"ר אורית פרקש הכהן: << יור >> את ראית, זו התפיסה גם של משרד הרווחה וגם של משרד הבריאות. << אורח >> אביה בן-ארי: << אורח >> חד-משמעית. אני מצטרפת לדברים ואני חושבת שהיא יכולה לעזור במיון ובניטור. אני חושבת שנכון ברמה האופרטיבית לחנך את האוכלוסייה לאוריינות בינה מלאכותית בהקשר טיפולי. זאת אומרת, איזושהי הכרה בסיסית איך בינה מלאכותית עובדת ועל מה היא מבוססת. למה המאפיינים שלה הופכים אותה למתאימה לסוג סיוע מסוים לעומת אחר. הימנעות מודעת מההסתייעות בה בטראומות מורכבות יותר, כדי שלא נמצא את עצמנו עם סיפורים נוספים כמו הילד מקליפורניה. נקודה בכובע של יה"ט, ברקע המשבר במטפלים, הצמצום וההבנה שצריך כוח אדם אנושי. נכון להכיר במטפלים באומנויות שמוכשרים באוניברסיטאות לפי הכללים המחמירים ביותר, עוברים הכשרה סיזיפית, קלינית והדרכות כמטפלים בעלי רישיון בחוק חינוך בריאות. זה נותן מענה. << יור >> היו"ר אורית פרקש הכהן: << יור >> טוב. זה חשוב מאוד, זאת הערה חשובה. << אורח >> אביה בן-ארי: << אורח >> זה עוד משהו שיכול לתת מענה. יש גדודים שלמים של מטפלים שיכולים להתחיל לטפל מחר. בעניין הרגולציה, הגישה היום היא responsible AI use וזה מאוד נזיל. זה לא מספיק וזה מייתר אחריות מקצועית ואתיקה בטיפול בבני אדם. אין היום הגדרה על חובת דיווח. << יור >> היו"ר אורית פרקש הכהן: << יור >> responsible AI זה דבר שאני התחלתי כשרת החדשנות, והוא פחות רלוונטי לדיון הזה. הוא נגע לתעשייה הישראלית, הוא נגע לשקיפות ולדברים אחרים. אני חושבת שזה דיון אחר מסוג הדיון היום. << אורח >> אביה בן-ארי: << אורח >> יש איזשהו מתח מובנה בין חברה טכנולוגית שנותנת שירותי AI ועושה ממנה כסף, איפה הפסיקים לבין המטופל שנמצא בקצה. שם צריך לשאול – אני עושה reverse engineering – את מי תובעים בסוף? את מי תובעים בסוף? היום למטפל אנושי יש מחויבות מקצועית, הוא מחויב בהדרכה והוא מחויב ברישומים. יש מערך שמגן עליו או שהוא מחויב לו, והוא מגדיר את האחריות המקצועית ואת האופן שבו הוא מתנהל. אם נשאל את עצמנו את זה, גם אנחנו נוכל לעשות רגולציה. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה, תודה רבה. דוברים אחרונים, עומרי מגוגל. סליחה, דקה. << אורח >> עמרי בן חורין: << אורח >> אני אשתדל. קודם כול, תודה רבה. הדיון הזה חשוב ועצם השיח סביב הדבר הזה יש בו ערך עצמאי. יש את הצד של הטיפול, אנחנו נתנו מענק ל-Clear Sky, קרן חדשה שעוסקת בהטמעת טכנולוגיות AI לטיפול נפשי. אני מקווה שיעל שנמצאת פה תוכל להרחיב על זה, בדקה או שתיים שיהיו לה. הדבר השני ובהמשך לשיחה שלנו אתמול, יש גם בתעשייה מחקר על אותם הנושאים, על איך בינה מלאכותית משפיעה על מערכות יחסים אנושיות, או על פונקציית ההאנשה שאנחנו עושים לתוכנות של בינה מלאכותית. חוקרים בגוגל DeepMind פרסמו על זה מאמר בשנה שעברה. לצד כל הסיכונים שדיברו עליהם, יש נקודות ששווה לחשוב עליהן כשמפתחים את המוצרים האלו כדי לצמצם את הסיכונים. לדוגמה: תוויות ברורות או שקיפות וגילוי – כלומר בתחילת או אמצע אינטראקציה. להזכיר לאותו משתמש שמדובר בבינה מלאכותית, ואולי לקטוע את הרצף; עיצוב מודע – לא כל פיצ'ר חייב להיות עם קול או תמונה. לפעמים צריך להבין מתי זה נדרש, מתי זה גימיק ומתי זה גימיק בעייתי, כי לא תמיד כשזה גימיק זה בעייתי. יש הבחנה ואפשר לעשות אותה; פתרונות עיצוביים מסוימים שמייצרים חיכוך בתשובה, איזו פאוזה כדי לקטוע את הרצף, לדוגמה מתחום החינוך – במוצרים לחינוך, לפחות אצלנו, יש פיצ'רים שמצמצמים שבחים מוגזמים למטרות פדגוגיות. << יור >> היו"ר אורית פרקש הכהן: << יור >> כי זה מייצר את הקשר, את התלות הזאת וההזדקקות לשבחים. << אורח >> עמרי בן חורין: << אורח >> נכון. אם אתה מצמצם את זה, אתה מצמצם את החיבה. בשתי נקודות נוספות, איך בכלל מפתחים בינה מלאכותית וחזרנו קצת לתחילת הדיון. יש עקרונות של פיתוח אחראי, אני חושב שלא רק אנחנו אוחזים בהם, הם נאמרו פה על ידי כל מיני דוברים. הלכה למעשה, guardrails ו- ,red teamingקורים גם אצלנו. מתוך אותה הבנה שאי-אפשר להוציא הכול החוצה, ואי-אפשר להוציא החוצה בלי לבדוק את זה. כשעושים את התהליך הזה מצמצמים מאוד את הסיכוי שייצאו החוצה דברים, אתה לא תמיד יודע איך זה ייצא ומה ייצא, ואולי אתה חושב שהם ייצאו בצורה לא טובה. חלק מזה זה Dog food, בדיקה ארוכה מראש ככל האפשר והתייעצות עם מומחים. בגוגל יש מומחי חינוך שעובדים עם המוצרים לחינוך; רופאים ומומחי בריאות שעובדים עם מוצרים לבריאות. אותו דבר בבריאות הנפש. זה נכון גם לשיח עם התעשייה ועם הממשלה, כי הרבה פעמים השיח הזה יוצר רגולציה יותר טובה. דיברו כאן על מה שקורה בארצות הברית והרבה ממה שנאמר פה כבר מוטמע. הרגולציה לא תמיד חייבת להיות נגד חברות, לפעמים, אפשר לפתח אותה ביחד וזה לא דבר רע. חלק מהדברים כבר מיושמים בפועל. << יור >> היו"ר אורית פרקש הכהן: << יור >> חד-משמעית. תודה, תודה רבה. שני הדוברים האחרונים. יש פה תלמידה, זואי, נציגת מועצת התלמידים, בבקשה. << אורח >> זואי פסלב: << אורח >> שלום לכולם. << יור >> היו"ר אורית פרקש הכהן: << יור >> את היית כאן כל הדיון? << אורח >> זואי פסלב: << אורח >> כן. << יור >> היו"ר אורית פרקש הכהן: << יור >> וואו, יפה. << אורח >> זואי פסלב: << אורח >> אני בת 17, תלמידת כיתה י"ב מחיפה ואני מייצגת את מועצת התלמידים והנוער הארצית. באתי לתת לכם את נקודת המבט שלנו, של בני הנוער. שאלתי את ה-ChatGPT והוא אמר לי שבכל יום הוא מקבל אלפי פניות מבני נוער שפונים אליו בעקבות איזושהי מצוקה רגשית, מצוקה נפשית. זה קורה כל הזמן, אני עושה את זה ובני נוער שמסביבי עושים את זה. אנחנו מתייעצים עם ה-ChatGPT, שופכים בפניו את הלב ואומרים את כל מה שעובר עלינו. זה זמין, זה נוח, זה אנונימי והמענה הזה יכול להיות מעולה למי שמגיע. אני יכולה לספר לו איזה יום באסה היה לי, וזה יכול להגיע למקרים שראינו פה בתחילת הדיון בני נוער שבאמת צריכים עזרה שהיא מעבר לרובוט. בנוסף לזה שיש לו יתרונות, זה כמובן מגיע גם עם חסרונות שדובר עליהם פה, על בדידות, על ההסתגרות שזה יוצר. ברמה הכי בסיסית צריך ללמד בני נוער קודם כול, איך לרשום את הפרומפט בצורה נכונה, מה לכתוב בדיוק ל- ChatGPTכדי לקבל את המענה שאני צריכה, באיזה AI להשתמש. יש כל-כך הרבה דברים, לדעת מה נכון לי כרגע וגם איפה עובר הגבול. באיזה שלב אני צריכה כן לפנות למענה של בן אדם, של פסיכולוג, של איש מקצוע ,ובמה ChatGPTיכול לעזור לי ובמה לא. את כל זה ללמד בבתי הספר, זה הכי בסיסי שיש. ואם כבר בתי ספר, אני מאמינה שכולנו יודעים שכל המהפכה הזאת של ה-AI תשנה את כל מערכת החינוך. בעוד כמה שנים לא יהיה מה שאנחנו מכירים היום, וזה כולל גם את התפקיד של המורה. זה כבר לא יהיה חשוב שמורה יודע את המקצוע שלו או שמורה יודע איך ללמד, אלא המורה יצטרך ללוות את התלמידים יותר בחלק הרגשי, בכל תהליך הליווי של הלמידה. המצב יהיה הפוך, ובני נוער ישתמשו בבינה מלאכותית דווקא בשביל החומר הלימודי, כי בזה הוא מעולה. << יור >> היו"ר אורית פרקש הכהן: << יור >> זואי, גם את שותפה לרגישות שיש בהישענות הנפשית על הכלים האלו או לא? << אורח >> זואי פסלב: << אורח >> כן, זה ברמה הכי בסיסית. אם אני צריכה איזו התייעצות, אני לא תמיד אלך לחברה. לפעמים, אני אלך ל- ChatGPTכי הוא מכיל אותי מאוד ויודע להגיד לי בדיוק את מה שאני רוצה לשמוע. זה יכול להיות מעולה בשביל להתייעץ איתו על איזו דילמה שיש לי, שיגיד לי יתרונות וחסרונות על איזושהי החלטה. יש איזשהו גבול, ולא לכל בעיה ChatGPT יודע איך לתת לי מענה. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה, תודה רבה, זואי. נסיים עם יעל, Clear sky. אני מצטערת, קשה להיות אחרונה בדיון כזה. באמת דקה. << אורח >> יעל אברמן: << אורח >> אין בעיה. בגלל המהירות נכנסתי לדברים שלך. אני המנכ"לית של קליר סקיי. אנחנו ארגון אימפקט שמאתר טכנולוגיות מתקדמות, שמשפרות את החוסן הנפשי בישראל ומטמיע אותן. קודם כול, בראש ובראשונה, יש לנו כאן שותפים. << יור >> היו"ר אורית פרקש הכהן: << יור >> זה ספציפית ב- AI? << אורח >> יעל אברמן: << אורח >> כן, כן. ספציפית עם AI אנחנו רואים את הפוטנציאל, ואני כבר ארחיב על זה. קודם כול, מענק ההקמה של הארגון היה של גוגל העולמית, Google.Org ויש פה אתגר עולמי. אנחנו פה מקרה מבחן, ואני חושבת שאנחנו גם נצליח לפצח את זה ולהעביר את זה החוצה לשאר העולם. אני אסביר למה אני חושבת כך, מענק ההקמה שלנו היה מתוך הבנה שאנחנו צריכים להצליח לעשות משהו אחרת. יש לנו כאן שותפים יקרים, ד"ר אלונה ברנע ומפא"ת. מבחינתנו אנחנו עושים את הדברים במקביל, משרד הביטחון בצבא ואנחנו באוכלוסייה האזרחית. בגלל זה שיתוף בפעולה הוא כל-כך חשוב. שלושה דברים ובזה אסיים. אחד, למה אני חושבת שאנחנו חייבים להצליח בישראל? כשאנחנו עוברים משבר אישי וכל אחד מאיתנו עבר משבר אישי, מה שעוזר זה הכוחות שלנו, הכוחות שהיו לנו. זה מה שאנחנו רוצים שהמטופלים והאנשים שמתמודדים יעברו. באותה רמה, אנחנו מסתכלים על המשבר הנוראי שאנחנו נמצאים בו, הכוחות שלנו ומה שיעזור לנו זה: 1. הטכנולוגיה והחדשנות. 2. מערכות הבריאות המצוינות שיש לנו, התשתיות המעולות שיש לנו וגם תשתיות של חברה אזרחית וארגוני חברה אזרחית. 3. אנחנו עם שיודע לקום וליפול, לקום וליפול, לקום וליפול. לכן, אנחנו צריכים לפצח את זה כאן ולהוציא את זה החוצה לעולם. דבר אחרון, אחד האתגרים הוא כמובן רגולציה, רגולציה מותאמת. אנחנו מזהים שחברות טכנולוגיות מהעולם עושות משהו שעובד. היכולת שלהן להיכנס לישראל ולתת פתרון לאוכלוסייה שלנו שזקוקה כל-כך, היא לא פשוטה בכלל. אני חושבת שהרגולציה רלוונטית מאוד, וצריך להסתכל גם על מה כן עובד. כלומר, לא על לפתח עוד חברות ישראליות, שאני כמובן בעד, אלא גם על פתרונות שעבדו. מה שעבד אחרי 9 בספטמבר, בוא נביא אותו לארץ, צריך לעזור גם לדברים האלה ורק כך נצליח להשתקם. תודה על הדיון. << יור >> היו"ר אורית פרקש הכהן: << יור >> תודה רבה. << אורח >> אסף פרקר: << אורח >> יש לנו מסגרות מימון רחבות מאוד, גם לבתי חולים פסיכיאטריים וגם לקופות חולים. הכסף הוא לא התירוץ כאן. << יור >> היו"ר אורית פרקש הכהן: << יור >> תדברו אחר כך, אנחנו נסיים. אני לא יודעת מתי נגיע למצב שדיון פה יהיה פחות משעתיים. תמיד כל דבר צולל לתוך עולם ומלואו. בדיון הזה ראינו שמהפכת הבינה המלאכותית מייצרת רעידת אדמה בעולמות הנפש האנושית, בעולמות מערכות היחסים, הרומנטיקה, המין והתמיכה נפשית. זה נוגע בכל האוכלוסיות, אתגרים באמת גדולים. ראינו נתונים מטלטלים ואני חושבת שאי-אפשר להתעלם מהם, מהחשיפה של הכלים הללו, מהעוצמה ומהמשמעות שלהם. אני חושבת שהתופעה, המהפכה הזאת, מביאה הרבה הזדמנויות וכידוע גם הרבה מאוד סכנות. בדיון הזה ראינו שכשאנחנו מתכנסים לישראל יש בסוף הרבה מאוד חשיבה, הרבה מאוד ועדות, במיוחד אל מול הילדים ואל מול בני הנוער, ועדיין אין מעשים בעצם. אפשר לציין לחיוב את מה שקורה כרגע מול מערך השיקום במערכת הביטחון, מעורר הרבה תקווה. כממשלה אנחנו לא משתמשים ב-AI ככלי טיפולי, אנחנו מתמקדים בייעול התהליך וכולם עוצמים עיניים למה שקורה מסביב. מה קורה מסביב? שהעולם הזה כבר חי ובועט עם כמות משתמשים שפונים לכלים האלו ולגביהם אין שום פיקוח ושום הגנה. אנחנו רואים את העלייה במקרי הקיצון ובהתאבדות. הובעה כאן הדעה שהם לא מקרי קיצון, אלא שהם פשוט ההתחלה של איזשהו מבול. מעבר להמשך פיתוח התעשייה, זה לא נושא של תעשיית ההייטק ועתיד הייטק בתחום הבינה המלאכותית. זאת אומרת, לא צריך לדבר על כוח מחשוב, על הון אנושי, על תוכנית לאומית לבינה מלאכותית, על תשתיות של טכנולוגיה ועל עוד הרבה דברים. עשינו את הדיון הזה בדיון הקודם על ועדת נגל. כאן אנחנו מדברים על עולם אחר, ההגנה על הילדים שלנו, הגנה ככל שצריך. איך אנחנו יכולים ליהנות מהברכה הזאת וכמדינה לעשות גם את מה שמצופה מאיתנו בתחום הזה. נגעו בזה אליקים ויורם, שני הפרופסורים שדיברו בצורה מדהימה. אני קוראת למשרדי הממשלה להקים צוות בין-משרדי משרד החינוך; משרד הבריאות; משרד המשפטים כמובן; הרווחה; נציגי ציבור וכל מי שאתם חושבים לנכון. משמעות הצוות תהיה רגולציה שמטפלת או מאבחנת התמודדות עם האתגרים לבריאות הנפשית של הציבור בישראל או התמודדות עם האתגרים האלו. שמענו את הפסיכיאטר הראשי של משרד הבריאות ד"ר בודנהיימר, שאומר: אני מאמין שלא יהיה מנוס מלהגיע ואיכשהו לייצר איזשהן חובות גם לחברות הטכנולוגיה. אני חושבת שיפה שעה אחת קודם. אני מסכימה שזה צריך להיות מאוזן ומידתי וכו' אבל זה חייב להיעשות. צריך להסתכל מחוץ לכותלי בית הספר, מחוץ לכותלי בית החולים, מחוץ לכותלי ארבע האמות של איך אתם מייעלים את העבודה של המשרדים שלכם, כי הסיפור הוא בחוץ וזה בעצם האירוע. תודה רבה, דיון באמת חשוב ומרתק. << סיום >> הישיבה ננעלה בשעה 13:05. << סיום >>