פרוטוקול ועדה

DOC 68,218 תווים המסמך המקורי ↗
הכנסת העשרים-וחמש מושב רביעי פרוטוקול מס' 449 מישיבת ועדת הבריאות יום שני, י"ד בתמוז התשפ"ו (29 ביוני 2026), שעה 11:07 סדר היום: << נושא >> כללי אתיקה בשימוש בבינה מלאכותית על ידי צוותים רפואיים << נושא >> נכחו: חברי הוועדה: יונתן מישרקי – היו"ר מוזמנים: רן מילמן – בריאות דיגיטלית, משרד הבריאות מורן פולמן – מנהלת תחום בכיר קשרי ממשל ותוכניות לאומיות, משרד הבריאות אסתי ורהפטיג בס – ראש תחום דיגיטל ואכיפה, לשכה משפטית, משרד הבריאות יואל בן אור – בריאות דיגיטלית, משרד הבריאות שי סומך – ייעוץ וחקיקה, משרד המשפטים דוד ימין – סמנכ"ל רגולציה, משרד ראש הממשלה ענבר קמחי לוי – ר' תחום מדיניות ציבורית ואתיקה רפואית, ההסתדרות הרפואית בישראל קרן משיח צוונג – רכזת הלשכה לאתיקה, ההסתדרות הרפואית בישראל ד"ר יוסי ולפיש – יו"ר הלשכה לאתיקה, ההסתדרות הרפואית בישראל מלי קושא – יו"ר לשכת האתיקה של האחים והאחיות, הסתדרות האחים והאחיות בישראל ד"ר תמר וכטר – יו"ר חטיבת החינוך, הסתדרות האחים והאחיות בישראל יואב אוקנין – רב ראשי, המרכז הרפואי שיבא תל השומר משתתפים באמצעים מקוונים: ד"ר לירון פלצ'י נדלר – מנהלת רפואית, מכבי שירותי בריאות ד"ר לילך צולר – ראש אגף טכנולוגיות רפואיות, שירותי בריאות כללית ד"ר משה רוזמן שלם – חטיבת החדשנות, שירותי בריאות כללית לאה ופנר – מנכ״לית, ההסתדרות הרפואית בישראל ד"ר חגית פדובה – סמנכ"לית איכות ובטיחות, המרכז הרפואי ת"א איכילוב, חברה בוועדת האתיקה, ההסתדרות הרפואית בישראל מנהלת הוועדה: מיכל דיבנר כרמל רישום פרלמנטרי: נועם כהן, חבר תרגומים ‏‏רשימת הנוכחים על תואריהם מבוססת על המידע שהוזן במערכת המוזמנים הממוחשבת. ייתכנו אי-דיוקים והשמטות. << נושא >> כללי אתיקה בשימוש בבינה מלאכותית על ידי צוותים רפואיים << נושא >> << יור >> היו"ר יונתן מישרקי: << יור >> שלום לכולם, אני מתכבד לפתוח את ישיבת ועדת הבריאות. אנחנו נעסוק היום בנושא כללי אתיקה בשימוש בבינה מלאכותית על ידי צוותים רפואיים. דיון חשוב, דיון המשך לדיונים שכבר הוועדה קיימה. מי שניהל בזמנו את הדיונים בוועדה היה חבר הכנסת רון כץ, שאני באמת באמת מודה לו על כך. היו כמה שלבים בדיונים, ולמעשה זה המשך ישיר. כמובן שאני מבקש להודות ללשכה לאתיקה של ההסתדרות הרפואית וללשכת האתיקה של האחים והאחיות שעשו עבודה נהדרת, חלק מהתוצרים גם מונחים לפנינו פה, כמובן שאנחנו נשמע אותם. הנושא של שימוש בבינה מלאכותית, יש בו הרבה מאוד אלמנטים חיוביים, אבל יש בו גם הרבה מאוד נושאים ונקודות שבהם צריך לשים לב שהמידע לא זולג, שאנחנו משתמשים בו בבטיחות, וכמובן שאנחנו לא מחליפים בסופו של דבר את הגישה הישירה בין המטפל למטופל. בימים האחרונים משרד הבריאות הוציא הנחיה שבבתי חולים ממשלתיים לא יהיה אפשר להשתמש בכלים חיצוניים כדי שמידע לא יזלוג. אנחנו גם כמובן נרצה להבין בהקשר הזה מה ההנחיות לגבי שאר המוקדים הרפואיים שאינם ממשלתיים. אולי נתחיל באמת בהצגה של התוצרים. אנחנו נבקש מד"ר יוסי ולפיש להציג בפנינו את העבודה הנהדרת שעשיתם ולאחר מכן נשמע את המשך הדוברים. << אורח >> יוסי ולפיש: << אורח >> (מוקרנת מצגת) תודה רבה. תודה רבה על ההזמנה, תודה רבה על שיתוף הפעולה. אני זוכר את הדיון הקודם, הבטחתי שאני אבוא ואציג בפניכם את התוצרים שלנו, וכך אנחנו עושים היום. אני מזכיר, קוראים לי ד"ר יוסי ולפיש, ואני רופא משפחה במקצועי, אני מנהל מרפאה של כללית במחוז מרכז, אבל אני כבר בשלוש השנים האחרונות יושב ראש הלשכה לאתיקה של ההסתדרות הרפואית. אנחנו מציגים את נייר העמדה שלנו, כללי אתיקה בשימוש בבינה מלאכותית ברפואה, נייר שהוצאנו באפריל האחרון אחרי עבודה גדולה. אני אגיד כמה מילים, אבל ככה אני נוהג גם עם המתמחים והסטודנטים שלי וככה אני גם אעשה פה, לפני שמתחילים לדבר אני רוצה לתת דוגמה כדי לראות איפה זה פוגש אותנו, במיוחד נגיד אותי כרופא משפחה. אני אגע בכמה דוגמאות בהמשך, אבל הדוגמה הזאת חשובה שנחשוב עליה במהלך הדיון. סליחה שאני נעשה מקצועי, אבל זה חשוב שתבינו איפה זה עומד. נגיד שנכנס לחדרי מטופל, אני מכיר אותו היטב, הוא מטופל שלי, והוא בן 52, תפקיד בכיר באחד ממשרדי הממשלה. ברקע הוא בסך הכול בריא, אבל הוא סובל מאיזושהי תופעה שנקראת דלקת אאוזינופילית של הוושט שלא משפיעה הרבה על חייו כי הוא מקבל תרופה יחסית חזקה שנקראת ג'ורבזה, שזו תרופה שמכילה סטרואיד מקומי בוושט, והוא בא אליי עם פריחה חדשה כואבת מאתמול שנראית לי כמו שלבקת חוגרת. הספרות יודעת שבשלבקת חוגרת, כולנו יודעים, צריך לתת טיפול אנטיוויראלי, אנחנו נותנים לו תרופה, ואז עולה לי השאלה האם הוא צריך לקבל גם סטרואידים או לא. פעם היה מקובל מאוד לתת סטרואידים, אחרי זה ירדו מזה, והיום ההנחיות אומרות שיש מקרים שכדאי ויש מקרים שלא כדאי. יש פה תרופה חדשה שהיא בעצמה עם סטרואידים שהוא מקבל כבר, והוא בסך הכול איש בריא, האם אני צריך לתת לו סטרואידים או לא? עד היום הייתי מתחיל לחפש בספרות, בודק למה המקרה הזה הכי דומה. היום אני פותח כלי שנקרא Open Evidence. Open Evidence זה כלי שנועד לרופאים, הוא כלי שמבוסס על מאמרים ומחקרים רפואיים, ואני מקליד את השאלה בפנים ואני מקבל תשובה. היתרון של הכלי הזה הוא שהוא מבוסס מאמרים ואני יכול לקבל את הרפרנס, מה המקורות שהוא נשען עליהם. אבל האם אני יכול להכניס בכלל את זה לשם? האם העובדה שזה בפלאפון שלי, אולי עדיף שזה יהיה על המחשב של הקופה? עד כמה אני צריך לבדוק את האמינות של הדבר הזה? עד כמה אני צריך לבדוק את הבטיחות של הדבר הזה? זאת השאלה. זה מה שעושים רופאים, הרבה פעמים משתמשים בדיוק בכלי הזה שנקרא Open Evidence. תבינו, זה כלי מאוד חזק, הוא כלי אמריקאי שיצר הסכמים עם העיתונים הכי מובילים בעולם בתחום הרפואה ועם מאגרי המידע הכי גדולים, אבל הוא עובד בצורה של AI, אני לא מבין לגמרי למה הוא מעדיף מאמר כזה או מאמר אחר, איך אני מקבל את ההחלטה. מצד שני, אתם רוצים שאני אוכל לקבל את ההחלטה בצורה הכי מדויקת. חלק מהבעיה נובעת מהעובדה שככל שאני אתן לכלי הזה יותר אינפורמציה על המטופל שלי, ככה אני אקבל תשובה יותר מדויקת, איפה עובר הגבול בין הפרטיות? האם אני יכול לצלם את המסך של התיק הרפואי שלו לתוך הכלי כדי שתהיה יותר אינפורמציה? זאת השאלה. אני רוצה שתחשבו על הדוגמה הזאת כשנדבר על המקומות הבעייתיים של שימוש ב-AI ביחס ליתרונות ולחסרונות. בגדול, באופן עקרוני, אני רוצה להגיד כמה מילים על הלשכה לאתיקה, שתבינו מה זה הגוף הזה, כי אם אנחנו כבר פה ומציגים, אני רוצה להגיד כמה מילים. הלשכה לאתיקה היא אחד מהגופים בתוך ההסתדרות הרפואית. ההסתדרות הרפואית לישראל, אתם מכירים אותה, יש בה את החלק של הוועד, שאת זה כולם מכירים, יש בה חלקים חשובים אחרים, למשל המועצה המדעית, שהיא זאת שבמדינת ישראל, על פי חוק סטטוטורי, באישור ועדת הבריאות דרך אגב, כל פעם בשיתוף פעולה נותנת את תעודות המומחה בישראל לרופאים מומחים. ההסתדרות הרפואית מאגדת את כל האיגודים המקצועיים, שהם אלה שנותנים את החלק המקצועי בכל תחום ותחום, למשל האיגוד הישראלי לרפואת המשפחה עוסק ברפואת משפחה, החברה הישראלית לרפואת הנקה עוסקת בתחום ההנקה וכולי, אנחנו מאגדים בתוך ההסתדרות. ויש לנו גוף שהוא גוף עצמאי לגמרי שנקרא הלשכה לאתיקה, והוא עסוק באתיקה רפואית. זה גוף נבחר, אנחנו כולנו נבחרי ציבור, אותי בחרו בבחירות ישירות עם השם שלי. אנחנו 70 רופאים שכולם עוסקים באתיקה ונבחרים פעם בארבע שנים על ידי ועידת ההסתדרות הרפואית, שבה יש נציגים של כל הרופאים מכל המגזרים בארץ, ואלה 70 רופאים שנבחרים על ידי הרופאים לייצג את האינטרסים של האתיקה. אנחנו נפגשים פעם בחודש לפגישה של שעתיים וחצי, כל חודש, לעסוק בשאלות אתיות. זו הלשכה לאתיקה, במובן הזה הוא גוף מאוד חזק בישראל. << יור >> היו"ר יונתן מישרקי: << יור >> מה השיניים שיש לכם? << אורח >> יוסי ולפיש: << אורח >> שאלה מעניינת. בשביל זה אני נוגע קצת בתפקידים שלנו, התפקידים של הלשכה לאתיקה. אחד זה לכתוב ניירות עמדה, שזה מה שמקובל גם בעולם, שבהם אנחנו נותנים הנחיות כמו הנייר שכתבנו והוא הוצג בפניכם, שבא להגיד סטנדרט מסוים. אחר כך, למשל כשמשרד הבריאות עושה ועדות בירור לרופאים שסרחו, הוא משתמש בניירות העמדה שלנו כדי להגיד מה הסטנדרט המקובל. << יור >> היו"ר יונתן מישרקי: << יור >> אם אני אתרגם את זה פה לכללים שקבעתם ב - - - << אורח >> יוסי ולפיש: << אורח >> נכון. היום כל הגופים בישראל דרך אגב, גם בתי המשפט, גם משרד הבריאות ומשרדי הממשלה, גם הכנסת, כשהיא באה לבדוק מה הדברים האתיים, פונים לניירות העמדה שלנו כדי לבדוק איך רופאים אמורים להתנהג. במובן הזה אלה השיניים העיקריות. חוץ מזה שאנחנו כותבים ניירות עמדה ונותנים חוות דעת יש לנו עוד דבר אחד, שהוא ועדת בירור חברים, שזו ועדה פנימית, כשמתלוננים אצלנו על רופאים שעברו עבירות אתיות, אנחנו יודעים לעשות ועדת בירור, במקרים שמתאימים כמובן, אנחנו מזמינים אותם לבירור. זה יותר לדברים בסף הנמוך, זאת אומרת, מה שמגיע לרמה הפלילית או לרמה - - - << יור >> היו"ר יונתן מישרקי: << יור >> לצורך העניין, בהקשר הזה של הכללים. << אורח >> יוסי ולפיש: << אורח >> יש לנו גם ועדות בירור שלנו. << יור >> היו"ר יונתן מישרקי: << יור >> הכללים האלה שאתם קובעים, יש לכם שיניים לאכוף את השימוש באותם כללים או עמידה באותם סטנדרטים? << אורח >> יוסי ולפיש: << אורח >> יש לנו גם שיניים מסוימות, וגם עצם הצבת הסטנדרט מהווה משהו שכל הגופים בישראל מכבדים אותו. << יור >> היו"ר יונתן מישרקי: << יור >> מכבדים אבל לא מחויבים? אני רק רוצה לדייק את העניין הזה. << אורח >> יוסי ולפיש: << אורח >> אם ככה, אני אגיד עוד מילה. קיבלת את החוברת, זו החוברת שלנו שנמצאת באינטרנט, אני אגיד מילה על מה זו אתיקה רפואית, כדי להבין את העניין של השיניים. אתיקה רפואית בהגדרה זה כשמקצוע לוקח על עצמו ערכים מסוימים שהם בבסיס המקצוע ואומר, אני צריך לפעול על פי הערכים האלה. לימדה אותי מורתי, ד"ר תמי קרני, שהייתה קודמתי בתפקיד, שיש לנו סף ורף. הסף זה החוק, החוק אומר, גם בתחומי האתיקה, מה הדברים שהחברה, המדינה, אתם דורשים מאיתנו להתנהג, למרות שהם לכאורה בתוך האתיקה, אתם מחייבים, אומרים לנו, לא, אנחנו מורידים את זה לרמה של חוק, זה מחייב את כולם, ואז יש לזה שיניים חוקיות. למשל פרטיות, שזה משהו מאוד אתי, נמצא בתוך חוק זכויות החולה, ואין לנו בו שום שיקול דעת. מעבר לזה, אנחנו מעמידים איזשהו רף שהוא יותר גבוה, הוא מדבר על התנהגות הרופא ואומר, בזה יש לנו ציפייה יותר מהחוק, יש לנו ציפייה שכל רופא יסתכל פנימה ויגיד, האם אני פועל בצורה מוסרית? ואנחנו בדרך כלל עובדים בתווך הזה. זאת אומרת, הכללים שלי, חלקם מוכוונים אליכם להגיד לכם אם אתם חושבים שדרושה רגולציה, אבל בעיקר אנחנו אומרים לרופא, שים לב בדברים האלה שצריך להיזהר, כי אנחנו מצפים ממך, ואם מישהו עובר על זה בצורה קיצונית, כמובן נביא אותו לוועדת בירור או למשרד הבריאות או לאן שצריך, אבל בגדול אנחנו עובדים בתווך של ערכים. << יור >> היו"ר יונתן מישרקי: << יור >> אני אדחוק אותך עוד טיפה, ברשותך. << אורח >> יוסי ולפיש: << אורח >> בשמחה. << יור >> היו"ר יונתן מישרקי: << יור >> איך אתה מתייחס למסמך הזה או לכללים הללו שנקבעו פה שאתם רוצים, אתה מתייחס אליו כתיקון רגולטורי או שאתה מתייחס אליו כאתיקה בלבד? << אורח >> יוסי ולפיש: << אורח >> התשובה היא מורכבת, אבל בגדול, קודם כול אני מפנה את זה לרופא בשטח ואני אומר לו, שים לב, אתה עכשיו לומד להשתמש ב-AI, אלה הדברים שאתה חייב לשים לב אליהם, בסדר? זה הדבר הראשון. זאת אומרת, הדבר הראשון שלי הוא הציפייה שלי מרופאים להתנהג בצורה מוסרית, בצורה ערכית, ואז זה פונה אליהם. אחרי זה כמובן שיש גם את הקומה הרגולטורית, שזה ייקחו - - - << יור >> היו"ר יונתן מישרקי: << יור >> אנחנו עוד מעט נשמע את המשרד בהקשר הזה, בסיום הדברים שלך. << אורח >> יוסי ולפיש: << אורח >> בסדר. אני רק מראה, זו שבועת הרופא המפורסמת, אני לא צריך להרחיב עליה, רק להגיד שזה הבסיס לאתיקה הרפואית שלנו, שהרופא מצהיר עליה או נשבע עליה כשהוא מקבל בטקס החלוק הלבן את החלוק, הוא בא ואומר, אלה הערכים שאני הולך לאורם. אני חוזר לנייר שלנו. הנייר שלנו, כשהחלטנו לכתוב אותו, גם בעקבות הפנייה של הוועדה, הקמנו תת-ועדה של הלשכה לאתיקה בראשות ד"ר חגית פדובה, היא איתנו בזום, שהיא ראומטולוגית במקצועה וסמנכ"לית איכות, בטיחות וחוויית המטופל של בית החולים איכילוב ועוסקת הרבה בנושא של AI ברפואה, והקמנו צוות של חברי הלשכה שישבו, ראיינו אנשים, גם רופאים וגם אנשי תעשייה וגם אנשים שעוסקים בתחום, וגיבשו את הכללים של נייר העמדה שאתם רואים לפניכם. חילקנו את הנייר לשלושה חלקים בגדול: הדבר הראשון הוא ערכים שצריך לשים לב אליהם, וזה אני תכף אציג לכם; הדבר השני הוא מה התפקיד בכלל של הרופא, איך אנחנו רואים את תפקיד הרופא בעידן של AI; ובסוף יש לנו רשימה של עשה ואל תעשה, או כללים אתיים פרקטיים לרופא בשטח בראייה מוסרית. אבל אני רוצה להציג לכם בעיקר את הבעיות, את העקרונות שאנחנו צריכים לשים לב אליהם בהקשר הזה. כשהמסר המרכזי של הנייר שלנו, וזה מה שחשוב להגיד, זה שהאתיקה שלנו קודם כול מעודדת שימוש בטכנולוגיות. אנחנו בעד AI, הניסיון של ההיסטוריה הרפואית אומר שכשנכנסו טכנולוגיות חדשות, תמיד זה קידם את הבריאות וקידם את הרפואה, אבל צריך לשים לב שאנחנו לא עוברים על הכללים האתיים שלנו ולא מחליקים לנו לתוך מקומות בעייתיים מבחינה מוסרית או מבחינה ערכית. אלה חברי הוועדה שלנו שכתבו. כמו שאתם רואים, קבוצה נכבדת. חלקם רופאים, חלקם, יש לנו את קרן שיושבת פה שהיא רכזת הלשכה, ואת ענבר שהיא היועצת המשפטית שלנו, ואם בסוף גם ד"ר חגית פדובה תרצה להגיד כמה מילים, היא גם איתנו בזום. זה בגדול. הנושא הראשון שאני רוצה לדבר עליו הוא הנושא של האחריות של הרופא. אני אתן דוגמה. למשל, כשנכנס בן אדם למיון, היום כבר קיים בעולם וגם בישראל במקומות מסוימים, יש מערכת שמכניסה את הנתונים של המטופל, עושה על זה עיבוד AI ועושה תיעדוף, והשאלה היא מה קורה אם המערכת הזאת טועה. מי מקבל את האחריות כשאנחנו מכניסים מערכת AI, למשל על תיעדוף חולים בכניסה למיון, תיעדוף חולים במקומות אחרים, מי מקבל את ההחלטה אם המערכת טועה, מי אחראי על הדבר הזה. התשובה היא, אנחנו קבענו כללים בנושא הזה, והכלל אומר קודם כול שהרופא הוא אחראי. הרופא שמשתמש במערכת, יש לו אחריות ערכית מוסרית, וברמה הרגולטורית אתם תחליטו, שאומרת שהוא צריך להפעיל תמיד שיקול דעת ביקורתי לקבל את ההמלצות, ויש לו את היכולת להגיד, אני לא מקבל את ההמלצות האלה. זה הדבר הראשון. << יור >> היו"ר יונתן מישרקי: << יור >> אתה חושב שזה כלל שצריך להיקבע בתקנה, או לא יודע מה, חקיקתית, או באיזושהי נורמה שהיא קצת מעבר לכלל של הוועדה שלכם? << אורח >> יוסי ולפיש: << אורח >> אני לא יודע. אני אומר עוד פעם, המטרה שלי היא לשים דגל לרופאים בראש ובראשונה. ייקחו אנשי הרגולציה ויחליטו האם הם רק מכניסים את זה לתוך בקרה, שהם עושים בקרה על העניין הזה, האם הם מגדירים כללים. אני חושב שמן הראוי שהמשרד יאמץ את הכללים שלנו, ילמד אותם, ויבין מה מתוכם הוא צריך לבדוק ומה מתוכם הוא לא צריך לבדוק, זה מה שאני חושב. אבל אני אומר עוד פעם, בסוף בסוף אני פונה לרופא בשטח, אני אומר לאותו רופא שיושב במיון. << יור >> היו"ר יונתן מישרקי: << יור >> אתה אחראי. << אורח >> יוסי ולפיש: << אורח >> נכון. אני אומר, אתה אחראי, קח בחשבון, תלמד את הכלי, תבין מה הוא עושה. זה דבר ראשון. הדבר השני זה שתמיד אנחנו צריכים שיהיה לנו דבר שנקרא Human in the Loop. Human in the Loop אומר שבכל תהליך קבלת החלטות רפואי צריך שיהיה רופא שהוא האיש שמבקר, שרואה מה קורה. אנחנו לא אוהבים דברים שנעשים ברקע, שאף אחד לא יודע מה קורה שם, נגיד על זה גם מילה בהמשך. אנחנו רוצים שתמיד יהיה Human in the Loop. הדבר האחרון שאני רוצה להגיד על אחריות הרופא זה שכתפיסה, מערכות AI צריכות להיות מערכות תומכות החלטה, עוזרות החלטה, ולא מערכות מחליפות הרופא, זה כתפיסה. זה בנושא של אחריות של הרופא. הדבר השני זה הנושא של הסברתיות או שקיפות אלגוריתמית. אני נותן לכם גם בזה דוגמה, דוגמה שד"ר חגית פדובה לימדה אותי. היא סיפרה שבאחד מבתי החולים נכנסה מערכת שמפענחת צילומי רנטגן לראות אם יש שבר, מערכת שתוקפה והכול. ופתאום יצר קשר איתה מנהל היחידה לאורתופדיית ילדים ואומר: בכל הצילומים שהמערכת מאבחנת אצלי שבר, היא מאבחנת בתוך לוחית גדילה, מקום שהוא נורמלי אצל ילדים, כאילו יש שם שבר. ואז התברר שהמערכת למדה, כל הדאטה בייס שלה היה על צילומים של מבוגרים, בכלל לא על צילומים של ילדים. אנחנו אומרים, אנחנו צריכים להבין איך המערכת עבדה, מה צורת קבלת ההחלטות שלה, כדי להבין אם היא ראויה או לא ראויה לשימוש. << יור >> היו"ר יונתן מישרקי: << יור >> ממי אתה מצפה שיעשה? << אורח >> יוסי ולפיש: << אורח >> אני מצפה מכל הרמות. החל מהרמה של - - - << יור >> היו"ר יונתן מישרקי: << יור >> חוץ מהרופא. << אורח >> יוסי ולפיש: << אורח >> אני אומר, החל מהרמה של המפתח של המערכת הזאת, שיעשה אותה שקופה כמה שאפשר, שאנחנו קוראים לזה Explainable AI, הסברתיות, מסבירות בתוך AI. יש מערכות שהן יותר כאלה ויש מערכות שהן פחות כאלה. אנחנו רוצים לעודד דווקא כניסה של מערכות שיכולות לתת לנו את ההסבר לאלגוריתם שלהן. זה דבר ראשון, ברמת המפתח. << יור >> היו"ר יונתן מישרקי: << יור >> אתה מצפה ממנהל בית חולים שמטמיע מערכת? << אורח >> יוסי ולפיש: << אורח >> זה ברמה השנייה. אותו ארגון בריאות שמכניס את המערכת, אני רוצה שהוא יבדוק לראות האם הוא יודע להסביר את המערכת. וגם הרופא, אני מצפה שהוא ילמד את המערכת ויבין מרמתו עד כמה שאפשר את ההסברתיות הזאת. צריך להבין שיש פה קצת פרדוקס, כי אחת התפיסות הבסיסיות ב-AI זה דבר שנקרא Black box. אנחנו יודעים להגיד מה אנחנו מכניסים, אנחנו יודעים לבדוק את הפלט, אבל אנחנו לא מבינים לגמרי את התהליך באמצע. אנחנו רוצים לעודד כמה שפחות Black box בתוך המערכת, כמה שיותר הסברתיות, וזה מכל הרמות – הן מרמת התעשייה והמפתחים, הן מרמת המנהלים והאנשים שמטמיעים את המערכת, וגם מהרופא, ללמוד מה המערכת שלו עושה ולהבין מה היא מסבירה ומה היא לא מסבירה. במובן הזה אנחנו אומרים שזה חובה להיות. אנחנו כן אומרים שחייב להיות ניטור ובדיקה קבועה של מה קורה, והאם באמת לא רק במעבדה או ב-FDA או במשרד הבריאות זה עבר את השלבים, אלא גם בשטח אחר כך מישהו חייב לנטר ולראות שהמערכת עושה את מה שהיא עושה כמו שצריך. זה ברמת יכולת ההסבר של המערכת. הנקודה השלישית היא הנושא של פרטיות. זו הדוגמה, היא המקרה הראשון שנתתי. האם כשאני מכניס לתוך מערכת כמו Open Evidence, שהיא מערכת שנועדה לרופאים, נתונים קליניים של מטופל שלי, האם אחר כך החברה, שהיא חברה מסחרית, אומנם היא קשורה לכל הגופים, היא חברה מסחרית, מוכרת את המידע הרפואי הזה, ופתאום יקפצו לו בפייסבוק פרסומות לטיפול בשלבקת. עד כמה יש פרטיות וסודיות למטופל. דרך אגב, רוב החברות האלה מוכרות מנוי שהוא מנוי שמתחייב לא להוציא את המידע שנכנס בתוך הארגון שלך החוצה. יש הבדל גדול בין יוסי ולפיש שמשתמש בפלאפון שלו עם Open Evidence לבין כשהמערכת נמצאת בתוך מערכת של קופה או של ארגון בריאות, ששם יש מנוי שבו מתחייבת החברה לא להוציא את המידע החוצה. במובן הזה אנחנו אומרים, צריך להבין קודם כול שמצד אחד אנחנו רוצים שהמערכות ילמדו מהנתונים, כי ככה הן לומדות. מצד שני, חייבת להיות מאוד מאוד הקפדה ורגישות על השמירה על פרטיות של המטופלים, כי זה המקום שבו אנחנו עלולים ליפול, וצריך לבחון כל מערכת עד כמה היא מקפידה על הפרטיות. צריך לראות שלא משתמשים בנתונים של בן אדם, בטח בלי ידיעתו או הסכמתו. אם הוא מסכים זה דבר אחר, אבל צריך שיהיה ברור שאם רוצים להעלות לתוך המערכת את הנתונים של המטופל, הוא צריך להסכים לדבר הזה, ובעיקר בעיקר אנחנו צריכים להכניס את הסטנדרטים הכי גבוהים של פרטיות וסודיות. << יור >> היו"ר יונתן מישרקי: << יור >> בשביל שהמטופל יסכים אנחנו צריכים ליצור מנגנון שלם של אישורים מהסוג הזה. << אורח >> יוסי ולפיש: << אורח >> אתה צודק. זאת השאלה, זאת שאלה מורכבת, איפה עובר הגבול? אולי זה המקום להכניס הערה נוספת. ברור לי שהנייר שכתבנו שם איזשהו סטנדרט מאוד גבוה מתוך הבנה של הבעייתיות, כשהמחשבה היא בכל מקרה לעבוד איתו הלאה, אולי להתאים, אולי לשנות, לראות באיזה סוג החלטות אנחנו אומרים, פה חייב המטופל להסכים, באיזה סוג עבודה של AI אנחנו אומרים: לא, פה לא צריך שהמטופל יסכים, כי זה רק נותן משהו שולי ברקע, מידע או דברים אחרים, ולפי זה ליצור איזושהי מדרגתיות או הדרגתיות כזאת בהסכמת המטופל, איפה הוא צריך להיות מעורב ואיפה לא. זו התפיסה האתית. אבל ברור לי שבהחלטה קלינית מאוד משמעותית, או מקום שבו מטופל לא רוצה שהמידע הזה ייכנס לתוך המערכת, כי ברור שזה מידע קריטי שיכול להשפיע על החיים שלו במקומות אחרים, שם אסור שהמידע הזה יזלוג, בסדר? למשל, אם מטופל יש לו איזושהי אבחנה חדשה שהוא לא רוצה שאנשים ידעו, אבחנה פסיכיאטרית. אוי ואבוי לנו עם אבחנה פסיכיאטרית של מטופל. למרות שלהרבה אנשים יש אבחנה פסיכיאטרית ואנחנו לא מתייחסים לזה כאל משהו, אבל יש איזו סטיגמה בחברה, וזה מקום שבו אם מידע כזה עלול לזלוג לתוך המערכת, חובה לקבל הסכמה מפורשת של המטופל. למשל, כדוגמה. << יור >> היו"ר יונתן מישרקי: << יור >> אתה כל הזמן מדלג פה בין אחריות רגולטורית לבין כללים שנקבעים ברמה האתית. << אורח >> יוסי ולפיש: << אורח >> אני מסכים. << יור >> היו"ר יונתן מישרקי: << יור >> וזה קצת מבלבל. זה לא מבלבל, זה רק מחדד כמה אנחנו באמת צריכים, אי אפשר להתעלם במסמך הזה מההנחיות הרגולטוריות. << אורח >> יוסי ולפיש: << אורח >> אני אומר, חלק מהדברים, או המטרה העיקרית שאנחנו כתבנו הייתה לפנות אל הרופא בשטח ולהגיד לו: שים לב, אלה המקומות הבעייתיים, אל תכניס לתוך ה-Open Evidence בפלאפון שלך נתונים אישיים על המטופל. גם כשאתה עושה את זה בתוך המערכת, תיזהר עם מה שאתה כותב שם – לרופא בשטח. אבל ברור שיש משמעויות גם רגולטוריות וגם אחרות למסמך שלנו. הדבר האחרון שאני רוצה לדבר עליו הוא האוטונומיה של המטופל, לא רק המידע הרפואי וההסכמה, אלא יותר מזה. זו דוגמה שכבר כתבנו עליה נייר במאי 2024, לפני שנתיים, ואז התהליך התחיל. וצריך להבין, אחת המטרות העיקריות, ואני רוצה לתת את הדוגמה הזאת כדוגמה מאוד חזקה וטובה, אחת המטרות העיקריות של ה-AI זה להוריד ביורוקרטיה. אנחנו יכולים להגיד שביורוקרטיה שוחקת רופאים, עושה המון עבודה במערכת שהיא מיותרת, ואנחנו רוצים שה-AI ימנע את הדבר הזה. דוגמה לכך היא, יש לנו מחלה שנקראת צהבת C. זו מחלה שעוברת דרך אגב בעיקר בתוצרי דם, זה נגיף שעובר בתוצרי דם, אבל גם ביחסי מין ובדרכים אחרות. אין לנו חיסון לצהבת C, בעבר זו הייתה מחלה שהיה מאוד יקר וקשה לטפל בה, היום יש לנו תרופות יעילות שמרפאות מהמחלה בסל, הבעיה היא למצוא את האנשים. במדינת ישראל היום לא נדבקים מתוצרי דם, זה נבדק, אבל אנשים שבאים ממדינות מסוימות או גורמי סיכון מסוימים, יש להם סיכוי. באו אנשים שעוסקים בתחום הזה למשרד הבריאות ואמרו לו, אנחנו רוצים למגר את המחלה הזאת בישראל. אפשר, נעשה אלגוריתם שבחלקו הוא חכם, נמצא את קבוצת הסיכון של אנשים שחולים בהפטיטיס C ונבדוק אם יש להם או אין להם. הלך משרד הבריאות והוציא הנחיה לקופות לבדוק. באה אחת מקופות החולים ואמרה, עכשיו אם אני אשלח ליוסי ולפיש, רופא משפחה, רשימה של אנשים לשלוח לבדיקה, בתיעדוף שלי לטפל במחלות הקשות הכרוניות של חולים או לטפל באנשים עם חום שבאים אליי, להתחיל לעבור על רשימה ולהוציא הפניות, זה יורד נמוך בתיעדוף. אמרה אותה קופת חולים, אני מכניסה ברקע, אוטומטית, לכל החולים האלה בדיקת דם להפטיטיס C, בלי להגיד לא לחולה ולא לרופא. ואז עלתה השאלה האתית, קיבלתי שאלה. פתאום רופאים התחילו לקבל תשובות לבדיקת הפטיטיס C שאף אחד לא שלח ושהחולה לא ידע. היו מקרים שזה יצר הצלחה גדולה, אני מכיר סיפור מרופא משפחה שאשתו הייתה בהיריון והתברר פתאום שיש לו את המחלה, ואז בדקו ואפשר לטפל ולמנוע אפילו הדבקה של התינוק בבטן. מצד שני, המקרה שאני מכיר מרופאת משפחה אחרת, שזה גרם להיפרדות של זוג, כי פתאום היא אמרה, מה פתאום יש לך את המחלה הזאת? מאיפה קיבלת אותה? אנחנו אומרים, האם כדי למנוע ביורוקרטיה אנחנו יכולים לעשות דברים בלי שהמטופל בכלל יודע אותם? איפה עובר הגבול בעניין הזה? אנחנו אומרים שבנושא הזה אנחנו מחייבים אוטונומיה. זאת אומרת, לכל הפחות תקפיץ דיסקליימר למטופל, שבפלאפון יופיע לו: שים לב, אנחנו רוצים להכניס לך בדיקה, אתה מאשר או לא מאשר. זה מה שעשתה קופת החולים אחרי נייר העמדה שלנו, פשוט כשנכנסת בדיקה אוטומטית, המטופל צריך לאשר אותה, ומופיע גם עדכון לרופא שנעשתה הבדיקה. למה אז כבר קפצנו? כי ברור לנו שזה מה שהולך לקרות. כולם יראו, מה טוב, המערכת יכולה לעשות מאחורי הקלעים, אנחנו רוצים שהיא תוריד ביורוקרטיה, השאלה היא לראות שאנחנו לא גולשים למקומות שבהם זה יכול לפגוע באוטונומיה של המטופל או ביכולת שלו להסכים. זה בגדול מה שרציתי להגיד, אני מקווה שהדברים שלי היו ברורים ומסודרים. כמו שאמרתי, המטרה העיקרית שלנו היא כמובן לאפשר שימוש ב-AI, אבל תוך שמירה על הערכים שלנו בזהירות הראויה. וכמובן אני אשמח לשאלות ולכל דבר. << יור >> היו"ר יונתן מישרקי: << יור >> קודם כול, באמת הצגת יפה מאוד, גם בצורה מאוד מסודרת. השאלות ששאלתי תוך כדי, כמובן שאנחנו נבקש עליהן תשובה, אבל קודם, לפני כן, נבקש ממלי קושא, יושבת ראש לשכת האתיקה של האחים והאחיות, גם כן להציג בפנינו את העבודה שלכם, בבקשה. << אורח >> מלי קושא: << אורח >> עד שהמצגת עולה אני אגיד תודה לחברי, עמיתי, כי בסך הכול הדברים די דומים. אני אפתח ואומר תודה ל-11 אנשי צוות מדיסציפלינות שונות, היו בתוך הצוות גם נציגה של הרגולציה, גם קלינאיות, גם מנהלות, גם מומחיות לטכנולוגיה. מאז הדיון הקודם אנחנו יושבים על נייר העמדה שראה אור ביוני 2026, והנה אנחנו כאן מציגים אותו. אני חייבת להגיד שברגע שסיימנו את נייר העמדה, האחות הראשית במדינת ישראל, אפרופו רגולציה, לקחה את נייר העמדה והפיצה אותו לכל האחיות הראשיות, תוך עידוד שימוש בכללים שרשומים שם וקיום שיח אתי סביב הנושאים שעולים סביב הבינה המלאכותית והסוגיות האתיות שעולות. יש לנו חיבור מצוין גם עם הרגולציה, וכל המלצה שאנחנו מוציאים יוצאת אל השטח גם מהאחות הראשית. לא מספיק שאנחנו נפיץ, חשוב שזה יצא גם ממנה, וזה מקבל משנה תוקף. לשכת האתיקה, גוף עצמאי, כמו ברפואה, גם אצלנו בתוך הסתדרות האחים והאחיות. (מוקרנת מצגת) הפוטנציאל הוא רב. בינה מלאכותית היא חלק מאיתנו, וטוב שכך. אני חושבת שאנחנו במדינת ישראל קצת התעוררנו מאוחר. זה מייעל תהליכים, תומך בקבלת החלטות קליניות, מפחית עומסי עבודה ושחיקה, אבל צריך לזכור, יש גם סיכונים. יש העמקת הטיות חברתיות, יכולה להיות פגיעה בשוויון בטיפול, שחיקת האמון והמגע האנושי, וחלק מהדוגמאות גם שמענו. בשורה התחתונה, בינה מלאכותית זה כלי מעצים לתמיכה קלינית, ולעולם, לעולם אינה תחליף למגע האנושי, לאמפתיה, לשיקול הדעת המקצועי ולאחריות המקצועית של האחות, זה לא יכול להחליף. מה אנחנו מרוויחים? הפחתת עלויות תפעול וייעול המערכת, סיוע בזיהוי תבניות והפקת תובנות מנתונים רפואיים, כמו בדוגמה שתוארה כאן. אנחנו יכולים לאתר מחלות. זה מעבר להורדת ביורוקרטיה, אנחנו יכולים לאתר מחלות מוקדם יותר, וזו ברכה, ואני שמחה שזה קיים. יחד עם זה, צריך לזכור את הסיכונים. זה משחרר את הצוות ממיקוד טכני לטובת ליבה טיפולית אנושית, אבל אנחנו מסכנים את הפגיעה בקשר הטיפולי, באוטונומיה של המטופל. הטיות של אלגוריתמים, כי הוא מסתמך על מה שמזרימים לתוכו. והמידע שמזרימים לתוכו, האם הוא משקף את המגוון של האוכלוסיות במדינת ישראל? התשובה היא לא, כי הוא לוקח את הנתונים מכל מה שקורה בעולם, ואנחנו קצת שונים במדינת ישראל. גם אם ניקח את התחום של נשים לעומת גברים, מחקרים על נשים, לצערי הרב, יש מעט מאוד, וזה מתבסס יותר על מחקרים בקרב גברים. ואנחנו יודעים שהתופעות לוואי של נשים מתרופות הן יותר גבוהות בגלל שהתרופות, רובן נוסו על גברים, וזה מה שהאלגוריתם לוקח בחשבון. יש טשטוש גבולות, האחריות המקצועית והמשפטית, ונדרשת התאמה למציאות הישראלית. יש לנו פה רב-תרבותיות וריבוי שפות, ויש פה סכנת כשלים אלגוריתמיים בהבנת שפה טבעית ובניואנסים תרבותיים של מטופלים מרקעים מגוונים. פערים חברתיים וגיאוגרפיים, סיכון להעדפת המרכז על פני הפריפריה בהקצאת משאבים טכנולוגיים ואיכות הנתונים. מצבי חירום ומצבי קיצון תכופים, חובה להבטיח רציפות תפקודית. לא בכדי שמענו את ההנחיה של משרד הבריאות בימים האחרונים בשביל למנוע, ולא בכדי אבטחת המידע והסייבר הולכת וגוברת בגלל כל מה שקורה. פיצול מערכתי, חוסר רציפות בין קופות חולים, בתי חולים ממשלתיים, רפואה צבאית, דורשת יכולת העברת נתונים רגישה וחלקה. אנחנו קבענו מצפן אתי, חמישה עקרונות לשילוב אחראי: מרכזיות האדם – כשאני אומרת מרכזיות האדם זה המטופל וגם האחות; צדק ושוויון; שקיפות ואחריות. והכול, יש לכם את זה בהרחבה במסמך שצירפנו; פרטיות וניהול נתונים; וניהול סיכונים ובטיחות. במרכזיות האדם, בינה מלאכותית מעצימה חשיבה ביקורתית, אבל היא לא מחליפה אותה. פיקוח אנושי הוא תנאי בלתי מתפשר בכל החלטה. העיקרון השני, צדק ושוויון – למנוע הטיות אלגוריתמים שפוגעות באוכלוסיות, בנשים, קבוצות מיעוט, פריפריה. המודלים חייבים לשקף את הגיוון הדמוגרפי הגנטי והתרבותי הייחודי של מדינת ישראל. פרטיות וניהול נתונים – אימון והפעלת מערכות AI מחויבים לצמצם סיכוני חשיפה, למנוע הטיות, שמירה קפדנית על סודיות בהתאם לדין ולהסכמה מדעת. לא יכול להיות מצב שמאחורי הקלעים נעשים דברים על מטופלים בלי שהמטופל יודע, והדיסקליימר שנוסף בתיקים הרפואיים הוא קריטי ומשמעותי. שלב העיבוד, שקיפות ואחריות למטופל – זכות מלאה לדעת על מערכות AI בטיפול. האחריות המקצועית והמשפטית נותרת תמיד תמיד בידי הגורם האנושי המוסמך ולא עוברת למכונה. שלב הפלט, ניהול סיכונים ובטיחות – חובה לקיים ניטור מתמשך, לדווח על כשלים, על אירועים חריגים ולהכיר בשקיפות את מגבלות המערכת למניעת נזק. מחזון אתי לפרקטיקה: מדרג האחריות המערכתית – דיברת על הרגולציה המון, יש פה מדרג האחריות המערכתית. קובעי מדיניות ורגולטורים מספקים את התשתית החוקית, התקציבית והרגולטורית, ודרושים פה תקציבים. ויש לנו את המנהלות, מנהלות אחיות בארגוני הבריאות שמטמיעות את הנהלים, תוכניות ההכשרה, ומשלבות נציגות בוועדות השונות. כשמקימים מערכת כזאת או אחרת, האחות צריכה להיות שותפה ולתת את האינפוטים שלה. לא יכולים לפתח תחום בלי שהאחות תהיה כנציגה שותפה לדיונים. הפרקטיקה הקלינית, אקדמיה ומחקר כחלק אינטגרלי מהפיתוח. המעטפת המדינתית: רגולציה ובקרה – ליצור מנגנוני חובה לבחינה, הערכה ואישור של טכנולוגיות טרם הטמעתן, חובת דיווח על כשלים והגדרת שקיפות. תקצוב תשתיות – להבטיח משאבים כלכליים ייעודיים לבניית תשתית טכנולוגית נאותה ומנגנוני פיקוח אתיים. חינוך מתמשך – פיתוח ותמיכה בתוכניות הכשרה לאחיות בנושאי אתיקה של AI, בריאות דיגיטלית ואוריינות טכנולוגית ברמה הלאומית. << יור >> היו"ר יונתן מישרקי: << יור >> זה את מצפה שיהיה בתהליך ההכשרה של האחיות? << אורח >> מלי קושא: << אורח >> גם בתהליך ההכשרה, גם On the job training, גם בנהלים שיוצאים דרך הרגולציה. ממשל ומנהיגות – שילוב אחיות בוועדות אתיקה קיימות ובגופי קבלת החלטה על אימוץ AI. אני מצפה שאחות תהיה כנציגה בכל הגופים שמקבלים החלטות על לאמץ AI. הכשרות פנים-ארגוניות – עיצוב משותף, גם מבחינת ההפעלה, איך זה ייראה, מעורבות פעילה בכל שלבי הפיתוח וההטמעה של המערכת כדי לוודא התאמה ל-Workflow לאורך כל הדרך, פרוטוקולי חירום. המקצוע שמחזיק ברובו את מערכת הבריאות הוא אחים ואחיות, והן צריכות להיות שם, לייצג את המטופל, להיות הסנגור גם של המטופל, ולתת את האינפוטים המקצועיים שלהן. פרוטוקולי חירום – להגדיר נוהל עבודה במצבי קיצון המבטיח ששיקול הדעת האנושי נשאר מכריע גם כשמערכות ממוחשבות קורסות. קו החזית: קליניקה, אקדמיה ומחקר – להמשיך במחקר, לבסס את שיתופי הפעולה בין השדה הקליני לאקדמיה, לבחון את ההשפעות האתיות. אנחנו מבצעים מחקר גם דרך לשכת האתיקה, ליצור פרקטיקות מבוססות ראיות, דרושים תקציבים לכל הדבר הזה. פרקטיקה קלינית – להפעיל שיקול דעת עצמאי, בחינה ביקורתית של פלטי המערכת אל מול הידע הקליני, חובת דיווח בזמן אמת על הטיות ופגיעה בפרטיות והגנה על כבוד המטופל. חינוך ואקדמיה – להכשיר את הדור הבא באוריינות דיגיטלית וכשירות אתית לפתרון דילמות בסביבה רוויית טכנולוגיה. הרחבת המעגל: המטופל כשותף פעיל – וכשאני אומרת המטופל כשותף פעיל, לקחת גם את העמותות שמייצגות את המטופלים ככאלה שיודעות לתת את הטון של המטופל. למטופל הזכות למידע, חובת המערכת להנגיש מידע ברור ומותאם למטופלים על האופן שבו AI מעורב בהחלטות הרפואיות שלהם. קבלת החלטות משותפת – נציגי מטופלים ועמותות הם שותפים אקטיביים משלב התכנון ועד למשוב והערכה, כשהמטרה העליונה לשמר חוויית טיפול מכבדת, שוויונית והוגנת בה הטכנולוגיה משרתת את האדם ולא להפך. ומפה אנחנו קוראים גם לתעשייה. כשהולכים להעלות איזושהי טכנולוגיה להבין את ההקשר הקליני, ובלי שנשים שם את אנשי המקצוע אי אפשר להבין את ההקשר הקליני. האם המערכת פותחה תוך שילוב אחיות כבר בשלבי ה-UI/UX המתקדמים? שקיפות הנתונים, האם מטרת המערכת, מקורות הנתונים שלה והמגבלות שלה מתועדים ונגישים לצוות הרפואי, שיוכלו לעיין בהם? גיוון וישראליות – האם מערכי הנתונים שעליהם אומן המודל משקפים נאותה את המגוון הדמוגרפי שלנו במדינת ישראל? וזו קריאה לתעשייה שמפתחים ומתייגים את כל התחום של AI. החלטות טכנולוגיות שמתקבלות היום מעצבות את גבולות הבטיחות וההוגנות של המחר, ועיצוב משותף הוא הכרח ולא המלצה. ואם נסכם את מטרת העל, בינה מלאכותית אחראית, מבחינת בטיחות – מפתחי הטכנולוגיה צריכים לדאוג לתיעוד מגבלת האלגוריתמים, בקרה קלינית עצמאית על ידי האחיות, ורגולציה ומנהיגות צריכה לדאוג לתקצוב, תקינה ובקרה. שוויון – אימון על דאטה רב-תרבותי, דיווח על הטיות בשטח, הבטחת נגישות לפריפריה ולשמור על האנושיות, חמלה ואמפתיה. עיצוב המעצים מטופלים, שימור המגע האנושי כיסוד ומניעת שחיקת כוח אדם. אתיקה בבינה מלאכותית אינה מסמך נהלים, היא מערכת הפעלה משותפת שמחייבת סנכרון מושלם בין כל גורמי המקצוע. מדובר במצפן ערכי במציאות משתנה, ולכן הגדרנו גם בסיום המסמך שהמסמך יעודכן מעת לעת ככל שתהיה התקדמות בנושא, ואני אשמח לעבור לאתר. זה האתר של לשכת האתיקה, שהוא גלוי. אי אפשר לעבור את היום הזה בלי להזכיר את אילנה כהן, יו"ר הסתדרות האחים והאחיות האגדית שכל האחים והאחיות והחברה כולה חייבת לה תודה, יהי זכרה ברוך. << יור >> היו"ר יונתן מישרקי: << יור >> יהי זכרה ברוך. << אורח >> מלי קושא: << אורח >> פעילות הלשכה מתוארת כאן, הדילמות, ניירות העמדה, אם ניכנס לניירות העמדה נוכל לראות, המחקרים האתיים נמצאים פה. אפשר לפנות אלינו בפנייה של האחים והאחיות. שאלת על פניות, סוגיות אתיות מגיעות אלינו לשולחן, סוגיות משמעתיות מגיעות למינהל האחיות במשרד הבריאות. ואנחנו, כשמגיעה אלינו פנייה והיא משמעתית, מעבירים אליהן ולהפך. << יור >> היו"ר יונתן מישרקי: << יור >> נהדר. קודם כול, המצגת ערוכה ברמה מאוד גבוהה. גם התוכן, אבל גם העריכה שלה, מאוד אהבתי. למעשה, הרבה מאוד דברים מקבילים בין ששמענו פה קודם. << אורח >> מלי קושא: << אורח >> נכון, לגמרי. אמרתי, אנחנו מתואמים. << יור >> היו"ר יונתן מישרקי: << יור >> נכון. התייחסת קצת לנושא של תיקצוב, רגולציה. << אורח >> מלי קושא: << אורח >> רק הקוד האתי מתייחס גם לאחיות, גם למנהלים, גם לרגולציה וגם לתעשייה. << יור >> היו"ר יונתן מישרקי: << יור >> בהחלט, יישר כוח על זה. תודה לך. ד"ר תמר וכטר, בבקשה. << אורח >> תמר וכטר: << אורח >> אני הנציגה של ההסתדרות, אני יושבת ראש חטיבת החינוך בהסתדרות האחיות. אני פעם ראשונה פה. << יור >> היו"ר יונתן מישרקי: << יור >> ברוכה הבאה, מוזמנת תמיד. << אורח >> תמר וכטר: << אורח >> תודה. מאוד התרשמתי מהעבודה, גם של הרופאים וגם של האחיות, אבל אני יושבת בוועדות שימוע במשרד הבריאות מטעם מישהי שמנסה להגן על האחיות אם אפשר ולמנוע התליה של הרישיון, ואם יש התליה של רישיון, לפחות לצמצם את הזמן של ההתליה. אני עברתי על דף העמדה, הוא יוצא מן הכלל, הוא מדבר על חמישה עקרונות מאוד - - - אני גם באה מתוך החינוך, הייתי סגנית מנהלת בית ספר לאחיות 15 שנה רק, וחינכתי, אני חושבת, אלפים של אחיות צעירות, והמשכתי גם אחר כך. אני רוצה להגיד לכם שיש דבר אחד שהוא חסר. אני לא יודעת מה לגבי הרופאים, כי מתוך הניסיון שלי, רופאים בדרך כלל בוועדות שימוע מצליחים יותר טוב מאיתנו, מהאחיות, וזו ממש פרקטיקה, אלה עובדות. ופה אני רוצה לדבר על הנושא הזה של רגולציה באמת. אם אחות בתום לב עושה את מה שהציע לה AI ונגרם נזק, של מי האחריות? האם אנחנו חוזרים לאותה תופעה שהאחריות נופלת על הכתפיים של האחות? מה לגבי הארגון שהטמיע את הטכנולוגיה הזאת? מה לגבי אותם אנשים שפיתחו אותה? הרי אחת הבעיות של AI היום היא מחסור באימון. אתם יודעים על מה אני מדברת, מחסור באימון? מאמנים את המערכת. אני אתן לכם דוגמה. נסעתי באמצע הכביש, יש לי פנצ'ר. אני שואלת את ה-AI איפה אני יכולה לתקן את הפנצ'ר כמה שאפשר יותר מהר, ואז הוא אומר, תיסעי ככה וככה, עוד 5 ק"מ, יש לך תחנת דלק. AI לא יודע שאי אפשר לנסוע עם אוטו שיש לו פנצ'ר בגלגל. זו בדיוק הדוגמה שלפעמים הוא נותן בכלל תשובות, ואני מכירה את זה מסטודנטים שכותבים סקירת ספרות באמצעות AI, מאמרים שבכלל לא קיימים ומחברים שאין דבר כזה, בכלל לא קיים. אתם בטח כבר שמעתם ויודעים את זה. ולכן אני אומרת שכאן, אם כבר אנחנו מתעסקים במשהו מאוד חדש, צריך לתת על זה את הדעת לגבי הרגולציה, שהאחריות לא תיפול, זה מה שקורה בדרך כלל, זה נופל על הש"ג, זה נופל על האחות. שזה לא ייפול אך ורק על האחות, גם הארגון יהיה שותף לסיפור הזה, גם החברה שפיתחה את הטכנולוגיה, גם מחלקת מחשבים שהטמיעה את הטכנולוגיה הזאת, וגם הרגולטור, משרד הבריאות, שיעמוד מאחורינו. << יור >> היו"ר יונתן מישרקי: << יור >> מה קורה בעולם בהקשר הזה? יש גיבוי לאחיות במקרים כאלה? יש כללים? << אורח >> תמר וכטר: << אורח >> ממה שאני יודעת, בעולם הם די מפגרים מאחורינו, אני מצטערת להגיד לכם. לא מזמן פגשתי אחות מגרמניה ששם זכויות החולה הן מעל הכול. כלומר, אתם לא יכולים להכריח אותם לבוא לעשות חיסונים אם האנשים בעצמם לא מוכנים. אתה מבין שזכויות הפרט הן הרבה יותר מעבר למערכת הבריאות בדרך כלל במדינות האלה. << אורח >> מלי קושא: << אורח >> כללי אתיקה קיימים בעולם בקרב כל ארגוני האחיות. << אורח >> תמר וכטר: << אורח >> כן, אבל לא ב - - - << יור >> היו"ר יונתן מישרקי: << יור >> לא, אני מדבר על AI. << אורח >> מלי קושא: << אורח >> על AI. << יור >> היו"ר יונתן מישרקי: << יור >> כרגולציה או ככללים של ועדות? << אורח >> מלי קושא: << אורח >> זה כתוב ומצוטט בנייר העמדה שלנו. << אורח >> יוסי ולפיש: << אורח >> כמובן שכללים נכתבו כבר בכל הארגונים, גם הרפואיים וגם של הסיעוד כמובן. << יור >> היו"ר יונתן מישרקי: << יור >> לא, שאלתי על תכנים רגולטוריים, לא על - - - << אורח >> יוסי ולפיש: << אורח >> אבל אני רוצה להגיד שברגולציה זה מתפצל בעולם. למשל בתחום של הגנת הפרטיות יש את חוק הגנת הפרטיות האירופי, שהוא חוק מאוד מאוד מתקדם, האמריקאים הכניסו כללי פרטיות מאוד מתקדמים. בשני המקומות נושא הפרטיות יותר חזק מאשר הרגולציה של מדינת ישראל בהקשר הזה. << יור >> היו"ר יונתן מישרקי: << יור >> לא נראה לי ששי מסכים איתך. << אורח >> יוסי ולפיש: << אורח >> אני יכול לתת לך לפחות דוגמה אחת לעניין הזה. כשאתה נכנס לדיסקליימר של Open Evidence, שהוא הכלי שהצגתי לכם מקודם, שמשתמשים בו הרבה קלינאים, הוא כלי אמריקאי שעומד בכל הכללים של הפרטיות האמריקאיים, אבל הם כותבים מפורש בדיסקליימר שהוא לא עומד בכללים האירופיים למשל, שהם יותר מחמירים. כמובן שהוא לא מתייחס לישראל. בהקשר הזה יש חוקים שעוסקים בפרטיות שהם מאוד מאוד מתקדמים במדינות העולם. בדברים אחרים, כל תחום מהתחומים הוא שונה. יש דברים שהם הרבה יותר פרוצים מאשר אצלנו, יש דברים שהם הרבה יותר אחרים. אני, בניגוד לחברתי, חושב שאין מנוס מלהטיל את האחריות בסוף על הקלינאי בשטח, זה לא משנה אם זה יהיה הרופא או האחות. כמובן שגם למערכות יש חובת אחריות בעניין הזה, אבל בסוף איש המקצוע שעושה את השימוש בכלי חייב ללמוד. אנחנו פועלים בעניין הזה. ההסתדרות הרפואית הקימה מרכז לחדשנות שמכשיר רופאים, גם מאפשר לרופאים להשתלב בתעשייה, יוצר קשר עם התעשייה ומכניס רופאים לתוך מערכות של פיתוח מערכות, וגם מכשיר רופאים לנושא הזה של אחריותיות ואחריות וידע בשימוש בכלים כדי שהרופאים ידעו לקחת את האחריות על הדברים האלה. << יור >> היו"ר יונתן מישרקי: << יור >> אוקיי. אני מזכיר רק שאנחנו שמענו עכשיו את הרופאים, שמענו את האחיות, קיבלנו נייר עמדה של הסתדרות הפסיכולוגים, ואני הייתי רוצה לדעת בהמשך הדיון הזה אם יש עוד מקצועות בריאות שזקוקים לכללים אתיים בנושא השימוש ב-AI. אבל לפני שנגיע לזה נבקש לשמוע את עו"ד לאה ופנר, מנכ"לית ההסתדרות הרפואית, בבקשה. היא איתנו בזום. << אורח >> לאה ופנר: << אורח >> תודה רבה לכם. אני קודם כול רוצה לברך את הוועדה על עצם קיום הדיון. אני חושבת שזה דבר לא רק מבורך, אלא צריך לציין, אני בטוחה שאמרו את זה קודם, אבל לא הרבה פעמים רואים שהכנסת, או הוועדה של הכנסת מאמצת נושא חדש ומתעסקים בו ומעלים את זה למודעות. ובלי קשר למה יחליטו או מה יעשו, עצם ההעלאה למודעות, יש לזה חשיבות מרובה. אני חושבת שגם עצם העובדה שיש קיום של הדיון מחדד לכל הגופים לקראת הדיון דברים שרוצים לומר ודברים שרוצים להגיד. באמת אני מאוד מאוד מברכת את יושב הראש ואת כל חברי הוועדה. הדבר השני, אני אשתדל להיות קצרה, כי אנחנו כבר דיברנו, ולשכת האתיקה כבר הציגו את הדברים בצורה מצוינת. אני רוצה קצת לתת לכם את המבט איך אנחנו רואים את זה. אנחנו כבר עושים דברים בשטח, אנחנו כבר למעלה משנה בתוך העניין הזה. ההסתדרות הרפואית החליטה שנושא הבינה המלאכותית, ושהרופאים חייבים ללמוד את זה, להשתתף בזה, להיעזר בזה כשצריך, זה לא דבר חדש לנו, ואנחנו חייבים להשקיע את כל המשאבים הנדרשים לצורך העניין, ולכן עשינו כמה דברים. אחד, אנחנו בעיצומו של כתיבת נייר עמדה הרבה יותר Policy כולל ומקיף שהתחלנו בנושא של הכללים האתיים, כי ראינו בזה את מרכז הכובד. אני רוצה לומר שבמקביל אנחנו כרגע בעיצומו של כתיבת פרקים-פרקים, יש לנו פרק שלם על מחקר, פרק על יחסי עבודה, פרקים על המשמעות של רופא בעידן של נושא הבינה המלאכותית. כשהכול יהיה מגובש נשמח מאוד לשתף כמובן את הוועדה ואת כולם. כרגע הלכנו עם מה שראינו כדחוף ביותר והחשוב ביותר, שזה הנושא של האתיקה. במקביל, אנחנו כבר התחלנו ויצרנו קהילה של רופאים שכבר לומדים את זה, עשו את זה, יש לנו מיט-אפים, יש לנו קהילה של קרוב ל-1,000 רופאים, שמה שהם עושים בין לבין זה מתעדכנים כל הזמן. צריך, בוודאי אמרתם את זה, אני מצטערת, פשוט לא יכולתי לשמוע, שהתחום הזה, באמת לא עובר שבוע והכול משתנה וכל מה שידענו וראינו אתמול, זה כבר נהיה אחרת, וזה בקפיצות מאוד משמעותיות. אני כן חייבת להגיד משהו ממחקר שדווקא עשתה חברת Deloitte העולמית. מסתבר שהשימוש ב-AI, למרות שכולם רוצים כמובן שהוא יהיה בתוך תחום הרפואה, בתוך התחום של ההחלטות הקליניות, יש, א', עמדה ברורה שזה יהיה תומך החלטה ולא מקבל החלטה, ולכן זה משתלב עם מה שכרגע נאמר על ידינו, שאנחנו קיבלנו את זה שהאחריות תמיד תישאר אצל הרופא, וזה גם כנראה המצב. דבר שני, יש המון המון שימוש בחלקים האדמיניסטרטיביים ולכל מיני דברים, ודווקא בנושא של ה-Support System של תומך ההחלטה, מתהווים ומנסים לשפר את זה שזה יהיה נכון, בעיקר לנוכח הדברים שכולם יודעים, ולמגבלות, אני לא צריכה להגיד, כבר נאמר על כל המגבלות שיכולות להיות לכל כלי ה-AI. באמת העולם הרגולטורי בגדול מדבר על סוגיות של פרטיות, או על סוגיות בכלל של קניין רוחני, אבל הסוגיות שאנחנו מעוניינים לבדוק אותן ולדעת אותן, בנוסף לפרטיות ובנוסף לזה, זה באמת להתגבר על סוגיות ההזיות או הקופסאות השחורות, ואני מקווה שנהיה שם. מה שעוד עשינו בהסתדרות הרפואית, המועצה המדעית העבירה החלטה לפני שבוע שכל המתמחים יצטרכו לעבור קורס חובה בנושא ה-AI, זאת אומרת שהתשתיות יהיו שם. יש לנו כרגע מספר קבוצות עבודה, וככל שהוועדה תרצה, נוכל לסכם כשזה יקרה. אחת, באמת מדברים על החינוך הרפואי, אילו שימושים ומה צריך במסגרת החינוך הרפואי להיעזר ב-AI או ללמוד את ה-AI. והדבר האחרון שאנחנו רוצים לעשות ואנחנו כרגע בתהליכים אחרונים זה בסוף להוציא את כל כללי האתיקה ועוד כללים שישנם בצורה הרבה יותר של שאלות ותשובות לאנשים, ואני פה רוצה לגעת בנקודה האחרונה. תראו, אפשר לכתוב ניירות מצוינים, אפשר לכתוב רגולציה, דברים מאוד מאוד גורפים, כמו ששמענו, מקיפים את הכול, ובאמת זה מצוין, אבל בסוף צריך לחשוב בראש של הקלינאי בשטח ולנסות להבין, וזה מה שאנחנו רוצים לעשות עכשיו, מה הוא יכול לעשות, מה ריאלי לבקש ממנו, מה לא ריאלי לבקש ממנו. ריאלי לבקש ממתמחה רופא בתוך המחלקה, אני שואלת את זה בתור שאלה, האם הכלי שעומד בפניו עבר את כל הבדיקות הנדרשות, האם זה אומן על מטופלים שדומים למטופלים שהוא מטפל, או שאנחנו נגיד לא, אבל מה שריאלי זה שהוא ישאל את מי שמביא לו את הכלי, שזה יכול להיות מנהל המחלקה, מנהל המוסד, מנהל המרפאה, האם אתם בדקתם שהוא עומד בכללים א', ב', ג'? מה שאנחנו חושבים שצריך לעשות כדי לעודד את זה ולא למנוע את זה זה לחשוב בראש של הרופא בשטח ולנסות לראות דרכו מה הגיוני ומכל אחד לבקש דברים אחרים. עכשיו באמת משפט אחרון, מתנצלת. אנחנו פתחנו משא ומתן להסכם קיבוצי חדש אתמול, והנושא שאנחנו מבקשים לעשות ולהסדיר אותו, זה גם במסגרת ההסכם הקיבוצי מול המעסיקים כולם, להסדיר את כל הנושאים של ה-AI. זה גם יסדיר נושא של אחריות, זה גם יסדיר זמן לימוד, אני מקווה, אלה הדרישות שלנו, וזה גם יסדיר את מה שאנחנו צריכים, למשל, אחד הדברים שאנחנו יודעים, ש-AI יכול לקצר זמנים, אבל בהרבה דברים יכול להאריך, כי אנחנו כן מצפים שהקלינאי ייכנס לתוך הדבר הזה, ילמד ויראה האם ההמלצות או האבחנות הן לא דברים שהוא היה אומר אותן באופן טבעי, הוא צריך להיכנס וללמוד איך זה קרה. וכמובן נושאים של רשומה רפואית, שגם שם צריך לראות איך אנחנו עושים את זה. אנחנו מאוד נשמח לשתף את הוועדה ככל שהוועדה תרצה, ואנחנו נקווה מאוד שאנחנו נמצא את האיזון הנכון בין הרצון שנשתמש ונתקדם וניעזר בזה לבין להביא את הרופאים, שהם יהיו כולם באמת באוריינות מלאה ולהבין את ההזדמנויות ואת הסכנות ולפעול בהתאם. תודה רבה. << יור >> היו"ר יונתן מישרקי: << יור >> תודה רבה על הדברים. אני מוכרח לומר שהצפת לנו בכל כך הרבה שאלות שרק מעמיקות. << אורח >> לאה ופנר: << אורח >> אני מתנצלת. << יור >> היו"ר יונתן מישרקי: << יור >> לא, הפוך, לטובה אני אומר. אלה שאלות שמחדדות הרבה את המחשבה בהקשר של ההעמקה בצורך בבחינה ובקביעת הכללים ובקביעת הסטנדרטים ובקביעת אולי אפילו החוקיות בהקשר רגולציה, בהקשר של כל השימוש והלמידה, וכמובן התקצוב. ומה שאתם עושים כלפי הרופאים, צריך לעשות גם כן כלפי האחים והאחיות. אם מטמיעים את זה כבר בשלב הלימודים, כמו שיש לכם מועצה מדעית, צריך לראות מי נותן את ההנחיות לגבי פסיכולוגים וכמובן לגבי האחים והאחיות ולגבי מקצועות נוספים. אבל טוב שהעלית את הנקודות הללו. תודה לך, תודה רבה. ד"ר חגית פדובה רוצה לומר משהו? לא, אוקיי. אם היא תרצה, היא יכולה כמובן לדבר. לירון פלצ'י נדלר בזום, מנהלת רפואית מדיקל ממכבי, שלום וברכה. << אורח >> לירון פלצ'י נדלר: << אורח >> רציתי לשתף קצת במה אנחנו במכבי עושים בכל תחום ה-AI, והרבה ממה שד"ר ולפיש ציין מבחינת קווים אתיים מאוד משיק למה שאנחנו החלטנו לממש, כאשר אחד הדברים המאוד משמעותיים זה באמת כלי תומך החלטה. בכל רגע נתון החלטנו להשאיר את הקלינאי כמובן בלופ, מתוך הבנה שבסוף האחריות נופלת עליו, לא משנה באיזה כלי הוא ישתמש ואיך הוא הגיע להחלטה שהוא הגיע. גם אם הוא היה קורא את המאמר וגם אם Open Evidence לצורך העניין נותן לו את הליד, "תקרא את המאמר הזה כי זה ייתן לך תשובה לשאלה", תמיד השארנו את הקלינאי בלופ. וגם בחרנו להתחיל את העבודה בעיקר בתחומים של הרשומה הרפואית, שבעינינו זה מקום שיש בו ערך מאוד גדול, כי אנחנו מטייבים את הרשומה, ומהצד השני, רמת הסיכון היא יחסית נמוכה בניסיון לפתור את מה נמצא בתוך הקופסה, כי למעשה זה עוזר לקלינאי, בין אם זה לכתוב את הביקור כי הוא שומע והוא מתמלל, ובין אם זה לקודד אבחנות. אני לא יודעת אם חבריי פה לארגוני הבריאות יעידו שקידוד אבחנות בביקור הוא מאוד מאוד בעייתי, בעיקר כי הקלינאים לפעמים מתייחסים לזה בתור שדה חובה, ולכן האבחנות הן אבחנות אדמיניסטרטיביות. דווקא באזור הזה החלטנו שאנחנו נותנים את הפוש ואנחנו מאפשרים לקלינאי לבחור מתוך אבחנות שהמודל מציע לו. וזה מחבר אותי גם לנקודה הבאה, שמתוך הבנה שהמודלים האלה הם קופסה שחורה והם לא תמיד בני הסברה, כמות הוולידציות שאנחנו עושים על מודל כזה ברגע שאנחנו מחליטים להכניס אותו לתוך התיק הרפואי היא משמעותית והיא מתבצעת על ידי רופאים מנוסים ובכירים שכל פעם שולחים את המשוב שלהם ואומרים "לא, תתקן זה עדיין לא מספיק מדויק". וכדי להתמודד עם חוסר ההסברתיות של המודלים אנחנו ממש מבקשים ממנו, "תגיד לנו מה הבעיה או מה הנושא שזיהית בביקור", למשל כאבי ראש, כאבי בטן, "ורק אז תציע לי את האבחנות", משמע תיתן לי עוד שלב שבו אני מאמינה למה הצעת לי את מה שהצעת. עם זאת, אנחנו בינתיים די מתרחקים מהתחום של המלצות על בירור רפואי או טיפול, מתוך הבנה שזה מאוד בעייתי ויכולת ההסבר פה היא רגישה. ולמרות שהקלינאי בלופ והקלינאי יכול לראות ולבדוק מה המודל מציע לו, אנחנו באמת מפחדים ממה שנקרא הרופא של מחר שלא ידע לשאול את השאלות האלה ויניח שהמודל נותן לו תשובות שהן מבוססות ועלול לקבל אותן כלשונן מבלי להפעיל את התהליך של הביקורת. לגבי כל מה שקשור לחשיפה של מודלים עם כל מה שקרה ביום חמישי, כולנו קראנו את הכתבות על זה שבתי החולים הממשלתיים חסמו גישה לאתרים שמנגישים מודלי בינה מלאכותית, אני יכולה לומר שספציפית במכבי קיים קישור ל-Open Evidence, זה לא קישור ארגוני, משמע כל רופא שבוחר להשתמש בו נרשם עם שם המשתמש שלו ועם הסיסמה שלו, בדיוק כמו שד"ר ולפיש ציין, חלקנו עושים את זה פשוט בטלפון. ולמרות שזה מונגש על ידי מכבי, זה לא מאובטח מהבחינה הזאת שאנחנו לא נותנים גישה מתוך התיק הרפואי לתוך המערכת, זה פשוט לינק באותה מידה ש-Ynet הוא לינק על שולחן העבודה. וגם אנחנו כרגע נמצאים במקום הזה שאנחנו בוחנים האם החסימה היא באמת יעילה, כי בסוף, אם לא דרך המחשב, דרך הטלפון, והמטרה היא באמת להכשיר את הרופאים שלנו לשאול את השאלות של "מה אני לא יודע שהמודל מציע לי ואיפה אני צריך להיות ביקורתי כלפי ההמלצות שלו". << אורח >> יוסי ולפיש: << אורח >> אני רוצה לשאול על זה שאלה. יש גישה שונה של רופא כשהוא משתמש בטלפון שלו לבין כשזה נמצא בתוך המחשב של קופת חולים, ולכן השאלה היא האם לא שווה להשקיע את המשאב שדורש לרכוש מנוי שחוסם כניסה למערכות כשזה נמצא בתוך מערכת שהיא פורמלית של ארגון בריאות, בשונה מהטלפון שלי, שכשאני משתמש בו, ברור לי שזה משהו שאני עושה באופן פרטי והרבה יותר פרוץ. << אורח >> לירון פלצ'י נדלר: << אורח >> זו שאלה טובה, אני יכולה להגיד שאנחנו כן פנינו למשל ל-Open Evidence מתוך רצון לייצר שיתופי פעולה מאובטחים, וגם כמובן הרבה יותר איכותיים, כי מן הסתם, אם אני כקופה מחליטה לחשוף את המידע שלי, זה חייב להיות סגור, המודל לא יכול אחר כך ללמוד מזה, להתאמן ולחשוף את המידע לגורמי חוץ. כרגע הם לא כל כך משתפי פעולה עם ארגונים גדולים. אני כן יכולה להגיד שאנחנו במגעים למשל עם UpToDate, מתוך הרציונל הזה של להנגיש משהו לרופא, אבל שעדיין יהיה מאוד מאוד מאובטח, כי נושא הפרטיות הוא כמובן נושא מאוד מאוד חשוב. << יור >> היו"ר יונתן מישרקי: << יור >> אוקיי, תודה רבה לך. ד"ר משה רוזמן מכללית, גם בזום. << אורח >> משה רוזמן שלם: << אורח >> שלום. << אורח >> לילך צולר: << אורח >> אנחנו מכללית, שמי ד"ר לילך צולר, אני ראש אגף טכנולוגיות רפואיות, ונמצא איתי ד"ר משה רוזמן שלם מחטיבת החדשנות. אני אתחיל בלתאר את הדברים שיש פה בכללית, ד"ר משה ימשיך על הדברים החדשים שמחכים לנו מעבר לפינה ולאיפה העולם הזה מתפתח. קודם כול אני רוצה להודות ללשכות לאתיקה על ההצגה של העבודות היפות, זה מאוד מרשים וחשוב. נכון להיום, כלי AI שעובדים בכללית נמצאים בהלימה לעקרונות האתיקה המוצעים. לגבי שימוש במודלי שפה, הכללית חסמה כבר לפני שנים כל שימוש בכלים של מודלי שפה חינמיים ולא מפוקחים, בדוגמה למה שהיה פה בסוף השבוע האחרון, כמו ChatGPT, על מחשבי הכללית, הם חסומים, וכללית רכשה רישיונות אנטרפרייז מפוקחים שמבטיחים שהמודלים לא לומדים מתוך השאלות, הם מורצים בסביבה סגורה ושנתונים לא יכולים לדלוף ממנה, ואפילו ברישיונות המאושרים יש מנגנון של מניעת דלף מידע כדי למנוע העלאת מידע שלא אושר אפילו לרישיונות האלה. מה לגבי הקלינאים? כללית ניסחה כללי זהב לשימוש של משתמשי קצה במוצרים האלה, עם יידוע אפשרות של כל הסכנות שתוארו כאן בכלי בינה מלאכותית, כמו השמטות, כמו הזיות, כללי שימוש זהירים. המסמך הזה הופץ בכלל הארגון, ובנוסף גם היו הדרכות ב-Teams עם מעבר על העקרונות לחלק מהמשתתפים, למי שהתחיל לפחות. ויש כמובן, כמו שתיארו פה, את הצורך בהכשרות. בהכשרות בפרופסיות רבות נכנס כבר הנושא של בינה מלאכותית, גם בלומדות, גם בהשתלמויות, ואני חושבת שהתכנים ממשיכים כל הזמן להתפתח. לגבי כלים שכבר יש לנו, מוצרים שיש לנו, אני אתן דוגמה במוצרים בדימות, כמו Aidoc, iCAD, כמו C-Pi. כל המוצרים שנמצאים בכללית, יש לנו תהליכי הערכה מתודולוגיים, וזה אפרופו שתיארו פה איך הקלינאי או איש הצוות יודע שהכלי שהוא משתמש בו, הוא אומן על הדאטה סט הנכון, שהוא מתאים, שמותר לו להשתמש, כללית פיתחה כלי הערכה שפורסם בספרות, ב- New England Journal of Medicine AI, שנקרא OPTICA, והכלים שנכנסים לשימוש בתוך כללית עברו את הכלי המתודולוגי הזה. אני מזמינה את כולם לקרוא, זה מאוד מעניין ומקיף. הכלים או המוצרים שנכנסו לתוך כללית הם כלים שבאמת מספקים הסברתיות, מה שדובר פה קודם על ידי ד"ר ולפיש, ואפשר לבוא ולעשות איזושהי השוואה שאנחנו מסבים את תשומת הלב של הקלינאי למשהו שאולי הוא פספס, בין אם זה נמצא בצילום או נמצא ב-CT או אילו שהם Guidelines בתחום של סוכרת, אולי הוא לא רואה, היה ער שהמטופל עומד בתנאים. והקלינאים הם אלה שעושים את השיקלול של כלי העזר הזה, וזה אחד מעוד כלי עזר שהם משתמשים בו, כמו שהם היו הולכים לטקסטבוק או לאינטרנט או UpToDate, והם אחראים גם לתווך את ההחלטות הרפואיות שלהם למטופלים, כמו שהם תמיד עשו. כאן אלה כלים עם הסברתיות, אין כאן קופסה שחורה, בתהליך שלא שונה במהותו מכל תמיכה בקבלת החלטות עד כה, והרופאים מקבלים את ההחלטה מתי להשתמש במערכות האלה. וגם כאשר אנחנו מכניסים את המוצרים האלה או את הכלים האלה אנחנו עושים הדרכות מאוד מאוד מסודרות שמסבירות להם שמדובר בכלי תומך החלטה, שהאחריות הקלינית ושיקול הדעת נשארים בידיים שלהם. ולגבי מה שצופן לנו העתיד, אני מעבירה לד"ר משה רוזמן שלם מחטיבת החדשנות, בבקשה. << אורח >> משה רוזמן שלם: << אורח >> תודה. לצד זה חשוב לנו להוסיף ולהדגיש גם שאנחנו עוסקים בתחום שמתקדם במהירות אדירה, ולא רחוק היום שבו יהיו כלים שייצרו תובנות חשובות ומדויקות, אבל שהן לא בהכרח מאפשרות הסבריות מלאה, כמו שדרך אגב הרבה מהטכנולוגיות הקיימות היום אינן מוסברות באופן מלא. למשל, הרבה מהתרופות שאנחנו משתמשים בהן, לא כל רופא, או באופן כללי, לא כל עולם המדע יודע על כל תרופה בדיוק איך המנגנון שלה פועל עד הסוף, וזה לא מונע מאיתנו להשתמש בה אם היא עברה את הניסויים הנכונים ואם אנחנו מרגישים מספיק בטוחים ושיש לנו מספיק ניסיון איתה בשביל לדעת שיש לה פרופיל יעילות ובטיחות שהם מספקים, וזה באמת מתוך הרבה - - - וניסויים. אותו דבר אנחנו חושבים שיכול להיות עם כלי AI שיכולים לקדם אותנו. באופן דומה, כלים שיגיעו לרמות דיוק גבוהות, שיהפכו להיות ה-Standard of care, ויאפשרו באופן פוטנציאלי יותר אוטומציה, יכול להיות שזה יהיה משהו שיהיה נכון להשתמש בו, ובהתאם, יכול להיות שהם לא יאפשרו באופן ישים הסכמה מדעת בכל נקודה ונקודה, חוץ מכמובן בנקודות שהן חורגות מה-Standard of care, ובאזורים כאלה כמובן שאנחנו צריכים ליידע את המטופל באופן אקטיבי על כל דבר כזה. אבל אם אנחנו לא מגיעים לשם, אנחנו נצטרך לבחון האם ואיך נכון לעשות את ההסכמה מדעת הזאת. לאור זאת, אנחנו צריכים להמשיך ולבחון את הישימות של ההצעות - - - ככל שאנחנו מתקדמים כחלק מהצורך - - - להתמודד עם המתח של קדמה מול בטיחות, אמון המטופלים והציבור. באופן כללי, בשירותי בריאות כללית, הנושא של שימוש אחראי בבינה מלאכותית הוא ממש נר לרגלנו, אנחנו תמיד הובלנו את העיסוק ב-Responsible AI, אנחנו עוסקים באופן עמוק גם בנושאי הוגנות של מודלים, שנגעתם בנקודה הזאת, וגם תהליכי - - - ואנחנו נמשיך לעשות את זה גם בעתיד. ככל שהטכנולוגיה תגיע למצב שתהיה בשלה להגיע לשלבים שיש בהם פחות אפשרות להסבריות ויותר אוטומציה, אנחנו נצטרך להמשיך ולמצוא את האיזון הזה בין קדמה לבין אמון, שקיפות ובטיחות. תודה. << יור >> היו"ר יונתן מישרקי: << יור >> תודה רבה. האמת היא שכשאני שומע אתכם וכשאני שומע את הקופות אני ממש הייתי כבר מחכה לשמוע את מה שהמשרד עושה בשביל גם כן להכשיר את הכלים האלה, אולי לפקח עליהם, לראות, אבל עוד שנייה, אני אתאפק עוד טיפה, כי לפני כן אני רוצה לשמוע את ד"ר חגית פדובה, היא איתנו גם כן בזום, היא ראש הצוות. שלום, גברתי. << אורח >> חגית פדובה: << אורח >> שלום, ואני מתנצלת קודם על אי הזמינות. אני לא אחזור על מה שנאמר ואני אגיד ככה. א', אני ד"ר חגית פדובה ואני סמנכ"לית איכות ובטיחות באיכילוב, וגם חברה בוועדת האתיקה של הר"י ועמדתי בראש הצוות שכתב את נייר העמדה. כשכתבנו את נייר העמדה הכוונה הייתה לקבוע כללי התנהלות והתנהגות שאנחנו מצפים או איזושהי מסגרת התנהגות שאנחנו מצפים מהצוות הרפואי לנהוג על פיה בהתייחס לכל הכנסה של המערכות, וכל זה כבר נאמר. אני רוצה להגיד שני דברים. אחד, האחריות הארגונית, דיברתם על זה קצת, ואני חושבת שאנחנו, ואולי כאן אני אדבר בכובע שלי כסמנכ"לית בבית החולים, אנחנו מהר מאוד הבנו שאנחנו בתהליך שאם אנחנו לא נפעל מהר, אנחנו נאבד שליטה, והאחריות שלנו כלפי הכלים האלה שאנחנו מכניסים לתוך הארגון היא מלאה. אנחנו לא יכולים בסוף, וגם זה נאמר, להטיל את האחריות על האדם בתוך המערכת שאנחנו מאפשרים לו שימוש בכלים מבוססי בינה מלאכותית שידע להסביר או לבדוק האם הכלים האלה נכונים או לא. אנחנו נעודד אותו לחשיבה ביקורתית, אנחנו נגיד לו שהאחריות היא עליו, אנחנו נגיד לו "תשמור על הפרטיות", אבל בסוף האחריות היא אחריות של הארגון, ולזה קוראים ה-Governance של ה-AI. ואנחנו קבענו תהליך מאוד מאוד מוסדר, עם חוקים מאוד מאוד ברורים של הכנסה של כלי AI, גם מוצרי מדף שאנחנו מכניסים לתוך הארגון, וגם מוצרים שנבנים ומאופיינים כאן באיכילוב צריכים לעבור תהליך מאוד מאוד ברור של רגולציה, של בדיקת יעילות, של בדיקת בטיחות ושל אישור אבטחת מידע. ובנוסף, ואולי המרכיב הכי חשוב והלא מדובר, בקרה מתמשכת. אחד מהדברים שאנחנו דורשים זה שיהיה לנו מנגנון של ולידציה מתמשכת גם אחרי הכנסה של הכלי, כי התוצאות של הכלי משתנות לאורך זמן, ואנחנו צריכים להמשיך ולוודא שהכלי הזה נותן את אותה איכות ובטיחות של תוצאות כמו שהוא נתן ביום הראשון, לפחות כמו שהוא נתן ביום הראשון לכניסתו לבית החולים. וזה תהליך מובנה ומסודר וידוע. ואני חושבת שאם מדברים על רגולציה זה המקום לייצר רגולציה שתחייב כל ארגון לבנות תהליך כזה. אני עוד אגיד, רק כדוגמה, שאנחנו כולנו מדברים וחוזרים ומדברים על ה-Open evidence, כי נורא קל לנו או נורא מרגיש לנו נכון להסתמך על כלים שיש להם כותרת של כלי AI רפואיים. במחקר שפורסם לפני שבועיים ב-Nature, שהוא מהעיתונים המדעיים המובילים, בדקו את ה-Open Evidence אל מול ה-ChatGPT, ה-Claude וה-Gemini, וגילו שהוא פחות טוב מהם. גם ה-Claude, גם ה-ChatGPT וגם ה-Gemini הביאו תוצאות בשאלות רפואיות יותר טובות מה-Open Evidence. << יור >> היו"ר יונתן מישרקי: << יור >> איך זה יכול להיות? << אורח >> חגית פדובה: << אורח >> אני אומרת את זה כי זה פשוט דוגמה לאיך כל כך נוח לנו כאנשי צוות רפואי לפתח תלות ולהסתמך על כלים ולהפוך אותם לאמת לאמיתה. וכל מה שצריך, וכאן נכנסים הכללים שצריכים להיטמע גם בחינוך של צוותים רפואיים וגם בערכים הארגוניים, של כל הזמן להפעיל חשיבה ביקורתית ולא להסתמך על תוצאות, כמו שאנחנו לא מסתמכים על תשובת פתולוגיה אם היא לא מתאימה לנו לתמונה הקלינית הכוללת של המטופל, ואנחנו מחויבים לשאול ולבדוק ואולי לעשות רוויזיה, באותה מידה אנחנו מחויבים לעשות את הדברים האלה גם בתוצאות של כלים טכנולוגיים. << יור >> היו"ר יונתן מישרקי: << יור >> תודה לך על הדברים ותודה עוד יותר על העבודה. << אורח >> יוסי ולפיש: << אורח >> אני רוצה להגיד על זה מילה. חגית לא יכולה להגיד שבחה בפניה, אבל היא חברה בוועדת האתיקה שלנו, וכמנהלת בתוך מערכת הבריאות במדינת ישראל היא מובילה דברים מדהימים. הצורה שהיא מכניסה את הדברים בתוך איכילוב מוסדרת. כיף לי שבהנהלה יושב בן אדם שמבין אתיקה רפואית, ואז היא בנתה שם מערכת שעושה את זה בצורה מאוד מובנית, ואני כל הזמן לומד ממנה דברים בתחום הזה. זאת הזדמנות להגיד לה תודה רבה על שהיא עמדה בראש הצוות שלנו בתחום. << יור >> היו"ר יונתן מישרקי: << יור >> אנחנו גם מודים לך על זה מאוד. אתה יודע, כיושב ראש ועדת הבריאות אני לא יכול לפרגן לבית חולים ספציפי, כי אז אחרים יגידו לי "למה אתה ככה?", אבל אני אומר לך, כמי שהיה שם בסיור לא מזמן, ראינו את הכלים החדשניים, ראינו את מה שבית החולים עושה, אני חושב שזו גאווה לאומית גדולה מאוד. << אורח >> חגית פדובה: << אורח >> תודה רבה. << יור >> היו"ר יונתן מישרקי: << יור >> תודה לך. כל כך חיכינו, משרד הבריאות, מי מכם רוצה לקחת על עצמו, אומץ גדול דרך אגב, את התשובות לכל האירוע הזה? << אורח >> יואל בן אור: << אורח >> תודה רבה. יואל בן אור, מנהל אגף בריאות דיגיטלית במשרד. קודם כול, אני רוצה באמת לברך גם את האיגודים על העבודה המאוד מאומצת והחשובה שהם עשו. אני חושב שהטכנולוגיה זזה מהר, והחשיבות של להידרש לנושא לכל עומקו, ובאמת התייחסו למגוון מאוד רחב של נושאים בניירות האלה, ואנחנו כמשרד מאוד מעודדים גם את השיח עם האיגודים וגם עם השטח כולו ורואים בזה ערך מאוד רב שניירות כאלה מתפרסמים. כן, אני אגיד שבגלל שהטכנולוגיה זזה כל כך מהר והשטח זז כל כך מהר באימוץ אני מעודד את האיגודים לפרסם את זה להערות לא רק לרופאים ואחיות, אלא גם לתעשייה ולארגוני הבריאות ולמשרד הבריאות. אני חושב שזה צריך להיות מסמך חי ולא מסמך סופי. יצטרכו לעשות, ברור לי שתהיה גרסה שתיים די מהר, ולכן לא לראות במסמך הזה כראה וקדש, אלא באמת מסמך חי ונושם שצריך להתמודד עם סוגיות שיעלו מהשטח, סוגיות אתיות שונות שיתגלו לאורך הדרך. לגבי הסוגיות עצמן, אני חושב שאחד החששות שלנו מהכיוונים שקצת היו במסמכים האלה זה רצון להתמודד עם ניהול הסיכונים שקיים בבינה מלאכותית, שעם זה כמובן אנחנו מסכימים, לצד כמובן ההזדמנות הגדולה שיש למערכת, באמצעות השתת הרבה מאוד שינויים ביחסי מטפל-מטופל. אני חושב שהמסמכים לקחו לכיוון של להפוך את המטפל לאחראי על האוריינות הדיגיטלית של המטופל. ובשבע הדקות שיש להם במפגש אני חושב שיהיה קשה לצפות מהמטפלים להסביר למטופלים מה זו בדיוק בינה מלאכותית, וגם כמות האחריות שמוטלת על המטופלים להבין בעצמם. << יור >> היו"ר יונתן מישרקי: << יור >> ולבקש את אישורם. << אורח >> יואל בן אור: << אורח >> כן, לבקש את אישורם, גם בהיבטים של שימוש במידע וגם בהיבטים של הסכמות. ואני חושב שצריך להיזהר מאוד מלהשית על יחסי מטפל-מטופל הרבה מאוד נושאים חדשים בעולמות האלה. אני חושב שבמובן מסוים הבינה המלאכותית דווקא הופכת, זה השיח המרכזי היום בעולם וגם בישראל, שהיא דווקא משנה את יחסי הכוחות, הופכת את המטופלים להרבה יותר מעורבים בטיפול, באים לחדר כבר עם הרבה יותר כלים להבין את מה שקורה, וכל המערכת צריכה להתמודד עם האירוע הזה. להכניס לתוך המפגש הזה, שהוא גם ככה הולך ומשתנה, כי המטופלים מגיעים עם כלי ה-AI שלהם מהבית, לעכשיו שהמטפל יסביר למטופל שגם הוא עושה שימוש בכלי בינה מלאכותית ומה ההשפעה, אני חושב שצריך להיזהר קצת. << אורח >> יוסי ולפיש: << אורח >> אני אשים את כובעי כרופא משפחה פעיל מאוד ביום-יום ואגיד שאתה צריך לסמוך עליי בעניין הזה. זאת אומרת, אתה צריך לתת לי את האפשרות, את הכלים, להרחיב את זמן הביקור, כרגולטור תגיד, בבקשה, עכשיו שהטכנולוגיה מתקדמת, אני כן מצפה ממך לקחת את האחריות ולהסביר למטופל, ותן לי, דרך אגב ההסכמים בין המדינה למערכת הבריאות, נותנים 12 דקות ולא שבע למטופל. אבל אני יכול כן ברבע שעה להסביר. דרך אגב, החובה להסביר וליצור אוטונומיה, שהיא חובה אתית - - - << יור >> היו"ר יונתן מישרקי: << יור >> תנצל רבע שעה להסביר לו רק על היכולת? << אורח >> יואל בן אור: << אורח >> בדיוק. << אורח >> יוסי ולפיש: << אורח >> אני יודע לעשות, היום האוכלוסייה שלי, אני מנהל מרפאה של כללית בעשרת, ביישובי גדרות, אוכלוסייה מאוד אמידה ומאוד חכמה. << יור >> היו"ר יונתן מישרקי: << יור >> ושאר המבוטחים? אבל מה קורה עם שאר הארץ? << אורח >> יוסי ולפיש: << אורח >> ואני יכול להגיד לך שאני מקבל אוכלוסייה מאוד חכמה שמאוד משתמשת בכלי AI, ואני יודע, ברבע שעה שיש לי עם מטופל, להסביר להם את המשמעות, להגיד להם איפה הדברים, ולקבל החלטה משותפת. << קריאה >> קריאה: << קריאה >> איפה אמרת? תחריג את המרפאה שלו. << אורח >> יואל בן אור: << אורח >> ברור שיש אחריות למטפלים להסביר מה קורה בטיפול ושהמטופלים יהיו כמה שיותר מיודעים, אני לא חושב שבינה מלאכותית משנה מהחובה הבסיסית שקיימת על המטפלים. אני רק חושב שהדרך להתמודד עם הסיכונים היא לא בהכרח עם חובות יידוע והסכמות, אלא אנחנו מאוד מאוד מאמינים בכיוון שד"ר פדובה הזכירה כאן באמת, מה שנקרא AI governance, משילות ארגונית של AI, לקדם תהליכים מובנים בתוך הארגונים, שיידעו לדעת להתמודד עם הסיכון ולא להשית את כל הסיכון על זה שהמטפל והמטופל בהכרח באותן דקות ספורות הצליחו להתמודד עם הסיכון ולהסביר אותו אחד לשני. צריכים להיות תהליכים סדורים בתוך ארגוני הבריאות. התפיסה של כל הרגולטורים בעולם היא שיש איזשהו מעבר מאוד מאוד גדול בין אחריות של רגולטור מרכזי, FDA או CE, אם זה באירופה או בארצות הברית, שמאשר כלים בעצמו, שזה עדיין ימשיך להיות, הכלים בסיכון גבוה שהתעשייה מפתחת מן הסתם עדיין ימשיכו להיות מאושרים על ידי רגולטורים, אבל אין שום רגולטור בעולם או בישראל שיוכל לעקוב אחר כל אייג'נט או סוכן שיפותח על ידי ארגון בריאות בשטח. << יור >> היו"ר יונתן מישרקי: << יור >> ברור, אבל את האישור והרישיון לשימוש לצורך העניין בקופות או אצל מנהלים אחרים במוסדות רפואיים אתם כן מאשרים? << אורח >> יואל בן אור: << אורח >> לא, מה שאנחנו רוצים להוביל, וזה אנחנו עושים גם כן עם השטח בצורה מאוד הדוקה, עדיין לא יצאה רגולציה כזאת, אבל זה התהליך שאותו אנחנו בונים, זה לעשות רגולציה על איך הם עושים רגולציה פנימית. זאת אומרת, כמו שיש ועדות ענן וועדות הלסינקי. << יור >> היו"ר יונתן מישרקי: << יור >> מה כן להשתמש ומה לא או - - - << אורח >> יואל בן אור: << אורח >> כן, יהיו גם הנחיות מה תהליך הבחינה שצריך להיות בתוך ארגוני הבריאות, מי האנשים שצריכים להיות מעורבים בו. << יור >> היו"ר יונתן מישרקי: << יור >> זה קיים בעולם? << אורח >> יואל בן אור: << אורח >> כל הרגולטורים בעולם נמצאים בדיוק בדילמה הזאת של איך. זה להבנתי, ואולי רן שעוסק בזה לעומק ירחיב. אני לא חושב שעוד יצאו הנחיות מחייבות לאיך משילות AI חייבת להיראות בארגוני בריאות במדינות אחרות, אבל הרגולטורים שאנחנו בשיח איתם נמצאים באותה נקודה של ללמוד איך לבנות את זה ולייצר רגולציה מחייבת שאומרת, אם אתה רוצה להפעיל בינה מלאכותית אצלך בארגון, חייב להיות לך תהליך כזה וכזה, מומחה AI מהסוג הזה והזה שיאשר דברים, ממש תהליך סדור בתוך הארגון לאישור. לשמחתנו, אנחנו מבין המדינות המובילות, זאת אומרת, ארגוני הבריאות בישראל, וציינת את איכילוב. << יור >> היו"ר יונתן מישרקי: << יור >> בשימוש. << אורח >> יואל בן אור: << אורח >> בשימוש ובתהליכי הבקרה על השימוש. זאת אומרת, ציינת את איכילוב, אבל לשמחתנו, יש עוד הרבה מאוד ארגוני בריאות בישראל שפיתחו את התהליכים האלה ואנחנו עובדים עכשיו יחד איתם לגבש את זה לסט הנחיות מחייב עבור כלל - - - << יור >> היו"ר יונתן מישרקי: << יור >> מה בנוגע להוראות פרטיות? << אורח >> אסתי ורהפטיג בס: << אורח >> עו"ד אסתי ורהפטיג מהלשכה המשפטית במשרד הבריאות. בהקשר הזה גם חל הדין הכללי, כלומר, הדין הכללי שקובע איסור לפגוע בפרטיות וגם בחוק הגנת הפרטיות וגם בחוק זכויות החולה שנזכר כאן. כלים פתוחים כאלה, כמובן שאסור להכניס אליהם פרטים של מטופלים, זה דבר, אני חושבת שבארגוני הבריאות גם כן מכירים את ההנחיות האלה. ובאמת ההנחיה של המשרד, ההוראה להפסיק את הכלים האלה מהמחשבים של הארגון, נועדה גם כן להגביר את האכיפה של הדבר הזה ולצמצם סבירות של פגיעה. << יור >> היו"ר יונתן מישרקי: << יור >> אבל עד כמה שהכלי של הארגון הוא לא כלי ממוסד עדיין ואין לו כללים, מה ההבדל שאת רואה בין זה לבין המכשיר האישי? << אורח >> אסתי ורהפטיג בס: << אורח >> עדיין היכולת לעשות העתק-הדבק למשל מתוך תיק המטופל היא אחרת כשמדובר בפלאפון. << יור >> היו"ר יונתן מישרקי: << יור >> כן? << אורח >> אסתי ורהפטיג בס: << אורח >> תראה, בסוף, גם היום אפשר להכניס לכל מיני מנועי חיפוש אחרים ואנשים יכולים לפגוע בפרטיות, לרופאים יש המון מידע פרטי על המטופלים שלהם, והתקווה היא שהם ישמרו על הסודיות הרפואית שמחייבת אותם. << יור >> היו"ר יונתן מישרקי: << יור >> למה לא להתחיל בזה? << אורח >> אסתי ורהפטיג בס: << אורח >> מה הכוונה? << יור >> היו"ר יונתן מישרקי: << יור >> הכוונה היא, אני מבין שאנחנו לא בשלב שאנחנו מאשרים לבתי חולים לצורך העניין להשתמש בכלים פנימיים שלהם או בכלים ייעודיים שלהם, אבל כן לבוא ולומר, לקבוע כללים בנושא הגנה על פרטיות, שכבר בשלב הזה שאנחנו יודעים שרופא משתמש, מעתיק חלקים מהתיק הרפואי לתוך - - - << אורח >> אסתי ורהפטיג בס: << אורח >> הדברים האלה הם אסורים, כלומר, בעניין הזה אני אפילו אומרת שזה מובן מאליו. << יור >> היו"ר יונתן מישרקי: << יור >> כולם העידו שהם משתמשים בזה. << אורח >> אסתי ורהפטיג בס: << אורח >> לא, לא עם פרטים של מטופלים, לא להעלות, יש הבדל בין לשאול את הכלי שאלה רפואית כללית לבין להעלות פרטים של מטופלים, אלה שני דברים מאוד שונים. להעלות שאלה רפואית זה בסדר גמור לעומת להעלות פרטים של המטופלים. << יור >> היו"ר יונתן מישרקי: << יור >> תיאורטית ללא שם? << אורח >> אסתי ורהפטיג בס: << אורח >> אלה שני דברים שונים. גם להעלות שאלה רפואית, כמובן צריך לדעת - - - היכולת להשתמש. << יור >> היו"ר יונתן מישרקי: << יור >> אני לא יודע, לא שאלתי את השאלה במדויק מהקופות שהציגו פה, אבל מכולם שמעתי שהם משתמשים בכלים הללו בתוך המערכות שלהם. << אורח >> אסתי ורהפטיג בס: << אורח >> כללית הם אמרו שלמשל הם עושים התקשרות עם כלים ייעודיים שעובדים בסביבה סגורה, וגם אז יש הנחיות, גם בתוך המשרד למשל. גם לנו, יש לנו כלי ייעודי של המשרד, ועדיין יש הנחיות איך משתמשים ומה כן ומה לא מעלים עליו. גם לכלי כזה יש דברים שלא מעלים, וגם ארגוני הבריאות, זה מה שכללית הזכירו, אני חושבת, וגם מכבי דיברו על ההנחיות הפנימיות שלהם. << יור >> היו"ר יונתן מישרקי: << יור >> אבל אנחנו כן יודעים שאין לנו פיקוח על זה ואנחנו לא יודעים מה באמת קורה. זאת אומרת, אנחנו יודעים שכן משתמשים בכלים, אבל לא יודעים אילו נתונים עולים לשם. << אורח >> יואל בן אור: << אורח >> זה קצת מזכיר אבל, אדוני היושב ראש, גם וואטסאפ, לצורך העניין. היה הרבה שיח, האם צריך להוציא חוק שאסור לרופאים לעשות שימוש בוואטסאפ. ברור שההנחיה היא שאסור להעלות פרטים מזהים לוואטסאפ. יכולת האכיפה היא מן הסתם מוגבלת, וגם כאן היא תהיה מוגבלת, אבל זה הרבה עניין של חינוך רפואי. כמו שהיא אמרה, צריך להתחיל להכניס את החינוך הזה כבר במסגרות של בתי הספר לרפואה ולאחיות, כמה שיותר ללמוד להשתמש בכלים האלה. אני לא בטוח כמה רגולציה היא זאת שתשנה את מידת האחריות של הרופאים. אנחנו צריכים בסוף לסמוך עליהם ולייצר חינוך רפואי. << יור >> היו"ר יונתן מישרקי: << יור >> ביקשת לומר משהו? << אורח >> דוד ימין: << אורח >> דוד ימין, סמנכ"ל רגולציה מהמטה לבינה מלאכותית. בגדול, חשוב להתקדם עקב בצד אגודל בעולם הרגולציה, כי אתה רוצה להרוויח. << יור >> היו"ר יונתן מישרקי: << יור >> לא לעצור את ההתקדמות. << אורח >> דוד ימין: << אורח >> כן, אתה רוצה להשיג את הכי טוב שאתה יכול עם הכי מעט נזק שאתה יכול. אני רוצה להתייחס לפרטיות. על פי חוק הגנת הפרטיות, כל מידע שמאפשר לזהות את האדם הוא בסוף פרטי. זאת אומרת, אם הרופא רוצה להכניס למערכת שמדובר במטופל בן 52 שסובל מזה ומזה ומזה, אבל אין לכלי דרך לזהות מי האדם, אנחנו בהגדרה לא פגענו בחוק הגנת הפרטיות. אני מניח שזה ברמות, יכול להיות יותר מורכבות, למשל, אם הכלי הזה מחובר לתוך המערכת הרפואית, ואז הוא ידע לזהות מי המטופל שהוא בן 52 וסובל מזה ומזה ומזה. זאת אומרת, האירוע על פי כלי הרגולציה הקיימים הוא מכוסה. זאת אומרת, מאוד ברור מה אסור לעשות. כן אני מסכים שצריך לראות, דווקא כשהוא עובד עם כלי עצמאי, הוא יודע, אם לכלי שלו אין נגישות למערכת, הוא נתן לו פרטים של חולה, המערכת לא תדע לזהות מי החולה. דווקא כשהמערכת יושבת אצל זה כן צריך לדעת שאחר כך היא תדע לסנן את זה. אבל שוב פעם, אלה דברים שצריך מאוד לעשות אותם עקב בצד אגודל. << יור >> היו"ר יונתן מישרקי: << יור >> ככל שיש לו יותר נתונים, ככל שהוא מזין יותר שאלות ויותר זה, יהיה לו, ובפרט שהמערכת יושבת על אותו מחשב עם אותו מסד נתונים. << אורח >> דוד ימין: << אורח >> בדיוק, וזה משהו שיצטרך - - - << יור >> היו"ר יונתן מישרקי: << יור >> הוא יהיה מספיק חכם כדי לדעת את זה. אבל אני - - - << אורח >> דוד ימין: << אורח >> עקב בצד אגודל יצטרכו לפתור את כל הדברים האלה ולראות איך מביאים את המערכת הזאת לאיזון, שהיא מסוגלת בסופו של דבר להגן גם על האחות שמשתמשת בכלי והצליחה לטפל ב-15 מטופלים ולא בשניים, אבל - - - << יור >> היו"ר יונתן מישרקי: << יור >> כן, לקחה אינפורמציה ממקומות מסוימים. דווקא השאלות האלה מעוררות את כל השיח הזה שמתעורר פה עכשיו במהלך הדיון הזה. בסוף אנחנו צריכים להבין איפה הגבול עובר, מה המשרד, מה הרגולטור, איפה הוא כן נוגע ומחייב, איפה אנחנו משאירים את שיקול הדעת ואת החינוך הרפואי לצוותים. אני לא יודע להכריע בסוגיה הזאת. << אורח >> יוסי ולפיש: << אורח >> לכן הבסיס שאנחנו אמרנו זה שקודם כול צריך לדבר על כללי אתיקה, ובזה אני מאוד מסכים עם המשרד. זאת אומרת, קודם כול צריך להגיד לרופאים, תקשיבו, אתם חייבים לעמוד מול ההבנה שלכם למה זה פרטיות, כי אף אחד לא יצליח לחסום רופא, לא שמדבר במעלית, לצורך העניין, ולא שמכניס לפלאפון שלו פרטים של המטופל, לא באמת נוכל לעשות לדבר הזה רגולציה. ולכן אני מאמין שהבסיס הראשון הוא לדבר על אתיקה ולדבר על חינוך, ובזה אני מאוד מסכים. אחרי זה, כמו שאמרתי, שאחרי שהרופא מבין ויודע, בדרך כלל הוא סומך על הכלים שנמצאים בתוך הארגון, ושם צריך כן להכניס בתור שלב ראשון את הרגולציה. << יור >> היו"ר יונתן מישרקי: << יור >> נכון, ושם אני מבין שאתם כבר עושים עבודה, נכון? זאת אומרת, אני מאמין שזה לא משהו שגומרים בשנייה. << אורח >> מלי קושא: << אורח >> אני רוצה להזכיר לכולנו שמדובר במהפכה שמביאה ברכה, מדובר במהפכה שמשפרת את הבריאות של כולנו. ולכן, אני מסכימה עם יואל, אסור לנו לשפוך את התינוק עם המים. עודף רגולציה יכול להרוס, וצריך כן ללכת, כמו שנאמר, עקב בצד אגודל, אבל מה? צריך לבנות מנגנונים של מחקר, בקרה, בחינה מחדש, להיות ערוכים לכל כשל שמתעורר, ולכן צריך להיות גוף שעוקב אחרי הדברים, מבקר אותם, אבל לא צריך עודף רגולציה שיהרוג את זה. << יור >> היו"ר יונתן מישרקי: << יור >> יש עוד איגודים נוספים מעבר למה ששמענו פה ואנחנו יודעים ששלחו ניירות עמדה שאתם חושבים שהם צריכים לחדד בפני המטפלים שתחת האיגוד את הכללים? נגיד אחיות, רופאים, פסיכולוגים. << אורח >> מלי קושא: << אורח >> כל מקצועות הבריאות. << יור >> היו"ר יונתן מישרקי: << יור >> אני שואל את המשרד האם המשרד יודע להנחות את כל האיגודים או את כל אותן קבוצות, מקצועות בריאות שונים, לקבוע כללים? מחייבים? << אורח >> יואל בן אור: << אורח >> בדרך כלל אנחנו לא נוהגים להנחות את האיגודים, אולי הם יוכלו להעיר בעצמם האם אנחנו נוהגים או לא, אבל בהחלט השיח הוא ער. זאת אומרת, אני חושב שגם עם הר"י, שלאה דיברה כאן קודם, יש את הפורומים המאוד רחבים שהם מקיימים, וגם עכשיו יש ועדה שהאחות הראשית הקימה עם נציגות מאוד גדולה של אחיות מהשטח שאנחנו שותפים לו. << יור >> היו"ר יונתן מישרקי: << יור >> יש עוד? << אורח >> יואל בן אור: << אורח >> הפסיכולוגים למשל גם פרסמו. << יור >> היו"ר יונתן מישרקי: << יור >> אני יודע, הזכרתי. אני שואל האם כמשרד, אתה אומר, נכון, אתה לא מנחה את האיגודים מה לעשות, אבל מי שלקח על עצמו וכבר קבע כללים וקבע והוציא, מה שנקרא, האיר את עיני המטפלים שתחתיו, זה בסדר, השאלה אם המשרד לא חושב שנכון יהיה לעשות את זה רוחבי על כל סוגי מקצועות הבריאות, כל המטפלים בכל המגזרים, בכל התחומים, כך שכולם יהיו חשופים לאותם כללים. דרך אגב, אין פה שונות גדולה בין מה שהציגו פה החברים היקרים, אבל כן צריכים שזה יגיע לכל מטפל באשר הוא. ולכן המשרד כן צריך, לא יודע איך, צריך לחשוב אם דרך האיגודים או דרך לא יודע מה, אבל כן, ודאי שכולם צריכים להגיע לזה. << אורח >> יוסי ולפיש: << אורח >> אני חושב שאם המשרד באופן אקטיבי יאמץ את כללי הנייר זה יעודד את האיגודים האחרים גם להיות שותפים. << יור >> היו"ר יונתן מישרקי: << יור >> חד משמעית. אולי זה מה שצריך לעשות, לעשות איזשהו סנכרון בין הניירות, גם שקיבלנו, גם שיציגו פה, ולייצר מזה איזשהו מסמך אחד שמחייב כל מטפל באשר הוא. << אורח >> יואל בן אור: << אורח >> אנחנו בהחלט נשקול את הסוגיה. << יור >> היו"ר יונתן מישרקי: << יור >> אוקיי, תראו בזה כסיכום הישיבה. רבותיי, אני מודה לכולם, בעיניי, היה מאוד מפרה. למדתי הרבה, אני חושב שזה היה דיון חשוב, כי השאלות שעלו פה הן שאלות מהותיות. כל מי שדיבר וכל מי שעבד ועסק בנושא, הוא באמת ראוי להוקרה גדולה, כי בסוף אנחנו שם, ועוד רגע זה גם יתפתח בצורות הרבה יותר משמעותיות. תודה רבה לכולם ולכולן. << סיום >> הישיבה ננעלה בשעה 12:32. << סיום >>