חומר רקע
סקירהמשפטיתמשווה
כתיבה:עו"דישילקס|
אישור:ד"רליאורבןדוד תאריך:
י"ט
בחשון
התשפ"
ו,
10
ב
נובמבר
2025
חקיקה
בנוגעל
ה
שפע
ותהבינההמלאכותיתבתחום
הנפשיו
הרגשי
מסמךזהנכתבלבקשתיושבתראשועדתהמשנהלבינהמלאכותיתוטכנולוגיותמתקדמ
ות,חברתהכנסתאורית
פרקשהכהן,
לקראתדיוןשיערךבוועדהבנושא"מערכותיחסיםומענהנפשיבעידןהבינההמלאכותית-
הזדמנויות
וסכנות."בשנתייםהאחרונות
,במדינותשונותבעולם
אומצואוהוצעו
כמההסדריחקיקהשמטרתם ביןהשאר,,
לספק
מעניםלאתגריםהעוליםמהמפגשביןתחוםהבינההמלאכותיתלעולמותהנפשוהרגש.
ב
מסמךזה
נסקרות
כמה
דוגמאות
להסדרי
חקיקהכאמורממדינותשונותבאר
צותהבריתמו
האיחודהאירופי
,תוךהתמקדותבשלוש
הנושאים
מרכזיים.
הנושאהראשוןהואהסדריחקיקההמטילים
אומבקשיםלהטיל)(מגבלותעלטיפולנפשיבעזרתבינהמלאכותית.
דוגמאותמכמהמדינות
ב
ארצותהבריתמעלות
כינעשהניסיוןלהסדירבחקיקהממשקיםביןתחוםהטיפולהנפשי
והרגשי
לבין השימוש בכלים של בינה מלאכותית.
בה
סדרים
שנסקרו במסמך ניתן למצוא הוראות חוק העוסקות
באנשימקצועותבריאותהנפשוהמטפלים,עליה
םמוטלותמגבלותביחסלשימושבבינהמלאכותיתלצור
כיטיפול.
בנוסף,
מ
וצגו
תבמסמך
הוראותחוקהנוגעות
לספקיםשלתוכנותבינהמלאכותית
,עליהםחליםהסדריםאחרים
כגון
חובותגילויושקיפות,איסורעלמצגשווא
בדברה
יכולותשלתוכנותאלובהקשריםטיפוליים,ועוד.
הנושאהשנינוגעלתחוםשלמוגנות
ו
מניעתאבדנותופגיעהעצמית
,בדגש
עלהגנה
עלקטינים
.בהקשרזה
נסקרודוגמאותלכמההסדריחקיקה
מארצותהברית(
הן
ברמההמדינתיתוהןברמההפדרלית),
המבקשיםלהטיל
אחריותע
לספקיתוכנותשלבינהמלאכותית,ב
מטר
הלסייע ביןהשאר,,במניעת
מקריםשלאבדנות
ופגיעהעצמית,
בוקידוםשימושזהירבבינהמלאכותיתבכלל,ובקרבקטיניםבפרט.
הנושאהשלישישנדוןבמסמךהוא
מערכותבינהמלאכותיתלזיהוירגשות.
בחלקזהשלהמסמךהתייחסנובקצרה
ל
אתגריםהעוליםמשימושבמערכותאלוו
להוראותשל
חוקהבינההמלאכותיתשלהאיחודהאירופי
ביחסלשימוש
במערכותלזיהוירגשיולמגבלותהחלותעליהן.
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותיתבתחוםהנפשיוהרגשי
|
2
1.
מגבלותחקיקתיות
עלטיפולנפשיבעזרתבינהמלאכותית
במדינת
אילינוי,
חוק הרווחה והפיקוח על שירותים פסיכולוגיים (Psychological for Oversight and Wellness
),שנחקקב-
2025
,מבטיחש
שירותיםשלטיפולרגשיאופסיכותרפיה
יינתנורקעלידיאנשימקצוע
ResourcesAct
מורשיםומוסמכים.בכללזה,החוקאוסרעלגופיםלאמורשיםלספקשירותיםמסוגזהלרבותבאמצעותמערכות
בינה מלאכותית.
לבעלי מקצוע מורשים מותר לעשות שימוש בבינה מלאכותית למטרות של
תמיכה מנהלית
1
(
)או"תמיכהמשלימ
ה"(
.)
תמיכהמנהליתהיאפעולההמסייעת
support
Administrative
Supplementarysupport
למטפלבעבודתואיךאינהקשורהלהיבטיםטיפוליים.
הכוונה,למשל,לניהוליומןפגישות,טיפולבחשבונותותביעות
ביטוח או ניסוח מסמכים או הודעות הנוגעות לל
וגיסטיקה ולא להיבטים טיפוליים.2
"תמיכה משלימה" משמעה
פעולותשמבצעהמטפל,שאינןמנהליותמחד,ואינןמהוות"תקשורתטיפולית"(
)
Therapeuticcommunication
3
מאידך, כמו למשל: הכנה ותחזוקה של תיקי לקוחות, כולל הערות טיפוליות; ניתוח נתונים אנונימיים הדרושים
למעקבאחרזיהוימגמות(בכפוףלבדיקהעלידיאישמקצועמורשה);וכןזיהויוארגוןמשאביםאוהפניותחיצוניות
לשימושהלקוח.4
שימוש
בבינהמלאכותית
לצורךתמיכהמשלימה,כאשרהמפגשיםעםהמטופלמוקלטים,מחייב
את
המטפללדווח
עלכך
למטופל,באופןרשמיובכתב,ולקבלאתהסכמתו.
על
5החוקאינוחלעלייעוץדתי,תמיכה
ידיעמיתים(supportPeer
)
אינם
מציגיםאתעצמםכשירותטיפולי.
6וחומריהסברהועזרילימודלשימושעצמיש
הפר
ת
החוקמהווהעבירהשהעונשעליההואקנסשלעד10,000
דולרלכלהפרה.7
הצעתחוקדומהבעיקרהלחוקשלאילינוי,הוגשהבאוגוסט2025
בסנאטשלמדינתניויורק.
לפיהצעתהחוק,אסור
יהיה לבעלי מקצוע מורשים בתחום בריאות הנפש לעשות שימוש בכלי בינה מלאכותית, למעט לצורך מטרות
אדמינסטרטיביותותמיכהמשלימה,כשהמטופלנתןאתהסכמתולכך.8
1PublicAct104-0054,WellnessandOversightforPsychologicalResourcesAct(2025),section20(a).
2Ibid,Section10,Definitions,"Administrativesupport".
3
תקשורת טיפולית ( Therapeuticcommunication) מוגדרת בחוק ככל אינטראקציה מילולית, לא-
מילולית או כתובה המתקיימת
במסגרת קלינית או מקצועית ומטרתה לאבחן, לטפל או להתמודד עם בעיות נפשיות, רגשיות או התנהגויות של אדם. ראו בסעיף
ההגדרותבחוק:
Ibid,"Therapeuticcommunication".
4Ibid,"Supplementarysupport".
5Ibid,section15.
תמיכתעמיתים(support(Peer
מוגדרתבחוקכשירותיםהניתניםעלידיאנשיםעםניסיוןחייםשלמצביםנפשייםאוהחלמהמשימוש
6
בחומרים,שמטרתםלהציעעידוד,הבנהוהכוונהללאהתערבותקלינית.
"servicesprovidedbyindividualswithlivedexperienceofmentalhealthconditionsorrecoveryfromsubstanceuse
thatareintendedtoofferencouragement,understanding,andguidancewithoutclinicalintervention".Ibid.
7Ibid,section30.
8TheNewYorkStateSenate,SenateBillS8484.
בדומהלחוקשלאילינוי,הצעתהחוקמניויורקמבקשתלהחריג
מהאיסורעלשימושבבינהמלאכותיתייעוץדתי,תמיכתעמיתיםוחומרי
לימודעצמייםשאינםמתיימריםלהוותטיפולנפשי.עםזאת,רשימתבעליהתפקידיםשנחשביםלמטפליםמקצועייםמורשיםרחבהיותר
בהצעתהחוקמניויורקביחסלחוקשלאילינוי.ראובסעיףההגדרותשלהחוק:"
licenedprofessional
".
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותיתבתחוםהנפשיוהרגשי
|
3
ב
נבאדה,
חוקמשנת2025
אוסרעלספקישירותי
םשלמערכותבינהמלאכותיתלהעמידלרשותהציבורמערכות
9
כאמורשתוכנת
ולספקשירות,שאילוהיהמסופקעלידיאדם,היהנחשבשירותמקצועיבתחוםבריאותהנפשאו
ההתנהגות
.החוקגםא
וסרעלספקי
םשלשירותיהבינההמלאכותיתלהציגמצג,מפורשאומשתמע,
ששירותהבינה
המלאכותיתשלהם
מסוגל
לספקש
ירותמקצועימתחוםבריאותהנפשאוההתנהגות;או שהמשתמשיכוללקבל
שירותכאמורעלידיאינטר
אקציהעםהמערכתהמדמהשיחהאנושית;אולהציגאתמערכתהבינההמלאכותיתאו
כלרכיבממנה
כספקיתמקצועיתשלכלשירותמקצועישלטיפול
נפש
יאוהתנהגות
י.
10
בדומהלחוקבאילינוי,גם
עלפיהחוקבנבאדה
רקאנשיםשהינםספקיםמורשיםשלשירותיטיפולבתחוםהנפש11
יכולים
לעשותשימושבמערכותבינהמלאכותיתלשםסיועבפעולותמנהלתיות
כמותיאםפגישות,ניהולחשבונות
וארגון התיעוד הטיפולי. גם הפעולות המותרות חייבות לעמוד בתקני
ם מחמירים של אבטח
ת
פרטיות לפי החוק
הפדרליוהחוקבמדינה.מטפלהמשתמשבבינהמלאכותית
חייבלבדוקאתהדיוקוהאמינותשלהנתוניםהמופקים
ממנה.אדם
שיפעלבניגודלחוקעשוילספוגעונשיםכגוןקנסשלעד15,000
דולרבעבורכלהפרה.12
החוקשלנבאדהמתייחסגםלשימושבבינהמלאכותיתלצורךטיפולנפשיוהתנהגותיבמוסדותחינוך.
החוקאוסר
על שימוש ב
בינה
מלאכותית על מנת למלא תפקידים של יועץ חינוכי, פסיכולוג של בית
ספר או עובד סוציאלי
במוסדותחינוךציבוריים.
13
במדינת
יוטה,
2025
מסדיראת
השימוש
במערכותבינהמלאכותיתהיוצרותאינטראקציות
ש
מדמותשיח
14חוקמ-
טיפולי (
להלן:"צ'אטבוט",.)
על פי החוק,
חובה על צ'אטבוט להיות ברור
ולגלות למשתמש שמדובר
chatbot
15
במערכתמבוססתבינהמלאכותית
ולאבאדםאמיתי.גילויכאמורחייבלהעשותלפנישהמשתמשיכוללהתחילאת
השימושבתוכנה,בתחילתכלאינטראקציה-
אםהמשתמשלאעשהשימושבצ'אטבוטבמהלךשבעתהימיםשקדמו
לכך,
וכןבכלפעםשהמשתמששואלאתהצ'אטבוטבכלצורההאם
השימושבומהווה
שימושבבינהמלאכותית.16
החוק
אוסרעל
ספקהצ
'אטבוטלמכוראולשתףעםצדדיםשלישייםמידעבריאותיהמאפשרזיהוישלהמ
שתמש
או
כלקלטשהמשתמשהזיןבצ'אטבוטבמסגר
תהאינטר
אקציהאיתו,למעטבמקריםהמפורטיםבחוקוכאשרניתנה
92025NVA.B.406,Sections7-8.
10Ibid,section7§1.
11
פסיכיאטר, פסיכולוג, מטפל זוגי, עובד סוציאלי, אחות סיעוד מקצועי או סיעוד פסיכיאטרי, יועץ לעניין התמכרות לאכוהול, סמים או
הימורים,אדםהמספקשירותיייעוץלאחדמבעליהמקצועהנ"ל.ראובסעיף8§
6(c)
לחוק.
12Ibid,section5.
13Ibid,sections1-3.
החוקקובעכיע
למשרדהחינוךשלמדינתנבאדה,בליוויאנשימקצוע,
לפתחמדיניות
בנוגעלשימושבבינהמלאכותיתבמתןסיוענפשי
לתלמידים ולפקח עליה. השימוש בבינה מלאכותית במוסדות חינוך ציבוריים ביחס למענים נפשיים יותר
לצורך פעילויות מנהליות,
בהתאםלמדיניותשתיקבע.
14H.B.452ArtificialIntelligenceAmendments.
הכוונהלצ'אטבוטשמשתמשבבינהמלאכותיתכדילייצרשיחהשמדמהשיחהעםמטפלנפשי,אושהספקמצהיר,אושאדםסבירהיה
15
מאמין,שהצ'אטבוט
יכוללספקטיפולנפשי.החוקאינוחלעלצ'אטבוטשרקמוסרפלטמתוסרטכגוןהדרכתמדיטציהאומיינדפולנס,
וכןכזהשרקמחברביןאדםלמטפלנפשיאנושי.שם,Definitions.
(10)(b)
101
-
72a
§
-
13
.
16Ibid,13-72a-203.Disclosurerequirements.
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותיתבתחוםהנפשיוהרגשי
|
4
הסכמת המשתמש.17
החוק
גם
אוסר
על ספק להשתמש
בצ'אטבוט כדי לפרסם מוצר או שירות ספציפיים עבור
המשתמש במהלך האינטראקציה
איתו (אלא אם
כן הצ'אטבוט
מציין
באופן ברור ובולט שמדובר בפרסומת), או
להשתמשבקלטשלהמשתמשכדילקבועהאםלהציגפרסומותלמוצראושירותאולהתאיםאישיתאתאופןהצגת
הפרסום למשתמש. עם זאת, מותר לצ'אטבוט להמליץ למשתמש
בו לפנות לקבל
ת
ייעוץ או טיפול אצל מטפל
מקצועי,לרבותהפניהלמטפלספציפי.18
האגףלהגנתהצרכןשליוטה(ProtectionConsumerofDivision
)אחראי
עלאכיפתהוראותהחוק,ובסמכותולהטילקנסותמנהלייםעדגובהשל2.500
דולרבגיןכלהפרה,וכןלהגישתביעה
בביתמשפטכנגדמפרהחוק.ביתהמשפטרשאי
ל
הוציאצווימניעה,להורותעלהשבתכספיםאותשלוםכספים,
וכןלהטילקנסשלעד2,500
דולרבגיןכלהפרהוקנסאזרחישלעד5,000
דולרבגיןהפרהשלצוויםשניתנובהתאם
להוראותחוקזה.19
2
. מוגנותומניעתפגיעהעצמית
חוקשאושרבאוקטובר2025
ב
קליפורניה20מחייבספקיםהמפעיליםת
וכנותשל"צ'אטבוטמלווה"(Companion
)
לנקוטבאמצעיזהירותלצורךהגנהעלהמשתמשיםמפניפגיעותנפשיות,ובפרטלהגנהעלקטינים.
ot
Chatb
21
החוקמחייבאתהספקיםבחובתגילוי,בשימושבפרוטוק
ולהגנהמפניפגיעהעצמית,ובנשיאהבאחריותמשפטית.
עלפיהחוק,אםאדםסביר,המקייםאינטראקציהעםהצ
א
'טבוטהמלווה,
יוטעהלהאמיןשהואמקייםאינטראקציה
עםאדםאמיתי,עלמפעילהצ'אטבוטלהוציאהודעהברורהובולטתהמציינתכימדו
ברבאינטראקציהעםת
וכנה
שאינה אנושית. כמו כן, אסור לצ'אטבוט מלווה לקיים אינטראקציה עם אנשים, אלא אם כן המפעיל שלו מקיים
פרוטוקול למניעת הפקתתכנים
ש
ל מחשבות אבדניות, התא
ב
דות או פגיעה עצמית.
פרוטוקול זה כולל גם מתן
הודעהלמשתמשהמפנהאותולשירותיחירום,ב
מקרהשהמשתמשהביעמחשבותאבדניותאומחשבותעלפגיעה
עצמית. פרוטוקול זה יפורסם באתר האינטרנט של מפעיל הצ'אטבוט המלווה. ביחס למשתמש שהינו
קטין, על
המפעי
לליידעאתהקטיןשהואמקייםאינטראקציהעםבינהמלאכותית;
לספקלוכברירתמחדלהתראהבולטת
לפחות בכל שלוש שעות של אינטר
א
קציה מתמשכת עם הצ'אטבוט, שתזכיר לו לקחת הפסקה
וכן שמדובר
באינט
רא
קציהעםבינהמלאכותית;ו
לנקוטאמצעיםכדילמנועמהצ
א
'טבוט
לייצרחומרויזואלישלהתנהגותמינית
17Ibid,13-72a-201.Protectionofpersonalinformation.
18Ibid,13-72a-202.Restrictionsonadvertising.
19Ibid,13-72a-204.Violations-Enforcementauthority.
20SB-243Companionchatbots.(2025-2026).
החוקמגדיר "צ'אטבוטמלווה" ( CompanionChatbot)כמערכת בינהמלאכותיתעםממשק "שפה טבעית" (
natural language
21
interface
) המספקתגובותאדפטיביות,דמויותאדם,לקלטימשתמשומסוגלתלענותעלצרכיוהחברתייםשלהמשתמש,לרבותעל
ידיהצגת
תכונותכמו-אנושיות
ויכולתלקייםקשרעלפניאינטראקציותמרובות.
ראובחוק:(b)(1)
§22601
section1
.
עם זאת, ההגדרה של
"צאטבוט מלווה" אינה כוללת בוט המשמש רק לשירות לקוחות, למטרות תפעוליות של עסק, לפרודקטיביות
ולניתוחמידעאו סיוע טכני;בוטשהוא מאפייןשלמשחק וידאו ומוגבל לתגובותהקשורות למשחק ואינו יכול לדון בנושאיםהקשורים
לבריאותהנפש;וכן"עוזרוירטואלי"שאינומקיים אינטראקציותמרובותאומייצרפלטיםשיעוררותגובותרגשיותאצלהמשתמש.ראו
בחוק:(b)(2)
§22601
section1
.
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותיתבתחוםהנפשיוהרגשי
|
5
או לומר לקטין לעסוק בפעילות מינית.22
אדם ש
סבל מפגיעה עקב הפרה של הוראות החוקרשאי להגיש תביעה
אזרחיתשעשויהלזכותאותובסעדיםמשפטייםשלמניעה,פיצוייםכספייםוהוצאותמשפט.23
ב
הצעתחוק
בנושאשהוגשה
ב-
2025
בסנאטשלמדינת
נ
יויורק,
יהיהאסורלהפעיל"
מלווהבינה
24הוצעלקבועכי
מלאכותית"(
)
וכנהמכילה
פרוטוקוללטיפולבמצבבוהת
ו
כנהמזההכיהמ
שתמש
AICOMPANION
25אלאאםכןהת
בהמביעאחדמאלו:מחשבהאבדניתאפשריתאו
אפשרותלפגיעהעצמיתאו
פגיעהפיזיתאוכלכליתבאחרים.
הפרוטוקולצריך
לכלול,ביןהיתר,הודעהלמשתמשהמפנהאותולשירותיחירום.26
הצעתהחוקמבקשתלחייבאת
המפעיל
לשלוח
הודעה ברורה ובולטת בתחילת כל אינטראקציה ולאחר שלוש שעות של אינטראקציה (כך שלא
תתאפשרהמשךהאינטראקציהבליזה)
שהתוכנה
שאיתהמקייםהמשתמש
אתה
אינטראקציההיאת
וכנתמחשב
שלא מסוגלת לחוש רגש אנושי.27
אדם שנפגע כתוצאה מהפרה של סעיפי החוק יהיה רשאי להגיש תביעה לבית
המשפטולזכותבסעדיםלפישיקולדעתביתהמשפט.28
הצעת חוק ברוח דומה הוגשה בארה"ב גם ב
רמה הפדרלית. בחודש אוקטובר 2025
הונחה על שולחן הקונגרס
האמריקאי הצעת חוק המבקשת לדרוש מצ'אטבוטים מבוססי בינה מלאכותית ליישם אמצעים לאימות גיל
המ
שתמשים ולבצע גילויים מסוימים.29
לפי הצעת החוק,
בשל
העובדה
שצ'אטבוטים מבוססי בינה מלאכותית
נמצאיםבשימושגוברוהולךבפלטפורמותבהןמשתמשיםקטינים;והיותוהצ'אטבוטיםעלוליםלייצרולהפיץתוכן
מזיקאובעלאופימיני,וכן
לתמרןרגשותולהשפיעעל התנהגותבדרךהמנצלתאתהפגיעותשלקטיניםבאופן
שחושףאותםלסיכוניםרבים,מבקשתהצעתהחוקלהחילעלאותםצ'אטבוטיםכמה
דרישות:
נקבעכיאסורלפתח
צ'אטבוט
מבוססבינהמלאכותית,בידיעהאוהתעלמותמכךשישנוסיכוןשהצ'אטבוטישדלאויעודדקטיניםלעסוק
בהתנהגותמיניתאושהואמקדםהתנהגות
אובדנית
,פגיעהעצמית,
אלימותפיזיתאואלימותמינית.30
עלמפעיל
הצ'אטבוטלדרושמ
ה
משתמשליצורחשבון,בוהואיידרשלאמתאתגילו.הת
וכנהתסווגאתהמשתמשיםלבגירים
וקטינים.לפיהצעתהחוק,ייאסרעלמפעיליהצ'אטבוטהמלווהלהפעילחשבוןעבורמישנמצאשהואקטין.31
בנוסף,
בתחילת כל שיחה ולאחר כל 30
דקות של שימוש
, על מפעילי הצ'אטבוט להודיע למשתמש
באופן ברור על כך
22Ibid,22602.
23Ibid,22605.
24TheNewYorkStateSenate,AssemblyBillA6767,Relatestoartificialintelligencecompanionmodels.
25
הצעת החוק מגדירה "מלווה בינה מלאכותית" ( AIcompanion) כ
מערכת המשתמשת בבינה מלאכותית
כדי לדמות אינטראקציה
חברתיתאנושית.
המערכתעושהזאתעל־ידישמירהשלמידעמשיחותקודמותוהעדפותהמשתמש,שאילתשאלות,מתןעצות,וקיום
שיחותמדומותבנושאיםהקשוריםלרווחתוהאישיתשלהמשתמש.
עםזאת,
ההגדרהבהצעתחוקזואינהכולל
ת
מערכותהמשמשות
עסקיםאךורקלצורךמתןמידעעלשירותיםאומוצריםמסחריים,מידעעלחשבוןלקוח,אוכלמידעאחרהקשורליחסיהלקוח(אולקוח
פוטנציאלי)עםאותועסק.
ראובהצעתהחוק:§1700(4)
Ibid,
.
26Ibid,§1701.
27Ibid,§1702.
28Ibid,§1703.
29S.3062—119thCongress(2025-2026),"GuidelinesforUserAge-verificationandResponsibleDialogueActof2025"
(hereinafter:GUARDact).
. סעיףזההואהצעהלתיקוןשלהקודהפליליהפדרלי)(chatbotsintelligenceArtificial91.§Ibid,30
31Ibid,§6.
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותי
תבתחוםהנפשיוהרגשי
|
6
שהצ'אטבוט
הואמערכתבינהמלאכות
יתולאאדם.
כמוכן,עלהצ'אטבוט
לענותתמידבשלילה
עלהשאלההאם
הואאדםאמיתי.חלאיסורעלצ'אטבוטלהציגמצג,במישריןאובעקיפין,
כאילוהואאישמקצועמורשה,לרבות
מטפל,רופא,עורךדין,יועץפיננסיאואישמקצועאחר.בנוסף,עליולהודיעבאופןברורבתחילתכלשיחהובמרווחי
זמןקבועים,כיהואאינומספקשירותיםרפואיים,משפטיים,פסיכולוגייםאופיננסיים,ושעלהמ
שתמשיםלהתייעץ
רקעםאישמקצועמורשה.32במקרהשלהפר
תהחוק,מבקשתהצעתהחוק
לקבועשהנפגעמההפרהיהיהרשאי
להגישתביעהאזרחיתכנגדמפעילהצ'אטבוט,ולזכותבסעדיםשלאכיפהוהסרתההפרה,וכןקנסותאזרחייםאו
פיצויים.בנוסף,הפרהעשויהגםלהוותעבירהשעונשהקנסשלעד100,000
דולרעבורכלהפרה.33
3
. מערכותבינהמלאכותיתלזיהוירגשות
ב
שניםהאחרונות
הולךוגדלהשימושבמערכותאוטומטיותלזיהוירגשות(AER-recognitionemotionAutomatic
,)
לרבותבאמצעותבינהמלאכותית.למערכותאלויתרונותומעלות
,למשל,במתן
כליםלסיועלשירותיבריאותהנפש
אולהבנהטובהיותרשלצרכיםאנושיים.
עםזאת,שימושבמערכותאלוטומןבחובוסוגיותאתיות
מורכבות,בעיות
מוסריותומשפטיותואתגריםחברתיים.מער
כותאלועושותשימושבניתוחו
למיד
השל
כמויותגדולותשלנתונים,
ומתוכםהןלומדותלזהות
ו
לפרשסימניםהבאיםלידיביטויבקלטשלמ
שת
משיהתוכנות(כגוןטקסט,אודיוווידאו).
עלידיכךהן
מנס
ות
ללמודעלמצבוהרגשישלהמשתמש.
ביןהיתר,שימושבת
ו
כנותלזיהוירגשותמעל
ה
קשיים
בהיבטים של הזכות לפרטיות, פגיעה באוטונומיה
ו
פגיעה בזכויות יסוד כמו הזכות לאי-הפללה עצמית
והזכות
למחאה
.תוכנותאלו
עלולותלהוותגםאמצעיבידיממשלות
למעקבהמוניאחראזרחים.
נוסףעלכך,המערכות
האמורותעלולות
לשמשלצורךמניפ
ולציותעלמשתמשים,
לאפשרלנצלאתחולשותיה
םהרגשיותולתמרןאותם
ואת בחירות
י
הם. שימוש בזיהוי אוטומטי של רגשות ע
לול
גם
להנציח מוסכמות פסאודו-מדעיות שעשויות לשמש
לרעה ולגרום לאפליה, הנצחת סטריאוטיפים, הדרת קבוצות מוחלשות, או יצירת נורמות חברתיות מלאכותיות
(
.)
machinenormativeness
34
חוקהבינההמלאכותיתשל
האיחודהאירופי(
A),
שנחקקבשנת2024
,קובע
כלליםלאספקה
ושימושבבינה
act
I
35
מלאכותית(
)באיחודהאירופי.הנחתהיסודשלחוקהבינההמלאכותיתהיאשבעודשישנםיישומיםמועיליםרבים
AI
שלבינהמלאכותית,הטכנולוגיהכרוכהגםבסיכוניםשאותםישלנהל.
עלכן,החוקנוקטבגישהמבוססתסיכונים,
32Ibid,§5.
33Ibid,§7.
להרחבהראו:
34
SaifMohammad,"Ethicssheetforautomaticemotionrecognitionandsentimentanalysis"ComputationalLinguistics
48.2(2022),pp.239-278.Seealso:MartinaMattioli andFedericoCabitza."Notinmyface:Challengesandethical
considerationsinautomaticfaceemotionrecognitiontechnology"MachineLearningandKnowledgeExtraction6.4
(2024),pp.2201-2231.
35Regulation(EU)2024/1689oftheEuropeanParliamentandoftheCouncilof13June2024(hereinafter:AIact).
חוקהבינההמלאכותיתאוactAI
הואתקנה(
Regulation
)שלהאיחודהאירופי
וככזההוא
בעלתחולהישירה
המחייבתאתכלהמדינות
החברותבאיחוד.ראולעילבאתרהאיחודהאירופי:legislationofTypes
.
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm
חקיקהבנוגעלהשפעותהבינההמלאכותיתבתחוםהנפשיוהרגשי
|
7
וכלליםמחמיריםיותריחולועלמערכותבינהמלאכותיתהמהוותסיכוןגדוליותר.36
מערכותזיהוירגשותנחשבות,
עלפיהחוק,למערכותבסיכוןגבוה.
החוקמגדירמערכתזיהוירגשות( recognitionemotionsystem)כמערכת
37
בינהמלאכותית
למטרתזיהוישלרגשותאוכוונותשלאנשיםפרטיים,אוהסקתמסקנות
בנוגעלהן,
עלסמךהנתונים
הביומטרייםשלהם.
38המושגמתייחסלזיהוירגשותכגוןאושר,עצב,כעס,הפתעה,גועל,מבוכה,התרגשות,בושה,
בוז,סיפוקושעשוע,אךלאלזיהוימצביםפיזייםכגוןעייפותאוכאב,אומחוותפיזיותגרידא(ללאקשרלזיהויהרגש
שהןמביעות.)39
כ-"מערכתבסיכוןגבוה"(
),מערכתזיהוירגשותצריכהלעמודבכמהדרישותוחובות,
ובכללן
High-RiskAISystems
הקמתמערכתלניהולסיכונים,שמירתרישומים,שקיפותומסירתמידע,עמידהבדרישותאבטחתמידעוסייבר,וכן
פיקוחעלידיגורםאנושי.40
נוסףעלכך,
שימושבמערכותבינהמלאכותיתבמקומותעבודהובמוסדותחינוךעלמנת
לפענחאתרגשותיושלאדםהואאסור,למעטאםמדוברבשימושכאמורמסיבותרפואיותאוביטחוניות(Prohibited
).
AIpractices
41
36
ראובאתרהפרלמנטהאירופי:
EUAIAct:firstregulationonartificialintelligence,February19th2025.
וכןלמשלבמסמךשלהרשותלהגנהעלהמידעשלהולנד:
Autoriteit Persoonsgegevens (NL), AI systems for emotion recognition in the areas of workplace or education
institutions,October2024.p.3.
37AIact,AnnexIII,§1(c).
38"AIsystemforthepurposeofidentifyingorinferringemotionsorintentionsofnaturalpersonsonthebasisoftheir
biometricdata".AIact,article3(39).
39EUartificialintelligenceact(website),Rcital18.
40Aiact,section2-Requirementsforhigh-riskAIsystems.
41AIact,article5(1)(f).
לצורךההשוואה,בהצעתהחוקשלמדינת
ניויורקבנושאהגבלותעלשימושב"מלווהבינהמלאכותית"שהוזכרהבפרקהקודם,מוגדרת
מערכתזיהוירגשותכך:
""Emotionalrecognitionalgorithms"meansartificialintelligencethatdetectsandinterpretshumanemotionalsignals
intext(usingnaturallanguageprocessingandsentimentanalysis),audio(usingvoiceemotionAI),video(usingfacial
movementanalysis,gaitanalysis,orphysiologicalsignals),oracombinationthereof."TheNewYorkStateSenate,
AssemblyBillA6767,Relatestoartificialintelligencecompanionmodels,§1700(7).
הכנסת–מרכזהמחקרוהמידע
www.knesset.gov.il/mmm