חומר רקע
הכנסת
מרכז המחקר והמידע
עמוד 1 מתוך
10
הכנסת
מרכז המחקר והמידע
כ" ב
סיוון תשע"ח
3 ב
יוני
2018
מידע בנושא""בינה מלאכותית
מסמך זה נכתב לבקשת יו"ר
דעו ת המדע והטכנולוגיה, חה"כ אורי מקלב, לקראת דיון של הוועדה בנושא
""בינה מלאכותית: הזדמנויות ואתגרים .
בפתח המסמך מובא רקע קצר בנושא
בינה מלאכותית ; בהמשך מציג המסמך סוגיות הקשורות
ל שימושים
השונים
בבינה מלאכותית והשפעותיהם האפשריות, ו כן שאלות מדיניות
הנגזרות מהם ; התייחסות
לתוכניות שונות של ממשלת ישראל שיש להן זיקות לנושא; ו שאלת הצורך בקיומה של אסטרטגיה
.ממשלתית כוללת לתחום הבינה המלאכותית
,מפאת קוצר היריעה ולוח הזמנים לדיון
אין מדובר בסקירה ממצה של הנושא, אלא בהצגה כללית של
ו
ושל סוגיות מדיניות מרכזיות
.הקשורות אליו
1.
בינה מלאכותית: הגדרות
אין הגדרה אחת מקובלת למושג "בינה מלאכותית". יש המגדירים בינה מלאכותית כ"
מערכת המסוגלת
לפתור בצורה רציונלית בעיות מורכבות או לנקוט בפעולות כדי להשיג את מטרותיה בנסיבות שונות
בהן
היא נתקלת בעולם האמיתי."
1
סוכנות המו"פ הביטחוני האמריקאיתDARPA
מגדירה בינה מלאכותית
"כ
יכולת מתוכנתת לעבד מידע". על פי הסוכנות, רמות עיבוד המידע
:יכולות להיבחן בהתאם ל1) יכול ת
;ה"תפיסה" של המערכות2
;) יכולת הלמידה שלהן3) יכולת ההפשטה של מידע; 4
)ו יכולת הסקת
מסקנות.
2 אחד מהמאפיינים החשוב ים של מערכות אלו היא מידת האוטונומיות שלהן, כלומר יכולתן של
מערכות בינה מלאכותית לקבל החלטות באופן עצמאי, על בסיס עיבוד של מידע ונתונים,
וללא עירוב אדם
בתהליך.
3
הבחנה חשובה בתחום היא בין מערכות בעלות בינה מלאכותית ספציפית (לדוגמא: מיומנות במשחק
שחמט; תרגום
שפה אנושית; יכולת פענוח וזיהוי תמונה) לבין מערכות בינה מלאכותית כלליות (מערכות
עתידניות המפגינות התנהגות אינטליגנטית ברמה אנושית ומעלה במכלול משימות קוגניטיביות). על פי
הערכות של מומחים מן המגזר הפרטי, המופיעות בדוח של הבית הלבן בנושא בינה מלאכותית מאוקטו בר
2016
, בניגוד לבינה מלאכותית בתחומים ספציפיים שהיא עובדה מוגמרת, פיתוחן של מערכות בינה
.מלאכותית כללית לא תושלם בעשור או בעשורים הקרובים4
1 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
2 Defense Advanced Research Projects Agency, "DARPA Perspective on AI", accessed 6 February 2018
3 Matthew U. Scherer, "Regulating Artificial Intelligence Systems: Risks, Challenges, competencies and
Strategies", Harvard Journal of Law & technology, Vol 29, No, 2, 2016, p: 363.
4 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
עמוד 2 מתוך
10
הכנסת
מרכז המחקר והמידע
1.1
.
בינה מלאכותית: דוגמאות
בשנת1997
ניצח המחשב "כחול עמוק" של חברתIBM
את אלוף העולם בשחמט גארי קספרוב במשחק
;שחמט בשנת2011
ניצח המחשב ווטסון שחקנים אנושיים במשחק הטריוויה"Jeopardy"
–
משחק הכולל
מענה
ל שאלות
ב
מגוון רחב מאוד של נושאים,
שהידע אודותיהם נלמד על ידי המחשב באמצעות סריקה
וניתוח של מאגרי מידע
גדולים ; בשנת2016
ניצחה תוכנת בינה מלאכותית בשם "אלפא גו" שפיתחה חברה
"בבעלות גוגל, שחקנים אנושיים מיומנים במשחק לוח סיני עתיק ומורכב בשם "גו(GO)
.
5
:בין היישומים שעושים שימוש במאפיינים של בינה מלאכותית או "למידת מכונה" ניתן לציין מערכות
ממוחשבות המבצעות טרנסאקציות כלכליות
(לדוגמא מסחר במניות) על ב ;סיס עיבוד אלגוריתמי מנועי
חיפוש אינטרנטיי
ם
המציעים למשתמשים המלצות על מוצרים או שירותים כגון: קניות; מלונות; יעדי
;טיסה וכדומה, בהתבסס על ניתוח אלגוריתמי של העדפותיהם
רכבים או רחפנים אוטונומיים
המסוגלים
לנתח את התוואי בו הם פועלים ול
בחור בעקבות המידע בנתי ב תנועה ובפעולות מדויקות לשם הגעה ליעד
או לביצוע משימה שהוגדרה עבורם מראש.
למעשה, השילוב של תחום ה"ביג דאטה" בשילוב עם "למידת
מכונה" הופכים יותר ויותר שירותים לכאלה המבוססים על בינה מלאכותית–
דהיינו מערכות (בעיקר
תוכנות) אוטומטיות המנתחות כמויות גדולות ש
ל מידע וידע ומספקות על בסיסו המלצות, הצעות,
או
שירותים–
לדוגמא"תוכנות "עוזר אישי (
)כמו "סירי" של אפל; או "אלקסה" של אמזון.
"למרות האופי ה"אינסטרומנטלי-טכני של חלק גדול מן המוצרים המבוססים על בינה מלאכותית,
החדירה של טכנולוגיות בינה מלאכותית והשילוב שלהן בכלל תחומי החיים האנושיים, כחלק מתהליכי
הדיגיטציה והמחשוב של סביב
ת החיים שלנו, מעורר
ים
שאלות עקרוניות ומעשיות במגוון רחב של
.תחומים6
2.
בינה מלאכותית: הזדמנויות וחששות
טכנולוגיות בתחומי הבינה
ה
מלאכותית יוצרות ה :זדמנויות חדשות ושווקים חדשים בתחומים כגון
.בריאות, חינוך אנרגיה וסביבה
כך לדוגמ,ה
מערכות בינה מלאכותית הסורקות תיקים רפואיים ומידע
רפואי רב, יכולות לזהות סיכונים או סיבוכים צפויים בהליך רפואי ולהציע טיפול מונע; טכנולוגיות ניתוח
תמונה העושות שימוש במידע מר שתות חברתיות יכולות לזהות בעלי חיים ספציפיים ואת דפוסי התנועה
שלהם בין אזורי מחייה שונים; טכנולוגיות ניטור תחבורה מאפשרות לנהל תנועה בכבישים בצורה יעילה
יותר וכך לצמצם זמני המתנה ופליטת מזהמים;
מיזמים שונים מנסים לעשות שימוש במאגרי מידע
גדולים וניתוח של הידע בהם כדי לפתור סוגיות חברתיות כמו ,פשיעה
אבטלה או נשירה ממערכת החינוך.
:מאידך, חדירתן של טכנולוגיות בינה מלאכותית מעוררות חששות רבים. שאלות ספציפיות לדוגמא הן
מה יהיו ההשפעות של תהליכי אוטומצ
יה על שוק העבודה? לדוגמ,ה במה יעסקו מי שמתפרנס ים כיום
מעבודתם כנהגים עם חדיר
תם המלאה של כלי רכב אוטונומיים?
על מי מוטלת האחריות להחלטות של
מערכות בינה מלאכותית? לדוגמ
ה, מי אחראי ל
רכב אוטונומי שדרס ילד?
עד כמה ניתן להעביר סמכויות
למערכות בינה מלאכותית? לדוג
מ,ה
כיצד משפיע שימוש במערכות לחימה אוטומטיות–
נעדרות מעורבות
אנושית, על
ה
לחימה בשדה הקרב?
,מהי מידת השוויון והנגישות למערכות בינה מלאכותית
ו אילו
5 Google AI Blog, "AlphaGo: Mastering the Ancient Game of Go with Machine Learning", David Silver and
Demis Hassabis, January 27, 2016, accessed 30 May 2018.
6 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
עמוד 3 מתוך
10
הכנסת
מרכז המחקר והמידע
אינטרסים הן משרתות (לדוגמ,ה
צדק חברתי או רווח כלכלי– וכיצד אלה מוגדרים עבורן)?
האם יש ליצור
חקיקה או רגולציה
לא
סדרה של השימוש בטכנולוגיות בינה מלאכותית
ומהם
דפוסי ה
א סדרה
ה
הולמים?
7
3.
סוגיות מדיניות
ב
יישום והטמעה של
טכנולוגיות
בינה מלאכותית
כפי שניתן להבין מהדוגמאות
ש לעיל, טכנולוגיות מתחומי הבינה המלאכותית הן בעלות פוטנציאל השפעה
במגוון רחב של תחומים, ולכן במובן זה ניתן להתייחס אל
יהן
כאל "טכנולוגיה גנרית" (שאין לה יישום
)בזירה ספציפית אחת בלבד . כפועל יוצא, ההשפעות החיוביות וההשלכות השליליות של חדירתן של
טכנולוגיות אלה יכולות להיות נרחבות. מ
ידת ההשפעה תלויה יב ן השאר
ב מוכנות של מדינות להטמעה
של טכנולוגיות
אלה צ וני
ול יתרונותיהן, ולצמצום השלכותיהן השליליות.
להלן יוצגו סוגיות עקרוניות
העולות מ כמה
דוחות בינלאומיים שונים שעסקו בנושא8;
בחלק מן המקרים תובא גם התייחסות לסוגיות
אלו בישראל.
אוטומציה, הגדלת פריון , פגיעה בחלק מהמועסקים
על פי הערכות שונות,
בטווח הקצר
ההשפעה הכלכלית של
כניסת טכנולוגיות בינה מלאכותית צפויה להיות
אוטומציה של משימות שונות המבוצעות כיום על ידי בני אדם.
9
,מחד לתהליכי האוטומציה האמורים
צפויות להיות השלכות חיוביות של
גידול בפריון המשקי; מאידך,
עלולות להיות להן השפעות שליליות על
המועסקים
בתחומים שיעברו את
תהליכי האוטומציה האמורים
, שעלולים לאבד את עבודתם .
בדוח של ועדת המדע והטכנולוגיה של בית הנבחרים הבריטי בנושא "רובוטיקה ובינה מלאכותית" נכתב
בנושא כך: "יש המעריכים,
כי צפוי גידול בשיעור הבלתי מועסקים כאשר כוח העבודה יוחלף ברובוטים
ומכונות העושות שימוש בבינה
מלאכותית. אחרים צופים שינוי בסוג התעסוקה עם היווצרותן של משרות
חדשות שיפצו על אלה שאבדו וחזון
שבו
רובוטיקה ובינה מלאכותית יגדילו את היצע המשרות ויאפשרו
".לבני אדם להגיע להישגים שלא יכלו להגיע אליהם בכוחות עצמם10
על פי דוח
משותף שנכתב על-
ידי
ה
משרד של נש
יא ארצות הברית ,, המועצה הלאומית למדע וטכנולוגיה
והמשרד למדיניות מדע וטכנולוגיה בארצות הברית
:(להלן,)דוח משרד נשיא ארה"ב
מאוקטובר2016
,
7 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
European Parliament, Directorate General or Internal policies, "European Civil Law Rules in Robotics", 2016.
8 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
House of Commons Library, "Artificial Intelligence and Automation in the UK", Briefing Paper Number
8152, 21 December 2017, accessed 30 May 2018.
House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018.
European Commission, "Artificial Intelligence for Europe" Communication from the Commission to the
European Parliament, the European Council, the Council, the European Economic and Social Committee and
the Committee of the Regions, 25 April 2018, accessed 30 May 2018.
9 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018, P.2.
10 House of Commons Library, "Artificial Intelligence and Automation in the UK", Briefing Paper Number
8152, 21 December 2017, accessed 30 May 2018, P.19.
עמוד 4 מתוך
10
הכנסת
מרכז המחקר והמידע
"תחת הכותרת "להתכונן לעתיד הבינה המלאכותית , ההערכה היא כי בטווח הקצר ההשלכות השליליות
של אוטומציה ישפיעו יותר על
משרות בשכר נמוך,
זאת, לצד
גידול אפשרי ב ביקוש לעובדים בתחומים
.משיקים לתחומי הבינה המלאכותית11
,מבחינה משקית הפריון במשק הישראלי
נמוך יחסית לפריון במדינות ה-
OECD
,
ובפרט בתחומי
.החקלאות, התעשייה המסורתית והתעשייה המעורבת12 ככלל, בתחומים אלה קל
,יותר ליישם אוטומציה
ולכן יש בהם פוטנציאל גבוה לשיפור
הפריון .מנגד ,, העובדים בתחומים אלה חשופים יותר לאובדן משרות
ועל כן כדי לצמצם את הפגיעה בהם-
נדרשת הכשרה מקצועית רלבנטית. בהקשר זה נציין כי על פי נתוני
בנק ישראל, שיעור ההשקעה
בהכשרה מקצועית בישראל
נמוך משמעותית מ
ה
שיעור ב מרבית מדינות
ה-
OECD
(וכך גם שיעור ההשקעה בחי)נוך פר תלמיד.
13
השקעה במחקר, מו"פ והכשרת כוח אדם בתחומי הבינה המלאכותית
תחומי הבינה המלאכותית מתא
פ יינים בעתירות ידע ולכן גם בתלות גדולה בביצוע מחקר ומו"פ ובקיומו
.של כוח אדם מקצועי בעל הכשרה רלבנטית
ספריית בית הנבחרים בבריטניה
פרסמה ב דצמבר2017
דוח
ת
חת הכותרת "בינה מלאכותית ואוטומציה בבריטניה"
; בית הלורדים בבריטניה
פרסם
באפריל
2018
דוח
המסכם דיונים של ועדה מיוחדת של בית הלורדים בנושא בינה מלאכותית, הנ ו
ציבות האירופית
פרסמה
באפריל2018
מסמך
ת
חת הכותרת "
בינה מלאכותית
למען אירופה",
,שלושת הדוחות מציינים את הצורך
להשקיע במחקר ובמו"פ בתחומי הבינה המלאכותית.
14
במסמך מדיניות תקציב של משרד האוצר
הבריטי
מנובמבר2017
צוין,
כי בכוונת ממשלת בריטניה
להקצות75
מיליון לירות שטרלינג למימוש המלצות דוח מומחים בלתי תלוי בנושא בינה מלאכותית;
ובתוך כך, בכוונתה
לתקצב450
תלמידי דוקטורט בתחומי הבינה המלאכותית ולהקים
מרכז "לאתיקה
"במידע וחדשנות(Data Ethics and Innovation)
.
15
11 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
12
" ,בנק ישראל
מיומנויות היסוד של העובדים בישראל והפריון בענפי המשק ,"
,שי צור19
ביולי2016
,
:כניסה30
במאי2018
.
13
" ,בנק ישראל
פריון והון אנושי ,", ד"ר קרנית פלוג, מצגת11
ביוני2016
:, כניסה30
במאי2018
.
14 House of Commons Library, "Artificial Intelligence and Automation in the UK", Briefing Paper Number
8152, 21 December 2017, accessed 30 May 2018.
House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018.
European Commission, "Artificial Intelligence for Europe" Communication from the Commission to the
European Parliament, the European Council, the Council, the European Economic and Social Committee and
the Committee of the Regions, 25 April 2018, accessed 30 May 2018.
15 House of Commons Library, "Artificial Intelligence and Automation in the UK", Briefing Paper Number
8152, 21 December 2017, accessed 30 May 2018.
שאלות מדיניות :
האם קיימת היערכות ממשלתית לשם
מיצוי ה יתרונות של טכנולוגיות בינה
מלאכותית, ל הטמעה של פתרונות אוטומציה וחיזוק חדשנות גם במגזרי תעשייה שאינה עתירת
ידע?
; האם קיימת אסטרטגיית התמודדות
ל צמצום ההשלכות הצפויות עקב אבדן משרות בשל
אוטומציה? לדוגמא: הכשרה מקצועית; מסלולי הסבה מקצועית; לימודים במהלך החיים.
עמוד 5 מתוך
10
הכנסת
מרכז המחקר והמידע
בדוח של משרד נשיא ארה"ב
ה
ומלץ בין השאר, כי על הממשלה לתעדף מחקר בסיסי16 וארוך טווח ב תחומי
הבינה המלאכותית, בדגש על
יוזמות מחקר בהן השוק הפרטי לא צפוי להשקיע.
17
באפריל2018
קבעה
הנציבות האירופית)(הרשות המבצעת של האיחוד האירופי כי על האיחוד לרכז שיתו
פי
,פעולה וכן לתאם
ולתקצב באופן ייעודי את המחקר הבסיסי והמו"פ בתחומי הבינה המלאכותית
כדי לחזק את התעשייה
האירופית ואת האימוץ של טכנולוגיות
בינה מלאכותית בכלל תחומי הכלכלה.
18
ישראל נחשבת לסביבה פורה לחדשנות בכלל
, ובפרט בתחומים משיקים לתחומי הבינה המלאכותית– כגון
טכנולוגיות המידע
(ICT)
., סייבר ועוד ,לפי רשות החדשנות ביטוי לעצימות
המו"פ בישרא
ל
מקובל לראות
בין השאר בשיעור הגבוה של השקעה במו"פ כאחוז מהתמ"ג(
לפי הרשות, השיעור בישראל–
4.3%
מהתמ"ג בשנת2016
–
הוא
הגבוה
בעולם
)ובמספר מרכזי המו"פ של חברות רב-
לאומיות הפועלות
בישראל (כ-
300
מרכזים).
19
מאידך, כבר כיום ישנו מחסור בכוח אדם מיומן בהנדסה דבר הבא לידי ביטוי
.בביקוש הגבוה לעובדים בתחום זה וכפועל יוצא בעלות העסקה גבוהה20
בכנס בנושא "בינה מלאכותית" שהתקיים בסוף מאי2018
ציין יו"ר המועצה הלאומית לכלכלה,
'פרופ
אבי שמחון,
כי קיים חוסר בכוח אדם בתחומי מדעי המחשב וההנדסה
ו
המועצה בראשותו פועלת
מול
המועצה להשכלה גבוהה והוועדה לתכנון ותקצוב
ל
הכשרת יותר כוח אדם
.בתחומים אלה
לא צוין שיעור
.וקצב הגידול המתוכנן ואופן ההכוונה של היצע מקומות הלימוד בתחום21
חיזוק האוריינות הדיגיטלית וצמצום הפער הדיגיטלי
בשל ההערכות כי בעתיד
צפויה חדירה של טכנולוגיות רבות מתחומי הבינה המלאכותית,
דוחות שונים
ציינו כי יש
לשפר את ההבנה של
הציבור ביחס לטכנולוגיות אלה ובהתאמה- את האמון שלו בהן.
עוד
מצוין בדוחות,
כי יש צורך להכשיר את התלמידים בכלל מערכת החינוך בתחומי האוריינות הדיגיטלית
ולימודי מדע, טכנולוגיה, הנדסה ומתמטיקה(STEM)
.
הכשרת התלמידים בנושאים אלה גם חיונית
לצורך הקניית מיומנויות
.רלבנטיות לשוק העבודה העתידי22
16
מחקר בסיסי(Basic Research)
בניגוד למחקר יישומי(Applied Research)
ולמחקר ופיתוח(R&D)
מונע מסקרנות ולא
.מניסיון להציע פתרון לבעיה קונקרטית
17Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018.
18 European Commission, "Artificial Intelligence for Europe" Communication from the Commission to the
European Parliament, the European Council, the Council, the European Economic and Social Committee and
the Committee of the Regions, 25 April 2018, accessed 30 May 2018.
19
" ,רשות החדשנות, משרד הכלכלה חדשנות בישראל תמונת מצב2017
:", כניסה30
במאי2018
", עמ11
.
20
'שם, עמ12
.
21
,פרופ' אבי שמחון, יו"ר המועצה הלאומית לכלכלה, הרצאה בכנס "בינה מלאכותית מזווית אחרת" באוניברסיטה העברית
29
במאי2018
.
22 House of Commons Library, "Artificial Intelligence and Automation in the UK", Briefing Paper Number
8152, 21 December 2017, accessed 30 May 2018.
:שאלות מדיניות
האם יש
צורך לעודד השקעה
ייעודית
במחקר בסיסי
ו מו"פ בתחומי הבינה
המלאכותית; האם כוח האדם בתחומים אלה מספק מב?חינת היקפו והידע שלו
עמוד 6 מתוך
10
הכנסת
מרכז המחקר והמידע
בישראל פועלים בתחומי האוריינות הדי גיטלית גופי ממשלה לצד גופי מגזר שלישי רבים. תחת אחריות
)משרד המדע והטכנולוגיה מופעלת תוכנית להב"ה (לצמצום הפער הדיגיטלי בחברה הישראלית23
,; בנוסף
גם המשרד לשוויון חברתי מטפל
ב נושא זה באמצעות "מטה ישראל דיגיטלית" שאחראי על גיבוש התוכנית
.הדיגיטלית הלאומית24
א
פליה, הוגנות ושקיפות של מערכות בינה מלאכותית
מערכות מבוססות בינה מלאכותית עושות שימוש רב בבסיסי נתונים קיימים ו
ב
מידע המוזן אל יהן ומשמש
כדי לאפשר להן ללמוד; בנוסף, התכנות של אלגוריתמים שמשמשים מערכות בינה מלאכותית נעשה על
ידי מתכנתים המגדירים למערכת מעין "כ ."ללי הפעלה בסיסים הטיות בבסיסי הנתונים או בהנחיות
,המוזנות למערכות כאלה לצד טעויות מערכת
אחרות
, עשוי
ות לגרו
ם למערכות כאלה
להפלות חלק מן
,המשתמשים. ככל שחדירתן של מערכות כאלה צפויה לגדול וסמכויותיהן ביחס לקבלת החלטות תגדל
"עלולה להתרחש "אפלייה אלגוריתמית בהיקפים נרחבים יותר.
25
על פי טענות של מומחים שונים לנושא, סוגיה זו ,רלבנטית כבר כיום שכן חברות וגופים
שונים
במגזר
הציבורי משתמשים או בוחנים שימושים הכוללים תהליכי מיון וסיווג
(Profiling)
מבוססי בינה
מלאכותית של מועמדים שונים למשרות; לתיעדוף בקבלת שירות או בתנאי
שירות ואף בתהליכי ענישה ;
לדוגמא, בתי משפט במספר מדינות בארה"ב עשו שימוש במערכות המ
דרגות
רמת סיכון או רצידיביזם
)(פשיעה חוזרת כדי
לתמוך בהחלטות שיפוטיות,
ונטען כי מערכות אלה מוטות בשל המידע שהוזן לתוכן
.ולכן מפלות על בסיס אתני26
כדי לצמצ
ם
את ההשפעות
הללו מוצעים בדוחות שסקרנו צעדים שונים, ו
בהם : שקיפות ואחריותיות
;ביחס לעצם השימוש במערכת בינה מלאכותית בתהליך מתן הסברים לרציונל של החלטות שנתקבלו על
;ידי מכונה
מתן
כלים טכנולוגיים לשם בדיקת תהליכי קבלת החלטות של מכונות ויצירת סטנדרטים
למובנות של החלטות27; ה כשרה של מתכנתים בתחומי האתיקה; גיוון אתני ומגדרי של כוח העבודה
.בתחומים אלה ועוד
,לצד האפליה האלגוריתמית
יש הטוענים כי בשל חדירתן של טכנולוגיות בינה מלאכותית
הדוחקות
,מקצועות שונים משוק העבודה
אי-
השוויון ותפיסת אי השוויון
צפוי
ים
.לגדול הדבר מעורר דיון (לרבות
23
" ,משרד המדע והטכנולוגיה תכנית להב"ה- לצמצום הפער הדיגיטלי בחברה הישראלית :", כניסה30
במאי2018
.
24
" ,ראו: המשרד לשוויון חברתי, המיזם הלאומי ישראל דיגיטלית
התכנית הדיגיטלית הלאומית של ממשלת ישראל ", יוני
2017
". יצוין, כי התכנית הדיגיטלית הלאומית אמנם מזכירה את המושג "בינה עסקית(BI)
אך אין בה הסתכלות מובחנת
על טכנולוגיות מסוג זה ועל השלכות.השימוש בהן
25 House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018, Pp. 128-129.
26
פרופ' קרין נהון, המרכז הבינתחומי; ד"ר נמרוד קוזלובסקי; הרצאות בכנס "בינה מלאכותית מזווית אחרת" באוניברסיטה
,העברית29
במאי2018
.
27
הכוונה ליכולת להסביר ולנמק החלטות של מערכות בינה מלאכותית ולתרגם אותם למשתמש או למי שההחלטה משפיעה
.עליו
:שאלות מדיניות
האם רמת האוריינות הדיגיטלית של תלמידי מערכת החינוך בישראל והציבור בכלל
הינה מספקת; מהו היקף הפערים הדיגיטליים בישראל ומה נעשה כדי לצמצם אותם ולמנוע הדרה
?ואפליה בשירותים בשל יכולת שונה להשתמש בטכנולוגיות מידע ולהבין אותן
עמוד 7 מתוך
10
הכנסת
מרכז המחקר והמידע
בבנק העולמי) בצורך
לבחון כיצד ליצור מנגנוני ביטחון סוציאלי (כולל דיון ער ב כינון מודל של "הכנסה
;בסיסית") לצד שינוי בחוקי עבודה28
גישה ושליטה במידע, תחרותיות ופרטיות
בינה מלאכותית, ובפרט למידת מכונה,
היא תחום מבוסס
מידע,
ולכן מי שיש לו גישה לבסיסי נתונים
גדולים, תקפים ומקיפים הוא בעל יתרון תחרותי משמעותי. יש הגורסים כי בכלכלת האינטרנט קיים
"אפקט "המנצח זוכה בכל,
שתורם לדומיננטיות הגוברת של חברות הטכנולוגיה הגדולות בשוק המידע
.וביכולת להפיק ממנו תועלות29
בנוסף, לאחרונה החל דיון ביחס להשפעות של השימוש באלגוריתמים על
.התחרותיות בשוק הדיגיטלי תוך התייחסות לחששות לפגיעה בדיני הגבלים עסקיים ובהגנת הצרכן30
לרשויות
המדינה יש בעלות על נתונים ומידע משמעותי;
להנגשתו של מידע כזה לציבור ולשוק בכלל צפויה
.השפעה חיובית גם על יכולתם של שחקנים קטנים יותר לעשות שימוש במידע ,עם זאת כדי לאפשר את
השימוש במידע, יש לוודא כי הוא נגיש בפורמט מתאים,
וכן מנוהל בסטנדרטים אחידים שיאפשרו לגשת
אליו ולקרוא אותו באמצעות מערכות מחש.ב31
:סוגיה נוספת היא פרטיות המידע כיוון שחלק מן הנתונים
כולל
ים או עשוי
ים לכלול מידע אישי,
יש לוודא
"כי מבוצעת "אנונימיזציה אפקטיבית של המידע (דהיינו: לא ניתן להסיק מן המידע הגלוי אודות זהותו
.)של מי שהמידע אודותיו בהקשר זה יש לציין כי ככלל, היקפי עיבוד המ ידע המתרחשים כחלק מן השילוב
בין טכנולוגיות מידע חדשות "בהן: "ביג דאטה"; "בינה מלאכותית" ויישומי "האינטרנט של הדברים
(IOT)
מציבים אתגרים משמעותיים למושג הפרטיות בכלל והפרטיות במידע בפרט. לאחרונה נכנסה
"לתוקף חקיקה אירופית נרחבת לנושא "הגנה על מידע,
אשר
כולל ת גם התייחסויות ספציפיות לזכויות
של אדם
ב
יחס למיפוי)"/ניקוד שלו ("פרופיילינג
ולהחלטות המתקבלות
ביחס אליו ב
התבסס על
מערכות
בינה מלאכותית.
32
28 The World Bank, World Development Report 2019, "The Changing Nature of Work", Working Draft, May
25 2018, Accessed: 30 May 2018.
29 House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018, Pp. 29-30.
30 OECD, "Algorithms and Collusion: Competition Policy in the Digital Age", 17 September 2017, accessed 3
June 2018.
31 House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018, Pp. 29-30.
32 Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection
of natural persons with regard to the processing of personal data and on the free movement of such data, and
repealing Directive 95/46/EC (General Data Protection Regulation), Article 22, accessed 3 June 2018.
שאלות מדיניות : כיצד ניתן למנוע אפלייה במערכות בינה מלאכותית, ולפעול לצמצום הטיות
במערכות אלו; האם ניתן לדרוש שקיפות ומובנות בהחלטות של
.מערכות בינה מלכותית
:שאלת מדיניות האם הכלים הרגולטוריים הקיימים אפקטיביים לעידן הדיגיטלי בכלל ולטכנולוגיות
בינה
מלאכותית בפרט?
עמוד 8 מתוך
10
הכנסת
מרכז המחקר והמידע
שיתו
פי פעולה בינלאומיים ובין מגזריים
דוח משרד נשיא ארה"ב בנושא בינה מלאכותית מציין,
כי כדי להפיק את המיטב מיישומי בינה מלאכותית
בתחומי הבריאות, אוטומציה של ייצור וטכנולוגיות מידע נדרש שיתוף פעולה בינלאומי ,. בנוסף
לטכנול וגיות בינה מלאכותית יש גם את הפוטנציאל להציע פתרונות לסוגיות גלובאליות כגון: מוכנות
ותגובה לאסונות, שינויי אקלים, הברחות של בעלי חיים, ועוד. הדוח מציין כי בארה"ב יש אסטרטגיה
ממשלתית לשיתופי פעולה בתחומי הבינה המלאכותית,
אולם על ממשלת ארצות הברית להעמיק את
המעורבות שלה עם שחקני מפתח בזירה הבינלאומית, כולל ממשלות, גופים בינלאומיים, תעשייה
.ואקדמיה33
בדוח של הנציבות האירופית צוין,
כי כיוון שטכנולוגיות בינה מלאכותית הן מוצר הנסחר בצורה
בינלאומית
, רק פתרונות גלובאליים יהיו ברי קיימ
א בזירה זו. עוד צוין בדוח,
כי ארגונים
רב-
לאומיים
שונים כמו ה-
OECD
ו
האו"ם ועוד החלו לדון בשימושים של בינה מלאכותית, כולל בזירה הצבאית,
וכי
האיחוד האירופי ימשיך לעודד דיונים על בינה מלאכותית בהיבטים שונים, כולל שיתופי פעולה בתחומי
.מחקר וחדשנות34
רגולציה של שווקים חדשים, ובפרט טכנולו גיים, מחייבת היכרות של מקבלי ההחלטות עם המאפיינים
הייחודיים שלהם. כיום, כך נטען, יש
פער בין ההיכרות של השוק (בדגש על מהנדסים, מתכנתים וכו') עם
טכנולוגיות בינה מלאכותית, לבין ההיכרות של
מקבלי ההחלטות עם טכנולוגיות אלה.
כדי ליצור חקיקה
או רגולציה רלבנטית ואפ קטיבית יש לחזק קודם.את שיתופי הפעולה בנושאים אלה35
:לצד שת"פ בין מדינתיים, יש גם שת"פ נוספים ענקיות הטכנולוגיה (בהן: אמזון, אפל, פייסבוק, גוגל, יבמ
"ומיקרוסופט) הקימו "שותפות(Partnership)
בנושא בינה מלאכותית, יחד עם ארגוני מגזר שלישי שונים
(בהם: האגודה
לזכויות האזרח בארה"ב, ארגון אמנסטי, ארגוני פרטיות ועוד), גופי אקדמיה, ואף גופים
.המתמחים בתחומי הבינה המלאכותית36
33 Executive Office of the President National Science and Technology Council Committee on Technology,
"Preparing for the Future of Artificial Intelligence", October 2016, accessed 5 February 2018, Pp, 35.
34 European Commission, "Artificial Intelligence for Europe" Communication from the Commission to the
European Parliament, the European Council, the Council, the European Economic and Social Committee and
the Committee of the Regions, 25 April 2018, accessed 30 May 2018, P, 19.
35
חמוטל מרידור, מנכ"ליתPalantir
,ישראל, כנס "בינה מלאכותית מזווית אחרת" באוניברסיטה העברית29
במאי2018
.
36 "Partnership on Ai", accessed 3 June 2018.
שאל
ו ת מדיניות: האם מדינת ישראל לוקחת?חלק ביוזמות בינלאומיות בתחומי הבינה המלאכותית
האם מתקיים דיון בין הרגולטורים, המחוקק והגורמים
ה מובילים בשוק לשם בחינת עיצוב רגולציה
?עתידית בתחום
עמוד 9 מתוך
10
הכנסת
מרכז המחקר והמידע
שימוש בבינה מלאכותית על ידי גופים ציבוריים ואסטרטגיה לאומית בתחום הבינה
המלאכותית
על פי הדוח של ספריית בית הנבחרים הבריטי, לטכנולוגיות מתחומי הבינה המלאכותית
מצויות
בבריטניה
בשימוש ממשלתי
בתחומים שונים: יעילות ושיפור שירותים דיגיטליים; בחינת שימושי קרקע באמצעות
ניתוח תצלומי לווין ועוד. התקדמות טכנולוגית והתפתחות שירותים מתחומי הבינה המלאכותית עשויות
להשפיע על
תחומים נוספים ובצורה נרחבת יותר : שיפור היעילות של שירותים קיימים באמצעות ניתוח
וצ פיית הביקוש לשירות והתאמה אישית שלו; הקלה על אנשי המגזר הציבורי בקבלת החלטות מבוססות
.נתונים, וצמצום הונאות וטעויות; שיפור השירות באמצעות הבנה טובה יותר של קהל היעד שלו
דוגמאות מבריטניה, ארצות הברית ואירופה מצביעות על קיומן של
אסטרטגיות לאומיות לנושא הבינ
ה
המלאכותית –
העוסקות הן בניסיון ליצור או לחזק מובילות בתחומים אלה והן בניסיון לצמצם השלכות
.שליליות או סוגיות אתיות ורגולטוריות בתחום
לדוגמה, באפריל2018
פרסמה ממשלת בריטניה
מסמך לאסטרטגיה בתחומי הבינה המלאכותית . בין
השאר מצוין במסמך, כי הממשלה תקים
מועצה לבינה מלאכותית
בשיתוף אנשי תעשייה, אקדמיה
;וממשלה וכי המועצה תוביל פעילות, תפקח על יישום, תדרבן את התעשייה ותייעץ לממשלה בנושא זה
בנוסף, הממשלה תקים
משרד לבינה מלאכותית
שיעבוד מול המועצה, יקדם אסטרטגיה לאומית בתחום
וישתף פעולה עם מיזמים ממשלתיים אחרים רל.בנטיים37
לצד הסתכלות אסטרטגית רחבה, בדוח של בית הלורדים הבריטי, הוצגה עמדה לפיה אין ליצור רגולציה
כוללנית
לכלל תחומי הבינה המלאכותית, אלא לשמר את הרגולציות המגזריות ואת הרגולטורים הממונים
עליהם. בשל הערכתם כי העול על הרגולטורים צפוי לגדול, הם מציעים כי יי בחן קיומם של משאבים
.)מספקים עבור משרד "נציבות המידע" (הגוף המקביל לרשות הגנת הפרטיות בישראל38
בישראל קיימות
תוכניות לאומיות שונות שיש להן זיקה לתחומי הבינה המלאכותית , ובהן: התוכנית
הלאומית לבריאות דיגיטלית39; התוכנית לתחליפי דלקים ותחבורה חכמה40
; התוכנית הדיגיטלית
.הלאומית; החלטות הממשלה ויישומן ביחס להסדרת מרחב הסייבר והקמת מערך הסייבר ועוד41
בהכללה, תוכניות אלה נועדו הן לאסדרה והן ליצירה או מיסוד של מובילות ישראלית ורתימ
ה של
.התחומים השונים להשפעה על יצירת טובין ציבוריים וחדשנות בשירותים
37 Gov.Uk, "Policy Paper: AI Sector Deal", Published 26 April 2018, accessed: 31 May 2018.
38 House Of Lords, Select Committee on Artificial Intelligence, Report of Session 2017–19, "AI in the UK:
Ready, Willing and Able?", Published 16 April 2018, accessed 30 May 2018, Pp. 137-138.
39
"התכנית הלאומית לבריאות דיגיטלית כמנוע צמיחה ,"נספח ל החלטת ממשלה מספר3709
מ
יום ה-
25
במרס2018
בעניין תכנית לאומית לקידום תחום הבריאות הדיגיטלית :, כניסה30
במאי2018
.
40
'החלטת ממשלה מס2316
" ,תכנית לאומית לתחבורה חכמה ,"
22
בינואר2017
; אתר
התוכנית הלאומית לתחליפי דלקים ,
:כניסה30
במאי2018
.
41
'החלטת ממשלה מס3611
"" ,קידום היכולת הלאומית במרחב הקיברנטי, 7
באוגוסט11
20
;
'החלטת ממשלה מס2444
,
"
,"קידום ההיערכות הלאומית להגנת הסייבר15
בפברואר2015
;
'החלטת ממשלה מס2443
,
"קידום אסדרה לאומית
,"והובלה ממשלתית בהגנת הסייבר15
בפברואר2015
.
עמוד
10
מתוך
10
הכנסת
מרכז המחקר והמידע
,עם זאת
לא מצאנו
התייחסות ממשלתית אינטגרטיבית
לנושא הבינה המלאכותית , הכוללת אסטרטגיה
לאומית וחלוקת סמכויות
ל
כלל הגופים הרלבנטיים לנושא . בין גופים אלה יש כאלה העוסקים
בסוגיה
,במישרין
;ובהם: התקשוב הממשלתי במשרד ראש הממשלה; ישראל דיגיטלית במשרד לשוויון חברתי
מינהלת תחליפי דלקים במשרד ראש הממשלה; מערך הסייבר במשרד ראש הממשלה; הרשות להגנת
הפרטיות במשרד המשפטים; רשות החדשנות במשרד הכלכלה; משרד המדע והטכנולוגיה והמועצה
הלאומית למחקר ופיתוח
.ועוד נוסף על
גופים
אלו קיים מעגל רחב יותר של גופי ממשלה שיש להם תפקיד
בנושא, בין אם כצרכנים או
כ
גורמי מדיניות
, ובהם : משרד החינוך, המועצה להשכלה גבוהה, המשרד
.לביטחון פנים, משרד הביטחון, המשרד להגנת הסביבה ועוד
,יש לציין
על פי מידע שהועבר לוועדת המדע והטכנולוגיה של הכנסת, המועצה
הלאומית למחקר ופיתוח
מבצעת סקר
לאומי בנושא בינה
מלאכותית,
ובין השאר
יח ב ל ס שאלת הצורך במדיניות ממשלתית כוללת
.לתחום42
עוד צוין, כי
ר
אש הממשלה עומד למנות את חה"
,כ לשעבר
הפרופ' יצחק בן ישראל ,יו"ר
וכ ס
נו ת
הח
לל יש ה
רא
לי,ת את ו ד"ר אביתר מתניה, ל
שעבר
ראש
מ
ערך הסייבר,
לעמוד בראש מיזם
לאיתור וגיבוש תוכנית לאומית של שטחים טכנולוגיים קריטיים לביטחון ולכלכלה שבראשם בינה
מלאכותית.
43
כתיבה: רועי גולדשמידט
:אישור אורלי אלמגור
לוטן., ראש צוות
42
ד"
ר ניל נמיר, יועץ
מידניות מו"
,ה פ מועצה הלאומית למחקר ופיתוח(המולמו"פ) ,
,משרד המדע והטכנולוגיה
דוא"
,ל3
ביוני
2018
.
43
המידע נתקבל מהגב' רוויטל ירון מלשכתו של
פרופ' יצחק בן ישראל, ראש המרכז למחקר סייבר בינתח ומי ע"ש בלווטניק
וראש סדנת יובל נאמן למדע, טכנולוגיה וביטחון באוניברסיטת תל אביב
, דוא"
,ל1
ביוני2018
.
שאלות מדיניות: האם יש צורך לקדם אסטרטגיה לאומית
כוללת בתחומי הבינה המלאכותית?; האם
נעשים ניסיונות מתואמים לרתום טכנולוגיות מתחומי הבינה המלאכותית לשם שיפור השירות
?הציבורי ותהליכי קבלת החלטות של הפקידות הבירוקרטית