חומר רקע

יונ י2020, סיון תש"ף אפליה אלגוריתמי ת במערכות ה מבוססות על בינה מלאכותית האם מערכות ממוחשבות ה?פועלות באופן אוטונומי, על בסיס אלגוריתמים, עלולות להפלות בני אדם לפי הגדרה מילונית, "אלגוריתם" הוא סדרה של הנחיות או חוקים מתמטיים המשמשים לשם פתרון בעיות, בפרט באמצעות מחשב. אלגוריתמים ממוחשבים בעלי יכולת למידה משמשים כיום עבור שלל פעולות ייעוץ, מיון, המלצה והתאמה אישית, באינטרנט ומחוצה ל ו . אלגוריתמים הם מאבני הבניין המרכזיות של מערכות בינה מלאכותית . אפליה אלגוריתמית היא מצב שבו אלגוריתם )(למשל במערכת מיון מועמדים לעבודה מזהה ,במישרין או בעקיפין, מידע ביחס למשתני רקע, כגון מגדר ,גזע או נטייה מינית ,ומ פיק תוצאה בהינתן .משתנים אלה חדירתן הגוברת של מערכות בינה מלאכותית אל חיי ם היו- יום והשימוש ב הן ב ,תהליכי קבלת החלטות תוך צמצום של מעורבות אנושית עד כדי היעדרה ,מעורר ים .שאלות בדבר ההשלכות של שימושים אלה על אפליה ממצאים עיקריים הטיות בבסיסי הנתונים או בהנחיות המוזנות למערכות בינה מלאכותית ,בד בבד עם טעויות מערכת אחרות, עשויות לגרום .למערכות כאלה להפלות חלק מן המשתמשים ככל שהשימוש במערכות אלו יגדל ,והשפעתן על קבלת הה חלטות תגדל , כך עלולה ה "אפליה ה אלגוריתמית" או "בעיית ההוגנות" במערכות אלה .להתרחב דוגמאות לאפליה או הטיה ה מבוסס ו ת על אלגוריתם:  :אפליה בהחלטות שיפוטיות בתי משפט בכמה מדינות בארה"ב משתמשים במערכ ו ת המדרג ו ת רמת סיכון או .רצידיביזם (פשיעה חוזרת) כדי לתמוך בהחלטות שיפוטיות נטען כי מערכת נפוצה בתחום היא מע רכת ה מוט ו מפל ה על בסיס אתני . לפי מחקר שנערך בנוש א, רמת הניבוי של המערכת ו שיעור ה טעויות בה היו דומ ים להחלטות שהיו מתקבלות על ידי אנשים נטולי כל הכשרה.בתחום  אפליה ב העסקה או בשירות : חברות וגופים שונים משתמשים ב תהליכי מיון וסיווג(Profiling) של מועמדים למשרות תוך התבססות .על כלי בינה מלאכותית בנקים וגופים מלווים משתמשים לעיתים במערכות בינה מלאכותית כדי לאמוד את סיכויי ההחזר של .לווים שונים לפי מחקרים שונים, .מערכות כאלה נטו לשעתק אפליה של אוכלוסיות מסוימות  אפליית :מחירים או תמחור דיפרנציאלי שירותים ומוצרים שונים, ובהם טיסות ו ביטוחים, מתומחרים בצורה שונה על פי מידע אישי מפורט, הזמין באמצעות ניטור מידע .על הלקוחות ב מידע כזה עשויים להיכלל סוג המכשיר ש ממנו מבוצעת הרכישה, מיקום המשתמש, דפוסי חיפוש ו דפוסי רכישה קודמים. בהתאם ל מידע ,שבדרך כלל הלקוח איננו מודע לקיומו או לשימוש בו ,כמדד לתמחור לכל לקוח נקבע מחיר שונה בעבור מוצר זהה.  :הטיה במידע השימוש ב אלגוריתמים לזיהוי תחומי עניין, עמדות ו מאפיינים אישיים, במסגרת הניסיון של פלטפורמות "הרשת הגדולות לספק תוכן "רלוונטי, משפיע על החשיפה של משתמשי ה רשת לת כנים מסוימים ,ולאנשים מסוימים שעמדותיהם דומות לשלהם .מצב זה עלול לה ם עצי תפיסות ועמדות ו ל חזק .מגמות קיטוב בשל האמור לעיל, אצל משתמש שהרשת ב.עבורו היא "תמונת העולם" עשויה להיווצר הטיה בתפיסת המציאות  אפקטיביות פחותה של מערכות בינה מלאכותית ב :עבור אוכלוסיות מסוימות מידת ההצלחה של מערכות בינה מלאכותית שונה מאוכלוסייה לאוכלוסייה .לדוגמ ה , מכון התקנים האמריקאי מצא כי שיעור הטעו יו ת של תוכנות זיהוי פנים בזיהוי אנשים ממוצא אפריקני או מזרח אסיאתי היה גבוה במידה ניכרת משיעור הטעו יו ת בזיהוי אנשים ממוצא ;אירופי במקרים אחרים נתגלו טעויות רבות בניבוי תחלואה ב קבוצות אוכלוסייה מסוימות. הגורמים לאפליה או הטיה במערכות בינה מלאכותית :  הקלט המוזן למערכת: טעויות בסוג המידע המוזן ל מערכות למידת מכונה, המשמש נקודת ייחוס של המע רכת ל חיזוי, הן מקור נפוץ להטיות בתוצאות או בהמלצות של מערכות כאלה. לדוגמה, הזנת נתונים על גברים בלבד, לצורך חיזוי תחלואה, ב מערכת ש אמורה להפיק תוצאה גם על תחלואת נשים.  שימוש במשתני ניבוי מוטים או מפלים: במסגרת תהליך העיצוב של אלגוריתמים יש ל קבוע מדדים ל תוצאה הרצויה. מדדי ניבוי בעייתיי ם צפויי ם לגרום, במתכוון או בטעות, .להטיות מה ג דו ל, ב מיון מועמדים – הגדרה של עובד טוב כ "מי ש נשאר בעבודה עד מאוחר" צפויה לפגוע ב דירוג של.נשים הגדרה של עובד טוב כ "מי שזכה להערכה גבוהה ממעסיק קודם" צפויה לשעתק אפליה .מצד מעסיקים קודמים יצוין כי גם במקרים ש בהם אלגוריתמים אינם מוזנים במשתני "רקע "רגישים, .המערכות מצליחות להסיק אותם ממשתנים אחרים ,לדוגמה להסיק מידע על מצב כלכלי על בסיס .כתובת מגורים אפליה אנושית או אלגוריתמית: ב מחקרים שונים נמצא כי יש נטייה אנושית להפלות – נטייה שלעיתים משועתקת או מועצמת במעבר למערכות בינה מלאכותית .םג בדוגמאות ש לעיל ,הגורם האנושי אחראי לרוב ההטיות של המערכות .אף על פי כן , הנטייה לראות במערכות בינה מלאכותית מכשיר מדעי ואובייקטיבי עלול ה להקנות לתוצאותיהן מעמד של אמת שאין ב לתה. בניגוד לטענה המקובלת כי מערכות בינה מלאכותית הן כמו "קופסאות שחורות" שאי-אפשר לראות דרכן ולהבין את המתרחש בתוכן , במחקר מקיף בנושא נטען כי דווקא במערכות בינה מלאכותית מתאפשר לזהות ,לנטר ולצמצם אפליה ביעילות רבה יותר מאשר בניסיון לזהות אפליה שנעשית על ידי בני אדם. דרכי התמודדות עם אפלי ה אלגוריתמית כדי לצמצם את ממדי האפליה באמצעות אלגוריתמים מוצעים כלים ועקרונות שונים, ו בהם שקיפות ואחריותיות ב עצם השימוש במערכת בינה מלאכותית; מתן הסברים לרציונל של החלטות שנתקבלו על ידי מכונה; פיתוח כלים טכנולוגיים לשם בדיקת תהליכי קבלת החלטות של מכונות ויצירת סטנדרטים למובנות או הסברתיות(Explainability) ;של החלטות הכשרה של מתכנתים בתחומי האתיקה; גיוון אתני ומגדרי של כוח העבודה בתחומים אלה. יצוין כי סעיף 22 ב- DPR G, החקיקה האירופית בנושא הגנה על מידע ,מתייחס מפורשות ל זכויות יו של אדם בכל הקשור להחלטות המתקבלות בעניינו, בהתבסס על"מערכות החלטה אוטומטי תו", כולל למיפוי מידע אישי או ניקוד שלו(Profiling) .כמו כן ,ארגון ה- OECD פרסם במאי2019 מסמך המלצות ב תחום ,הבינה המלאכותית ובהן נכללה גם מניעת אפליה. מדיניות ממשלתית בישראל טרם גובשה "אסטרטגיה לאומית" לבינה מלאכותית, להבדיל ממדינות אחרות (ראו סקירה של הפרלמנט )האירופי .במסגרת "המיזם הלאומי למערכות נבונות" שהוקם ביו ל י2018 פעלו 15 צוותי ם, שהורכבו מ מאות מומחים מכלל המגזרים. הצוותים עסקו בטכנולוגי ות שונ ות , במגזרי משק רלוונטיים ובסוגיות מרכזיות. בנובמבר2019 פורסם דוח של ועדת משנה של המיזם בנושא אתיקה ורגולציה של בינה מלאכותית . בדוח הומלץ :לאמץ עקרונות אתיים לבינה מלאכותית הוגנות; אחריותיות (כולל שקיפות, הסברתיות וניהול סיכונים); כיבוד זכויות אדם; הגנת סייבר ואבטחת מידע; בטיחות וקיום .שוק תחרותי זאת ועוד , בדוח הוצג כלי לבחינת ההשלכות האתיות של פיתוח מערכת בינה מלאכותית ושימוש בהן . בקרוב יוגש לראש הממשלה דוח שמסכם את המיזם ואת שאלת גיבוש ה מדיניות ה לאומית בתחום הבינה המלאכותית. מוסד שמואל נאמן פרסם דוחות שונים על בינה מלאכותית שנכתבו עבור המועצה הלאומית למחקר ופיתוח אזרחי .ובמימונה