חומר רקע

האגודה לזכויות | )האזרח בישראל (ע"ר جمعية حقوق المواطن في اسرائيل | (ACRI) The Association for Civil Rights in Israel נחלת בנימין75 תל אביב6515417 | شارع نحالت بينيامين75 تل ابيب6515417 | 75 Nahalat Binyamin St. Tel Aviv 6515417 | טלפון هاتف : 03-5608185 Phone: | פקס فاكس : 03-5608165 Fax: www.acri.org.il | [email protected] 14 בדצמבר 2020 לכבוד ח"כ עינב קאבלה, יו"ר ועדת המדע והטכנולוגיה הכנסת ,שלום רב :הנדון טכנולוגיה לזיהוי פנים במרחב הציבורי 1. אנו מברכים על קיום הדיון הראשון מסוגו בכנסת ב נושא טכנולוגיה לזיהוי פנים ( Facial Recognition Technology ) (להלן– הטכנולוגיה או FRT ) במרחב הציבורי . 2. טכנולוגיה לזיהוי פנים היא טכנולוגיה ביומטרית- טכנולוגיה ממוחשבת, המאפשרת זיהוי חד- ,ערכי של אדם על פי מאפיין אנושי ביולוגי או התנהגותי ייחודי, הניתן למדידה ממוחשבת והיכול לשמש לאימות ולזיהוי. הטכנולוגיה מאפשרת להפיק מתצלום פניו של אדם נתונים מתמטיים ייחודיים, בעזרת מיפוי ומדידה של המרחק בין העיניים, מרחק בין המצח והסנטר, מבנה האף והסנטר וכיוצא באלה נתונים מדידים, שמסתכמים לבסוף לביטוי מתמטי חד- ,חד ערכי. כלומר ביטוי מ.תמטי מסוים שיתקבל שוב ושוב כל אימת שהמערכת תוזן בתמונת הפנים של אותו אדם 3. מערכות זיהוי פנים שונות זו מזו ביכולת לזהות אנשים ואין מערכת אחד שתשיג דיוק של100 אחוזים בכל התנאים. ההשוואה מבוססת על הסתברויות ולכן ההשוואה בין שתי תמונות לא "תסתכם בתשובות של "כן .או "לא" אלא בתוצאה של שיעור ההתאמה 4. מערכות זיהוי פנים יכולה לאמת זהות של אדם מוכר. טלפונים חכמים רבים משתמשים כיום בזיהוי שכזה כדי לאפשר לבעל הטלפון לפתוח את הנעילה: הטלפון קולט את הפנים של מי שנועץ בו מבט ומשווה אותם לתווי הפנים השמורים של בעל הטלפון. י ישום אחר של הטכנולוגיה נועד לזהות אדם לא מוכר באמצעות השוואה של תמונתו למאגר תמונות קיים. למשל, שוטר ישתמש .במערכת כדי לזהות חשוד לא מוכר, שצולם באחת ממצלמות המעקב שפרוסות במרחב הציבורי 5. הזיהוי יכול להתבסס על השוואה אוטומטית ממוחשבת של תמונות ממצלמות אבטחה ,, למשל והשוואתן למאגרים ציבוריים שיועדו לצרכים שונים (המאגר הביומטרי, מאגר רישיונות נהיגה) או .)פרטיים (פרופיל ברשתות חברתיות 6. הטכנולוגיה הינה טכנולוגיה חדשה יחסית, המאפשרת לזהות אדם בעזרת בינה מלאכותית (אלגוריתם), באמצעות השוואה אוטומטית של תמונות או סרט ונים של אותו אדם למאגר תמונות מזוהה. כלומר– הטכנולוגיה מאפשרת, למשל, לעבד תמונה של אדם אנונימי והשוואתה עם מאגר תמונות מזוהה, וזאת גם בלי שהאדם נתן מיוזמתו את נתוניו הביומטריים וגם ללא הסכמה לביצוע .הזיהוי 2 7. הטכנולוגיה מתבססת על אלגוריתם שמשמש לעיבוד תמונה באמצעות ניתוח מאפיינים ביומטריים ייחודיים (למשל– .)המרחק בין העיניים 8. הטכנולוגיה מסוגלת לזהות אדם בהתבסס על תמונות גם ממצלמות רגילות, וגם מצלמות ייחודיות בעלות יכולות צילום ברמה הניתנת לעיבוד ביומטרי, נטרול עיוותים, אור או הבעות פנים, עיבוד של צילום חלקי.וכן התבייתות אוטומטית על פנים בתוך קהל 9. ,פיתוח נוסף של הטכנולוגיה נועד לאבחן באופן אוטומטי, באמצעות אלגוריתם, "רגשות" כמו כעס ( עצבנות וכדומה, מצפיה בתמונה או סרטוןAffect Recognition .) 10 . זיהוי פנים אוטומטי– Automatic (or Live) Face Recognition (AFR) - מתבצע באמצעות ( "השוואה בזמן אמת של "אחד לרביםone to many ), כלומר, השוואה בין תצלום (סטילס או ( "וידאו) של אדם שחולף על פני המצלמה אל מול "רשימת מבוקשיםwatch list ). רשימה כזו עשויה .לכלול פנים של חשודים, של נעדרים, ואנשים אחרים שמעניינים את המשטרה 11 . משטרת ישראל מע ולם לא הודתה שהיא עושה שימוש בטכנולוגיה זו, למרות ש בדף האינטרנט של מנהל הטכנולוגיות (מנ"ט) האחראי למתן מענה טכנולוגי למימוש יעדי משטרת ישראל, נכתב שהו א :אחראי, בין היתר, על "כלים ביומטריים" ובכלל זה "הרחבת השימוש באמצעי זיהוי שונים ,טביעות אצבע זיהוי פנים ,, דנ"א מאגרי תמונות :לאימות זיהוי ושיפור ההרתעה" (ר' בקישורית https://bit.ly/3ih5kMl .) 12 . לפי כתבה שפורסמה ברשתNBC , באוקטובר2019, הטכנולוגיה של חברת AnyVision משמשת את משטרת ישראל למעקב אחר חשודים בגדה המערבית וגם ברחובות יר ושלים המזרחית. הכתבה כוללת סרטון שיווקי, שהחברה מפיצה בחו"ל, ובו היא מדגימה את השימוש שנעשה בטכנולוגיה .שלה בסמטאות העיר העתיקה בירושלים https://www.nbcnews.com/news/all/why-did-microsoft-fund-israeli-firm-surveils-west- bank-palestinians-n1072116 13 . לפי פ .רסומים שונים גם הצבא משתמש במערכת לזיהוי פנים בגדה המערבית 3 14 . מבקר המדינה מתח לאחרונה ביקורת חריפה על האופן שבו מתנהלים מאגרי מידע ביומטריים במדינה, ובמסגרת זו התייחס גם למאגר תמונות ב "איכות ביומטרית " שהוקם במשרד התחבורה (איכות ביומטרית היא איכות גבוהה המאפ שרת לעבד את התמונות בטכנולוגיה ביומטרית- השוואה ביומטרית וחיפוש במאגר ביומטרי). המאגר הוקם עוד בשנת2006 אבל עד עצם היום הזה לא טרחו לעגן את פעילותו בחקיקה מתאימה. מכל מקום, ולענייננו, מסתבר שהמשטרה מקבלת מידע ממאגר התמונות הביומטרי באופן שוטף. "המשטרה מס רה למשרד מבקר המדינה כי המגזרים המשתמשים במאגר תמונות רישיונות הנהיגם הם כל אלה הנדרשים לזיהוי אדם – ,סיור ,תנועה ואגף החקירות והמודיעין , והזיהוי נדרש במגוון מצבים " … ,(ר' מבקר המדינה דוח שנתי 70ב ', עמ261 - 252 (מאי2020 )) . לאור זאת מתגבר החשש, שמאגר התמונות של רשות הרישוי (שהוא .עצמו אינו חוקי) ישמש גם לעיבודים וחיפושים ביומטריים 15 . לא קשה להבין מדוע ג ורמי ביטחון שונים, לרבות משטרה, ירצו בטכנולוגיה זו, שיכולה לטייב את עבודתם ולקדם את המטרות החברתיות שבאחריותם. אך בה בעת, לשימוש בזיהוי פנים יש .פוטנציאל מסוכן לפגוע בזכויות יסוד חוקתיות 16 . ראשית , השימוש בטכנולוגיה פוגע, וטומן בחובו פוטנציאל לפגיעה חמורה עוד יותר בפרטיות .ובצנעת הפרט, וביכולת של אזרחים לשמור על האנונימיות במרחב הציבורי 17 . נתונים ביומטריים שונים במהותם מנתונים מינהליים הקשורים למחזור החיים של האדם. נתונים מינהליים הם ברי עדכון ותיקון (כגון שם, כתובת, מצב משפחתי). נתונים ביומטריים מאפיינים את האד ם עצמו, ולפיכך, במרבית המקרים, אינם ברי עדכון ותיקון בצורה פשוטה. עצם הנטילה והשימוש במידע הביומטרי של אדם מסבה פגיעה בפרטיות, כפי שהטעים אפילו היועץ המשפטי לממשלה בדיוני חקיקה ובניירות עמדה שהוגשו לבתי המשפט. כך, למשל, התייצב היועץ המשפטי לממשלה בהליך בענ:יין שעון נוכחות ביומטרי במקום העבודה ובין היתר אמר את הדברים הבאים "היועמ"ש מזכיר את אופיו הייחודי של המידע הביומטרי ומציין כי ,'מרגע שנחשף או שנעשו בו שימושים אחרים שלא כדין– 'לא ניתן להשיב את הגלגל לאחור . נוכח אפיון זה, היועמ"ש סבור שעצם חיובו של עובד להוציא משליטתו מידע ביומטרי ולהעבירו למעסיק לשימוש במערכת זיהוי ביומטרית, פוגע בזכותו לפרטיות. הפגיעה נגרמת מעצם אובדן השליטה על נתון מזהה כה רב עוצמה, והיא אינה מתמצה בחשש משימוש לרעה בנתון זה. פגיעה נוספת ונפרדת בפרטיות נגרמת מחשש משימוש לרעה או שלא כדין .בנתונים הביומטריים ומהסיכון שידלפו בהמשך ישיר לכך מוסבר ש'השימוש באמצעים ביומטריים צובר תאוצה, אך 'סיכוניו והיכולת למזערם טרם הובררו כל צרכם ,, וככל שיתרחב השימוש כאמור כן יגדל הסיכון שייעשה במידע שימוש לרעה ., חרף אמצעי האבטחה הקיימים לכן מידת הנזק שעלול להיגרם כתוצאה מדליפת הנתונים היא "גדולה ביותר, עד כדי בלתי הפיכה " )[עס"ק (ארצי14 - 04 - 7541 'הסתדרות העובדים הכללית החדשה נ עיריית קלנסווה 'פס56 ( 15.3.2017 ]). 18 . לזיהוי פנים יש מאפיין ייחודי, בשונה מטביעות אצבע ונתונים ביומטריים דומים, בכך שניתן לזהות באמצעותם אנשים, גם ללא רצונם וללא ידיעתם. ניתן לצלם אנשים במצלמות אבטחה, כשהם עוברים ברחוב וחולפים מול המצלמה, או במתקנים ציבוריים אחרים, ולבדוק צילומים אלו מול ( ""רשימות מעקבWatchlist .) 19 . כאשרFTR ,משולבת עם מערך ענק של מצלמות מעקב ועם יכולות אחסון ומחשוב גדולות הממשלה יכולה לייצר בעזרתה מעקב רציף אחר אינדיבידואלים מסוימים. אפשר לעקוב אחרי כל 4 אחד בכל מקום, ולעקוב אחרי כולם בכל המקומות. בכל זמן או כל הזמן. באופן כזה FTR יכולה לאפשר מעקב המו ני בקנה מידה חסר תקדים . וכפי שהזהיר נשיא מייקרוסופט, בראד סמית, לפני :כשנתיים "… Unprecedented, but not unimagined. As George Orwell described in his novel '1984,' one vision of the future would require that citizens must evade government surveillance by finding their way secretly to a blackened room to tap in code with hand signals on each other’s arms – because otherwise cameras and microphones will capture and record their faces, voices and every word. Orwell sketched that vision nearly 70 years ago. Today technology makes that type of future possible (Brad Smith "Facial recognition: It’s time for action" Dec.6,2018 at https://bit.ly/2GFSQQs). 20 . המרחב הציבורי שלנו מרושת במספר הולך וגדל של מצלמות מעקב, וכל אחת מהן אפשר לחבר למערכת זיהוי פנים וכך לזהות אדם שעובר ממקום למקום. בניגוד למצלמות האבטחה המוכרות לנו, המערכת אינה מזהה רק אירועים חריגים, אלא יכולה לזהות באופן מתמשך, אוטומטי ורציף את אנשים, ול ייצר מאגר מידע עצום ובו מידע אישי ואינטימי על כל מי שמצולם. ממאגר זה ניתן .לדלות את המידע בלחיצת כפתור 21 . FTR מעלה את המעקב לדרגות חדשות ומפחידות. היא מאפשרת מעקב אוטומטי ורצוף אחר אנשים בזמן שהם טרודים בענייני היומיום שלהם, ומעניק לרשויות אפשרות לעקוב אחר כל מהלך ותנועה שלנו. היא מפרה את עקרון הנחיצות והמידתיות. מעקב צריך להיות נחוץ ומידתי בכל .מקרה שהוא מתבצע. בהתאם לזאת המעקב חייב להיות מצומצם לטיפול בעבירות חמורות בלבד 22 . אגירת מידע על מיקומיו של אדם מסוים לאורך זמן, באמצעות זיהוי תווי פניו כל אימת שהוא עובר :על פני מצלמה, מאפשרת להתחקות אחר אינספור נתונים שהם בליבת הזכות לצנעת הפרט אמונותיו, מעגליו החברתיים, חיי האישות שלו, נטייתו המינית, השקפותיו הפוליטיות, האם הוא תומך בשלטון או מתנגד לו, ועוד ועוד" (ר' מיכאל בירנהק פרטיות במשבר– הנדסה חוקתית והנדסת פרטיות " (יתפרסם במשפט וממשל2020 )) . 23 . .השימוש בטכנולוגיה אף מעורר חשש לזליגת מידע שניתן בהסכמה למטרה אחרת, בניגוד לחוק למשל– אדם נתן תמונתו בהסכמה לצורך רישיון הנהיגה כדי ששוטר יוכל לדעת ,שהוא אכן הנהג .וקיים חשש שתמונתו תשמש ללא הסכמתו לזיהויו באמצעות הטכנולוגיה בעת שהוא עובר ברחוב 24 . שנית , אם הטכנולוגיה מדויקת, וביתר שאת– אם היא לא מדויקת, היא טומנת בחובה פוטנציאל לפגיעה נרחבת בחירויות היסוד: חופש הביטוי, חופש הדת, חופש ההתאגדות, חופש ההפ גנה ואפילו בזכות לחירות . לטכנולוגיה המאפשרת מעקב מתמשך אחר תנועות של אזרחים אפקט ממשמע וממשטר הגורם לאדם להימנע מפעילויות שונות שהוא חופשי לעשות. אדם שיודע שמהלכיו מנוטרים וחשופים לעיני השלטון ישנה את התנהגותו ואף ייזהר בהתבטאויותיו (על האפקט הממשמע של מעק ב ר' בג"ץ3809/08 האגודה לזכויות האזרח בישראל נ' משטרת ישראל (מיום 28.5.2012 ), בפיסקה7 ; מיכאל בירנהק מרחב פרטי– הזכות לפרטיות בין משפט לטכנולוגיה182 ו- 429 ( 2011 )) . 25 . לא קשה לתאר, למשל, איזה אפקט מצנן יהיה לשימוש בטכנולוגיה לזיהוי פנים אם יעשה בה שימוש בהפגנות, או במצעדי גאווה. מעקב מקיף וכולל עלול להרתיע אנשים מלהשתתף באירועים 5 ציבוריים. הוא יכול לדכא השתתפות במחאות פוליטיות או בק מפיינים למען שינוי חברתי. הוא ,עלול להחניק התנהגות לא קונפורמית. האפקט המצנן שנוצר מהווה הפרה של חופש האסיפה חופש ההתאגדות וחופש הביטוי (לעניין האפקט המצנן של מעקב אחר פעילי מחאה ראו פסיקת בית המשפט האירופי לזכויות אדם בעניין(2019) 69 EHRR 7 Catt v United Kingdom '; וראו עוד פס10 , 61 ו- 94 'להערה מס37 של וועדת האו"ם לעניין האמנה לזכויות אזרחיות ופוליטיות- General comment No. 37 Article 21: right of peaceful assembly ). 26 . הפגיעה בחירות יכולה גם להתרחש כתוצאה מכשל טכנולוגי בזיהוי, כאשר האינדיקציה מבוססת על אלגוריתם, ללא שיקול דעת אנושי. כך, למשל, לא מזמן נרעשה ארה"ב ממעצר שגוי שבוסס על טעות בזיהוי של ה טכנולוגיה לזיהוי פנים של משטרת דטרויט. אדם שחור בשם רוברט ג'וליאן בורצ'אק וויליאמס נעצר בחשד לביצוע עבירה של גניבה מחנות, בהתבסס על צילום ממצלמת אבטחה בחנות. לאחר מכן התברר שמדובר היה בזיהוי שגוי של אלגוריתם של טכנולוגיה לזיהוי פנים, וכי זיהוי שגוי זה היה האינדיקציה היחידה לכך שמר וויליאמס הוחשד בגניבה (ר' כתבה בעניין בניו- יורק טיימס מיום24.6.2020 , Wrongfully Accused by an Algorithm :באתר https://nyti.ms/3idc11W ) . 27 . שלישית , השימוש בטכנולוגיה טומן בחובו פוטנציאל ממשי לפגיעה בשוויון . הפגיעה עשויה להיגרם מכשלים טכנולוגיים באלגוריתם, כאשר מידע שנאסף עד כה מצביע על הטיות קשות ביכולת הזיהוי של שחורים לעומת לבנים, נשים לעומת גברים. ב2018 בדק חוקר ב- MIT תוכנות של שלושה יצרנים שונים ומצא טעויות ב21-25% מהמקרים שבהם נבדקו פני ם של אישה עם עור כהה. לעומת זאת, שיעור הטעות בקרב בהירי עור היה פחות מ- 1% ( Study finds gender and skin- type bias in commercial artificial-intelligence systems MIT_News 11.2.2018 :בקישורית https://bit.ly/33cmnJd ) . 28 . מחק ר מקיף אחר שערך מכון התקנים האמריקני מצא כי טכנולוגיה לזיהוי פנים סובלת מהטיה מובהקת המובילה לזיהויים שגויים של אנשים ממוצא אפריקני ואסייתי (לדיווח על תוצאות המחקר ר' כתבה בניו- יורק טיימס מיום19.12.2019 : i.ms/33jlU8i https://nyt ). Face Recognition Vendor Test, National Institute of Standards and Technology Dec.2019 https://nvlpubs.nist.gov/nistpubs/ir/2019/NIST.IR.8280.pdf 29 . כאשר הטכנולוגיה מהווה בסיס לחקירה משטרתית ההטיה עלולה להוביל לפגיעה בקבוצות מיעוט .שונות והפללה שגויה שלהם באופן לא פרופורציונאלי חשש נוסף הוא משימוש בטכנולוגיה למִ שטור ומעקב אחר קבוצות מיעוט שונות, ושיטור יתר שלהן, באמצעות הצבת מצלמות המחוברות לטכנולוגיה בשכונות או באזור.ים המזוהים עם אותן קבוצות מיעוט 30 . רביעית , השימוש בטכנולוגיה ללא שקיפות מינימלית מעוררת סימני שאלה סביב חוקיות השימוש בה , והיעדר הקפדה על שלטון החוק. הכנסת טכנולוגיה הפוגעת בזכויות חוקתיות מחייבת הסמכה מפורשת בחוק, כמצוות חוק יסוד: כבוד האדם וחירותו, ואם היא נעשית ללא הסמכה כזו על פני הדברים היא לא חוקית. הקפדה על עיקרון החוקיות נדרשת גם כדי להטיל מגבלות על השימוש בטכנולוגיה, למשל– ביחס לצורך בצו שיפוטי, ולהבחין בין שימוש לגיטימי לשימוש פסול. אם ,הטכנולוגיה מופעלת ללא מסגרת חקיקתית ייעודית שמסדירה את השימוש הדבר פותח את הדלת 6 בפני אפשרויות של ניצול לרעה, כמו שימוש בתווי הפנים שלנו מבלי לידע אותנו ומבלי לקבל את .הסכמתנו 31 . "הכנסת לשימוש של הטכנולוגיה ללא הסדרה בחוק עשויה ליצור הלכה למעשה "מסלול עוקף לעקרונות ולהגבלות שעוגנו ב חוק המאגר הביומטרי ( חוק הכללת אמצעי זיהוי ביומטריים ונתוני זיהוי ביומטריים במסמכי זיהוי ובמאגר מידע , תש"ע- 2009 ) . החוק מסדיר את הפעלתו של מאגר ביומטרי מדינתי במשרד הפנים, ובין היתר, קובע הוראות מיוחדות לעניין השימוש שמותר למשטרה ל עשות במאגר המידע הביומטרי. שימוש כזה לצורך זיהוי מותנה בצו שיפוטי, ועמידה בקריטריונים .הקבועים בחוק 32 . אמנם, קיים חוק נוסף שמסדיר את השימוש שעושה המשטרה במידע ביומטרי לצרכי חקירה, הלוא הוא חוק סדר הדין הפלילי (סמכויות אכיפה– )חיפוש בגוף ונטילת אמצעי זיהוי , תשנ"ו- 1996 . אלא שספק רב אם חוק זה אכן מתייחס לשימוש ב- FRT ולבטח שאינו מתיר להשתמש ב- AFR ,, דהיינו .זיהוי עוברים ושבים בזמן אמת 33 . חקיקה שתעגן ותגביל שימוש בזיהוי פנים היא צו השעה. נשיא מייקרוסו פט, בראד סמית, פרסם קריאת השכמה לכל המדינות, שיתעוררו ויקדמו את פני הסכנה שטמונה בפיתוח בלתי מבוקר של :טכנולוגיות לזיהוי פנים "We believe it’s important for governments in 2019 to start adopting laws to regulate this technology. The facial recognition genie, so to speak, is just emerging from the bottle. Unless we act, we risk waking up five years from now to find that facial recognition services have spread in ways that exacerbate societal issues. By that time, these challenges will be much more difficult to bottle back up." 34 . נשיא מייקרוסופט הזהיר מפני "מרוץ לתחתית" של יצרני טכנולוגיה מתחרים, שייאלצו לבחור בין אחריות חברתית (פיתוח אחראי שלFRT ) לבין הצלחה בעסקים. הדרך היחידה לעצור את המרוץ לתחתית היא באמצעות חקיקה, כדי שזו תבטיח תחרות עסקית בריאה ואת שלטון .החוק 35 . חמישית , שיתוף הפעולה בין רשויות אכיפת חוק לבין חברות פרטיות המפתחות את הטכנולוגיה ואולי אף מפעילות אותה עבור ן מעורר חשש בפני עצמו להפרטה של סמכויות שלטוניות, זליגת מידע לגורמים פרטיים, או הפעלת סמכויות שלטוניות רגישות על ידי גורמים הפועלים למטרת .רווח 36 . ,שישית הרחבת השימוש בטכנולוגיה מגבירה מאוד את הסיכון לזליגת מאגרים ביומטריים רגישים, או פריצה אליהם, במיוחד שמדוב ר במ י ,דע אטרקטיבי שרבים ישמחו להשיג. כך, למשל לא מעט גופים פרטיים הח לו להשתמש בטכנולוגיה לשימושים מסחריים, כמו זיהוי מהיר בבנק או פתיחה מהירה של קורקינט שיתופי, ולעיתים הנתונים הביומטריים של תווי הפנים מנודבים על ידי האזרחים, בלי להבין את הסכנות. ריבוי המאגרים המכילים נתונים ביומטריים של תווי פנים יוביל לחשיפת נתונים אלו, ובניגוד לנתונים אחרים– .לא ניתן להחליף סיסמא או לבטל כרטיס אשראי 37 . לאור כל האמור, לא יכולה להיות מחלוקת כי השימוש ההולך וגובר בטכנולוגיה כה משמעותית ובעלת פוטנציאל לפגיעה קשה בחירויות הפרט על ידי רשויות השלטון בכלל, ורשויות אכיפת החוק .בפרט מחייב דיון ציבורי פתוח, שקוף ורציני 7 38 . הצעד הראשון וההכרחי לכך הוא שקיפות , ומכאן חשיבות הפיקוח הפרלמנטארי המתמשך על ידי .הכנסת ,בכבוד רב גיל גן-מור, עו"ד