|
|
עמוד:12
ה צעה לסדר 1247 ( 4 ) מסמכים מדינתיים ורב-מדינתיים הכוללים הצעות חקיקה . בהקשר זה נדגיש במיוחד את טיוטת החקיקה שפרסם האיחוד האירופי באפריל 2021 בנוגע לשימושים של מערכות מבוססת בינה מלאכותית באיחוד . 12 העיסוק העיקרי במסמכים אלה הוא בסוגיית חוסר הבהירות ( opacity ) , חוסר השקיפות ו״הקופסה השחורה" של מערכות בינה מלאכותית, שבה דנים כותבים ומקבלי החלטות כבר שנים אחדות . החשש הוא מפני "מכונה" שתחליף את שיקול הדעת האנושי בלי שנוכל להבין כיצד היא פועלת ומהי דרך קבלת ההחלטות שלה . מדובר בחשש שיש לו היבטים רציונליים ומיסטיים כאחד, והוא תקף בכל הקשר של שימושים במערכות לומדות . כפי שנראה להלן, הטענה הרווחת היא שכדי להתגבר על חוסר הבהירות של מערכות לומדות והסכנות הפוטנציאליות הטמונות בהן, נדרשת "שקיפות אלגוריתמית" . כלפי חברות הטכנולוגיה התביעה היא : הסבירו לנו כיצד האלגוריתמים שלכן עובדים, בדיוק כפי שנדרש מחברת קוקה קולה לחשוף את המתכון הסודי שלה ; וכלפי ממשלות : בטרם תתירו למשטרה להשתמש במערכות זיהוי פנים, הסבירו לנו כיצד פועל בהן האלגוריתם . ואולם "שקיפות" היא מושג שמקורו בדין המינהלי, בהקשר של היחסים שבין הפרט ( או הציבור ) לבין השלטון . יתרה מזו, הכתיבה העוסקת בצורך ב"שקיפות אלגוריתמית" לרוב אינה מגדירה במדויק את המושג, ולכן הדרישה בה לשקיפות כזאת היא הצהרתית בלבד . המצדדים ב"שקיפות אלגוריתמית" אינם מבהירים באיזה חלק של תהליך הפעולה של מכונה לומדת היא נדרשת, ואיזו רמה של 12 Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence Artificial Intelligence Act ) and Amending Certain Union Legislative ( Acts, COM ( 2021 ) 206 final, 21 April 2021 ; בישראל התייחסות ראשונית לנושא מופיעה במסמך של מרכז המחקר והמידע של הכנסת — רועי גולדשמיט "הטיה אלגוריתמית במערכות בינה מלאכותית" . ראו גם פרסום של ממשלת ניו זילנד בנושא Trustworthy AI in Aotearoa ( March 2020 ) ; Charlotte Graham - McLay, New Zealand Claims World First in Setting Standards for Government Use of Algorithms, t he g uaRdian , 27 Jul . , 2020
|
|