|
|
עמוד:8
אדם, מכונה, מדינה : לקראת אסדרה של בינה מלאכותית 8 ואולם על אף היתרונות הגלומים במערכות אלגוריתמיות — ללא בקרה על השימוש בהן, על פיתוחן ועל פרישׂתן הן עלולות לסכן זכויות אדם וחירויות יסוד . סכנות אלו יכולות לבוא לידי ביטוי בכל שרשרת הערך של פיתוחן והשימוש בהן — החל בשלב הגדרת תכליתה של המערכת, עבור בהסתמכות על מידע חלקי, שגוי, מזוהם או מוטה, וכלה באי-החלה של בקרות מאוחרות על תוצרי המערכת . יתר על כן, ככל שהבינה המלאכותית הולכת ומתפתחת כך שמערכותיה נוטות להציג יכולות חדשות שהמפתחים שלהן לא התכוונו להן או לא חזו אותן . מקצת היכולות מעוררות השראה ומקצתן בעלות פוטנציאל נזק, כגון היכולת לבצע פעולות סייבר התקפיות, לתמרן אנשים באמצעות שיחה או להפיץ מידע מלאכותי מוטעה ומטעה . היכולת לזהות יכולות אלו ולהגביל את הסיכונים שהן מביאות איתן נעשתה אפוא אתגר חשוב מאין כמוהו . מהי בינה מלאכותית, מהם יתרונותיה ואילו חששות היא מעוררת, בעיקר כשהיא משמשת את רשויות השלטון ? שאלות אלו הן עניינו של ספר זה . מקבלי ההחלטות, התעשייה, האקדמיה וארגוני החברה האזרחית ברחבי העולם ובישראל זיהו שהבינה המלאכותית היא טכנולוגיה מתפרצת שיש להיערך אליה באמצעות אסטרטגיה לאומית ומדיניות רגולטורית . בשלהי העשור הקודם פורסמו עשרות מסמכי אתיקה שעסקו בבינה מלאכותית וניסו להניח עקרונות לפיתוח מערכות אלגוריתמיות, לשימוש בהן ולהטמעתן . את הערכים האתיים המוצעים בהם אפשר להעמיד על שבעה עקרונות : שקיפות ; הוגנות ; מניעת נזקים ובטיחות ; אחריות ואחריותיות ; פרטיות ; קידום הטוב וערך האדם במרכז ; חירות ואוטונומיה . ואולם לא די בעקרונות אתיים . כדי להבטיח שמירה על זכויות אדם וחירויות יסוד יש לעגן עקרונות אלו בחקיקה . ואכן, ברחבי העולם אנו רואים ניצני חקיקה המבקשת לאסדר את השימוש בטכנולוגיות בינה מלאכותית ואת פיתוחן : הן על פי מודל של חקיקה רוחבית החלה על מערכות בינה מלאכותית באשר הן, כדוגמת תקנות הבינה המלאכותית האירופיות, הן כשמיכת טלאים רגולטורית המאסדרת מגזרים ושימושים קונקרטיים של בינה מלאכותית, כדוגמת הדינים הייעודים שתכליתם להתמודד עם אפליה אלגוריתמית במערכות לגיוס ולקידום עובדים .
|
|