|
|
עמוד:13
מוד ל ליצירת שקי פ ות אלגורי תמי ת 3 1 שקיפות נדרשת בשימושים שונים המבוססים על בינה מלאכותית, כך שבפועל, המושג "שקיפות אלגוריתמית" נשאר בלתי שקוף . כדי להשלים את הפער, מסמך זה ינסה לבאר את המושג "שקיפות אלגוריתמית" . לשם כך נסביר תחילה בקצרה כיצד פועלות מערכות בינה מלאכותית ; לאחר מכן נציג את "בעיית העכירות" של מערכות לומדות כפי שהיא מופיעה בספרות ואת הטיעונים בזכות שקיפות במענה לבעיה זו ; נמשיך בסקירה של ההקשרים שבהם מופיע העיסוק בשקיפות ובהגדרות השונות למושג . אגב הסקירה, נסביר את הבעיות בהגדרות השונות ואת הקשיים שנוצרים כתוצאה מכך . לאחר מכן נציג מודל למימוש חובת השקיפות האלגוריתמית . המודל מבוסס על הטענה שבמקביל לחובה לספק הסבר רציונלי ומובן להחלטה ספציפית, יש צורך ליצור מסלול חלופי שיאפשר הוכחת "איתנות מדעית" . כלומר, חזקת תקינות של פעולת המערכת הלומדת במקרים שבהם אי-אפשר לספק הסבר רציונלי שמממש את הדרישה ל"שקיפות אלגוריתמית" במובנה הפשוט . בהתאם למודל שנציע, נפרט מהי מהות השקיפות שיש לדרוש בעת שיווק מוצרים מבוססי בינה מלאכותית, וכיצד היא צריכה להשתנות בהתאם לשימושים השונים של המוצר ולטכנולוגיות הבינה המלאכותית השונות העומדות בבסיס האלגוריתם בכל אחד משלבי פעילות המערכת הלומדת . כדי לתקף את המודל נבחן כיצד יישום של מבחן האיתנות המדעית היה יכול לסייע בשני מקרי בוחן — האחד של מערכות לאיתור הונאות רווחה בהולנד, והשני בקביעת מדדי הצלחה בתהליך הרגולציה של כלי רכב אוטונומיים .
|
|