חומר ומחשבה | 105 נראית על פניה ברורה : בהנחה שנוכל ליצור מכונות מוסריות, סביר להניח שמכונות אלה יוכלו לקבל החלטות בצורה טובה מאיתנו . כוח החישוב שלהן יעלה על שלנו עשרות מונים, הן אינן זקוקות לשינה או להפסקות אוכל, אינן מוטות על-ידי רגשות או דעות קדומות, אינן שוגות בתקוות שווא או מוצפות ברגשות אנוכיים, והן יכולות להוציא אל הפועל את החלטותיהן במהירות מכרעת . כמובן, שיעור השגיאה שלהן לא יעמוד על אפס, אבל לאור כל האמור לעיל סביר מאוד להניח שהוא יהיה טוב לאין ערוך מזה של בן האנוש הממוצע או המוצלח ביותר . זוהי הדעה הרווחת . בספרות מקובלת החלוקה בין שלושה סוגים שונים של מכונות מוסריות : הראשונה, אופרטיבית או מרומזת ( implicit ) , שהיא הבסיסית ביותר ומתייחסת לדרך שבה אנחנו מתכנתים מכונות לקיים את רצונותינו, ובמקרה זה, את התחייבויותינו המוסריות : מכונות מעבירות כספים בין חשבונות ומגישות לנו כסף בדיוק רב ועל-פי בקשה, טייסים אוטומטיים מביאים את המטוס ליעדו בזמן, מכונות אוגרות מידע מסווג ורגיש ונותנות גישה רק למי שמחזיקים בהרשאות ועוד . מכונות מסוג זה קיימות כיום ואינן מסוגלות לערער על הציוויים ה...
אל הספר