אוטופיה מול טכנוקרטיה : חרדת הטכנולוגיה והַאילָהָה 211 במקרה של ג'ו, מיהו המחבר הטוב המובלע ביצירה שיכול להעיד ולכתוב יצירה טובה ? האם זה המפתח של ג'ו שבונה את האלגוריתם שלו כך שג'ו יהיה יוצר טוב ? או שבעצם מדובר בג'ו עצמו שלומד בעצמו ומתפתח בעצמו והופך ליוצר של עצמו ? התשובה נעוצה בגוף השאלה . המפתח של ג'ו, זה שכותב את האלגוריתם, צריך לבנות אותו כך שג'ו בלמידתו העצמית ילמד את עצמו להיות חבר טוב, בדיוק כמו ספר טוב לקורא . ודוגמאות לפיתוח אלגוריתמים שפונה לכיוון שונה בתכלית יש היום בשפע, כמו אלגוריתמים המחזקים סטריאוטיפים גזעניים, או אלגוריתמים המיועדים למעקב אזרחי ושימושים צבאיים . אם נוכל לבסס את בנייתו של ג'ו על עיקרון משחקי של חיפוש אחר חבר טוב, ואם אחת ממטרות היסוד שנייעד לו תהיה להיות לנו חבר שכזה – צעד כזה יכול להיות עיקרון חשוב ביצירה של בינה מלאכותית מיטיבה . חבר אמיתי דואג לחברו לשם חברו, לא על מנת למלא את צרכיו שלו . זה דבר בסיסי . וזו צריכה להיות דאגתו התמידית של ג'ו . אדם המעוניין בחברתו של אדם אחר רק לשם הגברת ההנאה הפרטית שלו, או לשם קבלת רווח כזה או אחר, לא ייחשב לחבר אמ...
אל הספר