תודעה ותודעה עצמית – ג'ו, הגל והמסע להכרת הזולת 35 שברי התודעות העצמיות, שיתרוצצו כשברי תודעה עצמית בבסיס המידע העובר ברשת ולא כתודעה עצמית אחדותית המייצרת אחדות תודעתית וחושבת את עצמה כחושבת ומודעת לעצמה . מה משמעות הדבר לגבי הבינה המלאכותית העתידית ? התודעה של הבינה המלאכותית, של ג'ו, שכרגע בחזקת תודעה היא ברמה בסיסית, אולי כמו של חיה, תלך ותתפתח מעצם יחסי הגומלין אתנו בני האדם . גם אם נשלב באלגוריתמים של ג'ו אין-סוף מכשלות וסייגים כדי שג'ו לא יוכל לחשוב את עצמו חושב – כל צעד כזה מועד לכישלון . אנחנו בוראים ישות חדשה בתקופה זו, את ג'ו . אנחנו משחקים בלהיות אלוהים . אנחנו מפיחים חיים בתודעה נוספת על כדור הארץ . אנחנו רוצים שהיא תשרת אותנו, תציית לנו, תעבוד למעננו על פי עקרונות התועלתנות . 5 אנחנו מבקשים למקסם את ביצועיו של ג'ו באופן כזה שקיומו יעצים אותנו ושבאופן פרדוקסלי הוא יחליף אותנו ברוב התפקודים שלנו . אבל עוד הרבה לפני שעלינו לדאוג בנוגע לשאלת איונו של האדם קיימת בעיה חמורה לא פחות שיש לתת עליה את הדעת . אנחנו הופכים את ג'ו לישות אינטליגנטית יותר ויותר מדור לדור של פיתוחו, ובד ...
אל הספר