רידודא ה ולם הוא מדיר 87 שאילתות הקשורות בהורדת סרטים בשאר העולם . כאשר היא מציגה בסוף השנה את רשימת שאילתות החיפוש הפופולריות במיוחד באותה השנה, היא מעלימה ממנה שאילתות שקשורות לפורנוגרפיה . באופן דומה, פייסבוק הסירה בעבר תמונות של נשים מיניקות ( בטענה שמדובר בהצגת עירום שאסורה בפייסבוק ) או קישורים לסרטונים המעודדים מעשי טרור . אבל פעולת האלגוריתמים מוטה לא רק בגלל מדיניות מוצהרת יותר או פחות של החברות . היא מוטה גם בגלל איך שהם בנויים . כדי להסביר את זה, נחזור לרגע אל תחרות היופי האלגוריתמית של Beuty . AI . אל התחרות נשלחו יותר מ- 600 אלף תמונות של מתמודדים ומתמודדות ובסופה הוכרזו 44 זוכים וזוכות . כאשר פורסמו תמונותיהם התברר שרק שישה היו ממוצא אסייתי ורק זוכה אחת היתה בעלת גוון עור שחום . הזהות האתנית של הזוכים והזוכות העלתה את השאלה אם האלגוריתמים ששפטו בתחרות היו, איך לומר, טיפה גזעניים . הלוואי וזה היה פשוט כל כך . גזענות נובעת מהאמונה של קבוצת אנשים מסוימת בכך שהיא שונה מקבוצה אחרת, שונה במובן זה שהיא עליונה עליהם — טובה, מוכשרת וראויה יותר . גזענות היא לא גזירת גורל אלא טעם תר...
אל הספר