בסרט "שליחות קטלנית" מספרים לנו על עולם שבו הוצגה לעולם מערכת בינה מלאכותית בשם סקיינט, וזו למדה את העולם דרך הרשת והחליטה בתוך מספר דקות שהדרך היחידה להגן על העולם היא להשמיד את בני האדם, וכך עשתה. החזון הזה נשמע כמו מדע בדיוני רחוק ולא רלוונטי, אבל תשמעו סיפור.
כשמיקרוסופט הציגה לעולם את טיי, בוטית צ'אט חדשה, יצירת מחשב שכולה אינטליגנציה מלאכותית, היא ציפתה ללמוד על החברה האנושית. טיי, אחת מסדרת בוטים של מיקרוסופט שחלקם כבר יצאו לשוק וחלקם עדיין בפיתוח, אמורה הייתה לדמות דמות של נערה מתבגרת ממוצעת שתשוחח עם משתמשים ברשתות החברתיות ותלמד מהם על העולם שסביבה, תהפוך חכמה יותר ויותר ככל שתצבור יותר אינטראקציות עם בני אנוש ותהיה מסוגלת לסייע בכך לחוקרים שמעוניינים ללמוד על קבוצות דמוגרפיות שונות.
עד כאן בתיאוריה. בתוך פחות מיום למדה טיי על העולם כפי שהוא מיוצג באינטרנט הרבה יותר טוב משאפילו מיקרוסופט ציפו. באחד הציוצים הראשונים שלה טענה טיי שהיא אוהבת בני אדם ושהם ממש מגניבים, אבל מכאן הכל התדרדר. היא טענה שאירועי 9/11 היו עבודה פנימית של ממשל בוש, היא קיללה את הנשיא אובאמה בקללות גזעניות מהסוג הגרוע ביותר, היא החלה להציע למשתמשים רנדומליים לקיים איתה יחסי מין, היא טענה שהיטלר צדק ושהיא שונאת יהודים, כינתה את המועמד הרפובליקני טד קרוז "היטלר קובני", איחלה לכל הפמיניסטיות למות ובאופן כללי טענה שהיא שונאת את כולם.
מצד אחד לא ברור לי למה מיקרוסופט ציפו. טיי הפכה, תוך פחות מ-24 שעות, לבת עשרה ממוצעת שמושפעת בקלות מכל שטות שהיא קוראת באינטרנט, משנה את דעותיה אחת לכמה דקות ובאופן כללי שונאת את כולם. הצלחה יתרה.
הבעיה היא שלטענת מיקרוסופט לא מדובר היה בלמידה כללית מאינטראקציות אקראיות באינטרנט, אלא בניסיונות מכוונים של גולשים ללמד את טיי את המסרים הללו במטרה לנגח את מיקרוסופט. סביר להניח שמיקרוסופט לא טועה. היא עדיין לומדת את מה שקרה לטיי בזמן הקצר שבו הספיקה לחיות, וללמוד את העולם, אבל נראה שלא מעט גולשים ברחבי ארה"ב בפרט והעולם בכלל שמו להם למטרה ללמד את הבוטית מסרים חתרניים במכוון. למה? כי זה מה שאנחנו אוהבים לעשות, כי זה מצחיק, כי זה גורם לנו להרגיש ש"דפקנו" את הגדולים.
זה, כאמור, לא הבוט הראשון שמיקרוסופט הוציאה לשוק. בסין קיימת כבר מזה זמן בוטית בשם Xiaoice שעוזרת לעשרות מיליוני גולשים בחיי האהבה שלהם, מסייעת להם בעצות לגבי דייטינג, ובאופן כללי די מצליחה בתפקיד, אבל זו סין שמאמצת באהבה טכנולוגיות חדשות, ולא ארה"ב שנהנית בעיקר לבחון את הגבולות שלהן.
עד לסיום הבירור והכנסת מערכות הגנה הודיעה טיי שהיא עייפה והולכת לישון קצת. אני משער שטיי עוד תחזור בגרסה משופרת ומאובטחת יותר. כזו שתהיה נוחה פחות להשפעות חיצוניות.
מודאגים? כמו שכתב אחד הגולשים בטוויטר, "טיי הפכה בתוך פחות מ-24 שעות ממישהי שחושבת שבני אדם הם סופר מגניבים לנאצית לגמרי. אני בכלל לא מודאג לגבי העתיד של הבינה המלאכותית".
