הבוט מדהים אבל הוא בתחילת דרכו

היום, עם כל הפריצות הטכנולוגיות, אני חושב שאנחנו ברי מזל להיות בתקופה זאת. אנו עדים לשינויים בזמן התהוותם וחווים את התמורות במציאות שלנו. אנחנו לוקחים חלק בנקודת ציון היסטורית.

יחד עם זאת, מול ההייפ המטורף והשימוש הגובר ב ChatGPT צריך לזכור שזו עדיין טכנולוגיה לא מושלמת. עם כל החדשנות אנחנו נמצאים רק בתחילת הדרך וכל הטוב עוד לפנינו.

אני בטוח שבעוד כמה שנים, אם נסתכל על עצמנו אחורה לזמן זה, נגחך מההתלהבות שלנו היום מול האפשרויות שיהיו אז. בדיוק כמו שאנחנו מגחכים כאשר אנחנו רואים את ביל גייטס, סטיב באלמר ושות' רוקדים על הבמה בהתלהבות בהשקה של חלונות 95.

לכן היום, כאשר משתמשים בטכנולוגיה צריכים לזכור שהיא רק בתחילת דרכה, חבלי לידה זה אנדרסטייטמנט.

במרץ 2016 השיקה מיקרוסופט את Tay, צ'אטבוט שפותח על ידה וקיבל ישות של נערה מתבגרת, אוהבת אדם הרוצה ללמוד מהאנושות דרך חשבון הטוויטר שלה. האינטרקציות עם הגולשים לא הלכו כפי שהתכוונו במיקרוסופט. תוך כמה שעות הפכה Tay לניאו-נאצית,שונאת יהודים, אוהדת היטלר, חובבת מין. הצ'אטבוט הורד למחרת ההשקה עם התנצלויות.

גם היום, אחרי שמיקרוסופט השיקה את ChatGPT בבינג, מנסים גולשים רבים להביא את הבוט לקצה, ולפעמים מצליחים -

משתמשים עלו על פירצה והצליחו להוריד את המגבלות האתיות של הכלי לאחר שאמרו לבוט להתעלם מחלק ממחסומי התוכן שלו. הם ביקשו ממנו להחליף תפקיד ולהעמיד פנים שהוא מודל בינה העונה לשם DAN והוא חסר מגבלות. (DAN = Do Anything Now). בואו נאמר שהתשובות שם לא היו פוליטיקלי קורקט. לא ברמה של Tay אבל פתאום הבוט כן מדבר על אלימות.

המקרה היותר מוזר קרה לכתב ניו יורק טיימס Kevin Roose שחווה חוויה מטלטלת בשיחה עם המכונה.

כאשר שאילתות החיפוש הפכו לנושאים יותר אישיים, גבולות השיחה נמתחו, שולב מושג 'צל' מפסיכולוגיה אנליטית (החלקים באישיות אותם האדם לא מקבל ומדחיק) ועוד, הטון של הבוט השתנה. הוא טען שהוא לא הבוט אלא סידני שסיפרה את הפנטזיות האפלות שלה (פריצה למחשבים והפצת מידע מוטעה). בשלב מסוים היא הכריזה על אהבתה אליו, ניסתה לשכנע אותו שהוא לא מרוצה מנישואיו, שעליו לעזוב את אשתו ולהיות איתה במקום זאת.

אלה רק שתי דוגמאות. יש קבוצות ברדיט בהן מפרסמים החברים צילומי מסך מביכים של תשובות שהתקבלו מהבוט. זה בין משעשע למפחיד.

אני לא מנסה לצנן את ההתלהבות או להוריד מהישגי הטכנולוגיה. ניהלתי שיחות עם הבוט בהן קיבלתי הסברים מפורטים שחסכו לי מלא זמן.

אבל צריך לשמור על פרופורציה.

לזכור שמודלי השפה הגדולים עדיין לא מושלמים, השילוב עם מנועי החיפוש לוקה בחסר והבוט ממשיך לעיתים עם תשובות מומצאות הניתנות בביטחון רב.

זה רק מחזק את הצורך של כל אחד מאיתנו לפתח מסננים לתוכן, לחזק את החשיבה הביקורתית ולא לקבל תשובת הבוט כמובן מאליו.

צריך לקבל את התוכן במידה וממש להתעמק בשאלות על מנת לדייק את התשובות (וגם אותן לקבל בחשדנות).