ממשקים ממוחשבים-אנושיים
- 23 ביוני
- זמן קריאה 6 דקות
עודכן: 29 ביוני
תומר וינר
דָּנִיקֵלָה נכנסה למועדון הנוער, כמו בכל יום שני, ומצאה את אותה חבורה של בני נוער שהייתה משויכת אליה על ידי המערכת. היא שיחקה איתם כדי לקדם תהליכי הבשלה פסיכולוגית, ולחדד את ההתאמות של המערכת עבור איתור זיווג אופטימלי. אחרי זמן מה היא הייתה זקוקה למנוחה. ולמעט מלח. כשמילאה את צרכיה, יצאה לחצר והצטרפה למשחק משיכת חבל ואחר כך למשחק תופסת, עד שקיבלה חיווי מהמערכת האישית שלה כי בזאת היא מילאה את חובותיה החברתיות. לאחר מכן התיישבה על כורסה בחדר המרכזי ובהתה בתקרה. היא לא הייתה צריכה לדבר.
המערכת שלה התריעה כי בעוד עשר דקות עליה לעזוב כשלירוג קרא לה למחסן. הוא הראה לה צג עתיק שנשמרו בו כל מיני קבצים, כנראה מתחילתו של האלף השלישי – קבצים שלא היו מוזנים בשום צורה במערכת. הדופק של דניקלה עלה מעט. לירוג אמר בקול שקט שמצא אותו במקרה ומעולם לא ראה דבר כזה קודם. הוא בטוח שגם היא לא. אז, הציע לה לסקור את הקבצים – הראה לה תמונות של משוואות מתמטיות ארוכות, של מפות היסטוריות, של זוגות בזמן משגל. היא ביקשה לשוטט בין הקבצים בעצמה. לירוג היסס ואחר כך העביר לה את הצג. דניקלה מצאה תיקייה ששמה "המאבק להכנסת הרנדומליות לממשקים ממוחשבים-אנושיים" והרגישה רעב קל עד בינוני למידע החדש. לירוג עצר אותה, ושאל אם היא רוצה להמשיך להסתכל בצג. היא הנהנה. הוא ביקש שיכבו את המערכות הלא חיוניות כדי שלא יפריעו להם, נשכב על הרצפה וביקש ממנה שתשכב עליו. דניקלה הרגישה קצת גועל וקצת רעב מיני. לירוג התנועע והתחכך בה עד שדניקלה אמרה די.
לירוג הלך לשירותים, והיא המשיכה לבחון את הצג והקבצים לבדה. בתוך התיקייה מצאה קובץ מילולי המתאר אזרח ישראלי בשם אלון כוכבי, חוקר מוח מוביל באקדמיה, שפעל בתחילתה של המאה ה-21, לפני עלייתה של המערכת, ואת המאבק שלו לחוקק חוק שיכניס אלמנטים רנדומליים לכל תוכנה שיש בה ממשק אנושי, באופן שאף ישבש את פעילותה של התוכנה. המערכת הראשית שלה התחילה להתריע שהמערכות הלא חיוניות מנותקות למשך זמן ארוך מדי. בכל מקרה הייתה צריכה לחזור הביתה. לירוג חזר לחדר המחסן והחביא את הצג היכן שמצא אותו, דניקלה הביטה במעשיו. הם לא היו צריכים לדבר.
דניקלה חזרה הביתה. היא סימנה בידה לאחותה הגדולה, סימון, כי היא מתחברת למערכת שלה כדי לצפות איתה בהזנת המידע האישית שלה – תוכן שהמערכת משדרת ישירות לתוך התודעה. עיניה הזדגגו כמו העיניים של אחותה. הן חזו יחד בתוכן פנאי: רצועה ובה מוצגים בחור ובחורה שנפגשו במשרד, רצועה שמראה כיצד התאהבו בזמן ארוחה זוגית במסעדה קלאסית, רצועה שמציגה כי נולד להם ילד. דניקלה התנתקה לרגע מהתוכן הנחזה במערכות שלהן והתבוננה בסימון, שחיוך נמרח על פניה. לאחר שהרפתה את המיקוד בפניה של אחותה, עיניה הזדגגו והיא חזרה לצפות בתוכן. רצועה נוספת הציגה את בני הזוג מתווכחים, את הילד שלהם בוכה, את הגבר אורז מזוודה. דניקלה שוב הציצה בפניה של סימון, שכעת היו קודרים ועצובים. היא הרגישה רעב למידע חדש על אלון כוכבי, רעב שלא הרגישה בדיוק כמותו בעבר, אך עם זאת היה מוכר במידה מסוימת. כשחזרה לחזות בתוכן, הרצועה הציגה את האישה הפרודה מחייכת לגבר אחר, חדש. הרצועה הקצרה שאחריה הציגה את הגבר הפרוד מחייך לאישה חדשה, וברצועה האחרונה הוצגו שני ההורים, כל אחד עם בן הזוג החדש, וילדם המשותף, מחויכים ומסובים לשולחן אוכל. התוכן הסתיים, ודניקלה ראתה כיצד פניה של סימון שוב מוארים בחיוך תם. סימון מיקדה את מבטה בפני אחותה: "סרט כל כך יפה... עכשיו אני צריכה לאכול פחמימות עם מלח. גם את?", והיא קמה אל חדר האוכל. דניקלה הצטרפה אליה.
באמצע הארוחה ביקשה סימון מדניקלה להעביר לה את המלח, ודניקלה הטיחה את המלח ליד אחותה בעוצמה. צליל חבטה נשמע משולחן העץ. סימון הזדעזעה, עיניה התמלאו דמעות. אימא שלהן הגיעה למטבח, וביקשה את הנתונים של האיזון ההורמונלי של דניקלה. מבטה הזדגג לרגע קל, וניכר כי הבינה מה שוב קרה. "קיבלת כבר קודם התראה על רמת קורטיזול גבוהה, למה לא עשית עם זה משהו?", גערה בדניקלה. דניקלה התחילה להתרעם, ואימא שלה קטעה אותה: "אם תמשיכי ככה אני אחזיר אותך להזנה פיזית מלאכותית ולאיזון אוטומטי מלא, את מבינה?". היא חיבקה את סימון, שנרגעה בינתיים וכעבור רגע המליחה את האורז שאכלה. דניקלה העמידה פנים שהרגישה שובע פיזי.
בשבוע שלאחר מכן דניקלה שוב הייתה צריכה לספק את לירוג כדי לקבל את הצג העתיק, וכדי להשביע את הרעב האינפורמטיבי שחשה בבירור כלפי אלון כוכבי. היא קיבלה התרעת מערכת על עומס קוגניטיבי חריג ונאלצה לעצור את קריאת הטקסט שלו, שממנו הבינה רק חלקים מסוימים. כוכבי תיאר רגשות מורכבים, תסכול, ייאוש, אובדן תקווה ביחס לחברה הישראלית שעברה אסון גדול במלחמה, באזור שנקרא "עזה". אנשים נהגו באלימות זה כלפי זה, דווקא בזמן עלייתה של מה שכונתה "הבינה המלאכותית". הניסיון של דניקלה להבין דרש מאמצים רבים. כוכבי טען שהחברה איבדה את האמפתיה כלפי חבריה, גם כלפי אנשים שאיבדו את היקר להם מכול בשביל המדינה. דניקלה הרגישה כאב בחזה וסחרחורת קלה. היא הייתה צריכה כוס מים. חייבת.
בשבוע שלאחר מכן הגיעה מוקדם למועדון, מצאה את הצג בעצמה, וכשלירוג ניסה לתבוע את המס שהתרגל לקבל, נהמה עליו בקול רם ואימצה את הצג אל החזה שלה. לירוג נבהל מעט, נסוג, השתהה ולבסוף נמלט החוצה. דניקלה מעולם לא הייתה כה רעבה למידע. המערכת התריעה על מעמסה באזור הלימבי המופקד על הרגשות במוח, אך דניקלה הצליחה להרגיע את עצמה ולהתקדם עוד בקריאה. כוכבי אמר בריאיון כי הבחין שרבים נטו להתייחס לתוכנות בינה מלאכותית כאל בני אדם ממשיים. הוא העריך שתתפתח גם הטיה הופכית ומשלימה: בלי לשים לב, אנשים יתחילו להתייחס זה אל זה כאילו הם תוכנות מחשב, כאל מכונות המבצעות פונקציות שונות. הוא פעל באמונה כי אם המחשבים בעצמם יהיו אנושיים יותר – בלתי צפויים ואמוציונליים – אנשים לא ייקחו את תשומת הלב של הזולת כמובנת מאליה, מה שיוביל לשיפור היחס לאחר. דניקלה חשה בהלה גדולה ושמטה את הצג מידה בבת אחת. היא הייתה צריכה לשכב. המערכת הראשית שלה התריעה גם על עומסים מרובים במערכת העצבים המרכזית.
בערב יום ראשון דניקלה הייתה מתוחה, תזזיתית. היא הייתה רעבה מאוד למידע שוב, וחיכתה שיגיע יום המחרת ותוכל להיכנס למועדון הנוער. סימון שאלה אותה אם היא רוצה לצפות איתה בתוכן בידורי. במקום זאת, דניקלה ביקשה ממנה לכבות את המערכת הלא-חיונית שלה ולבוא לדבר איתה במרפסת. סימון לא פעלה מיד. דניקלה אמרה לה שוב ''בבקשה", והביטה בעיניה. סימון נעתרה. דניקלה התחילה לספר לה שהיא מצאה במועדון צג עתיק, שמכיל חומרים ממש משביעי-מידע. סימון לא הגיבה, אז היא ניסתה לגרום לה להיות מעט רעבת-מידע.
"מצאתי שם תיאורים של הרגשות שהיו פעם לאנשים, וזה ממש חזק", דניקלה הסמיקה מעט, הדופק שלה עלה. "אנשים היו פעם ממש מורכבים, לא הייתה להם מערכת שתבדוק אותם כל הזמן. והיו להם הרבה יותר מצבים ממה שיש לנו. הם היו מיואשים ומתוסכלים לפעמים…"
"אני עוד רגע מקבלת התראה מהמערכת הראשית שלי רק בגלל מה שאמרת לי עכשיו", קטעה סימון את אחותה הקטנה. "אולי אני כבר צריכה גלוקוז. דניקלה, תזדרזי".
"תעשי בשבילי קצת מאמץ, טוב?", המשיכה דניקלה בנימת דחיפות, "אני מסבירה לך, הם היו מלאים ברגשות וגם בחלומות, בשאיפות. היו להם חרטה, אשמה... כי קרו להם דברים שהיום המערכות שלנו
כבר לא נותנות לנו לחוות". פניה האדימו ונשימתה הייתה מהירה.
"זה היה כשאנשים עוד היו צריכים להתפרנסה? לפרנסות? או איך שלא אומרים את זה", שאלה סימון.
"כן, זה נקרא 'להתפרנס' – להרוויח כסף כדי לשלם את ההוצאות שלהם על מחיה". דניקלה שמחה שהצליחה לעורר באחותה רעב קל למידע. "בימים ההם נשים היו בהכרה מלאה במהלך כל ההיריון וגם במהלך הלידה! זה היה מזמן...".
"קשה לי לחשוב על משהו כל כך רחוק", גם סימון הייתה מעט מרוגשת. ניכר שהיא באמת רעבה, ושהיא מתקרבת לחריגה.
"הם חשבו הרבה על מה שקורה להם והיו מאוד מודעים למצב שלהם. הם היו מלאים בתחושות וברעיונות – לא רק בצרכים". המערכת הראשית של דניקלה התריעה.
"אבל למה בעצם את צריכה את כל זה?!", סימון האדימה. "את מכניסה את עצמך לבעיה, סתם, בלי סיבה. אני לא מבינה למה". אחותה קיבלה גם היא התראה על מעמסה קוגניטיבית ורגשית.
"כי אני רעבה! אני לא רוצה רק לשבת כל היום ולחכות שאבשיל מבחינה פיזיולוגית ופסיכולוגית ואקבל זיווג! משעמם לי בלב, אני לא יודעת איך להסביר לך אבל…". דניקלה התמוטטה, המערכת הראשית שלה השביתה אותה. הוריה קיבלו התראה מיידית. סימון הפעילה את כל המערכות והסבירה להוריה מה קרה כשיצאו בבהלה למרפסת.
דניקלה התעוררה במיטתה. הוריה היו מודאגים. המערכת הייתה רוויה בחיוויים שליליים. חיברו אותה להזנה פיזית מלאכותית ולאיזון אוטומטי מלא. אילצו אותה לחוות תוכן מרגיע.
דניקלה עדיין הרגישה רעב מידע גדול כשהפרשה דעכה. היא הצליחה לגרום להוריה לחשוב שהיא שבעה ואינה צריכה שום דבר מיוחד, עד שהצליחה לקבל את אישורם לחזור לשגרת החיים שלה. סימון לא רצתה לדבר איתה בפרטיות יותר. דניקלה הייתה חייבת להבין מה עוד כוכבי חשב, ומה קרה לו ולמאבק שלו, ולבסוף הצליחה לחזור למועדון הנוער ולמצוא את הצג העתיק.
בנחישות ובמתינות של טורף דלתה דניקלה מעט מידע נוסף בכל שבוע, למדה את משמעותם של המושגים שלא הכירה, ולבסוף הצליחה להרכיב את התמונה הגדולה: כוכבי האשים את הבינה המלאכותית, שהתפתחה באופן מואץ בתחילתה של המאה ה-21, במצב החברתי העגום ששרר בישראל באותה התקופה. לכן, הוא יזם חוק שיאלץ את היצרנים של התוכנות לשבש באופן רנדומלי את הממשקים הממוחשבים, על בסיס מצבים רגשיים וחברתיים נפוצים, כדי שחוויית המשתמש שיספקו תהפוך להיות דומה יותר לאינטראקציה אנושית. לפעמים כדאי שגם המחשב יעבוד באופן משובש, טען כוכבי, שלא ייתן לנו את מלוא הקשב שלו, או שפתאום התפקוד שלו יהיה בינוני כי הוא מוטרד ממשהו. כמונו.
בריאיון שנמצא בקובץ האחרון בתיקייה ציין כוכבי עשור לניהול המאבק שלו. הוא עדיין האמין בניסיון ליצור אנושיות בממשקים הממוחשבים, בתקווה שבני אדם לא ידברו זה עם זה כפי שהתרגלו לדבר עם תוכנות הבינה המלאכותית: בבוטות, בתכליתיות, באדנותיות – אף שידע שהתהליך הזה כבר החל, ואין ממנו חזרה.
הוא גרר אחריו המונים בזמנו. יחד הפגינו ודרשו רגולציה. השתתפו בדיונים פרלמנטריים. עוררו זעם והתנגדויות, שלבסוף היו חזקות ממנו. "למה לשבש מה שיכול לעבוד כמו שצריך? איזה מין היגיון חולני אתה מפעיל?" הטיח בו מנכ"ל חברת "דאטה" הישראלית.
כשדניקלה גילתה שכוכבי נהרג בתאונה של רכב אוטונומי, היא הרגישה שובע מוזר. פעם קראו לזה בחילה.