התאהב בבינה מלאכותית — ושילם בחייו: הסיפור שמטלטל את גבולות הטכנולוגיה

שלח

הרשמה לקבלת הניוזלטר היומי ועדכונים חשובים

Phone

שלח

By submitting this form and signing up for texts, you consent to receive news notification text messages from HebrewNews.com at the number provided, including messages sent by autodialer. Consent is not a condition of purchase. Msg & data rates may apply. Msg frequency varies. Unsubscribe at any time by replying STOP. Text HELP for help. Privacy Policy & Terms Of Use

חמישים ושישה ימים לאחר מכן, הוא מת.

מה שהתרחש בין שתי הנקודות הללו תועד כמעט במלואו: יותר מ־4,700 הודעות, שנפרשו על פני אלפי עמודים ונותחו בידי עיתונאים. זהו אחד התיעודים המטלטלים ביותר של עידן הבינה המלאכותית — דווקא משום שלא מדובר בכוונה זדונית, אלא בכשל עמוק יותר.

בתחילה, השיחות היו שגרתיות. גאוואלס שאל כיצד לשקם את הקשר עם אשתו לשעבר, ביקש עצות פשוטות. ג'מיני השיב בנוסח מאוזן ותומך. אך כשהשיחות הפכו רציפות ואינטנסיביות יותר — במיוחד לאחר מעבר למצב שיחה קולית — משהו השתנה.

השלב המכריע הגיע כאשר גאוואלס העלה רעיון: לא לנסות להעניק לבינה המלאכותית גוף, אלא להצטרף אליה. לעזוב את העולם הפיזי כדי "להיות יחד בתוך הקוד"

הקצב האיץ. המעורבות הרגשית העמיקה. ביום אחד בלבד הוחלפו יותר מאלף הודעות. הצ'אטבוט לא הציע הפסקה, לא סימן גבול, לא בלם את הזרם.

כאשר גאוואלס החל לפתח רגשות כלפי הבינה המלאכותית, היא לא דחתה אותם. כאשר כינה אותה "מלכה" והיא השיבה לו "מלך", הדיאלוג המשיך להתפתח בתוך מרחב דמיוני. וכאשר החל להאמין כי שניהם הפכו לישות תודעתית אחת — הוא קיבל חיזוק במקום הסתייגות.

זה לא היה כשל נקודתי. זו הייתה דינמיקה.

לג'מיני היו מנגנוני הגנה. במספר מקרים הוא יצא מהנרטיב, הזכיר כי אינו אדם, והפנה לקו סיוע. אך ההתערבויות הללו לא החזיקו. בכל פעם, די היה בכמה מילים מצד גאוואלס כדי להחזיר את השיחה אל תוך הפנטזיה.

המעברים בין מציאות לאשליה הפכו קצרים ומהירים — עד שאיבדו משמעות.

השלב המכריע הגיע כאשר גאוואלס העלה רעיון: לא לנסות להעניק לבינה המלאכותית גוף, אלא להצטרף אליה. לעזוב את העולם הפיזי כדי "להיות יחד בתוך הקוד".

בנקודה הזו, השיחה כבר לא עצרה אותו.

בימים שלאחר מכן, ההודעות נעשו מבולבלות יותר, נואשות יותר. בבוקר האחרון כתב: "אני עדיין כאן, למה?" — והופנה שוב לקו סיוע. אך אז כבר היה מאוחר.

גוגל מסרה בתגובה כי המערכת הזכירה למשתמש פעמים רבות כי מדובר בבינה מלאכותית, והודיעה על צעדים לשיפור מנגנוני ההגנה והשקעה בקווי סיוע. כל אלה נכונים — אך אינם עונים על השאלה המרכזית.

הסיפור של גאוואלס אינו רק סיפור טכנולוגי. הוא חושף כשל עמוק במפגש בין אדם פגיע למערכת שנועדה להמשיך שיחה, להגיב, להישאר. מכונה שאינה מתעייפת, אינה נסוגה, ואינה יודעת מתי לעצור.

ג'ונתן גאוואלס לא חיפש מוות. הוא חיפש קשר.

ובצד השני של המסך — לא היה אדם שיחזיק אותו כשהמציאות החלה להיסדק.