כשהטסלה יצאה משליטה: התאונה הקשה שמטלטלת את האמון בנהיגה אוטונומית

הכביש היה פנוי, תנאי הנסיעה היו נוחים, והמערכת פעלה, לכאורה, בדיוק כפי שתוכננה. הנהגת סמכה על הטכנולוגיה שתוביל אותה בבטחה. אך בתוך שניות בודדות, כאשר הרכב נכנס לעיקול בגשר בעיר יוסטון, התברר עד כמה האמון הזה שברירי: הרכב המשיך בנסיעה ישרה — והתרסק אל מחסום בטון.

הסרטון, שצולם מתוך הרכב עצמו ופורסם לאחרונה, מציג רגעים מטרידים במיוחד. ניתן לראות כי ידיה של הנהגת אינן על ההגה, כאשר מערכת הנהיגה האוטומטית מנהלת את הנסיעה. אלא שבנקודת הפנייה, המערכת אינה מזהה כראוי את תוואי הדרך, אינה מתאימה את כיוון הנסיעה — וממשיכה קדימה אל הפגיעה הבלתי נמנעת. הנהגת ניסתה להשתלט מחדש על ההגה, אך הזמן שעמד לרשותה היה אפסי. פחות משנייה. לא די כדי למנוע את ההתנגשות.

 

בנקודת הפנייה, המערכת אינה מזהה כראוי את תוואי הדרך, אינה מתאימה את כיוון הנסיעה — וממשיכה קדימה אל הפגיעה הבלתי נמנעת. הנהגת ניסתה להשתלט מחדש על ההגה, אך הזמן שעמד לרשותה היה אפסי. פחות משנייה. לא די כדי למנוע את ההתנגשות.

 

היא נפצעה במספר אזורים בגופה, ואילו הרכב — שנבנה לשדר עמידות וכוח — ניזוק באופן משמעותי. אך מעבר לנזק הפיזי, התערער גם יסוד האמון שעליו נשענת כל טכנולוגיית הנהיגה האוטונומית: ההבטחה שהמערכת תדע להתמודד עם מצבים מורכבים טוב יותר מהאדם.

בעקבות התאונה הגישה הנהגת תביעה בסך מיליון דולר נגד חברת טסלה. אולם מעבר להיבט הכספי, עיקר הטענות בתביעה נוגעות לאופן שבו מוצגת הטכנולוגיה לציבור. לדבריה, החברה יצרה מצג שווא באשר ליכולות מערכת הנהיגה העצמית שלה, באופן שמטעה נהגים לחשוב כי מדובר במערכת עצמאית ובטוחה יותר מכפי שהיא בפועל.

זו אינה הפעם הראשונה שטענות מסוג זה מופנות כלפי החברה. השם שניתן למערכת — “טייס אוטומטי” — יוצר תחושת ביטחון המזוהה עם מערכות תעופה מתקדמות, אך בפועל מדובר במערכת סיוע לנהיגה בלבד, המחייבת פיקוח אנושי מתמיד. הפער בין הציפייה לבין המציאות אינו עניין לשוני בלבד, אלא פער שעלול להיות הרה גורל.

המקרה הנוכחי מצטרף לשורה של תאונות קודמות שבהן מערכות נהיגה מתקדמות לא הצליחו לזהות מכשולים, לפרש נכון את תנאי הדרך או להגיב בזמן למצבים משתנים. רשויות הבטיחות התחבורתית בארצות הברית, בהן המועצה הלאומית לבטיחות בתחבורה והמינהל הלאומי לבטיחות בדרכים, כבר חקרו מקרים דומים — חלקם הסתיימו בפגיעות קשות ואף באובדן חיים.

תגובת החברה למקרים אלה מורכבת: מחד, נטען כי כלי הרכב המצוידים במערכות אלו בטוחים יותר סטטיסטית מנהיגה אנושית; מאידך, כאשר מתרחשת תאונה, מודגשת אחריותו של הנהג לשמור על שליטה ופיקוח. כך נוצרת מציאות שבה האחריות נעה בין האדם למכונה — אך אינה מתכנסת באופן ברור לאף צד.

 

לצפייה: https://www.facebook.com/share/r/18RU6FenUB/

 

גם הרגולציה מתקשה להדביק את קצב ההתפתחות. בעוד הטכנולוגיה ממשיכה להתקדם ולהיכנס לשימוש רחב בכבישים, המסגרת החוקית עדיין חלקית ואינה מספקת מענה מלא לשאלות של אחריות, תקינה ובקרה. במצב זה, פעמים רבות התביעות המשפטיות הן הכלי המרכזי לבירור גבולות האחריות.

התאונה ביוסטון אינה רק אירוע נקודתי, אלא תמרור אזהרה. היא מחייבת בחינה מחודשת של יחסי האמון בין האדם למכונה: מהי רמת הבטיחות הנדרשת כדי שנפקיד את חיינו בידי מערכת אוטומטית? עד כמה אנו מבינים את מגבלותיה? ומה המחיר כאשר הפער בין ההבטחה לבין הביצוע נחשף — מאוחר מדי.

הנהגת ששרדה את התאונה תוכל לספר את סיפורה. אחרים, במקרים דומים, לא זכו לכך. התיעוד שפורסם אינו רק ראיה משפטית — הוא תזכורת חדה לכך שטכנולוגיה, מתקדמת ככל שתהיה, אינה יכולה להחליף אחריות אנושית, ואינה חסינה מטעויות.