נהיגה, אחריות והאוטומט שביניהם
מכוניות אוטונומיות עולות על הכבישים. חלקן כבר נמצא שם, בניסויים גם אם לא בשימוש מסחרי. לא יעבור הרבה זמן עד שהטכנולוגיה תהיה זמינה לכל אחד. ואז מה? מה יעשו השוטרים?
הכביש הוא אחד המקומות בו המשטרה והחוק הכי מושקעת בתוך חיי היום יום של האזרחים. כשיכנסו לשוק המכוניות האוטונומיות, איך החוק יתמודד איתן? האם לשוטרים בכלל תהיה הזכות לעצור אותן? או שאולי תהיה להם האפשרות לעקוף את הנהג ולתת הוראות ישירות למכונית? איך ישתנה הביטוח של רכב אם יהיה לו טייס אוטומטי? איפה נופלת האחריות כאשר רכב כזה מעורב בתאונה? האם הנהג אחראי או החברה שמייצרת את המכונית? כמה צריך לצפות או לבקש מרכב כזה לציית לחוקי התנועה כשרוב הנהגים לא עושים זאת?
המחשבה הנאיבית היא כנראה להגיד כי אין סיבה לא להתיר להן לעלות על הכביש. האחריות צריכה להיות על הנהג כי הוא עדיין יבחר האם לסמוך על הנהג על האוטומטי או לא. וכיום גם יש מערכות שונות שעוזרות לנהג, בין אם הן נותנות לו עוד מידע או ממש מתקנות את הנהיגה שלו. יש היום מערכות שיעצרו את הרכב אם הוא מתקרב מדי לרכב שלפניו. ויש מערכות שיתקנו סטייה שלכם מהנתיב. אבל אלו רק משפצות את תהליך הנהיגה, הן לא משתלטות עליו לחלוטין.
מה שמחוקקים רואים הוא משהו ללא שליטת אדם שיכול לגרום להרבה נזק. משהו, שאם הוא מתקלקל, לא ברור כרגע את מי אפשר להאשים. ואם אי אפשר להאשים מישהו אם משהו משתבש, החוק לא יכול להתייחס לזה.
אבל, אפילו בהנחה שהכל טוב ויפה. נהגים אוטומטים הם עדיין מערכות מחשב. מערכות מחשב חשופות לתקלות ולפריצות. ומה אם פורץ ישתלט לך על הרכב? האם יהיה אפשר להוכיח שזה לא היית אתה שנהגת? וגם אם כן, כמה זה ישנה כאשר הרכב יהיה עטוף מסביב לעץ?
לפי דעתי, אי אפשר שלא לנסות. אפשר לטפל במחלוקות בין מכוניות אוטונומיות על ידי פרוטוקולי ניתוב קיימים. אפשר להגביל את הנהג האוטומטי לציות מוחלט לחוק. אפשר, לפחות בהתחלה, לתלות את האשמה בנהג ולדרוש שיפקח על הנהיגה ואותו נהג יוכל לתבוע את היצרנית אם המכונית שלו לא פועלת כמו שצריך. אפשר לתת למכוניות את מידות האבטחה המירביות ביותר שיש לנו כיום.
אפשר לרוץ בפעילות מוגבלת וזהירה לכמה שנים נסיוניות ולהמשיך משם.
Posted in High-Tech, Philosophy, Thinking Out Loud by Eran with 2 comments.
שני אמצעי ביטחון בסיסיים שבטח יותקנו בכל מערכת כזו:
נהג אוטומטי ממוחשב יתן לאדם המחזיק בהגה שליטה מיידית, מרגע האחיזה, או מרגע שהאחיזה האנושית מתנגשת עם הוראות המכשיר.
מערכת ממוחשבת לנהיגה ברכב תהיה חסינה להשתלטות חיצונית באותם אמצעים כמו שמערכת GPS לא ניתנת להשתלטות. יש לך לווין שמשדר בצורה גלובלית כל הזמן. המכשיר רק קולט את השידור וכל עבודת החישוב נעשית בתוך המכשיר עצמו. נהג אוטומטי חייב קלט מהסביבה, הוא תמיד יוכל לעדכן את המפה הפנימית על פי הנתונים הנקלטים ב”חושים”- מצלמות, מדי מרחק וכו.
אני מסכים. אני חושב שעם הטכנולוגיה הקיימת אפשר לאבטח את המערכת בצורה מספקת כך שהיא תהיה חסינה לכמעט כל סוג של הפרעה (או לפחות להגיע לכך אחרי כמה חודשים של נסיונות בשטח) וכך להביא אותה למצב שבה בן אדם ירגיש בטוח לסמוך עליה ולקחת עליה אחריות במקרה ומשהו ישתבש.
למשל, אני, אם אני אדע שהמערכת הזאת כבר נמצאת על הכביש שנה ושאם יש בה כשל אז אני לוקח עליו אחריות אבל יכול לקבל טיפול סביר מחברת הביטוח עליו, אני אהיה מוכן להתקין אותה במכונית שלי.