רובוטים עם רובים, המוח ודת וצעצועים חשמליים
מסתבר שיש תחרות מגניבה שבה אנשים רושמים פרויקטים שאמורים להעלות מודעות לשימוש בחשמל או לעזור בניהול חשמל. דברים שימושיים כמו מתקן ששולח ל-Twitter עדכונים על שימוש החשמל שלכם או דוושה שמנתקת את כל החשמל בבית ודברים מגניבים כמו ה-Power Hog שנראה כמו בנק חזיר עם זנב שמתחבר לשקע ומעביר חשמל דרך האף שלו רק אם נותנים לו כסף או עיניי הערפד ששמים על נורת ה-Standby של הטלוויזיה כדי שתשימו לב למכשירים שלא באמת כיביתם.
—-====—-
מבת’סדה יוצא מחקר חדש שטוען שרק לאחרונה היינו מסוגלים “לעשות דת”. רק עם ההתפתחויות של דמיון ואמפתיה היינו מסוגלים להתייחס לדמות כמו-אנושית שקיימת מחוץ לכל המישור הפיזי ולאיך שהיא חושבת או מרגישה.
—-====—-
אבל זה מה שבאמת יותר מעניין אותי. בעיקר בהקשר של משהו שקראתי ב-Slashdot על כך שצריך לחסל אתרים חברתיים או MMORPGs או כל מיני פורומים בגלל שטרוריסטים משתמשים בהם כדי לתכנן פיגועים. בתגובה לזה, מישהו אמר שאולי גם נפסיק עם כל נושא המכוניות והספינות כי גם בהם משתמשים פושעים וטרוריסטים.
מה הקשר לרובוטים אוטונומיים עם כלי נשק? בדיוק אותו הדבר. דבר ראשון, זה כבר לא “בעתיד הקרוב”, “עוד מעט” או “בימי חיינו”. רובוטים משמשים אותנו כבר היום בהמון מקומות ובהמון שימושים. ישנם רובוטים צבאיים בשטח כל יום ביומו. הרבה מהם חמושים וחלקם גם אוטונומיים לרמה מסוימת.
אני לא אומר שלא צריך לדון במתי בדיוק מותר לרובוט לירות חופשי אבל אני אומר שלא צריך להגיד להפסיק עם זה. צריך לחשוב על הרווחים האפשריים מול הסכנות האפשריות. כן, ברגע שניתן לרובוט רובה ואת היכולת להחליט עצמאית מתי ללחוץ ההדק אז קיים הסיכוי שאנשים חפים מפשע יפגעו. אבל זה לא אומר שלעולם לא צריך לעשות את זה. צריך רק להגיע למצב בו היתרונות יעלו מספיק על החסרונות. מתי זה וכמה זה יחליטו העוסקים בדבר בהתאם למצב אבל לא צריך להפסיק לדבר על זה.
אישית, אני חושב שבינתיים, גם אם הרובוט לוחץ בעצמו על ההדק הוא עדיין צריך לבקש אישור ירי מבן-אדם, כמו שכל מפקד טנק ברצועה צריך לבקש אישור לפני שהוא יורה על חשודים.
Posted in Less Interesting News by Eran with 4 comments.
הבעיה עם רובוטים עם רשיןו להרוג היא שאין להם מצפון או מוסר פנימי והם לעולם לא יסרבו פקודה לפי תחושת בטן.
אדם נושא באחראיות מעשיו או לפחות מבחינה חוקית שופטים אותו כנושא באחראיות מעשיו (חיילים נאצים נשפטו על שמילאו פקודות כלשונן) ויכול בכל רגע נתון להסיר מעל עצמו את עול הציות ולפעול לפי ראות עיניו.
רובוט תמיד יהיה כלי אמין מצד אחד ומצד שני אין שום תקווה להצלה מפני טרגדיה על ידי מחשבה עצמאית.
למה אתה כל כך מרוצה מהרעיון של רובוטים לוחמים והורגים?
למה זה נראה לך רעיון טוב יותר מאשר לאמץ את כללי הרובוטיקה של אסימוב כאקסיומה?
זה למה אני חושב שצריך לתכנן את הרובוטים ככה שהסיכוי שיעשו טעות יהיה הכי נמוך שאפשר, ברמה של לא לירות במחבל אם יש חשש ל-false positive, אבל בכל מקרה להשאיר את האנשים במשוואה.
ברגע שרובוט נמצא בשירות מישהו, אותו מישהו מקבל עליו את האחריות. כמו לכל ילד, לרובוט צריך להיות אפוטרופוס. גם אם מדובר ברובוט שעוזר לקשישים. הבית הסיעודי או הקשיש העצמאי צריכים לקחת עליו אחריות. אם לא, שלא יקחו את הרובוט.
יש משפט שאומר: “מלחמה זה לא למות למען המדינה שלך אלא לגרום למנייאק האחר למות למען המדינה שלו.” כל עוד יש מלחמות, כל עוד אי אפשר להמנע מהם, אני מעדיף רובוט שנשלט מחמ”ל משולב מאשר אח או חבר בשטח.
ועם כל הכבוד לאסימוב. כללי הרובוטיקה היו פשטניים מדי, כמו שהוא והרבה אחריו הראו, במיוחד באווירה הסופר-משפטית של ימינו אנו.
לי זה נראה קצת מוזר שמכונות ילחמו את המלחמה בעבור בני האדם.
אם אתה לא הולך לסכן חיי אדם במלחמה נחושה עד מוות על שטח המריבה כבר עדיף לפתור את הדילמה בעולם ווירטואלי או על לוח שחמט בין מדינאים וגנרלים במקום להרוס עוד מהשטח המצומצם שיש לנו לריב עליו…
אני מסכים שאם כבר צריך להילחם אז את המלחמה צריך לסגור בקרב אחד-על-אחד של המוכשר ביותר מכל צד. אולי במשחק FPS. בזה היוונים צדקו.
אבל אם, נגיד, הסורים בגדרות, אני מעדיף שהרובוטים יהיו שם מאשר חיילים שיסכנו את החיים שלהם.