Кого убьет беспилотный автомобиль? Машина, спаси как можно больше людей, но больше всего спаси меня!
אויב עס קומט אַ סיטואַציע ווו די אָטאַנאַמאַס סיסטעם פון אַ מאַשין האט צו מאַכן אַ שנעל ברירה פון וועמען צו קרבן אין די געשעעניש פון אַ אָט-אָט צופאַל, ווי זאָל עס רעאַגירן? קרבן פּאַסאַנדזשערז צו ראַטעווען פּאַדעסטריאַנז? אויב נייטיק, טייטן אַ פוסגייער צו ספּער, למשל, אַ משפּחה פון פיר טראַוואַלינג אין אַ מאַשין? אדער אפשר זאל ער זיך אלעמאל קודם באשיצן?
В то время как только в Калифорнии более шестидесяти компаний уже получили разрешение на личное тестирование, трудно сказать, что отрасль готовится столкнуться с этическими дилеммами. На данный момент он борется с более базовыми проблемами — работой и навигационной эффективностью систем и просто предотвращением столкновений и непредвиденных событий. В таких ситуациях, как недавнее убийство пешехода в Аризоне или последующие аварии (1), пока речь шла просто о системных сбоях, а не о каком-то «этическом выборе» машины.
ראטעװעט די רײכע און יונגע
Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.
Самые общие выводы предсказуемы. В экстремальных ситуациях люди предпочитают спасать людей заботе о животных, стремясь сохранить как можно больше жизней, и, как правило, моложе, чем пожилые люди (2). Есть также некоторые, но не столь явные предпочтения, когда речь идет о спасении женщин перед мужчинами, людей с более высоким статусом перед более бедными и пешеходов, а не пассажиров автомобилей..
2. Кого должна спасти машина?
זינט כּמעט אַ האַלב מיליאָן ריספּאַנדאַנץ האָבן אָנגעפילט דעמאָגראַפיק קוועסטשאַנערז, עס איז מעגלעך צו קאָראַלייטינג זייער פּרעפֿערענצן מיט עלטער, דזשענדער און רעליגיעז גלויבן. די ריסערטשערז האָבן געפונען אַז די דיפעראַנסיז האָבן נישט "באַטייַטיק ווירקונג" אויף מענטשן ס דיסיזשאַנז, אָבער באמערקט עטלעכע קולטור ינפלואַנסיז. די פראנצויזיש, למשל, טענד צו וועגן דיסיזשאַנז אויף די יקער פון די עסטימאַטעד נומער פון דעטס, בשעת אין יאַפּאַן דער טראָפּ איז געווען דער קלענסטער. אָבער, אין דעם לאַנד פון די רייזינג זון, די לעבן פון די עלטער איז וואַליוד פיל מער ווי אין די מערב.
"איידער מיר לאָזן אונדזער קאַרס צו מאַכן זייער אייגענע עטישע דיסיזשאַנז, מיר דאַרפֿן צו האָבן אַ גלאבאלע דעבאַטע וועגן דעם. ווען קאָמפּאַניעס ארבעטן אויף אָטאַנאַמאַס סיסטעמען לערנען וועגן אונדזער פּרעפֿערענצן, זיי וועלן אַנטוויקלען עטישע אַלגערידאַמז אין מאשינען באזירט אויף זיי, און פּאַלאַטישאַנז קענען אָנהייבן צו באַקענען טויגן לעגאַל פּראַוויזשאַנז, "די סייאַנטיס געשריבן אין אקטאבער 2018 אין נאַטור.
Один из исследователей, участвовавших в эксперименте «Моральная машина», Жан-Франсуа Боннефон, счел тревожным предпочтение спасения людей с более высоким статусом (например, руководителей, а не бездомных). По его мнению, это очень сильно связано с уровень экономического неравенства в данной стране. Там, где неравенство было больше, предпочтение отдавалось принесению в жертву бедных и бездомных.
Одно из предыдущих исследований показало, в частности, что, по мнению респондентов, автономный автомобиль должен защищать как можно больше людей, даже если это означает потерю пассажиров. При этом, однако, респонденты заявляли, что не стали бы покупать запрограммированный таким образом автомобиль. Исследователи объяснили, что хотя люди считают более этичным спасать больше людей, они также руководствуются собственными интересами, что может быть сигналом для производителей о том, что клиенты будут неохотно покупать автомобили, оснащенные альтруистическими системами.. Некоторое время назад представители компании Mercedes-Benz заявили, что если бы их система спасала только одного человека, то они бы выбрали водителя, а не пешехода. Волна общественного протеста вынудила компанию отозвать свою декларацию. Но исследование ясно показывает, что в этом святом негодовании было много лицемерия.
В некоторых странах это уже происходит первые попытки правового регулирования в поле. В Германии принят закон, который требует, чтобы автомобили без водителя любой ценой избегали травм или смерти. В законе также говорится, что алгоритмы никогда не могут принимать решения на основе таких характеристик, как возраст, пол, здоровье или пешеходы.
אַודי נעמט באַשולדיקונג
Конструктор не в состоянии предугадать все последствия эксплуатации автомобиля. Реальность всегда может предоставить комбинацию переменных, которые никогда раньше не проверялись. Это подрывает нашу веру в возможность «этичного программирования» машины вообще. Нам кажется, что в ситуациях, когда возникает ошибка и происходит трагедия «по вине автомобиля», ответственность должен нести производитель и разработчик системы.
Возможно, это рассуждение правильно, но, возможно, не потому, что оно было ошибочным. Скорее потому, что было разрешено движение, которое не было на 2019% свободно от возможности его совершения. Похоже, именно в этом и причина, и от общей ответственности не уклоняется компания, недавно заявившая о том, что возьмет на себя ответственность за аварии с участием A8 3 года при использовании в ней автоматической системы Traffic Jam Pilot (XNUMX).
3. Интерфейс Audi Traffic Jam Pilot
С другой стороны, есть миллионы людей, которые водят машины и тоже совершают ошибки. Так почему же машины, которые по статистике совершают гораздо меньше ошибок, чем люди, что подтверждается многочисленными ошибками, должны подвергаться дискриминации в этом отношении?
אויב ווער עס יז מיינט אַז די דילעמאַז פון עטיקס און פֿאַראַנטוואָרטלעכקייט אין דער וועלט פון אָטאַנאַמאַס וועהיקלעס זענען פּשוט, האַלטן טראכטן ...
