Sino ang papatayin ng isang self-driving na kotse? Machine, iligtas ang pinakamaraming tao hangga't maaari, ngunit higit sa lahat, iligtas mo ako!

Kung ang isang sitwasyon ay lumitaw kung saan ang autonomous system ng isang kotse ay kailangang gumawa ng mabilis na pagpili kung sino ang isasakripisyo sa kaganapan ng isang napipintong aksidente, ano ang dapat na reaksyon nito? Pagsasakripisyo ng mga pasahero para iligtas ang mga naglalakad? Kung kinakailangan, pumatay ng isang pedestrian upang matitira, halimbawa, isang pamilya ng apat na naglalakbay sa isang kotse? O baka dapat niya munang protektahan ang sarili niya?

Bagama't higit sa animnapung kumpanya ang nakatanggap na ng mga personal na permiso sa pagsubok sa California lamang, mahirap sabihin na ang industriya ay handa nang harapin ang mga etikal na problema. Sa ngayon, nahihirapan siya sa higit pang mga pangunahing problema - ang pagpapatakbo at kahusayan sa pag-navigate ng mga system at simpleng pag-iwas sa mga banggaan at mga hindi inaasahang pangyayari. Sa mga sitwasyon tulad ng kamakailang pagpatay sa isang pedestrian sa Arizona, o mga kasunod na pag-crash (1), hanggang ngayon ito ay tungkol lamang sa mga pagkabigo ng system, at hindi tungkol sa ilang uri ng "etikal na pagpipilian" ng kotse.

Iligtas ang mayaman at kabataan

Ang mga isyu sa paggawa ng mga ganitong uri ng desisyon ay hindi abstract na mga problema. Maaaring patunayan ito ng sinumang may karanasang driver. Noong nakaraang taon, sinuri ng mga mananaliksik mula sa MIT Media Lab ang mahigit apatnapung milyong tugon mula sa mga respondent mula sa buong mundo, na kanilang nakolekta sa kurso ng pananaliksik na inilunsad noong 2014. Ang poll system na tinatawag nilang "Ethical Machine", ay nagpakita na sa iba't ibang lugar sa paligid sa mundo, ang mga katulad na tanong ay itinatanong sa iba't ibang mga sagot.

Ang pinaka-pangkalahatang mga konklusyon ay mahuhulaan. Sa matinding sitwasyon mas gusto ng mga tao na iligtas ang mga tao kaysa pag-aalaga ng mga hayop, na naglalayong iligtas ang pinakamaraming buhay hangga't maaari, at malamang na mas bata kaysa sa mga matatanda (2). Mayroon ding ilang, ngunit hindi gaanong halata, ang mga kagustuhan pagdating sa pagliligtas sa mga kababaihan kaysa sa mga lalaki, mga taong may mataas na katayuan kaysa sa mga mahihirap na tao, at mga naglalakad kaysa sa mga pasahero ng kotse..

2. Sino ang dapat magtipid ng sasakyan?

Dahil halos kalahating milyong respondent ang nagsagot sa mga demograpikong talatanungan, posibleng iugnay ang kanilang mga kagustuhan sa edad, kasarian at mga paniniwala sa relihiyon. Napagpasyahan ng mga mananaliksik na ang mga pagkakaibang ito ay hindi "makabuluhang nakakaapekto" sa mga desisyon ng mga tao, ngunit nabanggit ang ilang mga impluwensya sa kultura. Ang mga Pranses, halimbawa, ay may kaugaliang timbangin ang mga desisyon batay sa tinantyang bilang ng mga namatay, habang sa Japan ang diin ay ang pinakamaliit. Gayunpaman, sa Land of the Rising Sun, ang buhay ng mga matatanda ay higit na pinahahalagahan kaysa sa Kanluran.

“Bago natin payagan ang ating mga sasakyan na gumawa ng sarili nilang mga desisyong etikal, kailangan nating magkaroon ng pandaigdigang debate tungkol dito. Kapag ang mga kumpanyang nagtatrabaho sa mga autonomous system ay natutunan ang tungkol sa aming mga kagustuhan, pagkatapos ay bubuo sila ng mga etikal na algorithm sa mga makina batay sa kanila, at ang mga pulitiko ay maaaring magsimulang magpakilala ng sapat na mga legal na probisyon, "isinulat ng mga siyentipiko noong Oktubre 2018 sa Kalikasan.

Isa sa mga mananaliksik na kasangkot sa eksperimento sa Moral Machine, si Jean-Francois Bonnefont, ay natagpuan na ang kagustuhan para sa pagliligtas sa mga taong may mas mataas na katayuan (tulad ng mga executive sa mga walang tirahan) ay nakababahala. Sa kanyang opinyon, ito ay lubos na nauugnay sa ang antas ng hindi pagkakapantay-pantay ng ekonomiya sa isang partikular na bansa. Kung saan ang hindi pagkakapantay-pantay ay mas malaki, ang kagustuhan ay ibinigay sa pagsasakripisyo sa mga mahihirap at walang tahanan.

Ang isa sa mga nakaraang pag-aaral ay nagpakita, sa partikular, na, ayon sa mga sumasagot, ang isang autonomous na kotse ay dapat protektahan ang pinakamaraming tao hangga't maaari, kahit na nangangahulugan ito ng pagkawala ng mga pasahero. Kasabay nito, gayunpaman, ang mga sumasagot ay nagpahayag na hindi sila bibili ng kotse na naka-program sa ganitong paraan. Ipinaliwanag iyon ng mga mananaliksik Bagama't mas etikal ng mga tao na magligtas ng mas maraming tao, sila rin ay may interes sa sarili, na maaaring maging senyales sa mga tagagawa na ang mga customer ay mag-aatubili na bumili ng mga sasakyan na nilagyan ng mga altruistic system.. Noong nakaraan, sinabi ng mga kinatawan ng kumpanya ng Mercedes-Benz na kung isang tao lang ang nailigtas ng kanilang system, pipiliin nila ang driver, hindi ang pedestrian. Isang alon ng sigaw ng publiko ang nagtulak sa kumpanya na bawiin ang deklarasyon nito. Ngunit malinaw na ipinapakita ng pananaliksik na mayroong maraming pagkukunwari sa banal na galit na ito.

Nangyayari na ito sa ilang bansa. unang pagtatangka sa legal na regulasyon sa larangan. Nagpasa ang Germany ng batas na nag-aatas sa mga walang driver na sasakyan upang maiwasan ang pinsala o kamatayan sa lahat ng mga gastos. Ang batas ay nagsasaad din na ang mga algorithm ay hindi kailanman makakagawa ng mga desisyon batay sa mga katangian tulad ng edad, kasarian, kalusugan, o pedestrian.

Audi na ang bahala

Hindi mahulaan ng taga-disenyo ang lahat ng mga kahihinatnan ng pagpapatakbo ng kotse. Ang realidad ay palaging makakapagbigay ng kumbinasyon ng mga variable na hindi pa nasusubok dati. Pinapahina nito ang aming paniniwala sa posibilidad ng "etikal na pagprograma" ng isang makina. Tila sa amin na sa mga sitwasyon kung saan ang isang error ay nangyayari at ang isang trahedya ay nangyayari "dahil sa kasalanan ng kotse", ang responsibilidad ay dapat pasanin ng tagagawa at developer ng system.

Marahil ang pangangatwiran na ito ay tama, ngunit marahil hindi dahil ito ay mali. Sa halip, dahil pinayagan ang isang kilusan na hindi 2019% libre sa posibilidad na gawin ito. Tila iyon ang dahilan, at ang nakabahaging responsibilidad ay hindi tinatakasan ng kumpanya, na kamakailan ay nag-anunsyo na mananagot ito sa mga aksidenteng kinasasangkutan ng isang 8-taong-gulang na A3 habang gumagamit ng isang awtomatikong Traffic Jam Pilot (XNUMX) system dito.

3. Interface ng Pilot ng Audi Traffic Jam

Sa kabilang banda, may milyon-milyong mga tao na nagmamaneho ng mga kotse at nagkakamali din. Kaya't bakit ang mga makina, na sa istatistika ay gumagawa ng mas kaunting mga pagkakamali kaysa sa mga tao, bilang ebidensya ng maraming pagkakamali, ay dapat diskriminasyon laban sa bagay na ito?

Kung ang sinuman ay nag-iisip na ang mga dilemma ng etika at responsibilidad sa mundo ng mga autonomous na sasakyan ay simple, patuloy na mag-isip...