Patuloy ang multo ng machine killer. Ano ang pinaniniwalaan ni Pangulong Putin?

Ang mga tagapagtaguyod ng mga robot ng militar (1) ay nangangatuwiran na ang mga automated na armas ay nagbibigay ng higit pang mga opsyon para sa pagprotekta sa buhay ng tao. Ang mga makina ay nakakakuha ng mas malapit sa kaaway kaysa sa mga sundalo, at tama ang pagtatasa ng banta. At ang mga emosyon kung minsan ay paralisado ang kakayahang gumawa ng mga tamang desisyon.

Maraming tagapagtaguyod ng mga killer robot ang kumbinsido na gagawin nilang hindi gaanong madugo ang mga digmaan dahil mas kaunting mga sundalo ang mamamatay. Pansinin nila na ang mga robot, bagama't hindi naaawa, ay immune sa mga negatibong emosyon ng tao tulad ng gulat, galit, at paghihiganti, na kadalasang humahantong sa mga krimen sa digmaan.

Ginagamit din ng mga aktibistang karapatang pantao ang argumento na ang militar ay humantong sa isang malaking pagbawas sa mga sibilyan na kaswalti sa nakalipas na kalahating siglo, at ang robotization ng hukbo ay nagbibigay-daan para sa isang mekanismo upang ipatupad ang mga batas ng digmaan nang mas mahigpit. Sinasabi nila na ang mga makina ay magiging etikal kapag sila ay nilagyan ng software na magpipilit sa kanila na sumunod sa mga batas ng digmaan.

Siyempre, isang malaking bilang ng mga tao, kabilang ang mga napaka sikat, ay hindi nagbabahagi ng opinyon na ito sa loob ng maraming taon. Noong Abril 2013, isang internasyonal na kampanya ang inilunsad sa ilalim ng slogan (2). Sa loob ng balangkas nito, hinihiling ng mga non-government na organisasyon ang kumpletong pagbabawal sa paggamit ng mga autonomous na armas. Unang umupo ang mga eksperto mula sa maraming bansa upang talakayin ang paksang ito sa UN Conference on Disarmament sa Geneva noong Mayo 2014. Ang isang ulat na inilathala pagkaraan ng ilang buwan ng Human Rights Watch at mga siyentipiko mula sa Harvard University ay nagsabi na ang mga autonomous ay magiging masyadong mapanganib - pinili nila ang kanilang sariling mga target at pumatay ng mga tao. Kasabay nito, hindi masyadong malinaw kung sino ang dapat managot.

2. Pagpapakita bilang bahagi ng aksyon na "Itigil ang mga killer robot"

Anong kayang gawin ng kuyog ng maliliit na drone

Ang mga hindi pagkakaunawaan sa mga killer robot (ROU) ay nagpapatuloy sa loob ng maraming taon at hindi nawawala. Ang mga nagdaang buwan ay nagdala ng mga bagong pagtatangka upang ihinto ang mga robot ng militar at isang alon ng mga ulat ng mga bagong proyekto ng ganitong uri, na ang ilan ay sinusuri pa sa mga tunay na kondisyon ng labanan.

Noong Nobyembre 2017, isang video na nagpapakita nakamamatay na mga pulutong ng mga mini-drone ., sa nakakatakot na aksyon. Nakita ng mga manonood na hindi na natin kailangan ang mabibigat na makinang pangdigma, tangke, o rocket na ibinabato ng mga Predators para pumatay nang maramihan at gamit ang mga machine gun. Ang nangungunang direktor na si Stuart Russell, propesor ng artificial intelligence sa Berkeley, ay nagsabi:

-

Noong nakaraang tagsibol limampung propesor Ang mga nangungunang unibersidad sa mundo ay pumirma ng apela sa Korea Institute of Advanced Science and Technology (KAIST) at sa kasosyo nitong Hanwha Systems. inihayag nila na hindi sila makikipagtulungan sa unibersidad at magho-host ng mga bisita ng KAIST. Ang dahilan ay ang pagtatayo ng "autonomous weapons" na isinagawa ng parehong mga institusyon. Itinanggi ng KAIST ang mga ulat ng media.

Di-nagtagal pagkatapos noon sa US higit sa 3 empleyado ng Google nagprotesta laban sa gawain ng kumpanya para sa militar. Nababahala sila na ang Google ay nakipagsosyo sa isang proyekto ng gobyerno na may codename na Maven na naglalayong gamitin ang AI upang makilala ang mga bagay at mukha sa mga video ng drone ng militar. Sinabi ng pamunuan ng kumpanya na ang layunin ng Maven ay iligtas ang mga buhay at iligtas ang mga tao mula sa nakakapagod na trabaho, hindi agresyon. Hindi kumbinsido ang mga nagprotesta.

Ang sumunod na bahagi ng labanan ay ang deklarasyon mga dalubhasa sa artificial intelligence, kasama nagtatrabaho sa isang proyekto ng Google at Elon Musk. Nangangako silang hindi bubuo ng mga robot. Nananawagan din sila sa mga pamahalaan na palakasin ang mga pagsisikap na ayusin at limitahan ang mga sandatang ito.

Ang pahayag ay nagsasabi, sa bahagi, na "ang desisyon na kitilin ang buhay ng tao ay hindi dapat kunin ng isang makina." Bagaman ang mga hukbo ng mundo ay nilagyan ng maraming mga awtomatikong aparato, kung minsan ay may mataas na antas ng awtonomiya, maraming mga eksperto ang natatakot na sa hinaharap ang teknolohiyang ito ay maaaring maging ganap na nagsasarili, na nagpapahintulot sa pagpatay nang walang anumang paglahok ng isang tao na operator at komandante.

Nagbabala rin ang mga eksperto na ang mga autonomous killing machine ay maaaring maging mas mapanganib kaysa sa "nuclear, chemical at biological weapons" dahil madali silang mawalan ng kontrol. Sa kabuuan, noong Hulyo ng nakaraang taon, isang liham sa ilalim ng tangkilik ng Future of Life Institute (FGI) ang nilagdaan ng 170 organisasyon at 2464 na indibidwal. Sa mga unang buwan ng 2019, muling nanawagan ang isang grupo ng mga medikal na siyentipiko na kaanib sa FLI para sa isang bagong liham upang ipagbawal ang pagbuo ng mga armas na kinokontrol ng artificial intelligence (AI).

Noong nakaraang taon ng Agosto UN meeting sa Gniewo sa posibleng legal na regulasyon ng militar "killer robots" natapos sa tagumpay ... machine. Hinarang ng isang pangkat ng mga bansa, kabilang ang Estados Unidos, Russia at Israel, ang karagdagang gawain sa pagpapakilala ng isang internasyonal na pagbabawal sa mga armas na ito (draft Convention on the Prohibition or Restriction of the Use of Certain Conventional Weapons, CCW). Ito ay hindi nagkataon na ang mga bansang ito ay kilala sa kanilang trabaho sa mga advanced na sistema ng autonomous at robotic na mga armas.

Nakatuon ang Russia sa mga robot ng labanan

Si Pangulong Vladimir Putin ay madalas na sinipi na nagsasabi tungkol sa mga sistema ng AI ng militar at mga robot ng labanan:

-.

hayagang pinag-uusapan ang pagbuo ng mga autonomous na armas. Ang hepe ng General Staff ng sandatahang pwersa nito, si Heneral Valery Gerasimov, ay nagsabi kamakailan sa ahensya ng balita ng militar na Interfax-AVN na ang paggamit ng mga robot ay isa sa mga pangunahing tampok ng hinaharap na mga digmaan. Idinagdag niya na sinusubukan ng Russia ganap na i-automate ang larangan ng digmaan. Ang mga katulad na komento ay ginawa ni Deputy Prime Minister Dmitry Rogozin at Defense Minister Sergei Shoigu. Ang Chairman ng Federation Council Committee on Defense and Security na si Viktor Bondarev ay nagsabi na ang Russia ay nagsusumikap na umunlad Mga teknolohiya ng Rojumagbibigay-daan ito sa mga drone network na gumana bilang isang entity.

Hindi ito nakakagulat kung naaalala natin na ang mga unang teletank ay binuo sa Unyong Sobyet noong 30s. Ginamit ang mga ito sa simula ng Ikalawang Digmaang Pandaigdig. Ngayon ang Russia ay lumilikha din mga robot ng tangke maging higit at higit na nagsasarili.

Ang estado ni Putin kamakailan ay nagpadala ng sarili nitong sa Syria Unmanned combat vehicle Uran-9 (3). ang device ay nawalan ng contact sa mga ground control point, nagkaroon ng mga problema sa suspension system, at ang mga armas nito ay hindi gumana nang perpekto at hindi tumama sa mga gumagalaw na target. Hindi ito masyadong seryoso, ngunit itinuturing ng marami na ang Syrian wipe ay isang mahusay na pagsubok sa labanan na magpapahintulot sa mga Ruso na mapabuti ang makina.

Inaprubahan ng Roscosmos ang isang paunang plano na magpadala ng dalawang robot sa International Space Station sa Agosto ngayong taon. Fedor (4) sa unmanned Union. Hindi tulad ng isang load, ngunit. Tulad ng sa pelikulang RoboCop, si Fedor ay gumagamit ng sandata at nagpapakita ng nakamamatay na pagmamarka sa panahon ng mga pagsasanay sa pagbaril.

Ang tanong, bakit armado ang isang robot sa kalawakan? May mga hinala na ang bagay ay hindi lamang sa mga aplikasyon sa lupa. Samantala sa Earth, ang tagagawa ng armas ng Russia na Kalashnikov ay nagpakita ng visualization robot Igorekna, bagaman nagdulot ito ng maraming tawanan, ay nagpapahiwatig na ang kumpanya ay seryosong nagtatrabaho sa mga autonomous combat vehicle. Noong Hulyo 2018, inanunsyo ni Kalashnikov na gumagawa siya ng sandata na ginagamit niya para gumawa ng mga desisyong “shoot or not shoot”.

Sa impormasyong ito ay dapat idagdag ang mga ulat na ang Russian gunsmith na si Digtyarev ay nakabuo ng isang maliit autonomous tank Nerekht na maaaring kumilos nang tahimik patungo sa target nito nang mag-isa at pagkatapos ay sumabog ng malakas na puwersa upang sirain ang iba o buong mga gusali. Pati na rin ang Tank T14 Army , ang pagmamalaki ng armadong pwersa ng Russia, ay idinisenyo para sa posibleng remote control at unmanned driving. Sinasabi ng Sputnik na ang mga inhinyero ng militar ng Russia ay nagtatrabaho upang gawing ganap na autonomous armored vehicle ang T-14.

Direktiba sa Pagtutol

Ang militar mismo ng US ay nagpataw ng medyo malinaw na limitasyon sa antas ng awtonomiya ng kanilang mga armas. Noong 2012, ang US Department of Defense ay naglabas ng Directive 3000.09, na nagsasaad na ang mga tao ay dapat magkaroon ng karapatang tumutol sa mga aksyon ng mga armadong robot. (bagaman maaaring may ilang mga pagbubukod). Nananatiling may bisa ang direktiba na ito. Ang kasalukuyang patakaran ng Pentagon ay ang mapagpasyang salik sa paggamit ng mga sandata ay dapat palaging isang tao, at dapat na ganoon ang paghatol. umaayon sa mga batas ng digmaan.

Kahit na ang mga Amerikano ay gumagamit ng paglipad, Predator, Reaper at marami pang ibang supermachine sa loob ng mga dekada, sila ay hindi at hindi mga autonomous na modelo. Ang mga ito ay kinokontrol ng mga operator nang malayuan, kung minsan mula sa layo na ilang libong kilometro. Ang isang mainit na talakayan tungkol sa awtonomiya ng mga makina ng ganitong uri ay nagsimula sa premiere ng prototype. drone X-47B (5), na hindi lamang lumipad nang nakapag-iisa, ngunit maaari ring lumipad mula sa isang carrier ng sasakyang panghimpapawid, dumaong dito at muling mag-refuel sa hangin. Ang kahulugan din ay pagbaril o bomba nang walang interbensyon ng tao. Gayunpaman, ang proyekto ay nasa ilalim pa rin ng pagsubok at pagsusuri.

5. Mga pagsubok ng unmanned X-47B sa isang American aircraft carrier

Noong 2003, nagsimulang mag-eksperimento ang Department of Defense sa isang maliit na robot na parang tangke. SPOES nilagyan ng machine gun. Noong 2007 siya ay ipinadala sa Iraq. gayunpaman, natapos ang programa pagkatapos magsimulang kumilos ang robot nang mali, malilipat ang rifle nito. Bilang resulta, inabandona ng militar ng US ang pananaliksik sa mga armadong robot sa lupa sa loob ng maraming taon.

Kasabay nito, pinataas ng US Army ang paggastos nito sa mga operasyon mula $20 milyon noong 2014 hanggang $156 milyon noong 2018. Noong 2019, ang badyet na ito ay tumalon na sa $327 milyon. Ito ay isang pinagsama-samang pagtaas ng 1823% sa loob lamang ng ilang taon. Sinasabi ng mga eksperto na kasing aga ng 2025, ang militar ng US ay maaaring magkaroon ng larangan ng digmaan mas maraming sundalong robot kaysa mga tao.

Kamakailan, maraming kontrobersya ang naidulot at inihayag ng US Army proyekto ng ATLAS () - awtomatiko. Sa media, ito ay itinuturing na isang paglabag sa nabanggit na direktiba 3000.09. Gayunpaman, itinatanggi at tinitiyak ng militar ng US na ang pagbubukod ng isang tao sa siklo ng paggawa ng desisyon ay wala sa tanong.

Kinikilala ng AI ang mga pating at sibilyan

Gayunpaman, ang mga tagapagtanggol ng mga autonomous na armas ay may mga bagong argumento. ang prof. Si Ronald Arkin, isang roboticist sa Georgia Institute of Technology, ay nagsabi sa kanyang mga publikasyon na Sa modernong pakikidigma, ang mga matatalinong armas ay mahalaga upang maiwasan ang mga sibilyan na kaswalti, dahil ang mga diskarte sa pag-aaral ng makina ay maaaring epektibong tumulong sa pagkilala sa pagitan ng mga manlalaban at mga sibilyan, at ang mahalaga at hindi mahalagang mga target.

Ang isang halimbawa ng gayong mga kasanayan sa AI ay ang pagpapatrolya sa mga beach sa Australia. drone ng Little Rippernilagyan ng SharkSpotter system na binuo ng University of Technology Sydney. Awtomatikong sinusuri ng system na ito ang tubig para sa mga pating at inaalerto ang operator kapag may nakita itong hindi ligtas. (6) Nakikilala nito ang mga tao, dolphin, bangka, surfboard at mga bagay sa tubig upang makilala sila sa mga pating. Maaari itong makakita at matukoy ang tungkol sa labing-anim na iba't ibang mga species na may mataas na katumpakan.

6. Mga kinikilalang pating sa sistema ng SharkSpotter

Ang mga advanced na pamamaraan ng machine learning na ito ay nagpapataas ng katumpakan ng aerial reconnaissance ng higit sa 90%. Para sa paghahambing, ang isang tao na operator sa isang katulad na sitwasyon ay tumpak na kinikilala ang 20-30% ng mga bagay sa aerial photographs. Bilang karagdagan, ang pagkakakilanlan ay nabe-verify pa rin ng isang tao bago ang isang alarma.

Sa larangan ng digmaan, ang operator, na nakikita ang imahe sa screen, ay halos hindi matukoy kung ang mga tao sa lupa ay mga mandirigma na may mga AK-47 sa kanilang mga kamay o, halimbawa, mga magsasaka na may mga pikes. Sinabi ni Arkin na ang mga tao ay may posibilidad na "makita kung ano ang gusto nilang makita," lalo na sa mga nakababahalang sitwasyon. Ang epektong ito ay nag-ambag sa aksidenteng pagbagsak ng isang Iranian aircraft ng USS Vincennes noong 1987. Siyempre, sa kanyang opinyon, ang mga armas na kinokontrol ng AI ay magiging mas mahusay kaysa sa kasalukuyang "mga matalinong bomba", na hindi talaga nakakaramdam. Noong Agosto, ang isang Saudi laser-guided missile ay tumama sa isang bus na puno ng mga mag-aaral sa Yemen, na ikinamatay ng apatnapung bata.

"Kung ang isang bus ng paaralan ay may wastong label, ang pagtukoy nito sa isang autonomous na sistema ay maaaring medyo madali," argues Arkin sa Popular Mechanics.

Gayunpaman, ang mga argumentong ito ay tila hindi nakumbinsi ang mga nangangampanya laban sa mga awtomatikong mamamatay. Bilang karagdagan sa banta ng mga killer robot, isa pang mahalagang pangyayari ang dapat isaalang-alang. Kahit na ang isang "mabuti" at "matulungin" na sistema ay maaaring ma-hack at kunin ng napakasamang tao. Pagkatapos ang lahat ng mga argumento sa pagtatanggol ng mga kagamitang militar ay nawawalan ng puwersa.