Sabihin sa iyong kuting kung ano ang iniisip mo sa loob - ang epekto ng itim na kahon

Ang katotohanan na ang mga advanced na algorithm ng AI ay tulad ng isang itim na kahon (1) na nagtatapon ng isang resulta nang hindi inilalantad kung paano ito nangyari ay nag-aalala sa ilan at nakakainis sa iba.

Noong 2015, hiniling sa isang pangkat ng pananaliksik sa Mount Sinai Hospital sa New York na gamitin ang paraang ito upang pag-aralan ang isang malawak na database ng mga lokal na pasyente (2). Ang malaking koleksyon na ito ay naglalaman ng karagatan ng impormasyon ng pasyente, mga resulta ng pagsusuri, mga reseta ng doktor, at higit pa.

Tinawag ng mga siyentipiko ang analytical program na binuo sa kurso ng trabaho. Nagsanay ito sa data mula sa humigit-kumulang 700 katao. tao, at kapag sinubukan sa mga bagong rehistro, napatunayang napakabisa nito sa paghula ng sakit. Nang walang tulong ng mga dalubhasa ng tao, natuklasan niya ang mga pattern sa mga rekord ng ospital na nagpapahiwatig kung sinong pasyente ang patungo sa isang sakit, tulad ng kanser sa atay. Ayon sa mga eksperto, ang prognostic at diagnostic na kahusayan ng system ay mas mataas kaysa sa anumang iba pang kilalang pamamaraan.

2. Medical artificial intelligence system batay sa mga database ng pasyente

Kasabay nito, napansin ng mga mananaliksik na gumagana ito sa isang misteryosong paraan. Ito ay naging, halimbawa, na ito ay perpekto para sa pagkilala sa mga sakit sa pag-iisiptulad ng schizophrenia, na lubhang mahirap para sa mga doktor. Ito ay nakakagulat, lalo na dahil walang sinuman ang may ideya kung paano nakikita ng AI system ang sakit sa pag-iisip nang maayos batay lamang sa mga medikal na rekord ng pasyente. Oo, ang mga espesyalista ay labis na nasisiyahan sa tulong ng isang mahusay na diagnostician ng makina, ngunit mas masisiyahan sila kung naiintindihan nila kung paano nagkakaroon ng mga konklusyon ang AI.

Mga layer ng artipisyal na neuron

Sa simula pa lang, iyon ay, mula sa sandaling nalaman ang konsepto ng artificial intelligence, mayroong dalawang punto ng pananaw sa AI. Ang una ay iminungkahi na ito ay pinaka-makatwiran upang bumuo ng mga makina na nangangatuwiran alinsunod sa mga kilalang prinsipyo at lohika ng tao, na ginagawang malinaw ang kanilang panloob na mga gawain sa lahat. Ang iba ay naniniwala na ang katalinuhan ay mas madaling lalabas kung ang mga makina ay natututo sa pamamagitan ng pagmamasid at paulit-ulit na eksperimento.

Ang huli ay nangangahulugan ng pagbabalikwas sa karaniwang computer programming. Sa halip na ang programmer ay sumulat ng mga utos upang malutas ang isang problema, ang programa ay bumubuo sariling algorithm batay sa sample na data at ang nais na resulta. Ang mga pamamaraan sa pag-aaral ng makina na kalaunan ay naging pinakamakapangyarihang mga sistema ng AI na kilala ngayon ay napunta sa landas ng, sa katunayan, ang makina mismo ay nagprograma.

Ang diskarte na ito ay nanatili sa mga margin ng AI system research noong 60s at 70s. Sa simula lamang ng nakaraang dekada, pagkatapos ng ilang pangunguna sa mga pagbabago at pagpapabuti, "Malalim" na mga neural network nagsimulang magpakita ng isang radikal na pagpapabuti sa mga kakayahan ng awtomatikong pagdama. 

Ang malalim na machine learning ay nagbigay sa mga computer ng mga pambihirang kakayahan, tulad ng kakayahang makilala ang mga binibigkas na salita na halos kasing-tumpak ng isang tao. Ito ay masyadong kumplikado ng isang kasanayan upang iprograma nang maaga. Ang makina ay dapat na makalikha ng sarili nitong "programa" sa pamamagitan ng pagsasanay sa malalaking dataset.

Binago din ng malalim na pag-aaral ang pagkilala sa imahe ng computer at lubos na napabuti ang kalidad ng pagsasalin ng makina. Ngayon, ginagamit ito upang gumawa ng lahat ng uri ng mahahalagang desisyon sa medisina, pananalapi, pagmamanupaktura, at higit pa.

Gayunpaman, sa lahat ng ito hindi ka maaaring tumingin lamang sa loob ng isang malalim na neural network upang makita kung paano gumagana ang "loob". Ang mga proseso ng pangangatwiran sa network ay naka-embed sa pag-uugali ng libu-libong simulate na mga neuron, na nakaayos sa dose-dosenang o kahit na daan-daang kumplikadong magkakaugnay na mga layer..

Ang bawat isa sa mga neuron sa unang layer ay tumatanggap ng isang input, tulad ng intensity ng isang pixel sa isang imahe, at pagkatapos ay nagsasagawa ng mga kalkulasyon bago i-output ang output. Ang mga ito ay ipinadala sa isang kumplikadong network sa mga neuron ng susunod na layer - at iba pa, hanggang sa huling signal ng output. Bilang karagdagan, mayroong isang proseso na kilala bilang pagsasaayos ng mga kalkulasyon na ginawa ng mga indibidwal na neuron upang ang network ng pagsasanay ay makagawa ng nais na resulta.

Sa isang madalas na binabanggit na halimbawa na nauugnay sa pagkilala sa larawan ng aso, sinusuri ng mas mababang antas ng AI ang mga simpleng katangian gaya ng hugis o kulay. Ang mga nakatataas ay humaharap sa mas kumplikadong mga isyu tulad ng balahibo o mata. Tanging ang tuktok na layer ang pinagsasama-sama ang lahat, na kinikilala ang buong hanay ng impormasyon bilang isang aso.

Ang parehong diskarte ay maaaring ilapat sa iba pang mga uri ng input na nagpapalakas sa makina na matutunan ang sarili nito: mga tunog na bumubuo ng mga salita sa pagsasalita, mga titik at mga salita na bumubuo ng mga pangungusap sa nakasulat na teksto, o isang manibela, halimbawa. mga paggalaw na kinakailangan upang magmaneho ng sasakyan.

Walang laktawan ang sasakyan.

Ang isang pagtatangka ay ginawa upang ipaliwanag kung ano ang eksaktong nangyayari sa mga naturang sistema. Noong 2015, binago ng mga mananaliksik sa Google ang isang malalim na pag-aaral ng algorithm sa pagkilala ng imahe upang sa halip na makakita ng mga bagay sa mga larawan, nabuo o binago nito ang mga ito. Sa pamamagitan ng pagpapatakbo ng algorithm pabalik, gusto nilang matuklasan ang mga katangian na ginagamit ng programa upang makilala, sabihin, isang ibon o isang gusali.

Ang mga eksperimentong ito, na kilala sa publiko bilang pamagat, ay gumawa ng mga kamangha-manghang paglalarawan ng (3) kakatwa, kakaibang mga hayop, tanawin, at mga karakter. Sa pamamagitan ng pagsisiwalat ng ilan sa mga lihim ng perception ng makina, tulad ng katotohanang paulit-ulit na ibinabalik at paulit-ulit ang ilang pattern, ipinakita rin nila kung gaano kalalim ang pagkakaiba ng machine learning sa perception ng tao - halimbawa, sa kahulugan na ito ay nagpapalawak at nagdo-duplicate ng mga artifact na hindi natin binabalewala. sa ating proseso ng pang-unawa nang walang pag-iisip. .

3. Larawang nilikha sa proyekto

Sa pamamagitan ng paraan, sa kabilang banda, nabuksan ng mga eksperimentong ito ang misteryo ng sarili nating mga mekanismo ng pag-iisip. Marahil ay nasa ating pang-unawa na mayroong iba't ibang hindi maintindihan na mga bahagi na agad na nagpapaunawa sa atin at hindi binabalewala ang isang bagay, habang ang makina ay matiyagang inuulit ang mga pag-ulit nito sa "hindi mahalaga" na mga bagay.

Ang iba pang mga pagsubok at pag-aaral ay isinagawa sa pagtatangkang "maunawaan" ang makina. Jason Yosinski lumikha siya ng isang tool na kumikilos tulad ng isang probe na na-stuck sa utak, tina-target ang anumang artipisyal na neuron at hinahanap ang imahe na pinaka-malakas na nagpapagana nito. Sa huling eksperimento, lumitaw ang mga abstract na larawan bilang resulta ng "pagsilip" sa network, na ginawang mas misteryoso ang mga prosesong nagaganap sa system.

Gayunpaman, para sa maraming mga siyentipiko, ang naturang pag-aaral ay isang hindi pagkakaunawaan, dahil, sa kanilang opinyon, upang maunawaan ang sistema, upang makilala ang mga pattern at mekanismo ng isang mas mataas na pagkakasunud-sunod ng paggawa ng mga kumplikadong desisyon, lahat ng computational na pakikipag-ugnayan sa loob ng malalim na neural network. Ito ay isang higanteng maze ng mga mathematical function at variable. Sa ngayon, hindi natin maintindihan.

Hindi magsisimula ang computer? Bakit?

Bakit mahalagang maunawaan ang mga mekanismo sa paggawa ng desisyon ng mga advanced na artificial intelligence system? Ginagamit na ang mga modelo ng matematika upang matukoy kung sinong mga bilanggo ang maaaring palayain sa parol, sino ang maaaring mabigyan ng pautang, at kung sino ang makakakuha ng trabaho. Nais malaman ng mga interesado kung bakit ito at hindi ang isa pang desisyon ang ginawa, ano ang mga batayan at mekanismo nito.

umamin siya noong Abril 2017 sa MIT Technology Review. Tommy Yaakkola, isang propesor sa MIT na nagtatrabaho sa mga aplikasyon para sa machine learning. -.

Mayroong kahit isang legal at patakarang posisyon na ang kakayahang suriin at maunawaan ang mekanismo ng paggawa ng desisyon ng mga AI system ay isang pangunahing karapatang pantao.

Mula noong 2018, ang EU ay nagtatrabaho sa pag-aatas sa mga kumpanya na magbigay ng mga paliwanag sa kanilang mga customer tungkol sa mga desisyon na ginawa ng mga automated system. Lumalabas na minsan hindi ito posible kahit na sa mga system na mukhang medyo simple, gaya ng mga app at website na gumagamit ng malalim na agham upang magpakita ng mga ad o magrekomenda ng mga kanta.

Ang mga computer na nagpapatakbo ng mga serbisyong ito ay nag-program mismo, at ginagawa nila ito sa mga paraang hindi namin maintindihan... Kahit na ang mga inhinyero na lumikha ng mga application na ito ay hindi ganap na maipaliwanag kung paano ito gumagana.