Kisindžer i veštačka inteligencija

Zašto Henri Kisindžer tvrdi da je ljudsko društvo nespremno za uspon veštačke inteligencije, kao i za posledični kraj epohe racionalizma koju je oličavala vladavina ljudskog uma?

Iako je celu svoju karijeru posvetio tradicionalnim pitanjima diplomatije, međunarodnih odnosa i istorije, bivši državni sekretar SAD i nobelovac Henri Kisindžer u svojoj 98. godini ima potpuno novu oblast interesovanja, tehnološki najsavremeniju i najmanje poznatu: veštačku inteligenciju. Postao je zaintrigiran za ovu temu 2016. godine, nakon što ga je Erik Šmit, tada izvršni predsednik Gugla, ubedio da prisustvuje jednom predavanju na Bilderberg konferenciji.

Malo je falilo da Kisindžer propusti tu sesiju – pošto se nalazila izvan njegovih uobičajenih interesovanja – ali ga je početak prezentacije zadržao na stolici.

Govornik je opisao rad kompjuterskog programa koji će uskoro moći da se nadmeće sa svetskim prvacima u igri „go“. Budući da je sve što se tiče Kine privlačilo Kisindžerovu pažnju, i da je i sam pisao o složenosti igre „go“ i njenom značenju za kinesku spoljnopolitičku doktrinu, Kisindžer je ostao na predavanju. Bio je začuđen saznanjem da bi kompjuter mogao da ovlada „goom“, koji je kompleksniji od šaha. U njemu svaki igrač poseduje 181 ili 180 kamenčića (u zavisnosti od boje koju odabere) naizmenično razmeštenih na prethodno praznoj tabli, a pobeda ide onoj strani koja, donoseći bolje strateške odluke, parališe protivnika efektivnijom kontrolom teritorije.

Mašina je, kako je predavač rekao, ovladala veštinom igranja time što je samu sebe uvežbala. Poznajući osnovna pravila „goa“, kompjuter je odigrao bezbroj igara protiv samog sebe, učeći na sopstvenim greškama i tako unapređujući svoje algoritme. U toku tog procesa je prevazišao veštine svojih ljudskih mentora.

I zaista, u mesecima nakon ovog govora, program veštačke inteligencije nazvan „Alfa Go“ ubedljivo je pobedio najveće svetske igrače „goa“.

Perpetuum mobile znanja

Dok je slušao kako govornik slavi ovaj tehnički progres, iskustvo istoričara i povremenog državnika navelo je Kisindžera da se zamisli. On je oduvek verovao u snagu ljudske sposobnosti da kreira svoj sveti svetski poredak, ratom i mirom, ali uvek na osnovu duboko ljudskih motiva i potreba. Sudbina sveta rešavala se na mirovnim konferencijama, uz diplomatsko umeće i intelektualnu snagu. Sada je Meternih trebalo da ustupi mesto algoritmu, a Pariska konferencija, koja je trebalo da uspostavi mir koji će okončati svaki rat, i to na osnovu naučnih činjenica i spoznaja koje je Vudro Vilson doneo u Evropu preko svoje grupe „Istraživanje“, trebalo je nauku da prepusti mašinama koje su perpetuum mobile znanja i koje same sebe uče?

Za jedinog preostalog hladnoratovskog diplomatskog kolosa nije bilo sumnje da se svet nalazi pred sudbinskom promenom. Kakve će biti istorijske posledice mašina koje podučavaju same sebe – mašina koje stiču znanje procesima svojstvenim samo njima i primenjuju ga za ciljeve koji potencijalno ostaju van okvira ljudskog razumevanja. Da li će ove mašine naučiti da međusobno komuniciraju? Kako će donositi odluke pred mnoštvom opcija? Da li je moguće da ljudska istorija doživi sudbinu Inka koji su se suočili sa španskom kulturom koja je bila van okvira njihovog razumevanja i na koju su gledali sa strahopoštovanjem? Da li smo na ivici nove faze ljudske istorije?

Bivši američki državni sekretar Henri Kisindžer (Foto: Win McNamee/Getty Images)

Da bi stigao do odgovora na ova pitanja, posle tog predavanja Kisindžer je u svojim 90-im godinama počeo, zajedno sa Šmitom, da organizuje male seminare od četvoro ili petoro ljudi svake tri ili četiri nedelje. Na kraju tog istraživačkog perioda, pozvali su Dana Hutenlohera i onda su se njih trojica sastajali godinu dana, svake nedelje popodne.

Bila je to, pored ostalog, zadivljujuća radna energija i upornost čoveka koji je već tada prevalio 90. godinu. Tako je nastala njihova upravo objavljenja knjiga Doba veštačke inteligencije (koju će uskoro u prevodu na srpski objaviti Klub PLUS iz Beograda).

Nepoznato krajnje odredište

Kisindžeru je jasno da sada veštačka inteligencija, proizvod ljudske genijalnosti, poništava primat ljudskog razuma: ona istražuje i počinje da opaža aspekte sveta brže od ljudi, drugačije od načina na koji to ljudi rade, a u nekim slučajevima i na način koji ljudi ne razumeju.

Njih trojica – Kisindžer, Šmit i Hutenloher – pozvali su američku vladu da obrazuje komisiju koja bi regulisala razvoj veštačke inteligencije. U tekstu koji je pre dve godine objavljen u Volstrit urnalu upozorili su da veštačka inteligencija ima potencijal da pokrene duboka egzistencijalna i filozofska pitanja o „primatu ljudskog razuma“ i ulozi ljudi u svetu.

Trio je pozvao američku vladu da osnuje komisiju sa zadatkom da „oblikuje veštačku inteligenciju u skladu sa ljudskim vrednostima, uključujući dostojanstvo i moralno delovanje ljudi“. Oni su zaključili da je „napredak veštačke inteligencije neizbežan, ali njegovo krajnje odredište nije“.

FILE PHOTO: An artificial Intelligence project utilizing a humanoid robot from French company Aldebaran and reprogramed for their specific campus makes its debut as an assistant for students attending Palomar College in San Marcos, California, U.S. October 10, 2017. Reuters/Mike Blake
Humanoidni robot kao asistent za studente koji pohađaju Palomar koledž u San Markosu, Kalifornija, 10. oktobar 2017. (Foto: Reuters/Mike Blake)

Šta ako veštačka inteligencija napiše najbolji scenario godine, da li treba da dobije Oskara? Ako veštačka inteligencija simulira ili vodi najznačajnije diplomatske pregovore godine, da li bi trebalo da dobije Nobelovu nagradu za mir?

Veštačka inteligencija je „sposobnost digitalnog računara ili kompjuterski kontrolisanog robota za obavljanje zadataka koji su svojstveni inteligentnim bićima“. Ona je još uvek u ranoj fazi, ali to je tehnologija koja napreduje mnogo brže od drugih – čak brže od interneta. Najnovije istraživanje kompanije Dell procenjuje da „85 odsto radnih mesta koja će postojati 2030. nije još ni stvoreno!“. Ovo postavlja pitanje: kako možemo obrazovati radnu snagu da se pripremi za ovaj nivo neizvesnosti?

Autonomna budućnost

Druga oblast koju je Kisindžer uzeo kao primer jeste pojava automobila bez vozača, automobila-drona. Automobil bez vozača ilustruje razlike između delovanja tradicionalnih kompjutera koje kontrolišu ljudi a pokreće softver, i univerzuma kojim veštačka inteligencija nastoji da ovlada.

Vožnja automobila zahteva procene brojnih situacija koje je nemoguće predvideti i samim tim nemoguće unapred programirati. Šta bi se desilo, da se poslužimo poznatim hipotetičkim primerom, ako bi takav automobil sticajem okolnosti bio prinuđen da bira između toga da ubije penzionera ili da ubije dete? Koga bi odabrao? Zašto? Kojim faktorima bi dao prednost? I da li bi mogao da objasni svoj rezon? Ukoliko bi bio priupitan (i sposoban da komunicira), njegov iskreni odgovor bi verovatno bio: ,,Ne znam (jer pratim matematičke, a ne ljudske principe)“; ili: ,,Ne biste razumeli (jer sam naučen da se ponašam na određeni način, ali ne i da ga objašnjavam)“. Uprkos tome, sve su prilike da će automobili bez vozača odneti prevagu na putevima za svega desetak godina, ako ne i ranije.

Trenutno stotine kompanija grabi ka industrijskom cilju da „autonomni automobili budu na putu za komercijalnu upotrebu u roku od godinu dana i takođe imaju mogućnosti za njihovo potpuno operativno korišćenje u vazduhu (leteći automobili) do 2024.“ Čini se da će do 2030. biti potrebna posebna dozvola za upravljanje vozilom kojim upravljaju ljudi, što ilustruje uverenje da će automobili bez vozača preuzeti vlast na kopnenim i vazdušnim drumovima. Tako će se rešiti problem nestašice vozača za kamione, što je najčešće muško zanimanje u SAD, koji sada muči zapadne zemlje. To će u perspektivi dovesti do gubljenja tri do pet miliona radnih mesta, samo u SAD.

Zvuči zastrašujuće podatak da skoro 90 odsto Amazonovih investicija dovodi do ogromnog gubitka posla u svakoj industriji.

Prodavnice lanca prehrambenih proizvoda Amazon Go omogućavaju kupcima da kupuju u prodavnici koristeći samo e-aplikaciju za pametne telefone, da izađu sa onim što im treba, bez provere napolju, bez blagajnika, bez čekanja u redovima.

Ove prodavnice rade korišćenjem iste tehnologije koje se koriste u autonomnim automobilima kao što je senzorska fuzija, kompjuterski vid i duboko učenje. Senzori prodavnice mogu da otkriju kada se proizvodi uzimaju ili vraćaju na police, i da ih automatski prate u vašim „virtuelnim kolicima“. Kada napustite prodavnicu, automatski vam se naplaćuje.

Novi period ljudske svesti

Erik Šmit uviđa da je algoritamska brzina odlučujuća. „Sada smo prešli od sposobnosti čitanja knjiga do opisivanja knjiga, do toga da nemamo vremena ni da ih čitamo, ni da ih zamislimo, niti da o njima raspravljamo. U pitanju je ubrzanje vremena i informacija, što, mislim, zaista prevazilazi ljudske kapacitete. Mislim da ljudi nisu stvoreni za ovo. Dakle, u krajnjem slučaju, preopterećenost informacijama će verovatno premašiti našu sposobnost da obradimo sve što se dešava“, smatra nekadašnji direktor Gugla.

Kisindžer kaže da je celog života nastojao da uvidi koji je smisao istorije. Ljudi su tokom cele istorije nastojali da razumeju stvarnost i ljudsku ulogu u njoj.

„Tema o smislu istorije i kuda idemo okupirala je moj život“, napisao je Kisindžer. „Tehnološko čudo me ne fascinira toliko; ono što me fascinira jeste da krećemo u novi period ljudske svesti koji još uvek ne razumemo u potpunosti. Kada kažemo novi period ljudske svesti, mislimo na to da će percepcija sveta biti drugačija, u najmanju ruku različita, kao između doba prosvećenosti i srednjeg veka, kada je zapadni svet prešao sa religiozne percepcije sveta na percepciju sveta na osnovu razuma, polako. Ovo će biti brže. Postoji jedna bitna razlika. U prosvetiteljstvu je postojao konceptualni svet zasnovan na veri. I tako su Galilej i kasni pioniri prosvetiteljstva imali preovlađujuću filozofiju protiv koje su morali da testiraju svoje razmišljanje. Možete pratiti evoluciju tog razmišljanja. Živimo u svetu koji, u stvari, nema filozofiju; nema dominantnog filozofskog gledišta. Tako da tehnolozi mogu da divljaju. Oni mogu da razviju stvari koje menjaju svet, ali nema nikoga ko bi rekao: Moramo ovo da integrišemo u nešto.“

Kancelarija Bele kuće za nauku i tehnološku politiku pre mesec dana pozvala je na kreiranje „zakona o pravima“ kako bi se zaštitila od zloupotrebe veštačke inteligencije.

Kisindžer u Guglu

Kada je Kisindžer upoznao Erika Šmita, on ga je pozvao da govori u Guglu. Kisindžer je rekao da Gugl smatra pretnjom civilizaciji, pošto nije želeo da jedna organizacija ima monopol na davanje informacija.

„Smatrao sam da je izuzetno opasno da jedna kompanija može da pruži informacije i da prilagodi ono što je isporučila svojoj studiji o tome šta je javnost želela ili smatrala verovatnim“, rekao je Kisindžer. „Tako je istina postala relativna. To je bilo sve što sam znao u to vreme. A razlog zašto me je pozvao da se sastanem s njegovom algoritamskom grupom bio je da shvatim da ovo nije proizvoljno, već da izbor onoga što je predstavljeno iza sebe ima neko promišljanje i analizu. To nije otklonilo moj strah od moći koju ima jedna takva privatna organizacija.“

Kisindžera je poseta Guglu navela na razmišljanje i istovremeno zabrinula zbog uticaja koji će tehnologija imati na ljude i njihovo postojanje i saznanja da tehnolozi to rade bez razumevanja uticaja njihovog dela ili ranije istorije.

Kisindžer tvrdi da su procesi veštačke inteligencije postali toliko moćni, tako neprimetno upleteni u ljudske poslove i tako nepredvidivi da, bez predumišljaja i upravljanja, vrsta „epohalnih transformacija“ koju će sprovesti može poslati ljudsku istoriju u opasnom pravcu. „Ovladavajući određenim kompetencijama brže i odlučnije od ljudi, veštačka inteligencija bi vremenom mogla da umanji ljudsku kompetenciju i samo ljudsko stanje dok ih pretvara u podatke“, naveo je Kisindžer. „Filozofski, intelektualno – u svakom pogledu – ljudsko društvo je nespremno za uspon veštačke inteligencije“, tvrdi Kisindžer.

On ide tako daleko da predviđa okončanje „ere prosvetiteljstva“, odnosno kraj dominacije ljudskog razuma u istoriji i prepuštanje tog mesta mašini i algoritmima.

Tri strepnje

Razvoj veštačke inteligencije donosi tri vrste strepnje i neizvesnosti. Prva je da bi veštačka inteligencija mogla da ostvari neželjene rezultate. Druga strepnja je da bi u dostizanju nameravanih ciljeva ona mogla da promeni ljudski misaoni proces i ljudske vrednosti. Treće, veštačka inteligencija bi mogla da ostvari predviđene ciljeve, ali da ne bude u stanju da objasni rezon iza svojih zaključaka.

Kisindžer, koji je svoju slavu stekao na nuklearnim pitanjima, upozorava da će razvoj veštačke inteligencije biti mnogo teže kontrolisati od nuklearnog oružja jer će se razvoj tehnologije obavljati u tajnosti: „S veštačkom inteligencijom neznanje druge strane je jedno od vaših najboljih oružja – njegovo širenje će biti mnogo teže. Zbog toga značajan broj naučnika, istraživača industrije i tehnoloških sredstava podržao je akciju za zabranu upotrebe autonomnog oružja. Pitanje je, međutim, najblaže rečeno izazovno. Kao što istraživač bezbednosti Pol Šar piše u nedavno objavljenoj knjizi Vojska bez vojnika, autonomno oružje se decenijama uvlači u vojne sisteme. Nije uvek lako povući liniju kod autonomnih sistema, a tehnologija je primamljiva jer se može koristiti da se oružje učini pouzdanijim.“

Naravno, Kisindžer razmišlja i o geopolitičkim implikacijama širenja upotrebe veštačke inteligencije, što je još uvek neispitano područje. „Ako zamislite rat između Kine i Sjedinjenih Država, imate oružje sa veštačkom inteligencijom. Kao i svaka veštačka inteligencija, ona je efikasnija u onome što planirate. Ali možda je efikasnije ono što ona uzima za svoj cilj. I tako, ako kažete: ‘Cilj A je ono što želim’, ona bi mogla da odluči da nešto drugo još bolje ispunjava ove kriterijume. Dakle, vi ste u svetu male neizvesnosti. Drugo, pošto niko zaista nije testirao ove stvari u velikoj operaciji, ne možete tačno reći šta će se dogoditi kada borbeni avioni sa veštačkom inteligencijom sa obe strane budu u interakciji. Dakle, tada ste u svetu potencijalno potpune destruktivnosti i suštinske neizvesnosti u pogledu onoga što radite“, upozorava Kisindžer.

Bivši američki državni sekretar Henri Kisindžer tokom obraćanja na konferenciji o bezbednosti, London, 27. jun 2017. (Foto: AP Photo/Leonore Schick)
Bivši američki državni sekretar Henri Kisindžer tokom obraćanja na konferenciji o bezbednosti, London, 27. jun 2017. (Foto: AP Photo/Leonore Schick)

On ovo stanje upoređuje sa Prvim svetskim ratom kada su svi planirali veoma komplikovane scenarije mobilizacije, i bili su tako fino pripremljeni da, kada je mobilizacija krenula, nisu više mogli da je zaustave, jer bi sebe doveli u lošu poziciju. Kako će onda veštačka inteligencija znati i moći da sebe zaustavi?

„Još jedan primer iz vojne doktrine. Sve ide brže. Ono što ne želimo je oružje koje se automatski lansira, na osnovu sopstvene analize situacije. Ali, zato što je napadač možda brži nego što ljudski mozak može da analizira, imate podsticaj da to učinite automatskim. Ali ne želite da to učinite toliko automatskim da ono može da deluje na osnovu suda koji možda niste doneli. Tako da je to začarani krug“, ukazuje Kisindžer.

Inteligencija tehnologa

Kao što se u prosvetiteljstvu prešlo s religije na razum, sada tehnolozi pokazuju kako da se razum poveže sa veštačkom inteligencijom. To je u nekim aspektima drugačija vrsta znanja, jer razumom – svetom u kome smo odrasli – svaki dokaz podržava drugi. Sa veštačkom inteligencijom zapanjujuća stvar je da se dolazi do zaključka koji je tačan, ali ne znamo zašto. To je potpuno novi izazov.

Objašnjavajući zašto se pred kraj jednog veka svog života bavi ovim veoma kompleksnim pitanjem, Kisindžer kaže da ga motiviše nastojanje da da neki doprinos shvatanju mira. I da je to ono po čemu bi želeo da bude upamćen.

Kisindžer ukazuje da je čovečanstvo do sada pretpostavljalo da je tehnološki napredak koristan ili da se njime može upravljati. Ali postoje aspekti njegovog upravljačkog dela koje uopše nisu proučeni, zbog čega ostaje zabrinut. Bavljenje ovim pitanjima prepušteno je tehnolozima i inteligenciji povezanih naučnih oblasti.

Tehnološki svet se zanima komercijalizacijom ovih dostignuća, a vlade su više zainteresovane za primenu u bezbednosnim i obaveštajnim područjima nego za istraživanje procesa transformisanja čovečanstva koji ona izaziva. Filozofi i drugi društvenjaci koji su pomagali u oblikovanju prethodnih koncepata svetskog poretka su u nepovoljnijem položaju, bez znanja o mehanizmima veštačke inteligencije ili isuviše fascinirani njenim mogućnostima.

Prikaz humanoidnog robota u Miraikan muzeju u Tokiju (Foto: Maximalfocus on Unsplash)

Veštačka inteligencija je opasna, ali unapređuje našu kulturu. Pošto već postoji, mora da se razume i ne može da se eliminiše.

 

Naslovna fotografija: Possessed Photography on Unsplash 

 

Izvor oko.rts.rs

 

BONUS VIDEO:

Svet
Pratite nas na YouTube-u