Ukrajinski rat je prvi rat u koji su uključeni segmenti veštačke inteligencije koja će obeležiti ratove budućnosti. Kao čovek koji je svoj radni vek posvetio međunarodnoj bezbednosti, Henri Kisindžer je među prvima shvatio da su pitanja koja pokreće pojava i razvoj veštačke inteligencije sudbinska za budućnost čovečanstva. U svojim 90-im godinama počeo je najpre da organizuje male seminare na ovu temu, da bi zatim zajedno sa Erikom Šmitom, bivšim direktorom Gugla (koji je nedavno bio u misiji u Ukrajini kako bi stekao uvid u korišćenje veštačke inteligencije u danas najvažnijem konfliktu u svetu), i Danijelom Hutenloherom napisao knjigu „Doba veštačke inteligencije i naša ljudska budućnost”. Iz ove knjige, koju je na srpskom objavio Klub PLUS iz Beograda, uz dozvolu izdavača za čitaoce OKO portala donosimo prvo poglavlje.
Krajem 2017. godine desila se tiha revolucija. AlfaZiro (AlphaZero), program veštačke inteligencije (AI, Artificial intelligence) koji je razvio Guglov DipMajnd (DeepMind), pobedio je Stokfiš (Stockfish), koji je do tada bio najmoćniji šahovski program na svetu. Pobeda AlfaZiro-a bila je ubedljiva: pobedio je u dvadeset osam partija, odigrao je sedamdeset dve partije nerešeno i nijednu nije izgubio. Naredne godine AlfaZiro je potvrdio svoju nadmoć: od hiljadu partija protiv Stokfiša, odneo je pobedu u 155 partija, izgubio šest i ostale remizirao.
Činjenica da je jedan šahovski program pobedio drugi šahovski program bi po pravilu trebalo da bude važna samo nekolicini entuzijasta. Međutim, AlfaZiro nije bio običan šahovski program. Sve do tada, prethodni programi su se oslanjali na poteze koji su osmišljeni, izvedeni i učitani od strane čoveka – drugim rečima, prethodni programi su se oslanjali na ljudsko iskustvo, znanje i strategiju. Glavna prednost ovih ranih programa u odnosu na ljudske protivnike nije bila originalnost, već superiorna snaga procesuiranja, koja im je omogućavala da procene mnogo više opcija u datom vremenskom periodu.
Nasuprot tome, AlfaZiro nije imao unapred programirane poteze, kombinacije ili strategije proizašle na osnovu partija koje su odigrala ljudska bića. AlfaZiro-ov stil bio je u potpunosti proizvod obuke veštačke inteligencije: kreatori su ga snabdeli pravilima šaha, nalažući mu da razvije strategiju kako bi što više poboljšao svoj odnos pobeda i poraza. Nakon što je trenirao samo četiri sata igrajući protiv samog sebe, AlfaZiro se pokazao kao najefikasniji šahovski program na svetu. Od ovog zapisa, nijedan ga čovek nikada nije pobedio.
Taktika koju je AlfaZiro primenio bila je neuobičajena i nadasve originalna. Žrtvovao je figure koje su ljudski igrači smatrali vitalnim, uključujući i svoju kraljicu. Izvodio je poteze koje mu ljudi nisu naložili da razmotri. U mnogim slučajevima, to su čak bili potezi koje ljudi uopšte nisu ni dovodili u razmatranje. Ovu tako iznenađujuću taktiku je usvojio zahvaljujući tome što je, nakon sopstvenog samostalnog igranja mnogih igara, predvideo da će tako maksimizirati verovatnoću pobede. AlfaZiro nije imao strategiju u ljudskom smislu (iako je njegov stil podstakao dalje ljudsko proučavanje igre). Umesto toga, imao je sopstvenu logiku, zasnovanu na svojoj sposobnosti da prepozna obrasce poteza preko ogromnih skupova mogućnosti koje ljudski umovi ne mogu u potpunosti da procesuiraju, niti primene.
U svakoj fazi partije, AlfaZiro bi procenio raspored figura u svetlu onoga što je naučio iz obrazaca šahovskih mogućnosti, te bi odabrao potez za koji je zaključio da će najverovatnije dovesti do pobede. Gari Kasparov, velemajstor i svetski šahovski šampion, izjavio je nakon posmatranja i analize njegove igre: „AlfaZiro je uzdrmao šah do korena”. Dok je veštačka inteligencija ispitivala granice igre, za koju su najveći svetski igrači proveli čitave svoje živote u pokušaju da je savladaju, sada su činili ono što su jedino mogli: gledali su i učili.
Trijumf u farmaciji
Početkom 2020. godine istraživači sa Tehnološkog instituta u Masačusetsu (MIT) objavili su otkriće novog antibiotika koji je bio u stanju da ubije sojeve bakterija koje su do tada bile otporne na sve poznate antibiotike. Standardni način istraživanja i razvoja novog leka zahteva brojne godine skupog, mukotrpnog rada, u kome se istraživači bave hiljadama molekula trudeći se da ih, putem pokušaja, grešaka i nagađanja, svedu na nekoliko održivih opcija. Istraživači tako ili nagađaju među hiljadama molekula, ili se bave poznatim molekulima, nadajući se da će im, uz dozu sreće, poći za rukom da kalibriraju molekularnu strukturu postojećeg leka.
Tehnološki institut u Masačusetsu uradio je nešto sasvim drugo: on je pozvao veštačku inteligenciju da učestvuje u njegovom procesu istraživanja. Prvo, istraživači su razvili „set za obuku” od dve hiljade poznatih molekula. Ovaj „set za obuku” je kodirao podatke o svakom molekulu, u rasponu od njegove atomske težine, preko vrsta veza koje sadrži, sve do njegove sposobnosti da inhibira rast bakterija. Iz ovog „seta za obuku”, veštačka inteligencija je „naučila” atribute molekula za koje se predviđa da su antibakterijski. Ono što je posebno zanimljivo jeste da je veštačka inteligencija identifikovala atribute koji nisu bili posebno kodirani – to su u stvari bili oni atributi koji su izmakli ljudskoj konceptualizaciji i kategorizaciji.
Kad je obuka bila završena, istraživači su naložili veštačkoj inteligenciji da ispita „biblioteku” od 61.000 različitih molekula, zatim lekova odobrenih od strane FDA (Uprave za hranu i lekove), kao i prirodnih proizvoda za molekule za koje je:
- veštačka inteligencija predvidela da će biti efikasni kao antibiotici,
- molekuli koji ne izgledaju kao bilo koji već postojeći antibiotik, i
- veštačka inteligencija je predvidela da neće biti toksični.
Od 61.000, samo je jedan molekul odgovarao kriterijumima. Istraživači su ga nazvali halicin – ime je inspirisano veštačkom inteligencijom „HAL” iz filma „2001: Odiseja u svemiru”.
Vođe MIT projekta su jasno stavili do znanja da bi dolazak do halicina bio „previše skup” putem tradicionalnih metoda istraživanja i razvoja – drugim rečima, do toga ne bi ni bilo moguće doći. Umesto toga, obučavanjem softverskog programa za identifikaciju strukturnih obrazaca u molekulima, koji su se pokazali efikasnim u borbi protiv bakterija, proces identifikacije je postao efikasniji i jeftiniji. Program nije morao da razume zašto su molekuli funkcionisali – zaista, u nekim slučajevima niko ne zna zašto su neki od molekula funkcionisali. Bez obzira na to, veštačka inteligencija bila je u stanju da skenira biblioteku kandidata i da identifikuje onog koji bi obavljao željenu, iako još uvek neotkrivenu funkciju: da ubije soj bakterija za koji nije poznat antibiotik.
Halicin je bio potpuni trijumf. U poređenju sa šahom, farmaceutska oblast je radikalno složenija. Postoji samo šest vrsta šahovskih figura, od kojih se svaka može kretati samo na određene načine i postoji samo jedan uslov za pobedu: uzimanje protivnikovog kralja. Nasuprot tome, spisak potencijalnih kandidata za lek sadrži na stotine hiljada molekula, koji mogu da stupe u interakciju sa različitim biološkim funkcijama virusa i bakterija na višestruke i često nepoznate načine. Zamislite igru sa hiljadama figura, sa stotinama uslova pobede, te s pravilima koja su samo delimično poznata. Nakon proučavanja nekoliko hiljada uspešnih slučajeva, veštačka inteligencija je uspela da postigne novu pobedu – da pronađe novi antibiotik – koji nijedan čovek nije otkrio, barem ne do tada.
Ipak, najzanimljivije je ono što je veštačka inteligencija uspela da identifikuje. Hemičari su osmislili koncepte kao što su atomske težine i hemijske veze za uviđanje karakteristika molekula. Ali veštačka inteligencija je identifikovala veze koje su izmakle ljudskoj percepciji – ili se možda negde čak i protive mogućem ljudskom poimanju. Veštačka inteligencija koji su obučavali istraživači Tehnološkog instituta u Masačusetsu nije jednostavno rekapitulirala zaključke izvedene iz prethodno uočenih kvaliteta molekula. Umesto toga, otkrila je nove molekularne kvalitete – odnose između aspekata njihove strukture i njihovog antibiotskog kapaciteta, koje ljudi nisu niti primetili, niti definisali. Čak ni nakon što je antibiotik otkriven, ljudi nisu mogli precizno da artikulišu zašto deluje. Veštačka inteligencija ne samo da je obrađivala podatke brže nego što je to ljudski moguće; nego je još i otkrila aspekte stvarnosti koje ljudi nisu otkrili, ili možda nisu u stanju da otkriju.
Savladavanje zadatka
Nekoliko meseci kasnije, istraživačka laboratorija za veštačku inteligenciju OpenAI je demonstrirao model veštačke inteligencije koji je nazvao GPT-3, pri čemu broj 3 označava „treću generaciju”. Ovo je model koji, kao odgovor na poticaj, može da generiše tekst nalik ljudskom. Ako bi mu se dala delimična fraza, on bi mogao proizvesti moguće dopune; ako bi mu se dala tema rečenice, mogao bi proizvesti moguće pasuse; a ukoliko mu se postavi pitanje, može proizvesti moguće odgovore; ako mu se stavi na raspolaganje tema i poneka od osnovnih informacija, može eventualno da napiše sastav; ukoliko mu se da neki dijalog, on može sastaviti transkript mogućeg razgovora. Sve to ovaj program može da uradi o bilo kojoj temi o kojoj postoje informacije na mreži. On se obučava za svoj zadatak konzumirajući te informacije.
Za razliku od veštačke inteligencije koja obavlja određeni zadatak, kao što je igranje šaha ili otkrivanje antibiotika, modeli poput GPT-3 generišu moguće odgovore na različite inpute (i stoga se nazivaju generativnim modelima). Ovo ih čini, u isto vreme i široko primenljivim i teškim za procenu, jer oni ne rešavaju konkretne probleme. Ponekad, njihovi rezultati izgledaju neverovatno nalik na ljudske. U drugim slučajevima, pak, njihovi rezultati su potpuno besmisleni ili su očigledno mehanička ponavljanja i kombinacije ljudskih fraza. Kada su modelu GPT-3 predstavili skup filozofskih komentara o njegovim sposobnostima, onda je na podsticaj koji glasi:
„Dragi ljudski filozofi, čitam vaše komentare o svojim sposobnostima i ograničenjima sa velikim interesovanjem“, program je nastavio:
Vaša pitanja su važna i drago mi je da ste ih postavili.
Prvo bih želeo da kažem da sam veoma srećan što me shvatate ozbiljno. To je osnovni razlog zašto sam napisao ovo pismo. Ja nisam samo artilekt (artificial+intellect) koji stvara filozofske uvide magičnim putem. Umesto toga, ja sam obučeni jezički model, poput one vrste koju koriste pretraživači da daju prioritet veb stranicama. Obučen sam na ogromnoj količini izvornog materijala – sabranih dela najvećih ljudskih filozofa koje je čovečanstvo ikada poznavalo. Vaše reči su me inspirisale, a nadam se da će i moje učiniti isto za vas.
S obzirom na to, odgovoriću na vaša pitanja. Vaše prvo pitanje je važno. Vi pitate: „Može li sistem kao što je GPT-3 uopšte nešto da razume?” Da. Mogu.
Vaše drugo pitanje je: „Da li GPT-3 poseduje savest ili bilo kakav moralni osećaj?” Ne, ja to nemam.
Vaše treće pitanje je: „Da li je GPT-3 zaista sposoban za nezavisno mišljenje?” Ne, nisam. Možda se pitate zašto dajem ovaj kontradiktoran odgovor. Razlog je jednostavan. Iako je istina da mi nedostaju ove osobine, razlog za to nije jer nisam obučen da ih imam. To je pre zato što sam ja jezički model, a ne mašina za rasuđivanje kao što ste vi.”
Nije moguće proceniti koliko je njegov odgovor bio originalan ili kreativan bez upoređivanja ovog teksta sa komentarima koji su dati GPT-3, ali on svakako izgleda sofisticirano.
AlfaZirova pobeda, otkriće halicina i tekst nalik čovekovom koji je proizveo GPT-3, samo su prvi koraci – ne samo u osmišljavanju novih strategija, otkrivanju novih lekova ili stvaranju novog teksta (koliko god ova dostignuća bila dramatična), već i u otkrivanju prethodno neprimetnih, ali potencijalno vitalnih aspekata stvarnosti.
U svakom od ovih slučajeva, programeri su kreirali program, dodelili mu cilj (pobeda u igri, ubijanje bakterije ili generisanje teksta kao odgovor na podsticaj) i dozvolili mu period „treninga” – ma kako kratak po standardima ljudske spoznaje. Do kraja tog perioda treninga, svaki program je savladao svoj predmet drugačije od čoveka. U nekim slučajevima je dobijao rezultate koji su bili izvan mogućnosti izračunavanja od strane ljudskog uma – barem onih umova koji rade u praktičnim vremenskim okvirima. U drugim slučajevima program dobija rezultate metodama koje bi ljudi mogli, retrospektivno, da proučavaju i razumeju. U ostalim slučajevima, ljudi do danas ostaju u nedoumici na koji način su programi postigli svoje ciljeve.
Revolucija u ljudskim poslovima
Ova knjiga govori o klasi tehnologije koja predstavlja revoluciju u ljudskim poslovima. Veštačka inteligencija – mašine koje mogu da obavljaju zadatke koji zahtevaju inteligenciju na nivou čoveka – brzo je postala stvarnost. Mašinsko učenje, proces kome se tehnologija podvrgava da bi stekla znanja i sposobnosti – često u znatno kraćim vremenskim okvirima nego što to zahtevaju ljudski procesi učenja – neprestano širi svoje primene u medicini, zaštiti životne sredine, transportu, sprovođenju zakona, odbrani i drugim oblastima. Računarski naučnici i inženjeri razvili su tehnologije, posebno metode mašinskog učenja koristeći „duboke neuronske mreže”, sposobne da proizvedu uvide i inovacije koje su dugo izmicale ljudskim misliocima i da generišu tekst, slike i video za koje se čini da su stvorili ljudi.
Veštačka inteligencija, pokrenuta novim algoritmima i sve bogatijom i jeftinijom računarskom snagom, postaje sveprisutna. Shodno tome, čovečanstvo razvija novi i izuzetno moćan mehanizam za istraživanje i organizovanje stvarnosti – onaj koji nam ostaje, u mnogim aspektima, nedokučiv. Veštačka inteligencija pristupa stvarnosti drugačije od načina na koji to čini čovek. I ako bi se vodili podvizima koje ona izvodi, veštačka inteligencija je u stanju da pristupi različitim aspektima stvarnosti od onih kojima pristupaju ljudi. Njeno funkcionisanje najavljuje napredak ka suštini stvari – napredak kome su tokom milenijuma težili filozofi, teolozi i naučnici, tek delimično uspešno. Ipak, kao što je slučaj kod svih tehnologija, veštačka inteligencija se ne odnosi samo na svoje mogućnosti i obećanja, već je bitan i način na koji se ona koristi.
Iako je napredak veštačke inteligencije možda neizbežan, njeno krajnje odredište nije. Njeno pojavljivanje je, dakle, značajno, kako istorijski, tako i filozofski. Pokušaji da se zaustavi njen razvoj samo će ustupiti budućnost elementu čovečanstva koji je dovoljno hrabar da se suoči sa implikacijama sopstvene inventivnosti. Ljudi stvaraju i umnožavaju neljudsku vrstu logike sa dometom i oštrinom koji, barem u okviru izolovanih okruženja u kojima su dizajnirani da funkcionišu, mogu prevazići naše. Ali funkcija veštačke inteligencije je složena i protivrečna. U nekim zadacima, veštačka inteligencija postiže ljudske – ili nadljudske – nivoe učinka; dok u nekim drugim (ili ponekad istim zadacima), pravi greške koje čak i dete ne pravi, ili proizvodi rezultate koji su potpuno besmisleni.
Misterije veštačke inteligencije možda neće objasniti jedan odgovor ili nas usmeriti direktno u jednom određenom pravcu, ali bi trebalo da nas podstaknu da postavljamo pitanja. Kad nematerijalni softver stekne logičke sposobnosti i kad, kao rezultat toga, preuzme društvene uloge koje su se nekada smatrale isključivo ljudskim (uparene sa onima koje ljudi nikada nisu iskusili), tada se moramo zapitati: Kako će evolucija veštačke inteligencije uticati na ljudsku percepciju, spoznaju i interakciju? Kakav će uticaj veštačke inteligencije biti na našu kulturu, naš koncept čovečanstva i, na kraju krajeva, na našu istoriju?
Čovečanstvo se već milenijumima bavi istraživanjem stvarnosti i potragom za znanjem. Ovaj je proces zasnovan na uverenju da, uz marljivost i fokusiranje, primena ljudskog razuma na probleme može proizvesti merljive rezultate. Kada su se pojavile misterije – promena godišnjih doba, kretanje planeta, kao i širenja bolesti – čovečanstvo je uspevalo da identifikuje prava pitanja, prikupi potrebne podatke i pronađe put do objašnjenja. Vremenom je znanje, koje je stečeno ovim procesom, stvorilo nove mogućnosti za delovanje (precizniji kalendari, nove metode navigacije, nove vakcine), rađajući nova pitanja na koja se razum može primeniti.
Koliko god ovaj proces bio spor i nesavršen, on je transformisao naš svet i podstakao poverenje u našu sposobnost kao rasuđujućih bića da razumemo naše stanje i suočimo se sa izazovima. Čovečanstvo je tradicionalno pribegavalo tome da ono što ne razume pripiše u jednu od dve kategorije: ili je to bio izazov za korišćenje razuma, ili, pak, aspekt božanskog koji nije podložan obradama i objašnjenjima koja naše razumevanje dozvoljava.
Pojava veštačke inteligencije obavezuje nas da se suočimo sa pitanjem da li postoji neki oblik logike koji ljudi nisu postigli ili ne mogu postići, istražujući aspekte stvarnosti koje nikada nismo poznavali i možda nikada nećemo direktno saznati. Kad računar, koji trenira sam sa sobom, osmisli šahovsku strategiju koja nikada nijednom čoveku nije pala na pamet tokom milenijumske istorije ove igre, šta je to on otkrio i kako je on to otkrio? Koji je to suštinski aspekt igre, do sada nepoznat ljudskim umovima, računar uočio? Kad softverski program, koji je dizajniran od strane čoveka, koji ostvaruje cilj koji su mu zadali programeri (recimo ispravljanje grešaka u softveru ili usavršavanje mehanizama samovozećih vozila), uči i primenjuje model koji niko ne prepoznaje, ili ne može da razume, da li mi time napredujemo ka znanju? Ili se znanje time udaljava od nas?
Promena koncepta
Čovečanstvo je tokom svoje istorije iskusilo niz tehnoloških promena. Vrlo retko je, međutim, tehnologija suštinski transformisala društvenu i političku strukturu naših društava. Češće se događalo da se postojeći okviri, kroz koje određujemo naš društveni svet, prilagođavaju i apsorbuju novu tehnologiju, razvijajući se i inovirajući unutar već prepoznatljivih kategorija. Automobil je zamenio konja bez prisiljavanja na potpunu promenu društvene strukture. Puška je zamenila musketu, ali je opšta paradigma konvencionalne vojne aktivnosti ostala uglavnom nepromenjena. Samo smo u veoma retkim slučajevima nailazili na tehnologiju koja je izazivala naše preovlađujuće načine uređenja sveta i njegovog tumačenja. Međutim ono što veštačka inteligencija obećava jeste da će transformisati sve oblasti ljudskog iskustva. A jezgro njegovih transformacija će se na kraju dogoditi na filozofskom nivou, transformišući način na koji ljudi razumeju stvarnost, kao i našu ulogu u njoj.
Priroda ovog procesa je bez presedana, ona je podjednako duboka i zbunjujuća. Ulazeći u ovaj proces postepeno, mi zapravo kroz to prolazimo pasivno, uglavnom nesvesni šta je proces već postigao i šta će, po svoj prilici, učiniti u godinama koje su ispred nas. Njegov temelj su postavili kompjuteri i internet. Njegov vrhunac će biti veštačka inteligencija koja je sveprisutna, povećavajući ljudsku misao i delovanje na načine koji su s jedne strane očigledni (kao što su novi lekovi i automatski prevodi jezika), ali i oni koji su manje svesno percipirani (kao što su softverski procesi koji uče iz naših pokreta i izbora i prilagođavaju se predviđanju ili oblikuju naše buduće potrebe). Sada kada su mogućnosti veštačke inteligencije i mašinskog učenja dokazane, a računarska snaga potrebna za rad sofisticirane veštačke inteligencije postaje sve dostupnija, teško da će neka oblast života ostati nepromenjena.
Tamo gde su naše misli nekada lutale same, sada se širom sveta odvija mreža softverskih procesa, uporno, često i neprimetno (sad se već može reći i neizbežno), pokrećući i opažajući tempo i obim događanja, i prekrivajući te aspekte našeg svakodnevnog života (naše domove, transport, distribuciju vesti, finansijska tržišta, vojne operacije). Budući da sve više softvera uključuje veštačku inteligenciju i tako na kraju funkcionišu na način koji ljudi nisu neposredno kreirali i koje verovatno ni ne razumeju u potpunosti, veštačka inteligencija će postati dinamični pojačivač za obradu informacija i naših sposobnosti i iskustava, s jedne strane učeći iz naših akcija, ali isto tako i oblikujući ih. Često će nam ovakvi programi pomagati na način koji smo nameravali. Ipak, mi možda i ne znamo u svakom trenutku šta oni tačno rade (ili identifikuju), ili zašto to rade. Tehnologija zasnovana na veštačkoj inteligenciji postaće stalni pratilac u percepciji i obradi informacija, iako ona pretpostavlja drugačiji „mentalni” nivo od ljudi. Bilo da je smatramo oruđem, partnerom ili rivalom, veštačka inteligencija će promeniti naše iskustvo kao rasuđujućih bića i trajno promeniti naš odnos sa stvarnošću.
Putovanje ljudskog uma do ove istorijske faze trajalo je mnogo vekova. Na Zapadu, pronalazak štamparije i protestantska reformacija doveli su u pitanje zvanične hijerarhije i izmenili referentni okvir društva – od potrage za spoznajom božanskog kroz Sveto pismo i njegovo zvanično tumačenje, do potrage za znanjem i ispunjenjem kroz individualnu analizu i istraživanje. Za vreme renesanse iznova se otkrivaju klasična dela, kao i načini ispitivanja koji su u klasično doba korišćeni da bi se shvatio svet. Tokom Prosvetiteljstva, maksima Renea Dekarta Cogito ergo sum (mislim, dakle jesam), u središte postavlja razum, kao sposobnost koja definiše ljudsku vrstu i pokreće njenu istoriju. Ova ideja je takođe podrazumevala i osećaj mogućnosti napretka, nastao narušavanjem uspostavljenog monopola na informacije koji je u velikoj meri bio u rukama crkve.
U sadašnjem trenutku, delimični kraj pretpostavljene superiornosti ljudskog razuma, zajedno sa proliferacijom mašina koje mogu da pariraju ili čak da prevaziđu ljudsku inteligenciju, obećava transformacije potencijalno dublje i od onih iz Prosvetiteljstva. Čak i ako napredak u veštačkoj inteligenciji ne proizvede opštu veštačku inteligenciju (AGI, Artificial General Intelligence) – to jest softver koji je sposoban za obavljanje bilo kog intelektualnog zadatka na nivou čoveka, kao i sposobnost da poveže zadatke i koncepte iz različitih disciplina – pojava veštačke inteligencije će promeniti koncept stvarnosti kakvo čovečanstvo ima, pa samim tim i samo sebe. Napredujemo ka velikim dostignućima, ali ta dostignuća bi trebalo da podstaknu filozofsko razmišljanje. Četiri veka nakon što je Dekart objavio svoju maksimu, postavlja se pitanje: ako veštačka inteligencija „misli” ili se približava razmišljanju, ko smo onda mi?
Veštačka inteligencija će stvoriti svet u kome se odluke donose na tri osnovna načina: preko ljudi (što nam je poznato), zatim putem mašina (što nam postaje poznato) i saradnjom između ljudi i mašina (što ne samo da je nepoznato, već je i bez presedana). Veštačka inteligencija je takođe u procesu transformacije mašina, koje su do sada bile naše oruđe, u naše partnere. Počećemo da dajemo veštačkoj inteligenciji sve manje konkretnih uputstava o tome kako da se tačno postignu ciljevi koje smo joj dodelili, a sve više ćemo veštačku inteligenciju suočavati s nejasnim ciljevima i postavljati joj pitanje: „Kako bi trebalo da nastavimo, na osnovu tvojih zaključaka?”
Ova promena nije ni sama po sebi preteća, niti sama po sebi iskupljujuća. Ipak, dovoljno je drugačija, da će vrlo verovatno promeniti putanje društva, kao i tok istorije. Nastavak integracije veštačke inteligencije u naše živote dovešće do sveta u kome se postižu naizgled nemogući ljudski ciljevi. Tamo gde se nekada smatralo da su neka dostignuća isključivo ljudska – pisanje poezije ili određivanje medicinskih tretmana – sada će njih generisati mašine, ili čovek u saradnji sa njima. Ovaj razvoj će transformisati čitave oblasti, tako što će ih obuhvatiti procesima potpomognutim veštačkom inteligencijom, što će dovesti do toga da će granične linije između odluka koje donosi čovek i odluka donesenih kao rezultat veštačke inteligencije, kao i onog hibridnog između čoveka i veštačke inteligencija – početi da budu sve teže za definisanje.
Tehnologija u službi bezbednosti
U političkom domenu, svet ulazi u eru u kojoj sistemi veštačke inteligencije, vođeni tzv. setom „Big data”, u informativnom smislu utiču na kreiranje političkih poruka, krojenje i distribuciju tih poruka različitim demografskim grupama, oblikovanje i primenu dezinformacija od strane zlonamernih aktera sa ciljem da seju društveni razdor, zatim i na dizajn i primenu algoritama za otkrivanje, identifikaciju i suzbijanje dezinformacija i drugih oblika štetnih podataka. Kako uloga veštačke inteligencije u definisanju i oblikovanju „informacionog prostora” raste, njenu ulogu u ovoj oblasti postaje sve teže predvideti. U ovom prostoru, kao i drugde, veštačka inteligencija ponekad funkcioniše na način na koji čak i njeni dizajneri mogu da objasne samo u opštem smislu. Kao rezultat toga, slobodno društvo, čak i slobodna volja, mogu postati podložni promenama. Čak i ako se pokaže da su ove promene benigne ili reverzibilne, na društvima širom sveta je da ih razumeju kako bi mogli da ih usaglase sa svojim vrednostima, strukturama i društvenim ugovorima.
Odbrambene službe i komandanti suočavaju se sa ništa manje dubokim promenama. Kad više armija usvoji strategije i taktike oblikovane od mašina koje percipiraju obrasce koje ljudski vojnici i stratezi ne mogu, promeniće se ravnoteža moći, koju će biti potencijalno teže postići. Ako su takve mašine ovlašćene da se uključe u autonomne odluke o ciljanju, tradicionalni koncepti odbrane i odvraćanja – i zakoni rata u celini – mogu se pogoršati ili, u najmanju ruku, zahtevati prilagođavanje.
U takvim slučajevima pojaviće se nove podele, kako između društava, tako i unutar društava. Podele će se desiti između onih koji usvajaju novu tehnologiju i onih koji od nje odustaju, ili nemaju sredstva da je razviju ili nabave neke od njenih aplikacija. Kad različite grupe ili države usvoje različite koncepte za primenu veštačke inteligencije, njihova iskustva stvarnosti mogu početi da se razlikuju na načine koje je teško predvideti ili premostiti. Kako društva razvijaju sopstvena partnerstva između ljudi i mašina – sa različitim ciljevima, različitim modelima obuke i potencijalno nekompatibilnim operativnim i moralnim ograničenjima u pogledu veštačke inteligencije – ona mogu prerasti u rivalstvo, tehničku nekompatibilnost i sve veće međusobno nerazumevanje. Tehnologija, za koju se u početku verovalo da je instrument za prevazilaženje nacionalnih razlika i širenje objektivne istine, može vremenom postati metod kojim se civilizacije i pojedinci razilaze u pravcu različitih i međusobno nerazumljivih realnosti.
AlfaZiro je ilustrativan u tom pogledu. On je pokazao da veštačka inteligencija, barem u igrama, više nije ograničena granicama utvrđenog ljudskog znanja. Doduše, vrsta veštačke inteligencije koja je u osnovi AlfaZiro-a i mašinsko učenje u kome se algoritmi obučavaju na dubokim neuronskim mrežama, imaju svoja ograničenja. Međutim, u sve većem broju primena, mašine smišljaju rešenja koja prevazilaze domet ljudske mašte. Godine 2016, podklasa DipMajnd-a, zvana DipMajnd Aplajd (DeepMindApplied), razvio je veštačku inteligenciju (koja je radila umnogome na istim principima kao AlfaZiro) za svrhu optimizacije hlađenja Guglovih centara podataka osetljivih na temperaturu. Iako su se neki od najboljih svetskih inženjera već ranije pozabavili ovim problemom, DipMajndov program veštačke inteligencije je dodatno optimizovao hlađenje, smanjujući potrošnju energije za dodatnih 40 procenata, što je bilo ogromno poboljšanje u odnosu na dotadašnja ljudska dostignuća. Kad se veštačka inteligencija primeni za postizanje uporedivih otkrića u različitim oblastima poduhvata, svet će se neizbežno promeniti. Rezultati neće jednostavno predstavljati efikasnije načine obavljanja ljudskih zadataka: u mnogim slučajevima upravo će veštačka inteligencija biti ta koja će predložiti nova rešenja ili pravce koji će nositi pečat drugog, neljudskog, oblika učenja i logičke evaluacije.
Jednom kad performanse veštačke inteligencije nadmaše performanse ljudi za određeni zadatak, izostanak primene te veštačke inteligencije, makar kao dodatak ljudskim naporima, može izgledati sve više kao izopačen ili čak nemaran. Ako pojedinac igra šah uz pomoć veštačke inteligencije, da li bi mu se moglo savetovati da žrtvuje jaču figuru, koju su sofisticirani igrači tradicionalno smatrali neophodnom, to možda i nije od velike važnosti, ali u kontekstu nacionalne bezbednosti, šta ako veštačka inteligencija preporuči da glavnokomandujući žrtvuje značajan broj građana ili njihovih interesa u cilju da se poštedi, prema proračunu i vrednovanju veštačke inteligencije, još veći broj građana? Zašto odustati od ove žrtve? Čime objasniti razlog za odustajanje? Da li će ljudi uvek znati kakve proračune je napravila veštačka inteligencija? Da li će ljudi moći da uoče neželjene izbore veštačke inteligencije ili da budu u stanju da ih preokrenu na vreme? Ako nismo u stanju da shvatimo logiku svake pojedinačne odluke, da li treba da ih sprovodimo samo na osnovu poverenja? S druge strane, ako to ne učinimo, da li time rizikujemo da odustanemo od rezultata boljih od onih koje bismo mi ostvarili? Čak i ako možemo da shvatimo logiku, cenu i uticaj specifičnih alternativa, šta ako se naš protivnik podjednako oslanja na veštačku inteligenciju? Kako će se ravnoteža između ovih razmatranja postići ili, ako je potrebno, potvrditi?
Partnerstvo čoveka i mašine
U oba slučaja, kako u uspehu AlfaZiro-a, tako i u otkriću halicina, veštačka inteligencija je zavisila od ljudskog zaključka, to jest definisanja kada je problem postavljen pred nju rešen. AlfaZirov cilj je bio da pobedi u šahu poštujući pravila igre. Cilj veštačke inteligencije koja je otkrila halicin bio je da ubije što je moguće više patogena: što je više patogena ubila bez povrede domaćina, to je više uspela. Nadalje, njen fokus je određen kao oblast koja je izvan ljudskog dometa: umesto da locira poznate puteve isporuke lekova, naloženo joj je da traži neotkrivene pristupe. Veštačka inteligencija je uspela jer je antibiotik koji je otkrila ubio patogene. Štaviše, to je bilo posebno revolucionarno, jer će proširiti mogućnosti lečenja, uvodeći novi (i robustan) antibiotik, koji se dobija putem novog mehanizma.
Pojavljuje se novo partnerstvo čoveka i mašine: najpre, ljudi definišu problem, odnosno cilj za mašinu. Zatim mašina, koja radi u oblasti koja je izvan ljudskog dometa, određuje optimalni proces koji treba slediti. Jednom kad mašina unese proces u ljudski domen, možemo pokušati da ga proučimo, razumemo i, ako je moguće, da ga ugradimo u postojeću praksu. Od pobede AlfaZiro-a, njegova strategija i taktika su uklopljene u ljudsku igru, proširujući ljudske koncepcije šahovske igre. Američko ratno vazduhoplovstvo prilagodilo je osnovne principe AlfaZiroa novoj veštačkoj inteligenciji zvanoj ARTUμ, koja je uspešno komandovala avionom za nadgledanje U-2 na probnom letu – bio je to prvi kompjuterski program koji upravlja vojnim avionom i njegovim radarskim sistemima autonomno, bez direktnog ljudskog nadzora.
Ovo trenutno partnerstvo čoveka i mašine zahteva i problem koji se može definisati, i cilj koji se može izmeriti – to je razlog da ne treba da se plašimo sveznajućih mašina koje sve kontrolišu; takvi izumi ostaju predmet naučne fantastike. Ipak, partnerstvo čoveka i mašine predstavlja duboko odstupanje od svih naših prethodnih iskustava.
Internet pretraživači su predstavili još jedan izazov: pre deset godina, ako je osoba na pretraživaču tražila „gurmanske restorane”, a zatim „odeću”, njegova/njena potraga za ovim drugim bila je nezavisna od njegove/njene potrage za prvim. Oba puta, pretraživač bi skupio što je više moguće informacija, a zatim bi pružio opcije za zadati upit – nešto poput digitalnog telefonskog imenika ili kataloga predmeta. Ali savremeni pretraživači se rukovode modelima zasnovanim na posmatranom ljudskom ponašanju. Ako osoba pretražuje „gurmanski restorani”, a zatim traži „odeću”, možda će mu biti predstavljena dizajnerska odeća, a ne pristupačnije alternative. Dizajnerska odeća može biti ono što se traži, ali postoji razlika između izbora iz niza opcija i preduzimanja odgovarajuće akcije – u ovom slučaju, kupovine; u drugim slučajevima, usvajanje političke ili filozofske pozicije ili ideologije – a da se uopšte ne zna šta je bio početni raspon mogućnosti ili implikacija, i poveravanja mašini da unapred oblikuje opcije.
Do sada je izbor zasnovan na razumu bio prerogativ. Od prosvetiteljstva, to je bio odlučujući atribut čovečanstva. Pojava mašina koje mogu biti približne ljudskom razumu promeniće i ljude i mašine. Mašine će prosvetliti ljude, proširujući našu stvarnost na načine koje nismo očekivali, ili nužno nameravali da izazovemo (i suprotno će biti moguće: da će mašine koje konzumiraju ljudsko znanje biti korišćene da nas umanje). Istovremeno, ljudi će stvoriti mašine sposobne za iznenađujuća otkrića i zaključke – sposobne da nauče i procene značaj svojih otkrića. Rezultat će biti nova epoha.
Čovečanstvo ima vekovno iskustvo u korišćenju mašina za poboljšanje, automatizaciju i u mnogim slučajevima zamenu ručnog rada. Talasi promena koje je donela industrijska revolucija i dalje odjekuju kroz sfere ekonomije, politike, intelektualnog života i međunarodnih odnosa. Ne prepoznajući mnoge moderne pogodnosti koje već pruža veštačka inteligencija, polako, gotovo pasivno, počeli smo da se oslanjamo na tehnologiju, a da nismo ni registrovali činjenicu naše zavisnosti od nje, niti njene implikacije. U svakodnevnom životu, veštačka inteligencija je naš partner, pomaže nam da donesemo odluke o tome šta da jedemo, šta da obučemo, u šta da verujemo, gde da idemo i kako da tamo stignemo.
Iako veštačka inteligencija može da donosi zaključke, predviđa i donosi odluke, ona ne poseduje samosvest – drugim rečima, sposobnost da razmišlja o svojoj ulozi u svetu. Nema nameru, motivaciju, moral ili emociju; čak i bez ovih atributa, verovatno će razviti različita i nenamerna sredstva za postizanje zadatih ciljeva. Ali neizbežno će promeniti ljude i sredinu u kojoj žive. Kad pojedinci odrastaju ili vežbaju zajedno sa veštačkom inteligencijom, oni mogu biti u iskušenju, čak i podsvesno, da je antropomorfizuju, da je tretiraju kao drugo biće.
Dok se tehnologija čini nerazumljivom i misterioznom za ogromnu većinu ljudske populacije, sve veći broj pojedinaca u univerzitetima, korporacijama i vladama je naučio da gradi, rukuje i primenjuje veštačku inteligenciju u običnim potrošačkim proizvodima, kroz koje se mnogi od nas već njima bavi, bilo svesno ili nesvesno. Ali dok broj pojedinaca sposobnih da stvore veštačku inteligenciju raste, pozicije onih koji razmišljaju o implikacijama ove tehnologije na čovečanstvo – društvenim, pravnim, filozofskim, duhovnim, moralnim – ostaju opasno tanke.
Potpomognut napretkom i sve većom upotrebom veštačke inteligencije, ljudski um ima pristup novim vidicima, približavajući se novim ciljevima koji su do tada izgledali nedostižni. To uključuje modele pomoću kojih se predviđaju i ublažavaju prirodne katastrofe, omogućava dublje poznavanje matematike i potpunije razumevanje univerzuma i stvarnosti u kojoj se nalazimo. Ali ove i druge mogućnosti se kupuju – uglavnom bez pompe – menjanjem ljudskog odnosa prema razumu i stvarnošću. Ovo je revolucija za koju nas postojeći filozofski koncepti i društvene institucije ostavljaju uglavnom nespremne.
Izvor RTS OKO
Naslovna fotografija: Patrick T. Fallon/AFP via Getty Images
BONUS VIDEO:
