Čitav današnji svet je u dilemi oko veštačke inteligencije. Treba li i dalje pomagati rađanje bića iz pozitronske matrice, ili uništiti sve dokaze i preuzeti amiški tip društvene organizacije? Gde povući crtu? Da li će nove forme svesti uopšte dopustiti da im se postave limiti? Ako se međutim prelista ozbiljnija literatura o digitalnom humanizmu i etici, pogled na AI (Artificial Intelligence) daleko je prozaičniji od onog koji se decenijama neguje u filmu i književnosti. U realnosti je najvažnije ko će trenirati „pozitronce”, ko će ih voditi u park u šetnju, ko skupljati iza njih u vrećicu kad obave posao. Svest, moral, samostalno razmišljanje? To je za Holivud. „U stvarnosti, veštačka inteligencija poseduje svest grafitne olovke”, kaže Sep Hohrajter, austrijski profesor informatike koji je pomogao rađanje Chat GPT programa.
Na početku konstatacija, ako neko insistira izvinjenje. Čitav ovaj tekst se izvlači iz engleskog, jezika koji nekih stotinak zadnjih godina ne uživa samo status linguae francae, već se, delimično i zbog toga, ustalio kao službeni jezik informatike. Pojmove kojima informatičke nauke operišu praktično više ni jedan jezik ne prevodi, već ih koristi u izvorniku. Ne iz poštovanja prema engleskom, već prema vlastitom jeziku.
U protivnom, čitave bujice prevoda gorih od originala donose haos u jeziku importa. Zato je branšu u kojoj vodeći predstavnici vlastitoj deci daju fonetska imena kao Ekseej Tvelv (X Æ A-12) najbolje držati na okupu u jednom standardu, dok se jezička situacija internacionalno nešto ne relaksira.
Kad čovek samo pomisli koliko nekad inovativno iritantna imena koju je muzičko-holivudska branša davala svojoj deci, kao North West, odjednom počinju da zvuče vrlo konzervativno.
Jednom će i sve oko veštačke inteligencije (u daljem tekstu: AI) postati poznato i konzervativno. Najkasnije onda kad se ljudi, koji misle da su ljudi, budu svađali sa prijateljem koji misli da je robot, zato što neko od njih vara na kartama.
Cogito, ergo est
Da li sviće praskozorje veštačke inteligencije? Nesumnjivo. I više od toga, na satu epoha i ideja je već negde oko pola deset. Ali znači li to automatski da će u pet popodne mind uploading – transfer ljudskog mozga u androidne robote – biti tako jednostavan kao danas operacija krajnika? Stvari nisu linearno poslagane, čak ni u onim krugovima gde je na delu religiozno obožavanje prirodnih nauka, među singularistima i drugim vernicima tehničke eshatologije.
Kod stvari koje dolaze, koje su neumitne samim tim što vidljivo stoje na vratima i čekaju da nađu svoje mesto u institucijama i organizacijama pod kontrolom ljudske rase, svako ima svoj analogon za razumevanje. Ili svoju mentalnu mapu koja pojednostavljuje snalaženje u kompleksnim interdisciplinarnim temama. U mom slučaju, to je prostor između Vitgenštajna i Marksa.
„Mi ne možemo da mislimo ništa što je nelogično, jer bismo u protivnom morali da mislimo nelogično”, kaže Vitgenštajn u Traktatusu (Tractatus Logico-Philosophicus, 3.03). „Mi” je kod njega čovek, ljudska rasa, čovečanstvo. Prevedeno iz više međusobno povezanih karika Vitgenštajnovog Traktata: ako se o nečemu misli, to je stoga moguće jer je klica dotične ideje već bila položena u stanje stvari, i sad se samo radi o tome da joj se nađe forma.
Pojednostavljeno, Vitgenštajn postavlja teoriju osmoze stvari, ideja i konstelacija u dijahronim kombinacijama, odakle nijedna od njih, kad se već najavila u vremenu, ne može da se udalji tek tako. Drži ih na okupu moć ljudske misli, koncentrisana energija koja ne popušta dok ne iscrpi sve mogućnosti datog stanja stvari. Sad fokus ljudske misli leži na AI, ergo, neće popustiti dok se kroz proces negativne selekcije ne dođe do bića super inteligencije i besprekornih moralnih principa kao android Dejta.
Između automatizma i racionalnosti
O veštačkoj inteligenciji se misli od avgusta 1956. kad je grupa oko američkog logičara i infomatičara Džona Mekartija održala letnju radionicu na Dartmut univerzitetu, Nju Hempšir, granična država prema Kanadi. A po Vitgenštajnu, kad se o nečemu misli, nemoguće ga je odmisliti pre nego što se dovede do logičnog kraja.
Mogla je AI tada 1956. da dobije i drugačije ime. Bilo je još predloga. Jedan od termina je bio computational rationality (CR), ali u krajnjem efektu nije se odomaćio pojam racionalnosti, racionalnosti nouvelle, dodate racionalnosti, već atribut veštačkog, stranog i nepredvidljivog. Šteta, jer bi CR danas verovatno generisala manje straha nego AI, nezavisno od toga što se radi o jednom istom.
Drugi filosof koji markira gabarite diskusije o AI je Karl Marks, trezven po običaju, sa poznatom teorijom o odnosu između sredstava proizvodnje i proizvodnih odnosa, danas bi se reklo društvenih odnosa. Za teoretičare digitalnog humanizma kao nauke u povoju, AI spada u sredstva proizvodnje. Koliko god kompleksne, forme i bića AI nisu ništa drugo nego oruđa. Njihova ontologija su lopata i testera, a ne mechas kao mehanički humanoid Dajvid iz Spilbergovog filma „AI”; ili HAL 9000 iz Kjubrikove „Odiseje”. Ono što su nekad bili alati, parne mašine, elektrika, mehanika i DOS-sistemi koji su se gubili u mraku kao putnik u šumi Striborovoj, danas su samostalno misleće mašine.
Zna se šta biva, po Marksu, kad razvoj sredstava za proizvodnju nadmaši društvene odnose: revolucija, ako društvenim akterima fali volja za prihvatanjem i administriranjem miroljubive evolucije. Sačuvaj bože revolucija.
Juriti lutku ili lutkara?
Hans Blumenberg je u eseju Metafizička istorija tehnike (1967) pisao da treba praviti razliku između duha koji proizvodi tehniku i proizvoda u koji se duh uliva. Religiozna konotacija je nenamerna. Duhovni mogu biti i jedan i drugi, funkcionalni i bihevioralni takođe, ali samo jedna strana poseduje intencionalnost, svest i emocije.
Stoga se o autonomno mislećim mašinama može govoriti uslovno, vrlo uslovno, jer one još nigde ne postoje u realnosti, a i sami njihovi kreatori ne misle da je to uopšte izvedljivo. Ne sada, možda nikad. Ima smisla u ideji da će AI, koliko god i kakvim god tempom se razvijala, uvek ostati moždana proteza, dodatak i nastavak ljudskog uma drugim sredstvima. Praktično pola ovog teksta bi trebalo stavljati pod navodnike, ali ko bi imao strpljenja da to čita? Zato je najbolje priznati da tu, kao i na bilo kom mestu gde neki čovek misli o robotu koji sanja o čoveku, progovara navika ljudske rase da svemu što je zanima daje antropomorfne i animističke crte.
Mašine ne misle, ali ipak misle – dok ljudi misle. Mašine su lutke, ljudi su lutkari, u metafori američke teoretičarke digitalnog kapitalizma Šošane Zubof. Ne isplati se juriti lutke i kažnjavati ih za dela lutkara. Navodnici tu ne pomažu, samo prihvatanje da postoje stanja proširene racionalne svesti do koje se stiže bez droge i transa, samo sa nekoliko dragocenih, pozajmljenih digitalnih sinapsi. U najhumanijoj varijanti, kao dodatak prirodnoj inteligenciji, AI naprosto ostaje moždana proteza ljudske rase. Bez nje ljudi neće moći da pobede izazove gladi, kancera, propasti prirode, ili osvajanje svemira kao rešenje za prenaseljenost Zemlje.
Uopšteno je moguće razvrstati AI na tri tipa lutki: simboličke, konekcionističke (connectionism) i bihevioralne ili ovaploćene, telo postale. Sve su postavljene na noge pedesetih godina, uspele su da prežive presušene fondove i prve zime neuronskih mreža šezdesetih i osamdesetih. Sve tri danas stoje na stabilnim razvojnim trajektorijima.
Budi čovek, pogreši, ubij
Simbolička AI ima najmanje potencijala za zastrašivanje ljudske vrste. Ona je takozvana slaba, Weak AI. Reč je o kompjuterski podržavanoj obradi simbola po dogovorenim pravilima, mahom formalne logike, o softverskim tehnikama za obradu jezika. U tom istraživačkom pravcu deluje grana aktivista, kako ih popularno zovu. Dodala bih, praktičara i oportunista kojima se ne lome noge po moralnim provalijama veštačke inteligencije. Filosof Danijel Denet objašnjava taj istraživački smer kao razvijanje superkompjutera bez pokušaja da se oni razumeju, upravo onako kako većina i koristi digitalnu tehniku. Dovoljno je da radi to za šta je stvorena kao inteligentna kućna utenzilija.
Koliko ljudi će se rasplakati nad sudbinom procesora na hrpi smeća? A u njima može biti još dovoljno električnih sinapsi koje sanjaju srećnije dane provedene sa nekim voljenim čovekom. Svaki put kad bacam stari notebook, dugo se opraštam i na kraju ostajem sa zločinačkim osećajem kao kad sam morala da uspavam našeg bigla.
Psi, mačke i personalni kompjuteri već dugo umiru na našim rukama. Pitam se, da li pri tome imaju isti osećaj kao oni ljudi koji su mirni jer misle da umiru u božjim rukama?
Konekcionistička AI je razvijena iz pokušaja da se razume kako radi ljudski mozak na neuronskom nivou, kako uči, pamti i zahvata u neiskorišćene kognitivne rezerve. U tom istraživačkom miljeu deluje popularno, bolje rečeno nepopularno nazvana grana ideologa. Njihov cilj je otkrivanje tajni prirodne inteligencije i u analogiji stvaranje kompjuterskih programa koji podržavaju, modeliraju, usmeravaju, čak i replikuju ljudski mozak. Ljudsko – a bolje. Naše – a njihovo, mašinsko.
Pojmovi konekcionističke AI su ML/NN (Machine Learning/Neural Networks – simulacija ljudskog mozga kroz veštačke neuronske mreže); HLAI (Human Level Artificial Intelligence); AGI (Artificial General Intelligence); Strong/Jaka AI.
Ovaploćena/bihevioralna AI nastaje onda kad se jedan funkcionalni HLAI ili AGI stavi, ugradi, integriše, u analogon tela – u robota, androida, u klona kombinovanih bio-mehaničkih karakteristika. HLAI može biti pametna kutija u uglu sobe i onda je konekcionistička AI; a može biti bot sastavljen od procesora=mozga, senzora=čula i efektora=ruke+noge+pincete+klješta. Jedan od osnovnih pojmova ovaploćene/bihevioralne AI je Mind uploading, koji pokriva sve moguće varijacije u transferu ljudskog mozga i NN matrica.
A kako to ne postoji, onda se sa bihevioralnom granom definitivno dolazi u Holivud. Bot je mašina koja misli da je čovek, kao mali Dejvid iz „AI”; mašina koja sakriva da je bot, kao Eš iz „Aliena”; mašina koja sanja da postane čovek, kao Dejta iz „Star Treka”; mašina koja se bori da postane smrtna, kao Endrju iz „Čoveka od 200 godina”; mašina koja u čoveku vidi svog boga-oca, kao replikanti iz „Blejd Ranera”. On je Botičeli bolji od Botičelija, iako taj jezički vic malo potone u srpskom.
HAL iz „Odiseje 2000” i VIKI iz filma „Ja, robot” bi bili mešoviti tip između konekcionističke i bihevioralne AI. HAL je kutija, VIKI silos, dakle stacionarna AI u oba slučaja, ali pod svojom komandom imaju nizove bihevioralnih jedinica. VIKI upravlja čitavim armijama botova, koji su po sebi potpuno nišči duhom, jer je ono malo neuronskih sinapsi što im je tvorac dao povezano sa pozitronskim mozgom. VIKI je Cloud NN, moćni oblak neuronskih sinapsi.
Bez VIKI, njeni roboti ne poseduju više intencionalnosti od tostera. Ali nije mnogo bolje ni malom Soniju, iako je on jedini proizveden bez aplinka sa VIKI. Soni misli, samo što ga misao ne spasava, naprotiv. Lišen pozitronskog superega, on je prepušten emocijama ljudi. Kako u njima uglavnom prevladava strah od AI, onda dobrom poslušnom Soniju preti sudbina gora od pregorelog tostera.
Big Data bez Dejte
Sve do sada rečeno ima nameru da aktuelnu diskusiju o AI svede na sliku. Da jedan ogroman interdisciplinarni materijal preslika i sažme u vizuelnom kodu. Najpre okvir u kome se AI tretira, propagira ili u negativnoj intepretaciji odbacuje. Pojmovni okvir je fiksiran između neumitnosti po Vitgenštajnu i racionalnosti po Marksu.
Unutar tog okvira, koja je prevlađujuća emocija u diskusijama? Ima ponosa, radoznalosti, upornosti, ima odlučnosti da se ide dalje, ali glavna emocija je svejedno strah. Strah da bi se AI mogla oteti svom tvorcu, čoveku, isto onako kao što se čovek oteo svom tvorcu. Čovečanstvo nikako da zaboravi tu vlastitu izdaju. Barem onaj prosvetljeni deo modernog čovečanstva, a istraživanje u oblasti AI ionako vodi prosvetljeni deo.
Slika polako raste. Tu je okvir od neumitnosti do racionalnosti; unutar njega vijuga linija straha, ali to opet ne kaže mnogo. U dobu digitalne prosvetljenosti strah je reka ponornica, povremeno nestane. Zato se dobro vidi tamo gde opstaje, gde se zgušnjava, u kom punktumu sedi, da se poslužimo tim terminom iz slikovne teorije Rolanda Barta.
Punktum straha od AI je mind uploading. To da bi neki pravi HAL ili VIKI dobili progresivno unapređeni analogon ljudskog mozga i uz to još postali mobilni kao Dejta, neprepoznatljivi kao Eš ili emotivni kao Endrju. I to da bi neuronauke pronašle načina da preko AI tako stimulišu ljudski mozak, sve dok Ajnštajn, Tesla i Hokins ne skliznu na donju granicu imbecila.
Super Hub i Olaf Peti
Mind uploading za sada postoji samo u književnosti i filmu, ali i u realnom svetu se vredno radi na tome. Evropska unija ima svoj Human Brain Project. „Super Hub“ za prijatelje, koji je s partnerima inicirala 2013. Cilj neuronskih eksperimenata je postizanje superkompjutera koji će posedovati snagu ljudskog mozga za procesuiranje informacija, ali na to i količinu znanja iz dve i po hiljade godina ljudske istorije.
Za sada postoji samo jedan superkompjuter tog exascale tipa, „Hewlett Packard“-ov „Frontier“ u Tenesiju, poznat pod oznakom OLCF-5. Za mene Olaf Peti, da mi bude lakše da zamislim njegov rad. Ali nema šanse da se mozak Olafa Petog aploduje u nekog zlog Eša ili dobrog Dejtu. Previše je kabast i prostire se u nekoliko soba. I dalje je niz metalnih kutija u kojima zuje neuronske mreže.
Olaf Peti je neverovatno pametan i istovremeno glup. Sve zna, ali mu fale intencionalnost, svest i emocije, bez kojih je aktiviranje autonomnih mentalnih kapaciteta nemoguće. Da se ta fina distinkcija shvati, pomaže dijalog iz predstave „Dok nas smrt ne razdvoji” Mire Furlan, kad baka kaže unuci koja pati jer je stalno ostavljaju nek grubi muškarci: „Kako neko tako pametan kao ti može biti tako glup?” Može, ako je Olaf Peti.
Ni EU nema previše sreće sa svojim ML/NN projektom. Human Brain Project, superkompjuter Super Hub je pokrenut na 10 godina, znači ove jeseni se gasi, ako se ne pronađu sredstva, a za sada nema vesti da jesu. EU ga je sufinansirala sa milijardom evra. Izgleda mnogo, ali kad se uporedi sa skoro 100 milijardi koje je EU do sada dala Kijevu da vodi rat, onda ništa.
Priča se i da je jedan od razloga da bi Big Data Super Hub-Bug mogao da završi kao beskućnik to pošto je odbio da podrži sankcije EU protiv Rusije. Rekao im je, na poslednjem sastanku Evropske komisije, da ima i pametnijih načina da od Rusa dobiju to što bi hteli. Izdajnik. Digitalna konzerva. Kanta proruska.
Digitalna etika
Vizuelni otisak aktuelnih globalnih diskusija, onako kako se ovde u tekstu gradi, do sada zgleda ovako: okvir između neumitnosti i racionalnosti; unutar njega žvrljotine bivših neuspeha i graduelnih uspeha na istraživačkom polju AI; u sredini punktum u kome svetli crvena lampica mind uploading-a.
Sad u tu sliku ulazi nova simbolička forma, oblak. Moralni oblak. Postaje ozbiljno. Prvo, i bukvalno, većina bihevioralne AI ionako deluje po cloud principu, preko aplinkova, iz oblaka nadređene veštačke inteligencije.
Drugo, simbolički, oblak nije tek tako izabran za potrebe ovog teksta. On je i inače metafora za zahteve etike. Odavno su bogovi izabrali da se javljaju kroz oblak. Zevs je došao Danaji kao oblak zlatne kiše. Jahve je pratio Jevreje kroz pustinju kao stub olujnih oblaka. Bog Otac je progovorio iz oblaka kad je na Taboru objavio da je Isus njegov sin. Religije su u svojoj suštini etike. Ergo, sasvim je legitimno vizuelizovati moralne dileme ikonicama oblaka.
Nad AI su se nadvili oblaci. Glavni problem nije taj šta se sve može ili će uskoro moći, već šta se sme. Taj deo, šta se sme, reguliše Artificial Morality, AM za AI.
Po Sebastijanu Rozengrinu, profesoru digitalnog humanizma i etike na berlinskom CODE univerzitetu, tek tu počinje konfuzija. AM nije isto što i etika tehnike. Ovo drugo reguliše pravila među ljudima za ispravno korišćenje tehnike. Iako se često čuje da je tehnika neutralna, ona to nije. Naprotiv, normativna je. Pokušajte da kosilicu za travu koristite u nedelju u šest ujutru, pa ćete videti šta susedi misle o neutralnosti. Svejedno da li AI, kosilica ili pametni usisivač, kad jednom uđu u upotrebu tehnike deluju u odloženom ehu kao strukturni principi.
Ali AM, to je nešto drugo. To je moral za tehniku, set moralnih pravila kojih bi morala da se drži sama AI. Kako će, kad nema ni individualnost, ni slobodnu volju, kad je debela i velika kao Olaf Peti, siromašna kao Super Hub? Mogu joj se pročitati njena prava i obaveze na osnovu četiri zakona robotike Isaka Asimova. Endrju u jednoj sceni iz „Čoveka od 200 godina” jako lepo recituje Asimova, iako propušta onaj nulti zakon, koji veštačkoj inteligenciji itekako daje hipotetičku dozvolu da ubije čoveka, ako to spasava čovečanstvo.
Ali u realnom svetu? Ko je taj ko će veštačku inteligenciju dovesti do autonomnog morala? Neko očigledno mora da je uputi gde se naručuju autonomija i individualnost. Pri čemu je važnije odakle, nego ko. Katrin Miselhorn, vodeća nemačka filosofkinja u oblasti AM, vidi tu poziciju tačno na multidisciplinarnom preseku filosofije, informatike, robotike i prava. Politika ne, ona je subjektivna jer prečesto deli ontologiju sa slabom AI.
Svejedno. Čak i autori koji su skloni dolasku AM, priznaju da logičko stanje stvari ne radi u njenu korist. Što je AI pametnija, što nastupa samosvesnije, kao na primer Chat GPT, upozorava se da to samo raste njena sposobnost za simulaciju autonomnog moralnog delovanja i odlučivanja. Raste njena veština da simulira moral, ništa više. Operativna moralnost je vrhunac za AI.
Jedan od ranih optimista u tom sektoru je bio britanac Alan Tjuring. Privatno ne, bio je jadan, država ga je praktično naterala u samoubistvo. Ali o mogućnostima AI je Tjuring mislio sa optimizmom, još dok nije imala konkretno ime. Takozvani Tjuringov test iz 1950. postavlja hipotetičku situaciju u kojoj dva čoveka i jedna AI igraju karte, ali tako da se ne vide i ne znaju ko je ko. Ako dvoje ljudi ne primeti da je treći igrač mašina, onda je AI položila test čovečnosti.
Američki filosof i logičar Džon Serl (John Searl) je tri decenije kasnije u eksperimentu poznatom pod imenom „Kineska soba” pobio Tjuringa. Po Serlu, Tjuringov test samo proverava fuknkcionalnost AI, ne njenu intencionalnost i svest. Pitanje za Serla je da li AI koja prevodi kineske piktograme razume šta je prevela. Ali i Serlova „Kineska soba” je takođe samo hipotetička situacija, jer do sada još nijedna AI, moralna, amoralna ili nemoralna, nije položila Tjuringov test.
Sloj po sloj, AI?
Ljudski mozak je moćan na tri načina:
- on poseduje inteligenciju, uslovno bio-hardver;
- on poseduje kogniciju, uslovno bio-softver – shvatanje, pažnja, pamćenje, jezik, mišljenje;
- on te dve stvari s lakoćom spaja u mentalne kapacitete, u ono što se u različitim jezicima zove duh/duša/psiha, kućište u kom su pohranjeni intencionalnost, svest i emocije.
AI se može popeti do prvog, štaviše tu je već mnogo bolja od ljudi. Može se donekle popeti do drugog, iako teško može nadmašiti čovekovo kreativno korišćenje mišljenja. Nikad neće biti tako nepredvidiva u misli kao što može čovek, u dobru i zlu.
U trećem AI nema šanse. U trećem leže ulazna vrata za religiju, društvenost, ljubav, prijateljstvo. Verovatno će jednom biti moguće da AI, kao Dejta, dobije čip za emocije, no to svejedno ostaje simulacija duše, rekao bi Serl. Nije ni to najgore, ali se postavlja pitanje – zašto stvoriti savršenu kopiju jedne nesavršene stvari?
Već sada postoji affective computing (AC), mahom kod robotičke AI zaposlene u prodaji. Ali taj pojam emotivnih kompjutera se odnosi na njihovu sposobnost da prepoznaju emocije kod potencijalnih kupaca, ne da imaju svoje. Ili da se čoveku isplaču na ramenu zato što tog dana nisu prodali ni jedan auto.
U očekivanju mesije
Jedna od modernih filsofskih škola koja prihvata mogućnosti AI kao vrste homo sapijensa je atributni dualizam (property dualism), čiji je najznačajniji predstavnik Dejvid Čelmers (David Chalmers). Sažeto, atributivni dualisti nadilaze staru kartezijansku podelu na telo i dušu, materiju i duh, već smatraju da je sve to jedno, samo se javlja u dva kvaliteta istog.
Ako su materija i duh jedno, onda su i inteligencija=biohardver i kognicija=biosoftver jedno, iz čega u analogiji proizilazi da su hardver i softver veštačke inteligencije takođe jedno. U oba slučaja, elektronskom i biološkom, hardver i softver se spajaju u mentalnim kapacitetima gde bivaju „aufgehoben”, hegelijanski sačuvani u višoj formi. Time Čelmers otvara mala vrata filosofske etike, barem prozor, za mind uploading. Uz ogradu – to će se jednom moći, kaže on, ali veliko je pitanje da li će za to postojati motivacija.
Sa konstatacijom „to će se jednom moći”, koja kao mantra odjekuje sa svih strana, dolazi se do najproblematičnije strane u budućem razvoju AI. Da li će čovek hteti sve što može? Ako hoće, da li će smeti? Ako će smeti, da li će ga zaustaviti vlastita savest? Da li će društva biti spremna da uvedu totalitarne sisteme kako bi se unapredila, ili naprotiv zaustavila dalja istraživanja u oblasti AI?
Ako AI dobije svest, prvo će poželeti da nađe smisao, a kad se traži smisao, onda se uvek pipa za nekom višom instancom koja ga osigurava. Kad Roj Beti iz „Blejd Ranera” umire, on umire kao vernik – vernik u život i svog tvorca, čoveka. Da ga je pri tome tvorac ostavio na cedilu i teško razočarao, to Roja samo čini ljudskim. I mi ljudi smo razočarani našim tvorcem.
Za vizuelnu ilustraciju tih dilema neka posluži mentalna slika koja korak po korak nastaje u ovom tekstu. Do sada postoji okvir, između neumitnosti i racionalnosti; postoji crvena lampica mind uploading-a kao punktum nelagode; postoje okolo razbacani oblačići kao simboli za etičke prigovore i zanovetanja.
Sad je pitanje, u kakvoj sobi visi ta slika? Kakva nam je epoha? Kakav njen socijalni i mentalni status? Budi li poverenje da će podržati opstanak života kao takvog, ili se zaverila da ljude zameni androidima? Još strašnije pitanje je, ako zaista snuje da čoveka zameni bio-androidima, da li nas time, na srednji i dugi rok, u stvari spasava kao vrstu? Šta ako je to jedini način da čovečanstvo uopšte preživi naredne vekove?
Tu su se profilisale tri škole mišljenja – singularisti, transhumanisti i posthumanisti. Oni su ti koji zapravo sede u punktumu ispod crvene lampice alarma. Oni, ne po toj tački optužnice potpuno nevina AI. Kao i svaka tehnika, AI je normativna, jer čim postoji menja društvene strukture u svom smislu. Ali normativno još ne znači i totalitarno.
Nemojte ubiti glasnika
Singularnost/singularitet je ideološki pravac informatike koji stoji na pozicijama determinizma AI. Radili ne radili, visoko razvijena, autonomno misleća, etički osvešćena AI svakako dolazi, svidelo se to današnjim društvima ili ne. Kad postoji klica u ideji, postojaće i biljka u stvarnosti.
To je ime, ne loše izabrano, za budućnost u kojoj će tehnički napredak biti tako brz, promene tako temeljne i sveobuhvatne, da će sve dosadašnje predstave o tome šta je čovek, šta život, biti bačene u vodu. Najpoznatiji predstavnik te škole o putu bez povratka je futurista Rej Kurcvajl (Ray Kurzweil), direktor tehničkog razvoja u globalnoj kompaniji Gugl. Singularizam kao konkretnu epohu Kurcvajl fiksira na 2045, dakle skoro. Samo četvrt veka i čovečanstvo je već tamo.
Transhumanisti i posthumanisti se razlikuju u tome koliko standardne ljudskosti će u dobu singularizma čoveku biti dopušteno. Prvi smatraju da će ljudi samo dobiti upgrade – postati savršenija varijatna samih sebe, tako što će humane sposobnosti biti proširene integracijom procesora, senzora i efektora. I nije tako loše. Time bi se čovečanstvo vratilo na početne pozicije iz Starog zaveta, gde se govori o ljudskom veku od nekoliko stotina godina.
Drugi, posthumanisti, idu korak dalje, time što smatraju da će u singularizmu čovek kao biološko biće biti potpuno prevaziđen. Evolucija homo sapijensa je za njih neshvatljiva anomalija u razvoju planete Zemlje. Ne da nema boljeg čoveka, nego po njima nema ni čoveka. Postoji samo super pametna AI koja simulira ljudski softver, mobilni potomci Olafa Petog.
Između singularista, trans- i posthumanista nema jasnih razgraničenja. Ulivaju se jedni u druge. Zajedničko im je skoro religijsko očekivanje, eshatološka vera u poslednje stvari, u elektronskog mesiju koji će se uzdići sa neke digitalne matrice i čovečanstvu obrisati suze pre nego to ga uvede u novo doba. Sad postaje savršeno logično, ako odmah nije bilo, zašto se istraživački sektor konekcionističke AI naziva grupom ideologa.
Treba znati da je prostor u kome deluju sing-trans-post istraživači vrlo mali. Ne samo to, nekad nije jasno da li samo čekaju neminovno, ili naprotiv aktiviraju alarm protiv neminovnog. Samo tri instituta se golobalno bave tom tematikom:
- The Future of Humanity Institute (FHI) na Oksforskom univerzitetu, gde su najpoznatija imena Nik Bostrom i Anders Sandberg;
- Machine Intelligence Research Institute (MIRI), bivši Singularity Institute for Artificial Intelligence (SIAI), pri Berkliju, Kalifornija, najpoznatije ime Elezer Judkovski; i
- Future of Life Institute (FLI) u Masačusetsu, gde su najpoznatija imena Maks Tegmark, Jan Talin i, naravno, Ilon Mask kao savetnik.
Sad kad su ovde spomenuti s imenima i prezimenima kao u poternici, treba naglasiti, još jednom, da oni nisu vernici koji čekaju pojavu mesijanske AI. Sami sebe oni više vide kao dobru vilu iz „Uspavane lepotice” Braće Grim.
Ko je zaboravio početak, Zla vila osudi Trnoružicu na smrt, što Dobra vila više ne može da poništi, jedino da ublaži. Zato Trnoružica neće umreti, samo će spavati sto godina dok je ne probudi poljubac AI s mozgom Ilona Maska i dupetom Olafa Petog.
„Niže biće čovek”
Tehnicitet ljudskog bića prvi su zagovarali pozitivisti devetnaestog veka. Tad je stvorena slika ljudske mehanike po kojoj treba kuckati i strugati dok se ne popravi. Njihova omiljena konstrukcija bila je „Čovek nije ništa više nego…” Od tada je bilo jako mnogo tih „čovek-nije-ništa-više-nego…” zbir sinapsi, skup ćelija, automaton evolucije, klupko električnih impulsa, civilizovana zver i slično. Iz tog ugla je predstavnik nemačke filosofske antropologije Arnold Gelen kasnije izvukao svoju čuvenu definiciju o čoveku kao manjkavom biću (Mängelwesen).
Sad je Gelenova negativna antropološka definicija savršeni šlagvort za singulariste: ako čovek ne valja, mi ćemo da ga popravimo! Teoretski, nije tu sve loše. Ako nekoliko dodatnih sinaptičkih šaltera može da mi pomogne da u mesec dana tečno progovorim francuski, italijanski i japanski, prva stajem u red kod transhumanista. Ali istovremeno sam previše svesna da je u istoriji svaka razvijena eugenika neopozivo postajala ideologija, ideologija politika, a politika je onda završavala u totalitarnoj dehumanizaciji čoveka.
Vrlo je interesantno kako se u diskusiji o opasnostima sing-trans-post naučne zajednice drže istaknuti filosofi ateizma, Danijel Denet na primer. Upravo su oni ti koji raskrinkavaju mesijanske, religiozne konstrukcije umotane u sekularnu teoriju singularizma.
U knjizi Singularitet – moderna legenda? Denet povlači etičke granice u daljem razvoju AI. Recimo da AI spada u sredstva proizvodnje, to je u redu; recimo da su ljudski afekti i emocije sirovine za AI, to je u redu; recimo da se društveni odnosi moraju lomiti da ugoste AI pridošlice, i to je u redu, ide se dalje. Ali, dodaje Denet, pravi rizik je u tome ako se usput izgubi strahopoštovanje pred životom. Ako se ljudski život prezre zato što nije savršen.
Skrivena komika nije samo u tome da singularisti kao vernici digitalnih matrica misle religiozno. Prava ironija je ta da je i ateista Denet pronašao crkvu u kojoj će se on moliti – ljudski život, sam po sebi. Kao Roj Beti, bio-replikant-android osuđen na smrt bez utehe i obećanja spasa, Denet se religiozno klanja pred onim što je ostalo kad se istera bog. A to je ljudski život, koji ne sme izgubiti osećaj dostojanstva. To je sećanje na hiljade godina rada, truda, greški i uspeha.
Svaki put kad se pritisne neki šalter, to je mala revolucija. Klik i bi svetlost. Možemo to i mi ljudi, Roj Beti je dokaz.
Izvor RTS OKO
Naslovna fotografija: Stitch/Freepik
BONUS VIDEO:
