Intervju sa Maksom Tegmarkom

Ilon Mask je ovu knjigu nazvao „ubedljivim vodičem za izazove i izbore koji su pred nama u potrazi za velikom budućnošću života na Zemlji i šire“, Stiven Hoking i Rej Kurcvajl govorili su o njoj kao o uvodu i vodiču za najvažniji razgovor našeg vremena. O knjizi „Život 3.0: Kako biti čovek u doba veštačke inteligencije“ razgovarali smo sa njenim autorom Maksom Tegmarkom, švedskim fizičarem koji se na Masačusetskom institutu za tehnologiju bavi istraživanjem veštačke inteligencije (VI).



Zašto bi bilo važno da knjigu „Život 3.0“ pročita svako ko želi da razume budućnost i pripremi se za njen dolazak?

Često se vode razgovori o tome kako će VI negativno uticati na tržište rada ili omogućiti proizvodnju nekog novog oružja, ali primetio sam da veoma mali broj naučnika ozbiljno govori o onome što smatram najvažnijim pitanjem: šta će se dogoditi kada nas mašine nadmaše u svakom pogledu?

Pitam se da li će naša generacija biti svedok nastanka nadljudske veštačke inteligencije. Da li ćemo biti u stanju da je kontrolišemo i da li bi to uopšte trebalo pokušavati? U slučaju da je odgovor potvrdan, kome će biti poverena ta uloga? Može li ljudski rod preživeti eru veštačke inteligencije? Ako može, kako ćemo pronaći smisao i svrhu vlastitog postojanja kada će superinteligentne mašine obavljati sve poslove i naš doprinos učiniti suvišnim?

Ja sam optimista i verujem da ćemo biti u stanju da izgradimo sjajnu budućnost uz pomoć VI, ali znam da se to neće dogoditi preko noći. Biće nam potrebna velika mudrost kako bismo u trci sa tehnologijom održavali prednost. Nećemo imati luksuz da učimo iz grešaka. Moraćemo da budemo u pravu već u prvom pokušaju, jer će nam to možda biti jedina šansa.

Još uvek ima mnogo naučnika koji nas uveravaju da nema razloga za brigu. Kako biste im odgovorili?

Postoje dva osnovna pitanja oko kojih se naučnici u ovoj oblasti ne slažu.

Prvo se tiče toga kada ćemo, ako nam to uopšte ikada pođe za rukom, stići do stepena nadljudske opšte veštačke inteligencije. Neki smatraju da se to nikada neće dogoditi ili da će nam biti potrebne stotine godina. Međutim, veliki je broj onih koji smatraju da će se to dogoditi već za nekoliko decenija. Druga kontroverza je: šta će se dogoditi ako ikada prevaziđemo ljudski nivo VI?

Mnogi ozbiljni istraživači VI smatraju da bi to bilo nešto najbolje što nam se ikada dogodilo, ali i da bi moglo voditi velikim problemima. Neopisivo je dosadno sedeti i prepirati se oko toga da li bi trebalo da brinemo ili ne. Mene zanima šta je to što konkretno možemo učiniti danas kako bismo sprečili pojavu potencijalnih problema.

Često se raspravlja o tome da li bi se trebalo usredsrediti na kratkoročne ili dugoročne rizike.

Očigledno je da ne smemo zanemariti ni jedno ni drugo. Jedno od pitanja je, recimo, kako proizvesti otporne kompjutere koji će efikasno obavljati svoj posao, a da pritom ne budu podložni kvarovima i napadima hakera. To je jedan od problema koje bismo morali rešiti u najskorije vreme, dok veštačka inteligencija još uvek postepeno ulazi u društvo, ali i važan stepenik ka ozbiljnijim pitanjima. Kako ćemo stvoriti superinteligentnu mašinu, za koju ćemo biti sigurni da radi ono što od nje očekujemo, ako nismo u stanju da napravimo laptop koji funkcioniše bez kočenja i „plavog ekrana smrti“?

Ako želite da dogurate daleko na nekom putovanju, morate napraviti prvi korak.

U knjizi pominjete dvanaest mogućih scenarija za budućnost u kojoj će postojati superinteligencija. Možete li nam ukratko opisati neke od njih? Čemu se nadate, a šta vas plaši?

Priznajem da je bilo veoma zabavno razmišljati o mogućim varijantama budućnosti. Ljudi koji se bave predviđanjima tog tipa često postaju taoci sumornih misli. Nama je, međutim, preko potreban pozitivan stav i vizije o društvu u kakvom bismo svi želeli da živimo, budemo li dovoljno inteligentni da se rešimo siromaštva, bolesti i sl. Ako se utvrdi da VI može da nam pomogne u rešavanju tih izazova, šta je to što zapravo želimo?

Stvorimo li moćne VI sisteme, od presudnog značaja će biti to da naši i njihovi ciljevi budu identični. Nikako ne bismo želeli da proizvedemo mašine koje bi u početku bile oduševljene što nam pomažu, a posle izvesnog vremena počele da se dosađuju kao dete sa lego kockama.

Naposletku, trebalo bi se zapitati i čije bi to ciljeve ove mašine trebalo da ispunjavaju. Ciljeve Donalda Trampa? Ciljeve Hilari Klinton? Ciljeve Islamske države? Kako bismo to odlučili? Taj razgovor ne bismo smeli prepustiti štreberima opsednutim tehnologijom, kao što sam ja. U odlučivanju moraju učestvovati svi, jer je ovde reč o zajedničkoj budućnosti.

Ako nam zaista pođe za rukom da stvorimo veštačku inteligenciju, ili više takvih sistema, šta će uslediti?

To je jedno od pitanja o kojima bismo svi morali da razgovaramo. Šta ako stvorimo mašine koje će obavljati sve poslove, proizvoditi sve potrepštine i vršiti sve uslužne radnje? Kako bismo vršili raspodelu ostvarenih prihoda? Samo zato što ste materijalno zbrinuli ljude, ne znači da će oni biti srećni. Kako stvoriti društvo u kome će ljudi biti u stanju da napreduju i pronađu smisao u životu ako im se oduzme uloga proizvođača? Čak i ako budu zadovoljni time što više ne moraju da rade?

Jedno celo poglavlje posvetili ste „kosmičkom nasleđu“ i tome šta će se desiti tokom narednih milijardu godina i posle toga. Zašto bismo brinuli o tako dalekoj budućnosti?

Bilo bi divno kada bi život nastavio da cveta, i to ne samo do sledećeg izbornog ciklusa, već milijardama godina u budućnosti. I na Zemlji i kroz kosmos. Samo u našoj galaksiji postoje  milijarde planeta na kojima bi se moglo živeti. Nastavimo li da verujemo u krupne ideje, zaboravićemo na međusobne razmirice i ujediniti se oko zajedničkog cilja.

Bilo bi veoma neodgovorno kada bismo sve upropastili lošim odlukama na planu tehnologije, koje bi dovele do izumiranja života na ovoj planeti.

Šta su rizici i prednosti stvaranja svesne VI?

Smatram da većina ljudi ne razume o čemu je tu zapravo reč. Ako se plašite da će vas mašina na neki način povrediti, svest nije ono o čemu bi trebalo da brinete. U slučaju da vas juri projektil sa toplotnim navođenjem, nije vas briga ima li on ličnost. Sigurno nećete pomisliti: „Ne brine me ovaj projektil jer nije svestan.“

Pođe li nam za rukom da stvorimo veoma inteligentne mašine, ako budemo posedovali robote-pomoćnike sa kojima ćemo moći da razgovaramo i koji će izgovarati veoma interesantne stvari, zar nećete poželeti da saznate šta oni misle o sebi i svojoj ulozi? Da li su svesni ili su samo zombiji koji se pretvaraju da imaju neka iskustva? Ako bismo znali da imaju osećanja identična našim, pretpostavljam da bismo se našli u potpuno drugačijoj etičkoj situaciji.

Univerzum nije taj koji nam daje smisao, već mi, kao svesna bića, dajemo smisao univerzumu. Ako ne bi bilo onoga ko doživljava iskustva, ceo kosmos bi se ponovo pretvorio u prostor lišen ikakvog smisla. Zato bi bilo veoma važno razumeti kako iz puke obrade informacija izrasta ono što nazivamo svešću.

Zašto i kada bi trebalo da počnemo da brinemo?

Značajan deo naučne zajednice veruje da ćemo jednog dana replikovati ljudsku inteligenciju. Čovečanstvo ne bi trebalo da se pita da li će do toga doći, već kada.

To dostignuće će nas dovesti pred Pandorinu kutiju koju ćemo morati veoma pažljivo da otvorimo. Moraćemo strogo da kontrolišemo mašine kako jednog dana ne bi poslužile nekom razočaranom momku za osvetu bivšoj devojci ili pripadniku ekstremističke organizacije za teroristički napad.

Kako se prosečan zabrinuti građanin može uključiti u razgovor o budućnosti čovečanstva i planete?

U razgovoru moraju učestvovati svi. Podstičemo korisnike da podele sa drugima svoje ideje na ovoj veb adresi. Ako ne znamo kakvu budućnost želimo, nećemo je ni dobiti.

Autor: Arijel Kon
Izvor: futureoflife.org
Prevod: Jelena Tanasković