Da li bi roboti stekli svest o moralu kada bi čitali Šekspirove drame ili romane Džej Ostin?

Kada je napisao priče u „Ja, robot“ četrdesetih godina XX veka, Isak Asimov je zamislio svet u kojem roboti rade sve dosadne i neprijatne poslove ljudi ali su njihove moći ograničene. Programirani su da poštuju tri zakona: robot ne sme da povredi ljudsko biće, čak ni nedelovanjem; robot mora da sluša ljudsko biće (osim ako se to ne kosi sa prethodnim zakonom); robot mora da zaštiti sebe (osim ako se to ne kosi sa prethodna dva zakona). Nažalost, naučnici ubrzo stvaraju robota (po imenu Herbi) koji razume koncept „mentalne povrede“. Poput nekog junaka Tomasa Hardija ili Ibzena, robot se zatiče u situaciji u kojoj bi iskreni odgovor na postavljeno pitanje izazvao bol ljudima kojima služi, ali bi i ćutanje bilo podjednako štetno. Logička greška. Robot prodorno vrisne i strovaljuje se u „gomilu nepokretnog metala“.



Dok ulazimo u, kako mnogi predviđaju, novu eru robotike, istraživači veštačke inteligencije su počeli da razmišljaju kako da naprave bolju verziju Herbija. Kako bi roboti mogli da steknu saznanja o etičkoj kompleksnosti? Kako i da li bi mogli da razviju ono što mi zovemo savest? Stručnjaci pokušavaju da nauče veštačku inteligenciju da razmišlja i dela moralno. Koji primeri se mogu dati robotu da bi naučio da se ponaša u skladu sa ljudskim etičkim kodom?

Grupa naučnika koja radi na razvoju A. I. (veštačke inteligencije) veruje da se ti primeri mogu naći u pričama. Naučnici u Školi interaktivne kompjuteristike na džordžijskom Tehnološkom institutu razvijaju program koji bi robotima omogućio da uče od fiktivnih likova. Pomalo ironično, svoj program su nazvali Kihot po Donu Kihotu, španskom plemiću koji je poverovao da se svet ne razlikuje od viteških romana koje je voleo da čita, što povlači katastrofalne i komične posledice.

Ako veštačka inteligencija treba da crpi lekcije iz brojnih priča u kojima uživamo u slobodno vreme, programeri su suočeni sa praktičnim problemima koje moraju da reše. Veći deo fikcije i drame će zbuniti jadne robote i dati im pogrešnu sliku o svetu u kome treba da donose odluke. Naše omiljene priče pune su duhova, demona, čarobnjaka, čudovišta i svih vrsta životinja koje pričaju. Ljudi putuju kroz vreme i lete vazduhom, upadaju u neprilike koristeći magiju. Mitovi i legende većine kultura zaista govore o nekim od elementarnih ljudskih konflikata i želja koje bi elektronska inteligencija trebalo da razume, ali su prepuni natprirodnih bića i učenja da postoji život posle smrti.



Možda bi takve priče trebalo izbaciti sa liste i zabraniti „Guliverova putovanja“ (konji koji govore su bolji od ljudi) ili „Alisu u Zemlji čuda“ i sve vrste magičnog realizma. Međutim, čak su i naše manje fantastične priče potencijalno opasne. Program Kihot navodno ohrabruje robote da se ponašaju kao likovi u pričama koje su im date. Ali književna dela mogu pripovedati o moralnim vrednostima, ali bez junaka koji se mogu imitirati. Gde je osoba u „Midlmarču“, „Otelu“ ili „Ilijadi“ koju biste želeli robot da koristi kao uzor? Tamo gde postoji očigledni protagonista, Kihot uči da će biti nagrađen ako se ponaša kao ona ili on. Stoga bi trebalo da se klone klasika XX veka kao što su: „Talentovani gospodin Ripli“ (protagonista je sposobni i amoralni ubica) ili Apdajkove tetralogije o „Zeki“ (gde je protagonista lascivni i pohlepni ćivta) ili „Lolite“ (komentar nije potreban).

Mark Ridl, naučnik koji radi na razvoju A. I., kaže: „Proces razmišljanja kod robota se najčešće svodi na motive koji se prožimaju kroz različita dela kod različitih autora“. Prema njegovom mišljenju, priče mogu da daju robotima lekcije koje su ljudska bića polako, decenijama učila. Književnost daje kompjuterskoj inteligenciji „surogat uspomene“ na osnovu kojih će donositi buduće odluke.

Vera naučnika da priče neke kulture predstaljaju ogledalo ljudskih vrednosti bila bi za pohvalu da te vrednosti nisu prečesto izokrenute ili osuđene na propast. Čak i najveći idealisti među robotskim tutorima moraće da se drže dalje od „Kralja Lira“ ili „Neznanog Džuda“. Pozorišni režiseri su toliko verovali da „Kralj Lir“ nema moralnu direkciju da su do sredine XIX veka menjali kraj da bude „srećan“ i gde Kordelija ostaje živa i udaje se za Edgara. Viktorijanski kritičari su toliko prezirali moralni nihilizam romana „Neznani Džud“ da je Tomas Hardi prestao da piše romane.

Oni narativi koji imaju snažan osećaj za dobro i zlo mogu da budu još više zbunjujući. Romani Čarlsa Dikensa i njegovih viktorijanskih kolega na sve moguće načine ubeđuje mlade žene da izbegavaju seks pre braka zato što bi im u protivnom sudbina bila ili smrt ili prostitucija ili emigracija u Australiju. Šta je onda sa knjigama u kojima dobro trijumfuje? I one su problematične. Robot koji uči iz najvećih komedija poslednjih pet vekova evropske književnosti verovaće da je brak najsrećniji poduhvat u ljudskom životu. Takođe će steći ideju da se muškarci i žene rado pretvaraju da su neko drugi i da oni koji prate svoje srce na kraju obično završe sa pozamašnom novčanom nagradom.



Neka velika književna dela makar uče praktične stvari ako ne i moralne. Najuobičajenija istina je: ne verujte ljudima. Zahvaljujući lakoći kojom Goneril i Regan izjavljuju svoju ljubav, čitaocu je jasno da dve starije ćerke ne mare mnogo za Lira. Kako bi robot to shvatio? Ili kako bi razumeo, ako čita romane Džejn Ostin, da određenoj vrsti opuštenosti i otvorenosti (naročito kod mladih muškaraca) ne treba verovati? Da li bi veštačkoj inteligenciji moglo da bude jasno da je gospodin Kolins pompezna budala?

Možda bi robotima trebalo dati jednostavnije tekstove. Ezopove bajke? Novi zavet? Priče Inid Blajton? Prve bi funkcionisale ako bi kompjuterski mozak mogao da razume koncept životinjskih likova. Drugi bi bio dobar ako roboti veruju u Boga. Treći bi mogao da im izazove sumnjive moralne odluke. Kada je reč o žanrovima, tradicionalna detektivska priča ima prilično pouzdanu moralnu potku iako će naš robot izrasti u mizantropa.

Da li nas najbolje knjige čine boljim? Kao neko ko je završio englesku književnost, moram da vas izvestim da mi koji smo plaćeni da čitamo i iščitavamo najbolje književne narative nismo moralno bolji, društveno sposobniji ili psihološki spremniji od drugih. Da smo roboti, bili bi smo felerični. Možda je najmudrije držati se jednostavnih ali elegantnih pravila Isaka Asimova.
 
Autor: Džon Mulan
Izvor: theguardian.com