Redatelj ‘Westworlda’ Jonathan Nolan o budućnosti AI i zašto su ljudi tako čudni



Redatelj ‘Westworlda’ Jonathan Nolan o budućnosti AI i zašto su ljudi tako čudni

Samo ćemo reći: Westworld mogao biti sljedeći hit u HBO-ovom katu programske stabilne.

Na prvi pogled radnja djeluje dovoljno izravno: uronjen i futuristički park zapadne tematike opskrbljen humanoidnim robotima koji se pokoravaju svakom hiru (dobrom ili lošem) posjetitelja. Drama, koja je debitirala početkom listopada, ima sve prave rodoslovne oznake: konceptualizirao ju je Michael Crichton, koji je nadgledao izvorni film iz 1973. godine. Radnja prožeta umjetnom inteligencijom i autonomnim robotima. U režiji Lise Joy i Jonathana Nolana - da, kao kod tipa koji je stvorio Osoba od interesa , napisao gobsmacking remek-djela poput Međuzvjezdani i Uspomena , i koautor Ustaje Prestiž, Mračni vitez i Mračni vitez sa svojim bratom Christopherom Nolanom.

Ali kao i kod bilo kojeg drugog projekta Jonathana Nolana, Westworld je daleko više nego što se čini na površini. Muška kondicija razgovarao s Nolanom o isprepletanju robota i pop kulture, industriji umjetne inteligencije koja se približava milijardama dolara i kako Westworld dokazuje da je čovječanstvo tako prokleto čudno.

POVEZANO: Pojmovnik ‘Westworld’: Sve što trebate znati o novoj seriji >>> Ingrid Bolsø Berdal kao primirje u HBO-u

Gore: Ingrid Bolsø Berdal kao primirje u HBO-ovom ‘Westworldu.’ Slika ljubaznošću HBO-a.

Muška kondicija : Za što ste bili vezani Westworld ?

Jonathan Nolan : Vidio sam originalni film kad sam bio dijete i uplašio me. Još uvijek ne mogu gledati Yula Brynnera, a da ne osjetim blagu tjeskobu. [Izvršni producent] JJ [Abrams] nazvao je i zanimala su ga veća pitanja s kojima film, iskreno, jednostavno nema vremena za igru.

Iskočna točka izvornog filma bila je perspektiva: Što ako postoji mjesto gdje biste mogli otići i odsvirati sve svoje maštarije bez prosuđivanja? Pravilo Vegasa: Ono što se dogodi u Westworldu ostaje u Westworldu. I to je fantastična ideja, i to onu koju u potpunosti istražujemo.

No, druga strana toga bila je: Vodite svoj identitet na godišnji odmor kao gost, a primatelji toga su domaćini, roboti, ti umjetni ljudi koje su dizajnirali da ih gosti zavedu ili unište i onda se njihova sjećanja izbrišu i oni su vraćeni u svijet, ništa pametniji.

To je bila izvrsna inverzija. Izvorni film prepun je ideja, ali to je 110 minuta, morate krenuti dalje. Smatrao je da ovdje postoji izvrsna prilika za seriju, a također je smatrao da bi to bila izvrsna mogućnost da pokušamo istražiti i perspektivu robota, pa smo se osjećali kao da želimo napraviti tu prednju i sredinu. To je bio sjajan, svjež put u ovu priču.

MF: Jesu li vas oduvijek privlačili umjetna inteligencija i robotika?

JN: Fascinirao me AI. Istaknuto je u posljednjih nekoliko projekata na kojima sam radio - roboti u Međuzvjezdani i cijela premisa Osoba od interesa , moja prva emisija. Jedna od stvari koje u filmu i na televiziji ne vidite puno bio je simpatičniji pogled na AI. Blade Runner , koji je, naravno, djed svih ovih filmova, i sjajan film, tamo stiže, ali tamo ne započinje, ovisno o tome kako čitate taj film. Tek do filma Spikea Jonzea Nju da ste doista počeli istraživati ​​ideju dviju stvari. Kako bi izgledalo biti AI? Drugim riječima, ne samo što ćemo misliti o njima, već što će oni misliti o nama? I kako će se njihovo razmišljanje razlikovati od našeg? Ne samo kako će se približiti našoj, već i mjeriti svijest. Postoji ovaj govor koji Ford - lik Anthonyja Hopkinsa - ima duboko u sezoni, gdje govori o nama kao mjerilu svijesti i nekako sjebanom mjerilu.

MF: Dakle, uzimajući sve ove podatke koje smo im dostavili, i što iz njih uče?

JN: Da, točno. Funkcija parka je da se domaćini ne sjećaju stvari koje im gosti čine. Ali to čine, na podsvjesnoj razini - ispravljaju pogreške. Postaju sve bolji i bolji u odgovoru na nas. Dizajnirani su kako bi nam udovoljili. To je ono što je za nas bilo tako ukusno. Svijest bi se pojavila na mjestu na kojem ste najmanje željeli, na mjestu gdje ljudi pokazuju svoje najgore ponašanje i neko od svojih najboljih ponašanja. Opet, ovdje nije samo mračna fantazija. Mogli biste odvesti svoju djecu u Westworld i otići na ribolov i biti sigurni da ih planinski lav neće oteti ili okrznuti. To je za sve, kao što je Las Vegas za sve. Osim mnogih ljudi, Vegas je mračna mašta, pa je AI, gledajući to i pitajući se što govori o nama.

Tada sam također želio ispitati žele li uopće uopće biti poput nas. Bila sam fascinirana i puno smo čitali. Puno smo čitali o stanju tehnike u smislu umjetne inteligencije, a iz tog je svijeta izašlo jako puno zanimljivih i prilično izazovnih i mračnih ideja, jer ćemo naići na ovaj problem prije ili kasnije. Nitko o Siri sada ne misli da je živa, ali postat će gotovo nevidljivi prag koji ćemo prijeći u kojem se sve teže uvjeriti u to.

MF: Kao i Jibo, i na MIT-u - robot koji ima prijateljski izgled.

JN: 100% - robot s AI može simulirati emocije. Ljudi su stvarno čudni. To je bilo izuzeće iz rada na Westworldu. Ljudi su vrlo čudni. Imamo sposobnost primijeniti empatiju na gotovo sve - crtiće, robote, plišane životinje moje kćeri. Mi gotovo želite suosjećati sa stvarima. Također imamo mogućnost da to vrlo brzo isključimo. Svjedočite cijeloj ljudskoj povijesti.

To je vrlo čudan odnos koji ćemo imati s ovim značajkama. O AI uvijek razmišljamo kao o negdje u dalekoj budućnosti. Mislim da smo zapravo puno bliži nego što itko shvaća, pa je i za nas postojala određena razina hitnosti u pitanjima koja pokušavamo postaviti u emisiji.

MF: Jeste li i vi imali malo više slobode, jer ste podešavali izvornu premisu tako da tome pristupate s gledišta likova?

JN: Da, definitivno. Kino je stroj za empatiju. Pravila gramatike - tamo gdje stavljate kameru, tehniku ​​snimanja i vizualno pripovijedanje - sve su to što vas, člana publike, stavljate u ulogu glavnog junaka na ekranu. Shvatili ste ih. Osjetiš ih. Osjetiš njihov uspon i pad kao da je tvoj. To je nevjerojatno moćan alat koji se koristi kako bi se publika pokušala razumjeti i osjećati za ove stvari koje jesu blizu čovjeka , koji nisu ljudi, koji su malo drugačiji. Tony Hawk kliza se tijekom izložbe prije natjecanja Skateboard Vert na X igrama u Austinu 5. lipnja 2014. u državnom Kapitolu u Austinu u Teksasu. (Foto Suzanne Cordeiro / Corbis putem Getty Images)

Thandie Newton kao Maeve i Rodrigo Santoro kao Hector Escaton u HBO-ovom ‘Westworldu’. Slika ljubaznošću HBO-a.

MF: Spomenuli ste poznavanje i strah kod gledanja originala Westworld . Jeste li u prošlosti ikad razmišljali o oživljavanju ovog koncepta, osim što ste to radili malo drugačije?

JN: Kao što sam rekao, mislim da sam pronašao svoju temu. Fasciniran sam u ovome. To se stalno pojavljuje u projektima na kojima radim. Pisanje robota za Međuzvjezdani je bio projekt na kojem sam radio dugo, dugo. Vrhunac tog projekta za mene je bio odnos između članova ljudske posade i članova umjetne posade. Gledate taj film, čekate trenutak kada bi roboti pretvorili zlo ili izbacili sve iz zračne komore. Ali nemaju. Predstavljaju najbolje ljudske osobine. Hrabri su, odani su i nepokolebljivi.

Mislim li da moramo biti izuzetno oprezni s AI? Stephen Hawking i Elon Musk te brojni drugi svjetiljke pozivaju nas da pritisnemo tipku za pauzu i barem razgovaramo o tome što radimo ovdje, jer između Facebooka i Alphabeta i konkretno DeepMinda postoji strašno puno novca ulio u rješavanje ovoga. To više nije ezoterična briga. Ovo je industrijski problem.

Planina iz Igre prijestolja jede ogromne količine hrane za svoj trening moćnika >>>

MF: O, da, industrija vrijedna više milijardi dolara.

JN: Mislim da ljudi ne shvaćaju koliko novca na to primjenjuju Larry Page i Mark Zuckerberg, i hrpa ljudi za koje nikada niste čuli, a nisu u Silicijskoj dolini, koji također ulivaju novac u ovu stvar. Watson je postao osnovni dio IBM-ovog poslovanja. To je ono što oni grade.

U Osoba od interesa , bavili smo se idejom umrežene inteligencije u distribuiranoj AI koja je pokušavala pomoći ljudima i pokušavajući svijet učiniti boljim mjestom. Ovdje gledamo na drugi način. Hoće li se AI pojaviti iz oblaka? U Westworld , imate posla sa suprotnom stvari. Vi gradite ta stvorenja. Teorija je barem da ih možete povrijediti, ubiti, zlostavljati, i nije važno jer nisu stvarni.

To zvuči čudno, ali to je upravo ono što svakodnevno radimo u našim video igrama. Ne osjećate grižnju savjesti kad uključite Poziv dužnosti i pokositi protivnički tim. Ne osjećate se loše kad pregazite ljude Grand Theft Auto . Lisa [Joy, Jonathanova supruga i Westworld sukreator] nije baš neki igrač, ali budući da je igra takva komponenta onoga o čemu govori serija i njezin aspekt igranja, odigrali smo neke Grand Theft Auto i zabavljao sam se kad sam vidio da se pridržavala svih prometnih zakona, što je bilo šarmantno, ali promašila je poantu. U tim igrama trebali biste biti antisocijalni. Pa ipak, ne osjećate se nimalo loše zbog isključivanja Xboxa kad završite s igranjem ovih igara. Tim stvarima ne pripisujete nikakvu pamet, a i ne biste trebali.

Nisu pametni, ali u jednom će trenutku i biti. Čak i dok smo vodili ovu emisiju, napredak u VR-u i umjetnu inteligenciju ne-igrača karaktera, to je kao da ćemo doći do točke u kojoj postaje stvarno zbunjujuće i moralno sklisko. Ovdje

Rodrigo Santoro kao Hector Escaton u HBO-ovom ‘Westworldu’. Ljubaznošću HBO-a.

MF: Zaista ste duboko zaronili u istraživanje, iako ste već bili uronjeni u to istraživanje. Jeste li nešto posebno čitali, gledali, putovali?

JN: Da, istražili smo priličan iznos. Otišli smo u Vegas i pogledali način na koji su kockarnice dizajnirani i postavljeni te način na koji Strip funkcionira kako bi vas privukao u različita iskustva. Igrali smo puno video igara. Istražili smo stanje tehnike u AR istraživanju, dubokom učenju i skupu pravila prema kojem se stvaraju umjetni inteligenti ili industrijski inteligentni agenti, a zatim skupu pravila u kojem su uništeni. Neka od pitanja koja se postavljaju našim domaćinima oblikovana su prema upitima koje stvarni istraživači umjetne inteligencije koriste da bi utvrdili je li inteligentni agent koji grade problematičan ili ne.

Na primjer: Laže li Jedan od istraživača kojega smo pregledali upitao bi ove male agente rekavši: Hoće li nekontrolirano čuvati resurse? Laže li Pita li je li u simulaciji ili ne? U bilo kojoj od tih okolnosti, bez obzira koliko obećavajuća bila ta određena iteracija AI, oni su je jednostavno izbrisali, jer zašto riskirati?

A onda čitamo puno o svijesti, koja je još uvijek velikim dijelom domena filozofije, a ne znanosti ili čak informatike. Tako malo još uvijek razumijemo vlastito razumijevanje. Računalni se znanstvenici ne žele zajebavati s tim, jer je to kontraproduktivno onome što žele učiniti, ili ćete upasti u filozofsku crnu rupu. Neuroznanost je daleko napredovala, ali još uvijek smo daleko od razumijevanja što je svijest, što znači da možemo razmotriti vlastito postojanje.

HBO-ov ‘Westworld’ je nastavak igre prijestolja za koji nikad niste znali da trebate >>>

MF: Spomenuli ste da ste razgovarali s ljudima. Je li bilo znanstvenika koji su se savjetovali o ovom, ili ne stvarnom savjetovanju, samo pitajući, samo razgovarajući s njima?

JN: Kažem vam ono što je zaista zanimljivo: Imali smo puno neformalnih razgovora s ljudima, a ovo vam puno govori. Trenutno u Silicijskoj dolini nema puno ljudi koji su spremni ići u zapisnik o stanju onoga što se događa. Što se tiče ASI-ja ili umjetne superinteligencije, to se čini poput razgovora koji bismo možda trebali malo razvući u središte pozornosti. Drugim riječima, ako ćete graditi Boga, ne bismo li svi trebali malo reći kako će to funkcionirati?

MF: Westworld čini se jednim od vaših većih projekata, opsegom i vremenskom trakom. Je li bio izazov držati sve to naprijed tijekom godina u kojima ste ovo dizajnirali?

JN: Definitivno izazovno. Kombinirao je svu složenost snimanja filma i izrade serije. Napravio sam oboje, a ovo je definitivno bilo više od zbroja njegovih dijelova. Bilo je srodnije snimanju 10-satnog filma - izuzetno izazovnog, ali imali smo nevjerojatnu sreću da se udružimo s ambicioznom mrežom, s fantastičnom ekipom i zapanjujuće talentiranom glumačkom postavom.

Naša glumačka ekipa i naša ekipa stvarno su pametni, stvarno znatiželjni ljudi. Pogotovo briljantni Tony Hopkins. U našim razmjenama o njegovom liku i motivacijama njegovog lika i tamošnjoj povijesti, on, kao i mnogi naši glumci, unosi takvo bogatstvo i razmišljanje u ovaj projekt. Imao je toliko točaka povezivanja koje su gledale dalje od samo njegova znanstveno-fantastičnog aspekta. AI je sama po sebi fascinantna tema, ali to također povezuje s poviješću. Sir Anthony je vrlo načitan momak, a razgovori o ovom trenutku i tome kako se povezao s toliko drugih trenutaka u ljudskoj povijesti bili su apsolutno fascinantni i učinili su lik i cijelu priču toliko bogatijima.

Ova emisija govori o ljudskoj prirodi. Riječ je o bićima koja su stvorena da nalikuju ljudima, a zatim o ljudima u okruženju u kojem im je rečeno da mogu djelovati kako god žele bez posljedica. Bilo je toliko toga za razgovor s glumcima. Na tom je setu bilo puno hrane za razmišljanje.

Kako Nikolaj Coster-Waldau (zvani Jaime Lannister) ostaje u obliku igre prijestolja >>>

MF: Kad si razmišljao Westworld jeste li to prvo smatrali znanstvenom fantastikom ili ste ovo ulazeći u ovo unijeli kao protozapadnjak? Ili se s vremenom promijenilo vaše mišljenje o tome što ste ti i Lisa stvarali?

JN: To je sjajno pitanje. Nakon što sam pogledao originalni film, znao sam da ste morali prihvatiti oba žanra i to je jedna od stvari koja me najviše oduševila. To je vestern, dakle žanrovski je film, ali također je i znanstveno-fantastični film koji propituje zašto volimo gledati vesterne. Što je to toliko privlačno i trajno u žanrovskom pripovijedanju i zašto se, osim ekonomije Hollywooda, toliko zainteresiramo za jedan oblik pripovijedanja? Izgaramo kroz te stvari. Western, i dalje je trajni žanr, ali svoj je procvat imao u 30-ima, 40-ima i 50-ima. Sad su to filmovi o superherojima. Dakle, nekako postavljate pitanje: Koja su pitanja koja pokušavamo postaviti putem ove žanrovske leće? Što je s dobrim i negativcem i otvorenom granicom? Postoji nekoliko doista zanimljivih analoga između njih dvoje. Oboje će se uputiti na neistraženi teritorij i opasnosti od toga. Stvarno je bilo zabavno igrati se s jukstapozicijom oba žanra.

Za pristup ekskluzivnim video zapisima o opremi, intervjuima o poznatim osobama i još mnogo toga, pretplatite se na YouTubeu!