AlphaGo (2016): Potez 37

Seoul, 9. ožujka 2016., hotel Four Seasons. Recepcija je pretrpana kamerama kao da dolazi predsjednik, a dolazi zapravo — igra. Konkretno, ploča od devetnaest puta devetnaest crta, tristo šezdeset i jedno polje, na koje se stavljaju crni i bijeli kamenčići dok jedna strana ne opkoli drugu. Zove se Go, staru je oko tri tisuće godina, i do prije nekoliko mjeseci bila je posljednja soba u kući u koju računalo nije moglo ući.

Šah je pao 1997. — sjetit ćeš se toga kad dođeš do poglavlja o Deep Blueu — i cijela je Amerika gledala Kasparova kako gubi kao da gleda vojnika koji se povlači s bojišnice. Ali Go je, po broju mogućih pozicija na ploči, brojka koju mozak fizički ne može zamisliti kao količinu: mogućih pozicija ima više nego atoma u poznatom svemiru. Ne metaforički — stvarno, broj s preko sto sedamdeset nula iza sebe. Zato su ljudi koji su cijeli život proučavali strojno učenje, ljudi kojima nije bilo stalo do patriotizma nego do matematike, mirno govorili: deset, dvadeset godina, možda i više, prije nego stroj pokuca na ta vrata.

Lee Sedol nije čekao da mu to netko objašnjava. Osamnaest titula svjetskog prvaka, čovjek koji je Go igrao onako kako Messi igra nogomet — ne trudom, nego instinktom koji se ne može naučiti, samo prepoznati. Kad ga je pozvao Google DeepMind — londonski laboratorij za umjetnu inteligenciju koji je Google kupio baš zato da mu razvija strojeve koji uče sami, bez upute — da odigra pet partija protiv programa zvanog AlphaGo, nagrada je iznosila milijun dolara. Lee je na konferenciji za novinare rekao da će pobijediti pet–nula. Ne iz arogancije — iz iskrenog uvjerenja. Isto uvjerenje koje su devedesetih imali veliki majstori šaha, samo malo tiše rečeno, jer je Koreja zemlja gdje se stvari govore s poštovanjem prema protivniku, čak i kad je protivnik grafička kartica.

Cijela Koreja je gledala. Ne u prenesenom smislu — stvarno, državna televizija je prekidala program, barovi su umjesto nogometa puštali partiju Goa, a igrači Goa, od klinaca u školama do umirovljenika u parkovima, sjedili su pred ekranima kao pred nečim što će im reći nešto o njima samima. Amerika je 1997. branila utvrdu logike. Koreja je 2016. branila utvrdu intuicije, umjetnosti, onog nešto što se u Go-u zove »ki« — osjećaj za ploču koji se ne uči iz knjige, nego se, kažu, upije kroz godine igranja dok razmišljanje ne postane refleks. Devetnaest godina razmaka, ali osjećaj identičan: ovo je posljednja stvar koju znamo raditi bolje od stroja, pa da vidimo.

Prva partija odigrana je 9. ožujka, druga 10. ožujka. I baš u toj drugoj partiji, negdje oko poteza broj trideset i sedam, dogodilo se nešto što ni komentatori na sceni, ni gledatelji kod kuće, ni sam Lee Sedol nisu znali kako protumačiti. Ne poraz. Nešto gore i čudnije od poraza — potez za koji nitko na svijetu, uključujući ljude koji su Go igrali cijeli život, nije imao objašnjenje.

Vani kiša, unutra kamere. Lee Sedol sjeda za dasku od 19x19 crta i novinarima izjavljuje da očekuje pobjedu 5:0, možda u najgorem slučaju 4:1. Kaže to ne iz arogancije, nego iz nešto goreg: iz potpune sigurnosti. Isto ono uvjerenje koje je Amerika osjećala prije devetnaest godina kad je Kasparov sjeo protiv Deep Bluea, samo pojačano za jedan detalj — Go, za razliku od šaha, nije trebao biti moguć za stroj. Ne za deset godina. Za pedeset, možda. Neki su govorili — nikad.

Da bi shvatio zašto je to toliko nevjerojatno, zamisli šah kao veliku, ali konačnu gomilu kamenja: stroj može, grubom silom, provjeriti dovoljno budućih poteza da nadjača čovjeka. Upravo je to Deep Blue radio — brute force, stotine milijuna pozicija u sekundi, bez ikakve ideje o »lijepom« potezu, samo golo računanje. Go tu istu taktiku pojede za doručak i odmah je ispovraća. Brute force na Gou ne znači da bi stroj bio »sporiji«, znači da je pokušaj nemoguć — svemir bi se ugasio prije nego bi stroj stigao isprobati sve varijante samo jedne jedine partije.

Zato je Go bio posljednja utvrda. Ne zato što je »teži« od šaha na neki apstraktan način, nego zato što ga dobri igrači ne igraju računanjem — igraju ga osjećajem. Velemajstor pogleda ploču i kaže da mu se potez »sviđa«, a ne zna uvijek objasniti zašto — jednostavno miriše dobro. To je bilo ono što je trebalo strojevima nedostajati zauvijek: intuicija. Stvar koju ne možeš programirati nizom if-else naredbi, koliko god ih nabacao jednu na drugu.

Onda se pojavljuje DeepMind, a na njegovom čelu lik koji zvuči kao da je izmišljen baš za ovu priču: Demis Hassabis. Šahovsko čudo od djeteta, doktorat iz neuroznanosti i — ovo je dio koji svi preskoče — bivši dizajner videoigara. Radio je na igrama Theme Park i Black & White prije nego što se vratio na fakultet proučavati kako pamćenje i mašta funkcioniraju u ljudskom mozgu. Čovjek koji je doslovno provjeravao pitanje »kako stroj da nešto poželi« kao svoj životni projekt, a ne kao marketinški slogan.

Pristup koji je njegov tim smislio za Go zvuči, kad ga skineš s pijedestala, gotovo uvredljivo jednostavno. Dvije neuronske mreže — softverski sustavi modelirani, vrlo grubo, po uzoru na to kako radi mozak, koji uče prepoznavati uzorke iz gomile primjera umjesto da im netko ukuca pravila. Jedna, zovu je »policy network«, gleda ploču i predlaže: »ovih nekoliko poteza vrijedi razmotriti«, umjesto svih milijardi. Druga, »value network«, gleda poziciju i kaže: »ovo mi izgleda kao pobjeda« ili »ovo smrdi na katastrofu«, bez da igra do kraja partije da to provjeri. Spoji te dvije stvari s Monte Carlo pretragom — tehnikom koja umjesto da izračuna sve, nasumično isproba gomilu razumnih nastavaka i vidi što prevladava — i dobiješ stroj koji ne broji svemir, nego, otprilike, nagađa pametno.

Ali najvažniji dio dolazi tek nakon toga. AlphaGo je prvo učio iz trideset milijuna poteza iz partija stvarnih ljudi, kopirajući stil profesionalaca kao student koji gleda snimke majstora. To ga je dovelo do razine dobrog amatera. Sve ono što ga je gurnulo dalje, u prostor gdje je počeo obarati legende, dogodilo se kad su ga pustili da igra sam protiv sebe, milijune partija, noć za noć, bez ljudskog protivnika u blizini. Taj postupak zovu „self-play” — stroj sam sebi bude i učitelj i protivnik, kažnjava se i nagrađuje dovoljno puta da počne otkrivati stvari koje mu nitko nije rekao.

Lee Sedol to, dok govori novinarima »pet nula«, ne zna. Nitko izvan zgrade u kojoj sjede inženjeri DeepMinda to ne zna, ne stvarno. Za njih je AlphaGo još jedan pokušaj u dugom nizu programa koji su se hvalili i onda tiho nestali. Napetost vani i dalje raste. Sutra je prva partija.

9. ožujka 2016., hotel Four Seasons u Seulu. Devet ujutro, dvorana premrežena kablovima kao da se snima izlijetanje rakete, a zapravo se snima hoće li Lee dopustiti stroju od Googlea da mu dodirne ploču. Stigao je smiren, gotovo dosadan u samopouzdanju. Tjedan dana ranije rekao je da će pobijediti 5:0, i vjerovao je u to onako kako čovjek vjeruje da će sutra izaći sunce.

Prva partija traje tri i pol sata. Tri i pol sata u kojima AlphaGo igra sporo, gotovo dosadno — nema ničeg spektakularnog, nema poteza koji bi natjerao komentatore da ispuste olovku. Samo neumoljivo, strpljivo stiskanje. Lee gradi, AlphaGo odgovara, i negdje oko poteza sto osamdeset svima u dvorani postaje jasno da se pozicija ne kreće u smjeru u kojem bi trebala. U četiri popodne Lee predaje partiju.

Lee Sedol izlazi s konferencije za novinare i izgovara rečenicu koja će ga proganjati ostatak tjedna: da je iznenađen, da nije mislio da će izgubiti, ali da vjeruje u sljedeće četiri partije. Primijetit ćeš nešto — ovo nije čovjek koji panicira. Ovo je čovjek koji upravo mora prekvalificirati protivnika iz „jako dobar program” u „nešto što ne razumijem”, a to je psihološki mnogo teži zadatak od gubitka jedne partije Go-a.

Ono što se stvarno dogodilo tog dana nije bilo to da je stroj bio brži ili da je preciznije brojao poteze — brojanje je, otkad je Deep Blue igrao šah, davno prestalo biti vijest. Dogodilo se to da je AlphaGo igrao poteze koji nisu bili ni agresivni ni defenzivni po ljudskim mjerilima, nego jednostavno — drugačiji. Go zajednica, ljudi koji su cijeli život posvetili čitanju obrazaca na ploči od 19×19 crta, gledala je partiju i nije je mogla uklopiti u nijednu poznatu školu. Kao da netko čita rečenicu na materinjem jeziku i razumije svaku riječ, ali ne shvaća zašto su poredane baš tim redom.

Do večeri, korejski portali su preplavljeni. Ne šokom da je stroj pobijedio — to je, teoretski, bilo najavljeno kao mogućnost, koliko god nevjerojatno zvučalo. Šok je bio u tome koliko se lako to dogodilo. Nema drame, nema spektakularnog poteza za pamćenje, samo osjećaj da je nešto fundamentalno pomaknuto, tiho, dok je pola svijeta gledalo izravan prijenos i mislilo da gleda formalnost prije neizbježne Leejeve pobjede.

U pozadini dvorane suzdržano slavi DeepMindov tim, čiji su inženjeri AlphaGo „nahranili” milijunima odigranih partija prije nego što je uopće sjeo za ploču. Slave kao ljudi koji znaju da je jedna partija samo jedna partija. Ali negdje u toj suzdržanosti već se sluti da je najveći udarac tek na putu. Druga partija je već sutra. Svijet Go-a, u tihoj panici, sad računa koliko mu je vremena ostalo do potpune redefinicije igre — a odgovor, iako to još nitko ne zna, glasi: manje od dvadeset četiri sata.

10. ožujka 2016., Four Seasons Seoul, partija broj dva. Rano popodne po lokalnom vremenu, nakon otvaranja koje je do tog trenutka izgledalo — pazi, koristim tu riječ s oprezom — normalno. Lee Sedol je bijeli, AlphaGo crni, a poteze izmjenjuju u ritmu koji svaki iole ozbiljan igrač Go-a prati kao rečenice na svom jeziku. AlphaGo, doduše, nema ruke ni oči — nema tijelo kojim bi sjeo za stol i pomaknuo kamen — pa mu poteze na stvarnoj ploči, prema izračunu koji program izbaci, fizički postavlja čovjek, inženjer iz DeepMinda koji sjedi s druge strane stola umjesto njega. A onda, na 37. potezu, stroj odigra kamen na petu liniju, na desnoj strani ploče, na mjesto gdje — po svemu što se zna o Go teoriji, po stotinama godina zapisanih partija, po svakom udžbeniku koji postoji — se jednostavno ne igra.

Peta linija. Ako ti ovo ne znači ništa, evo prijevoda: u Go-u je rub ploče siguran, a centar je moć, i postoji tanka, dobro poznata granica gdje kamen ima smisla i gdje je — po Go teoriji, tako da kažem — čisto gubljenje vremena. Treća i četvrta linija su standard, tu se igraju otvaranja koja djeca uče prva. Peta linija, na tom mjestu, u toj fazi partije? To se ne radi. Ne zato što je zabranjeno, nego zato što je glupo. Svaki Go učitelj na planetu bi tog dana, da mu učenik odigra taj potez, rekao istu rečenicu: što to radiš?

I lako je razumjeti tu sumnju svih koji su gledali. Zamisli da pratiš šahovsku partiju velemajstora i on odjednom, u drugom potezu, pomakne kralja u sredinu ploče, bez ikakve prijetnje na vidiku. Ne bi pomislio »genijalno«. Pomislio bi »netko je pritisnuo pogrešnu tipku«. Točno se to dogodilo i ovdje — samo u igri u kojoj se nijanse mjere u stoljećima nakupljene intuicije.

Lee Sedol na svojoj strani stola ne kaže ništa; profesionalci Goa se ne komentiraju usred partije, bonton je nijem kao crkva. Ali gleda ploču dulje nego što gleda inače. Puno dulje. I onda, na iduću stanku, ustaje i izlazi iz prostorije.

Petnaest minuta. To je, prijavljeno tek kasnije, koliko mu je trebalo da se vrati za stol. Petnaest minuta hodanja po hodniku hotela, sam, s najboljim umom za tu igru koji je Zemlja u tom trenutku imala, pokušavajući razumjeti potez koji upravo ne razumije. Ne zato što je slab igrač. Zato što je potez, u tom trenutku, nerazumljiv svakom igraču koji je ikad postojao.

Ostatak partije potvrđuje ono što se u tom hodniku možda već sluti, a čemu se još ne vjeruje. Otprilike pedesetak poteza kasnije, kamen na petoj liniji koji je izgledao kao amaterska greška pokazuje se kao temelj cijele desne strane ploče — polako, tiho, bez fanfare, pretvara se u strukturu koju Lee jednostavno ne može probiti. Nije bio bug. Bio je plan, samo napisan jezikom koji ljudi još nisu naučili čitati.

I tu je vrijedno stati i malo demistificirati stvar, jer ovaj trenutak zaslužuje dozu tehničke prizemljenosti umjesto čiste magije. AlphaGo taj potez nije izvukao iz neke baze ljudskih partija koje je progutao — kroz milijune odigranih partija profesionalaca naučio je, doduše, kako Go otprilike izgleda, ali taj konkretan potez, na tom mjestu, u toj situaciji, ne postoji nigdje u ljudskoj povijesti igre. Sustav je do njega došao kroz vlastitu simulaciju milijuna mogućih nastavaka, procjenjujući koji put najvjerojatnije vodi do pobjede — i procijenio je, hladno i bez trunke sujete, da je vjerojatnost da bi ga ljudski igrač uopće razmotrio otprilike jedna naprama deset tisuća. Ne zato što je potez loš. Zato što je izvan prostora koji su ljudi, u tisućama godina igranja, i pomislili istražiti.

I to je ono što ovaj potez čini težim od same pobjede. Za razliku od Deep Bluea, koji je Kasparova 1997. slomio brzinom i pamćenjem, brojeći varijante brže nego što je čovjek stigao i zamisliti da se broji, AlphaGo, u tom trenutku na petoj liniji, nije bio brži čovjek. Bio je nešto što je gledalo u istu ploču kao Lee Sedol i vidjelo drugu igru. Kreativnost — riječ koju smo čuvali kao posljednju ogradu, onu koja razdvaja stroj koji računa od uma koji stvara — upravo je, tiho, na desnoj strani jedne ploče u Seoulu, pokazala da se ne treba nužno roditi u ljudskoj glavi.

Lijep. Ne točan, ne efikasan, ne optimalan — lijep. Riječ koju čovjek koristi za umjetnost, izvučena iz usta profesionalca dok gleda potez koji je odigrala mreža brojeva bez svijesti da je ono što radi lijepo, ili da radi bilo što osim minimiziranja jedne funkcije gubitka (dosadan matematički izraz za jednu jedinu stvar: koliko je trenutna procjena udaljena od pobjede — AlphaGo ne 'osjeća' ništa, samo neumorno pokušava tu brojku svesti na nulu). Filozofi će se svađati godinama oko toga što taj trenutak znači. Toga dana, u toj sobi, značilo je jedno: prostorija puna ljudi koji su cijeli život posvetili jednoj igri upravo je gledala kako netko — nešto — proširuje granice te igre, dok je sam tim koji je tu stvar napravio sjedio nekoliko prostorija dalje, gledajući isti ekran, jednako iznenađen.

13. ožujka 2016., Seoul, 13 sati. Serija je već odlučena — AlphaGo vodi 3:0, meč je matematički završen, a Lee Sedol igra partiju koja ni po čemu ne mora značiti ništa. Novinari u dvorani su umorni, kamere su umorne, cijela Južna Koreja gleda kroz prste, kao kad ti prijatelj gubi u kartama i samo želiš da već završi. Lee sjeda za ploču s licem čovjeka koji nema što izgubiti. Ispada da je to najopasnije stanje u kojem možeš zateći velemajstora.

Do sredine partije igra teče uobičajeno — AlphaGo gradi prednost onako kako je gradio i u prethodne tri partije, strpljivo, bez drame, kao računovođa koji zbraja poene dok ti polako gubiš volju za životom. Onda, na potezu 78, Lee stavi kamen na mjesto koje uživo analitičari nisu ni razmatrali. Go redakcije će ga kasnije zvati God's touch — božanski dodir. Jedan komentator u tom trenutku bio je suzdržaniji: rekao je samo da to nije potez koji se igra, nego potez koji se osjeti.

Do kraja partije AlphaGo se, doduše, oporavio koliko-toliko racionalno — u trenutku kad je algoritam prepoznao da je pozicija izgubljena, jednostavno je odustao. Ne simbolično, nego stvarno: DeepMind je poslala signal predaje. Lee Sedol je pobijedio. Jedinu partiju u pet. Na kraju meča bilo je 4:1 za AlphaGo, da, ali ta jedna pobjeda je ono što je Koreja pamtila tjednima.

Dvorana je eksplodirala na način koji se rijetko viđa na Go turnirima — pljesak, uzvici, novinari koji su cijeli tjedan pisali o kraju čovječanstva sad su kucali naslove poput „Lee spašava čast vrste”. Malo pretjerano za jednu partiju stolne igre, ali ljudima je u tom trenutku trebao razlog za slavlje, i uzeli su ga bez pitanja.

Ono što mediji te večeri nisu previše naglašavali, jer takva vijest se ne prodaje tako dobro: obje strane su te partije pokazale i genij i sljepilo. AlphaGo je odigrao stotine poteza koje nijedan čovjek ne bi vidio, a onda se srušio na jednom mjestu koje bi svaki solidan amater vjerojatno preživio bolje. Lee je gubio tri partije zaredom protiv protivnika bez umora, bez straha i bez ega — i onda je, u trenutku kad je najmanje imao što izgubiti, pronašao potez koji analitičari još godinama proučavaju kao udžbenički primjer ljudske intuicije. Nijedna strana nije bila čudovište ni savršenstvo. Bile su to dvije različite vrste pogrešivosti koje su se, jednog popodneva, susrele na istoj ploči od devetnaest puta devetnaest linija.

Dva dana kasnije, 15. ožujka, uslijedila je peta i posljednja partija — AlphaGo je pobijedio. Ali onaj jedan dan, 13. ožujka, ostaje upisan kao dokaz da čak i stroj koji je izmislio potez nezamisliv čovjeku može, na trenutak, izgubiti iz vida ono očito.

15. ožujka 2016. AlphaGo dobiva petu partiju i meč završava rezultatom 4:1. To je brojka koja ide u naslove, ali koja zapravo najmanje govori o tome što se dogodilo u toj dvorani u Seulu. Samo jedan poraz manje nego što je Lee Sedol sam sebi predviđao — sjećaš se, rekao je 5:0 u svoju korist prije nego što je sjeo za ploču. Umjesto toga dobio je jednu jedinu pobjedu, onu s potezom 78, i tu će partiju do kraja života spominjati kao najvrjedniju u karijeri. Ne zato što je bila lagana. Zato što je bila jedina.

Logično bi bilo da tu priča stane u tugu — legenda ponižena, igra osvojena, kraj jednog razdoblja. Mediji su je tjedan dana tako i odglumili. Onda se dogodilo nešto što nitko u toj dvorani nije očekivao: Go nije umro. Procvao je. Broj ljudi koji uči igru skočio je u godinama nakon meča, ne pao. Go akademije u Kini i Južnoj Koreji pune se djecom čiji su roditelji gledali onu emisiju u ožujku 2016. i pomislili — ako je ovo dovoljno duboko da izazove strojnu inteligenciju, vrijedi da moje dijete to nauči.

Ovo je, ako se sjećaš, ista teza koju smo skinuli s police kod Deep Bluea devetnaest godina prije — šah nije umro kad je Kasparov pao, šah je samo dobio trenere koji nikad ne spavaju i nikad se ne umaraju. Go je dobio isti dokaz, samo brži i teatralniji, uživo, pred kamerama cijele Azije. Stroj ne mora ubiti igru da bi je promijenio. Dovoljno je da pokaže da postoji prostor iza horizonta koji si mislio da je zid.

A onda je DeepMind, kao da im prva bomba nije bila dovoljna, detonirao drugu. AlphaGo Zero, nasljednik iz 2017., nije naučio igrati gledajući ljudske partije — onih trideset milijuna poteza koje je AlphaGo prožvakao za trening. AlphaGo Zero je dobio samo pravila igre i bio ostavljen sam sa sobom. Za nekoliko dana samoigre nadmašio je svog prethodnika. Nije mu trebao čovjek ni kao učitelj, ni kao startna točka, ni kao izvor bilo kakvog znanja o tome što je »dobar« potez. To je druga vrsta potresa od Poteza 37 — Potez 37 je pokazao da stroj može misliti izvan čovjeka, a AlphaGo Zero je pokazao da stroju čovjek od početka nije bio ni potreban. Pitanje koje to ostavlja za kasnije poglavlje — je li čovjek uopće nužna faza na putu do inteligencije, ili samo zgodna prečica — nije se dalo zatvoriti u ožujku 2016., ali sjeme je posađeno baš tada.

Dok je zapad meč gledao kao kuriozitet, kao egzotičnu igru na koju je jedan londonski startup potrošio previše pažnje, u Kini se gledalo drukčije. Vlada je pratila meč kao demonstraciju sile, ne kao sportski događaj. Godinu dana kasnije Kina objavljuje nacionalni plan da postane globalni lider u umjetnoj inteligenciji do 2030. Poveznica nije slučajna ni prešućena — kineski dužnosnici su je sami navodili. Jedna partija Go-a u Seulu, i geopolitika dobiva novu stavku na dnevnom redu.

Ono što je zapravo prošlo kroz tu dvoranu u ožujku 2016. nije bila vijest da su strojevi postali brži od nas u računanju — to znamo od Deep Bluea, od kalkulatora, od abakusa. Prošla je vijest da postoji nešto što računa drukčije od nas, i da to drukčije ponekad izgleda kao ljepota koju čovjek nikad ne bi smislio. Potez 37 nije bio dokaz snage. Bio je dokaz da je uma, kad ga dovoljno dobro sagradiš, više od jedne vrste.