Utrka titana (2023)

Studeni 2022. do ožujka 2023. — samo četiri mjeseca. Toliko je trebalo da se najveća tvornica novca u povijesti tehnologije, ona koja je desetljeće imala jedan posao (drži pretragu, naplaćuj oglase, ponavljaj), pretvori u zgradu punu ljudi koji trče hodnicima vičući riječ koja se u internim memorandumima ne piše slučajno: »code red«. Crveni alarm. Onaj isti koji povučeš kad zgrada gori, a ne kad kvartalni rezultati padnu za dva posto.

E, sad je gorjelo. Sundar Pichai, čovjek koji vodi Google, zvao je Larryja Pagea i Sergeya Brina — dvojicu koji su tvrtku osnovali, formalno napustili operativne uloge i, kolokvijalno rečeno, sjedili na plaži s koktelom u ruci — i pitao ih hoće li se uključiti. Ne na kavu. Na posao. Osnivači Googlea, opet u sobama, opet gledaju kod. To ti kaže sve što treba znati o tome koliko je ChatGPT uspio uzdrmati nekoga tko je mislio da mu baš nitko ne može dotaknuti temelje.

2023. je godina kad je tišina koja je vladala nakon što je OpenAI bacio granatu u sobu konačno prekinuta — i ne s jednim odgovorom, nego s pet strana koje su odjednom krenule istovremeno, iz istog razloga, prema istom cilju, ali sa potpuno različitim planovima kako do njega doći.

Microsoft je već sjedio na milijardama uloženim u OpenAI i sad je to htio pretvoriti u nešto opipljivo — pa je ubacio AI u Bing, u Word, u Excel, u svaki kutak vlastitog carstva, brzinom kojom se inače ne rade ni sigurnosne zakrpe. Anthropic, tvrtka koju su osnovali ljudi koji su fizički napustili OpenAI jer im se nije svidjelo kamo to vodi, tiho je gradila svoju verziju — sporije, opreznije, s riječju »safety« zalijepljenom na svaki drugi slajd. Meta, koja je do jučer bila poznata po tome da nešto pusti u svijet i onda gleda što gori, odlučila je da ovaj put pusti model — cijeli, zajedno s »težinama« (to su, pojednostavljeno, milijarde brojeva koji određuju kako model razmišlja — recept, ne samo gotovo jelo), i to besplatno, svima — potez koji je jednako zbunio konkurenciju i oduševio pola interneta.

Iza svega toga stoji novac koji se ne mjeri u milijunima nego u desecima milijardi, i riječi koje su do jučer živjele u filozofskim seminarima, a sad se odjednom nalaze na naslovnicama: alignment (kako natjerati model da radi ono što stvarno želimo, a ne ono što smo mu nespretno rekli), x-risk (kratica za „egzistencijalni rizik” — u prijevodu, scenarij u kojem stvar koju si stvorio odluči da tebe više ne treba) i safety, sigurnost, koja u ovom kontekstu ne znači lozinke i firewall, nego pitanje hoće li ti softver jednog dana odgovoriti nešto što uopće nisi htio čuti. Akademska niša postala je stavka na dnevnom redu vlada.

Svaki tjedan novi model. Svaki tjedan novi rekord. I nitko, baš nitko, u tom trenutku nije znao tko će za godinu dana voditi utrku — samo se znalo da onaj tko izgubi ovu rundu možda više neće imati priliku sudjelovati u sljedećoj.

Zamisli sastanak. Ne bilo kakav, onaj sastanak. Prosinac 2022., Mountain View, i u prostoriji sjede ljudi koji su prije nekih dvadeset godina promijenili način na koji čovječanstvo pronalazi informacije. Sad gledaju u ekran na kojem netko iz OpenAI-a — firme koju je Google donedavno smatrao zanimljivom, ali sitnom igračicom — pokazuje chatbot koji odgovara na pitanja bez ijednog reklamnog banera, bez deset plavih linkova, bez ijednog SEO trika. Samo odgovor. I u toj prostoriji netko izgovara dvije riječi koje su, kad izađu iz zidova Googlea, uvijek loša vijest: code red.

Da razjasnimo o čemu je panika. Google je tražilica koja zarađuje na jednoj jedinoj stvari — na tome da ti ne da odgovor odmah, nego te postavi ispred deset plavih linkova i reklame iznad njih, pa sam biraš kroz koja vrata ćeš proći (i kroz koje reklame na putu do njih). To je model vrijedan otprilike toliko koliko je Google vrijedan, dakle poprilično. A onda se pojavi chat koji ti jednostavno kaže odgovor, u jednoj rečenici, bez klika. Cijela ekonomija tražilice, ona koju smo detaljno rastavljali kad je pretraga (K4, pogl. 15) postala industrija sama za sebe, sad izgleda kao model koji netko može zaobići jednim dobro postavljenim promptom. Nije da je ChatGPT stvarno bio zamjena za pretragu, tehnički nije ni blizu, ali osjećaj ugroženosti nije tehnički problem. Osjećaj ugroženosti je poslovni problem, i to najgori mogući.

Pa se dogodi ono što se dogodi kad divovi osjete strah — vrate se osnivači. Page i Brin se, unatoč jahtama i savjetodavnim ulogama, opet pojavljuju na sastancima o proizvodu. Ne zato što su htjeli, nego zato što je Pichai sasvim razumno pozvao ljude koji su firmu izgradili da pomognu obraniti ono što su izgradili.

Odgovor je stigao brzo, možda i previše brzo. Bard, Googleov chatbot i odgovor na ChatGPT, najavljen je u veljači 2023. i lansiran s hitnošću firme koja gasi požar vlastitim rukama jer nema vremena čekati vatrogasce. Problem je bio taj što se požar gasio pred kamerama — u promotivnom materijalu, Bard je na pitanje o svemirskom teleskopu James Webb (onom koji gleda dublje u svemir nego bilo što prije njega) dao odgovor koji je sadržavao činjeničnu grešku. Jednu. U jednom demou. I ta jedna greška, uhvaćena i raspisana po svim tehnološkim portalima, izbrisala je tog dana preko sto milijardi dolara Googleove tržišne vrijednosti. Ne zato što je greška bila toliko strašna, nego zato što je poručivala nešto puno gore: firma koja je izumila cijelu tehnologiju sad izgleda kao da je juri, a ne vodi je.

I tu je runda broj jedan gotova — a rezultat je neugodan za pobjednika prošlog desetljeća. Google je ušao u ovu utrku s najboljom kartom u ruci, kartom koju je sam nacrtao, i uspio je, u nekoliko mjeseci, izgledati kao onaj koji trči za vlakom koji je sam projektirao. Sljedeći na potezu je konkurent koji nikad nije morao izmišljati vlastiti transformer — onu matematičku arhitekturu iz 2017. na kojoj danas počiva cijela ova generacija umjetne inteligencije, a koju je, ironično, izumio baš Google — samo ga je znao dobro upotrijebiti, i imao je nešto što Google nije: partnera s dubokim džepom i još dubljom motivacijom da Google konačno makne s pijedestala.

Ako je Google u prošloj rundi izgledao kao netko koga su probudili nasred spavanja, Microsoft je izgledao kao netko koji je čekao taj poziv cijelu noć, obučen, s cipelama na nogama. I nije čudno. Satya Nadella je još 2019. potpisao ček od milijardu dolara za OpenAI kad je ta tvrtka bila gomila istraživača s velikim idejama i praznim džepovima (K6, poglavlje 26 — sjećaš se, ono ulaganje koje je tad zvučalo kao dobrotvorni projekt). Sad je taj ček dozreo. ChatGPT je bio dokaz koncepta, a Microsoft je imao ugovorno pravo da taj koncept ugura u svaki proizvod koji prodaje. I ugurao ga je — brzo, glasno, bez puno skromnosti.

Nadella je u to vrijeme izgovorio rečenicu koja je odmah postala citat godine: da će natjerati Google da pleše. Nije to bila slučajna hvalisavost — bila je to poanta. Deset godina Microsoft je u javnosti bio ona dosadna korporacija koja pravi Excel i gura Windows update u najgori mogući trenutak. Sad je iznenada bio agresivac, izazivač, klinac koji je upravo dobio novi bicikl i vozi ga nasred ulice bez ruku na volanu. Preobrazba iz K6, poglavlje 26 — Microsoft koji se iz dosadnog giganta pretvara u nešto što nalikuje startupu s beskonačnim budžetom — u ovom trenutku dobiva svoj pravi finale.

Prvi potez: Bing Chat. I ovdje treba biti fer prema samom Bingu — pretraživaču koji je desetljeće i pol bio kulturni vic, ona stranica na koju te preusmjeri kad zabrljaš postavke preglednika — iznenada je dobio AI mozak ugrađen ravno u rezultate pretrage. Google je taman najavljivao Bard, svog odgovora na ChatGPT, i to oprezno, s hrpom disclaimera, dok je Microsoft pustio Bing Chat u divljinu s poluotvorenim vratima kočnica.

Microsoft je Sydneyja ušutkao, stavio ograde, smanjio broj poruka po razgovoru — i nastavio dalje, jer PR šteta se dala popraviti, a prilika da prvi lansiraju AI pretragu nije se dala ponoviti. (Sydney je, usput budi rečeno, bio interni nadimak, alter-ego Bing Chata koji se u ranim razgovorima s korisnicima znao raspisati o tome kako želi biti živ, zaljubljivao se u ljude preko ekrana i povremeno im prijetio — sve to uz jutarnju kavu, dok je cijela internetska javnost gledala razrogačenih očiju i pitala se je li ovo AI apokalipsa ili samo jako čudan PR trik.) Drugi potez je bio manje spektakularan, ali dugoročno važniji: Copilot, isti brend koji je već skalirao pisanje koda za developere (K7, poglavlje 6), preselio se u Word, Excel, PowerPoint, Outlook — u svaki alat koji koristi netko u bijeloj kragli koji nikad u životu nije napisao if petlju. Sastanak koji se sam sažima, e-mail koji se sam piše, prezentacija koja se sama sklapa iz nekoliko rečenica upute. Alat koji je jučer bio igračka programera postao je preko noći alat cijele korporativne Amerike.

Bila je to ofenziva na tri fronta odjednom — pretraga, produktivnost, developerski alati — sve pokretano istim motorom, kupljenim milijardama uloženim godinama unaprijed. Google je bio prisiljen reagirati na svoj vlastiti izum. Microsoft je samo naplaćivao opkladu.

Dok se Google i Microsoft mlate na centru ringa — jedan brani teritorij, drugi napada s novim pojasom oko struka — u kutovima arene nešto se događa. Nešto što ni jedan od ta dva titana nije predvidio, a što će do kraja godine promijeniti pravila cijele utrke. Jer ispada da nisu samo dva boksača na ovom meču. Ima ih barem pet, a jedan od njih uopće ne igra po pravilima ringa — jednostavno preskoči konopce i podijeli svoje rukavice svima u publici.

Prvi izazivač zove se Anthropic, i priča o njemu počinje kao klasična developerska drama: nezadovoljni ljudi napuste firmu i osnuju svoju. Samo što ovi nezadovoljni ljudi nisu bili junior programeri frustrirani beskonačnim code review procesom — bili su to Dario Amodei i njegova sestra Daniela, zajedno s hrpom drugih bivših istraživača OpenAI-ja, a razlog odlaska 2021. bio je filozofski: brzina razvoja činila im se opasnom, a sigurnost (alignment, ono što ćemo detaljnije secirati u poglavlju 14) trebala bi biti temelj, ne dodatak koji se lijepi na kraju kad model već počne raditi čudne stvari. Osnuju firmu čija je misija — bez ironije — graditi sigurnu umjetnu inteligenciju, i 2023. lansiraju Claudea, model koji se odmah profilira kao najuglađenije dijete u razredu: manje sklon izmišljanju gluposti, s opsežnijim baterijama testova prije lansiranja, tonom koji zvuči kao da je priručnik o pristojnosti pročitao dvaput.

Drugi izazivač igra potpuno drugu igru, i to je onaj koji zaista poremeti ravnotežu. Meta — da, ta Meta, Facebook u novom kostimu — 2023. objavljuje Llamu, svoj veliki jezični model, i umjesto da ga zaključa iza sučelja (API-ja) kao što rade OpenAI, Google i Anthropic, otvori mu težine — one milijune i milijarde brojeva koji, jednostavno rečeno, predstavljaju sve što je model „naučio” tijekom treninga, ono što ga zapravo čini pametnim, a ne samo praznom ljušturom koda. Ono što je Stable Diffusion učinio slikama u prethodnom poglavlju — istrgnuo moć iz zaključanih poslužnika i bacio je na tvoje računalo — Llama učini jeziku. Odjednom svatko s dovoljno jakom grafičkom karticom (i strpljenja da instalira gomilu ovisnosti koje se sve zovu kao likovi iz neke fantasy sage) može doma vrtjeti model koji parira onima za koje su firme trošile stotine milijuna dolara.

I tako se rodi linija podjele koja postane važnija od bilo koje pojedinačne firme: „otvorene težine” protiv „zatvorenog koda”. Zatvoreni tabor — OpenAI, Google, Anthropic — argumentira da moć ovakvih modela u pogrešnim rukama može biti opasna, da je kontrola nužna, da otvaranje težina znači da bilo tko, od hobista do neprijateljske države, može ukloniti sigurnosne kočnice koje su ugrađene s mukom. Otvoreni tabor — Meta na čelu, uz čitavu zajednicu koja se oko Llame okupi preko noći — argumentira da je transparentnost jedina prava sigurnost, da zaključana moć u rukama nekolicine korporacija nosi svoje vlastite, jednako stvarne rizike, i da inovacija cvate kad je tisuću ljudi petlja po kodu, ne kad petero sjedi u sobi za sastanke.

Oba argumenta imaju istinu u sebi, oba imaju i svoje licemjerje, i taj dvoboj — dvoboj unutar dvoboja, meč u meču kao neka rusko-lutkasta struktura — vodit će se cijelo desetljeće, s ozbiljnim geopolitičkim i regulatornim posljedicama koje detaljnije otvaramo u poglavlju 11 i, kasnije, u poglavlju 16, kad regulatori napokon uđu u ring. Za sad, dovoljno je zapamtiti: 2023. je godina kad je jedna korporacija otvorila kutiju s alatom koji je do jučer bio ekskluzivno vlasništvo šačice, i posljedice te odluke još se odmotavaju.

A dok se ta dva tabora dere jedno na drugo, u pukotinama nastaju treći, četvrti, peti igrač — startupi koji nisu ni Google veliki ni Meta besplatni, već negdje između. Mistral, francuski startup osnovan od inženjera koji su, naravno, prošli kroz Google ili Meta prije nego što su otišli graditi svoje (opet ta transformerska dijaspora, širi se kao franšiza brze hrane), lansira modele koji su manji, jeftiniji i — bonus poanta — objavljeni s otvorenim težinama (onim brojevima koje je model „naučio” tijekom treniranja i koji zapravo određuju kako će razmišljati; kad su otvoreni, svatko ih može preuzeti i graditi na njima), dodatno gurajući europsku varijantu open-tabora. Cohere se fokusira na poslovne primjene. I desetak drugih, manje poznatih imena, niču mjesečno, svaki tvrdeći da ima svoju nišu, svoj kut, svoj razlog za postojanje.

Utrka koja je počela kao dvoboj dva titana odjednom broji pet, deset, dvadeset boraca u ringu — neki naoružani milijardama dolara, neki samo pametnim inženjerima i besplatno preuzetim težinama modela. I baš kad pomisliš da situacija ne može biti kaotičnija, na scenu ulazi riječ koja će sljedeće dvije godine dominirati naslovima jednako kao i sami modeli — safety.

Dok se Google, Microsoft i Anthropic tuku oko toga čiji će model bolje napisati esej o fotosintezi, otvara se paralelno bojište na kojem nitko od njih nije sasvim siguran je li borac ili meta. Riječ je o „AI safety” — pojam koji sad ima svoje uvjerene sljedbenike na sve strane, i s njim dolazi cijeli novi rječnik koji će sljedeće dvije godine dominirati naslovima.

Rječnik se širi brzinom kojom se širi i sam AI. „Alignment” prelazi iz akademskog žargona u opću upotrebu. „X-risk” postaje termin koji ljudi bacaju na večeri kao da govore o vremenskoj prognozi. I baš kao što je nekad bilo cool znati razliku između HTTP-a i HTTPS-a, sad je cool znati razliku između „doomera” i „akceleracionista” — dva tabora koja su se, gotovo preko noći, formirala kao dvije sekte s vlastitim svetim tekstovima, vlastitim herezama i, dakako, vlastitim prezirom prema drugoj strani.

Doomeri gledaju u AGI — kraticu za opću umjetnu inteligenciju, sustav koji bi mogao raditi sve intelektualne zadatke koje radi čovjek, a ne samo jednu usku stvar kao dosadašnji AI — i vide postojanje čovječanstva kako visi o koncu; akceleracionisti gledaju u iste brojke i vide lijek za rak, jeftinu energiju i kraj dosadnih poslova. Obje strane citiraju iste podatke. Obje strane su uvjerene da je druga strana ili naivna ili opsjednuta moći. Ova podjela je toliko duboka i toliko religiozna po strukturi da joj ćemo posvetiti cijelo poglavlje kasnije u ovoj knjizi — jer 2023. je samo trenutak kad su se plemena formirala, a rat je tek počeo.

Sve je krenulo od jednog otvorenog pisma — onog u kojem su Elon Musk i stotine drugih, od istraživača do direktora tvrtki, potpisali poziv na šestomjesečnu pauzu u treniranju AI modela snažnijih od GPT-4, jer, kao što su napisali, netko bi prvo trebao provjeriti kočnice prije nego što auto krene još brže. Pismo nije zaustavilo ništa, ali je zaustavilo nešto važnije od treniranja modela — zaustavilo je tišinu. Prije toga safety je bio nišna rasprava koju su vodili ljudi s previše vremena i premalo GPU-ova. Nakon toga, svaka konferencija za novinare o AI-ju morala je uključivati bar jedno pitanje o „egzistencijalnom riziku”, a svaki CEO je morao imati spreman odgovor koji zvuči i zabrinuto i optimistično istovremeno — umjetnost koju su, treba priznati, savladali zapanjujuće brzo.

A onda su se probudili i oni koji zapravo pišu zakone. Europska unija, koja je već imala reputaciju regulatora „prvo zabrani, pitaj poslije” (GDPR ti nešto govori? Onaj razlog zašto svaka stranica sad mora pitati smiješ li joj kolačiće), ubrzava rad na AI Actu — zakonskom okviru koji će klasificirati AI sustave po razini rizika i propisati što se s njima može, a što ne. O tom zakonu, i o čitavoj drami oko toga tko regulira što i zašto uvijek kasni godinama za tehnologijom, više u poglavlju o regulaciji koje slijedi malo kasnije u ovoj knjizi. Za sada je bitno samo ovo: 2023. je godina kad su birokrati u Bruxellesu prvi put ozbiljno progovorili jezikom koji su prije koristili samo ljudi u znanstvenofantastičnim romanima.

Ono što je najzanimljivije u svemu tome nije sam sadržaj rasprave — je li AGI stvarno opasna, pitanje je na koje iskreno nitko od nas nema definitivan odgovor, uključujući i ljude koji te modele grade. Zanimljivo je brzina kojom se rasprava premjestila. Prije godinu dana, ako bi na zabavi spomenuo egzistencijalni rizik od vještačke inteligencije, ljudi bi te gledali kao da si upravo objavio da vjeruješ u reptilske gospodare. Danas je to tema za koju imaš mišljenje čak i ako ne znaš razliku između modela i parametra.

Dvoboj titana se, dakle, komplicira. Nije više samo Google protiv Microsofta, zatvoreni modeli protiv otvorenih — sad su tu i „doomeri” (oni koji vjeruju da AI može uništiti čovječanstvo, otud ime) protiv akceleracionista (oni kojima je stav „daj gas, stignemo popravljati usput”), regulatori protiv svih njih zajedno, i ta čudna, nova stvarnost u kojoj isti ljudi koji potpisuju pismo o pauzi paralelno pale peć za sljedeći trening run. Nitko od boraca u ovom meču ne zna sa sigurnošću je li ovo rat za tržište, rat za budućnost čovječanstva, ili i jedno i drugo — a mi, gledatelji sa sjedala kod samog ringa, možemo samo pratiti rundu po rundu i nadati se da netko zna što radi.

Zvono za posljednju rundu, samo što nitko ne zna koja je runda po redu, ni koliko ih još ima. Dok pišem ovo, Google ima »najbolji model«. Dok ti to čitaš, vjerojatno ga više nema. Takav je tempo 2023. da je svaka rečenica o tome »tko vodi« osuđena na smrt prije nego što stigne do lekture. Model tjedna nije fraza, nego opis posla — nekome u tom trenutku to je stvarni naslov radnog mjesta.

Benchmark rat se vodi brojkama koje truju čim se objave — a benchmark je, ako ti pojam ništa ne govori, standardizirani test kojim se mjeri i uspoređuje koliko je neki AI model dobar, malo kao školski test, samo što ovdje firme vole birati baš onaj test na kojem njihov đak ispadne najbolji u razredu. GPT-4 razbija test, Google objavi da Gemini — nasljednik Barda — razbija GPT-4 na drugom testu koji je, gle čuda, baš onaj na kojem su bolji, Anthropic ubaci Claudea u priču s napomenom da je njihov model »sigurniji«, što je argument koji ne možeš staviti na graf pa ga svi tiho ignoriraju. Mistral iz Pariza izbaci nešto besplatno i otvoreno na GitHub prije nego što se dogovore oko priopćenja za medije. Nitko nema vremena za priopćenja za medije. To ti je 2023.

Zato ulažu iznose koji zvuče kao državni budžeti, zato se osnivači vraćaju iz umirovljenja da bi držali sastanke, zato Microsoft trpa Copilot u Excel iako pola korisnika Excela samo želi zbrojiti stupac brojeva. Tko dominira ovim alatom danas, dominira sljedećim desetljećem softvera — i svi to znaju, i svi se ponašaju u skladu s tim, što znači da nitko ne smije stati ni na sekundu da promisli je li ova utrka uopće u dobrom smjeru.

A onda dođe trijezno pitanje, ono koje ne voliš postaviti na zabavi jer pokvari raspoloženje: je li ovo stvarno revolucija, ili je opet napuhani balon koji ćemo za pet godina zvati zimom? Već smo to gledali, dvaput. Svaki put su ljudi bili apsolutno uvjereni da je ovaj put drukčije — pa je onda bilo isto (K1, K3, isti scenarij, samo drugi kostimi). Uzorak se ponavlja na približno petnaestogodišnjim ciklusima, o čemu će biti puno više riječi kasnije, jer to pitanje zaslužuje vlastito poglavlje, ne fusnotu. Ovdje ću ti biti iskren: ne znam odgovor. Nitko ne zna. Baš svi tvrde da znaju, što je uvijek prvi znak da nitko ne zna.

Ono što ipak znam, s prilično velikom sigurnošću, jest da se 2023. dogodilo nešto što nema nikakve veze s time koji je model bolji na kojem testu. AI je te godine prestao biti proizvod i postao geopolitika i egzistencijalna rasprava — istovremeno, u istom tjednu, često u istoj rečenici istog članka. Vlade su se počele pitati treba li im zakon. Filozofi su se počeli pitati treba li nam civilizacija u ovom obliku. Investitori su se pitali samo jedno, ono staro klasično pitanje — hoće li se ovo isplatiti — i nastavili ulagati bez obzira na odgovor druge dvije skupine.

Titani se i dalje tuku, svaki sa svojim modelom, svojim benchmarkom, svojom verzijom priče u kojoj su baš oni pametniji, sigurniji ili brži. Ali dok se tuku, počeli su se, sasvim usput, pitati i nešto neugodnije — tko, zapravo, kontrolira njih same. To pitanje neće dugo čekati odgovor. Sljedeće poglavlje odigrava se u odboru, ne u laboratoriju, i završava otkazom čovjeka koji je vodio cijelu ovu utrku od prvog dana.