Drama u upravnom odboru (studeni 2023)

Petak, 17. studenog 2023., nešto prije podneva po pacifičkom vremenu. San Francisco. U zgradi OpenAI-ja preostalih pet članova upravnog odbora zove Sama Altmana na Google Meet — ne na kavu, ne u sobu za sastanke, nego na video-poziv. Petnaest minuta kasnije čovjek koji je mjesecima bio najpoznatije lice umjetne inteligencije na planetu, čovjek koji je sjedio pored predsjednika država i objašnjavao im budućnost, više nije direktor firme koju je vodio. Nema otkaznog roka, nema pompe. Samo priopćenje objavljeno u pola dva popodne da je izgubio povjerenje odbora.

Zamisli da radiš u toj zgradi. Petak popodne, misliš na vikend, a onda ti šef nestane bez traga i objašnjenja u razmaku od jednog sastanka. Ne šef neke firme — šef NAJVAŽNIJE firme na svijetu tog trenutka, one čiji je proizvod prije godinu dana naučio tvoju baku da razgovara s računalom (pogl. 8, ChatGPT — ako je nisi upoznao, uskoro hoćeš). Optužba je mutna: nije bio „dosljedno iskren” s odborom. Nema detalja. Nema imena. Nema dokaza na stolu, samo rečenica koja ostavlja više pitanja nego odgovora, i cijeli internet koji tu rečenicu odmah počinje secirati kao da je Zapruderov film.

Iduća pet dana OpenAI će izgledati manje kao tehnološka kompanija koja mijenja svijet, a više kao obiteljska drama koju je netko slučajno pustio uživo pred milijardu ljudi. Bit će kandidata za novog šefa koji dođu i odu prije nego stigneš zapamtiti njihovo ime. Bit će jednog čovjeka iz Redmonda — grada u državi Washington gdje Microsoft ima sjedište, pa je „čovjek iz Redmonda” zapravo šifra za Satyu Nadellu — koji gleda sve to sa smiješkom, jer zna da, kako god ovo završi, njegova firma izlazi kao pobjednik. Bit će pisma s potpisima gotovo cijelog osoblja i emoji srca koje je jače od ijedne pravne klauzule. I bit će, na kraju, povratka — istog čovjeka, kroz ista vrata, u srijedu, kao da se ništa nije dogodilo, osim što se dogodilo baš sve.

Ono što slijedi nije priča koja se može ispričati u jednoj rečenici, koliko god te naslovi tog vikenda pokušavali uvjeriti da mogu. Ovo je priča koju treba gledati sat po sat, kao da imaš pristup nadzornim kamerama u sjedištu u San Franciscu, jer je svaki dan tog tjedna nosio drugu verziju istine, a nitko — ni zaposlenici, ni investitori, ni sam odbor — nije do srijede navečer znao kako će ovo završiti. Iza farse, ispod svih citata anonimnih izvora i naslova koji su se mijenjali svaka dva sata, ležalo je pitanje ozbiljnije od svega što je OpenAI do sad objavio: ako šest ljudi s misijom da čuvaju čovječanstvo od opasne tehnologije ne mogu kontrolirati vlastitu firmu ni pet radnih dana — tko, zaboga, kontrolira ovo?

Ako ti se ovo čini kao scena iz filma o korporativnoj zavjeri — jest, samo što nitko nije rekao „rez”.

Odbor mu je, licem u lice preko ekrana, priopćio da je smijenjen. Razlog, službeno: nije bio „dosljedno iskren u komunikaciji s odborom”. Kraj citata. Nema detalja, nema primjera, nema popisa grijeha. Samo rečenica koja zvuči kao optužnica napisana da zvuči ozbiljno, a ne da nešto stvarno kaže.

Vijest izlazi u javnost gotovo istog trena, jer ovo je OpenAI, a ne neka tiha firma iz Ohaja koja proizvodi ventile. Burza reagira kao da je netko povukao kabel iz zida — dionice Microsofta, glavnog partnera i investitora OpenAI-ja, padaju u trenu. Twitter, ili što god se to sad zove, poludi u minuti. A onda, dok se svijet još čudi, stiže drugi udarac: Greg Brockman, predsjednik i suosnivač, čovjek koji je s Altmanom bio uz OpenAI od prvog dana, daje otkaz u znak protesta. Nije pitao, nije čekao objašnjenje. Otišao je isti dan.

Zamisli razmjere. Najpoznatiji čovjek najvruće tehnološke priče desetljeća, lice koje je sjedilo pred Kongresom i objašnjavalo zastupnicima što je uopće veliki jezični model, smijenjen bez ikakvog objašnjenja koje bi prošlo i najblaži test novinarske provjere.

Ali da razumiješ zašto je ovo toliko čudno, moraš znati nešto o samoj strukturi OpenAI-ja, jer to nije obična firma s običnim odborom koji odgovara dioničarima. OpenAI je neprofitna organizacija koja kontrolira profitni entitet ispod sebe — konstrukcija smišljena baš zato da bi, ako dođe do sukoba između zarade i misije „sigurna umjetna opća inteligencija za dobrobit čovječanstva”, misija pobijedi. Umjetna opća inteligencija, ili AGI, taj pojam koji ćeš od sad čitati na svakoj drugoj stranici, jednostavno znači: umjetna inteligencija koja ne radi samo jednu stvar dobro (kao što tvoj telefon prepoznaje lice ili filtrira spam), nego može razmišljati i učiti kao čovjek, u bilo kojem području — cilj kojem cijela industrija trči, a nitko još nije stigao. Sam odbor u tom trenutku broji šest ljudi, a ključni igrači te noći su Ilya Sutskever, glavni znanstvenik i suosnivač, čovjek koji je AI ozbiljno shvaćao i prije nego što je to bilo popularno, te Helen Toner, istraživačica politika oko AI sigurnosti — dvoje od nekolicine koji su, uz Sama Altmana i Grega Brockmana koji je taj dan izletio iz zgrade, imali riječ u toj sobi. Zvuči plemenito na papiru. U petak, 17. studenoga, ta se konstrukcija po prvi put stvarno testirala u praksi — odbor sastavljen od ljudi koji, teoretski, štite čovječanstvo od AI-ja, imao je apsolutnu moć da smijeni čovjeka koji je AI učinio poznatim cijelom svijetu, i iskoristio ju je bez ičije suglasnosti izvan te male sobe.

Do večeri petka nitko izvan te prostorije nije stvarno znao zašto se to dogodilo. Zaposlenici su vijest doznali s interne Slack chat-aplikacije (ono što firme koriste umjesto da vičeš preko cijelog ureda) samo nekoliko minuta prije nego što je izašlo javno priopćenje. Investitori, uključujući Microsoft koji je u firmu ulio milijarde dolara, doznali su — kažu neki izvori — tek kad je vijest već bila objavljena. Odbor je odlučio, izveo i zatvorio poziv, ostavljajući cijeli svijet da nagađa što se točno dogodilo iza tih zatvorenih vrata. Spekulacije su krenule odmah: sukob oko brzine razvoja, sukob oko sigurnosti, sukob oko novog proizvoda, možda sve zajedno. Nitko još nije znao ništa sa sigurnošću. Znali su samo jedno — vikend će biti dug.

Petak navečer, ured u San Franciscu. Netko je već izračunao da je od trenutka kad je odbor bacio granatu prošlo manje od dvanaest sati, a firma vrijedna, prema zadnjoj procjeni, oko osamdeset milijardi dolara nema kormilara, nema priopćenja koje ima smisla i nema plan B. Ima samo Miru Murati, tehničku direktoricu, koju je odbor preko noći postavio za privremenu šeficu — ne zato što je htjela taj posao, nego zato što je bila najviši rang koji je preživio petak popodne.

Subota, rano jutro. Ovdje kreće ono što novinari kasnije zovu „vikend ludila”, a što je zapravo samo kaos — samo organiziran u satnicu, jer kaos i raspored nisu nužno isključivi. Investitori (Thrive Capital, Sequoia, milijarde na kocki) zovu odbor i traže objašnjenje. Ne dobivaju ga. Traže broj telefona. Ne dobivaju ga. U jednom trenutku najveći ulagači u povijesti privatnog kapitala u jednoj kompaniji doslovno ne znaju koga zvati, jer struktura koju je OpenAI sam sebi izmislio — neprofitni odbor koji formalno stoji iznad profitnog dijela firme, baš zato da novac ne bi imao zadnju riječ nad sigurnošću — u tom trenutku znači da vlasnici tog novca nemaju formalno nikakvu riječ. Zamisli da uložiš deset milijardi dolara i da ti jedini kanal informacija budu tweetovi bivših zaposlenika. E, to im se dogodilo.

Istog dana odbor pokušava pronaći novog trajnog izvršnog direktora — jer, jasno, Murati je privremena, i jasno, negdje treba postaviti nekoga stalnog prije nego cijela stvar procuri kroz prste. Na kratko se pojavljuje ime Emmetta Sheara, bivšeg dugogodišnjeg šefa Twitcha (platforme za strimanje igara, ako ti to ništa ne govori — zamisli YouTube, samo uživo), poznatog po tome što je, iskreno, dobrano skeptičan prema brzini kojom industrija juri prema sve moćnijim modelima, što odboru, s njihovom pozom „sigurnost prije svega”, zvuči kao savršen spoj. Shear pristaje. Objava izlazi. I onda — u istom danu, ne u istom tjednu, u istom danu — to imenovanje počinje mirisati na leš prije nego što je i ohladilo, jer se ispostavlja da polovica firme prijeti da će otići prije nego mu stigne uputiti prvi e-mail.

Zaposlenici, u međuvremenu, nisu tiho patili. Unutarnji Slack kanali kasnije djelomično procurjeli u novinama, pune se porukama koje se mogu sažeti u jednu rečenicu: odbor ubija firmu, i to bez razloga koji bi bilo kome imao smisla. Optužba protiv Altmana ostaje magličasta — „nije bio dosljedno iskren u komunikaciji” — fraza koja u praksi ne znači ništa i istovremeno znači sve što hoćeš da znači. Kad menadžment ne kaže konkretno što je netko učinio, ljudi popune prazninu najgorim mogućim scenarijem, ili — u ovom slučaju — zaključkom da odbor jednostavno ne zna što radi. I znaš što, čitatelju, statistički gledano taj zaključak se u velikoj većini korporativnih drama pokaže točnim.

Nedjelja. Ovdje priča postaje film, iako je predložak filma već bio spomenut i nema smisla to skrivati: Satya Nadella, čovjek koji je Microsoft pretvorio od dosadnog softverskog diva u najveću opkladu na AI industriju (vidjeli smo ga već kako ulaže milijarde u OpenAI bez da preuzme kontrolni udio — što jednostavno znači da je novac dao, ali pravo odlučivanja i vlasništva nije tražio, kao da si kumu posudio pola stana za pokretanje biznisa, a onda mu i dalje pustiš da sam vodi radnju — potez koji je u tom trenutku djelovao ekscentrično, a sad djeluje kao potez čovjeka koji je znao nešto što drugi nisu), zove Altmana. Ponuda je jednostavna i genijalna u svojoj jednostavnosti: dođi u Microsoft, vodi novi interni odjel za napredni AI, dovedi koga hoćeš. Microsoft je već uložio negdje oko trinaest milijardi dolara u OpenAI — i sad, umjesto da bespomoćno gleda kako se ta investicija raspada u korporativnoj svađi koju nije mogao kontrolirati, Satya osigurava ishod u kojem, bilo da OpenAI opstane ili implodira, on ima Altmana i ekipu koja zna kako se to radi. To se ne zove sreća. To se zove upravljanje rizikom na razini majstora.

I onda, u tom istom danu, pritisak koji se skupljao počinje curiti u nešto konkretnije: zaposlenici, sve nezadovoljniji, sve glasniji, počinju se dogovarati oko zajedničkog poteza — otvorenog pisma upravi, koje će sutradan formalno krenuti i za par sati skupiti stotine potpisa. Poruka je gruba i kratka: vratite Altmana i cijelu upravu, ili idemo svi kod Satye. Mira Murati, privremena šefica koju je odbor sam postavio, spremna je potpisati pismo protiv odbora koji ju je postavio. Ilya Sutskever, jedan od onih koji je glasao za smjenu Altmana, spreman je potpisati pismo — protiv vlastite odluke, samo dan-dva ranije. Ako želiš jedan kadar koji sažima cijeli vikend, to je taj: čovjek koji je pomogao izvesti puč, sprema se potpisati peticiju da se puč poništi.

Pregovori teku non-stop, dvadeset i četiri sata dnevno — telefoni, Zoom pozivi u tri ujutro, odvjetnici koji spavaju u uredu, sve ono što bi film prikazao kao montažu umornih lica i praznih čaša kave. Samo što ovo nije film — ovo su stvarni ljudi koji stvarno odlučuju o firmi koja stvarno vrijedi desetke milijardi. Verzije o tome što se točno dogovaralo iza zatvorenih vrata razlikuju se ovisno o tome koga pitaš: jedni izvori kažu da je Altman u jednom trenutku bio spreman potpuno prijeći u Microsoft i da je papirologija bila gotovo dovršena, drugi kažu da je to bio samo pritisak, ne ozbiljna namjera. Poštena stvar je reći — ne znamo točno, i tko ti god tvrdi da zna svaku minutu tog vikenda s apsolutnom sigurnošću, vjerojatno prodaje knjigu.

Do nedjelje navečer situacija je bila jasna samo u jednom: Shear, čovjek koji je u petak dobio posao iz snova, u nedjelju je imao posao koji nitko normalan ne bi poželio — voditi firmu čiji zaposlenici prijete masovnim odlaskom, čiji je bivši šef pola koraka od potpisivanja ugovora s konkurentom, i čiji odbor ne zna ni sam što je htio postići.

Ponedjeljak, 20. studenog, ujutro. Netko u uredu — ili u nekom od tisuću Slack kanala, jer pola OpenAI-ja radi od kuće — otvara Google dokument i nazove ga jednostavno: pismo. Prva linija: ako Sam i Greg ne budu vraćeni, mi odlazimo. Ne mi kao u ‘nekoliko nas ljutih’. Mi kao u — cijela firma. Do večeri se na pismu nakupi preko 700 potpisa, na firmu koja ima nešto oko 770 zaposlenih. Ako znaš računati postotke — a ova enciklopedija voli računati postotke tamo gdje ih nitko ne očekuje — to je otprilike 95 posto ljudi koji su upravnom odboru rekli, u lice, pismeno: birajte.

I tu dolazimo do jezgre ove epizode, do stvari koja nadilazi tračeve o tome tko je koga optužio za što u petak. Firma nije zgrada, nije patent, nije ni model koji upravni odbor navodno štiti od propasti čovječanstva. Firma su ljudi koji znaju kako se ta stvar pravi. Odbor je mogao zadržati brend OpenAI, misiju OpenAI, čak i poslužitelje OpenAI — ali bez inženjera koji znaju zašto GPT radi ono što radi, to je prazna školjka s lijepim imenom. Ista lekcija koju je svijet trebao naučiti već davno, s programerkama ENIAC-a — prvim programerkama prvog elektroničkog računala, koje su znale spajati kabele i tjerati stroj da radi ono što je trebao, dok je vojska uporno mislila da posao obavlja sam stroj, a ne one — ali svijet nikad dobro ne uči tu lekciju, pa je mora ponavljati svako desetljeće.

Sutskever je do ponedjeljka javno napisao da duboko žali zbog svog udjela u odluci odbora, i sam potpisao pismo. Ako želiš jednu scenu koja sažima cijeli vikend, to je ova: čovjek koji je pokrenuo puč, dva dana kasnije potpisuje peticiju protiv vlastitog puča. Nije to slabost karaktera — to je pritisak koji nastaje kad ti cijeli tim, kolege s kojima si godinama sjedio u istoj sobi, kažu da si upravo, u ime sigurnosti, ugrozio sve što ste zajedno izgradili.

Odbor, u međuvremenu, sjedi u vlastitoj tišini. Nema komunikacijskog tima koji bi to lako sredio, nema priopćenja koje bi ugasilo požar — jer svaka nova rečenica koju objave zvuči lošije od prethodne, budući da još nisu jasno rekli zašto su Altmana zapravo maknuli. Vakuum objašnjenja koji su sami stvorili u petak sad ih guta. Zaposlenici ne traže da im odbor dokaže krivnju izvan razumne sumnje — samo traže da im ne uzimaju posao, plaću, opcije na dionice i svrhu bez razloga koji bi imao smisla izvan sastanka petero ljudi.

Do utorka navečer pismo je postalo gotovo statistička anomalija — više potpisa nego što bi trebalo biti moguće skupiti u četrdeset osam sati u firmi te veličine. Kad ljudi u tolikom broju odjednom kažu „odlazimo”, to više nije prijetnja - to je trenutak kad shvatiš da tvoja firma nije zgrada ni logo, nego upravo ti ljudi koji prijete da će je napustiti. Odbor je u tom trenutku tehnički još imao vlast. Praktično, imao je prazan hodnik koji čeka srijedu.

Srijeda, 22. studenog, negdje oko ponoći po pacifičkom vremenu — pet dana nakon što je sve počelo, OpenAI objavljuje tvit koji je trebao stići još u petak, samo s potpuno drugim sadržajem. Sam Altman se vraća kao izvršni direktor. Postavlja se novi, privremeni upravni odbor. Stari — onaj koji ga je otpustio bez javnog objašnjenja, onaj s misijom da čuva čovječanstvo od AGI-ja koji izmakne kontroli — smijenjen je u cijelosti, osim jednog člana. Krug se zatvorio točno onako kako nitko u petak nije vjerovao da hoće.

Vrijedi zastati na toj slici: odbor koji je imao formalnu, upisanu, neprofitnu ovlast da zaustavi izvršnog direktora ako procijeni da vodi firmu u opasnom smjeru — taj odbor je, u sudaru s realnošću, trajao pet dana. Ne zato što je zakon bio na Altmanovoj strani (nije bilo suda, nije bilo presude), nego zato što je cijela poluga moći bila negdje drugdje. Kod ljudi koji su htjeli otići u Microsoft. Kod Nadelle koji je čekao s otvorenim vratima. Kod tržišta koje je OpenAI vrednovalo osamdesetak milijardi dolara i koje se, bez upozorenja, zna okrenuti.

I tu dolazimo do pitanja koje je ostalo lebdjeti nad cijelom epizodom, onog pravog, ne onog o dramaturgiji: ako odbor s formalnom ovlašću da kaže stop AI-ju ne može zapravo reći stop — jer ga ekonomska stvarnost pojede za pet dana — što onda znači ta ovlast? Papir. Misija upisana u statut koja se raspada čim se sudari s platnom listom i s burzom. »Siguran razvoj AGI-ja u interesu čovječanstva« zvuči plemenito na osnivačkom dokumentu. U studenom 2023. pokazalo se da to zvuči plemenito točno dok se ne testira.

Microsoft je iz svega izašao, realno govoreći, bez ijednog poteza koji bi mogao poći po zlu. Nije morao kupiti OpenAI, nije morao preuzimati njegovu imovinu, nije morao razmrsivati neprofitnu strukturu koja bi svakog pravnika natjerala na predoziranje kavom. Samo je otvorio vrata i pustio da fizika radi svoje — devedeset i pet posto zaposlenika koji su prijetili odlaskom, prijetili su odlaskom upravo kroz ta vrata, Nadellina vrata. Kad su se vrata zatvorila jer se Altman vratio, Microsoft je i dalje ostao najveći vanjski ulagač u najvrjedniju AI firmu na svijetu, samo bez ijedne dodatne milijarde potrošene i bez ijedne stranice ugovora potpisane u žurbi. Satya Nadella se te srijede, po svemu sudeći, nasmiješio malo šire nego inače.

Za čitatelja koji je pratio ovih pet dana kao seriju, srijeda djeluje kao happy end. Junak se vratio, negativci su smijenjeni, odjava, generička glazba. Ali stvarna posljedica te srijede nije priča o pobjedi dobra nad zlom — jer nikad nije bilo jasno tko je koji. Stvarna posljedica je da je jedini institucionalni mehanizam koji je postojao da zaustavi AI firmu ako stvari krenu naopako upravo dokazao da ne funkcionira. Ne zato što je bio loš mehanizam. Zato što nikakav mehanizam, kad se sudari s pet dana ljudske i ekonomske stvarnosti, nema šanse.

Pa dobro, i? Pet dana kaosa, tisuće tvitova, jedan Shear koji je stigao i otišao brže nego što stigneš pojesti hladnu pizzu, i na kraju — sve je isto kao prije, samo s novim odborom. Zvuči kao ništa. Nije ništa. To je bio najskuplji test u povijesti korporativnog upravljanja, i struktura je pala na njemu iz prve.

Sjeti se što je ta struktura trebala raditi: neprofitni odbor, iznad novca, s jednim zadatkom — da AGI, ako se ikad rodi, bude siguran za čovječanstvo, a ne samo profitabilan za dioničare. Lijepa ideja. Papir je izdržao. Odbor je imao ovlast, imao je pravo, imao je — teoretski — svu moć na svijetu nad jednom od najvažnijih firmi ere. Petak popodne to je i iskoristio. Do srijede navečer ostao je bez izvršnog direktora vlastite odluke, bez pola upravnog odbora i, realno, bez ikakvog autoriteta koji bi ikad više nešto značio. Odbor koji je trebao biti brana probio se za nepuna pet dana.

I tu smo kod rime koju ne možeš izbjeći ako si čitao ovu enciklopediju od početka: moć u tehnologiji rijetko ide onome tko ima formalno pravo. Ide onome oko koga se ljudi okupljaju. Kult osnivača koji smo gledali kod svake velike firme — onaj isti mehanizam gdje jedan čovjek postane sinonim za viziju, pa ga onda nitko, ni odbor, ni statut, ne može stvarno smijeniti — samo je dobio najskuplju, najjavniju demonstraciju do sada. Altman nije pobijedio jer je bio u pravu. Pobijedio je jer je bez njega firma bila spremna nestati, a s Microsoftom u pripravnosti nestati je bilo lakše nego ikad.

Pa dobro, pita se čovjek — ako odbor s izričitom, upisanom, zakonskom ovlašću ne može kontrolirati najvažniju AI firmu na planetu, tko onda može? Regulatori koji su tek počeli pisati zakone dok je ovo trajalo? Vlade koje raspravljaju hoće li ChatGPT ukrasti posao prije nego shvate kako on radi? Ili — realno, budimo iskreni — nitko? Pitanje je golo i neugodno i visi nad cijelom idejom da ovu tehnologiju netko »kontrolira«. Petodnevna drama nije odgovorila na to pitanje. Samo ga je pokazala svima uživo, u prijenosu, s kokicama, kao da je epizoda rijalitija — samo što je ulog ovoga puta civilizacijski, ne tko će ostati u kući.

I tako 2023. završava — ne s rješenjem, nego s dijagnozom. AI je moćniji nego ikad prije, u rukama koje su se za pet dana pokazale nekontroliranije nego što je bilo tko htio priznati. A dogodine, u knjizi koja slijedi, modeli prestaju samo pisati odgovore i počinju nešto novo, nešto neugodnije: djelovati. Agenti koji klikaju, kupuju, šalju mailove, donose odluke bez čovjeka koji odobrava svaki korak. Pitanje tko drži uzde, koje je studeni 2023. postavio pred cijeli svijet i ostavio bez odgovora, ne čeka da se riješi prije nego što uzde postanu stvarne. Svijet je ušao u agentsku eru bez da je uopće riješio tko je, dovraga, glavni.