Regulacija se budi

E sad, država ne voli kad je uhvate nespremnu dvaput zaredom. Prvi put je bilo GDPR, ona regulacija privatnosti podataka iz 2018. koja je EU-u trebala – ono famozno pitanje „prihvaćate li kolačiće” dolazi upravo odande – veliki, spor projekt, ali barem nešto. Drugi put nije htjela čekati. U Bruxellesu su izvukli nacrt zakona o umjetnoj inteligenciji, u Washingtonu su počeli crtati crte oko izvoza čipova kao da se radi o uranu, a po sudovima su se počele nakupljati tužbe — pisci, umjetnici, novinske kuće — svi s istim pitanjem: jeste li trenirali svoj model na mom radu, i jesam li pristao?

Ovo poglavlje je kronika tog sudara — trenutka kad je regulator napokon stigao na poprište zločina, samo da zatekne da je zločin već davno završen i da počinje novi, još veći, u susjednoj sobi. EU je htjela biti prva koja piše pravila igre. Amerika je htjela zadržati čipove za sebe. Kreatori su htjeli natrag ono što im je uzeto bez pitanja. A divovi — Google, Apple, Amazon, Meta — osjetili su, prvi put nakon Microsofta i sudske drame devedesetih, da netko iznad njih opet gleda kroz prozor.

Pitanje koje visi nad cijelim ovim razdobljem nije hoće li zakon stići — stigao je. Pitanje je hoće li stići na vrijeme da nešto zapravo promijeni, ili će, kao i toliko puta prije, samo zabilježiti štetu nakon što je već učinjena.

Ožujak 2024. Europski parlament glasa — a to znači da 705 zastupnika, izabranih na izborima u svih dvadesetsedam zemalja članica, u dvorani u Strasbourgu ili Bruxellesu pritišću dugme za i digitalne ruke se dižu na ekranima, i rodi se nešto što se službeno zove Artificial Intelligence Act, a nezvanično — prvi zakon na svijetu koji pokušava reći strojevima što smiju, a što ne smiju misliti. Ne šalim se. Nijedna druga velika jurisdikcija, ni SAD, ni Kina, ni Japan, nije do tog trenutka imala sveobuhvatan pravni okvir za umjetnu inteligenciju. Bruxelles je opet prvi na crti. I opet, kao i toliko puta prije, cijeli svijet prevrće očima i pita se — čekaj, hoćemo li i mi sad morati poštovati ovo?

Da bi se razumjelo zašto je baš EU na ovom mjestu, u ovoj ulozi, treba se vratiti par godina unatrag, do trenutka koji smo već obradili kao veliki obrat u priči o privatnosti — GDPR. Sjećaš se? Dosadan, svugdje, ali iza te dosade stajala je jedna ozbiljna poluga: firme koje su htjele posao u Europi morale su igrati po europskim pravilima, bez obzira gdje im je sjedište. GDPR nije bio kraj priče. Bio je proba generalka.

Jer evo poante koju EU shvaća bolje od bilo koga: ne moraš imati najveće tehnološke firme da bi diktirao njihova pravila. Moraš samo imati dovoljno veliko tržište da im se ne isplati praviti dvije verzije proizvoda. Ovome se, sasvim službeno, u analizama regulacije daje ime — »Brussels effect«, »bruxelleski efekt«. Isti mehanizam koji je nekad IBM-u nametnuo da njegov standard postane standard svih (K3, sjećaš se, kompatibilnost kao oružje) — samo naopako. Umjesto da tržišni div nameće pravila svima, ovdje regulator nameće pravila svim divovima. Firma iz Kalifornije ili Kine može reći »mi ne moramo poštovati europske zakone« — dok ne pogleda koliko bi koštalo održavati posebnu, osakaćenu verziju proizvoda samo za jedno tržište od gotovo pola milijarde ljudi. Jeftinije je popustiti globalno. I onda, iznenada, europsko pravilo postane svjetsko pravilo.

AI Act ide korak dalje od GDPR-a i pokušava biti pametan oko toga koliko je nešto opasno, a ne samo je li nešto „AI” — jer, realno, kalkulator je i tehnički oblik automatizirane obrade podataka, ali nitko ne treba zakon protiv njega. Cijeli zakon se, demistificirano, svodi na jednu ljestvicu s tri stepenice. Na dnu, minimalan rizik — chatbot koji ti preporučuje film, spam filter, ništa strašno, gotovo bez obaveza. U sredini, visok rizik — sustavi koji odlučuju o kreditima, zapošljavanju, granicama, zdravstvu, dakle stvari koje ti mogu stvarno zabiti nož u leđa ako pogriješe, i za njih dolaze debeli slojevi transparentnosti, dokumentacije, ljudskog nadzora. A na samom vrhu, zabranjeno u potpunosti — socijalni kredit sustavi po kineskom modelu, manipulativni AI koji cilja djecu, i biometrijsko prepoznavanje uživo na javnim mjestima, odnosno kamere postavljene po gradu koje u stvarnom vremenu skeniraju lica prolaznika i uspoređuju ih s bazom podataka, kao da svaka ulica ima svog čuvara koji te odmah prepozna (uz rupice za policiju, jer rupice postoje uvijek). Jednostavna ideja: što veća šteta koju sustav može napraviti, to strože pravilo. Nije loše, kao koncept.

Budimo pošteni do kraja — kritičari koji vrište da se guši inovacija imaju svoj djelić istine, a branitelji koji vrište da netko mora postaviti ogradu prije nego skočimo s krova imaju svoj. Obje strane su u pravu, i baš zato je ovo tako neugodno pitanje. EU je, htjela to ili ne, upravo postala arhitekt pravila igre za tehnologiju koju sama ne razvija na prvoj liniji — Amerika i Kina imaju najveće modele, Europa ima najveći zakon o njima. Čudna vrsta moći. Ali moć koja, kako se pokazalo s GDPR-om, putuje daleko izvan njezinih granica.

Listopad 2022. Ministarstvo trgovine SAD-a objavi propis koji izgleda kao suh administrativni dokument, pun brojeva i kratica, od onih koje inače čitaju samo pravnici u odijelima. Ali ispod te birokratske gomile stoji jedna rečenica koja će preokrenuti globalnu industriju: Amerika zabranjuje izvoz najnaprednijih čipova, i strojeva za njihovu proizvodnju, u Kinu. Ne svih čipova, ne bilo kakvih čipova — riječ je o posebnoj vrsti procesora, zvanih GPU-ovi, koji su prvotno dizajnirani da crtaju grafiku u igricama, a usput se pokazalo da su savršeni i za treniranje AI modela, jer takav trening zahtijeva gomilu istih računa napravljenih istovremeno, a to je upravo ono za što su GPU-ovi građeni. Konkretno, zabrana pogađa one čipove koji imaju dovoljno računalne snage da pokreću najveće AI modele — one iste modele o kojima čitaš cijelo ovo poglavlje, cijelu ovu knjigu.

I tu ti NVIDIA, firma koju smo do sad spominjali kao proizvođača grafičkih kartica za igrice (K7, pogl. 2), odjednom postaje geopolitički igrač. Njezini čipovi H100 i A100, dizajnirani da treniraju modele poput onih iz OpenAI-a, postaju strateška roba — kao uranij, kao rakete, kao nešto što ne smiješ prodati bilo kome. NVIDIA mora dizajnirati posebne, osakaćene verzije čipova samo za kinesko tržište — malo sporije, malo slabije, dovoljno da prođu kroz zakonsko uho igle. Firma koja je desetljećima živjela od toga da prodaje, prodaje, prodaje, sad mora pitati Washington kome smije prodavati. To ti nije mala promjena poslovnog modela.

OK, ali zašto? Zašto se vlada uopće petlja s time koliko brz čip smije biti? Evo demistifikacije, bez zavijanja: u eri umjetne inteligencije računalna snaga (žargonski, »compute«) postala je ono što je nafta bila u dvadesetom stoljeću. Tko ima najviše i najbrže čipove, taj trenira najveće i najpametnije modele. Tko trenira najpametnije modele, taj ima prednost u vojnoj tehnologiji, u nadzoru, u ekonomiji, u — da, i u ratovanju. Nije to apstraktna filozofija. Vojska koja ima bolji AI za analizu satelitskih snimki, za autonomne dronove, za kriptografiju, ima stvarnu prednost na terenu. Amerika je zaključila da ne želi da Kina ima tu prednost, i napravila je ono što velike sile rade kad se osjete ugrožene: povukla je crtu i rekla — dovle, ne dalje.

Kina, naravno, nije stajala i gledala. Kad te veliki igrač udari sankcijama, imaš dvije opcije: klanjaš se ili uzvraćaš. Kina je odabrala oboje, pola-pola. S jedne strane, ulila je milijarde u vlastitu proizvodnju čipova — projekti poput SMIC-a dobili su nalog da što prije stignu do razine koju Amerika sad brani izvoziti. Ide sporo, tehnologija proizvodnje čipova je nešto najkompliciranije što je čovječanstvo ikad izgradilo (o tome više u sljedećim poglavljima), ali Kina ima novac i strpljenja za desetljeća, ako treba. S druge strane, Kina je uzvratila na svoj način: ograničila je izvoz galija i germanija, sirovina bez kojih ni Amerika ne može praviti čipove. Poruka je jasna — ako ti možeš zatvoriti slavinu čipova, ja mogu zatvoriti slavinu materijala od kojih se čipovi rade. Dobrodošao u trgovinski rat gdje nitko ne pobjeđuje, samo svi malo više plaćaju.

A onda, u sredini svega toga, kao neka mala, prenapućena, geopolitički živa nervoza — stoji Tajvan. Sjećaš se otoka iz poglavlja o geopolitici (K7, pogl. 2), onog koji smo nazvali najvažnijim komadom kamena na planeti? E, sad razumiješ zašto. TSMC, tajvanska firma, proizvodi gotovo sve najnaprednije čipove na svijetu — one koje Amerika brani izvoziti, one na kojima NVIDIA radi svoje AI grafičke kartice, one bez kojih nijedan veliki jezični model ne bi postojao. Tajvan nije samo demokratska iskra uz obalu autoritarne Kine. Tajvan je fizička adresa na kojoj se drži ključ cijele AI revolucije. Ako se ikad nešto ozbiljno dogodi s tim otokom — a Kina ga smatra svojim teritorijem, ne treba ti crtati — cijeli AI sektor svijeta staje preko noći. Nema plana B. Nema drugog TSMC-a koji čeka spreman.

I tu shvatiš da hladni rat 2.0, onaj koji smo najavili ranije u ovoj knjizi, nije rat raketa i ideologija poput onog prošlog — vodi se u nanometrima. Nekad su se supersile natjecale ko će prije poletjeti u orbitu; danas se natječu ko će prije proizvesti čip od tri nanometra, pa dva, pa jedan (nanometar je milijarditi dio metra — za usporedbu, virus je otprilike stotinjak nanometara širok, a čipovi o kojima govorimo su tanji od toga). Fabrika za čipove postala je ono što je nekad bila raketna baza: strateško dobro koje se štiti vojno, diplomatski, ekonomski, svim sredstvima. Silicij je postao oružje bez ijednog metka.

Ono što ostaje jest neugodno pitanje koje ova kronika samo otvara, a odgovor na njega stiže tek u kasnijim knjigama: ako je computing snaga — sva ta silicijska muskulatura, farme grafičkih kartica i čipova o kojima smo upravo pričali — toliko strateški bitna da se oko nje vode sankcije i protusankcije, tko onda uopće smije imati pravo na nju? Firma? Država? Cijeli svijet? To se pitanje, dragi čitatelju, tek počinje postavljati, a odgovori na njega, vidjet ćemo, neće se svidjeti baš nikome (K8, pogl. 10-11).

Dobro, sad dolazimo do dijela gdje se svađa seli iz pregovaračkih dvorana u sudnice. Jer dok su Bruxelles i Washington raspravljali o čipovima i rizicima, jedno se pitanje tiho gomilalo u pozadini, kao račun koji nitko nije htio otvoriti: na čemu su, zapravo, ti modeli trenirani?

Odgovor, ako smo iskreni, glasi — na svemu. Modeli koje smo upoznali ranije u ovoj knjizi (poglavlja 6. i 7., ako se sjećaš dijela o kodu i slikama) žderali su internet u cijelosti. Milijarde stranica teksta, milijuni fotografija, cijele biblioteke koda objavljenog na GitHubu, umjetnička djela, novinski članci, fotografije s Getty Imagesa, tekstovi pjesama, cijeli Stack Overflow. Sve je to strpano u trening skupove, a skoro nitko od vlasnika tog materijala nije potpisao ništa. Nije ga se ni pitalo.

Logika firmi bila je jednostavna, gotovo bezobrazno jednostavna: internet je javan, dakle podaci su dostupni, dakle smijemo ih koristiti. Kao da je netko ostavio auto otključan na ulici, pa je to automatski postalo javno vlasništvo. Logika kreatora bila je isto tako jednostavna: to je moj rad, ja sam ga napravio, nitko me nije pitao za dozvolu, a netko drugi na tome zarađuje milijarde. Dvije jednostavne logike, dijametralno suprotne — i to je recept za rat koji traje godinama.

Optužnice su stigle 2023. i 2024., u valovima. New York Times tuži OpenAI i Microsoft, tvrdeći da je treniranje ChatGPT-a na njihovim člancima krađa u industrijskim razmjerima — i, što je gore, da model ponekad reproducira njihove tekstove skoro riječ po riječ, što baš i ne miriše na „inspiraciju”, nego na fotokopirni stroj s dodatnim korakom. Umjetnici tuže Midjourney i Stability AI, tvrdeći da su njihovi stilovi, potpisi, cijeli životni opusi ušli u trening skup bez pitanja i da im sad generativni alat može oponašati rukopis za par centi po slici. Getty Images tuži Stability AI izravno — a dodatni detalj koji je nasmijao pola interneta jest da su neki generirani vodeni žigovi na slikama izgledali sumnjivo poput iskrivljene verzije Gettyjevog vlastitog žiga. Kad optuženi ostavi otisak prsta na mjestu zločina, obrana postaje malo teža.

Sad, obrana AI firmi nije potpuno bez temelja — i pravedno je to reći, jer ovo poglavlje nije presuda, samo kronika. Argument glasi: model ne kopira djela, on uči obrasce iz njih, isto kao što je i ljudski umjetnik koji je gledao tisuće slika prije nego što je razvio vlastiti stil. To je pravno pitanje koje se zove „fair use”, korektna uporaba — koncept koji smo već sreli, i to dvaput. Prvi put kad je Napster, servis s kraja devedesetih preko kojeg su ljudi besplatno razmjenjivali MP3 datoteke s glazbom drugih ljudi, bez plaćanja i bez pitanja izvođača, tvrdio da je ta razmjena transformativna i time zaštićena (nije prošlo, glazbena industrija je pobijedila i Napster je ugašen), drugi put kad je Google skenirao milijune knjiga za Google Books i sud presudio da je to legitimna korektna uporaba jer je transformativno i ne zamjenjuje original. Ista fraza, dva različita ishoda — što ti odmah kaže da nema jasnog pravila, nego se svaki slučaj mjeri posebno, na vagi koja se ljulja ovisno o sucu, godini i lobiju.

Ono što je ovaj put drugačije jest veličina uloga. Ne govorimo o razmjeni MP3 datoteka među tinejdžerima, nego o industriji koja se procjenjuje na trilijune dolara i o modelima koji su, doslovno, temeljna infrastruktura sljedećeg desetljeća tehnologije. Ako sudovi presude da treniranje na zaštićenom sadržaju bez dozvole nije korektna uporaba, cijeli poslovni model velikog dijela AI industrije treba se preraditi iz temelja — plaćanje licenci, retroaktivno ili unaprijed, u razmjerima koje nitko nije ni pokušao izračunati. Ako presude da jest korektna uporaba, onda je svaki kreator na internetu službeno besplatna sirovina za tuđi profit, zauvijek, bez ikakve naknade.

Zato ovo nije samo pravna prepirka o autorskim pravima — to je borba oko toga tko posjeduje kulturu koju je stvorio internet u posljednja tri desetljeća. Kreatori na jednoj strani, AI firme na drugoj, a sudovi, sporo i mučno, tek počinju slagati dokaze. Presuda još nije pala. Ali kad padne, mijenja pravila igre za sve nas — i za one koji pišu kod, i za one koji ga crtaju, i za one koji ga samo koriste ne pitajući se odakle dolazi.

Ako si pratio ovu enciklopediju od početka, ovo poglavlje ti je poznato prije nego počne. AT&T je razbijen 1982. jer je bio prevelik. IBM je gledao antitrust trinaest godina u leđa i na kraju se sam pojeo iznutra. Microsoft je 2001. jedva izbjegao raspad, i to iskustvo mu je toliko sjelo u kosti da narednih dvadeset godina nije ni pipnuo nešto što bi mirisalo na monopol na sudu. Obrazac je bio jasan: firma naraste, postane prevelika da je tržište disciplinira, pa dođe država s pravnim čekićem. Samo — od 2001. do otprilike 2020. taj čekić je uglavnom stajao u ormaru. Regulatori su gledali kako Google, Apple, Amazon i Meta rastu u veličine koje AT&T iz 1982. ne bi ni sanjao, i — ništa. Uglavnom šutnja, ponešto papirologije, kazna tu i tamo koja za te firme predstavlja podnevni ručak, ne kaznu.

Pa što se onda promijenilo? Kratki odgovor: dosta toga, odjednom, i sve u istom desetljeću. Dulji odgovor je ostatak ovog poglavlja.

U Americi se pojavljuje žena po imenu Lina Khan, koja 2021. postaje šefica FTC-a — američke Komisije za trgovinu, agencije čiji je posao paziti da tržišta ostanu poštena i da potrošači ne budu ugnjetavani od strane onih koji imaju previše moći. Khan dolazi s idejom koja je za tadašnji establišment zvučala skoro heretički: veličina sama po sebi je problem. Ne treba ti dokazati da firma zlorabi monopol kroz visoke cijene — klasični test koji je desetljećima štitio tehnološke divove jer, hej, Google je besplatan, kako to može biti monopol koji šteti potrošaču? Khanina teza, formulirana još kad je bila studentica, u radu o Amazonu koji je otad postao gotovo kultni tekst, glasi: kad jedna platforma kontrolira i tržište i pravila igre na njemu, to je problem bez obzira na cijenu. FTC pod njom kreće u tužbe protiv Amazona i protiv Mete oko Instagrama i WhatsAppa, dok Ministarstvo pravosuđa paralelno tuži Google oko dominacije u pretraživanju i oglašavanju. Apple dobiva svoju tužbu oko App Storea — onu istu priču koju developeri prepričavaju uz pivu godinama, trideset posto porez na sve što prođe kroz jedna vrata, uzmi ili ostavi.

Europa, kao i s GDPR-om, ne čeka da Amerika prva povuče potez. Digital Markets Act i Digital Services Act, oba stupaju na snagu 2022.-23., uvode koncept koji je genijalno jednostavan i baš zato djelotvoran: gatekeeper, odnosno „vratar”. Ako si platforma dovoljno velika da praktički kontroliraš pristup tržištu — App Store, pretraživanje, oglašavanje — dobivaš posebna, stroža pravila. Moraš dopustiti interoperabilnost, što znači da tvoji korisnici moraju moći komunicirati i s uslugama konkurencije, a ne samo unutar tvog zatvorenog vrtića. Ne smiješ favorizirati svoje usluge nad tuđima na vlastitoj platformi. Zvuči kao sitna administrativna kozmetika, dok ne shvatiš da to znači da Apple mora, ponovno, dopustiti alternativne app store-ove na iPhoneu u Europi — nešto što je godinama odbijao svim silama.

Jer poanta nije da su Google, Apple, Amazon i Meta zli carevi koje treba srušiti radi principa. Poanta je stara koliko i slučaj AT&T-a. Tržište bez ikakvog vrtlara ima tendenciju da se pretvori u jedan vrt s jednim vlasnikom, i taj vlasnik onda odlučuje što raste a što se čupa. Država se, sviđalo se to njoj ili ne, opet vraća u ulogu vrtlara — sa zakašnjenjem od dvadesetak godina, s alatima koji su često nezgrapni za digitalno doba, ali vraća se. Pitanje koje ostaje otvoreno, i koje će sljedeća desetljeća morati odgovoriti, jest hoće li ovi novi zakoni stvarno otvoriti prostor za sljedeći Google da izraste pored ovog Googlea — ili će, kao i toliko puta prije, samo promijeniti tko sjedi na tronu, a ne postojanje trona samog.

Evo temeljnog problema, onog koji nijedan zakon neće riješiti jer nije pravni nego fizikalni: tehnologija se mijenja u mjesecima, a zakon se donosi u godinama. Pisanje AI Acta krenulo je 2021., kad se najviše brinulo o klasifikaciji rizika kod prepoznavanja lica i kreditnog bodovanja. Do trenutka kad je usvojen 2024., svijet je već imao GPT-4, agente koji sami klikaju po ekranu umjesto tebe i modele koji pišu kod bolje od pola stažista u tvojoj firmi. Zakon je, u dijelovima, bio zastario prije nego što je stupio na snagu — ne zato što su zakonodavci glupi, nego zato što pokušavaš pogoditi metu koja se kreće brže od metka.

I tu dolazimo do drugog problema, manje vidljivog, ali podjednako bolnog: regulatori jednostavno nemaju ljude koji razumiju što reguliraju. Netko tko stvarno zna kako radi »transformer« arhitektura — onaj matematički recept po kojem su napravljeni ChatGPT i slična čuda, u osnovi način da stroj pogodi koja riječ ide iza koje — zarađuje pola milijuna dolara godišnje u OpenAI-u ili Googleu, ne 70 tisuća eura u bruxelskom povjerenstvu. Pa se odvija tiha utrka za talentom, ista kao ona za čipovima, samo obrnuta — državne agencije love ljude koje firme koje reguliraju plaćaju deset puta bolje. Rezultat je predvidljiv: zakone pišu ljudi koji su naučili što je neuronska mreža prošli utorak, o tehnologiji koju su dizajnirali ljudi koji su na njoj radili doktorate.

Ali — i ovo je ono »ali« koje ne smiješ zaboraviti — prekasna regulacija nije nikakva sigurna alternativa. Vidjeli smo što se dogodi kad država desetljeće i pol gleda kroz prste: dobiješ techlash (val javnog bijesa protiv tehnoloških giganta, kad ljudi napokon shvate koliko im firma zna o životu), dobiješ Cambridge Analyticu (skandal iz 2018. u kojem je jedna firma za politički marketing tiho pokupila podatke desetaka milijuna Facebook korisnika i njima ciljano manipulirala biračima), dobiješ platforme koje su odrasle toliko da im nitko izvana ne može ništa. Kasno je isto toksično kao rano, samo se otrov drugačije zove. Nema čistog rješenja. Postoji samo manje loše, i nitko pametan zapravo ne zna koje je to.

Zato 2023. ne završava pobjedom ni jedne strane. Završava neriješeno. Država je, napokon, budna — poslije desetljeća u kojem su senatori pitali kako Facebook zarađuje novac (ozbiljno, doslovno su to pitali, uživo, pred kamerama), sad imaš zakone o čipovima, o autorskim pravima, o antitrustu, o samom AI-u. Ali budnost nije brzina. Tehnologija je i dalje ta koja diktira tempo, a zakon trči za njom, uvijek korak-dva iza, uvijek objašnjavajući jučerašnji problem dok se sutrašnji već formira negdje u nekom laboratoriju u Kaliforniji ili tvornici u Hsinchuu.

Jer to je sljedeći korak, onaj koji se već nazire na horizontu dok ova knjiga zaklapa poglavlje o zakonima: agenti. Sustavi koji ne čekaju da im kažeš što da napišu, nego sami odlučuju što da urade — kliknu, pošalju mail, kupe nešto, promijene kod, pa ga i pokrenu. A pravni okviri koje si upravo pročitao, ti mladi, mučno rođeni zakoni o transparentnosti i riziku, pisani su za svijet u kojem AI govori. Ne za svijet u kojem AI radi. Nitko — ni firme koje te sustave grade, ni odbori koji ih nadziru, ni regulatori koji ih pokušavaju uhvatiti u zakonski okvir — nema jasan odgovor na pitanje tko, u tom novom svijetu, stvarno drži uzde.

Era ubrzanja — ta koja je pretvorila privremena rješenja u vječne temelje i uz put preplašila cijeli svijet jednim chatbotom — upravo predaje palicu sljedećoj. Eri u kojoj kod ne samo da se piše brže nego ikad, nego počinje, korak po korak, pisati sam sebe.