Techlash je bio zaslužen

Zamisli da si na saslušanju za posao 2010. godine i kandidat ti kaže rečenicu koju bi danas, na sudu, morao ponoviti kroz odvjetnika. „Move fast and break things” — brzo napredujte, kršite stvari. To nije bila slogan bilo koje firme, to je bio službeni moto Facebooka, Zuckerbergova zapovijed inženjerima da radije isporuče nešto polovično danas nego savršeno za pola godine. Zvučalo je kao moto revolucionara. Zvučalo je kao mladić u hoodieju koji se ruga kravatama i sastancima od tri sata, koji kaže: dosta je pretvaranja, gradimo, kvarimo, popravljamo, opet gradimo. Aplaudirali smo. Ja sam aplaudirao. Jer stvari koje su se tada kvarile bile su — budimo iskreni — taksi kompanije koje su te tjerale da čekaš pola sata i naplaćivale ti kao da si u limuzini, hotelski lanci koji su ti prodavali sobu veličine ormara po cijeni apartmana, izdavačke kuće koje nisu shvaćale internet ni kad ih je udario u glavu.

„Things”, te „stvari” koje je trebalo razbiti, bile su zastarjeli poslovni modeli — debele, spore, samodopadne korporacije koje su zaslužile da im netko prodrma temelje. Lako je bilo navijati za razbijača kad je razbijao baš ono što je i tebi smetalo.

Ovo poglavlje neće braniti industriju koja je to napravila. Ali neće ni suditi bez saslušanja, koliko god optužnica bila teška. A optužnica glasi: Silicijska dolina je desetljećima prodavala jedan proizvod — priču da čini svijet boljim mjestom, onaj isti optimizam koji smo raščlanili ranije u ovoj knjizi — a isporučivala je drugi. Eksternalije. Zvuči kao riječ iz udžbenika ekonomije, a u prijevodu na jezik običnog čovjeka znači ovo: netko drugi plaća račun za tvoju zabavu. Kao kad susjed pali roštilj svaki dan, njemu miriši meso, a ti gutaš dim i vješaš oprano rublje natrag u kuću. Trošak koji netko drugi plaća, dok profit ostaje kod kuće, u dionicama, u opcijama, u kvartalnim izvještajima koji izgledaju sjajno ako ne gledaš što je ostalo iza.

Obrana postoji, i bit će saslušana pošteno — jer isti alati koji su razbili lokalne novine povezali su i revolucije, isti algoritmi koji su hranili bijes hranili su i milijune sati besplatnog znanja. Porota, to jest ti, dobit će oba svjedoka. Ali presuda, budimo pošteni prije nego počnemo, već sad naginje na jednu stranu.

Časni sude, dame i gospodo porotnici — svi vi, u biti, jer ovu knjigu čita narod, a narod je taj koji je platio ovu zabavu. Optuženik: Silicijska dolina, u širem smislu, sa sjedištem svugdje i nigdje, s poreznom adresom u Dublinu i moralnom adresom nigdje konkretno. „Move fast and break things” — kreni brzo i razbijaj stvari — i, kako ćemo vidjeti, mislili su to vrlo ozbiljno. Optužba: prevarila je pola planeta da povjeruje da grade budućnost, dok su zapravo, u tišini, prebacivali račun na nekog drugog i zadržavali ostatak za sebe.

Riječ koju su za to koristili je lijepa — „disrupcija”. Zvuči kao inovacija, kao razbijanje starih, ustajalih pravila u ime napretka. Zvuči kao nešto hrabro. E vidiš, kad je prevedeš s marketinškog na hrvatski, disrupcija znači ovo: pronađi trošak koji netko drugi trenutno plaća, prebaci ga na treću stranu koja nema pravo glasa u toj priči, i zadrži profit za sebe. Uber nije „disruptao” taksi industriju izumom nečega novog — izumio je način da vozač nosi rizik automobila, goriva, osiguranja i vlastitog umora, dok tvrtka nosi aplikaciju i postotak. Gradove smo već sekcirali (poglavlje 4, ako te zanima cijela obdukcija) — ovdje samo podsjetnik: kad tisuće vozača optimiziraju rutu preko istog algoritma, grad dobije prometni čir koji nitko nije naručio i nitko u sjedištu u San Franciscu ne plaća.

Airbnb je isti trik, druga kostimografija. Prodano ti je kao „podijeli svoj dom, zaradi nešto ekstra” — a stiglo je kao stanovi u centru grada koji se pretvaraju u mini-hotele bez licence, dok stanarina lokalnog stanovništva rase jer ponuda stanova za normalan život nestaje u korist turističkih apartmana. Netko je to sanjao kao ekonomiju podjele. Ispalo je da se dijeli samo trošak — stanovanje postaje skuplje za onoga tko u gradu stvarno živi, a profit ide onome koji nikad nije morao razmišljati gdje će spavati.

Ovo je poglavlje 24 na steroidima — sjetiš se, ono gdje smo pričali kako algoritmi znaju gurnuti izbore i cijele politike u jednom smjeru bez da ikad izađu iz svog koda — samo što ovdje ne pričamo o jednim izborima ni o jednoj zemlji. Pričamo o dizajnerskoj filozofiji koja je globalno primijenjena na milijarde mozgova istovremeno, dvadeset i četiri sata dnevno, besplatno, jer proizvod si zapravo ti.

Sad, moram biti pošten kao što ovaj format traži — ovo je optužnica, ne presuda, a optužnica se mora dokazati, ne samo izgovoriti s puno strasti. Idemo onda oprezno, kako i treba, na pitanje koje najviše boli: mladi i mentalno zdravlje. Studije koje povezuju vrijeme provedeno na društvenim mrežama s anksioznošću i depresijom kod tinejdžera postoje, i ima ih puno — ali korelacija nije kauzalnost, to znaš i ti i ja, a svaki novinski naslov koji vrišti „dokazano” lagano prelazi granicu onoga što znanost stvarno govori. Moguće je da nesretni tinejdžeri više skrolaju, a ne da skrolanje čini tinejdžere nesretnima. Moguće je da je uzrok trojak, isprepleten, da je pandemija dodala slojeve koje je teško razmrsiti. Ali — i ovo ali je veliko — trend je dosljedan, međunarodan, i pojavljuje se otprilike u vrijeme kad su pametni telefoni i beskonačan feed postali stalni pratitelj svakog djeteta na planetu. Sumnjivo je to ne primijetiti. Sumnjivo je i ne istražiti dublje, iz vlastite kuće, kad si baš ti ta kuća.

I onda, dok se sve to događa gore, na katu, tiho umire nešto što se čini dosadno u usporedbi s prethodnim — lokalne novine. Oglasi koji su desetljećima plaćali novinare koji su pratili gradsko vijeće, sudove, školske odbore, sitne korupcije koje nikad ne dođu do nacionalnih naslova — svi ti oglasi otišli su na dvije adrese, Google i Facebook, koji su zajedno pojeli tako velik dio digitalnog oglašavanja da lokalnim novinama nije preostalo ništa osim otkaza i gašenja. Informirano građanstvo, ona stvar bez koje demokracija tehnički ne funkcionira, postalo je »eksternalija« u tablici prihoda dviju tvrtki koje same nikad nisu napisale ni jedan novinski članak — dok se ti smiješ do banke.

To je optužnica, časni sude. Ne da su ovi ljudi zli u onom filmskom smislu, s crnim šeširima i planom svjetske dominacije. Optužba je hladnija i gora od toga: da je šteta bila predvidiva, mjerljiva, i da je nastavljena jer je bila profitabilna — jer je, uostalom, cijela kultura te iste tvrtke godinama bila utemeljena na moru koje glasi „Kreći se brzo i razbijaj stvari”, i teško je pretvarati se da razbijeno slučajno ispadne baš tinejdžerica pred zrcalom. Sad neka obrana kaže svoje — ima pravo, i bit će saslušana pošteno. Ali ovo su dokazi na stolu, i neće nestati samo zato što zvuče neugodno.

Optužnica je gotova. Sad dolazi ono što svaki dobar tužitelj čeka — trenutak kad okrivljeni sam progovori. Ne novinar, ne akademik s grantom, ne bijesni roditelj s Reddita. Optuženi. Iznutra.

Listopad 2021. Frances Haugen, bivša product manager u timu za integritet civilnog društva na Facebooku — dakle osoba koja je odlučivala kako proizvod, recimo Instagram, izgleda i funkcionira, ne inženjerka koja piše kod — izlazi iz sjene s kutijama internih dokumenata. Zovu ih Facebook Files. Nisu to nagađanja aktivista — to su vlastite studije kompanije, provedene na vlastitim korisnicima, s vlastitim novcem. I evo što su te studije, godinama unatrag, govorile menadžmentu: Instagram šteti mentalnom zdravlju tinejdžerica. Ne možda. Ne blago. Interni slajd kaže da 32 posto djevojaka koje se već osjećaju loše u vezi svog tijela izjavljuje da im Instagram taj osjećaj pogoršava. Znali su. Imali su brojku. Imali su graf. I algoritam je nastavio raditi isto što je radio dan prije.

I ne, ovo nije usamljen slučaj jedne kompanije koja je slučajno imala lošu godinu. Prije Haugen, prije slajdova, postojala je cijela generacija ljudi koji su dizajnirali te iste mehanizme i onda — otišli, i pokajali se, javno, pred kamerama, s onim posebnim žarom koji imaju samo bivši vjernici. Tristan Harris, bivši dizajn-etičar u Googleu, osnovao je pokret „Time Well Spent” — u prijevodu „vrijeme dobro provedeno” — čija je cijela premisa da su aplikacije dizajnirane da te ne puste, a ne da ti pomognu i onda te puste dalje. Slot-mašina u tvom džepu, samo bez zvona i svjetla, jer svjetlo bi te podsjetilo da nešto nije u redu.

Chamath Palihapitiya, bivši potpredsjednik za rast korisnika na Facebooku — čovjek čiji je posao bio, literalno, brinuti da broj korisnika i vrijeme koje provode na platformi rastu iz mjeseca u mjesec — rekao je 2017. na Stanfordu, javno, pred kamerama, rečenicu koja se ne zaboravlja: „Stvorili smo alate koji razaraju tkivo društva.” Ne aktivist. Ne konkurent. Čovjek koji je godinama gradio taj alat i koji je znao točno koje je ručice povlačio i zašto.

E, sad. Ovo je onaj dio suđenja gdje bi obrana normalno viknula prigovor — kontekst, molim, izvučeno iz konteksta. I ima pravo tražiti to. Zato idemo dalje, jer optužba se sama ne dokazuje bukom jednog citata. Ali ostavimo ovo za trenutak visjeti u sudnici: znali su. Ne nagađali. Znali, imali podatke, i računica je i dalje izlazila u korist rasta — jer „brzo se kreći i razbijaj stvari” (Move fast and break things) nikad nije bio slučajna fraza s plakata u predvorju, bio je uputa za rad. To se ne briše sljedećom svjedokom obrane, to se samo — objašnjava. A objašnjenje i opravdanje, vidjet ćemo, nisu ista riječ.

Sudnica se sad okreće drugoj strani stola. I ovo nije formalnost, nije ono jadno »a čujmo i njih« prije nego se ionako presudi po prvom dojmu — obrana ima argumente koji stoje, i ako ih ismiješ prije nego ih čuješ, nisi porota, ti si linč s laptopom.

Prvi svjedok: 2011. godina, Tunis, Egipat, Trg Tahrir. Ljudi su se organizirali, sinkronizirali prosvjede, izvlačili snimke represije prije nego što ih režim stigne ušutkati — preko istih platformi koje danas optužuješ da su rak društva. Facebook i Twitter tad nisu bili alat kontrole, bili su alat oslobođenja, i cijela ta priča — obrađena ranije u ovoj enciklopediji, u dijelu o društvenim mrežama i arapskom proljeću — nije bila PR bajka, stvarno se dogodila. Ne možeš istu tehnologiju u istoj rečenici zvati i oružjem tiranije i oružjem revolucije, ovisno što ti taj dan paše za tezu.

Drugi svjedok, malo dosadniji, ali težak kao olovo: pristup znanju. Wikipedia — da, ta ista Wikipedia koju ova enciklopedija inače voli podbadati — demokratizirala je znanje na način na koji nijedna enciklopedija u kožnom uvezu nikad nije mogla. YouTube je za dijete u selu bez knjižnice jedini profesor kemije, fizike, popravka motora i sviranja gitare koji postoji. Kad kritičar tehnologije snima kritiku tehnologije — na kameri kupljenoj preko interneta, montiranoj u softveru distribuiranom preko interneta, objavljenoj na platformi koju kritizira — obrana samo mirno pokaže na to i sjedne.

Treći svjedok: povezanost i posao. Milijuni ljudi danas žive od tih istih platformi koje optužnica zove parazitima na društvu, iako ih sama optužnica krivi za takozvane „eksternalije” — sve ono što neka firma zaradi, dok društvo trpi posljedice (izgorene tinejdžere, uništene lokalne novine, ovisnost o beskonačnom skrolanju). Frizerka u Osijeku koja preko Instagrama puni raspored tjednima unaprijed, vozač koji preko Ubera plaća stanarinu, developer u Puli koji preko Upworka radi za firmu u San Franciscu — njima „eksternalija” nije apstraktan pojam iz sudnice, njima je to plaća.

I onda dolazi argument koji obrana najviše voli, jer je star kao sam nož: tehnologija je alat, zloupotreba je ljudska. Nož reže kruh i reže grkljan, ovisno tko ga drži, i nitko ne tuži proizvođača noževa kad neko počini zločin. Kirurg i ubojica koriste identičan skalpel. Algoritam koji te povezuje s davno izgubljenim prijateljem iz osnovne škole i algoritam koji te guta u zečju rupu radikalizacije — isti kod, samo druga ruka na upravljaču. Zašto bi Silicijska dolina odgovarala za to što čovječanstvo, kad mu daš megafon, često odabere vikati?

Obrana ovo ne iznosi da bi rekla »vidiš, sve je u redu«. Iznosi to da bi rekla: povijest je puna slučajeva kad je odrasla generacija svoj strah od nepoznatog obukla u brigu za djecu, a onda se ispostavilo da je briga bila preuveličana, a strah stvaran problem. Možda je i sada tako. Možda nije. Ali sama činjenica da postoji panika ne znači da je panika ovaj put pogrešna — i, važnije za ovu sudnicu, sama činjenica da je panika bila pogrešna prošlih pet puta ne znači da je automatski pogrešna i ovaj šesti.

Zato ovo poglavlje u naslovu kaže »zaslužen«, a ne »potpuno kriv«. (Da razjasnimo: techlash je taj isti otpor o kojem cijelo poglavlje govori — spoj riječi „tehnologija” i „backlash”, odnosno organizirano gunđanje javnosti, medija i regulatora protiv velikih tehnoloških tvrtki, nakon desetljeća u kojem su ih svi gledali kao spasitelje svijeta.) To je razlika koju obrana ima pravo tražiti da se poštuje. Techlash je zaslužen — ali zaslužen ne znači da je svaka optužba u njemu točna, ni da je svaki dobar proizvod ove industrije zapravo prerušena šteta. Porota, zapiši to negdje u kutu prije nego čuješ unakrsno ispitivanje koje slijedi.

Dobro. Obrana je govorila, i valjano je govorila. Sad tužiteljstvo ustaje i traži riječ za protupitanja. Prvo protupitanje: kažete da je tehnologija samo alat, a zloupotreba ljudska stvar. Lijepo. Ali onda mi objasnite razliku između noža i cigarete. Nož ne radi ništa dok ga netko ne uzme u ruku. Cigareta radi sama, na tebe, dok je pušiš — jer je netko, negdje, u nekom laboratoriju, namjerno podesio količinu nikotina da te vrati po još jednu. To se zove dizajn ovisnosti, i industrija duhana je to radila desetljećima dok je javno tvrdila da ‘ne postoje dokazi’ da cigarete uzrokuju rak. Poznato? Trebalo bi. Jer beskonačno pomicanje ekrana (ono što industrija zove ‘infinite scroll’ — feed koji se učitava iznova i iznova, bez dna, bez ruba stranice koji bi ti signalizirao da je vrijeme da prestaneš) i autoplay i crvena notifikacija koja te povuče natrag u aplikaciju nisu slučajni nusprodukt dobrog inženjerstva. To je ista logika kockarnice bez prozora i sata na zidu — ne zato da ti bude lijepo, nego da ne primijetiš da je prošlo šest sati. Alat se koristi loše. Industrija dizajnirana za ovisnost se koristi kako je zamišljena. Ta razlika nije nijansa. Ta razlika je cijeli slučaj.

Drugo protupitanje, i ovo je važno pa molim porotu da pripazi: obrana je rekla da svaka nova tehnologija izaziva paniku — televizija, stripovi, rock'n'roll — i da je današnji techlash samo najnovija verzija istog ludističkog refleksa (sjećate se, iz drugog poglavlja prve knjige, čovjeka koji je razbijao tkalačke stanove). Istina. Ali iz te istine obrana izvlači zaključak koji ne slijedi: da je onda SVAKA panika oko tehnologije neopravdana. To je logička greška obrnuta naopako — ludistička greška, samo u drugom smjeru. Činjenica da su ljudi 1955. panično vikali da će rock'n'roll pokvariti omladinu, i pogriješili, ne dokazuje da su ljudi 2021. pogriješili kad su rekli da Instagram šteti tinejdžerkama. Neke panike su bile smiješne. Neke su bile proročke. Razliku ne određuje to koliko je panika zvučna, nego ima li dokaza iza nje. A dokaza — vidjeli smo ih ranije u ovom poglavlju, iz internih dokumenata same tvrtke — ima.

I treće, možda najvažnije protupitanje: obrana kaže da je tehnologija alat, a zloupotreba ljudska stvar, kao da je Facebook nešto poput čekića koji netko slučajno koristi za razbijanje prozora umjesto zabijanja čavla. Ali eksternalija u ovom slučaju znači bijes koji drži pažnju, lokalne novine koje umiru jer je oglasni novac otišao na platformu koja ne plaća nijednog novinara, gradsko stanovanje koje se pretvorilo u niz Airbnbova. To nije nezgoda poslovnog modela. To JE poslovni model. Kad firma zarađuje točno onoliko koliko uspije zadržati tvoju pažnju, a pažnju najbolje zadržava bijes, onda bijes nije bug (greška u kodu koju nitko nije planirao). Bijes je feature (funkcija koju je netko svjesno ugradio) koji se samo ne prodaje kao feature. Zloupotreba pretpostavlja odstupanje od namjere. Ovo je namjera, samo neizrečena naglas — »Move fast and break things«, kreni brzo i razbijaj stvari, a baš ta razlika između onoga što se prodavalo (»povezujemo svijet«) i onoga što se optimiziralo (vrijeme na ekranu, po svaku cijenu) jest ono što ovaj slučaj pretvara iz nesretnog alata u optuženu industriju.

Dobro, porota je šutjela dovoljno dugo, sad je vrijeme za verdikt. A verdikt neće biti jednostavan, jer ova optužnica nije jednostavna. Tech industrija je u istom desetljeću spojila svijet, demokratizirala znanje, dala glas ljudima koji ga nikad nisu imali — i istovremeno izgradila mašine za trganje pažnje, prodala ih kao poklon, i kad su interni izvještaji rekli da te mašine bole djecu, odlučila je da je kvartalni rezultat važniji. Oboje je istina. Ne jedno umjesto drugog, nego oboje, u istoj rečenici, o istim ljudima.

Zato je »zaslužen« precizna riječ, a ne najlakša. Nije zaslužen jer je internet loš. Nije zaslužen jer su ekrani opijum. Zaslužen je jer je industrija znala razliku između alata i oružja, i birala je oružje, dvadeset godina, bez da je ikad javno odgovarala za taj izbor. Techlash nije bio osveta ludita — nije bio slijepi bijes ljudi koji mrze novo zato što je novo, kao ono što su tkalci u devetnaestom stoljeću radili strojevima koji su im uzeli posao. Bio je račun koji je stigao kasno, s kamatama, ali s pravim brojem na dnu.

Sad, da budemo pošteni do kraja — i prema onima koji viču najglasnije. Dobar dio techlasha je licemjerje čistog zlata: ljudi koji objavljuju vatrene tredove o toksičnosti platformi — na platformi, s telefona kojeg su provjerili osamdeset puta tog dana, dok im dijete gladno sjedi za stolom. („Tred” je samo niz povezanih objava koje se nastavljaju jedna na drugu, kao rasprava za stolom u kojoj svi upadaju jedni drugima u riječ, samo što je ovo zapisano.) Kritizirati Silicijsku dolinu postalo je vlastita vrsta sadržaja koji se optimizira za engagement. Ironija je toliko gusta da se može rezati nožem, i taj nož je vjerojatno kupljen preko iste aplikacije koju kritiziraš.

Pa što onda čovjek radi s ovim? Ne postoji jedan lijek, i svatko tko ti ponudi samo jedan — regulacija će sve riješiti! samo se isključi i sve će biti u redu! — prodaje ti pojednostavljenje umjesto rješenja. Treba sve odjednom, i ništa od toga nije dovoljno samo po sebi: regulativa koja zabranjuje dizajn ovisnosti kod djece, kao što zabranjuje prodaju cigareta maloljetnicima — jer je logika ista, samo je proizvod nevidljiv. Dizajn-etika koja postane dio posla, a ne naljepnica na kraju — netko u sobi mora imati ovlast reći ne ovome, čak i kad metrika kaže da. Poslovni modeli koji ne žive od tvoje pažnje — pretplata umjesto oglasa, jer platforma koja zarađuje po minuti tvog života nikad neće imati razlog da te pusti. I na kraju, da, osobna odgovornost — jer regulator neće ugasiti tvoj telefon navečer, to još radiš ti, ili ne radiš.

Ali stvarna poanta nije u receptu. Stvarna poanta je da industrija koja je dvadeset godina govorila move fast and break things nikad nije ozbiljno pitala tko plaća za to što se slomi. Techlash je bio zaslužen upravo zato — ne kao kazna, nego kao dugo zakašnjelo pitanje. I dolazi novo desetljeće, novi alat, veći, brži, s još manje kočnica — pa je posljednje pitanje ovog suđenja jedino koje stvarno vrijedi: jesmo li nešto od ovoga naučili, ili ćemo za AI ponovno reći da je previše rano da znamo štetu, dok interni izvještaji već leže u fioci.