Cambridge Analytica (2018)

Početak 2018. Facebook ima preko dvije milijarde korisnika — više ljudi nego što ih živi u bilo kojoj državi, bilo kojem carstvu u povijesti. Zuckerberg je na naslovnicama, ali ne kao čudo od djeteta iz sobice na Harvardu (K5, pogl. 6), nego kao čovjek čija platforma odlučuje ishode referenduma i izbora — i to ne metaforički. Brexit. Trump. Duterte. Bolsonaro će uskoro. Platforma zamišljena da spaja cimere na fakultetu postala je najveće sredstvo političkog uvjeravanja u povijesti čovječanstva, a nitko baš nije stigao pročitati uvjete korištenja prije nego što je to postala.

I dok se to događa, negdje u pozadini svi ponavljaju istu mantru: podaci su nova nafta (K6, pogl. 11). Zvuči sjajno na konferenciji. Zvuči kao rečenica koju izgovoriš pijuckajući espresso u kutu s logom neke startup konferencije, dok iza tebe klize slajdovi s grafovima koji uvijek idu gore i desno. Nafta pokreće civilizaciju, dakle podaci pokreću budućnost — tko ima podatke, ima moć. Elegantna metafora. Samo što nitko baš nije objasnio što to konkretno znači kad tu naftu izvlače iz tebe, iz tvog kviza o tome koji si lik iz neke serije, i iz tvojih petsto Facebook prijatelja koji taj kviz nikad nisu ni vidjeli.

Onda, u proljeće te godine, novine dobivaju priču koju ni najciničniji urednik ne bi izmislio. Mladić s ružičastom kosom, Christopher Wylie, sjeda pred kamere Guardiana i Channel 4 i kaže: bio sam unutra. Cambridge Analytica, tvrdi, uzela je podatke 87 milijuna korisnika Facebooka — bez njihova znanja, kroz aplikaciju za kviz — i tim se materijalom pokušalo kirurški ciljati birače, po strahu, po bijesu, po psihološkom profilu koji nikad nisi znao da posjeduješ. Brexit. Trump. Iste dvije riječi, opet, sad u optužnici umjesto u naslovima o pobjedi.

Bijes koji je tinjao godinama — na monopole, na algoritme, na to koliko dobro te neka aplikacija poznaje — sad ne tinja, nego gori. Techlash, zovu ga novinari, jer je trebalo smisliti novu riječ za nešto što do sada nismo osjećali prema industriji koja nas je do jučer zabavljala besplatnim mačjim videima. Silicijska dolina, taj čarobni vrt inovacije iz K5, prvi put stoji na optuženičkoj klupi, a cijeli svijet, s telefonom u ruci — istim telefonom kroz koji je sve to i procurilo — čeka presudu.

Dame i gospodo porotnici — jer to ste, htjeli to ili ne — optužba glasi ovako: u proljeće 2018. otkriveno je da je jedna britanska firma, Cambridge Analytica, prikupila osobne podatke 87 milijuna korisnika Facebooka, psihološki ih profilirala i onda im, bez njihova znanja, servirala reklame skrojene da im pipnu najdublje strahove i bijes. Cilj? Da glasaju kako firma hoće. Zvuči kao zavjera iz lošeg trilera. Problem je što je istinito, dokumentirano i puno gluplje nego što bi film ikad smio biti.

Počelo je nevino, kao i sve najgore stvari na internetu. Aplikacija zvana »thisisyourdigitallife« — kviz, ništa drugo, jedan od onih koji ti kaže koji si lik iz sapunice ili koja ti je duša-boja — sakupila je oko 270.000 ljudi koji su pristali odgovoriti na par pitanja. Do tu, u redu. Ljudi su pristali, potpisali su (ili kliknuli, što je isto, samo brže) da daju svoje podatke.

Ono što nisu potpisali — jer nisu ni znali da ta opcija postoji — bilo je da aplikacija povuče i podatke SVIH njihovih prijatelja. Ne njihove odgovore na kviz. Njihove podatke. Lajkove, interese, gradove, rođendane, sve što je Facebook godinama u tišini prikupljao. Matematika je brutalna: uzmeš 270 tisuća ljudi koji su pristali, pomnožiš s prosječnim brojem prijatelja po glavi, i dobiješ 87 milijuna ljudi koji taj kviz nisu ni pogledali u životu, a njihovi podaci su svejedno otišli istoj firmi. To nije bio bug. Nije to neka rupa koju je hakerski genij pronašao u tri ujutro. To je bila funkcija. Facebook je platformu iz 2007. baš tako i dizajnirao — otvorena vrata za developere, jer developeri su rasli platformu, a tko je onda brojio koliko se kroz ta vrata iznese van.

Tko je ovo iznio na vidjelo? Wylie je sjeo pred novinare »Guardiana« (britanski list) i »Channel 4« (britanska televizija) i rekao: da, radili smo to, i radili smo to u dva najveća politička trenutka desetljeća. Referendum o Brexitu, na kojem je Britanija tijesno odlučila napustiti Europsku uniju. I američki izbori 2016., na kojima je Donald Trump — protiv skoro svih predviđanja anketa — pobijedio.

Optužba tvrdi: ovo nisu bile nesretne slučajnosti. Ovo je bio proizvod. Kupljen, plaćen, isporučen. Podaci nisu bili samo „nova nafta”, kako se onda slavodobitno govorilo — bili su gorivo za mašinu koja je, po ovoj priči, promijenila smjer dviju demokracija istovremeno.

To je, dakle, optužnica. Sad idemo vidjeti dokaze — i, budimo pošteni prije nego počnemo, ima tu podosta rupa koje obrana neće propustiti spomenuti.

Dobro, tužiteljstvo je iznijelo optužnicu. Sad dolazi dosadan, ali presudan dio svakog suđenja — dokazni materijal. I ovdje stvar postaje neugodna, jer dokazi ne pokazuju provalu. Ne pokazuju genijalnog hakera koji je noću zaobišao firewall. Pokazuju vrata. Široko otvorena, s natpisom „uđite”, koja je Facebook sam ugradio i držao otvorena — po dizajnu — godinama.

Zove se Graph API, i da odmah rasčistimo mit: to nije neka tajna zadnja vrata za odabrane, nego obično sučelje preko kojeg jedan program „pita” Facebook za podatke, slično kao što konobar odnese tvoju narudžbu u kuhinju i vrati se s hranom. Facebook ga je svjesno dao developerima da bi platforma rasla — logika je bila jednostavna: ako aplikacije mogu vući podatke iz Facebooka, ljudi će praviti više aplikacija, ljudi će se više prijavljivati preko Facebooka, Facebook postaje centar interneta. Ta mogućnost je postojala od pokretanja Facebook platforme 2007. i ostala je otvorena sve do verzije 2.0 Graph APIa, uvedene 2014./2015. — sve to vrijeme svaka aplikacija koja je tražila dozvolu od jednog korisnika nije dobivala samo njegove podatke — dobivala je i podatke njegovih prijatelja: lajkove, interese, lokacije, sve, bez da su ti prijatelji ikad kliknuli ništa, bez da su i znali da aplikacija postoji. Jedan klik „dozvoli” od tebe, i podaci tvojih dvjesto prijatelja putuju vani. To nije bio propust koji je nekome promaknuo u provjeri koda prije lansiranja — to je bila namjerna značajka, i pisalo je u dokumentaciji, crno na bijelo.

Taj netko se zvao Aleksandr Kogan, predavač psihologije na Cambridgeu, koji je napravio kviz-aplikaciju „thisisyourdigitallife”. Formalno, imao je dozvolu od Facebooka da prikuplja te podatke — ali isključivo za akademsko istraživanje. Uvjeti korištenja API-ja jasno su govorili: podaci se ne prosljeđuju trećim stranama, ne koriste se komercijalno. Kogan je te podatke prodao Cambridge Analytici. Ovo je, tehnički gledano, kršenje pravila platforme. Zločin, ako hoćeš — baš onaj koji optuženi (Facebook) najviše ističe kad se brani: „mi smo postavili pravila, on ih je prekršio, kriv je on”.

Samo, evo problema s tom obranom, i tužiteljstvo će ga naglasiti — Facebook nikad nije provjeravao poštuju li se ta pravila. Nije postojao mehanizam koji bi otkrio da je Kogan prekršio uvjete dok mu netko to nije rekao vani, godinama kasnije. Zamisli da postaviš znak „zabranjeno bacanje smeća u park”, ali nikad ne šalješ nikoga da provjeri i nikad ne postavljaš kamere, pa se onda čudiš kad park bude prepun smeća. Facebook je imao pravila napisana lijepim slovima u dokumentu koji nitko nije čitao, i nulu mehanizama provedbe. Kad je sustav takav, pitanje nije „hoće li se dogoditi zloupotreba”, nego „koliko će trebati da se neko sjeti”.

I ovdje dokazni materijal postaje pravi udarac, jer nije da Facebook ovo nije znao. Interni dokumenti i kasnija izvješća pokazuju da su ljudi unutar firme godinama upozoravali na rizik curenja podataka preko API-ja trećih strana. Reakcija je bila poznata — ako pratiš ovu enciklopediju, prepoznat ćeš obrazac iz priče o Beaconu: prekorači granicu privatnosti, čekaj da eksplodira javno, izdaj izjavu s rečenicom koja je gotovo ritualna — „trebali smo učiniti više”, „we should have done more” — i onda zadrži temeljni model, samo malo uglađeniji. Verziju 1.0 svog API-ja Facebook je zatvorio 2014., ne zato što je iznenada shvatio da je opasna, nego zato što je poslovni fokus prešao s „rasti pod svaku cijenu” na „monetiziraj ono što imaš”. Šteta je već bila napravljena — Cambridge Analytica je podatke ubrala 2014., prije zatvaranja vrata.

A onda dolazi scena koja je, iskreno, vrijedna više od svih dokumenata zajedno — Mark Zuckerberg pred Kongresom Sjedinjenih Država, travanj 2018., u odijelu koje mu je, po svim izvještajima, PR tim birao baš da izgleda kao normalan čovjek, a ne android. Senatori, mahom ljudi koji su karijeru izgradili prije nego što je internet imao boje, pokušavaju razumjeti kako uopće funkcionira nešto što koristi svaki njihov birač. Senator Orrin Hatch pita, s potpunom ozbiljnošću, kako Facebook zarađuje novac kad je korištenje besplatno. Zuckerberg, nakon kratke pauze koja je postala internetska klasika, odgovara: „Senatore, mi prikazujemo reklame.”

Dakle, dokazni materijal tužiteljstva u sažetku: Facebook je izgradio sustav koji je po dizajnu propuštao podatke bez pristanka, imao je pravila koja nikad nije provjeravao, znao je za rizik godinama i reagirao je isprikom bez suštinske promjene, a kad je konačno došao pred one koji bi ga trebali držati odgovornim, ti su ljudi jedva razumjeli kako mu novac uopće dolazi u kuću. Ostaje pitanje za obranu — je li to sve krivnja jedne firme, ili je to jednostavno kako je internet radio, i svi su znali, samo nitko nije htio prvi reći naglas.

Obrana ima riječ. I obrana, moramo priznati, počinje s nešto što optužba baš ne voli čuti: možda cijela ta psihografska mašinerija koja je srušila demokraciju — nije radila. Ili barem ne onako kako je Cambridge Analytica tvrdila u svojim prezentacijama investitorima. Ta „mašinerija” se temeljila na OCEAN modelu, poznatom i kao „Big Five” — psiholozi njime već desetljećima mjere ličnost kroz pet osobina (otvorenost, savjesnost, ekstraverziju, ugodnost i neuroticizam), a Cambridge Analytica je tvrdila da iz tvojih lajkova može pogoditi gdje spadaš na tih pet ljestvica bolje nego što bi to znala tvoja majka, i onda ti prilagoditi reklamu baš po mjeri tvoje psihe. Znanstvenici koji su se poslije bacili na provjeru tog modela i njegove moći da promijeni glas na izborima došli su do neugodno skromnih brojki. Efekt postoji, da, mikrociljanje po osobnosti nešto pomjera — ali govorimo o postotcima koji bi teško sami preokrenuli izbore te veličine. Alexander Nix, čovjek koji je vodio CA, na snimkama hvali svoju firmu kao onu koja je izborila Brexit i Trumpa. To je odlična rečenica za sastanak s klijentom. Manje je odlična kao znanstvena tvrdnja.

Drugi argument obrane je jednostavniji i, iskreno, teže ga je odbaciti: svi su to radili. Barack Obama, čovjek koji je 2008. i 2012. bio miljenik svakog članka o tome kako tehnologija spašava demokraciju, imao je kampanjski tim koji je isto tako povlačio podatke s Facebooka, isto tako profilirao birače, isto tako ciljao poruke po psihološkom profilu — samo bez skandala, bez zviždača s ružičastom kosom i bez novinske eksplozije. Kad je Obamin tim to radio, mediji su pisali hvalospjeve o pametnoj, modernoj, podacima vođenoj kampanji. Kad je isto (grubo, priznajmo, agresivnije, ali tehnički srodno) radila Cambridge Analytica za drugu stranu, isto je postalo napad na temelje civilizacije. Dvostruki standard nije dokaz da je Cambridge Analytica bila u pravu. Ali je dokaz da smo mi kao publika reagirali na to tko je pobijedio, a ne samo na to što je metoda učinila.

I onda dolazi pravo pitanje obrane, ono koje boli više od svih ostalih: je li Cambridge Analytica varala, ili je samo radila ono što je platforma dopuštala, na način na koji je platforma bila dizajnirana da se koristi? Kogan je prekršio Facebookova pravila o prosljeđivanju podataka trećoj strani, to je istina i to jest kršenje. Ali sam mehanizam — aplikacija koja povlači podatke tvojih prijatelja bez da su oni ikad kliknuli ništa — nije bio hakiranje. Bio je feature. Bio je dokumentiran, dostupan, korišten od tisuća drugih aplikacija godinama prije nego što je Cambridge Analytica uopće postojala. I baš ti podaci — lajkovi, prijateljstva, interesi, sve ono naizgled bezazleno što ostavljaš za sobom dok skrolaš — postali su sirovina za ono što se zove psihografski profil: kombinacija psiholoških i demografskih podataka iz koje se, teoretski, može predvidjeti kako ćeš se ponašati, u što vjeruješ i, najbitnije za CA, koga bi mogao izabrati na izborima. Skandal nije bio provala kroz prozor. Skandal je bio da su vrata bila širom otvorena, s natpisom uđite, i da se netko iznenadio kad je netko ušao.

Dok se u sudnici još raspravlja jesu li psihografski profili čarolija ili šarlatanstvo, izvan zgrade se okuplja gomila, i ona ne čeka presudu. Sjeti se samo koliko je optimizma vladalo samo nekoliko godina prije — Arapsko proljeće, Facebook kao alat slobode, Twitter kao megafon za one bez glasa (o toj platformi i svemu što je obećavala pisali smo u ranijem poglavlju). Tehnologija je trebala spasiti svijet. E pa, 2018. svijet je odlučio da ga tehnologija možda i uništava — i to brzinom kojom se rijetko koje javno mišljenje okreće.

Pokret #DeleteFacebook nije bio nikakva organizirana revolucija — bio je zbir pojedinačnih trenutaka bijesa, ljudi koji su gledali svoj profil i po prvi put se pitali: čekaj, tko sve ovo vidi, i zašto? Elon Musk je obrisao stranice Tesle i SpaceX-a s platforme, gesta koja je vrijedila više za PR nego za ikakvu stvarnu štetu Facebooku, ali poanta je stigla: i ljudi koji su zarađivali na istom sustavu odjednom su se javno distancirali od njega. Jedan od suosnivača WhatsAppa, Brian Acton, otvoreno je pozivao ljude da izbrišu Facebook — čovjek koji je taj isti Facebook prodao za devetnaest milijardi dolara. Kad ti prodavač soli javno kaže da je sol otrov, ljudi počnu čitati etikete.

Isto svjedočenje odvilo se i pred Europskim parlamentom, sat i pol teatra koji je više podsjećao na predstavu nego na suđenje. Isto ljeto Europska unija je, sasvim slučajno tempirano, upalila novi alat — GDPR, ili Opća uredba o zaštiti podataka, skup pravila kojima je Unija odlučila reći tehnološkim gigantima da tvoji podaci nisu njihovo vlasništvo samo zato što si kliknuo „prihvaćam” bez čitanja — stupio je na snagu u svibnju 2018., mjesecima nakon što je priča procurila, i odjednom su cookie banneri, ti dosadni skočni prozori koje danas svi kliknu bez čitanja, postali standard cijelog interneta. Bruxelles, ne Silicijska dolina, prvi put je diktirao pravila igre — mala najava onoga što će Unija ponoviti godinama poslije, s AI Actom (K7).

A onda dionica. Facebookova vrijednost izgubila je preko sto milijardi dolara u jednom danu te 2018. — najveći jednodnevni pad tržišne kapitalizacije u povijesti burze do tog trenutka. Tržišna kapitalizacija je, pojednostavljeno, cijena cijele firme kad je pomnožiš kao na tržnici: broj dionica puta cijena jedne dionice, i to je broj koji ti govori koliko firma „vrijedi” u očima ulagača tog dana. Nije zato što je firma prestala zarađivati — nastavila je zarađivati kao luda — nego zato što su investitori, ti hladni, neromantični ljudi koji ne mare za demokraciju nego za bilancu, prvi put pomislili: što ako ovo postane preskupo za rješavati? Povjerenje puca sporo, a onda odjednom — i 2018. je bila taj odjednom trenutak. Medeni mjesec između javnosti i Silicijske doline, onaj iz doba kad je startup značio genijalnog klinca u dvorištu, a ne korporaciju veću od država, službeno je završio. Od te godine nadalje, svaka nova tehnološka priča kreće s dozom sumnje ugrađenom unaprijed — i, kako ćemo vidjeti, ta sumnja se s pravom samo produbljivala.

Porota se povlači na vijećanje, a prvo što nađe na stolu je leš. Cambridge Analytica je mrtva — firma je zatvorena, ugašena, izbrisana iz poslovnog registra još 2018., samo mjesec i pol nakon što je Wylie ispričao cijelu priču novinarima. Brzo, uredno, kao da je netko htio da priča ima kraj. I to je prvi problem s ovom presudom: kad optuženi nestane prije nego što suđenje uopće počne, to ne miriše na pravdu. Miriše na žrtvenog jarca. Firma sa svojim londonskim uredom otišla je u povijest, a algoritam koji je sve to učinio mogućim — Facebookov, ne njihov — nastavio je raditi dalje, savršeno, bez zastoja.

Facebook je, za usporedbu, platio 5 milijardi dolara kazne američkoj Federalnoj trgovinskoj komisiji. Rekord u to vrijeme, broj koji zvuči kao potop. I onda pogledaš burzu tog istog dana kad je kazna objavljena — dionica je porasla. Ne pala. Porasla. Tržište je izračunalo brže od bilo kojeg senatora: pet milijardi za firmu koja zarađuje desetke milijardi na godinu nije kazna, to je račun za struju. Neugodan, plaćaš ga gunđajući, ali ga plaćaš i ideš dalje. Kad kaznu možeš unaprijed uračunati u poslovni plan, ona više nije prevencija. Ona je cijena poslovanja.

I sad, prije nego što porota izađe presuđivati drugima, red je da pogleda u zrcalo. Jer nitko nije provalio u ničiji kompjuter. Kviz se zvao thisisyourdigitallife i 270.000 ljudi ga je ispunilo dobrovoljno, vlastitim prstima, tražeći odgovor na pitanje koje im nitko nije postavio pod prijetnjom. Mi smo suučesnici u ovom zločinu, samo s manjom kaznenom odgovornošću. Dali smo podatke da doznamo kakva je naša osobnost, i pritom smo, bez da smo pitani, dali i podatke stotina ljudi koje poznajemo. Tko je tu žrtva, a tko dobavljač sirovine?

Nešto dobro je ipak izašlo iz ove sudnice, i pravedno je to priznati na kraju, bez patetike. GDPR je stupio na snagu nekoliko mjeseci prije nego što je afera eksplodirala u medijima 2018., i po prvi put je regulator u Bruxellesu, a ne inženjer u Menlo Parku, počeo odlučivati što se smije raditi s podacima čovjeka u Zagrebu ili Splitu. Rodila se svijest — kolektivna, spora, nezgrapna — da klik na »Prihvaćam« nešto stvarno znači. Počeli su klijati alternativni modeli, pretplate umjesto oglasa, obećanja o privatnosti kao marketinška prednost, ne kao trošak.

Techlash tako te godine nije bio kratki hir javnosti. Bio je početak drugog odnosa prema Silicijskoj dolini: sumnjičavijeg, umornijeg, manje zaljubljenog. Medeni mjesec je gotov. A ono što dolazi poslije, s algoritmima koji ne samo ciljaju nego i sami pišu, misle i odlučuju, tek će pokazati koliko je ta pouka iz 2018. stvarno usvojena — ili samo zapisana u presudu koju nitko nije pročitao.