Asistenti prve generacije: Siri, Alexa, Google Now

Godina je 2011., pa 2014., pa negdje između, ovisno gdje gledaš u obiteljski dnevni boravak. HAL je već pola stoljeća mrtav, na svoj način — onaj hladnokrvni računalni ubojica iz filma „2001: Odiseja u svemiru” koji je pokazao da stroj s glasom baš i ne mora biti tvoj prijatelj. Zvjezdana staza je već desetljećima obećavala da ćeš jednog dana samo reći: „Computer, uh, izračunaj mi trajektoriju”, i da će te stroj razumjeti kao da razgovaraš s kolegom iz smjene. Znanstvena fantastika je to obećavala tako dugo da je obećanje postalo dosadno — pa je onda netko u Cupertinu i netko u Seattleu rekao: dobro, dosta sanjarenja, idemo to stvarno napraviti.

4. listopada 2011. Apple predstavlja iPhone 4S, a uz njega, kao usput, i jedan gumb koji dugo pritisneš i onda nešto pitaš. Zove se Siri. Reklame ne pokazuju telefon — pokazuju RAZGOVOR. Čovjek pita, uređaj odgovara, publika u dvorani izdahne kao da je upravo vidjela vatromet. Znaš onaj osjećaj kad nešto prvi put probaš i pomisliš: ovo je to, ovo je budućnost koju su nam obećavali? Ljudi su to osjetili. Barem prva dva tjedna.

Onda 2014., Amazon radi nešto što nitko nije tražio: stavlja crni cilindar u tvoj dnevni boravak i kaže — ovo sluša. Cijelo vrijeme. Nema gumba, uređaj se zove Echo, a glas u njemu Alexa. Samo izgovoriš „Alexa” i stroj se budi. Genijalno, jer konačno nema tipkanja, nema dodirivanja, samo glas kao s Enterprisea. Jezivo, jer — pričekaj, ono me SLUŠA cijelo vrijeme? U mojoj kuhinji? Dok se svađam sa ženom oko toga tko je pojeo zadnji jogurt?

Google, koji ne voli kasniti na zabavu na kojoj se dijeli novac, ubacuje Google Now, pa Google Assistant. Microsoft gura Cortanu, jer i Microsoft mora imati svoju curu s imenom. Do 2016. milijarde dolara su već potrošene, milijuni uređaja prodani, a konferencijski govornici pune slajdove riječju „razgovorno” kao da je to čarobna formula koja otvara vrata budućnosti.

Pa dobro. Nešto se tu dogodilo između obećanja i stvarnosti, između HAL-a i „koliko je sati”. Nešto je umrlo negdje na tom putu — ili, točnije, nikad nije ni bilo živo koliko smo mislili. Vrijeme je da otvorimo pacijenta i pogledamo što je stvarno bilo unutra.

Krenimo od formalnosti, jer obdukcija bez formalnosti nije obdukcija nego čačkanje. Pacijent: san da razgovaraš sa strojem kao s čovjekom. Vrijeme smrti (kliničke, ne stvarne — o tome kasnije): otprilike deset godina agonije, od 2011. do 2021., uz povremene znakove života koje smo pogrešno tumačili kao oporavak. Uzrok smrti utvrđujemo u nastavku. Za sada, otvorimo tijelo i pogledajmo kako je pacijent uopće došao na svijet — jer, kao i kod pola stvari u ovoj enciklopediji, rodio se iz vojnog budžeta.

Siri nije nastala u Cupertinu, u sobi punoj ljudi u crnim rolkama koji smišljaju sljedeću revoluciju. Siri je nastala kao spin-off istraživačkog projekta zvanog CALO — Cognitive Assistant that Learns and Organizes — pri SRI-ju, odnosno Stanford Research Institute, neprofitnom istraživačkom institutu koji već desetljećima radi ono što bi mu ime i predložilo: istražuje za novac, često za vojni novac. Projekt je, naravno, financirao DARPA. Ista agencija koja je platila internet (sjećaš se, ta nit se stalno vraća) odlučila je da vojsci treba digitalni asistent koji uči i organizira. Ne zato što je general htio da mu netko pusti glazbu, nego zato što vojska generalno voli sustave koji smanjuju broj ljudi potrebnih za donošenje odluka. Apple je 2010. kupio startup iznikao iz tog projekta, ugurao ga u iPhone 4S godinu dana kasnije, i eto — imaš u džepu proizvod hladnog rata, samo malo uljepšan i s glasom koji ti kaže vrijeme.

Dok je Apple imao asistenta koji je već postojao pa ga je samo trebalo ugurati u proizvod, Amazon je napravio nešto hrabrije, a hrabro u korporativnom svijetu obično znači skupo. Jeff Bezos je osobno, i to je dokumentirano, bio fasciniran idejom računala iz Star Treka — onog koje sjedi u zraku broda i s kojim se razgovara normalnim glasom, bez tipkovnice, bez ekrana, bez rituala. Nije to bila referenca ubačena u prezentaciju za investitore, nego stvarna opsesija čovjeka koji je odlučio da će to postojati, pa koštalo što koštalo. Rezultat te opsesije bio je taj uređaj koji, tehnički, sluša sve što se u prostoriji izgovori, čekajući riječ »Alexa« kao okidač.

Reci mi da to nije genijalno i jezivo u istom dahu. Amazonu je uspjelo nagovoriti milijune ljudi da dobrovoljno kupe i uključe mikrofon u svoju najintimniju prostoriju, uz obećanje da će ih taj mikrofon opsluživati, a ne prisluškivati — obećanje koje je, ovisno koga pitaš, ili posve istinito ili posve naivno vjerovati. Bezosova oklada isplatila se u smislu prodaje: stotine milijuna uređaja diljem svijeta, Echo u kuhinji, Echo u autu, Echo pored kreveta. Isplatila se puno manje u smislu onoga za što je stroj uistinu kupljen.

Jer obećanje, ono pravo, nije bilo »kupi zvučnik koji pali glazbu na glasovnu naredbu«. Obećanje je bilo puno veće i puno starije od Amazona ili Applea — obećanje koje znanstvena fantastika prodaje od pedesetih godina: stroj koji te razumije kao osoba, a ne kao komandnu liniju s mikrofonom. HAL koji vodi punokrvnu, hladnokrvnu konverzaciju. Computer sa Enterprisea koji hvata kontekst, ironiju, dvosmislenost. Asistent koji zna da kad kažeš „ne to, ono drugo” misliš na rečenicu koju si spomenuo prije tri izmjene. Asistent koji te poznaje, ne u onom jezivom marketinškom smislu, nego u smislu da razgovor s njim liči na razgovor s čovjekom, a ne na ispunjavanje formulara glasom.

Prvi nalaz obdukcije uvijek je najvažniji, i ovaj je gotovo dosadno jasan — kad bi patolog otvorio Siri i Alexu i pogledao unutra, ne bi morao dugo tražiti uzrok smrti. Pisalo bi samo jedno: pacijent je umro od nerazumijevanja. Ne od nedostatka truda, ne od nedostatka novca — od strukturne, ugrađene, neizlječive nesposobnosti da shvati što ti, čovjek, zapravo hoćeš.

I tu treba biti precizan, jer „ne razumije te” zvuči kao maglovita optužba, a obdukcija ne prihvaća magle. Postoje dvije potpuno različite stvari koje stroj mora napraviti kad progovoriš, i asistenti prve generacije bili su odlični u jednoj, a katastrofalni u drugoj. Prva stvar je prepoznavanje riječi — pretvoriti zvučni val koji izlazi iz tvojih usta u tekst. To im je, iznenađujuće, išlo dobro već tada: reci „koliko je sati” i stroj će transkribirati baš to, bez greške, deseterostruko provjereno. Druga stvar, ona koja ih je ubila, zove se razumijevanje namjere — shvatiti što ta rečenica *znači* u kontekstu tvog života, a ne samo koja slova sadrži. Siri je znala napisati „podsjeti me na sastanak sutra u devet” slovo po slovo besprijekorno. Pitanje je bilo hoće li iz toga izvući zadatak, vrijeme i radnju — ili će te samo odbiti kao mušicu.

I tu stižemo do rečenice koja definira cijelu eru, epitaf koji bi mogao stajati na nadgrobnoj ploči obojice asistenata: „Žao mi je, to ne razumijem.” Nije to bila rijetka greška, iznimka koja bi te zasmetala jednom mjesečno — bila je to statistička izvjesnost svakog malo kompliciranijeg razgovora, rečenica koja se ponavljala toliko često da su ljudi počeli automatski, refleksno, birati riječi kao da pišu telegram iz devetnaestog stoljeća. Ne „hej, koje je vrijeme sutra, planiram ići na pecanje pa me zanima treba li mi kabanica” — nego „vrijeme. sutra.” Kraće, jasnije, glupljim jezikom, jer si znao da svaka dodatna riječ povećava šansu da stroj digne ruke.

Zašto? Ovo je dio gdje obdukcija otvara lubanju i pokazuje što je unutra, pa malo strpljenja. Ispod haube, Siri i Alexa iz te ere nisu bile nikakva duboka jezična inteligencija — bio je to sustav koji se zvao intent-slot, i zvuči kompliciranije nego što jest. Zamisli formular s praznim poljima. Netko je ručno definirao: ovo je namjera „postavi_alarm”, i ona traži dva polja — vrijeme i, po želji, naziv. Netko je ručno definirao: ovo je namjera „provjeri_vrijeme”, i traži jedno polje — lokaciju. Kad progovoriš, stroj ne razmišlja o smislu rečenice u nekom dubokom, filozofskom smislu — on pokušava tvoju rečenicu silom natrpati u jedan od tih unaprijed napisanih formulara. Ako paše, formular se popuni i stroj djeluje pametno. Ako ne paše — a ne paše čim rečenicu malo zakompliciraš, dodaš uvjet, promijeniš red riječi ili ubaciš kontekst iz prethodnog pitanja — formular ostaje prazan, i dobivaš ispriku.

I upravo tu leži drugi dio uzroka smrti, onaj koji objašnjava zašto se ova rana nikad nije zacijelila sama od sebe — rastom, vremenom, s više poslužitelja i više inženjera. Svaka nova vještina koju je asistent trebao naučiti, svaka nova namjera i novi formular, morala je biti ručno napisana, ručno testirana, ručno ugrađena u sustav pravila koji je već bio prepun. Htio si da Alexa naruči pizzu? Netko u Seattleu je sjeo i napisao pravila za ‚naruči_pizzu’, s popisom sinonima za ‚naruči’, ‚pošalji’, ‚trebam’, s popisom vrsta pizze koje sustav prepoznaje, s planom za slučaj da kažeš ‚onu istu kao zadnji put’. To se ne skalira. To je zanatski rad, jedna namjera po jednoj namjeri, dok svijet vani generira beskonačan broj načina da netko poželi pizzu.

Ekipa u Cupertinu i Seattleu nije bila glupa — daleko od toga, radilo se o ljudima koji su rješavali stvarno, tvrdoglavo tehnički problem s alatima koje su imali na raspolaganju. Problem je bio da alat, sam po sebi, nije mogao naučiti jezik onako kako ga uči dijete — kroz izlaganje, ponavljanje, generalizaciju. Alat je mogao samo pamtiti ono što mu je netko unaprijed rekao da pamti. Razumijevanje namjere, ono duboko, fleksibilno, „shvati me makar sam to sročio čudno” razumijevanje — to je zahtijevalo posve drugu vrstu mozga, onu koja u ovom trenutku obdukcije još nije ni rođena, a čekat će je čitavo poglavlje kasnije u ovoj knjizi.

Drugi nalaz obdukcije nije toliko o mozgu koliko o novčaniku. Pacijent je, ispada, umro i od gladi — a gladovao je u sobi punoj hrane.

Amazon je Alexu zamislio kao trojanskog konja s baterijom. Logika je bila kristalno jasna, čak elegantna na papiru: staviš cilindar u dnevnu sobu, čovjek naruči WD-40 dok kuha tjesteninu, a novac za tu tjesteninu i sve ostalo slijeva se u Amazonov ekosustav brzinom kakva se dotad nije vidjela. Alexa nije trebala biti proizvod. Trebala je biti prodavač koji nikad ne spava, ne traži plaću i ne postavlja neugodna pitanja o povratu robe.

Samo je jedan detalj promakao u tom planu: ljudi ne vole kupovati stvari razgovorom s pločom u kutu kuhinje. Kupovina je vizualna. Uspoređuješ cijene, gledaš slike, čitaš recenzije, sumnjičavo škiljiš u peti rezultat pretrage jer ti nešto smrdi na lažne petice. Ništa od toga se ne događa kroz zvučnik koji ti odgovara jednim rečeničnim isječkom i nadom da ćeš reći da. Ispalo je da je najveća upotreba glasovne kupovine — kupovina baterija za Alexu. Zmija koja jede svoj rep, samo sporije i uz mjesečnu pretplatu na struju.

Kod Applea je patologija drugačija, ali smrtonosna na sličan način. Siri nikad nije bila proizvod — bila je značajka. Stvar koju upišeš na marketinški slajd ispod fotografije telefona, negdje između veličine ekrana i trajanja baterije. A značajka, po definiciji, ne mora zarađivati sama za sebe — ona postoji da opravda cijenu nečeg drugog. Problem je što održavanje značajke koja razumije ljudski govor, radi na desecima jezika i mora funkcionirati offline na milijardu uređaja nije jeftino kao dodavanje još jedne boje kućišta. Iza toga stoji vojska inženjera, lingvista i poslužitelja, a na kraju kvartala nitko ne može pokazati redak u tablici koji kaže: ovo je zaradila Siri.

Ono što povezuje oba pacijenta je isti obrazac: proizvod bez jasnog mjesta u tablici prihoda, financiran vjerom da će se to popraviti kad tehnologija sazrije. Vjera je, treba reći, opravdano ulaganje — samo ne u kvartalnim izvještajima dioničarima, koji ne vole rečenice poput »strpite se, razumjet će vas 2030.«. Trošak koji ne donosi prihod, u korporativnom svijetu, nema imunitet. Ima samo odgodu izvršenja. I ta odgoda, znamo unaprijed, ovom pacijentu neće trajati dovječno — o čemu će, kad dođemo do otpuštanja u Alexa timovima nekoliko poglavlja dalje, biti prilično nedvosmislenih dokaza u dosjeu.

Za sada, dijagnoza glasi: pacijent nije umro samo zato što nije razumio što govoriš. Umro je i zato što nitko u zgradi nije uspio objasniti zašto bi razumijevanje tog govora trebalo vrijediti novac, a ne samo ostavljati dobar dojam na keynoteu.

Nalaz broj tri: pacijent nije mrtav u kliničkom smislu. Pacijent dobro diše, ima puls, čak i priča. Ali ako pogledaš encefalogram, vidjet ćeš da moždana aktivnost cirkulira oko pet-šest refleksa i ništa više. To se u medicini zove vegetativno stanje — tijelo funkcionira, netko ga hrani, ali ono što je nekad bila osoba više nije za volanom. Točno to su Siri, Alexa i Google Now postali negdje oko 2016. godine. Nisu ih izvukli iz utikača. Samo im više nitko ne postavlja pitanja koja bi ih ubila.

Studije korištenja (a bilo ih je, jer Amazon i Google vole brojati baš sve što se mrda) pokazuju repertoar toliko uzak da bi ga mogao ispisati na poleđini kutije žitnih pahuljica: vrijeme, tajmer, alarm, vrijeme (opet, jer ljudi vole pitati po drugi put), pusti pjesmu, koliko je sati, ugasi svjetlo u dnevnoj. To je to. Pet do sedam naredbi nosi otprilike devedeset posto cijele interakcije s uređajem koji je trebao biti tvoj digitalni Jeeves — onaj savršeni, uvijek prisutan sluga iz starih engleskih romana koji ti riješi problem prije nego ga i izgovoriš. Ne pitaš ga za savjet. Ne raspravljaš s njim o filozofiji. Ne tražiš da ti organizira tjedan. Tražiš da ti kaže je li vani kiša, jer si preleni pogledati kroz prozor tri metra dalje.

I dobro, priznajem, i ja to radim. Nije da je beskorisno. Tajmer za jaja koristan je izum civilizacije. Ali tajmer za jaja nije asistent. Tajmer za jaja je štoperica koja govori, a mi smo joj dali ime, glas i marketinški budžet veći od BDP-a manje europske države.

A tu dolazimo do prave dijagnoze ovog stadija bolesti: korisnici su, umjesto da nauče stroj svoj jezik, sami naučili jezik stroja. Ovo je poznata priča — čuli smo je već, u petnaestom poglavlju ove knjige, kad je vlasnik Palm Pilota morao znati loptice i crte da bi mu PDA prepoznao slovo, umjesto da PDA nauči prepoznati rukopis kakav već imaš. Sad se glasovni asistenti ponašaju identično, samo audio verzija Graffitija. Ne kažeš „jesi li mi stiglo nešto danas”, kažeš „Alexa, provjeri poštu”. Ne kažeš „baš me zanima kakvo je vrijeme sutra ujutro kad izlazim s psom”, kažeš „Hej Google, vrijeme sutra”. Naučio si točnu formulu, magičnu rečenicu koja pali čaroliju, i odustao od svega izvan nje. To nije razgovor. To je lozinka.

I taj kompromis, taj tihi pristanak da ti prilagodiš svoj govor umjesto da stroj prilagodi razumijevanje tebi, otišao je na krivu stranu iz istog razloga kao kod Newtona: bilo je lakše. Lakše je naučiti sedam magičnih formula nego čekati sustav koji te razumije kakav jesi. Samo što je Newton bio proizvod koji je nestao s tržišta nakon pet godina, a Alexa i Siri proizvodi tvrtki vrijednih trilijune dolara, koje su ovaj kompromis prodavale kao „personalizaciju” pet godina zaredom, s ravnim licem, na konferencijama za novinare.

Vrijeme je za nalaz. Patolog skida rukavice, diktira u diktafon i izgovara ono što je već tri sekcije bilo očito svakome tko je pažljivo gledao: uzrok smrti nije bio nedostatak mikrofona, zvučnika ili milijardi dolara uloženih u marketing. Uzrok smrti je nedostatak mozga koji razumije što mu govoriš. Obećali su ti razgovor — onaj isti razgovor koji je HAL vodio s Bowmanom, koji je Kirk vodio s brodskim računalom — a isporučili su ti glasovni daljinski upravljač s desetak zapamćenih kanala. Reci „jače svjetlo” i dobit ćeš svjetlo. Reci bilo što s dvije zavisne rečenice i jednim „ono” umjesto imenice, i dobit ćeš tišinu, pa ispriku, pa prijedlog da to potražiš na internetu. To ti obdukcija zapisuje kao definitivan uzrok smrti: fatalni jaz razumijevanja. Sve ostalo — poslovni model koji ne postoji, vegetativno stanje reducirano na tajmere — samo su komplikacije koje su nastale zato što je pacijent od prvog dana bio klinički mrtav na razini jezgre.

A onda, kao u svakoj dobroj obdukciji koja se otegne dovoljno dugo da netko drugi u zgradi napravi otkriće, stiže obrat koji cijeli nalaz pretvara u nešto bliže proročanstvu nego posmrtnici. Jer ono što je ubilo Siri i Alexu — nemogućnost da stroj razumije *namjeru*, a ne samo riječi — upravo je problem koji transformer arhitektura (zamisli je kao potpuno novu vrstu mozga za strojeve, izgrađenu tako da gleda cijelu rečenicu odjednom i vaga kako se riječi odnose jedna na drugu, umjesto da ih čita jednu po jednu kao stari sustavi; više o tome kako je taj mozak zapravo sagrađen pogledaj u poglavlju 17, ako te zanima) rješava kao svoju osnovnu funkciju. Ne kao dodatak. Ne kao patch. Kao razlog postojanja. Stari »intent-slot« sustavi, ono na čemu su Siri i Alexa radile, funkcionirali su kao ogromna tablica s praznim rupama: pokušavali su unaprijed predvidjeti svaku moguću rečenicu koju bi čovjek mogao izgovoriti i strpati je u odgovarajuću kutijicu, pa ako rečenica ne stane u nijednu kutijicu — tišina. Jezični model naučen na pola interneta jednostavno — razumije. Ili barem toliko dobro glumi razumijevanje da razlika praktički ne postoji, što je, priznajmo, i definicija razumijevanja u svakom razgovoru koji si ikad vodio s čovjekom.

I tako se dogodilo ono što se u obdukcijama gotovo nikad ne dogodi: leš je ustao. Ne metaforički, ne u nekom mekom PR smislu — Amazon i Apple su, u razmaku od godinu-dvije nakon ChatGPT-a, počeli otvoreno govoriti o ugradnji velikih jezičnih modela ispod stare Alexa i Siri školjke. Isti mikrofon u dnevnom boravku koji je deset godina vraćao „žao mi je, to ne razumijem”, preko noći je dobio drugačiji mozak, i odjednom je taj mozak — barem u demoima, barem djelomično — mogao voditi razgovor koji je 2011. bio čista znanstvena fantastika. Isto tijelo, drugi vozač. Obdukcija se pretvara u transplantaciju mozga; patolog mora precrtati datum smrti jer se pacijent, ispada, samo dugo grčio u komi.

Pa da razjasnimo nalaz do kraja, jer patolog ne voli ostavljati dvosmislenosti u zapisniku: prva generacija asistenata nije bila loša ideja. Bila je prerana ideja. Ista rima koju smo već čuli — Newtonov PDA je čekao WiFi i baterije koje traju dan, a nije ih imao; Siri i Alexa su čekale model koji razumije jezik, a nisu ga imale. Timing je ovdje, po treći put u ovoj knjizi, glavni ubojica — ne inženjeri, ne investitori, ne korisnici koji su iz nekog razloga uporno pitali za vrijeme umjesto za smisao života. Nije stroj bio glup. Stroj je bio prerano rođen.