AI zima

Godina, recimo, 1985. Pacijent je, u ovom trenutku snimke, u punom cvatu — obrazi rumeni, puls ubrzan od uzbuđenja, banka ga zove tri puta dnevno da mu ponudi još novca. Ako biste sada, u ovom stadiju, pitali bilo koga tko se time bavi hoće li pacijent preživjeti sljedeće desetljeće, dobili biste isti odgovor kojim liječnici tjeraju obitelj iz čekaonice: preživjet će, samo je potrebno strpljenja i, dakako, još malo financiranja.

Ekspertni sustavi — programi koji su, u teoriji, u niz pravila oblika ako-onda sažimali znanje stotina ljudskih stručnjaka — više nisu akademska kurioznost s prašnjavih konferencija. Fortune 500 kompanije ih kupuju u paketima. DEC, jedan od najvećih proizvođača računala tog doba, njima štedi milijune dolara na konfiguraciji svojih strojeva. Odvjetnički uredi, banke, naftne kompanije — svi žele svoj komad ovog čuda koje, kažu, razmišlja kao stručnjak, samo brže i ne traži plaćeni godišnji odmor.

Po sveučilišnim laboratorijima stoje LISP strojevi — računala napravljena isključivo za jedan programski jezik (LISP, favorit tadašnjih AI istraživača) i, s njim, samo jednu vrstu razmišljanja i jednu vrstu budućnosti. Zamisli mobitel koji zna pokrenuti samo jednu aplikaciju, ali je za tu jednu aplikaciju najbrži uređaj na svijetu — otprilike to je LISP stroj. Skupi su kao kuća, ali tko bi štedio kad je u pitanju sljedeća industrijska revolucija? A u Japanu teku milijarde u projekt Peta generacija — državni pokušaj da se jednom za svagda preskoči cijela paradigma računanja i izađe ravno u strojnu inteligenciju. Amerika gleda to isto onako kako je gledala Sputnjik: s nervoznim divljenjem i naglo probuđenim domoljubljem prema vlastitim znanstvenim fondovima.

Konferencije su pretrpane. Diplomirani informatičar s dvije godine iskustva u pisanju pravila za neki ekspertni sustav ima veću plaću od svog profesora. Novine pišu o strojevima koji će zamijeniti liječnike, odvjetnike, geologe. Riječ »AI« se izgovara s istim žarom kojim se danas izgovara — pa, isto tako, zapravo.

Ono što slijedi nije priča o trijumfu. Ovo je poglavlje u kojem se pacijent, uz sve gore nabrojane znakove vitalnosti, priprema umrijeti — sporo, javno i uz mnogo naknadne pravde iz medija koji su ga sami uzdigli na pijedestal. Prije nego stavimo skalpel na stol, zapamtite ovu sliku punog cvata. Jer ono što ćemo tražiti u odlomcima koji slijede nije je li se pacijent osjećao dobro — osjećao se sjajno. Tražimo zašto to nije bilo dovoljno.

Vrijeme smrti još nije utvrđeno, ali pacijent je u trenutku pregleda naizgled u punoj snazi. Puls mu je jak, apetit za investicije nesmanjen, a temperatura u konferencijskim dvoranama vrti se oko euforije. Pacijent se zove ekspertni sustav, a dijagnoza kojom se ponosi glasi jednostavno: skinuli smo znanje s glave stručnjaka i stavili ga u kutiju.

Kutija, da razjasnimo prije nego krenemo dalje, nije bila ništa mističnije od gomile pravila oblika ako-onda. Sjedneš s liječnikom, inženjerom ili geologom, satima ga ispituješ kako donosi odluke, i to zapisuješ u rečenice poput: ako je temperatura pacijenta iznad 39 i broj leukocita povišen, onda posumnjaj na bakterijsku infekciju. Stotine takvih pravila, poslaganih jedno na drugo, uz sustav koji ih redom provjerava i vuče zaključke — to je bio cijeli trik. Nije čarolija, nije razmišljanje u ljudskom smislu, samo strpljivo, mehaničko prelistavanje ogromnog popisa ako-onda rečenica dok jedna ne sjedne. Ali dovoljno je izgledalo pametno da su ljudi u odijelima počeli u proračune upisivati kolosalne cifre.

I u čemu je bit obdukcije naizgled zdravog pacijenta? Ne u tome da je pacijent bio lažno bolestan — u ovoj fazi je, stvarno, bio zdrav. XCON, sustav koji je tvrtka Digital Equipment Corporation koristila za konfiguriranje narudžbi računala (koji dijelovi paše s kojima, koji kabel ide kamo, koja kartica stane u koji utor), radio je. Ne kao marketinška priča za ulagače — stvarno je radio, godinama, i DEC-u je štedio, po nekim procjenama, oko dvadeset pet milijuna dolara godišnje na greškama u narudžbama koje su inženjeri prije morali ručno loviti. Kad ti sljedeći put netko kaže da AI iz osamdesetih zvuči kao šala, spomeni XCON. Šala je bila u onome što je dolazilo poslije.

A onda dolazimo do opreme kojom je pacijent bio okićen, jer mu nije bilo dovoljno samo razmišljati u pravilima — trebao je i posebno tijelo za to razmišljanje. LISP je bio jezik u kojem se sve ovo pisalo, i genijalan je bio po tome što podatke ne gura u kolone i tablice kao klasični jezici, nego ih tretira kao liste unutar listi, gotovo kao rečenice u zagradama unutar zagrada — što je super za simbole i pravila, ali obični PC iz te ere gušio se pokušavajući ga izvršavati brzo. Rješenje? Sagradi računalo koje ne radi ništa drugo osim LISP-a, optimizirano do zadnjeg tranzistora samo za tu jednu namjenu. Symbolics, Lisp Machines Inc., Xerox sa svojim strojevima — cijela mikroindustrija hardvera rođena isključivo zato da jedan jezik trči brže.

Pa dobro, reći ćeš, ako je pacijent tako zdrav — narudžbe se štede, mašine se prodaju, tržište cvate — što ga onda vodi na stol za obdukciju? Strpljivo. Svaki dobar patolog zna da pacijent koji trči maraton u petak može u nedjelju biti mrtav, a razlog obično nije vidljiv na prvi pogled. Ono što je 1985. izgledalo kao industrija u punom cvatu, imalo je već u sebi upisan kôd kvarenja — samo ga još nitko nije htio pročitati, jer svi su bili previše zauzeti brojanjem novca koji je pljuštao. Sljedeći korak ove obdukcije je otvaranje te kutije s pravilima i gledanje što se zapravo nalazilo unutra kad je stigla do rubova onoga što je znala.

Otvaramo pacijenta i prvo što nađemo nije rak, nije infekcija, nije ništa dramatično s naslovnice. Nalaz je gori: ekspertni sustav je od prvog dana bolovao od urođene mane koju nitko nije htio zvati imenom. Zvali su je „ograničenje domene”. Mi ćemo je zvati onim što jest — sustav ne zna da ne zna.

Sjeti se kako to radi. Programer sjedne sa stručnjakom, iz njega ispumpa pravila (ako pacijent ima X i Y, a nema Z, onda vjerojatno W), pretvori to u lijep uredan stog if-then grana, i gotovo — imamo AI. Unutar granica onoga što je stručnjak izrekao, sustav djeluje impresivno. Postavi mu pitanje iz srca njegove specijalnosti i odgovorit će brže i dosljednije od čovjeka koji je taj dan mamuran ili loše spao. Ali odmakni se centimetar izvan te granice, samo centimetar, i nema pada — nema blagog opadanja kvalitete kakvo bi imao umoran čovjek. Ima provalije. Sustav ne kaže „hmm, ovo ne znam, pitajte kolegu”. Sustav nastavi hodati pravilima koja su napisana za posve drugi teren i s punim samopouzdanjem izbaci odgovor. Pogrešan, ali izrečen istim mirnim, autoritativnim glasom kojim je prije toga rješavao stotinu točnih slučajeva. Nema alarma. Nema treptaja. Zamisli navigacijski sustav koji te, kad ostane bez signala, ne obavijesti da je izgubio signal, nego samo nastavi izmišljati ceste s istom uvjerljivošću s kojom je do tada čitao GPS. To je ekspertni sustav na rubu svoje domene. I to je razlog zašto se toliko tih priča o „sustav je preporučio nešto suludo” ne završava panikom liječnika koji ga koristi — panika dolazi kasnije, kad netko provjeri. Do tada je preporuka već izvršena.

Drugi nalaz je financijski, i patolog priznaje da mu se svidio jer je jednostavan objasniti obitelji pacijenta. Baza pravila nije bila jednokratni trošak. Bila je pretplata koju nitko nije priznao da plaća. Svijet se mijenja — nova pravila u zdravstvu, nova regulativa u financijama, nova mineraloška klasifikacija u geologiji (da, sustavi slični XCON-u ozbiljno su se koristili i tamo) — a netko treba sjesti i ručno prepisati stotine, tisuće if-then grana da sustav ne zastari preko noći. I tko je taj netko? Ne stručnjak, on je otišao raditi nešto plaćenije. Inženjer znanja, poseban zanat izmišljen samo za ovu svrhu, koji mora prvo razumjeti staro pravilo, zatim novo znanje, zatim posljedice izmjene na susjedna pravila koja se međusobno oslanjaju kao kule od karata. Firma koja je kupila ekspertni sustav da uštedi na plaćama stručnjaka otkrila je da je umjesto jedne plaće stvorila dvije: stručnjaka koji povremeno konzultira, i inženjera znanja koji stalno krpi. Održavanje je bilo skuplje od originala. Klasičan slučaj operacije koja je uspješno izliječila bolest, a pacijent umro od računa.

Treći nalaz — i ovaj je najzanimljiviji, jer objašnjava prva dva — zove se knowledge acquisition bottleneck, odnosno gušenje pri prikupljanju znanja, da ga ne ostavimo u tuđem jeziku. Zamisao je bila da inženjer znanja samo sjedne sa stručnjakom, otvori bilježnicu i prepiše njegovo znanje u pravila. Elegantno na papiru. Katastrofa u praksi, zato što stručnjaci — pravi, dobri, oni koji su nešto radili dvadeset godina — ne znaju artikulirati kako donose odluke. Ne zato što su glupi, nego zato što je znanje preselilo iz svjesnog dijela mozga u onaj automatski, isti onaj koji ti omogućuje da vozeš auto i pritom razgovaraš o nečem posve drugom. Pitaj vrsnog dijagnostičara zašto je odmah posumnjao na tu bolest i dobit ćeš odgovor: „Osjećaj.” Pitaj šahovskog velemajstora zašto je odigrao taj potez, a ne onaj drugi, jednako dobar, i dobit ćeš sleganje ramenima i „vidio sam da je bolji”. To nije lijenost u objašnjavanju. To je iskustvo koje se stisnulo u intuiciju, a intuicija se ne dâ raspetljati na uredne if-then rečenice, koliko god inženjer znanja bio strpljiv i koliko god šalica kave popio dok pokušava izvući pravilo iz čovjeka koji taj isti zaključak donosi u pola sekunde, bez svjesne misli.

I evo zašto ovaj nalaz zaslužuje podcrtati, jer se vraća kasnije u ovoj knjizi kao duh koji nikad nije stvarno otišao. Sustavi koji su, desetljećima poslije, konačno naučili nešto slično intuiciji — oni koje danas zoveš dubokim učenjem, oni koji čitaju milijune primjera umjesto da im netko diktira pravila — riješili su upravo ovo gušenje pri prikupljanju znanja. Ne tako da su konačno pronašli način kako ispumpati znanje iz glave stručnjaka, nego tako da su zaobišli stručnjaka i njegovu nesposobnost da samog sebe objasni, i naučili izravno iz gomile primjera, onako kako uči i sam čovjek — gledanjem, a ne slušanjem uputa. Ironija je debela kao knjiga u kojoj piše: rješenje krize iz osamdesetih nije bilo bolje intervjuiranje ljudi. Bilo je odustajanje od intervjuiranja ljudi.

Drugi nalaz obdukcije, i ovaj je banalniji od prvog, iako ga patolozi vole manje spominjati jer u njemu nema filozofije, samo računovodstvo. Symbolics je 1985. prodavala LISP stroj po cijeni od otprilike 70.000 do preko 100.000 dolara po komadu. Za tu cifru dobio si mašinu koja je, istina, rezala LISP kod kao vruć nož kroz maslac — hardver dizajniran baš za taj jedan jezik, s posebnim čipovima koji su ubrzavali dvije stvari koje se inače rade sporo i naporno: automatsko čišćenje memorije koju program više ne koristi (to zovu »garbage collection«, doslovno pokupi smeće za tebom, da programer ne mora ručno pamtiti što je još potrebno a što se može baciti) i pokazivačku aritmetiku, odnosno računanje gdje se u memoriji točno nalazi neki podatak. Ti čipovi su to radili na način koji je opću namjenu računala jednostavno sramotio. Elegantno. Skupo. I, kako se pokazalo, potpuno nepotrebno.

Jer dok je Symbolics fino brusila svoj butik-hardver za tanku nišu kupaca koji su mogli platiti cijenu Ferrarija samo da bi pisali pravila tipa ako-pacijent-ima-temperaturu-onda, negdje u drugoj zgradi Sun Microsystems i slične firme štancale su radne stanice opće namjene koje su iz godine u godinu postajale brže, jeftinije i, što je najbolnije za pacijenta na stolu, dovoljno brze. Ne bolje od LISP stroja baš u LISP-u specifično — samo dovoljno brze da razlika u brzini više nije vrijedila razlike u cijeni. A onda su stigla i osobna računala, sramotno jeftina u odnosu na oboje, čiji su procesori opće namjene iz desetljeća u desetljeće rasli po krivulji nazvanoj po jednom čovjeku iz Intela — krivulju koju ćeš, ako ovu enciklopediju čitaš redom, sretati kao pozadinsku glazbu kroz cijelu knjigu.

To je patologija koju medicina zove — nemam bolji izraz — smrt zbog nedostatka razloga za postojanje. Specijalizirani AI hardver nije izgubio bitku protiv boljeg specijaliziranog hardvera; izgubio je protiv generičkog čipa koji ga je progutao usput, kao statistički šum u vlastitom razvoju. Isto se, uzgred, dogodilo i mnogo čemu drugom u povijesti računala — specijaliziranim strojevima za baze podataka, specijaliziranim strojevima za grafiku — sve je to redom pojeo generalist koji je samo nastavio postajati brži dok ga nitko nije gledao. Zakon prirode, gotovo: generalist na dugoj stazi uvijek pojede specijalista, osim kad ne pojede — a to zna potrajati desetljeće ili dva prije nego se rezultat objavi.

Symbolics je pokušala preživjeti prelaskom na softver koji radi na tuđem hardveru — kao netko koji je izgubio kuću, pa spava kod prijatelja i tvrdi da je to isto što i imati svoju kuću. Nije upalilo. Firma je otišla u stečaj 1993., ali to je već epilog — pacijent je klinički umro mnogo prije, negdje u trenutku kad je posljednji kupac shvatio da mu ne treba kutija od sto tisuća dolara kad ista logika staje na stroj koji mu već stoji na stolu, onaj na kojem inače igra pasijans.

Razlika je, doduše, u tome što ovoga puta specijalizirani hardver rješava problem koji generalist zbilja ne stigne obaviti — masovno paralelno množenje matrica — dok su LISP strojevi uglavnom rješavali problem koji je generalist i mogao stići, samo malo sporije i uz malo manje elegancije. To je fina razlika, ona koja odlučuje je li nešto trajno rješenje ili skupa moda. Ali, kao što ćeš vidjeti kad u ovoj enciklopediji dođemo do grafičkih procesora nekoliko desetljeća kasnije, ta razlika zna izblijedjeti kad ih računalo opće namjene jednog dana samo — sustegne.

Vrijeme smrti — teško je precizno utvrditi, jer pacijent nije umro od jednog udarca, već su mu funkcije polako gasnule, kao stroju kojem netko postupno vadi module iz utičnica. Ali ako obdukcija mora dati datum, evo ga: 1987. Ta godina je najbliže što imamo trenutku kad je monitor konačno pokazao ravnu liniju.

Peta generacija, ona s pola milijarde dolara budžeta i rokom od deset godina, tiho je zatvorena bez ičega što bi se mogao pokazati investitorima kao opipljiv proizvod. Nije to bila katastrofa uz treskove i požare — samo završno izvješće koje je, u prijevodu s birokratskog na ljudski, govorilo: eto, probali smo, evo par akademskih radova, doviđenja. Paralelni logički strojevi koji su trebali revolucionirati proračunavanje postali su fusnota u povijesti informatike, spomenuti otprilike jednom u pet godina na nekom simpoziju iz čiste nostalgije.

I tu se dogodilo nešto što bi svaki patolog trebao cijeniti kao čist primjer nagona za preživljavanjem: preimenovanje. Isti ljudi, isti algoritmi, isti prijedlozi projekata — samo su na naslovnoj stranici „artificial intelligence” zamijenjeni s „machine learning”, „pattern recognition”, ili, ako je autor bio posebno hrabar i posebno očajan, s nečim poput „informatika znanja”. I ovdje treba biti pošten: ti novi nazivi nisu bili nikakav proboj, već stari statistički i algoritamski trikovi iz šezdesetih i sedamdesetih, samo prepakirani u svježu ambalažu — baš zato je preimenovanje uopće mogla proći, jer ispod naljepnice nije trebalo ništa novo objašnjavati, samo staro predstaviti kao novo. Nije se promijenio kod. Promijenio se marketing. A marketing je, ispada, jedina stvar koju je AI-industrija tog vremena stvarno savladala do perfekcije.

Brojke te agonije nisu apstraktne. Industrija ekspertnih sustava i specijaliziranog AI hardvera (uključujući i LISP strojeve, računala posebno građena da što brže obrađuju one ugniježđene liste o kojima je već bilo riječi), koja je 1985. procijenjena na oko dvije milijarde dolara godišnje, do 1993. je praktički nestala kao zasebna kategorija — pretopljena, gdje je uopće preživjela, u obične konzultantske firme za poslovni softver. Symbolics, najpoznatiji proizvođač tih LISP strojeva, tvrtka čije je ime nekad izazivalo poštovanje u laboratorijima, bankrotirala je 1993. Stotine start-upova koji su se u ranim osamdesetima hvalili investitorima kako „grade mozak sutrašnjice” jednostavno su prestali postojati, bez postscripta, bez nekrologa u novinama, bez ičega osim praznog ureda i neisplaćenih računa za struju.

Konferencije koje su punile dvorane od dvije tisuće ljudi svele su se na petstotinjak vjernika koji su i dalje dolazili, iz inercije ili iz uvjerenja da će se stvar vratiti. A vratit će se, doduše — ali to je priča za jednu drugu obdukciju, mnogo kasniju, s mnogo više GPU-ova. Za sada, u ovoj sobi, samo tišina, papirologija i osjećaj da je netko baš pretjerao s obećanjima.

Nalaz patologa, dakle, glasi ovako: uzrok smrti nije bio jedan udarac, nego dva istovremena zatajenja organa, i oba su, kad malo bolje pogledaš, isti organ. Obećanja su rasla brže od sposobnosti. Ne prvi put — vidjeli smo to 1966., kad je stroj trebao prevoditi ruski za tjedan dana, a onda se ispostavilo da ne znade ni što je »duh« u rečenici (duh je voljan, ali meso je slabo, sjećaš se). I neće biti posljednji put, ali o tome više u zadnjem poglavlju ove knjige, strpi se. Ekspertni sustavi su umrli od iste bolesti kao i njihov prapradjed: netko je na konferenciji rekao da će stroj za pet godina zamijeniti liječnika, novinar je to prenio bez upitnika na kraju rečenice, investitor je pročitao novinara, a inženjer je ostao sam s pravilima if-then i rokom koji mu je netko drugi obećao u njegovo ime.

Ali — i ovo je važan dio obdukcije, onaj koji patolog napiše sitnim slovima na dnu izvještaja, poslije glavne dijagnoze — pacijent nije nestao bez traga. Pravila if-then i danas rade u pozadini banaka koje procjenjuju kreditni rizik, u osiguravajućim kućama koje računaju premije, u fabrikama koje odlučuju kad stati traku. Nitko to ne zove „umjetna inteligencija”, zove se „business rules engine”, i upravo je to poanta koja slijedi u sljedećem odlomku. Umrla je marka, roba je preživjela. A lekcije o dizajnu — da znanje mora biti strukturirano, da rub domene mora biti eksplicitno označen, da sustav mora znati reći „ne znam” umjesto da nagađa s uvjerenjem sveznajućeg boga — te lekcije su ušle u informatiku znanja, u baze podataka, i, da, u ono što će tridesetak godina kasnije dizajneri neuronskih mreža opet morati iznova otkriti, jer tako to ide, čovječanstvo rado ponovno izmisli kotač, samo mu ovaj put stavi GPU umjesto LISP čipa.

A ono najvažnije, ono što ova knjiga vrti kao ploču sa zaglavljenom iglom: krug od 1956. do sredine osamdesetih traje otprilike trideset godina, od sredine osamdesetih do danas traje i dulje. Nije to slučajnost, to je ritam disanja jedne cijele discipline — udah pun obećanja, izdah pun rezova, i onda tišina u kojoj netko strpljiv radi stvarni posao dok svi ostali gledaju u drugu stranu. Pacijent je proglašen mrtvim 1987., datum smrti upisan, uzrok naveden. Ali obitelj — svi mi koji danas gledamo chatbota kako piše pjesme i mislimo da je ovo prvi put da se ovo događa — obitelj bi trebala pročitati cijeli nalaz, ne samo naslov, prije nego što opet potpiše sljedeći ček na milijardu dolara. Povijest ne vraća novac. Samo vraća isti scenarij, s boljim efektima.