Dartmouth 1956: Ljeto kad je izmišljena "umjetna inteligencija"

Deset ljudi, jedno ljeto i obećanje da će za dva mjeseca riješiti inteligenciju — pa smo tu izmislili samo ime, pojeli budžet i postavili obrazac za idućih sedamdeset godina.

poglavlje 23/3418 min čitanja∞ – 1969

Ljeto 1956. Amerika je u onom stanju kad čovjek pomisli da je pronašao formulu za sve. Te je godine predsjednik Eisenhower potpisao zakon o autocestama — Interstate Highway System, 66 tisuća kilometara betona koji će presjeći cijeli kontinent — i cijela je zemlja vjerovala da se, ako imaš dovoljno novca i dovoljno inženjera, može isplanirati baš sve, čak i budućnost. Predgrađa rastu iz kukuruznih polja preko noći. Televizor u dnevnoj sobi. Auto na prilazu, pa još jedan. Budućnost nije nešto što se čeka — budućnost je projekt, s proračunom i rokom, i ako se autocesta može isplanirati unaprijed do zadnjeg mosta, zašto ne bi i inteligencija?

Jer to je taj osjećaj koji lebdi u zraku te godine — da su strojevi upravo prešli iz svijeta znanstvene fantastike u svijet nabavnih narudžbi. U stripovima i na naslovnicama časopisa posvuda su „elektronski mozgovi”: ogromni ormari prepuni elektronskih cijevi (preci današnjih čipova, samo veličine žarulje i vruće kao pegla) koji trepere i „misle” dok tajnica u bijeloj kuti drži bilježnicu i gleda ih s poštovanjem. Znanstvenik više nije čudak u podrumu — znanstvenik je zvijezda, čovjek u odijelu koji stoji pored stroja veličine kamiona i objašnjava novinaru da je to, evo, mozak budućnosti. Nitko pouzdano ne zna što taj mozak zapravo radi, ali svi su suglasni da je važno, da je brzo i da Amerika u tome mora biti prva.

Negdje u tom ozračju, na Dartmouth Collegeu, u tihom kutku New Hampshirea gdje je jedina prava buka zvrndanje kosilica po zelenim travnjacima, skuplja se šačica ljudi koji su odlučili da će za jedno ljeto — jedno, kao da je riječ o gradnji garaže — riješiti pitanje koje filozofe muči otkako postoji filozofija: što znači misliti. Ne pola stoljeća. Ne karijeru. Ljeto. Dva mjeseca, uz kavu i ventilator, jer klima-uređaji tada još nisu bili standard ni u sveučilišnim uredima.

Naravno, dok se u seminarskoj sobičici raspravlja o tome kako naučiti stroj da razmišlja, ostatak svijeta ne obazire se previše na to hoće li Amerika dobiti svog mehaničkog mudraca. Svijet ima svojih briga, i te 1956. one nisu male — ali o tome malo kasnije. Za sada je u New Hampshireu toplo, kava se hladi brže nego što se troši, i desetak ljudi vjeruje da će do jeseni imati odgovor na pitanje koje im, kako će se pokazati, neće dati mira ni sedamdeset godina poslije.

Ljeto 1956., Dartmouth College, New Hampshire. Ako si tad htio promijeniti svijet, nisi tražio investitora u današnjem smislu te riječi — rizični kapital kakav danas zamišljamo jednostavno nije postojao — nego si pisao pismo zakladi koja dijeli novac za „dobrobit čovječanstva”, u ovom slučaju Rockefellerovoj zakladi, i molio da ti plati ljetovanje. Takav novac se zove grant, i razlika prema investiciji je temeljna: investitor ti daje novac i za to očekuje udio ili povrat, dok zaklada koja dodjeljuje grant novac jednostavno pokloni, bez vlasničkog udjela i bez obveze da joj ikad ništa vratiš — jedino što traži je da pokušaš napraviti nešto korisno. John McCarthy, mladi matematičar koji je već tad imao naviku smišljati riječi koje će nadživjeti sve ostalo što je napisao (baš on je, uzgred, skovao naziv „umjetna inteligencija”), sjeo je s Marvinom Minskyjem, Nathanielom Rochesterom iz IBM-a i Claudeom Shannonom — da, onim istim Shannonom koji je u slobodno vrijeme, kao neki hobi pored posla, izmislio teoriju informacije, danas temelj svega što digitalno prenosi podatke, od telefonskog poziva do Netflixa — i napisao dokument koji danas zvuči kao najambiciozniji grant-prijedlog u povijesti ljudske vrste.

Tražili su novac za osam tjedana rada. Deset ljudi. Jedno ljeto. A cilj — pazi sad — bio je riješiti umjetnu inteligenciju. Ne dio problema, ne jedan potproblem, nego cijelu stvar, u cijelosti, zauvijek. Rečenica iz njihovog prijedloga, ona koja se danas citira na svakom prvom predavanju iz umjetne inteligencije kao uvod u poglavlje o hrabrosti ili gluposti (ovisi koga pitaš), glasi otprilike ovako: pokušaj će se temeljiti na pretpostavci da se svaki aspekt učenja ili druge značajke inteligencije, u principu, može opisati tako precizno da se stroj može napraviti da ga simulira.

Dalje u dokumentu obećavaju da će za dva mjeseca, s deset ljudi, napraviti značajan napredak na problemima jezika, apstraktnih koncepata, sposobnosti stroja da sam sebe poboljšava i, ni manje ni više, kreativnosti. Značajan napredak. Osam tjedana. Za usporedbu — nekim od tih istih problema bavimo se i danas, uz budžete koji bi 1956. kupili pola New Hampshirea, i još nismo posve sigurni jesmo li ih riješili ili samo bolje skrili.

A onda dolazi dio koji je zapravo najvažniji u cijeloj priči, mnogo važniji od bilo kojeg tehničkog obećanja — naslov. McCarthy je smišljao kako nazvati ovo novo polje i imao je problem: riječ kibernetika je već postojala, već je imala vlasnika, a vlasnik se zvao Norbert Wiener. Kibernetika je, ako je nisi nikad čuo, znanost o upravljanju i komunikaciji — svejedno govorimo o strojevima, životinjama ili čovjeku; zamisli je kao znanost o termostatima, samo mnogo šire i mnogo pametnije zvučeći na koktel-zabavama. Wiener je bio slavan, autoritativan i, po svemu sudeći, ne tip s kojim se mladi znanstvenik želi natjecati za teritorij, pogotovo ne za teritorij koji je Wiener već temeljito ograničio vlastitim teorijama i vlastitim egom. McCarthy je htio nešto svoje, nešto neopterećeno, nešto što nitko drugi još nije zauzeo zastavom. Pa je uzeo dvije riječi koje su same po sebi bezopasne — »artificial« i »intelligence«, dakle „umjetna” i „inteligencija” — spojio ih, i eto: umjetna inteligencija.

Nije to bio opis nekog dubokog uvida u prirodu strojnog razuma, nego, iskreno, potez u igri obilježavanja teritorija — isti onaj instinkt koji tjera startupove da se zovu Nešto AI čak i kad im najpametnija stvar u kodu jest obična if-else grana (ono, „ako-onda”, najosnovniji mogući izbor koji program pravi). Samo što je McCarthyjev naziv, za razliku od devedeset devet posto tih startupova, doista uspio. Ime je nadživjelo projekt, nadživjelo ljude koji su ga skovali, i preživjet će, vjerojatno, i nas.

Dakle: deset ljudi, dva mjeseca ljetovanja, grant od Rockefellerove fondacije, i jedna rečenica koja je uspjela biti u istom dahu i posve nerealna i posve pogodila u sridu. Elegantan početak, nema što. Sad da vidimo tko se od te desetorice stvarno pojavio na tom slavnom ljetovanju — i, još važnije, tko je od njih zapravo ponio kući nešto što je i radilo.

Tko je došao (i tko nije)
§ 02

Tko je došao (i tko nije)

Zamisli da organiziraš zabavu i pošalješ pozivnicu desetero ljudi za koje si siguran da dolaze. Rezultat: petero ih se pojavi na jedan dan, dvoje ostane cijelo ljeto, jedan svrati u kolovozu kad je sve već gotovo, a jedan pošalje asistenta jer je, eto, zauzet. Otprilike to je Dartmouth 1956. — na papiru elitni skup, u praksi organizacijski kaos koji bi danas svaki event planner nazvao katastrofom, a mi ga zovemo rođenjem umjetne inteligencije.

McCarthy i njegova tri suorganizatora — Minsky, Shannon i Rochester — u prijavi su obećali deset sudionika koji će punih osam tjedana zajedno raditi na jednom mjestu. Stvarnost je bila raspored dolazaka koji je više podsjećao na smjene u tvornici nego na znanstveni skup. Ray Solomonoff je ostao gotovo cijelo vrijeme trajanja radionice. Trenchard More je odradio nekoliko tjedana. Arthur Samuel — onaj koji je računalo naučio igrati dame, jednu od prvih pravih demonstracija da stroj može „učiti” iz iskustva — doletio je na tjedan-dva. John McCarthy, kao domaćin, bio je tu većinu vremena, ali je poslije priznao da je bilo teško uskladiti raspored ljudi koji su, uostalom, imali svoje fakultete, svoje projekte i svoje ljetne planove — planove koji nisu uključivali sjedenje u Hanoveru i pretpostavku da će strojevi progovoriti za samo dva mjeseca.

Marvin Minsky je bio tu, mlad, brz, pun ideja o neuronskim mrežama (sustavima koji, grubo rečeno, pokušavaju oponašati kako mozak povezuje i uči) i geometriji mišljenja — čovjek koji će sljedećih pola stoljeća biti i prorok i, kasnije, omraženi skeptik cijelog jednog pravca umjetne inteligencije. Claude Shannon, već legenda zahvaljujući teoriji informacija, dolazio je i odlazio kao gostujuća zvijezda — valjda je smio doći kad mu paše. Bio je tu i zbog ugleda koji je projektu davao njegov potpis na prijavi, više nego zbog stvarnog operativnog rada tog ljeta.

To je bila jedina konkretna demonstracija cijelog ljeta. Ne kolektivni proboj, ne zajednički algoritam koji su deset mudraca skupno skovali za stolom pod hladnjacima Dartmoutha — nego jedan program koji su trojica ljudi napisala prije nego što su i doputovala. Ironija je toliko debela da bi se mogla rezati nožem: skup posvećen definiranju budućnosti umjetne inteligencije jedini stvarni rezultat dobio je od ljudi koji su ga donijeli sa sobom u koferu, već gotovog.

Nema zapisnika koji bi rekao da je itko tog ljeta uzviknuo „eureka”. Nema fotografije ljudi oko ploče prepune formula koje se poklapaju u jedinstven zaključak. Postoje pisma, razgovori, žustre rasprave o terminologiji — i jedan program koji dokazuje teoreme dok ostatak sobe još raspravlja treba li strojevima uopće dati riječ „inteligencija” ili je to prerano, preambiciozno, previše.

Na kraju ljeta nitko nije otišao kući s jedinstvenom teorijom uma niti s algoritmom koji rješava sve. Otišli su s imenom za polje, s poznanstvima koja će oblikovati sljedećih pedeset godina informatike i — ako ništa drugo — s dokazom da je barem jedan pristup, onaj Newella i Simona, vrijedan daljnjeg rada. Ostatak je bio dobra namjera, kava i puno papira ispisanog optimizmom koji stvarnost još nije stigla naplatiti.

Logic Theorist: prvi AI program
§ 03

Logic Theorist: prvi AI program

Dok su ostali još raspravljali kakav bi krov trebao imati ta nova disciplina umjetne inteligencije — Minsky je teoretizirao, McCarthy skicirao jezik koji će uskoro nazvati LISP (jedan od najstarijih programskih jezika koji se, vjeruješ ili ne, još i danas ponegdje koristi) — dva čovjeka su se pojavila s nečim što je zapravo radilo. Herbert Simon i Allen Newell, oboje s Carnegie Techa (danas Carnegie Mellon), donijeli su na Dartmouth nešto što nitko drugi u toj dvorani nije imao: program koji je stvarno nešto dokazivao. Ne u smislu da je nekoga uvjerio u svoje mišljenje — dokazivao je matematičke teoreme, one iz logike, posao koji je do tada tražio čovjeka, papir i puno škrabanja. Zvali su ga Logic Theorist, i to je, koliko god povjesničari poslije voljeli mrsiti kosu oko toga tko je „prvi”, najbliže što imamo pravom kandidatu za titulu prvog AI programa u povijesti.

Ideja je bila razmjerno drska za 1956.: nahraniti stroj aksiomima iz »Principia Mathematica« — onog monumentalnog, tri-tomnog, glavu boli djela Bertranda Russella i Alfreda Northa Whiteheada koje je pokušalo izgraditi cijelu matematiku iz čistih logičkih temelja — i pustiti ga da sam pronalazi dokaze teorema. Aksiomi su, ako se pitaš, one polazne istine koje se ne dokazuju nego se jednostavno prihvaćaju kao pravila igre — sve ostalo, teoremi, grade se na njima, baš kao što se sva pravila neke sportske igre naslanjaju na desetak osnovnih koje nitko ne dovodi u pitanje. Program, dakle, nije trebao računati ni zbrajati. Trebao je rasuđivati. Koristio je nešto što su Newell i Simon zvali heuristička pretraga: umjesto da mehanički prolazi kroz sve moguće kombinacije (što bi, i na najbržim strojevima tog doba, potrajalo dulje od ljudskog života), program je „pogađao” koji koraci vjerojatno vode do cilja, baš kao čovjek koji rješava zagonetku i odmah preskoči kombinacije koje mu instinktivno mirišu na slijepu ulicu. Ta konceptualna razlika — između grube sile koja pokušava baš sve i nečega što makar sliči pameti — odjekivala je desetljećima dalje.

I radilo je. Logic Theorist je uspio dokazati 38 od prvih 52 teorema iz drugog poglavlja »Principije«. Ne sve — ali dovoljno da je publika u dvorani, koja je do tada uglavnom slušala apstraktne rasprave o tome što bi „mišljenje” uopće trebalo značiti, dobila konkretan, opipljiv dokaz da nešto od te priče stoji na nogama. Dok su drugi izmišljali riječi za budućnost, ova dvojica su donijela artefakt iz nje.

Slojevitiji, i vjerojatno istinitiji, biser cijele priče vezan je za samog Bertranda Russella — čovjeka čije je životno djelo program upravo prežvakao i djelomično nadmašio. Kad je čuo za Logic Theorist i njegov elegantniji dokaz jednog od teorema, Russell je navodno bio — zabavljen. Ne uvrijeđen, ne prijeteći, nego iskreno razdragan što je stroj našao ljepše rješenje od njega i Whiteheada. Rekao je, u parafrazi koja kruži otkad postoji ova priča, da mu je drago što nije morao provesti deset godina svog života s Whiteheadom da bi to dokazao baš na taj način, kad ga sad stroj u nekoliko minuta prestigne.

Tu je poanta cijelog ljeta, ako je uopće imalo poantu koju vrijedi pamtiti izvan imena koje je tog ljeta iskovano. Dok su svi ostali skicirali arhitekture buduće pameti na ploči, Simon i Newell su je već imali — sitnu, ograničenu, ali stvarnu. Program je „radio” na hrpi običnih papirnatih kartica ispisanih koracima programa (zamisli ih kao jako dosadan komplet listića s uputama), koje su ljudi ručno prebacivali i slijedili, glumeći računalo od krvi i mesa. I baš zato ćeš, kad danas čitaš o povijesti umjetne inteligencije, često naći rečenicu da je jedino konkretno postignuće Dartmoutha 1956. bilo — nešto što je netko donio od kuće.

Što je ljeto stvarno dalo
§ 04

Što je ljeto stvarno dalo

Dobro, ljeto prođe. Kraj kolovoza 1956., dvorište Dartmoutha se prazni, kave se hlade, i netko na kraju treba napisati završno izvješće — onaj papir koji sažima što je osam tjedana rada desetero pametnih glava zapravo proizvelo. I tu nastaje mala nezgoda. Jer kad sjedneš i pogledaš popis konkretnih rezultata, popis je — kratak. Vrlo kratak. Zapravo, gotovo prazan.

Nema objedinjenog teorijskog okvira. Nema zajedničkog programa koji su svi zajedno napisali. Nema, ruku na srce, ničega što bi mogao staviti na naslovnicu časopisa i reći: evo, to smo mi tog ljeta skuhali. Logic Theorist je stigao gotov iz Pittsburgha, kao gost na svojoj vlastitoj promociji — ekipa ga je samo pokazala, kao što bi netko na kućnoj zabavi pustio film koji je snimio prije nego što je stigao. Ostatak je bio — razgovor. Puno razgovora, dosta prepirke, poneki nervozni tajac kad bi netko pitao »dobro, ali kako to konkretno programiramo«, i onda opet razgovor.

Zvuči kao katastrofa, zar ne? Osam tjedana, proračun, veliki pompozni naziv u prijavi za grant — i na kraju gomila umornih ljudi koja se vraća na svoje fakultete bez ičega konkretnog u ruci. Pa, i da i ne. Jer evo što se stvarno dogodilo, iako to nitko od njih u tom trenutku nije shvatio kao pobjedu: rodilo se ime. Rodila se skupina ljudi koja se međusobno upoznala, posvađala i — što je najvažnije — počela smatrati sebe pripadnicima jedne stvari. Ne matematike. Ne elektrotehnike. Nego nečega novog, s vlastitim imenom, vlastitim ambicijama i, kasnije, vlastitim proračunima.

To je ono što se u startup žargonu danas zove »osnivački tim«, samo što ovaj osnivački tim nije osnovao firmu, nego cijelu akademsku disciplinu. McCarthy, Minsky, Shannon, Simon, Newell — u narednih dvadesetak godina ova ista petorka (plus još par imena koja su se ljepilom zalijepila za projekt naknadno) vodit će laboratorije na MIT-u, Stanfordu, CMU-u, dijeliti Turingove nagrade kao bombonjeru — to je, ako nisi znao, najveće priznanje koje postoji u informatici, nešto poput Nobela, samo što ga ne dijeli švedski kralj nego strukovno udruženje računalnih znanstvenika, a nazvana je po Alanu Turingu, čovjeku koji je desetljeće prije toga matematički postavio temelje na kojima cijelo računarstvo stoji i danas — i pisati udžbenike po kojima će se generacije učiti. Sve to posijano je u tih osam tjedana u New Hampshireu, u razgovorima koji, gledano papirnato, nisu proizveli baš ništa.

I zato je Dartmouth zapravo predak svega što danas zoveš manifestom, moonshotom (izraz koji je ostao u sjećanju od slijetanja na Mjesec, a danas znači ambiciozan projekt koji zvuči kao znanstvena fantastika sve dok ga netko stvarno ne pokuša ostvariti) ili deklaracijom otvorenog pisma koje potpiše tristo ljudi iz industrije. Pogledaj obrazac: mala skupina samouvjerenih ljudi, veliki cilj sažet u jednoj rečenici koja zvuči puno ambicioznije nego što bilo tko od njih zna kako ostvariti, ljetna radionica ili konferencija, i na kraju — papir koji ne rješava problem, nego ga samo imenuje. »Umjetna opća inteligencija do 2030.« zvuči poznato? Trebalo bi. To je ista vrsta rečenice kao »svaki aspekt učenja ili druge značajke inteligencije može se, u principu, precizno opisati«, samo s drugom godinom na kraju.

Dok su Minsky i McCarthy raspravljali oko stolova u Hanoveru o tome kako bi strojevi trebali razmišljati, svijet vani nije baš razgovarao o strojevima. Te iste jeseni Britanci, Francuzi i Izraelci upleli su se u rat oko Sueskog kanala u Egiptu (spor oko toga tko kontrolira tu ključnu pomorsku prečicu između Europe i Azije, koji je brzo prerastao u vojni sukob), a Sovjeti su tenkovima gušili ustanak u Budimpešti, pokušaj Mađara da se otrgnu sovjetskoj vlasti koji je završio krvavo i brzo. Ljeto pametnih ljudi u zabačenoj šumi New Hampshirea odigralo se tik prije nego što je svijet po tko zna koji put dokazao da optimizam nije univerzalna valuta. Amerika je gradila ceste i vjerovala u budućnost; ostatak planeta je, samo nekoliko mjeseci kasnije, gorio na dva različita kraja.

Dakle, što je to ljeto 1956. stvarno dalo? Ne algoritam. Ne otkriće. Nego kredencijal — riječ koju možeš staviti na prijavu za grant, disciplinu koju možeš predavati na fakultetu i, možda najvažnije od svega, dopuštenje da sljedećih pedeset godina svaki novi val entuzijazma oko strojeva koji misle nosi isto ime, izmišljeno tog ljeta gotovo iz nužde — samo da se izbjegne jedan drugi, precizniji, ali manje zvučan naziv.

Optimizam kao poslovni model
§ 05

Optimizam kao poslovni model

Evo što se stvarno dogodilo tog ljeta u Dartmouthu, kad odmakneš sve legende: prijedlog su potpisala četvorica ljudi, a on je predviđao da će desetorica za dva mjeseca riješiti problem koji ni danas, uz budžete veće od BDP-a nekih država, nismo do kraja riješili. I znaš što je najluđe? Iz te prijave, iz tog jednog pretjeranog ljeta, rodio se obrazac po kojem se cijela industrija umjetne inteligencije vrti do današnjeg dana: obećanje, novac, kašnjenje, tišina, pa iznova obećanje. Kao ta pjesma koja se vrti u dizalu — nikad ne prestaje, samo se mijenja tko pjeva.

Pogledaj kako to ide, korak po korak: prvo dođe Obećanje, veliko, uvjereno, napisano jezikom koji ne poznaje sumnju — strojevi će misliti, prevoditi, razumjeti jezik, valjda i osjećati, sve to za nekoliko godina. Onda dođe Financiranje, jer nitko ne daje pare za nešto skromno, pare se daju za revoluciju. Pentagon, DARPA (agencija američkog Ministarstva obrane zadužena za istraživanje napredne, riskantne tehnologije — zamisli ih kao onog bogatog ujaka koji rado ulaže u lude ideje ako postoji i najmanja šansa da mu se to jednog dana isplati na bojnom polju), industrija — svi žele biti ti koji su prvi kupili kartu za budućnost. Pa onda, neizbježno, dođe Kašnjenje. Strojno prevođenje jezika pokaže se deset puta teže nego što je bilo tko mislio, jer se ispostavi da jezik nije šifra koju treba dekodirati, jezik je cijeli svijet koji treba razumjeti. I onda, kad novac stane pitati gdje su rezultati, dođe Zima. Ne metaforička, stvarna — izvještaji koji kažu da je sve bilo pretjerano, financiranje se povlači, ljudi odlaze na druge projekte, riječ »AI« postane sramotna na konferencijama. Pa čekaš. I onda, kad se sve pomalo zaboravi i prašina slegne, dođe Novo obećanje, ljepše upakirano, s novim imenom, s novim čudom — ekspertni sustavi (programi iz sedamdesetih i osamdesetih koji su pokušavali strpati znanje pravog stručnjaka u gomilu pravila tipa »ako-onda«), pa neuronske mreže, pa deep learning, pa transformeri, pa veliki jezični modeli. Kotač se okrene iznova.

I evo poštenog dijela, onog koji volim reći kad me netko pita zašto sam uopće ostao u ovom poslu — bez tog ludog, naivnog, gotovo djetinjastog optimizma iz 1956. ne bi postojalo ništa od ovoga o čemu čitaš u ovoj enciklopediji. Deset ljudi koji vjeruju da mogu riješiti razumijevanje jezika, kreativnost i apstraktno mišljenje preko jednog ljeta zvuči kao vic, ali taj vic je platio zgradu MIT-ova laboratorija za umjetnu inteligenciju. Ta arogantna prijava za grant — onaj poklonjeni novac bez povrata o kojem je bilo riječi na početku poglavlja — privukla je mlade ljude koji su cijeli život posvetili polju koje tada nije ni imalo ime. Da nitko nije rekao »ovo je moguće za dva mjeseca«, nitko ne bi ni pokušao ono za što je, ispalo je, trebalo šezdeset godina. Optimizam je loš alat za predviđanje rokova, ali odličan alat za pokretanje ljudi koji bi inače radili nešto sigurnije i dosadnije.

Pa tako i ti, kad danas čitaš najavu neke firme da će sljedeća verzija njihovog modela „pokazati znakove opće inteligencije” ili da je „samo par godina daleko” nešto što bi promijenilo cijelu civilizaciju, znaj da čitaš prijavu za Dartmouth, samo u drugačijem fontu. Isti optimizam, isti nedostatak realnog roka, ista sigurnost da je ovo taj put koji će stvarno stići do cilja. I znaš što — možda i hoće. Ali ako ne stigne za dva mjeseca, nemoj se čuditi. Nije stiglo ni prošli put, a taj prvi put je trajao ljeto koje se, tehnički gledano, još nije završilo.