RAG, konteksti i memorija

Dakle, zamisli čudovište koje je pojelo cijeli internet. Pročitalo je Wikipediju, forume, knjige, tuđe kodove, tuđe rasprave o razvodu na Redditu — sve. Pitaš ga tko je bio Napoleon, dobiješ esej. Pitaš ga da napiše sonet o krumpiru u stilu Shakespearea, dobiješ sonet. Osjećaš se kao da razgovaraš s najobrazovanijim čovjekom na svijetu.

I onda ga pitaš nešto stvarno korisno. Recimo: „Koji je naš interni pravilnik o godišnjem odmoru?” Ili: „Što smo jučer dogovorili u ovom istom razgovoru, prije nego sam zatvorio prozor?” Čudovište te gleda kao zlatna ribica — prijateljski, spremno pomoći, ali potpuno prazno. Nema pojma. Nikad nije čulo za tvoju firmu. A ono što si mu rekao jučer? Izbrisano. Ne postoji. Kao da se prvi put upoznajete, svaki put.

Zato su 2023. i 2024. bile godine dva vapaja koji su se iz cijele industrije čuli praktički istovremeno. Prvi: model, daj Bože da znaš MOJE podatke, ne samo ono što je stajalo na internetu do datuma kad su te zamrznuli i izbacili iz laboratorija. Drugi, tiši, ali jednako bolan: model, sjeti se me. Molim te. Pamti barem pet minuta unatrag.

I evo ironije koja se, ako pratiš ovu enciklopediju, počinje ponavljati kao refren: opet imamo hype-ciklus. Isti onaj koji je 2010-ih nazvao Excel tablicu „big data” ako je imala dovoljno redaka (sjeti se tog poglavlja) — samo ovaj put junak je vektorska baza, čudo tehnike koje, pojednostavljeno, ne pamti riječi nego značenja, pa kad je pitaš za „odmor” pronađe i dokument u kojem stoji „godišnji” jer zna da su te dvije riječi rođakinje. I dok se ta baza puni tvojim dokumentima, zaklinjanje glasi da je ovo „nova pamet”, „druga faza AI revolucije”, „nemoguće je da preživiš bez nas”. Konferencije, startupi, tri slova u nazivu firme koja prije toga nije postojala, sve po istom receptu.

I baš zato ovo poglavlje vrijedi pročitati mirno, bez fanfara. Jer ispod svih tih naziva krije se ideja koja je, iskreno, prilično elegantna — i, isto tako iskreno, uglavnom zakrpa. Model ne postaje pametniji. Samo mu netko, u pravom trenutku, tutne pod nos pravi papir s pravim podacima i kaže: čitaj, pa onda odgovaraj. Kao kad prijatelju na ispitu daš otvorenu knjigu — genijalno rješenje za problem koji inače ne bi riješio. Ali nemoj to zvati enciklopedijskim znanjem.

Dobro, je li sve jasno do sad? Krenimo redom — prvo da vidimo zašto model uopće ne zna tvoje dokumente, a onda kako mu netko, uz malo trika i puno marketinga, podmeće pamćenje koje zapravo nema.

Dobro, imaš sad taj model. Pojeo je pola interneta, pročitao je više knjiga nego što bi ti stigao u pet života, i kad ga pitaš tko je bio Tesla ili kako napisati regex za email adresu (to je onaj čarobni niz znakova kojim programeri provjeravaju je li nešto stvarno email adresa, a ne samo hrpa slučajnih tipki), odgovara kao da je upravo izašao s ispita gdje je dobio sve bodove. Osjećaš se pametan što ga koristiš. I onda mu, sav ponosan, zalijepiš interni dokument svoje firme — pravilnik o godišnjim odmorima, ili ugovor s dobavljačem, ili tablicu s prošlim tromjesečnim rezultatima — i pitaš ga nešto konkretno o tome. Model ti odgovori… krivo. Ili, još gore, sasvim uvjerljivo izmisli odgovor koji nigdje u tom dokumentu ne postoji. Čekaj, kako to? Pojeo je cijeli internet, a ne zna što piše u mom Word fileu od tri stranice?

E vidiš, upravo tu je kvaka, i vrijedi je razumjeti jednom i za svagda, jer se cijelo ovo poglavlje — i pola sljedećih poglavlja ove knjige — vrti oko rješavanja baš tog problema. Model ne »zna« stvari u smislu u kojem ti znaš gdje ti je stan. On je tijekom treniranja (o tome smo pisali u devetom poglavlju prethodne knjige, provjeri ako ti nije jasno) progutao ogromnu količinu teksta — knjige, forume, Wikipediju, kod s GitHuba, članke — i iz toga izvukao statističke obrasce o tome koja riječ obično dolazi iza koje. To znanje je zamrznuto u trenutku kad je treniranje završilo. Zamisli ga kao studenta koji je učio za ispit do 31. prosinca neke godine, i onda mu je netko zabranio čitati bilo što novo. Sve što se dogodilo poslije tog datuma — za njega ne postoji. A tvoj interni wiki, tvoja baza ugovora, mejlovi tvoje firme? Ti nikad nisu ni postojali za njega. Ne zato što su tajni ili posebni — jednostavno nikad nisu bili u tom oceanu teksta na kojem se učio. Model ne zna ono što nije vidio. Logično, kad se kaže naglas, ali ljudi se svejedno čude. Ono što model ima, s druge strane, jest »kontekst« — ono što mu trenutno staviš pred nos u razgovoru, tekst koji upravo čita dok ti odgovara. To nije znanje, to je više kao papirić koji mu daš u ruku baš prije nego što odgovori — i o tom papiriću, i koliko je on zapravo moćan, pisat ćemo puno više malo kasnije.

Dobro, znamo problem. Model je zatvorena knjižica, zamrznuta na dan kad je učenje prestalo, i nikad nije čula za tvoju firmu. Što sad? Postoje, grubo, dva puta, i vrijedi ih oba spomenuti prije nego krenemo dalje, jer razlika između njih je razlika između skupog i pametnog rješenja.

Prvi put: pretreniraj model. Uzmi te svoje dokumente, baci ih u lonac zajedno sa svim ostalim, i ponovno provuci cijeli onaj skupi, dugotrajni proces treniranja — mjeseci računanja na farmama grafičkih kartica, struja kao za mali grad, novac koji se broji u milijunima dolara. I onda, kad završiš, imaš model koji možda zna nešto više o tvojoj firmi. Samo — sutra ćeš imati novi dokument. I prekosutra. Hoćeš li svaki put ponovno pretrenirati cijeli model, za jedan novi ugovor s dobavljačem? Ne budi smiješan. To je kao da netko svaki put kad kupi novu knjigu za policu, iznova pregradi cijelu kuću da bi imao mjesta za nju.

Drugi put je pametniji, jeftiniji, i — što je najbitnije — praktičan za svakodnevnu upotrebu: umjesto da model nauči tvoje podatke napamet, jednostavno mu ih daš u ruke baš u trenutku kad ga nešto pitaš. Ne moraš ga učiti tko si ti — samo mu, uz pitanje, priložiš relevantnu stranicu iz tvog dokumenta i kažeš: evo, ovo je gradivo, odgovori na temelju ovoga. Model i dalje ne 'zna' tvoju firmu u onom dubokom smislu — ali sad ima papir pred sobom, i odgovara iz njega umjesto iz sjećanja koje, iskreno, nikad nije ni imao. Kako se ta ideja točno zove i kako radi u praksi, doći ćemo do toga za par redaka — a u njoj je toliko elegancije i toliko trikova da joj posvećujemo cijelu sljedeću sekciju. Za sad zapamti samo ovo: problem nije što je model glup. Problem je što ga pitaš stvari koje nikad nije vidio — a rješenje nije naučiti ga sve, nego mu, baš na vrijeme, staviti pravu knjigu pred nos.

I onda je, negdje 2020., netko u istraživačkom timu (Facebook AI Research, ako je bitno) sjeo i rekao — čekaj, zašto bi model uopće morao znati sve napamet? Zašto ne bismo napravili ono što radi svaki normalan student kad ne zna gradivo — otvorimo knjigu, pronađemo pravu stranicu, i onda pišemo odgovor gledajući u nju? Ideja se zove Retrieval-Augmented Generation, u prijevodu nešto kao »generiranje potpomognuto dohvaćanjem«, skraćeno RAG — i to nezgrapno ime krije jednu od najpraktičnijih ideja cijele AI ere.

Mehanika je, u srži, uvredljivo jednostavna. Prije nego model progovori, sustav odradi jedan dodatni korak — pretraži bazu tvojih dokumenata, pronađe komade teksta koji su relevantni za pitanje, i onda ih ZALIJEPI u kontekst (sjećaš se, ono što model trenutno gleda dok ti odgovara) prije nego što model počne pisati odgovor. Model onda ne odgovara iz sjećanja — koje, sjetimo se, ne postoji u onom smislu u kojem ti misliš da postoji. Model odgovara gledajući u tekst koji mu je netko upravo stavio pred nos. Ispit s otvorenom knjigom, umjesto ispita napamet. A svatko koji je ikad polagao ispit zna — s otvorenom knjigom si nemjerljivo bolji, jer ne moraš pamtiti, samo moraš znati gdje tražiti i umjeti pročitati.

Sad, ključno pitanje — kako sustav ZNA koji je dio od tvojih možda deset tisuća dokumenata relevantan baš za to pitanje koje si postavio? Ovdje uskoro postaje zabavno, jer odgovor nije ono što bi laik pomislio.

Prvi nagon bi bio – pretraži po ključnim riječima, kao Google iz 2003. Ukucaš »otkazni rok«, sustav nađe dokumente koji sadrže riječi »otkazni« i »rok«. Problem je što ljudski jezik nije tako uredan. Netko će pitati »koliko dugo moram ostati na poslu ako dam otkaz«, i ni jedna riječ iz te rečenice se ne poklapa doslovno s tvojim ugovorom o radu, a značenje je identično. Ključne riječi traže SLOVA. Tebi treba nešto što traži SMISAO.

I tu na scenu stupa vektorska baza podataka — nova vrsta skladišta koja se, ako se sjećaš strukturiranih tablica i redaka Edgara Codda (druga knjiga, poglavlje pet, taj čovjek se sad negdje vrti u grobu od ponosa ili užasa, teško je reći), ponaša na način koji njemu ne bi bio nimalo prirodan. Zove se baš »vektorska« zato što je vektor u matematici samo pametan naziv za listu brojeva — niz koordinata koje zajedno određuju neku točku u prostoru, ništa strašnije od toga. Umjesto redaka i stupaca s urednim poljima, vektorska baza sprema brojeve — hrpe brojeva, po par stotina ili tisuću njih, za svaki komad teksta koji ubaciš unutra.

Kako tekst postaje brojevi? Preko procesa koji se zove embedding, i evo demistifikacije bez koje ovo poglavlje ne smije proći — embedding je model (drugi, manji, specijaliziran samo za taj jedan posao) koji uzme rečenicu ili paragraf i pretvori NJEGOVO ZNAČENJE u niz brojeva, u koordinate u nekom zamišljenom prostoru s puno dimenzija. Zvuči apstraktno, ali zamisli običnu kartu grada — svaka točka na njoj ima dvije koordinate, sjever-jug i istok-zapad, i po njima znaš je li nešto blizu ili daleko. Embedding radi isto, samo s par stotina koordinata umjesto dvije, i mjeri blizinu ZNAČENJA, ne ulica. Ako ti to zvuči kao ono što smo već objašnjavali za sam veliki model — tokeni, brojevi, matematika značenja umjesto riječi (opet, deveto poglavlje sedme knjige) — dobro si skužio, isti duh, druga primjena. Rečenice sa sličnim značenjem završe kao brojevi koji su blizu jedni drugima u tom prostoru, čak i kad ne dijele ni jednu riječ. »Otkazni rok« i »koliko moram ostati na poslu ako dam otkaz« završe u susjedstvu. Ne zato što ih je nešto naučilo napamet da su iste — nego zato što je model shvatio da GOVORE o istoj stvari.

Postupak izgleda tako: prvo, sve tvoje dokumente (priručnik za zaposlenike, interni wiki, tri godine mailova o refundacijama, što god) netko isječe na komadiće — pasus, dva, stranicu — i za svaki komadić izračuna embedding, taj niz brojeva-koordinata, te ga spremi u vektorsku bazu. To se radi jednom, unaprijed, i moguće je ponoviti kad se dokumenti promijene. Onda, kad ti postaviš pitanje, sustav izračuna embedding TVOG pitanja, istom metodom, i pretraži bazu — koji su komadići teksta najbliži, po koordinatama, tvom pitanju? Uzme, recimo, pet ili deset najbližih, zalijepi ih u kontekst modela zajedno s tvojim pitanjem i onda kaže modelu: »evo, ovo je relevantno, sad odgovori«.

Zašto je to toliko bitno da je 2024. postala godina u kojoj je svaka druga firma na svijetu naglo imala »AI strategiju« koja se u praksi svodila na — kupimo vektorsku bazu, ubacimo naše PDF-ove unutra, gotovo? Zato što ovo rješava dva problema odjednom, i oba su bolna. Prvi — model odjednom ZNA tvoje podatke, bez skupog i sporog pretreniranja; dovoljno je da netko indeksira dokumente, danas, sutra, kad god. Drugi, dubinski važniji — model manje halucinira, a halucinacija je otprilike ono što zvuči: model s punim samopouzdanjem izmisli odgovor koji zvuči uvjerljivo, gramatički savršeno, uredno — samo što nema veze sa stvarnošću.

Sjeti se zašto model uopće halucinira — jer je naučen predviđati SLJEDEĆU RIJEČ koja zvuči vjerojatno, a ne provjeravati činjenice u nekoj bazi istine, jer takva baza ni ne postoji unutar njega. Ako ga pitaš nešto specifično o tvojoj firmi, a nikad to nije vidio na treningu, on će — s punim samopouzdanjem — izmisliti nešto što ZVUČI kao odgovor. Ali ako mu prije toga staviš pred nos STVARNI paragraf iz stvarnog priručnika koji stvarno sadrži odgovor, on nema potrebu izmišljati. Čita i prepričava. Razlika između đaka koji nagađa na testu i đaka koji gleda u knjigu otprilike je razlika između haluciniranja i RAG-a.

I tako je netko, u jednom potezu, riješio problem s kojim se model borio otkako je model postoji — kako mu dati znanje koje nije bilo u treningu, brzo, jeftino i bez da ga ponovno učiš ispočetka. Otvorena knjiga, prava stranica, na pravom mjestu, u pravom trenutku. Genijalno u svojoj jednostavnosti. Samo, kao i svaka genijalna ideja koja rješava stvaran problem — dovoljno je privlačna da je, uskoro, svatko poželi naljepiti na svoj proizvod, bez obzira treba mu ili ne. O toj strani priče, i o tome koliko taj kontekst koji ubacuješ modelu smije narasti prije nego stvari krenu po zlu, za koji trenutak.

Dobro, riješili smo pretraživanje. Model sad ima dokumente pred sobom, kao student koji je smio ponijeti šalabahter na ispit. Ali šalabahter ima veličinu — ne možeš unijeti cijelu knjižnicu, moraš izabrati koliko papira stane na tu jednu, jedinu stranicu koju ćeš imati na stolu. Ta stranica, ono što model može istovremeno »gledati« dok razmišlja o odgovoru, zove se kontekstni prozor.

Rekli smo već da model nema pamćenje u smislu u kojem ga ti imaš — nema trajnu policu na koju sprema iskustva, samo radni stol pred sobom, onaj isti kontekst o kojem smo već pričali. Kontekstni prozor je veličina tog stola. Sve što nije na stolu, za model ne postoji. Ne u smislu da je zaboravljeno — u smislu da nikad nije ni bilo tamo. Razlika je suptilna, ali bitna: zaboravljanje pretpostavlja da je nešto prije bilo poznato. Ovo je čišće od toga. Prazno je prazno.

Na početku ove priče, oko ChatGPT-a 2022./23., taj stol je bio poprilično mali. Nekoliko tisuća riječi, otprilike jedan dulji članak — a mjeri se to, usput, u tokenima: komadićima teksta koje model obrađuje, ponekad cijela riječ, ponekad samo njezin dio ili čak jedan znak, ovisno kako se riječ 'raspoluti' pri obradi. Dovoljno za razgovor, ne dovoljno da ubaciš cijeli ugovor firme i pitaš model da nađe rupu u klauzuli 14. Onda je krenula utrka — i to je onaj trenutak u priči gdje se stvar naglo ubrza, gdje digresija postane glavna radnja.

2024. i 2025. kontekstni prozori su nabujali kao da su na steroidima. Sa nekoliko tisuća riječi otišlo se na desetke, pa stotine tisuća tokena — što u praksi znači da neki modeli mogu odjednom progutati ne stranicu, ne poglavlje, nego cijelu knjigu. Ili nekoliko njih. Cijeli programski kod neke srednje firme, uključno s komentarima koje je netko pisao u tri ujutro i s varijablama koje se zovu temp2_final_STVARNO. (Usput, kad kažemo »model«, to je onaj mozak iza priče — GPT je takav model, a ChatGPT je proizvod, aplikacija u koju je taj mozak ugrađen i kroz koju mu se ti obraćaš.) Marketing to naziva „dugoročnom memorijom”, iako to nije memorija u smislu koji smo baš definirali u prošloj sekciji — to je samo veći stol.

I tu bi priča trebala imati sretan završetak. Veći stol, više papira, sve super, kraj. Ali svaka dobra kronika ima obrat, a ovaj je neugodan: veći kontekstni prozor ne znači da model sve što je na njemu jednako dobro i koristi.

Rijetko koja mana ostane bez posljedica na novčanik, pa ni ova. Veći kontekstni prozor znači da model za svaki odgovor procesira i pamti (privremeno, na tom istom stolu) puno više podataka — a to je i skuplje i sporije. Svaki token koji ubaciš, i svaki koji model mora „pregledati” da bi ti odgovorio, košta i vremena i novca. Baciti cijelu knjižnicu na stol samo zato da odgovoriš na jedno pitanje o naslovnoj stranici — to je kao voziti kamion do dućana po kruh. Stigneš, ali.

Zato je 2024./25. postala ne samo utrka u veličini prozora, nego i utrka u pametnijem korištenju istoga — vrati se na RAG iz prošle sekcije: bolje je ubaciti deset relevantnih odlomaka nego cijelu enciklopediju i nadati se da će model sam prepoznati što je bitno. Kompromis ove ere glasi otprilike ovako: veći prozor je koristan alat, ne čarobni štapić. I dalje si ti onaj koji odlučuje što zaslužuje mjesto na stolu — model ti u tome pomaže, ali posao ne obavlja sam.

Dobro, riješili smo dokumente. Model sad zna tvoj interni wiki, tvoje ugovore, tvoj kod. Ali ostaje drugi problem, onaj s početka poglavlja — zaboravlja te. Svaki novi razgovor kreće od nule. Jučer si mu objasnio da radiš na projektu X, da mrziš kad ti nudi rješenja u Pythonu jer ti radiš u Go-u, da se zoveš tako i tako. Danas otvoriš novi chat i — ništa. Stranac. Kao da ste se prvi put upoznali, svaki put iznova, do kraja vremena.

I onda je nekome sinulo: čekaj, mi već imamo alat koji rješava točno ovaj problem, zove se RAG i do sad smo ga koristili nad tvojim dokumentima — pa što ako ga umjesto toga (ili pored toga) primijenimo nad tvojim razgovorima?

I to je, u suštini, cijela tajna »memorije« kod AI asistenata. Nema tu nikakve nove magije, nema modela koji se mijenja i uči o tebi kako pričate — model je i dalje ista zamrznuta stvar kao jučer, samo mu netko prišapne stvari prije nego progovori. Postoji samo — pazi sad — mala baza podataka u kojoj se, tiho, u pozadini, spremaju sažeci tvojih prošlih razgovora. Ne cijeli razgovor, riječ po riječ, to bi bilo preskupo i besmisleno. Nego bitno: radiš u Go-u, imaš psa, mrziš emotikone, projekt X ima deadline u petak. Sitnice, ali sitnice koje te definiraju kao korisnika.

Kad otvoriš novi razgovor, prije nego što uopće stigneš dovršiti pitanje, sustav u pozadini odradi identičan trik kao u prošloj sekciji — pretraži tu bazu tvoje povijesti, izvuče što je relevantno za trenutni kontekst, i ubaci ga u prompt. Model onda djeluje kao da se sjeća. Zapravo je pojeo podsjetnik, sekundu prije nego što je otvorio usta.

I evo ga, obrat u priči: taj isti RAG, ista arhitektura koju smo maloprije demistificirali kad je riječ bila o pretraživanju tuđih dokumenata, sad je samo okrenuta prema unutra — prema tebi. Alat za pretragu tuđih tekstova primijenili smo na pretragu tebe samog. Elegantno? Da. Malo jezivo kad staneš i razmisliš? Također da.

I tu se otvara pitanje granica, koje nitko baš rado ne rješava prije nego mora: što se smije pamtiti, a što ne? Ime i preferirani jezik, valjda da. Zdravstveni detalj spomenut u prolazu? Politički stav izrečen u afektu u 23:47? Neki sustavi pitaju — »želiš da ovo zapamtim?« — pa sam biraš. Drugi pamte sve dok ne kažeš stop. Treći ne pitaju ništa, jer pitanje smanjuje angažman, a angažman je metrika koju netko gore u tablici gleda.

A opet, priznajmo i poštenu stranu te priče, jer ovo poglavlje nije lov na vještice. San o asistentu koji te poznaje — ne u smislu nadzora, nego u smislu da mu ne moraš svaki put iznova objašnjavati tko si — taj san je star koliko i sama ideja digitalnog pomoćnika. I konačno, donekle, radi. Samo, kao i svaki san koji se ostvari, dolazi s cijenom o kojoj se rijetko priča na marketinškom slajdu, nego piše sitnim slovima u uvjetima korištenja.

Dobro, sad kad smo se svi divili bilježnici i knjižnici, red je da ih malo protreseš i pogledaš što ispada iz džepova. Jer evo poštene presude: RAG i memorija nisu rješenje problema. Oni su zakrpa — genijalna, korisna, ali zakrpa — oko jedne stvari koja se u ovoj priči nije promijenila ni za dlaku. Model dalje ne uči. Nikad. Svaki put kad mu daš dokument, kontekst, prošli razgovor — to je otvoreni ispit, ne položen predmet. Zatvoriš razgovor, model se vrati u stanje u kojem je bio prije nego što te je upoznao. Ništa nije upisano u njega. Sve je papirić koji mu netko ponovno stavlja na stol.

I tu dolazimo do obrata ove kronike — jer svaka dobra priča o genijalnom rješenju u ovoj knjizi, dosad, prije ili kasnije skrene u istu ulicu: hype. Vektorske baze su 2024. postale nova nafta. Svaki investicijski prezentacijski slajd imao je trokut, strelice i riječ „embeddings” podebljano — to je, pojednostavljeno, onaj matematički zapis o kojem smo već pisali, brojevi koji predstavljaju značenje teksta, samo što na marketinškom slajdu zvuči puno tajanstvenije kad stoji sama, bez konteksta. Startupi koji su prije godinu dana radili nešto s blockchainom preko noći su postali „AI memory infrastructure company”. Zvuči poznato? Trebalo bi — big data je 2012. prošao identičan ciklus, ista uzbuna, isti prodavači koji ti prodaju cijev kroz koju teče voda i tvrde da su izumili vodu.

Ali — i ovo je bitno, jer inače bi ova sekcija bila samo gunđanje — nemoj sad zaključiti da je sve prijevara i da RAG ide na isto groblje kao pop-up oglasi i Google Glass. Ne ide. RAG rješava stvaran, opipljiv problem: model koji ne halucinira o tvojim ugovorima jer ih stvarno ima pred sobom, umjesto da pogađa iz treninga od prije nekoliko mjeseci. To je vrijednost koja ostaje kad hype splasne, kao što je ostao internet nakon dot-com kraha. Moda je etiketa »AI memory« na svakom proizvodu; supstanca je ono što je RAG uvijek i bio — pretraga plus generiranje, dosadno i korisno.

Pa dobro, reći ćeš, ako model sam ne pamti — zašto se onda cijela ova industrija toliko trudi da izgleda kao da pamti? Zato što je iluzija pamćenja, za korisnika, gotovo neodvojiva od stvarnog pamćenja. Ako ti asistent zna da si prošli tjedan spominjao alergiju na jagode, njemu je svejedno je li to zapisao u vektorsku bazu ili u »glavu« — tebi je bitno samo da nije morao pitati dvaput. Ali inženjeru bi to trebalo biti bitno, jer ta razlika određuje što se sve može pokvariti: podatak u bazi se može izgubiti, iskriviti, ukrasti; da model uistinu pamti, to sjećanje ne bi bilo takva, izdvojena i krađi podložna stvar, nego dio njega samog. Mi smo, u suštini, dali model koji ništa ne pamti i onda mu sagradili cijeli tajnički aparat oko njega da to prikrije. Radi. Ali nemoj brkati dobru glumu s pravim pamćenjem.

I tu se ova kronika ne zatvara nego otvara vrata za sljedeću — jer ako je RAG bilježnica koju netko drugi drži i otvara za model kad zatreba, pitanje koje ostaje jest: hoće li model jednog dana sam voditi tu bilježnicu, sam odlučivati što je vrijedno zapamtiti, sam se vraćati na nju kroz vlastito razmišljanje? To je već korak od chatbota prema agentu — razmišljanje plus memorija, mašina koja ne samo pretražuje nego i planira što će sutra htjeti znati. Je li to učenje, ili samo bolja, skuplja iluzija učenja?