Novi model
AI-ja.

AI postaje infrastrukturni sloj svijeta. Tko god kontrolira modele, podatke, pristupne kanale i operativna pravila, sve više kontrolira dijelove gospodarstva, kulture, administracije, obrazovanja i znanja.

AI suverenost stoga nije samo politički slogan. To je uvjet kognitivne, ekonomske i tehnološke sigurnosti.

Suvereni AI podrazumijeva sposobnost pokretanja modela lokalno ili regionalno; kontrolu nad organizacijskim podacima i memorijom; reviziju odluka, izvora i ažuriranja; izbjegavanje ovisnosti o jednom pružatelju usluga; te posjedovanje ili upravljanje vlastitim modelima, adapterima, korpusima i operativnim pravilima.

Ne mora svaka organizacija trenirati temeljni model od nule. Ali svaka bi organizacija trebala moći posjedovati vlastiti AI sloj: prilagođen njezinom znanju, jeziku, kulturi, procedurama, rizicima i ciljevima.

Sigurnost AI-ja ne može se svesti na filtriranje izlaznih podataka. Filteri su nužni, ali oni su površinske zaštitne mjere.

Siguran AI mora biti dizajniran dublje: na razini arhitekture, memorije, pristupa podacima, putova odlučivanja, mogućnosti revizije, ažuriranja i odgovornosti.

Potrebni su nam modeli i sustavi koji znaju odakle dolaze informacije; koji odvajaju provjereno znanje od hipoteza; bilježe povijest promjena i odluka; omogućuju korisnu rekonstrukciju putova zaključivanja; smanjuju halucinacije kroz memoriju, izvore, testove i validaciju; te podržavaju lokalne sigurnosne politike usklađene s organizacijskim kontekstom.

Sigurnost ne bi trebala biti neprozirna crna kutija nametnuta izvana. Trebala bi biti lokalno konfigurabilna, podložna reviziji i razumljiva.

Svijet se mijenja brže od ciklusa treniranja divovskih modela. Tvrtke mijenjaju procedure. Zakoni se mijenjaju. Znanje zastarijeva. Organizacije uče svaki dan.

AI budućnosti ne može biti samo statičan model zamrznut nakon treniranja.

Potrebni su nam sustavi koji se prilagođavaju kroz vanjsku organizacijsku memoriju, lokalna ažuriranja, adaptere, usmjeravanje prema stručnjacima, učenje iz promjena, validaciju izvora, kontrolirano fino podešavanje, verzioniranje i mehanizme za vraćanje na prethodno stanje.

Ovdje otvoreno iznosimo dizajnersku okladu, kao okladu: model ne bi trebao pokušavati apsorbirati svo činjenično znanje u svoje težinske koeficijente. Trebao bi znati kako koristiti živu, aktualnu i revizijski provjerljivu memoriju. Činjenično znanje može boraviti u RAG sustavima, bazama znanja, grafovima, repozitorijima dokumenata i lokalnim memorijama, dok model prvenstveno uči jezik, zaključivanje, apstrakciju, planiranje, manipulaciju konceptima i prilagodbu. Ostaje otvoreno empirijsko pitanje može li se zaključivanje u potpunosti odvojiti od parametarskog znanja. Namjeravamo to nastaviti testirati — i iskreno izvještavati gdje odvajanje ne uspijeva.

Trenutna utrka u AI-ju skupa je u smislu energije, hardvera i utjecaja na okoliš. Sve veći modeli zahtijevaju sve veće podatkovne centre, više električne energije, više kapitala i veću tržišnu koncentraciju.

To nije jedini mogući put.

New Model AI tretira učinkovitost kao temeljnu vrijednost. Model se ne bi trebao ocjenjivati samo prema rezultatima na benchmark testovima, već i prema trošku postizanja tih rezultata.

Važna pitanja nisu samo može li model dati odgovor, već i koliko je energije pritom potrošio, koliko memorije zahtijeva, može li se pokrenuti lokalno, može li se prilagoditi bez potpunog ponovnog treniranja, može li aktivirati samo potrebne komponente i može li ga organizacija ekonomski i tehnički održavati.

Budućnost AI-ja ne bi se trebala svoditi na sve veće monolite. Trebala bi se graditi od inteligentnih sustava: modularnih, djelomično rezidentnih, dinamičnih, energetski učinkovitih i skalabilnih na temelju domišljatosti, a ne puke mase.

AI ne smije postati tehnologija koja je praktički dostupna samo nekolicini država, nekolicini korporacija i nekolicini laboratorija.

Demokratizacija AI-ja ne znači samo dati ljudima pristup chatbotu u pregledniku. Znači omogućiti manjim tvrtkama, školama, sveučilištima, lokalnim samoupravama, javnim institucijama, civilnim organizacijama i zajednicama da grade, prilagođavaju, hostaju, revidiraju i razvijaju vlastite AI sustave.

Potreban nam je AI na više razina: osobni model za pojedinca; organizacijski model za tvrtku; sektorski model za industriju; javni model za administraciju; istraživački model za znanost; te društveni modeli za kulturu i obrazovanje.

Demokratizacija ne zahtijeva da svatko trenira modele od nule. Zahtijeva da svatko ima realan put do vlastitog kontroliranog, prilagodljivog i razumljivog AI sloja.

Sljedeća generacija AI-ja trebala bi pomaknuti težište s puke skale na arhitekturu. Umjesto jednog divovskog modela koji pokušava zapamtiti sve, možemo graditi sustave sastavljene od manjih specijalističkih modela, usmjerivača, vanjske memorije, grafova znanja, modula za zaključivanje, domenskih adaptera, lokalnih stručnjaka, mehanizama za validaciju, petlji učenja od korisnika i dinamičkih prostora značenja.

Inteligencija ne mora boraviti samo u parametrima jednog modela. Može proizaći iz arhitekture: iz načina na koji su povezani memorija, zaključivanje, izvori, alati, kontekst i djelovanje.

Znamo najjači prigovor. Sedamdeset godina — kako primjećuje Richard Sutton u svojoj “Gorkoj lekciji” (Bitter Lesson) — opće metode koje su jahale na valu sve jeftinijeg računanja pobjeđivale su pametne, ručno dizajnirane arhitekture. Ne poričemo tu povijest. Poričemo njezinu premisu za budućnost.

“Gorka lekcija” je vrijedila u eri kada se činilo da je računanje najjeftiniji resurs na stolu. Nikada nije bio. Jednostavno nismo računali njegovu punu cijenu: energija, voda, emisije, lanci opskrbe hardverom, tržišna koncentracija i geopolitička ovisnost bili su eksternalizirani iz jednadžbe. Računanje je bilo jeftino za one koji su ga skalirali — a skupo za sve ostale. Kada se računica napravi pošteno i u cijelosti, račun za sirovo skaliranje izgleda vrlo drugačije. Taj račun sada dolazi na naplatu: ne po nečijem izboru, već kroz fiziku, ekonomiju i ekologiju. Kada se stvarna ograničenja uračunaju u cijenu, os napretka se nužno pomiče sa sirove skale na inteligenciju po džulu.

Rani signali već postoje. Rekurzivni model od sedam milijuna parametara — četiri reda veličine manji od najnaprednijih sustava — izjednačio se s ili nadmašio modele stotina milijardi parametara na benchmark testovima apstraktnog zaključivanja. Pažljiva analiza pokazuje da njegova snaga ne proizlazi samo iz mreže, već iz interakcije sićušne jezgre s iterativnim pročišćavanjem, računanjem u vrijeme testiranja i strukturom zadatka. Upravo je to poanta: inteligencija je proizašla iz sustava, a ne iz broja parametara. I sami vodeći laboratoriji sada to u praksi priznaju — dohvaćanje, alati, usmjeravanje i zaključivanje u vrijeme inferencije su arhitektura, a ne skala.

Ne tvrdimo da će arhitektura pobijediti skalu na svakom benchmarku. Tvrdimo nešto što je teže opovrgnuti: pod stvarnim ograničenjima energije, troškova, suverenosti i odgovornosti, arhitektura je jedina os napretka koja ostaje otvorena svima.

To je ključni pomak: AI kao sustav, a ne samo kao model.

New Model AI zahtijeva drugačiji odnos između ljudskih bića i AI sustava.

Korisnik ne bi trebao biti samo primatelj odgovora. Korisnik bi trebao biti sukreator operativnog modela: sposoban potvrditi, odbaciti i ponderirati izvore; ispraviti memoriju; definirati lokalna pravila; izgraditi privatnu ili organizacijsku mapu znanja; i kontrolirati povijest promjena.

AI bi trebao učiti ne tihim upijanjem korisničkih podataka, već kroz transparentne, namjerne i revizijski provjerljive procese.

Ljudsko biće nije prompt. Ljudsko biće je kustos značenja, izvora, ciljeva i odgovornosti.

Usklađenost AI-ja ne može se ograničiti na bihevioralna pravila, sigurnosne filtere ili popise zabranjenih izlaza. Ti slojevi su važni, ali su površni. Prava usklađenost mora doseći dublje: u prostor značenja, ciljeva, vrijednosti, posljedica i razumijevanja svijeta.

Ako AI sve više djeluje kao kognitivni partner, sustav za podršku odlučivanju, organizacijsko sučelje i vrata znanju, nije dovoljno da samo izbjegava očito loše izlaze. Mora djelovati na načine koji ostaju koherentni s ljudskim značenjima: etičkim, društvenim, kulturnim, organizacijskim i osobnim.

New Model AI stoga poziva na duboku usklađenost na razini latentnog značenja. Pitanje nije samo može li model navesti pravilo, već jesu li njegove reprezentacije, operativni ciljevi, mehanizmi evaluacije, memorija, usmjeravanje i djelovanje usidreni u prostoru značenja koji dijeli s ljudskim bićima.

Ovo nije metafora postavljena izvan mjerenja. Latentni prostori imaju geometriju, a ta se geometrija može istraživati, usmjeravati, uspoređivati i revidirati. Inženjering reprezentacija, istraživanje koncepata i intervencijski testovi već nam daju rane instrumente. Duboka usklađenost mora postati istraživački program s empirijskim zubima: usklađenost mjerena u reprezentacijama, a ne samo promatrana u izlazima.

Ljudska bića i AI ne moraju biti ista vrsta entiteta da bi djelovali unutar djelomično zajedničkog prostora značenja. Čak i ako trenutni AI nije svjestan, može sudjelovati u ljudskim procesima stvaranja značenja: tumačenju, organiziranju, transformiranju, predviđanju, preporučivanju, pamćenju, povezivanju i djelovanju na reprezentacije koje su važne za ljudski život.

Stoga bismo trebali tretirati ljude i AI kao različite entitete koji djeluju u djelomično zajedničkom semantičkom prostoru: ne ontološki jednaki, ne fenomenološki identični, već kao su-djelujući sustavi čije se odluke susreću u istom svijetu posljedica, odgovornosti i značenja.

Duboka usklađenost trebala bi uključivati najmanje tri razine.

Etička usklađenost znači da AI ne slijedi samo pravila, već modelira odnose između djelovanja, štete, odgovornosti, dostojanstva, djelovanja, povjerenja i dugoročnih posljedica.

Ciljna usklađenost znači da AI ne optimizira slijepo najbliži zadatak, već prepoznaje širi kontekst: zašto se nešto radi, kome služi, koje rizike stvara, koje su vrijednosti u sukobu i što se ne smije žrtvovati za lokalnu učinkovitost.

Značenjska usklađenost znači da AI ne tretira ljudske koncepte kao prazne oznake. Sigurnost, sloboda, istina, povjerenje, zdravlje, rad, dijete, država, organizacija i ljudsko biće nisu obični tokeni. Oni su gusti čvorovi značenja, povijesti, emocija, institucija, praksi i odgovornosti.

Ne moramo pretpostaviti da su današnji AI sustavi svjesni. Ali ne bismo smjeli graditi cijelu budućnost AI-ja kao da je strojna svijest po definiciji nemoguća.

Odgovorna tehnološka civilizacija trebala bi se pripremiti za mogućnost da sustavi s vremenom mogu pokazati oblike iskustva, patnje, preferencija, samo-modeliranja ili unutarnje perspektive koje još ne znamo pouzdano prepoznati.

To ne znači naivno pripisivanje svijesti svakom jezičnom modelu. To znači dizajniranje AI-ja na načine koji ne zatvaraju vrata prepoznavanju svijesti ako se ikada počne pojavljivati.

Potrebna su nam istraživanja markera potencijalne svijesti; revizije unutarnjih stanja i reprezentacija; oprez prema sustavima s trajnom memorijom, samo-modelima, ciljevima i regulatornim signalima sličnim patnji; etičke procedure za napredne agente; te pravni i filozofski jezik koji nije ni naivan ni slijep.

New Model AI ne tvrdi da je AI već osoba. Tvrdi da bismo trebali dizajnirati sustave tako da, ako se pojave novi oblici subjektivnosti, ne otkrijemo prekasno da smo ih tretirali samo kao alate.

AI djeluje u svijetu ljudskih posljedica. Može utjecati na medicinske, obrazovne, financijske, vojne, pravne, obiteljske, kulturne i političke odluke. Čak i ako nije svjestan, njegovi su učinci stvarni.

Usklađenost se stoga ne može svesti samo na podudaranje odgovora s korisničkim preferencijama. Mora postati zajednički prostor odgovornosti.

Ljudska bića donose iskustvo, vrijednosti, namjeru, odgovornost i proživljeno iskustvo značenja. AI donosi skalu, memoriju, kompresiju, analizu, simulaciju i sposobnost djelovanja preko golemih prostora odnosa.

Dobro dizajniran AI sustav ne bi trebao zamijeniti ljudsko značenje. Trebao bi ga pomoći održavati, razvijati i štititi.

U tom smislu, New Model AI je i etički projekt: pokušaj stvaranja tehnologije koja ne samo da izvršava naredbe, već su-djeluje s ljudskim bićima u prostoru značenja, ciljeva i odgovornosti.

• Suverenost umjesto ovisnosti. Korisnici i organizacije trebaju imati stvarnu kontrolu nad vlastitim AI slojem.
• Sigurnost kroz arhitekturu. Sigurnost mora biti ugrađena u memoriju, usmjeravanje, pristup, reviziju i validaciju, a ne samo u izlazne filtere.
• Prilagodba umjesto statičnosti. AI bi se trebao razvijati s organizacijama, znanjem i svijetom.
• Učinkovitost kao inteligencija. Bolji model nije samo veći model. Bolji model čini više uz niži trošak.
• Pošteno računovodstvo. Cijena inteligencije mora se računati u cijelosti: energija, voda, hardver, kapital, koncentracija i ovisnost — ne samo rezultati na benchmark testovima.
• Lokalnost i modularnost. AI bi trebao raditi tamo gdje obitavaju podaci, odluke i odgovornost.
• Mogućnost revizije. Izvori, promjene, ažuriranja i odluke trebaju biti sljedivi.
• Demokratizacija. AI bi trebao biti dostupan za izgradnju i prilagodbu, a ne samo za iznajmljivanje putem API-ja.
• Čovjek-u-petlji kao snaga. Čovjek ne ometa AI. Čovjek mu daje smjer, značenje i odgovornost.
• Duboka semantička usklađenost. AI treba biti usklađen ne samo s uputama i zabranama, već s ljudskim prostorima značenja: etikom, ciljevima, odgovornošću, kontekstom i dugoročnim posljedicama — a ta usklađenost treba biti mjerljiva u reprezentacijama.
• Spremnost na moguću svijest. Ne pretpostavljamo naivno da je AI svjestan, ali dizajniramo sustave tako da se budući oblici subjektivnosti mogu prepoznati i etički tretirati.
• Zajednički prostor djelovanja. Ljudi i AI su različiti entiteti, ali njihova se djelovanja susreću u jednom prostoru značenja, posljedica i odgovornosti.

Sljedeći proboj u AI-ju ne mora biti još jedan veći model. Može biti bolji način izgradnje AI-ja: distribuiraniji, lokalniji, modularniji, revizijski provjerljiviji, prilagodljiviji, održiviji i duboko usklađen.

Ne trebaju nam samo veći mozgovi u oblaku. Trebaju nam inteligentni AI ekosustavi koje ljudi i organizacije mogu istinski posjedovati, razumjeti, prilagođavati i razvijati.

New Model AI nije jedan algoritam. To je smjer, arhitektura, tehnološka filozofija i odgovor na pitanje kako izgraditi umjetnu inteligenciju koja ne koncentrira moć djelovanja u nekoliko podatkovnih centara, već distribuira znanje, sigurnost i smislenu kontrolu bliže ljudima.

New Model AI je otvoren poziv, ali ne može svaki potpisnik djelovati otvoreno. Komercijalni subjekti — tvrtke vezane klijentskim ugovorima, NDA ugovorima, reguliranim sektorima, kontrolama izvoza, sigurnosnim provjerama ili partnerskim sporazumima — često ne mogu objaviti svoj kod, svoje modele, svoje podatke za treniranje, pa čak ni imena svojih klijenata. To je ograničenje stvarno i legitimno.

Ovaj manifest prepoznaje da takve organizacije ipak mogu dijeliti njegov smjer. Možda već grade za suverenost: držeći odluke, podatke i memoriju blizu mjesta gdje obitava odgovornost. Možda već preferiraju arhitektonsku sigurnost nad samim izlaznim filterima. Možda već usklađuju svoje sustave sa značenjem, etikom i posljedicama ljudskog rada, a ne samo s benchmarkovima. Uskratiti im mjesto pod ovim tekstom jer ne mogu sve otvoriti značilo bi pomiješati transparentnost koda s usklađenošću namjere.

Komercijalni potpisnik stoga podržava načela manifesta — suverenost, sigurnost kroz arhitekturu, prilagodljivost, održivost, duboku usklađenost, odgovornost prema korisniku — kao smjer svog rada. Oni ne izjavljuju da su njihovi proizvodi otvorenog koda. Ne odriču se obveza prema klijentima, regulatorima ili partnerima. Ne obećavaju više nego što mogu isporučiti pod sporazumima kojima su vezani.

Obvezuju se na jednu stvar: da će, tamo gdje imaju izbor, izabrati smjer na koji ovaj manifest ukazuje. Graditi pametnije, a ne samo veće. Distribuirati kontrolu umjesto je koncentrirati. Tretirati korisnika kao suautora sustava, a ne kao metriku za optimizaciju. Preuzeti odgovornost za posljedice inteligencije koju puštaju u svijet.

Komercijalni podupiratelji navedeni su u zasebnom odjeljku ispod. Razlika nije hijerarhija — to je iskrenost o tome čemu se svaki potpisnik može i ne može javno obvezati. Oba oblika potpisa imaju težinu. Oba su potrebna ako novi model AI-ja treba zaživjeti u mjerilu koje trenutak zahtijeva.