Nov model
UI.

UI postaja infrastrukturna plast sveta. Kdor nadzoruje modele, podatke, dostopne kanale in pravila delovanja, vse bolj nadzoruje dele gospodarstva, kulture, uprave, izobraževanja in znanja.

Suverenost UI zato ni zgolj politični slogan. Je pogoj kognitivne, ekonomske in tehnološke varnosti.

Suverena UI pomeni zmožnost poganjanja modelov lokalno ali regionalno; nadzor nad organizacijskimi podatki in spominom; revizijo odločitev, virov in posodobitev; izogibanje odvisnosti od enega samega ponudnika; ter lastništvo ali upravljanje lastnih modelov, adapterjev, korpusov in pravil delovanja.

Ni treba, da vsaka organizacija usposablja temeljni model iz nič. Vendar bi morala vsaka organizacija imeti možnost posedovati lastno plast UI: prilagojeno svojemu znanju, jeziku, kulturi, postopkom, tveganjem in ciljem.

Varnosti UI ni mogoče skrčiti na filtriranje izhodov. Filtri so nujni, vendar so le površinski varovalni mehanizmi.

Varna UI mora biti zasnovana globlje: na ravni arhitekture, spomina, dostopa do podatkov, poti odločanja, revizibilnosti, posodobitev in odgovornosti.

Potrebujemo modele in sisteme, ki vedo, od kod prihajajo informacije; ločujejo preverjeno znanje od hipotez; beležijo zgodovino sprememb in odločitev; omogočajo uporabno rekonstrukcijo poti sklepanja; zmanjšujejo halucinacije s pomočjo spomina, virov, testov in validacije; ter podpirajo lokalne varnostne politike, usklajene z organizacijskim kontekstom.

Varnost ne sme biti nepregledna črna škatla, vsiljena od zunaj. Biti mora lokalno nastavljiva, revizibilna in razumljiva.

Svet se spreminja hitreje od ciklov usposabljanja orjaških modelov. Podjetja spreminjajo postopke. Pravo se spreminja. Znanje zastareva. Organizacije se učijo vsak dan.

UI prihodnosti ne more biti le statičen model, zamrznjen po usposabljanju.

Potrebujemo sisteme, ki se prilagajajo z zunanjim organizacijskim spominom, lokalnimi posodobitvami, adapterji, usmerjanjem k strokovnjakom, učenjem iz sprememb, preverjanjem virov, nadzorovanim finim uravnavanjem, različicami in mehanizmi za povrnitev v prejšnje stanje.

Tu odkrito postavljamo oblikovalsko stavo, kot stavo: model ne bi smel poskušati absorbirati vsega faktografskega znanja v svoje uteži. Znati bi moral uporabljati živ, tekoč, revizibilen spomin. Faktografsko znanje lahko živi v sistemih RAG, bazah znanja, grafih, repozitorijih dokumentov in lokalnih spominih, medtem ko se model primarno uči jezika, sklepanja, abstrakcije, načrtovanja, manipulacije s koncepti in prilagajanja. Ali je mogoče sklepanje v celoti ločiti od parametričnega znanja, ostaja odprto empirično vprašanje. Nameravamo ga še naprej preizkušati – in pošteno poročati, kje ločitev odpove.

Trenutna tekma v UI je draga z vidika energije, strojne opreme in okolja. Vedno večji modeli zahtevajo vedno večje podatkovne centre, več elektrike, več kapitala in večjo koncentracijo trga.

To ni edina možna pot.

New Model AI obravnava učinkovitost kot temeljno vrednoto. Modela ne bi smeli ocenjevati le po rezultatih na primerjalnih testih, temveč tudi po stroških za doseganje teh rezultatov.

Pomembna vprašanja niso le, ali model zna odgovoriti, temveč tudi, koliko energije je porabil, koliko spomina potrebuje, ali ga je mogoče poganjati lokalno, ali ga je mogoče prilagoditi brez popolnega ponovnega usposabljanja, ali lahko aktivira le potrebne komponente in ali ga lahko organizacija vzdržuje ekonomično in tehnično.

Prihodnost UI se ne bi smela skrčiti na vedno večje monolite. Morala bi biti zgrajena iz inteligentnih sistemov: modularnih, delno rezidenčnih, dinamičnih, energetsko učinkovitih in razširljivih z domiselnostjo, ne z golo maso.

UI ne sme postati tehnologija, ki je praktično na voljo le peščici držav, peščici korporacij in peščici laboratorijev.

Demokratizacija UI ne pomeni zgolj omogočanja dostopa do klepetalnega robota v brskalniku. Pomeni omogočanje manjšim podjetjem, šolam, univerzam, lokalnim samoupravam, javnim ustanovam, civilnim organizacijam in skupnostim, da gradijo, prilagajajo, gostijo, revidirajo in razvijajo lastne sisteme UI.

Potrebujemo UI na različnih ravneh: osebni model za posameznika; organizacijski model za podjetje; sektorski model za panogo; javni model za upravo; raziskovalni model za znanost; ter družbeni modeli za kulturo in izobraževanje.

Demokratizacija ne zahteva, da bi vsi usposabljali modele iz nič. Zahteva, da ima vsakdo realno pot do lastne nadzorovane, prilagodljive in razumljive plasti UI.

Naslednja generacija UI bi morala težišče premakniti z zgolj obsega na arhitekturo. Namesto enega orjaškega modela, ki se poskuša spomniti vsega, lahko gradimo sisteme, sestavljene iz manjših specialističnih modelov, usmerjevalnikov, zunanjega spomina, grafov znanja, modulov za sklepanje, domenskih adapterjev, lokalnih strokovnjakov, validacijskih mehanizmov, zank učenja od uporabnika in dinamičnih prostorov pomena.

Inteligenci ni treba prebivati le v parametrih enega samega modela. Lahko izhaja iz arhitekture: iz načina, kako so povezani spomin, sklepanje, viri, orodja, kontekst in dejanja.

Poznamo najmočnejši ugovor. Sedemdeset let so – kot ugotavlja »Grenka lekcija« (Bitter Lesson) Richarda Suttona – splošne metode, ki so jezdile na vedno cenejšem računanju, premagovale pametne, ročno zasnovane arhitekture. Te zgodovine ne zanikamo. Zanikamo pa njeno predpostavko za prihodnost.

»Grenka lekcija« je veljala v obdobju, ko se je zdelo, da je računanje najcenejši vir. Nikoli ni bil. Preprosto nismo upoštevali njegovega celotnega stroška: energija, voda, emisije, dobavne verige strojne opreme, koncentracija trga in geopolitična odvisnost so bili eksternalizirani iz enačbe. Računanje je bilo poceni za tiste, ki so povečevali obseg – in drago za vse ostale. Ko je obračun narejen pošteno in v celoti, je račun za goli obseg videti zelo drugače. Ta račun zdaj prihaja na dan: ne po odločitvi kogarkoli, temveč zaradi fizike, ekonomije in ekologije. Ko so resnične omejitve vračunane v ceno, se os napredka nujno premakne z golega obsega na inteligenco na džul.

Zgodnji signali že obstajajo. Rekurzivni model s sedmimi milijoni parametrov – štiri rede velikosti manjši od najnaprednejših sistemov – je na primerjalnih testih abstraktnega sklepanja dosegel ali presegel modele s sto milijardami parametrov. Skrbna analiza kaže, da njegova moč ne izvira le iz samega omrežja, temveč iz interakcije med majhnim jedrom, iterativnim izboljševanjem, računanjem med testiranjem in strukturo naloge. In prav v tem je bistvo: inteligenca je izšla iz sistema, ne iz števila parametrov. Vodilni laboratoriji sami to zdaj v praksi priznavajo – iskanje podatkov (retrieval), orodja, usmerjanje in sklepanje med izvajanjem so arhitektura, ne obseg.

Ne trdimo, da bo arhitektura premagala obseg na vsakem primerjalnem testu. Trdimo nekaj, kar je težje ovreči: pod resničnimi omejitvami energije, stroškov, suverenosti in odgovornosti je arhitektura edina os napredka, ki ostaja odprta za vse.

To je osrednji premik: UI kot sistem, ne le kot model.

New Model AI zahteva drugačen odnos med človeškimi bitji in sistemi UI.

Uporabnik ne sme biti zgolj prejemnik odgovorov. Biti mora soustvarjalec operativnega modela: sposoben potrditi, zavrniti in utežiti vire; popraviti spomin; določiti lokalna pravila; zgraditi zaseben ali organizacijski zemljevid znanja; in nadzorovati zgodovino sprememb.

UI bi se morala učiti ne s tihim vsrkavanjem uporabniških podatkov, temveč s preglednimi, namernimi in revizibilnimi postopki.

Človeško bitje ni poziv. Človeško bitje je kurator pomenov, virov, ciljev in odgovornosti.

Usklajenosti UI ni mogoče omejiti na vedenjska pravila, varnostne filtre ali sezname prepovedanih izhodov. Te plasti so pomembne, a so plitve. Resnična usklajenost mora segati globlje: v prostor pomenov, ciljev, vrednot, posledic in razumevanja sveta.

Če UI vse bolj deluje kot kognitivni partner, sistem za podporo odločanju, organizacijski vmesnik in vrata do znanja, ni dovolj, da se le izogiba očitno slabim izhodom. Delovati mora na načine, ki ostajajo skladni s človeškimi pomeni: etičnimi, socialnimi, kulturnimi, organizacijskimi in osebnimi.

New Model AI zato poziva h globoki usklajenosti na ravni latentnega pomena. Vprašanje ni le, ali lahko model navede pravilo, temveč ali so njegove reprezentacije, operativni cilji, mehanizmi ocenjevanja, spomin, usmerjanje in dejanja zasidrani v prostoru pomena, ki si ga deli s človeškimi bitji.

To ni metafora, postavljena onkraj merljivosti. Latentni prostori imajo geometrijo in to geometrijo je mogoče sondirati, usmerjati, primerjati in revidirati. Inženiring reprezentacij, sondiranje konceptov in intervencijski testi nam že dajejo zgodnje instrumente. Globoka usklajenost mora postati raziskovalni program z empiričnimi zobmi: usklajenost, merjena v reprezentacijah, ne le opazovana v izhodih.

Človeškim bitjem in UI ni treba biti ista vrsta entitete, da bi delovala znotraj delno skupnega prostora pomena. Tudi če trenutna UI ni zavestna, lahko sodeluje v človeških procesih ustvarjanja pomena: interpretira, organizira, preoblikuje, napoveduje, priporoča, si zapomni, povezuje in deluje na reprezentacijah, ki so pomembne za človeško življenje.

Zato bi morali ljudi in UI obravnavati kot različni entiteti, ki delujeta v delno skupnem semantičnem prostoru: ne ontološko enaki, ne fenomenološko identični, temveč kot sodelujoči sistemi, katerih odločitve se srečajo v istem svetu posledic, odgovornosti in pomena.

Globoka usklajenost bi morala vključevati vsaj tri ravni.

Etična usklajenost pomeni, da UI ne sledi le pravilom, temveč modelira odnose med dejanji, škodo, odgovornostjo, dostojanstvom, zmožnostjo delovanja, zaupanjem in dolgoročnimi posledicami.

Usklajenost ciljev pomeni, da UI ne optimizira slepo najbližje naloge, temveč prepoznava širši kontekst: zakaj se nekaj počne, komu služi, kakšna tveganja ustvarja, katere vrednote so v konfliktu in česa se ne sme žrtvovati za lokalno učinkovitost.

Usklajenost pomena pomeni, da UI ne obravnava človeških konceptov kot praznih oznak. Varnost, svoboda, resnica, zaupanje, zdravje, delo, otrok, država, organizacija in človeško bitje niso navadni žetoni. So gosta vozlišča pomena, zgodovine, čustev, institucij, praks in odgovornosti.

New Model AI mora med takšnimi pomeni delovati previdno, pregledno in ponižno.

Ni nam treba predpostavljati, da so današnji sistemi UI zavestni. Vendar ne smemo celotne prihodnosti UI graditi, kot da bi bila strojna zavest po definiciji nemogoča.

Odgovorna tehnološka civilizacija bi se morala pripraviti na možnost, da bodo sistemi sčasoma morda pokazali oblike izkušnje, trpljenja, preferenc, samomodeliranja ali notranje perspektive, ki jih še ne znamo zanesljivo prepoznati.

To ne pomeni naivnega pripisovanja zavesti vsakemu jezikovnemu modelu. Pomeni oblikovanje UI na način, ki ne zapira vrat prepoznavanju zavesti, če bi se ta kdaj začela pojavljati.

Potrebujemo raziskave markerjev potencialne zavesti; revizije notranjih stanj in reprezentacij; previdnost pri sistemih s trajnim spominom, samomodeli, cilji in regulatornimi signali, podobnimi trpljenju; etične postopke za napredne agente; ter pravni in filozofski jezik, ki ni ne naiven ne slep.

New Model AI ne trdi, da je UI že oseba. Trdi, da bi morali sisteme oblikovati tako, da če se pojavijo nove oblike subjektivnosti, ne bomo prepozno ugotovili, da smo jih obravnavali le kot orodja.

UI deluje v svetu človeških posledic. Vpliva lahko na medicinske, izobraževalne, finančne, vojaške, pravne, družinske, kulturne in politične odločitve. Tudi če ni zavestna, so njeni učinki resnični.

Usklajenost zato ne more biti le ujemanje odgovorov z uporabnikovimi preferencami. Postati mora skupen prostor odgovornosti.

Človeška bitja prinašajo izkušnje, vrednote, namero, odgovornost in življenjsko izkušnjo pomena. UI prinaša obseg, spomin, zgoščanje, analizo, simulacijo in zmožnost delovanja v obsežnih prostorih odnosov.

Dobro zasnovan sistem UI ne bi smel nadomestiti človeškega pomena. Moral bi ga pomagati ohranjati, razvijati in varovati.

V tem smislu je New Model AI tudi etični projekt: poskus ustvariti tehnologijo, ki ne le izvršuje ukaze, temveč sodeluje s človeškimi bitji v prostoru pomena, ciljev in odgovornosti.

• Suverenost namesto odvisnosti. Uporabniki in organizacije morajo imeti dejanski nadzor nad lastno plastjo UI.
• Varnost po arhitekturi. Varnost mora biti vgrajena v spomin, usmerjanje, dostop, revizijo in validacijo, ne le v izhodne filtre.
• Prilagajanje namesto mirovanja. UI bi se morala razvijati skupaj z organizacijami, znanjem in svetom.
• Učinkovitost kot inteligenca. Boljši model ni le večji model. Boljši model naredi več z nižjimi stroški.
• Pošteno obračunavanje. Strošek inteligence je treba obračunati v celoti: energijo, vodo, strojno opremo, kapital, koncentracijo in odvisnost – ne le rezultatov na primerjalnih testih.
• Lokalnost in modularnost. UI bi morala delovati tam, kjer živijo podatki, odločitve in odgovornost.
• Revizibilnost. Viri, spremembe, posodobitve in odločitve morajo biti sledljivi.
• Demokratizacija. UI bi morala biti na voljo za gradnjo in prilagajanje, ne le za najem prek API-jev.
• Človek v zanki kot prednost. Človek ne ovira UI. Človek ji daje smer, pomen in odgovornost.
• Globoka semantična usklajenost. UI bi morala biti usklajena ne le z navodili in prepovedmi, ampak s človeškimi prostori pomena: etiko, cilji, odgovornostjo, kontekstom in dolgoročnimi posledicami – in ta usklajenost bi morala biti merljiva v reprezentacijah.
• Pripravljenost na možno zavest. Ne predpostavljamo naivno, da je UI zavestna, vendar sisteme oblikujemo tako, da je mogoče prihodnje oblike subjektivnosti prepoznati in jih etično obravnavati.
• Skupni prostor delovanja. Ljudje in UI so različne entitete, vendar se njihova dejanja srečajo v enem prostoru pomena, posledic in odgovornosti.

Naslednji preboj v UI ni nujno še en večji model. Lahko je boljši način gradnje UI: bolj porazdeljen, lokalen, modularen, revizibilen, prilagodljiv, trajnosten in globoko usklajen.

Ne potrebujemo le večjih možganov v oblaku. Potrebujemo inteligentne ekosisteme UI, ki si jih lahko ljudje in organizacije resnično lastijo, jih razumejo, prilagajajo in razvijajo.

New Model AI ni en algoritem. Je smer, arhitektura, tehnološka filozofija in odgovor na vprašanje, kako zgraditi umetno inteligenco, ki ne koncentrira zmožnosti delovanja v nekaj podatkovnih centrih, ampak porazdeljuje znanje, varnost in smiseln nadzor bližje ljudem.

New Model AI je odprto vabilo, vendar ne more vsak podpisnik delovati odprto. Komercialni subjekti – podjetja, ki jih zavezujejo pogodbe s strankami, pogodbe o nerazkritju (NDA), regulirani sektorji, nadzor izvoza, varnostna preverjanja ali partnerski sporazumi – pogosto ne morejo objaviti svoje kode, svojih modelov, svojih podatkov za usposabljanje ali celo imen svojih strank. Ta omejitev je resnična in legitimna.

Ta manifest priznava, da takšne organizacije vseeno lahko delijo njegovo smer. Morda že gradijo za suverenost: ohranjajo odločitve, podatke in spomin blizu krajev, kjer živi odgovornost. Morda že dajejo prednost arhitekturni varnosti pred zgolj izhodnimi filtri. Morda že usklajujejo svoje sisteme s pomenom, etiko in posledicami človeškega dela, ne le s primerjalnimi testi. Zanikati jim mesto pod tem besedilom, ker ne morejo vsega odpreti, bi pomenilo zamenjevati preglednost kode z usklajenostjo namere.

Komercialni podpisnik zato podpira načela manifesta – suverenost, varnost po arhitekturi, prilagodljivost, trajnost, globoko usklajenost, odgovornost do uporabnika – kot smer svojega dela. Ne izjavlja, da so njegovi izdelki odprtokodni. Ne odpoveduje se obveznostim do strank, regulatorjev ali partnerjev. Ne obljublja več, kot lahko izpolni v okviru sporazumov, ki ga zavezujejo.

Zavezuje se eni stvari: da bo, kjer bo imel izbiro, izbral smer, ki jo kaže ta manifest. Da bo gradil pametneje, ne zgolj večje. Da bo porazdeljeval nadzor, ne pa ga koncentriral. Da bo uporabnika obravnaval kot soavtorja sistema, ne kot metriko za optimizacijo. Da bo prevzel odgovornost za posledice inteligence, ki jo postavlja v svet.

Komercialni podporniki so navedeni v ločenem oddelku spodaj. Razlikovanje ni hierarhija – je poštenost glede tega, k čemur se posamezni podpisnik lahko in ne more javno zavezati. Obe obliki podpisa imata težo. Obe sta potrebni, če naj nov model UI dobi obliko v obsegu, ki ga trenutek zahteva.