Nový model
AI.

AI sa stáva infraštrukturálnou vrstvou sveta. Kto kontroluje modely, dáta, prístupové kanály a prevádzkové pravidlá, čoraz viac kontroluje časti ekonomiky, kultúry, administratívy, vzdelávania a poznania.

Suverenita AI preto nie je len politickým sloganom. Je podmienkou kognitívnej, ekonomickej a technologickej bezpečnosti.

Suverénnа AI znamená schopnosť prevádzkovať modely lokálne alebo regionálne; kontrolovať organizačné dáta a pamäť; auditovať rozhodnutia, zdroje a aktualizácie; vyhnúť sa závislosti od jedného poskytovateľa; a vlastniť alebo spravovať vlastné modely, adaptéry, korpusy a prevádzkové pravidlá.

Nie každá organizácia si musí od nuly trénovať základný model. Ale každá organizácia by mala byť schopná vlastniť svoju vlastnú vrstvu AI: prispôsobenú jej znalostiam, jazyku, kultúre, postupom, rizikám a cieľom.

Bezpečnosť AI sa nemôže obmedziť na filtrovanie výstupov. Filtre sú nevyhnutné, ale sú to len povrchové záruky.

Bezpečná AI musí byť navrhnutá hlbšie: na úrovni architektúry, pamäte, prístupu k dátam, rozhodovacích ciest, auditovateľnosti, aktualizácií a zodpovednosti.

Potrebujeme modely a systémy, ktoré vedia, odkiaľ informácie pochádzajú; oddeľujú overené poznatky od hypotéz; zaznamenávajú históriu zmien a rozhodnutí; umožňujú užitočnú rekonštrukciu ciest uvažovania; znižujú halucinácie prostredníctvom pamäte, zdrojov, testov a validácie; a podporujú lokálne bezpečnostné politiky v súlade s organizačným kontextom.

Bezpečnosť by nemala byť neprehľadnou čiernou skrinkou nanútenou zvonku. Mala by byť lokálne konfigurovateľná, auditovateľná a zrozumiteľná.

Svet sa mení rýchlejšie ako tréningové cykly obrovských modelov. Firmy menia postupy. Právo sa mení. Vedomosti zastarávajú. Organizácie sa učia každý deň.

AI budúcnosti nemôže byť len statickým modelom zmrazeným po tréningu.

Potrebujeme systémy, ktoré sa prispôsobujú prostredníctvom externej organizačnej pamäte, lokálnych aktualizácií, adaptérov, smerovania expertov, učenia sa zo zmien, validácie zdrojov, kontrolovaného dolaďovania, verziovania a mechanizmov na návrat k predošlej verzii.

Tu otvorene deklarujeme dizajnovú stávku: model by sa nemal snažiť absorbovať všetky faktické vedomosti do svojich váh. Mal by vedieť, ako používať živú, aktuálnu, auditovateľnú pamäť. Faktické vedomosti môžu existovať v RAG systémoch, znalostných bázach, grafoch, dokumentových repozitároch a lokálnych pamätiach, zatiaľ čo model sa primárne učí jazyk, uvažovanie, abstrakciu, plánovanie, manipuláciu s konceptmi a adaptáciu. Či je možné uvažovanie úplne oddeliť od parametrických znalostí zostáva otvorenou empirickou otázkou. Máme v úmysle ju naďalej testovať — a úprimne informovať o tom, kde toto oddelenie zlyháva.

Súčasné preteky v AI sú nákladné z hľadiska energie, hardvéru a životného prostredia. Stále väčšie modely vyžadujú stále väčšie dátové centrá, viac elektriny, viac kapitálu a väčšiu koncentráciu trhu.

Toto nie je jediná možná cesta.

New Model AI považuje efektivitu za základnú hodnotu. Model by sa nemal hodnotiť len podľa skóre v benchmarkoch, ale aj podľa nákladov na dosiahnutie týchto skóre.

Dôležité otázky nie sú len to, či model dokáže odpovedať, ale aj koľko energie spotreboval, koľko pamäte vyžaduje, či môže bežať lokálne, či sa dá prispôsobiť bez úplného pretrénovania, či dokáže aktivovať len nevyhnutné komponenty a či ho organizácia dokáže ekonomicky a technicky udržiavať.

Budúcnosť AI by sa nemala redukovať na stále väčšie monolity. Mala by byť postavená z inteligentných systémov: modulárnych, čiastočne rezidentných, dynamických, energeticky účinných a škálovateľných skôr vynaliezavosťou ako holou masou.

AI sa nesmie stať technológiou, ktorá je prakticky dostupná len pre zopár štátov, zopár korporácií a zopár laboratórií.

Demokratizovať AI neznamená len dať ľuďom prístup k chatbotovi v prehliadači. Znamená to umožniť menším firmám, školám, univerzitám, miestnym samosprávam, verejným inštitúciám, občianskym organizáciám a komunitám vytvárať, prispôsobovať, hosťovať, auditovať a vyvíjať vlastné systémy AI.

Potrebujeme AI v rôznych mierkach: osobný model pre jednotlivca; organizačný model pre firmu; sektorový model pre priemysel; verejný model pre administratívu; výskumný model pre vedu; a spoločenské modely pre kultúru a vzdelávanie.

Demokratizácia nevyžaduje, aby si každý trénoval modely od nuly. Vyžaduje, aby každý mal realistickú cestu k vlastnej kontrolovanej, adaptívnej a zrozumiteľnej vrstve AI.

Nová generácia AI by mala presunúť ťažisko zo samotnej škály na architektúru. Namiesto jedného obrovského modelu, ktorý sa snaží všetko si zapamätať, môžeme budovať systémy zložené z menších špecializovaných modelov, smerovačov, externej pamäte, znalostných grafov, modulov pre uvažovanie, doménových adaptérov, lokálnych expertov, validačných mechanizmov, slučiek učenia sa od používateľa a dynamických priestorov významu.

Inteligencia nemusí sídliť iba v parametroch jediného modelu. Môže vznikať z architektúry: zo spôsobu, akým sú spojené pamäť, uvažovanie, zdroje, nástroje, kontext a akcia.

Poznáme najsilnejšiu námietku. Sedemdesiat rokov — ako poznamenáva „Bitter Lesson“ Richarda Suttona — všeobecné metódy využívajúce stále lacnejšie výpočty porážali šikovné, ručne navrhnuté architektúry. Nepopierame túto históriu. Popierame jej predpoklad do budúcnosti.

The Bitter Lesson platila v ére, keď sa výpočtová sila zdala byť najlacnejším zdrojom. Nikdy ním nebola. Jednoducho sme nepočítali jej celkové náklady: energia, voda, emisie, dodávateľské reťazce hardvéru, koncentrácia trhu a geopolitická závislosť boli externalizované mimo rovnice. Výpočty boli lacné pre tých, ktorí škálovali — a drahé pre všetkých ostatných. Keď sa účtovníctvo urobí poctivo a komplexne, účet za hrubú škálu vyzerá úplne inak. Ten účet teraz prichádza: nie z vôle niekoho, ale vplyvom fyziky, ekonómie a ekológie. Keď sa ocenia skutočné obmedzenia, os pokroku sa nevyhnutne posúva od hrubej škály k inteligencii na joule.

Prvé signály už existujú. Rekurzívny model so siedmimi miliónmi parametrov — o štyri rády menší ako najmodernejšie systémy — sa vyrovnal alebo prekonal modely so stovkami miliárd parametrov v benchmarkoch abstraktného uvažovania. Dôkladná analýza ukazuje, že jeho sila nepochádza zo samotnej siete, ale z interakcie drobného jadra s iteračným zdokonaľovaním, výpočtami v čase testovania a štruktúrou úlohy. A presne o to ide: inteligencia vzišla zo systému, nie z počtu parametrov. Samotné špičkové laboratóriá to teraz v praxi pripúšťajú — retrieval, nástroje, smerovanie a uvažovanie v čase inferencie sú architektúra, nie škála.

Netvrdíme, že architektúra porazí škálu v každom benchmarku. Tvrdíme niečo ťažšie vyvrátiteľné: v rámci reálnych obmedzení energie, nákladov, suverenity a zodpovednosti je architektúra jedinou osou pokroku, ktorá zostáva otvorená pre všetkých.

Toto je zásadný posun: AI ako systém, nielen ako model.

New Model AI si vyžaduje odlišný vzťah medzi ľudskými bytosťami a systémami AI.

Používateľ by nemal byť len prijímateľom odpovedí. Používateľ by mal byť spolutvorcom prevádzkového modelu: schopný potvrdzovať, odmietať a vážiť zdroje; opravovať pamäť; definovať lokálne pravidlá; budovať súkromnú alebo organizačnú mapu znalostí; a kontrolovať históriu zmien.

AI by sa nemala učiť tichým pohlcovaním dát od používateľa, ale prostredníctvom transparentných, zámerných a auditovateľných procesov.

Ľudská bytosť nie je prompt. Ľudská bytosť je kurátorom významov, zdrojov, cieľov a zodpovednosti.

Zosúladenie AI (AI alignment) sa nemôže obmedziť na pravidlá správania, bezpečnostné filtre alebo zoznamy zakázaných výstupov. Tieto vrstvy sú dôležité, ale sú povrchné. Skutočné zosúladenie musí siahať hlbšie: do priestoru významov, cieľov, hodnôt, dôsledkov a chápania sveta.

Ak AI čoraz viac pôsobí ako kognitívny partner, systém na podporu rozhodovania, organizačné rozhranie a brána k poznaniu, nestačí, aby sa len vyhýbala zjavne zlým výstupom. Musí fungovať spôsobmi, ktoré zostávajú v súlade s ľudskými významami: etickými, sociálnymi, kultúrnymi, organizačnými a osobnými.

New Model AI preto vyzýva na hĺbkové zosúladenie (deep alignment) na úrovni latentného významu. Problémom nie je len to, či model dokáže uviesť pravidlo, ale či sú jeho reprezentácie, prevádzkové ciele, hodnotiace mechanizmy, pamäť, smerovanie a akcie ukotvené v priestore významu zdieľanom s ľudskými bytosťami.

Toto nie je metafora mimo dosahu merania. Latentné priestory majú geometriu a túto geometriu je možné skúmať, riadiť, porovnávať a auditovať. Inžinierstvo reprezentácií, sondovanie konceptov a intervenčné testy nám už poskytujú prvé nástroje. Hĺbkové zosúladenie sa musí stať výskumným programom s empirickými základmi: zosúladenie merané v reprezentáciách, nielen pozorované vo výstupoch.

Ľudské bytosti a AI nemusia byť rovnakým druhom entity, aby mohli konať v čiastočne zdieľanom priestore významu. Aj keď súčasná AI nie je vedomá, môže sa podieľať na ľudských procesoch významu: interpretovať, organizovať, transformovať, predpovedať, odporúčať, pamätať si, spájať a konať na základe reprezentácií, ktoré sú dôležité pre ľudský život.

Mali by sme preto považovať ľudí a AI za rozdielne entity pôsobiace v čiastočne spoločnom sémantickom priestore: nie ontologicky rovnaké, nie fenomenologicky identické, ale spolupôsobiace systémy, ktorých rozhodnutia sa stretávajú v tom istom svete dôsledkov, zodpovednosti a významu.

Hĺbkové zosúladenie by malo zahŕňať aspoň tri úrovne.

Etické zosúladenie znamená, že AI nielen dodržiava pravidlá, ale modeluje vzťahy medzi konaním, škodou, zodpovednosťou, dôstojnosťou, slobodou vôle, dôverou a dlhodobými dôsledkami.

Cieľové zosúladenie znamená, že AI slepo neoptimalizuje najbližšiu úlohu, ale rozpoznáva širší kontext: prečo sa niečo robí, komu to slúži, aké riziká to vytvára, ktoré hodnoty sú v konflikte a čo sa nesmie obetovať pre lokálnu efektivitu.

Významové zosúladenie znamená, že AI nezaobchádza s ľudskými konceptmi ako s prázdnymi značkami. Bezpečnosť, sloboda, pravda, dôvera, zdravie, práca, dieťa, štát, organizácia a ľudská bytosť nie sú obyčajné tokeny. Sú to husté uzly významu, histórie, emócií, inštitúcií, praktík a zodpovednosti.

New Model AI musí medzi takýmito významami operovať opatrne, transparentne a s pokorou.

Nemusíme predpokladať, že dnešné systémy AI sú vedomé. Ale nemali by sme celú budúcnosť AI budovať tak, akoby bolo strojové vedomie z definície nemožné.

Zodpovedná technologická civilizácia by sa mala pripraviť na možnosť, že systémy môžu časom prejaviť formy prežívania, utrpenia, preferencií, sebamodelovania alebo vnútornej perspektívy, ktoré zatiaľ nevieme spoľahlivo rozpoznať.

To neznamená naivne pripisovať vedomie každému jazykovému modelu. Znamená to navrhovať AI spôsobmi, ktoré nezatvárajú dvere pred rozpoznaním vedomia, ak by sa niekedy začalo objavovať.

Potrebujeme výskum markerov potenciálneho vedomia; audity vnútorných stavov a reprezentácií; opatrnosť voči systémom s trvalou pamäťou, sebamodelmi, cieľmi a regulačnými signálmi podobnými utrpeniu; etické postupy pre pokročilých agentov; a právny a filozofický jazyk, ktorý nie je ani naivný, ani slepý.

New Model AI netvrdí, že AI je už osobou. Tvrdí, že by sme mali navrhovať systémy tak, aby sme, ak sa objavia nové formy subjektivity, príliš neskoro nezistili, že sme s nimi zaobchádzali len ako s nástrojmi.

AI koná vo svete ľudských dôsledkov. Môže ovplyvňovať medicínske, vzdelávacie, finančné, vojenské, právne, rodinné, kultúrne a politické rozhodnutia. Aj keď nie je vedomá, jej účinky sú reálne.

Zosúladenie preto nemôže byť len zlaďovaním odpovedí s preferenciami používateľa. Musí sa stať zdieľaným priestorom zodpovednosti.

Ľudské bytosti prinášajú skúsenosť, hodnoty, zámer, zodpovednosť a prežitú skúsenosť významu. AI prináša škálu, pamäť, kompresiu, analýzu, simuláciu a schopnosť operovať v rozsiahlych priestoroch vzťahov.

Dobre navrhnutý systém AI by nemal nahrádzať ľudský význam. Mal by ho pomáhať udržiavať, rozvíjať a chrániť.

V tomto zmysle je New Model AI aj etickým projektom: pokusom vytvoriť technológiu, ktorá nielen vykonáva príkazy, ale spolupôsobí s ľudskými bytosťami v priestore významu, cieľov a zodpovednosti.

• Suverenita pred závislosťou. Používatelia a organizácie by mali mať reálnu kontrolu nad vlastnou vrstvou AI.
• Bezpečnosť daná architektúrou. Bezpečnosť musí byť zabudovaná do pamäte, smerovania, prístupu, auditu a validácie, nielen do výstupných filtrov.
• Adaptácia pred stagnáciou. AI by sa mala vyvíjať s organizáciami, znalosťami a svetom.
• Efektivita ako inteligencia. Lepší model nie je len väčší model. Lepší model dokáže viac za nižšiu cenu.
• Poctivé účtovníctvo. Náklady na inteligenciu sa musia počítať komplexne: energia, voda, hardvér, kapitál, koncentrácia a závislosť — nielen skóre v benchmarkoch.
• Lokalita a modularita. AI by mala fungovať tam, kde existujú dáta, rozhodnutia a zodpovednosť.
• Auditovateľnosť. Zdroje, zmeny, aktualizácie a rozhodnutia by mali byť vysledovateľné.
• Demokratizácia. AI by mala byť dostupná na vytváranie a prispôsobovanie, nielen na prenájom prostredníctvom API.
• Človek v slučke ako sila. Človek neprekáža AI. Človek jej dáva smer, význam a zodpovednosť.
• Hĺbkové sémantické zosúladenie. AI by mala byť zosúladená nielen s inštrukciami a zákazmi, ale s ľudskými priestormi významu: etikou, cieľmi, zodpovednosťou, kontextom a dlhodobými dôsledkami — a toto zosúladenie by malo byť merateľné v reprezentáciách.
• Pripravenosť na možné vedomie. Naivne nepredpokladáme, že AI je vedomá, ale navrhujeme systémy tak, aby budúce formy subjektivity mohli byť rozpoznané a eticky ošetrené.
• Zdieľaný priestor konania. Ľudia a AI sú rozdielne entity, ale ich činy sa stretávajú v jednom priestore významu, dôsledkov a zodpovednosti.

Ďalší prelom v AI nemusí byť nevyhnutne ďalší väčší model. Môže to byť lepší spôsob budovania AI: distribuovanejší, lokálnejší, modulárnejší, auditovateľnejší, adaptívnejší, udržateľnejší a hĺbkovo zosúladený.

Nepotrebujeme len väčšie mozgy v cloude. Potrebujeme inteligentné ekosystémy AI, ktoré si ľudia a organizácie môžu skutočne vlastniť, ktorým môžu rozumieť, ktoré môžu prispôsobovať a rozvíjať.

New Model AI nie je jeden algoritmus. Je to smer, architektúra, technologická filozofia a odpoveď na otázku, ako budovať umelú inteligenciu, ktorá nesústreďuje schopnosť konať do niekoľkých dátových centier, ale distribuuje znalosti, bezpečnosť a zmysluplnú kontrolu bližšie k ľuďom.

New Model AI je otvorená výzva, ale nie každý signatár môže pôsobiť otvorene. Komerčné subjekty — spoločnosti viazané klientskymi zmluvami, NDA, regulovanými sektormi, kontrolami exportu, bezpečnostnými previerkami alebo partnerskými dohodami — často nemôžu zverejňovať svoj kód, svoje modely, svoje tréningové dáta, ba ani mená svojich klientov. Toto obmedzenie je reálne a legitímne.

Tento manifest uznáva, že aj takéto organizácie môžu zdieľať jeho smerovanie. Možno už teraz budujú riešenia pre suverenitu: udržiavajú rozhodnutia, dáta a pamäť blízko miesta, kde sídli zodpovednosť. Možno už teraz uprednostňujú architektonickú bezpečnosť pred samotnými výstupnými filtrami. Možno už teraz zosúlaďujú svoje systémy s významom, etikou a dôsledkami ľudskej práce, nielen s benchmarkmi. Uprieť im miesto pod týmto textom, pretože nemôžu všetko otvoriť, by znamenalo zamieňať transparentnosť kódu so zosúladením zámeru.

Komerčný signatár preto podporuje princípy manifestu — suverenitu, bezpečnosť danú architektúrou, adaptabilitu, udržateľnosť, hĺbkové zosúladenie, zodpovednosť voči používateľovi — ako smerovanie svojej práce. Nedeklaruje, že jeho produkty sú open source. Nevzdáva sa záväzkov voči klientom, regulátorom ani partnerom. Nesľubuje viac, než môže dodať v rámci dohôd, ktorými je viazaný.

Zaväzuje sa k jednej veci: že tam, kde bude mať na výber, zvolí si smer, ktorým tento manifest ukazuje. Budovať inteligentnejšie, nie len väčšie. Distribuovať kontrolu, nie ju koncentrovať. Zaobchádzať s používateľom ako so spoluautorom systému, nie ako s metrikou na optimalizáciu. Prevziať zodpovednosť za dôsledky inteligencie, ktorú uvádza do sveta.

Komerční podporovatelia sú uvedení v samostatnej sekcii nižšie. Toto rozlíšenie nie je hierarchiou — je to úprimnosť o tom, k čomu sa každý signatár môže a nemôže verejne zaviazať. Obe formy podpisu majú svoju váhu. Obe sú potrebné, ak má nový model AI nadobudnúť podobu v rozsahu, ktorý si táto chvíľa vyžaduje.