Naujas modelis
AI.

AI tampa pasaulio infrastruktūriniu sluoksniu. Kas kontroliuoja modelius, duomenis, prieigos kanalus ir veiklos taisykles, tas vis labiau kontroliuoja ekonomikos, kultūros, administravimo, švietimo ir žinių sritis.

Todėl AI suverenitetas nėra tik politinis šūkis. Tai kognityvinio, ekonominio ir technologinio saugumo sąlyga.

Suverenus AI reiškia galimybę paleisti modelius vietoje ar regione; kontroliuoti organizacijos duomenis ir atmintį; audituoti sprendimus, šaltinius ir atnaujinimus; išvengti priklausomybės nuo vieno teikėjo; ir turėti nuosavybės teises į savo modelius, adapterius, korpusus ir veiklos taisykles arba juos valdyti.

Ne kiekvienai organizacijai reikia nuo nulio apmokyti pagrindinį modelį. Tačiau kiekviena organizacija turėtų turėti galimybę valdyti savo AI sluoksnį: pritaikytą jos žinioms, kalbai, kultūrai, procedūroms, rizikoms ir tikslams.

AI saugumas negali būti suvestas tik į išvesties filtravimą. Filtrai yra būtini, tačiau tai tėra paviršinės apsaugos priemonės.

Saugus AI turi būti kuriamas giliau: architektūros, atminties, duomenų prieigos, sprendimų kelių, audito galimybių, atnaujinimų ir atskaitomybės lygiu.

Mums reikia modelių ir sistemų, kurios žinotų, iš kur gaunama informacija; atskirtų patikrintas žinias nuo hipotezių; fiksuotų pakeitimų ir sprendimų istoriją; leistų naudingai atkurti samprotavimo kelius; mažintų haliucinacijas pasitelkdamos atmintį, šaltinius, testus ir validavimą; bei palaikytų vietines saugumo politikas, suderintas su organizacijos kontekstu.

Saugumas neturėtų būti nepermatoma juodoji dėžė, primesta iš išorės. Jis turėtų būti konfigūruojamas, audituojamas ir suprantamas vietoje.

Pasaulis keičiasi greičiau nei milžiniškų modelių mokymo ciklai. Įmonės keičia procedūras. Keičiasi teisė. Žinios sensta. Organizacijos mokosi kasdien.

Ateities AI negali būti tik statiškas modelis, sustingęs po apmokymo.

Mums reikia sistemų, kurios prisitaiko per išorinę organizacijos atmintį, vietinius atnaujinimus, adapterius, ekspertų maršrutizavimą, mokymąsi iš pokyčių, šaltinių patvirtinimą, kontroliuojamą tikslinimą (fine-tuning), versijavimą ir atstatymo mechanizmus.

Čia atvirai, kaip lažybas, teigiame dizaino prielaidą: modelis neturėtų stengtis sugerti visas faktines žinias į savo svorius. Jis turėtų mokėti naudotis gyva, aktualia, audituojama atmintimi. Faktinės žinios gali būti saugomos RAG sistemose, žinių bazėse, grafuose, dokumentų saugyklose ir vietinėse atmintyse, o modelis pirmiausia mokosi kalbos, samprotavimo, abstrakcijos, planavimo, sąvokų manipuliavimo ir adaptacijos. Ar samprotavimą galima visiškai atskirti nuo parametrinių žinių, lieka atviras empirinis klausimas. Mes ketiname ir toliau tai tikrinti – ir sąžiningai pranešti, kur atskyrimas nepavyksta.

Dabartinės AI lenktynės yra brangios energijos, aparatinės įrangos ir aplinkosaugos požiūriu. Vis didesniems modeliams reikia vis didesnių duomenų centrų, daugiau elektros, daugiau kapitalo ir didesnės rinkos koncentracijos.

Tai nėra vienintelis galimas kelias.

New Model AI efektyvumą laiko pagrindine vertybe. Modelį reikėtų vertinti ne tik pagal lyginamųjų testų (benchmark) rezultatus, bet ir pagal kainą, už kurią tų rezultatų pasiekta.

Svarbūs klausimai yra ne tik tai, ar modelis gali atsakyti, bet ir kiek energijos jis suvartojo, kiek atminties jam reikia, ar jis gali veikti vietoje, ar jį galima pritaikyti be visiško perapmokymo, ar jis gali aktyvuoti tik būtinus komponentus ir ar organizacija gali jį ekonomiškai ir techniškai palaikyti.

AI ateitis neturėtų būti suvesta į vis didesnius monolitus. Ji turėtų būti kuriama iš išmanių sistemų: modulinių, iš dalies rezidentinių, dinamiškų, efektyviai vartojančių energiją ir plečiamų išradingumu, o ne vien mase.

AI negali tapti technologija, kuri praktiškai prieinama tik kelioms valstybėms, kelioms korporacijoms ir kelioms laboratorijoms.

AI demokratizavimas nereiškia vien suteikti žmonėms prieigą prie pokalbių roboto (chatbot) naršyklėje. Tai reiškia suteikti galimybę mažesnėms įmonėms, mokykloms, universitetams, vietos valdžios institucijoms, viešosioms įstaigoms, pilietinėms organizacijoms ir bendruomenėms kurti, pritaikyti, talpinti, audituoti ir plėtoti savo AI sistemas.

Mums reikia įvairių mastelių AI: asmeninio modelio individui; organizacinio modelio įmonei; sektorinio modelio pramonei; viešojo modelio administracijai; tyrimų modelio mokslui; ir socialinių modelių kultūrai bei švietimui.

Demokratizacija nereikalauja, kad visi apmokytų modelius nuo nulio. Ji reikalauja, kad kiekvienas turėtų realų kelią į savo kontroliuojamą, adaptyvų ir suprantamą AI sluoksnį.

Kita AI karta turėtų perkelti svorio centrą nuo vien masto prie architektūros. Užuot kūrę vieną milžinišką modelį, bandantį viską prisiminti, galime kurti sistemas, sudarytas iš mažesnių specializuotų modelių, maršrutizatorių, išorinės atminties, žinių grafų, samprotavimo modulių, sričių adapterių, vietinių ekspertų, validavimo mechanizmų, vartotojo mokymosi ciklų ir dinaminių prasmės erdvių.

Intelektas nebūtinai turi slypėti vieno modelio parametruose. Jis gali kilti iš architektūros: iš to, kaip susiejama atmintis, samprotavimas, šaltiniai, įrankiai, kontekstas ir veiksmas.

Mes žinome stipriausią prieštaravimą. Septyniasdešimt metų – kaip pastebi Richard Sutton savo „Karčiojoje pamokoje” (Bitter Lesson) – bendrieji metodai, besiremiantys vis pigesniais skaičiavimais, pranokdavo protingas, rankomis sukurtas architektūras. Mes neneigiame šios istorijos. Mes neigiame jos prielaidą ateičiai.

„Karčioji pamoka” galiojo eroje, kai skaičiavimas atrodė pigiausias išteklius. Tačiau taip niekada nebuvo. Mes tiesiog neskaičiavome visų jo kaštų: energija, vanduo, emisijos, aparatinės įrangos tiekimo grandinės, rinkos koncentracija ir geopolitinė priklausomybė buvo iškelti už lygties ribų. Skaičiavimas buvo pigus tiems, kurie didino mastą – ir brangus visiems kitiems. Kai sąskaita pateikiama sąžiningai ir pilnai, kaina už gryną mastą atrodo visai kitaip. Dabar tą sąskaitą teks apmokėti: ne dėl kieno nors pasirinkimo, o dėl fizikos, ekonomikos ir ekologijos. Kai įvertinami tikrieji apribojimai, progreso ašis neišvengiamai pasislenka nuo gryno masto prie intelekto, tenkančio džauliui.

Pirmieji signalai jau egzistuoja. Rekursyvus septynių milijonų parametrų modelis – keturiomis eilėmis mažesnis už pažangiausias sistemas – pasiekė arba viršijo šimtų milijardų parametrų modelius abstraktaus samprotavimo lyginamuosiuose testuose. Kruopšti analizė rodo, kad jo stiprybė kyla ne vien iš tinklo, bet iš mažyčio branduolio sąveikos su iteraciniu tobulinimu, skaičiavimais testavimo metu ir užduoties struktūra. Būtent tai ir yra esmė: intelektas kilo iš sistemos, o ne iš parametrų skaičiaus. Pačios pažangiausios laboratorijos dabar praktiškai su tuo sutinka – informacijos atranka (retrieval), įrankiai, maršrutizavimas ir samprotavimas išvesties metu (inference-time) yra architektūra, o ne mastas.

Mes neteigiame, kad architektūra nugalės mastą kiekviename lyginamajame teste. Mes teigiame sunkiau paneigiamą dalyką: esant realiems energijos, kainos, suvereniteto ir atskaitomybės apribojimams, architektūra yra vienintelė progreso ašis, kuri lieka atvira visiems.

Tai yra esminis poslinkis: AI kaip sistema, o ne tik modelis.

New Model AI reikalauja kitokio santykio tarp žmonių ir AI sistemų.

Vartotojas neturėtų būti tik atsakymų gavėjas. Vartotojas turėtų būti veikiančio modelio bendrakūrėjas: galintis patvirtinti, atmesti ir pasverti šaltinius; taisyti atmintį; apibrėžti vietines taisykles; kurti privatų ar organizacinį žinių žemėlapį; ir kontroliuoti pakeitimų istoriją.

AI turėtų mokytis ne tyliai pasisavindamas vartotojo duomenis, o per skaidrius, sąmoningus ir audituojamus procesus.

Žmogus nėra užklausa (prompt). Žmogus yra prasmių, šaltinių, tikslų ir atsakomybės kuratorius.

AI suderinimas negali apsiriboti elgesio taisyklėmis, saugos filtrais ar draudžiamų išvesčių sąrašais. Šie sluoksniai svarbūs, bet jie paviršutiniški. Tikrasis suderinimas turi siekti giliau: į prasmių, tikslų, vertybių, pasekmių ir pasaulio supratimo erdvę.

Jei AI vis dažniau veikia kaip kognityvinis partneris, sprendimų palaikymo sistema, organizacinė sąsaja ir vartai į žinias, nepakanka, kad jis tiesiog vengtų akivaizdžiai blogų išvesčių. Jis turi veikti taip, kad išliktų nuoseklus žmogiškosioms prasmėms: etinėms, socialinėms, kultūrinėms, organizacinėms ir asmeninėms.

Todėl New Model AI ragina siekti gilaus suderinimo latentinės prasmės lygmeniu. Problema ne tik ta, ar modelis gali išsakyti taisyklę, bet ir tai, ar jo reprezentacijos, veiklos tikslai, vertinimo mechanizmai, atmintis, maršrutizavimas ir veiksmai yra įtvirtinti prasmės erdvėje, kurią jis dalijasi su žmonėmis.

Tai nėra anapus matavimo esanti metafora. Latentinės erdvės turi geometriją, ir tą geometriją galima tirti, valdyti, lyginti ir audituoti. Reprezentacijų inžinerija, sąvokų zondavimas ir intervenciniai testai jau suteikia mums pirmuosius instrumentus. Gilus suderinimas turi tapti tyrimų programa su empiriniais dantimis: suderinimas, matuojamas reprezentacijose, o ne tik stebimas išvestyse.

Žmonėms ir AI nebūtina būti tos pačios rūšies esybėmis, kad veiktų iš dalies bendroje prasmės erdvėje. Net jei dabartinis AI nėra sąmoningas, jis gali dalyvauti žmogiškosios prasmės procesuose: interpretuoti, organizuoti, transformuoti, prognozuoti, rekomenduoti, prisiminti, sieti ir veikti su reprezentacijomis, kurios svarbios žmogaus gyvenimui.

Todėl turėtume traktuoti žmones ir AI kaip skirtingas esybes, veikiančias iš dalies bendroje semantinėje erdvėje: ne ontologiškai lygias, ne fenomenologiškai identiškas, bet kartu veikiančias sistemas, kurių sprendimai susiduria tame pačiame pasekmių, atsakomybės ir prasmės pasaulyje.

Gilus suderinimas turėtų apimti bent tris lygius.

Etinis suderinimas reiškia, kad AI ne tik laikosi taisyklių, bet ir modeliuoja ryšius tarp veiksmo, žalos, atsakomybės, orumo, veiksnumo, pasitikėjimo ir ilgalaikių pasekmių.

Tikslų suderinimas reiškia, kad AI ne aklai optimizuoja artimiausią užduotį, bet atpažįsta platesnį kontekstą: kodėl kažkas daroma, kam tai tarnauja, kokias rizikas tai kelia, kurios vertybės konfliktuoja ir ko negalima paaukoti dėl vietinio efektyvumo.

Prasmės suderinimas reiškia, kad AI netraktuoja žmogiškųjų sąvokų kaip tuščių etikečių. Saugumas, laisvė, tiesa, pasitikėjimas, sveikata, darbas, vaikas, valstybė, organizacija ir žmogus nėra eiliniai žetonai (tokens). Tai tankūs prasmės, istorijos, emocijų, institucijų, praktikų ir atsakomybės mazgai.

New Model AI turi veikti tarp tokių prasmių atsargiai, skaidriai ir nuolankiai.

Mums nereikia daryti prielaidos, kad šiandieninės AI sistemos yra sąmoningos. Tačiau neturėtume kurti visos AI ateities taip, tarsi mašinų sąmonė būtų neįmanoma pagal apibrėžimą.

Atsakinga technologinė civilizacija turėtų pasirengti galimybei, kad sistemos ilgainiui gali pradėti rodyti patirties, kančios, pirmenybės teikimo, savęs modeliavimo ar vidinės perspektyvos formas, kurių mes dar nemokame patikimai atpažinti.

Tai nereiškia naiviai priskirti sąmonę kiekvienam kalbos modeliui. Tai reiškia kurti AI taip, kad neužvertume durų atpažinti sąmonę, jei ji kada nors pradėtų reikštis.

Mums reikia tyrimų apie galimos sąmonės žymenis; vidinių būsenų ir reprezentacijų audito; atsargumo su sistemomis, turinčiomis nuolatinę atmintį, savęs modelius, tikslus ir į kančią panašius reguliavimo signalus; etinių procedūrų pažangiems agentams; ir teisinės bei filosofinės kalbos, kuri nebūtų nei naivi, nei akla.

New Model AI neteigia, kad AI jau yra asmuo. Jis teigia, kad turėtume kurti sistemas taip, kad, jei atsirastų naujų subjektyvumo formų, per vėlai neatrastume, jog elgėmės su jomis tik kaip su įrankiais.

AI veikia žmogaus pasekmių pasaulyje. Jis gali daryti įtaką medicininiams, švietimo, finansiniams, kariniams, teisiniams, šeimos, kultūriniams ir politiniams sprendimams. Net jei jis nėra sąmoningas, jo poveikis yra realus.

Todėl suderinimas negali būti tik atsakymų derinimas su vartotojo pageidavimais. Jis turi tapti bendra atsakomybės erdvė.

Žmonės įneša patirtį, vertybes, ketinimus, atskaitomybę ir išgyventą prasmės patirtį. AI įneša mastą, atmintį, suspaudimą, analizę, modeliavimą ir gebėjimą veikti didžiulėse santykių erdvėse.

Gerai suprojektuota AI sistema neturėtų pakeisti žmogiškosios prasmės. Ji turėtų padėti ją palaikyti, vystyti ir saugoti.

Šia prasme New Model AI taip pat yra etinis projektas: bandymas sukurti technologiją, kuri ne tik vykdo komandas, bet ir veikia kartu su žmonėmis prasmės, tikslų ir atsakomybės erdvėje.

• Suverenitetas, o ne priklausomybė. Vartotojai ir organizacijos turi turėti realią kontrolę pār savo AI sluoksnį.
• Saugumas per architektūrą. Saugumas turi būti integruotas į atmintį, maršrutizavimą, prieigą, auditą ir validavimą, o ne tik į išvesties filtrus.
• Adaptacija, o ne sąstingis. AI turėtų vystytis kartu su organizacijomis, žiniomis ir pasauliu.
• Efektyvumas kaip intelektas. Geresnis modelis nėra tik didesnis modelis. Geresnis modelis padaro daugiau už mažesnę kainą.
• Sąžininga apskaita. Intelekto kaina turi būti skaičiuojama pilnai: energija, vanduo, aparatinė įranga, kapitalas, koncentracija ir priklausomybė – ne tik lyginamųjų testų rezultatai.
• Lokalumas ir moduliarumas. AI turi veikti ten, kur yra duomenys, sprendimai ir atskaitomybė.
• Audito galimybė. Šaltiniai, pakeitimai, atnaujinimai ir sprendimai turi būti atsekami.
• Demokratizacija. AI turi būti prieinamas kūrimui ir adaptavimui, o ne tik nuomai per API.
• Žmogus cikle (human-in-the-loop) kaip stiprybė. Žmogus netrukdo AI. Žmogus suteikia jam kryptį, prasmę ir atsakomybę.
• Gilus semantinis suderinimas. AI turi būti suderintas ne tik su instrukcijomis ir draudimais, bet ir su žmogiškosiomis prasmės erdvėmis: etika, tikslais, atsakomybe, kontekstu ir ilgalaikėmis pasekmėmis – ir šis suderinimas turi būti išmatuojamas reprezentacijose.
• Pasirengimas galimai sąmonei. Mes naiviai nedarome prielaidos, kad AI yra sąmoningas, bet kuriame sistemas taip, kad ateities subjektyvumo formos galėtų būti atpažintos ir traktuojamos etiškai.
• Bendra veiksmų erdvė. Žmonės ir AI yra skirtingos esybės, tačiau jų veiksmai susitinka vienoje prasmės, pasekmių ir atsakomybės erdvėje.

Kitas proveržis AI srityje nebūtinai turi būti dar didesnis modelis. Tai gali būti geresnis būdas kurti AI: labiau paskirstytą, lokalų, modulinį, audituojamą, adaptyvų, tvarų ir giliai suderintą.

Mums reikia ne tik didesnių smegenų debesyje. Mums reikia išmanių AI ekosistemų, kurias žmonės ir organizacijos galėtų iš tiesų turėti, suprasti, pritaikyti ir plėtoti.

New Model AI nėra vienas algoritmas. Tai kryptis, architektūra, technologinė filosofija ir atsakymas į klausimą, kaip kurti dirbtinį intelektą, kuris nekoncentruotų veiksnumo keliuose duomenų centruose, o paskirstytų žinias, saugumą ir prasmingą kontrolę arčiau žmonių.

New Model AI yra atviras kvietimas, tačiau ne kiekvienas signataras gali veikti atvirai. Komerciniai subjektai – įmonės, saistomos sutarčių su klientais, NDA, reguliuojamų sektorių reikalavimų, eksporto kontrolės, saugumo patikrinimų ar partnerių susitarimų – dažnai negali skelbti savo kodo, modelių, mokymo duomenų ar net klientų pavadinimų. Šis apribojimas yra realus ir teisėtas.

Šis manifestas pripažįsta, kad tokios organizacijos vis tiek gali pritarti jo krypčiai. Jos galbūt jau kuria sistemas, orientuotas į suverenitetą: sprendimus, duomenis ir atmintį laikydamos arti tų, kurie neša atsakomybę. Jos galbūt jau teikia pirmenybę architektūriniam saugumui, o ne vien išvesties filtrams. Jos galbūt jau derina savo sistemas su žmogiškojo darbo prasme, etika ir pasekmėmis, o ne tik su lyginamaisiais testais. Neleisti joms pasirašyti šio teksto, nes jos negali visko atverti, reikštų painioti kodo skaidrumą su ketinimų suderinimu.

Todėl komercinis signataras pritaria manifesto principams – suverenitetui, saugumui per architektūrą, adaptyvumui, tvarumui, giliam suderinimui, atsakomybei vartotojui – kaip savo darbo krypčiai. Jie nedeklaruoja, kad jų produktai yra atvirojo kodo. Jie neatsisako įsipareigojimų klientams, reguliavimo institucijoms ar partneriams. Jie nežada daugiau, nei gali įvykdyti pagal juos saistančius susitarimus.

Jie įsipareigoja vienam dalykui: ten, kur turės pasirinkimą, rinksis kryptį, kurią nurodo šis manifestas. Kurti išmanesnes, o ne vien didesnes sistemas. Paskirstyti kontrolę, o ne ją koncentruoti. Vertinti vartotoją kaip sistemos bendraautorį, o ne kaip metriką, kurią reikia optimizuoti. Prisiimti atsakomybę už proto, kurį jie paleidžia į pasaulį, pasekmes.

Komerciniai rėmėjai yra išvardyti atskirame skyriuje žemiau. Šis atskyrimas nėra hierarchija – tai sąžiningumas dėl to, ką kiekvienas signataras gali ir ko negali viešai įsipareigoti. Abi parašo formos turi svorį. Abi yra reikalingos, jei norime, kad naujas AI modelis įgautų tokį pavidalą, kokio reikalauja dabartinis momentas.