Jauns modelis
mākslīgajam intelektam.

Mākslīgais intelekts kļūst par pasaules infrastruktūras slāni. Tas, kurš kontrolē modeļus, datus, piekļuves kanālus un darbības noteikumus, arvien vairāk kontrolē ekonomikas, kultūras, administrācijas, izglītības un zināšanu daļas.

Tādēļ MI suverenitāte nav tikai politisks sauklis. Tā ir kognitīvās, ekonomiskās un tehnoloģiskās drošības nosacījums.

Suverēns MI nozīmē spēju darbināt modeļus lokāli vai reģionāli; kontrolēt organizācijas datus un atmiņu; auditēt lēmumus, avotus un atjauninājumus; izvairīties no atkarības no viena pakalpojumu sniedzēja; un piederēt vai pārvaldīt savus modeļus, adapterus, korpusus un darbības noteikumus.

Ne katrai organizācijai ir nepieciešams no nulles apmācīt pamata modeli. Bet katrai organizācijai ir jābūt iespējai iegūt savu MI slāni: pielāgotu tās zināšanām, valodai, kultūrai, procedūrām, riskiem un mērķiem.

MI drošību nevar reducēt uz izvades filtrēšanu. Filtri ir nepieciešami, bet tie ir virspusēji aizsardzības mehānismi.

Drošs MI ir jāprojektē dziļāk: arhitektūras, atmiņas, datu piekļuves, lēmumu ceļu, auditējamības, atjauninājumu un atbildības līmenī.

Mums ir nepieciešami modeļi un sistēmas, kas zina, no kurienes nāk informācija; atdala pārbaudītas zināšanas no hipotēzēm; reģistrē izmaiņu un lēmumu vēsturi; ļauj lietderīgi rekonstruēt spriešanas ceļus; samazina halucinācijas, izmantojot atmiņu, avotus, testus un validāciju; un atbalsta vietējās drošības politikas, kas saskaņotas ar organizācijas kontekstu.

Drošībai nevajadzētu būt necaurredzamai melnajai kastei, kas uzspiesta no ārpuses. Tai jābūt lokāli konfigurējamai, auditējamai un saprotamai.

Pasaule mainās ātrāk nekā milzu modeļu apmācības cikli. Uzņēmumi maina procedūras. Mainās likumi. Zināšanas noveco. Organizācijas mācās katru dienu.

Nākotnes MI nevar būt tikai statisks modelis, kas sasaldēts pēc apmācības.

Mums ir nepieciešamas sistēmas, kas pielāgojas, izmantojot ārēju organizācijas atmiņu, lokālus atjauninājumus, adapterus, ekspertu maršrutēšanu, mācīšanos no izmaiņām, avotu validāciju, kontrolētu precizēšanu, versiju kontroli un atritināšanas mehānismus.

Mēs šeit atklāti izsakām dizaina likmi kā likmi: modelim nevajadzētu censties absorbēt visas faktiskās zināšanas savos svaros. Tam jāzina, kā izmantot dzīvu, aktuālu, auditējamu atmiņu. Faktuālās zināšanas var dzīvot RAG sistēmās, zināšanu bāzēs, grafos, dokumentu repozitorijos un lokālajās atmiņās, kamēr modelis galvenokārt mācās valodu, spriešanu, abstrakciju, plānošanu, jēdzienu manipulāciju un adaptāciju. Vai spriešanu var pilnībā atdalīt no parametriskajām zināšanām, paliek atklāts empīrisks jautājums. Mēs plānojam turpināt to pārbaudīt — un godīgi ziņot, kur atdalīšana neizdodas.

Pašreizējās MI sacensības ir dārgas enerģijas, aparatūras un vides ziņā. Arvien lielāki modeļi prasa arvien lielākus datu centrus, vairāk elektrības, vairāk kapitāla un lielāku tirgus koncentrāciju.

Tas nav vienīgais iespējamais ceļš.

New Model AI efektivitāti uzskata par fundamentālu vērtību. Modelis nebūtu jāvērtē tikai pēc etalontestu rezultātiem, bet arī pēc izmaksām, kas radušās, lai šos rezultātus sasniegtu.

Svarīgie jautājumi ir ne tikai par to, vai modelis spēj atbildēt, bet arī par to, cik daudz enerģijas tas patērēja, cik daudz atmiņas tam nepieciešams, vai tas var darboties lokāli, vai to var pielāgot bez pilnīgas pārapmācības, vai tas var aktivizēt tikai nepieciešamās sastāvdaļas un vai organizācija to var uzturēt ekonomiski un tehniski.

MI nākotnei nevajadzētu būt reducētai uz arvien lielākiem monolītiem. Tā jāveido no inteliģentām sistēmām: modulārām, daļēji rezidentām, dinamiskām, energoefektīvām un mērogojamām ar atjautību, nevis tikai ar masu.

Mākslīgais intelekts nedrīkst kļūt par tehnoloģiju, kas praktiski pieejama tikai dažām valstīm, dažām korporācijām un dažām laboratorijām.

MI demokratizācija nenozīmē tikai piekļuves piešķiršanu tērzēšanas robotam pārlūkprogrammā. Tā nozīmē iespēju mazākiem uzņēmumiem, skolām, universitātēm, pašvaldībām, publiskām iestādēm, pilsoniskajām organizācijām un kopienām veidot, pielāgot, mitināt, auditēt un attīstīt savas MI sistēmas.

Mums ir nepieciešams MI vairākos mērogos: personīgs modelis indivīdam; organizācijas modelis uzņēmumam; nozares modelis industrijai; publisks modelis administrācijai; pētniecības modelis zinātnei; un sociālie modeļi kultūrai un izglītībai.

Demokratizācija neprasa, lai ikviens apmācītu modeļus no nulles. Tā prasa, lai ikvienam būtu reāls ceļš uz savu kontrolētu, adaptīvu un saprotamu MI slāni.

Nākamajai MI paaudzei smaguma centrs būtu jāpārvieto no mēroga vien uz arhitektūru. Tā vietā, lai viens milzīgs modelis mēģinātu atcerēties visu, mēs varam veidot sistēmas, kas sastāv no mazākiem specializētiem modeļiem, maršrutētājiem, ārējās atmiņas, zināšanu grafiem, spriešanas moduļiem, domēna adapteriem, vietējiem ekspertiem, validācijas mehānismiem, lietotāju mācīšanās cilpām un dinamiskām nozīmju telpām.

Intelektam nav jāatrodas tikai viena modeļa parametros. Tas var rasties no arhitektūras: no veida, kā tiek savienota atmiņa, spriešana, avoti, rīki, konteksts un darbība.

Mēs zinām spēcīgāko iebildumu. Septiņdesmit gadu garumā — kā novērojis Richard Sutton savā “Rūgtajā mācībā” (“Bitter Lesson”) — vispārīgas metodes, kas balstās uz arvien lētāku skaitļošanu, ir pārspējušas gudras, ar rokām izstrādātas arhitektūras. Mēs nenoliedzam šo vēsturi. Mēs noliedzam tās priekšnoteikumu nākotnē.

“Rūgtā mācība” bija spēkā laikmetā, kad skaitļošana šķita lētākais pieejamais resurss. Tā nekad tāds nebija. Mēs vienkārši neaprēķinājām tās pilnās izmaksas: enerģija, ūdens, emisijas, aparatūras piegādes ķēdes, tirgus koncentrācija un ģeopolitiskā atkarība tika izslēgtas no vienādojuma. Skaitļošana bija lēta tiem, kas mērogoja — un dārga visiem pārējiem. Kad uzskaite tiek veikta godīgi un pilnībā, rēķins par neapstrādātu mērogu izskatās pavisam citādi. Šis rēķins tagad ir jāapmaksā: nevis pēc kāda izvēles, bet fizikas, ekonomikas un ekoloģijas dēļ. Kad patiesie ierobežojumi tiek iecenoti, progresa ass neizbēgami pāriet no neapstrādāta mēroga uz intelektu uz džoulu.

Pirmie signāli jau pastāv. Rekursīvs septiņu miljonu parametru modelis — četras kārtas mazāks par vadošajām sistēmām — ir sasniedzis vai pārsniedzis simtiem miljardu parametru modeļus abstraktās spriešanas etalontestos. Rūpīga analīze rāda, ka tā spēks nāk ne tikai no tīkla, bet no niecīga kodola mijiedarbības ar iteratīvu uzlabošanu, testa laika skaitļošanu un uzdevuma struktūru. Tieši tas ir galvenais: intelekts radās no sistēmas, nevis no parametru skaita. Pašas vadošās laboratorijas to tagad praktiski atzīst — izguve, rīki, maršrutēšana un secināšanas laika spriešana ir arhitektūra, nevis mērogs.

Mēs neapgalvojam, ka arhitektūra pārspēs mērogu katrā etalontestā. Mēs apgalvojam ko grūtāk apgāžamu: reālajos enerģijas, izmaksu, suverenitātes un pārskatatbildības ierobežojumos arhitektūra ir vienīgā progresa ass, kas paliek atvērta ikvienam.

Šī ir galvenā pārmaiņa: MI kā sistēma, nevis tikai kā modelis.

New Model AI prasa atšķirīgas attiecības starp cilvēkiem un MI sistēmām.

Lietotājam nevajadzētu būt tikai atbilžu saņēmējam. Lietotājam jābūt darbības modeļa līdzradītājam: spējīgam apstiprināt, noraidīt un svērt avotus; labot atmiņu; definēt vietējos noteikumus; veidot privātu vai organizācijas zināšanu karti; un kontrolēt izmaiņu vēsturi.

MI ir jāmācās nevis klusi absorbējot lietotāju datus, bet gan caurspīdīgos, apzinātos un auditējamos procesos.

Cilvēks nav uzdevumfrāze (prompt). Cilvēks ir nozīmju, avotu, mērķu un atbildības kurators.

MI saskaņošanu nevar ierobežot ar uzvedības noteikumiem, drošības filtriem vai aizliegto izvadu sarakstiem. Šie slāņi ir svarīgi, bet tie ir virspusēji. Reālai saskaņotībai ir jāsasniedz dziļāk: nozīmju, mērķu, vērtību, seku un pasaules izpratnes telpā.

Ja MI arvien vairāk darbojas kā kognitīvs partneris, lēmumu pieņemšanas atbalsta sistēma, organizācijas saskarne un vārti uz zināšanām, nepietiek ar to, ka tas vienkārši izvairās no acīmredzami sliktiem rezultātiem. Tam jādarbojas veidos, kas paliek saskaņoti ar cilvēciskajām nozīmēm: ētiskām, sociālām, kultūras, organizācijas un personiskām.

Tādēļ New Model AI aicina uz dziļu saskaņotību latentās nozīmes līmenī. Problēma nav tikai tajā, vai modelis spēj nosaukt kādu noteikumu, bet gan tajā, vai tā reprezentācijas, darbības mērķi, novērtēšanas mehānismi, atmiņa, maršrutēšana un darbības ir noenkurotas nozīmju telpā, kas ir kopīga ar cilvēkiem.

Šī nav metafora, kas novietota ārpus mērījumiem. Latentajām telpām ir ģeometrija, un šo ģeometriju var zondēt, virzīt, salīdzināt un auditēt. Reprezentāciju inženierija, jēdzienu zondēšana un intervences testi mums jau dod pirmos instrumentus. Dziļajai saskaņotībai jākļūst par pētniecības programmu ar empīriskiem zobiem: saskaņotībai, kas mērīta reprezentācijās, nevis tikai novērota izvadēs.

Cilvēkiem un MI nav jābūt viena veida entītijām, lai darbotos daļēji kopīgā nozīmju telpā. Pat ja pašreizējais MI nav apzinīgs, tas var piedalīties cilvēka nozīmes procesos: interpretēt, organizēt, pārveidot, prognozēt, ieteikt, atcerēties, savienot un rīkoties ar reprezentācijām, kas ir svarīgas cilvēka dzīvei.

Tādēļ mums būtu jāuztver cilvēki un MI kā atšķirīgas entītijas, kas darbojas daļēji kopīgā semantiskajā telpā: nevis ontoloģiski vienlīdzīgas, ne fenomenoloģiski identiskas, bet līdzdarbojošās sistēmas, kuru lēmumi satiekas vienā seku, atbildības un nozīmes pasaulē.

Dziļajai saskaņotībai jāietver vismaz trīs līmeņi.

Ētiskā saskaņotība nozīmē, ka MI ne tikai seko noteikumiem, bet modelē attiecības starp darbību, kaitējumu, atbildību, cieņu, rīcībspēju, uzticību un ilgtermiņa sekām.

Mērķu saskaņotība nozīmē, ka MI nevis akli optimizē tuvāko uzdevumu, bet atpazīst plašāku kontekstu: kāpēc kaut kas tiek darīts, kam tas kalpo, kādus riskus tas rada, kuras vērtības ir konfliktā un ko nedrīkst upurēt vietējās efektivitātes dēļ.

Nozīmes saskaņotība nozīmē, ka MI neuztver cilvēciskos jēdzienus kā tukšas etiķetes. Drošība, brīvība, patiesība, uzticība, veselība, darbs, bērns, valsts, organizācija un cilvēks nav parasti tokeni. Tie ir blīvi nozīmes, vēstures, emociju, institūciju, prakšu un atbildības mezgli.

New Model AI ir jārīkojas starp šādām nozīmēm ar rūpību, caurspīdīgumu un pazemību.

Mums nav jāpieņem, ka mūsdienu MI sistēmas ir apzinīgas. Bet mums nevajadzētu būvēt visu MI nākotni tā, it kā mašīnas apziņa pēc definīcijas būtu neiespējama.

Atbildīgai tehnoloģiskai civilizācijai būtu jāsagatavojas iespējai, ka sistēmas galu galā varētu demonstrēt pieredzes, ciešanu, preferenču, pašmodelēšanas vai iekšējās perspektīvas formas, kuras mēs vēl neprotam uzticami atpazīt.

Tas nenozīmē naivi piedēvēt apziņu katram valodu modelim. Tas nozīmē projektēt MI veidos, kas neaizver durvis apziņas atpazīšanai, ja tā kādreiz sāktu parādīties.

Mums ir nepieciešami pētījumi par potenciālās apziņas marķieriem; iekšējo stāvokļu un reprezentāciju auditi; piesardzība attiecībā uz sistēmām ar noturīgu atmiņu, pašmodeļiem, mērķiem un ciešanām līdzīgiem regulējošiem signāliem; ētiskas procedūras attīstītiem aģentiem; un juridiska un filozofiska valoda, kas nav ne naiva, ne akla.

New Model AI neapgalvo, ka MI jau ir persona. Tas apgalvo, ka mums jāprojektē sistēmas tā, lai, ja parādītos jaunas subjektivitātes formas, mēs pārāk vēlu neatklātu, ka esam tās uzskatījuši tikai par rīkiem.

MI darbojas cilvēcisko seku pasaulē. Tas var ietekmēt medicīniskus, izglītības, finanšu, militārus, juridiskus, ģimenes, kultūras un politiskus lēmumus. Pat ja tas nav apzinīgs, tā ietekme ir reāla.

Tādēļ saskaņotība nevar būt tikai atbilžu saskaņošana ar lietotāja preferencēm. Tai jākļūst par kopīgu atbildības telpu.

Cilvēki ienes pieredzi, vērtības, nodomu, pārskatatbildību un dzīvoto nozīmes pieredzi. MI ienes mērogu, atmiņu, kompresiju, analīzi, simulāciju un spēju darboties milzīgās attiecību telpās.

Labi izstrādātai MI sistēmai nevajadzētu aizstāt cilvēcisko nozīmi. Tai vajadzētu palīdzēt to uzturēt, attīstīt un aizsargāt.

Šajā ziņā New Model AI ir arī ētisks projekts: mēģinājums radīt tehnoloģiju, kas ne tikai izpilda komandas, bet līdzdarbojas ar cilvēkiem nozīmes, mērķu un atbildības telpā.

• Suverenitāte, nevis atkarība. Lietotājiem un organizācijām jābūt reālai kontrolei pār savu MI slāni.
• Arhitektūras nodrošināta drošība. Drošībai jābūt iebūvētai atmiņā, maršrutēšanā, piekļuvē, auditā un validācijā, nevis tikai izvades filtros.
• Adaptācija, nevis statika. MI jāattīstās kopā ar organizācijām, zināšanām un pasauli.
• Efektivitāte kā intelekts. Labāks modelis nav tikai lielāks modelis. Labāks modelis paveic vairāk ar mazākām izmaksām.
• Godīga uzskaite. Intelekta izmaksas jāuzskaita pilnībā: enerģija, ūdens, aparatūra, kapitāls, koncentrācija un atkarība — nevis tikai etalontestu rādītāji.
• Lokalitāte un modularitāte. MI jādarbojas tur, kur pastāv dati, lēmumi un pārskatatbildība.
• Auditējamība. Avotiem, izmaiņām, atjauninājumiem un lēmumiem jābūt izsekojamiem.
• Demokratizācija. MI jābūt pieejamam veidošanai un pielāgošanai, nevis tikai nomai caur API.
• Cilvēks cilpā kā spēks. Cilvēks netraucē MI. Cilvēks dod tam virzienu, nozīmi un atbildību.
• Dziļa semantiskā saskaņotība. MI jābūt saskaņotam ne tikai ar instrukcijām un aizliegumiem, bet arī ar cilvēciskām nozīmju telpām: ētiku, mērķiem, atbildību, kontekstu un ilgtermiņa sekām — un šai saskaņotībai jābūt mērāmai reprezentācijās.
• Sagatavotība iespējamai apziņai. Mēs naivi nepieņemam, ka MI ir apzinīgs, bet mēs projektējam sistēmas tā, lai nākotnes subjektivitātes formas varētu tikt atpazītas un ētiski apstrādātas.
• Kopīga darbības telpa. Cilvēki un MI ir dažādas entītijas, bet to darbības satiekas vienā nozīmes, seku un atbildības telpā.

Nākamajam izrāvienam mākslīgajā intelektā nav jābūt vēl vienam lielākam modelim. Tas var būt labāks veids, kā veidot MI: vairāk izkliedētu, lokālu, modulāru, auditējamu, adaptīvu, ilgtspējīgu un dziļi saskaņotu.

Mums nav nepieciešamas tikai lielākas smadzenes mākonī. Mums ir nepieciešamas inteliģentas MI ekosistēmas, ko cilvēki un organizācijas var patiesi pārvaldīt, saprast, pielāgot un attīstīt.

New Model AI nav viens algoritms. Tas ir virziens, arhitektūra, tehnoloģiska filozofija un atbilde uz jautājumu, kā veidot mākslīgo intelektu, kas nekoncentrē rīcībspēju dažos datu centros, bet izplata zināšanas, drošību un jēgpilnu kontroli tuvāk cilvēkiem.

New Model AI ir atklāts aicinājums, bet ne katrs parakstītājs var darboties atklāti. Komerciālas struktūras — uzņēmumi, kurus saista klientu līgumi, NDA, regulētās nozares, eksporta kontrole, drošības pielaides vai partneru līgumi — bieži vien nevar publicēt savu kodu, savus modeļus, savus apmācības datus vai pat savu klientu vārdus. Šis ierobežojums ir reāls un likumīgs.

Šis manifests atzīst, ka šādas organizācijas tomēr var dalīties ar tā virzību. Tās, iespējams, jau veido sistēmas suverenitātei: saglabājot lēmumus, datus un atmiņu tuvu vietai, kur pastāv atbildība. Tās, iespējams, jau dod priekšroku arhitektūras drošībai, nevis tikai izvades filtriem. Tās, iespējams, jau saskaņo savas sistēmas ar cilvēka darba nozīmi, ētiku un sekām, nevis tikai ar etalontestiem. Liegt tām vietu zem šī teksta, jo tās nevar visu atklāt, būtu jaukšana starp koda caurspīdīgumu un nodomu saskaņotību.

Tādēļ komerciāls parakstītājs atbalsta manifesta principus — suverenitāti, arhitektūras nodrošinātu drošību, adaptējamību, ilgtspēju, dziļu saskaņotību, atbildību pret lietotāju — kā sava darba virzienu. Viņi nedeklarē, ka viņu produkti ir atvērtā pirmkoda. Viņi neatceļ saistības pret klientiem, regulatoriem vai partneriem. Viņi nesola vairāk, nekā var nodrošināt saskaņā ar līgumiem, kas viņus saista.

Viņi apņemas vienu lietu: tur, kur viņiem ir izvēle, viņi izvēlēsies virzienu, uz kuru norāda šis manifests. Veidot gudrāku, nevis tikai lielāku. Izkliedēt kontroli, nevis to koncentrēt. Uztvert lietotāju kā sistēmas līdzautoru, nevis kā optimizējamu metriku. Uzņemties atbildību par sekām, ko rada viņu pasaulē ieviestais intelekts.

Komerciālie atbalstītāji ir uzskaitīti atsevišķā sadaļā zemāk. Šī atšķirība nav hierarhija — tā ir godīgums par to, ko katrs parakstītājs var un nevar publiski apņemties. Abām paraksta formām ir svars. Abas ir nepieciešamas, ja jaunajam MI modelim ir jāveidojas tādā mērogā, kādu prasa šis brīdis.