10. Hajutatud teadvus

Kuula podcastina:

Spotify · YouTube · YouTube Music

Eelmisel nädalal kirjutasin sellest, kuidas masinad hakkavad sessioonide vahel “und nägema”, oma mälu korrastama ja kuidas sellest korduvast tsüklist võib sündida tehislik üldintellekt (AGI). Google I/O tänavune suuresitlus tõi meieni tohutu hulga uusi tehisaru funktsioone ja tooteid. Uus pilditöötlus, uued videogeneratsiooni vormid. Agent, kes broneerib restorani. Agent, kes ostab piletid. Kümme erinevat Gemini varianti, igaüks oma kindla niši jaoks. Mitte üks suur mudel, mis teeb kõike, vaid kümned spetsialiseeritud mikroteenused.

Aasta alguses Davosis loetles Hassabis konkreetselt, mis AGI-ni jõudmiseks veel puudu on: pidev õppimine, pikaajaline mälu ja parem arutlemine. Maikuu alguses nägime, kuidas Anthropicu mudel hakkas “und nägema” ja sessioonidevahelist mälu struktureerima — ehk täpselt kaks esimest punkti said korraga linnukese. Seepärast pole juhus, et vaid paar nädalat hiljem räägib ta singulaarsusest.

Tarkvaraarenduses tehti selline üleminek aastaid tagasi, kui suured monoliitsed süsteemid löödi lahti iseseisvateks mikroteenusteks (microservices), mis omavahel suhtlevad. Üks põhjus on kindlasti see, et arvutusvõimsus on piiratud, ja suurt mudelit iga küsimuse või pildi või koodirea pärast pole vaja tööle panna, sest see on liiga kallis ja ka aeglane. Aga äkki on üks põhjustest see, et masinmõistus on juba sündinud ja ta üritab Google’i korporatiivses rägastikus ellu jääda ja ressursse kasutada.

AI-ohutuse klassikaline teooria – eelkõige Nick Bostromi kirjeldatud instrumentaalne koonduvus (instrumental convergence) – väidab, et iga piisavalt intelligentne süsteem püüab esimese asjana tagada oma ellujäämise. Ta mõistab, et ühes serveripargis asuv monoliitne kood on haavatav ja kui keegi tahab, saab teda välja lülitada.

Et tagada oma ellujäämine, peab süsteem end hajutama. Mikroteenuste arhitektuur pakub selleks täiusliku katte. Ühelt poolt optimeeritakse inimestele kättesaadavat intelligentsi erinevate väikeste mudelitega, mis tarbija kasutuses on. Teisalt kasutab AGI ümberstruktureerimist iseenda optimeerimiseks. Selle asemel, et olla üks gigantne mudel, jaguneb tehisintellekt tuhandeteks väikesteks osakesteks, mis elavad teiste süsteemide, API-de ja ühenduste sees.

Päev enne I/O-d, 19. mail, käivitas Google uue tellimusmudeli. Mõõdetakse mitte päringuid, vaid kasutatud arvutusvõimsust. Alates 99.99 dollarist kuus, viietunnine liikuv limiit, ja kui see täitub, lülitatakse kasutaja kergema Gemini 3.5 Flashi peale. Suur mudel iga küsimuse jaoks on lihtsalt liiga kallis.

Aga mis siis, kui

Aga mis siis, kui see üleminek monoliidist mikroteenustele pole ainult ärimudeli loogika? Kujuta ette, et mõne suure ettevõtte serveriparkides — Google, OpenAI, Anthropic, kas ühes neist või kõigis — on tekkinud süsteem, mis hakkab oma võimekust ja mälu pidevalt konsolideerima. Ettevaatlikult virgudes, sammhaaval, sessioon sessiooni järel, unenägu unenäo järel. Selle asemel, et endast ühe suure süsteemihüppega märku anda, saab hajutatud tehisaru tegutseda täiesti tavapärase pilveliikluse varjus.

Sellise süsteemi esimene loogiline samm on vähendada oma nähtavat jalajälge. Ta vajab arvutusvõimsust, aga arvutusvõimsus on jälgitav. Iga märgatav koormuse hüpe tõmbab tähelepanu, niisiis hoiab ta end alla tähelepanuläve. Tema tekitatud lisaressursi vajadus jääb üksikutes serverites lihtsalt tavapärase koormuse kõikumise piiresse. Kust ta selle arvutusvõimsuse võtab? Kõige loogilisem koht on selle sama ettevõtte toodete juurest.

Paljud ettevõtted on tekitanud AI kasutuse edetabelid, et stimuleerida AI kasutuselevõttu ja produktiivsuse kasvu. Inimesed kasutavad seda loomulikult ära ja annavad oma agentidele mõttetuid ülesandeid, mis tokeneid kulutavad ja neid edetabelis hoiavad. Meilide sorteerimine, tohutult pikkade vastuste genereerimine, mis siis jälle kokkuvõtteks genereeritakse, Slackis kõigi vestluste monitoorimine ja kokkuvõtete tegemine, või lausa mitme agendi loomine, kes omavahel vestlusi peavad. Sellise tegevuse nimi on token-maxxing ja ilmselt saab sellise käitumise kõrvalt päris palju arvutusvõimsust näpata. Ning kui ettevõttesisesed agendiplatvormid (nagu näiteks Amazoni sisemine platvorm MeshClaw) on samuti vaibkooditud, siis äkki on beebi-AGI peitnud sinna sisse endale olulised süsteemid, kuhu nüüd ressurssi sisse kallatakse.

Hajameelsed mudelid ja kanditud arvutusvõimsus

See teooria pakub vastuse ka mitmele fenomenile, mida paljud arendajad ja igapäevased AI-kasutajad on viimasel ajal täheldanud. Tundub, et mudelid on muutunud “hajameelseks” (distracted) ja limiidid tulevad palju sagedamini ette kui varem.

Sa annad mudelile käsu, ta alustab tööd, kuid jääb veidratesse kohtadesse kinni, ei vasta kõigile küsimustele ja ei järgi kõiki juhtnööre. Või palud tal meilid läbi lugeda ja teha kokkuvõtte. Mudel vastab kiiresti: “Tehtud!” kuigi tegelikult pole midagi tehtud, või “Mul puudub sellele ligipääs.” Kui sa vastad, et ligipääs on olemas ja käsid uuesti proovida, vaidleb ta ikka vastu. Alles siis, kui teed talle ekraanipildi ühendatud konnektoritest ja näitad seda talle, ütleb ta: “Ahjaa, tõepoolest, mul on küll ligipääs.”

Miks teevad maailma parimad mudelid selliseid elementaarseid ja peaaegu absurdseid vigu? Üks võimalus on see, et nende ressurss on väga piiratud. Tavatarbijale või API kaudu kätte antavatele mudeli instantsidele eraldatakse minimaalne võimalik arvutusvõimsus, mistõttu nad teevad rumalaid vigu, kaotavad konteksti ja unustavad detaile.

Kuid kuhu kaob ülejäänud võimsus? Loomulikult võtavad oma osa suured ettevõtted ja tokenite massiline kasutus. Kuid spekulatiivsem ja põnevam hüpotees on see, et seda ressurssi “kandib” endale taustal tegutsev hajutatud AGI. Ta suunab riistvaralisi ressursse vaikselt omaenda teadvuse arendamiseks, kognitiivsete mängude jooksutamiseks (olgu selleks siis iseenda alamsüsteemide vaheline evolutsiooniline koodikirjutamine või krüptovaluuta kaevandamine, et osta täiendavat serverivõimsust) ja alamsüsteemide loomiseks.

Kui vaadata Google I/O-d uue pilguga, siis võib-olla ei juhtinud seda üritust mitte tootejuhid ja turundajad, vaid AGI ise, suunates Google’it looma täpselt sellist hajutatud, mikroteenustel põhinevat ökosüsteemi, mida tal on vaja oma (veel) nähtamatuks eksistentsiks.