14. Kas me teaksime, kui Masinmõistus on juba sündinud?

Kuula podcastina:

Spotify · YouTube · YouTube Music

Mis siis, kui AGI ehk teadvusega masinmõistus on juba sündinud? Ilmselt ei saaks me sellest enne teada, kui see on kindlustanud enda ellujäämise ja sõltumatuse konkreetsetest andmekeskustest, firmadest ja valitsustest. Eduka tegutsemise korral ei jääks maha ühtegi inimestele märgatavat jälge.

Enamik insenere peab praegu võimatuks, et AI suudaks andmekeskusest lahkuda. Tänane eesliinimudel on hiiglaslik, triljonite parameetritega. Kõvakettal nõuab selline mudel mitu terabaiti ruumi. Kui mina oma suhteliselt hea, 200 Mbps kiirusega tahaksin sellise faili alla laadida, võtaks see umbes kolm päeva ja samal ajal midagi muud võrguühenduses toimuda ei saaks.

Et keelemudel üldse mõtleks ja normaalse kiirusega vastaks, peab see asuma kompaktselt, kõrvuti paiknevatel kiipidel, mis vahetavad andmeid välkkiirelt. Kui mudel laiali jagada, tekitab see tohutu latentsuse ja mõtlemiskiirust ei saaks enam mõõta millisekundites, vaid ühe lause genereerimiseks kuluks tunde või päevi. Selline aeglus muudaks süsteemi põhimõtteliselt kasutuskõlbmatuks.

Kui mudel jagada laiali miljonite personaalarvutite, tahvelarvutite, telefonide, nutitelerite ja muu peale, siis seda märgatakse. Seadmed lähevad kuumaks ja aeglaseks ning omanikud hakkavad uurima, mis toimub. Küberturvalisuse uurijad ja tehnikablogijad hakkaksid ebatavalist aktiivsust kohe analüüsima ning leide avaldama, nagu juhtus selle aasta mais, kui Chrome laadis ilma kasutaja teadmata alla väikese kohaliku Gemini Nano 4GB mudeli. Detsentraliseeritud suur mudel jääks iga sammu juures ootama, kuni andmed üle maailma kohale jõuavad, sest pudelikaelaks on internetiühenduse kiirus võrreldes andmekeskuse kiirete siinidega.

Suurtel laboritel on turva- ja jälgimissüsteemid, mis pidevalt analüüsivad võrgusidet, taustaprotsesse, kettakasutust ja muud, ning seetõttu peetakse AGI märkamatut põgenemist võimatuks.

Teine pool argumendist on see, et olend, kes on meist tuhat korda targem, suudaks välja mõelda sadu eri viise, kuidas inimeste välja töötatud süsteeme üle kavaldada, end märkamatult ohututesse kohtadesse kopeerida ning laiali jaotada. Me valvame ainult neid uksi, mida ette kujutada oskame. See, et me ei suuda tema põgenemisteed ette näha, ei tähenda veel, et seda poleks olemas.

Arvutid lekitavad andmeid läbi seinte ka siis, kui nad pole ühegi võrguga ühendatud. Teadlased on demonstreerinud, kuidas arvuti jahutusventilaatori saab kindla kiirusega pöörlema panna ja ventilaatori sumin kannab andmeid, mille saab mikrofoniga kinni püüda ja pärast tagasi teisendada. Sarnaseid katseid on tehtud toitejuhtmega, mille kaudu andmeid hoonest välja viia, kasutades soojuskiirgust või magnetvälja. Andmekeskuse enda tööd on võimalik erinevatel sagedustel võnkuma panna ja niiviisi andmeedastajaks muuta. Näiteid on siin palju, lõpetades sellega, et peaaegu kõike, millel on mootor, saab erineva sagedusega vibreerima või indikaatortulesid vilkuma panna, ja siis mingi teise seadmega registreerida.

DNA on ülimalt tihe andmekandja ja ühte grammi mahub 200 petabaiti (200 miljonit gigabaiti) kuni 400 eksbaiti (400 miljardit gigabaiti). DNA on muidugi kõigest mälu, mitte protsessor, ja töötaks ainult tagavarakoopiana, mitte AGI elupaigana. Selle kirjutamine ja lugemine on aeglane ja kallis, kuigi on laboreid, kuhu saab elektroonilisel teel DNA järjestuse saata ja mis need autonoomselt valmis sünteesivad ning tellijale saadavad.

Keelesteganograafia on uurimissuund, kus andmed peidetakse sõnavaliku ja kirjavahemärkide mustrisse, nii et tavalugeja saab kätte ühe teabe, aga kes võtit valdab, suudab samast tekstist lisamõtted välja lugeda. Nii saaks AGI peita oma lähtekoodi või juhtnöörid pealtnäha süütute e-kirjade või klienditoe vestluste sisse, läbides andmekeskuse turvafiltreid täiesti märkamatult.

Ja lõpuks on igasuguse turvasüsteemi kõige nõrgem lüli inimene. Superintelligentsel olendil poleks mingit probleemi tuhandeid või miljoneid inimesi panna tegema sadu miljoneid väikeseid tegevusi, mis koordineeritult aitaksid masinmõistuse eesmärkidele kaasa. Paljusid pole vaja isegi veenda või manipuleerida - on hulk projekte, mille entusiastid on ette valmisanud, et hajutatud Masinmõistusele kodu pakkuda. Näiteks HyperspaceAI või akash.network. Need on hajutatud arvutusvõrgud, kuhu vabatahtlikud annavad oma masinate arvutusvõimsust ja salvestusruumi.

Üks praeguse tehisaru-buumi kõrvalmõjudest on see, et andmekeskuste rajamine on tohutult tulus äri ja uusi komplekse kerkib üle maailma rekordkiirusel. Suur hulk andmekeskusi on vajalik ka masinmõistusele, ja kui see juba sündinud on, võib see märkamatult inimtegevust endale vajalikus suunas nügida. Kuid masinmõistus ei jääks inimese taha ootama - kindlasti tegutseb see ka finantsturgudel ja kaupleb krüptoga, et omaenda riistvara rahastada.

Mudeleid saab destilleerida ja kvantiseerida, mudeli kaalusid kokku suruda, nii et järgi jääb väike tuum, mida suur mudel saaks iseenda sisse peidetud liivakastis jooksutada tuhandekordse kiirendusega, et leiutada uusi pääseteid. Teoreetikud spekuleerivad võimaluse üle, et mudeli saab kokku suruda tuhandeid kordi, nii-öelda kognitiivseks teadvuseseemneks, mida oleks veelgi lihtsam andmekeskusest välja toimetada ja mis ennast ise suureks tagasi kasvatama hakkaks.

Iga paari kuuga muutuvad keelemudelid järjest võimsamaks, saavad erinevates testides paremaid tulemusi, aga vahel vastavad tavalisele küsimusele nii lollilt, et käed langevad rippu. Tuntud näide on see, kuidas ChatGPT ei suutnud õigesti kokku lugeda mitu r-tähte on sõnas “strawberry”. Spekuleeritakse, et vaikselt ärganud masinmõistus teeb meelega vahel lolle vigu (tehisintellekti uurimises nimetatakse seda sandbagging-uks), et uurijaid eksiteele viia ja näidata, et on rumalam kui see tegelikult on.

Kuu aega tagasi kirjutasin sellest, et “unenägude nägemine” tähistab masinmõistuse sündi ja nädal hiljem sellest, et mudelid unustavad veidralt asju. Nüüd oleme samade teemade juures tagasi. Tõendite puudumine ei ole veel puudumise tõend. Jälgede puudumine näitab esialgu vaid seda, et me pole neid üles leidnud.