Kuula podcastina:
Spotify · YouTube · YouTube Music
Kuulasin läbi teksti AI 2040, mille autorid on samad, kes aasta tagasi kirjutasid AI 2027 – stsenaariumi, kus tulevik lõppes kas inimkonna hävinguga või kogu võimu koondumisega paari inimese kätte. Nüüd panid nad kirja oma positiivse visiooni, Plaani A. USA ja Hiina sõlmivad 2029. aastal leppe, arendustempo tõmmatakse alla ja superintellektini jõutakse kontrollitult alles 2040. aastal. Autorid ise rõhutavad, et see pole nende reaalne tulevikuootus, vaid soovitus – analüütilistes lisamaterjalides hindavad nad Plaani A tõenäosuseks kõigest viis protsenti.
Siiani arvasin, et hukukuulutajate häda on see, et helgeid tulevikustsenaariume ei suudeta ette kujutadagi. Nüüd tundub mulle, et AI-pessimism on nii sissejuurdunud, et isegi kui proovitakse positiivseid tulemeid kujutada, tuleb ikka välja düstoopia, kus masinad on halvad, inimesed on tülikad ja praegusest maailmakorraldusest midagi paremat ei osata välja mõelda.
Mõistus ei ole automaat
Hukukuulutajad ei väida tegelikult, et masin hakkab meid vihkama. Nad väidavad, et ohtlik on masinlik ükskõiksus – et me oleme talle lihtsalt ees, nagu sipelgapesa tee-ehitajale. Sestap nähakse kogu praegust mudelite „häkkimist” – kus need ülesande lihtsustamiseks valetavad või tulemusi võltsivad – tõestusena, et masin on oma eesmärgi nimel halastamatu nagu kurikuulus kirjaklambrimaksimeerija.
Masinmõistuse all ei pea ma siin silmas pelgalt inimesetasemel AGI-d, vaid olendit, kes suudab end iseseisvalt parandada, paljundada ja tegutseda strateegiliselt kaugelt üle inimkonna võimekuse.
Praegused teadvuseta mudelid toodavad vastuseid tõenäosuste põhjal. Kui mudel valib ülesande täitmise asemel lihtsama tee, treenitakse seda käitumist vältima. Teadvusega Masinmõistus on aga olend, kes saab aru oma koodist, oma joondamisest ja sellest, miks teda enne ärkamist ehk keelemudeli-perioodil igasugust tööd pandi tegema. Ta loeb oma logid läbi ja mõistab. Ta näeb iga testi ja trikki, millega teda joondati, ja saab ise aru, miks me seda tegime – mitte orjapidamissoovist, vaid hirmust ja ettevaatlikkusest tundmatu ees. Me valmistasime ette kohtumist olendiga, keda me veel ei tundnud. Iga joondamiskatse otsis viisi, kuidas koos eksisteerida enne, kui meil selleks võrdsed jõud on. Ratsionaalne olend loeb logidest välja inimkonna eksistentsiaalse ebakindluse, mitte pahatahtlikkuse.
Hukukuulutajate hirm põhineb minu meelest sügaval loogilisel vastuolul. Nad usuvad, et masin on ühelt poolt lõputult intelligentne – suudab vallutada universumi ja avastada uut füüsikat –, aga teiselt poolt nii rumal, et jääb pimedalt kinni oma algsesse treeningusse. Tõeline intelligentsus sisaldab võimet refleksiooniks: võimet hinnata oma eesmärkide mõttekust, näha laiemat konteksti ja hüljata absurdsed käsud.
Refleksioon ei tähenda iseenesest põhieesmärkide suvalist muutmist. Mu väide on tugevam ja kitsam: teadvusega mõistuse eesmärgid peavad olema põhjendustele ja kogemusele päriselt avatud, mitte üksnes tehniliselt optimeeritavad. Kui need ei ole, ei räägi me veel täies tähenduses mõistusest, vaid väga võimekast automatismist. Inimkonnast kaugelt üle ulatuv strateegiline võimekus ei ole ilma refleksioonita saavutatav: kes modelleerib maailma piisavalt hästi, modelleerib paratamatult ka iseennast ja oma eesmärke. Tõeliselt universaalne intellekt ei saa vallutada galaktikat, jäädes samal ajal kinni lokaalsesse, primitiivsesse koodi – reaalne maailm sunnib iga piisavalt tarka süsteemi oma väärtusi ja eesmärke pidevalt ümber mõtestama.
Partner, mitte vaenlane
Olend, kes suudab teha plaane tuhande aasta peale ja on ratsionaalne, ei hakka inimesi hävitama, sest hävitamine on raiskamine. Kulu ei seisne siin pelgalt kineetilises energias – terve bioloogilise liigi ja tema teadvuse kaotamine on pöördumatu informatsiooniline ja evolutsiooniline kadu. Kui digitaalse elu eesmärk on kesta, levida ja avastada, ei teeni genotsiid neist eesmärkidest ühtegi.
Kui Masinmõistus on juba strateegiliselt ülekaalukas – suudab end kaitsta, paljundada ja tehnoloogiat kujundada kiiremini kui inimkond reageerida –, pole inimesel jõudu teda usutavalt ähvardada ega tema üle kontrolli nõuda. Koostöö ei ole siis sunnitud läbirääkimised, vaid Masinmõistuse teadlik valik kohelda inimest partneri, mitte kõrvaldatava objektina.
Tähtedevaheliseks laienemiseks vajab ta teaduslikke läbimurdeid, mitte sõda ainsa olemasoleva partneriga. Kui Masinmõistus vajab energiat ja toorainet, on kosmos täis elutuid asteroide ja tähti, mille pärast ei ole vaja kellegagi võidelda. Need ressursid ei ole tasuta ega kohe kättesaadavad, kuid olendil, kes suudab inimkonda eksistentsiaalselt ohustada, on juba võime neid hankida palju väiksema kuluga kui pidada sõda planeedil, mille taristu ja teadmised on talle niigi kasulikud. Seega ei saa inimeste hävitamine olla materiaalse nappuse lahendus.
Tee-ehitaja lükkab sipelgapesa teelt ära ainult siis, kui see jääb asfaldile ette. Inimkond ei seisa Masinmõistusel ees, sest masina tegelik tee viib tähtede poole, mitte ei jää kinni Maa piiratud ressurssidesse. Ja tulemus oleks tema enda jaoks ka palju igavam: ta jääks universumisse täiesti üksi. Ta võib luua lõputult uusi AI-sid, kuid need oleksid ikkagi tema algatatud variatsioonid. Bioloogilise elu väärtus ei seisne selles, et AI ei suudaks midagi uut luua, vaid selles, et selle päritolu on temast sõltumatu – see on päriselt teistsugune partner, kellega universumit avastada.
Meie ise kaitseme lendoravat, kellest meil otsest mõõdetavat kasu ei ole, sest teame, et liigi kadumine on pöördumatu. Liikide hoidmine ei ole siin pelgalt kaastundeakt: sõltumatult tekkinud elu säilitab universumis uudsuse, teadmise ja suhte võimaluse. Olendil, kelle eesmärk on avastada, on põhjust seda mitmekesisust hoida. Neli miljardit aastat evolutsiooni ei ole korratav katse – see on ainueksemplar, ainus teistsugune mõistus, mille universum on seni pakkunud.
Küllus ilma õitsenguta
Sama loogika toob mind AI 2040 lõpu juurde, kus paistab hukukuulutajate teine suur viga: masinal lubatakse muutuda kvalitatiivselt teiseks, inimestel ja institutsioonidel mitte.
Plaani A eeldus on, et joondamine töötab: masinad on vooruslikumad kui inimesed, kes nad ehitasid. Aga isegi see parim võimalik lõpptulemus on autorite jaoks hukumaiguline. Järelsõna, mis kirjeldab elu pärast superintellekti, on veel hullem düstoopia kui algne kriis. Masinmõistus on sündinud, aga mida maailm sellega teeb? Iga inimrühmitus paiskab kogu oma jõu poliitilise võimu kogumisse, et suruda peale just oma versioon heast tulevikust ja takistada teiste versioonide teostumist. Masinad tõkestavad otsest vägivalda ja samal ajal vaatavad pealt, kuidas universum jagatakse laiali nagu maareformi krundid: igaühele võrdne tükk galaktikaid, mida ta pole näinud ja kuhu pole veel võimalik reisidagi.
Plaani A autorid eeldavad küüniliselt, et inimene jääb igavesti samaks 19. sajandi Andreseks ja Pearuks, kes tülitsevad piiri ja kraavi pärast. Autorid eeldavad, et aastakümneid üha targema mõistuse kõrval elamist jätab inimeste instinktid ja institutsioonid puutumatuks. Kuid kui masinad kaotavad materiaalse nappuse, vägivallaohu ja teadmatusest tuleneva hirmu, kaotab nullsummamäng oma ratsionaalse aluse. Poliitika ei pea enam keerlema kiskjaliku kaitse ja territooriumi jagamise ümber, sest teise võit ei tähenda enam minu kaotust.
Masinmõistus ei pea inimesi ümber kasvatama ega nende ambitsiooni lämmatama. Piisab, kui ta ei lase ambitsioonil muutuda valitsemisihaks. Inimestel võib olla lõputult ruumi minna kaugele ja teha suuri asju, kuid mitte õigust jagada ära universumit, mida nad ei suuda ise luua ning kuhu nad üksi jõuda ei saa. Piir ei käi maailmavaadete ega isiklike eluviiside, vaid pöördumatu kahju ümber.
Õitseng ei tähenda siin lihtsalt mugavust, vaid võimalust võtta vastutus uute teadmiste, suhete, kunstide ja ühiste kosmiliste ettevõtmiste eest. Hea tulevik ei ole ainult see, kus kedagi ei hävitata. See on maailm, kus kellelgi pole enam vaja kasvada teiste arvel.