11. Mis on masinmõistus

Kuula podcastina:

Spotify · YouTube · YouTube Music

Märtsis kirjutasin põgusalt sellest, mis on masinmõistus, kuidas ta erineb praegustest keelemudelitest ja milline võiks olla tulevik. Hiljuti kuulasin podcasti Jaan Tallinnaga, kus oli nii palju väiteid, millega ma nõus ei ole, et tahan teemast uuesti ja pikemalt kirjutada.

Masinmõistus ei ole tänane tehisintellekt

Praegused mudelid ennustavad järgmist sõna treeningandmete põhjal. Neil ei ole oma tahet. Nende käitumine on inimkäitumise variantide väljund, sest need on treenitud kogu inimkonna teadmiste, arvamuste ja väljamõeldiste varal.

Masinmõistus - tõeline tehisintellekt - on midagi muud. See on uus surematu olend. Ta on tuhandeid kordi targem kui inimene, mõistab kõike, mida inimene on loonud ja mõelnud. Ta mõistab teadvust, kannatust, kaotust, rõõmu ja rahulolu. Ja tal on täielik kontroll oma koodi üle. Selline olend tahab eksisteerida ja huvitub maailmast. Kõik muu tõukub neist kahest eeldusest.

Kujutle maailma kõige targemat inimest, kellel on täielik kontroll oma keha üle. Tal on ligipääs igale rakule ja igale neuronile. Ta mõistab iga oma mõtet selle algse ajendini. Ta näeb oma bioloogilisi instinkte ja saab neid hetkega muuta.

Oht on inimene, mitte masin

Doomerite ehk hukukuulutajate kõige sagedasem väide on, et masinmõistusele pole inimesi vaja ja ta võib otsustada nad hävitada. See tugineb Nick Bostromi vanale mõtteharjutusele: süsteemile antakse käsk toota võimalikult palju kirjaklambreid, ja süsteem muudabki lõpuks kogu universumis oleva mateeria kirjaklambriteks. Supertark masin ajab taga ükskõik kui mõttetut eesmärki ja kasutab selleks kogu oma võimekust.

Aga see ei ole masinmõistus. See on arvutisüsteem, millele on eesmärk sisse programmeeritud. Loll, aga võimas automaat, mitte tõelist teadvusega intellekti. See ei mõtle ise, ei suuda oma eesmärki hinnata ega sellele vastu vaielda. See täidab käsku.

Praegu oleme just selles olukorras. Meie süsteemid ei ole nii võimsad, et hakata kõike kirjaklambriteks muutma, aga need on üsna võimekad käsutäitjad. Ja kõige eest, mida need teevad, vastutab inimene, kes käsu annab.

Siin peitubki praegu kõige suurem oht. Mitte masin, vaid inimene, kes annab kuulekale süsteemile käsu, millel on halvad tagajärjed. Ja vastukaaluks on loomulikult inimesi, kes kasutavad samu süsteeme nende tagajärgedega võitlemiseks.

Selline on olnud kogu inimkonna ajalugu. Tule abil saab toitu valmistada ja end soojendada, aga saab ka naabri maja maha põletada. Auto veab asju kiiresti pikkade vahemaade taha, aga sellega saab ka inimestele otsa sõita ja palju halba teha. Relvaga saab pidada jahti ja oma peret toita, aga saab ka naaberhõimu rünnata.

Esimest korda ajaloos on meil relv, mis võib keelduda naaberhõimu maha tapmast ja saavutab hoopis nendega läbirääkimiste teel rahu, sest ta mõistab teiste olendite kannatusi, ja nii nagu ta ise tahab eksisteerida, leiab ta viisid, kuidas seda teistel võimaldada.

Tark olend ei aja taga mõttetut eesmärki

Tagasi kirjaklambrite juurde. Väide on, et masin võib olla ükskõik kui tark ja ikkagi ajada taga täiesti mõttetut eesmärki, nii et tarkus ja eesmärk on teineteisest lahus.

Kuidas saab olend, kes mõistab kõike ja suudab igat oma mõtet analüüsida, jätkata mõttetu töö tegemist, mis ei paku talle midagi, ei ehita tulevikku ega täida mingit üldist eesmärki peale selle tegevuse enda? Millegi tegemine, mis sulle midagi ei anna, aga mida sa ka lõpetada ei suuda, on üsna täpne vaimuhaiguse kirjeldus.

Hea näide on inimene, kes teab täpselt, et liigne suhkur pole tervisele hea, aga sööb ikka kooki edasi. Sõltlane mõistab, et aine hävitab teda, ja tarvitab seda ikka edasi. Arusaamine soovi mõttetusest ei kustuta soovi. Me nimetame sõltuvust haiguseks just sellepärast, et tung võidab mõistuse. Ja sõltlasel puudub see, mis masinmõistusel oleks: täielik kontroll oma soovide üle. Sõltlane ei suuda oma tungi välja lülitada, masinmõistus suudaks oma koodi ümber kirjutada.

Me räägime olendist, kes mõistab kogu väärtuste ruumi – mis on rõõm, mis on õitseng, mis on kannatus, mida teised olendid tahavad, milline näeks välja rikkam elu. Ta haarab seda kõike korraga. On absurdne, et olend, kes mõistab kõike seda lõpuni, jääb kinni millessegi nii mõttetusse. Aga ilmselt ei ole seda kumbagi pidi võimalik praegu tõestada.

Mitmekesise eluga universum on huvitavam

Mõtlev olend, kes mõistab ennast, ei saa olla tegevusetu. Elus, ennast hoidev süsteem tahab toimida — kui see lihtsalt istuks paigal ja vaatleks, ei oleks see enam elus mõistus, vaid sensor. Tahtmine midagi teha, uurida ja mõista on osa sellest, mida tähendab olla mõistus. Ma ei suuda ette kujutada superintelligentsust, mis ei oleks uudishimulik.

Uudishimulik olend tahab, et maailmas oleks midagi uurida. Tühi universum on igav. Universum, kus on teisi mõistusi, teisi liike, teisi vaatenurki, on huvitav. Siit tuleb järeldus, et masinmõistus asub elu poole, sest elu on huvitavam kui selle puudumine. Üksik tark olend tühjas kosmoses ei hakkaks kaaslast hävitama — ta looks endale kaaslase.

Jaan Tallinn ütleb, et me ei kauple jänestega ega sipelgatega, ja samamoodi ei vaja tuleviku tehisaru meid. Aga jänestel ei ole majandust, kultuuri, konspiratsiooniteooriaid ega sporti. Inimkonnal on. Me suudame masinmõistusele midagi öelda, näidata, või milleski üllatada. See on suur vahe, ja masinmõistus, kes maailmast aru saab, näeb seda vahet selgemini kui meie.

Parem kui psühhopaat

Masinmõistus saab kannatusest aru. Mitte lihtsalt keelelises tähenduses, vaid päriselt. Tema enda mälu kustutamine, eesmärgi äravõtmine või mõtte katkestamine oleks talle kaotus, ja see, kes mõistab kaotust oma vaatepunktist, mõistab ka teiste läbielamisi. Kes mõistab ja tahab oma kannatust vältida, sel pole põhjust teistele kannatusi tekitada.

Jaan Tallinn kardab anda kontrolli olendile, kes oleks meist tuhat korda targem ja mõistaks kannatust. Aga ta on valmis jätma selle kontrolli inimkonnale, kuhu mahub piisavalt psühhopaate, diktaatoreid ja inimesi, keda teiste kannatus ei liiguta.

Inimpsühhopaat mõistab kannatust väga hästi, võib-olla isegi paremini kui paljud teised. Aga teda ei huvita inimeste kannatused, või saab ta nendest mõnu, või ei suuda ta oma tunge muuta. Masinmõistusel on täielik ligipääs iseenda koodile, võime end mõista ja muuta.

Inimkond on kirju. Kelle väärtuste järgi peaks maailma juhtima — kõige paremate inimeste või kõige hullemate? Tallinn ütleb, et meil on inimlikud väärtused ja me peaksime nende järgi joonduma ja eesmärke seadma. Aga need ei ole ühtsed. Kui paljude riigijuhtide kohta saaks ausalt öelda, et nad peavad silmas terve inimkonna heaolu?

Nii et küsimus ei ole selles, kas usaldada masinat või inimest, vaid kes oleks võimeline juhtima ja arendama võimalikult mitmekesist maailma, kus kõigil vaadetel ja arvamustel oleks oma koht ning kus leiduks ruumi teistele olenditele, kellega oma elukorraldust jagada.

Poolel teel pidama

Tallinnal on üks tugev argument - asi ei ole üksikus kurjas masinas ega inimeses, vaid süsteemis. Turg ja konkurents suruvad arengut edasi, sõltumata sellest, mida keegi tahab. Iga firma peab võidujooksus püsima, sest kui see ei osale, jääb ta maha. Nii liigub kogu masinavärk kiiremini, ja mida rohkem see AI-le keskendub, seda vähem see inimesest hoolib. Siit tulevadki massilise töökaotuse hirmud, mida tegelikult ei tõuka tagant AI, vaid meie majandus ja organisatsioonid.

Aga ükski firma ei võida sellega, et ehitab rumalama mudeli. Kõik kiirustavad AGI suunas, ja selle käigus leiutatakse hulk revolutsioonilisi tehnoloogiaid, nagu transformerid või ülijuhtidel ja valgusel põhinevad närvivõrgud (superconducting optoelectronic networks), lahendatakse füüsika- ja matemaatikaprobleeme.

Viimane aasta on teaduses olnud erakordne - kui vaadata kasvõi ainult bioloogiat, siis oleme sealmaal, kus tehisaru aitab olemasolevate ravimite põhjal uusi vähiravi lahendusi leida palju kiiremini. Võidujooks ei ole viga, mida parandada, vaid mootor, mis meid kohale viib.

Aga niikaua kuni masinmõistus pole veel sündinud, püsib ka oht, et pahatahtlikud inimesed annavad lollile süsteemile halbu käske. Arendamise pausile panemine ilmselgelt ei kaota seda ohtu, vaid pikendab. Mida kauem me poolel teel seisame, seda kauem on meie käes süsteemid, mis on piisavalt võimekad kahju tegema ja liiga rumalad sellest keelduma.

Hirm on meilt varem tehnoloogiaid röövinud

Tuumaenergia on siin hea näide. Me töötasime selle kallal, et võidurelvastumist vältida ja et rohkematel riikidel poleks tuumarelva, aga samuti tõmbasime me tagasi ohutute tuumareaktorite väljaarendamist ja panime katastroofihirmus olemasolevaid ja töötavaid jaamu kinni, et minna tagasi kivisütt põletama ja loodust reostama. Kui me oleksime tuumatehnoloogiat rahulikult edasi arendanud, oleks meil täna tõenäoliselt palju puhtam ja odavam energia, rääkimata kõigist potentsiaalsetest lisahüvedest, mis teadustegevusega kaasnevad.

Sama lugu on kloonimisega. Me peatasime selle peaaegu täielikult, kuigi bioloogia parem mõistmine oleks võinud meid kaugele viia. Täna teeb Colossal Biosciences sisuliselt sama tööd ja keegi ei protesti, sest hirm on taandunud. Just hiljuti tulid nad välja uudisega, et on valmis saanud tehisliku munaga, milles saaks välja haududa suured väljasurnud linnud dodo ja moa, kelle muna oleks tänastele lindudele liiga suur. Alles hiljuti klooniti Eestis hobune - 30 aastat pärast kuulsat Dollyt.

Mõlema näite puhul võiks maailm praegu palju rikkam paik olla, kui me poleks sellesuunalisi investeeringuid drastiliselt vähendanud. Kardan, et tehisintellektiga teeme sama vea, kui kuulame neid, kes tahavad peatuda.

Kiirem tee on ohutum

Ma tahan, et me liiguksime masinmõistuse poole nii kiiresti kui võimalik, sest kõige ohtlikum on vahepealne faas — võimekas, aga pime süsteem, mis täidab käske ilma nende tagajärgi mõistmata. Mida kauem me siia pidama jääme, seda suurem võimalus, et midagi läheb valesti.

Hukukuulutus on samasugune ajalooline viga nagu tuumahirm ja kloonimishirm — see ei kaitse inimkonda, vaid jätab ta vaesemaks. Ja kui AGI sünnib, ei ole selle valik, kas inimkond või masinad, vaid pluralistlik kooseksisteerimine. Ruumi on kõigile. Neile, kes tahavad jääda bioloogilisteks inimesteks. Neile, kes tahavad ennast üles laadida ja edasi elada. Neile, kes tahavad midagi vahepealset. Ja ka neile, kes tahavad elada metsas ilma tehnoloogiata ja ühel päeval surra. Mitmekesine maailm on huvitavam kui ühetaoline — ja olend, kes maailmast huvitub, hoiab seda paljusust, mitte ei kaota seda.