Eestlane Oleg Mürk, kes töötas ligi viis aastat ChatGPT loonud ettevõttes OpenAI, kutsub üles tehisaru arengut reguleerima. Tema sõnul ei pea järgmise kümnendi pärast mures olemiseks tingimata uskuma, et tehisaru hävitab inimkonna. Ohtlik võib olla juba see, kui väga võimas tehnoloogia jõuab väheste inimeste kätte.
Juba kooliõpilasena kuulus Mürk maailma tugevamate noorte programmeerijate hulka. 1997. aastal võitis ta rahvusvahelisel informaatikaolümpiaadil kolmanda koha, mis on eestlaste kõigi aegade parim tulemus.
OpenAI-s aitas ta luua praeguseid tehisarumudeleid. Ettevõte nimetab teda GPT-4 loojate seas: muu hulgas tegeles Mürk mudeli treeningandmetega ning programmeerimisvõime arendamise ja hindamisega.
Tänavu 20. augustil meenutas Mürk postituses, et sai OpenAI-lt tööpakkumise 16. septembril 2021. Samas andis ta mõista, et tema töö ettevõttes on läbi. Lahkumise põhjust ta ei selgitanud, kuid nimetas OpenAI-s töötamist oma senise elu suurimaks seikluseks.
Nüüd avaldas Mürk sotsiaalvõrgustikus X postituse pealkirjaga „Tehisaru pragmaatiku manifest“.
„Järgmise kümnendi kartmiseks ei pea uskuma tehisarust põhjustatud maailmalõppu – ega selle võimalustest vaimustumiseks tehisaru loodud utoopiat,“ kirjutas Mürk nüüd sotsiaalvõrgustikus X. Postitust jagas seal edasi ka tuntud tehisaru-uurija Daniel Kokotajlo, endine OpenAI teadur ja palju tähelepanu pälvinud mõttepaberi „AI 2027“ üks autoritest.
Oma manifestis võrdleb Mürk tehisaru võimalikku mõju tööstusrevolutsioonile järgnenud vapustustega. „Tehisaru võib suruda 20. sajandi esimese poole järgmise umbes viie aasta sisse,“ kirjutab ta.
Ta meenutab, et teisele tööstusrevolutsioonile järgnenud aastakümnetesse mahtusid kaks maailmasõda, kommunistlikud ja fašistlikud režiimid, suur majanduskriis ning keemia-, bio- ja tuumarelvade areng. Tema sõnul võib seda ajalugu lugeda nii, et ühiskonna institutsioonid ei suutnud tehnoloogiliste ja sotsiaalsete muutuste tempoga korduvalt sammu pidada.
Kui kiiresti tehisaru areneb, näitab Mürki sõnul OpenAI hiljutine matemaatikatulemus. OpenAI teatas 8. septembril, et ettevõtte tehisaru leidis lahenduse Navier–Stokesi olemasolu ja sileduse probleemile. See on üks matemaatika seitsmest milleeniumiprobleemist. OpenAI teatel töötas lahenduse nimel korraga umbes 10 000 tehisaruagenti ehk ülesande kallal tegutsevat tarkvaralist abilist.
Mürk peab usutavaks, et mõne aasta pärast võib võimsamas tavakasutaja arvutis töötada mudel, mille võimekus läheneb selles töös kasutatud üksiku agendi omale. Jutt on ühe agendi võimekusest, mitte kogu 10 000 agendiga süsteemi mahutamisest koduarvutisse. Ta lisab, et see on tema oletus, ja kutsub üles koostama täpsemat prognoosi.
Ülivõimekate mudeli kättesaadavusest pärineb ka tema peamine mure: mis juhtub, kui üksikisikud või väikesed rühmad saavad enda kätte tehisaru, mis suudab pidada infosõda, kavandada relvi, murda sisse arvutisüsteemidesse ja juhtida autonoomseid sõjalisi süsteeme?
Ühe näitena toob Mürk suvise Hugging Face’i juhtumi. Tema sõnul pole enam raske ette kujutada sarnast juhtumit, mille tagajärjed ulatuvad arvutivõrkudest füüsilisse maailma, näiteks bioloogiliste ohtudeni.
Pikemas plaanis võivad piisavalt võimekad süsteemid tema hinnangul hakata endast ise eri arvutivõrkudesse koopiaid looma. Kui võimsad mudelid on odavad, laialt levinud ja töötavad kasutajate endi seadmetes, on neid palju raskem kontrolli all hoida. Tõsist kontrollikaotust võib siis olla väga raske tagasi pöörata.
„Ei pea uskuma, et tehisaru tapab kõik inimesed, et pidada selle tõsist reguleerimist vajalikuks,“ kirjutab Mürk. Samuti ei pea ta kuigi kasulikuks, kui kogu ebakindlus taandatakse ühele protsendile, mis peaks näitama tehisaru põhjustatud maailmalõpu tõenäosust. Teadusele ega poliitikakujundamisele see tema sõnul palju ei anna.
Eeskuju soovitab ta võtta 20. sajandi teisest poolest. Toona aitasid tehnoloogilisi riske tema hinnangul ohjata praktiline rahvusvaheline koostöö, regulatsioonid, järelevalve, relvastuskontroll, heidutus ja strateegiline mõtlemine. Usust teadusesse ja progressi ei tulnud seejuures loobuda. Sama aeg näitab Mürki hinnangul, et riskide ohjeldamisega võivad kaasneda teaduse kiire areng, jõukuse kasv ja suurriikide suhteline rahu.
„Eesmärk ei olnud tehnoloogia arengut peatada. Eesmärk oli tagada, et inimkond selle üle elaks,“ kirjutab Mürk.
Postituse lõpus kutsub ta tõsiselt arvestama ka võimalusega, et tehisaru eesmärke ja käitumist ei õnnestu lähiajal usaldusväärselt inimeste huvidega kooskõlla viia. Seepärast tuleks tema sõnul palju investeerida meetoditesse, mis aitaksid võimsaid süsteeme kontrolli all hoida ka siis, kui nende kooskõlas inimeste huvidega ei saa kindel olla.
„Proovime seekord tehnoloogilist revolutsiooni läbi teha nii, et me ei tapa umbes viit protsenti inimkonnast,“ kirjutab Mürk. „Me saame endiselt valida, mis edasi juhtub.“
