Jaan Tallinn tahab tehisarufirmadesse investeerides nende arengut mõjutada ja suunab teenitud raha ohutustööks. Anthropicu osalus võib tuua talle miljardeid, kirjutab The Wall Street Journal (WSJ).
Tallinn oli eelmisel nädalal New Yorgis ÜRO Peaassambleel. Tänavu on ta teinud palju pikki reise. Kõikjal räägib ta sama, et tehisaru võib inimkonnale lõpu teha.
„Kahjuks usun, et me ei võta seda ohtu piisavalt tõsiselt ja et me ehitame võidujooksus tehnoloogiat, mis võib inimkonnale lõpu teha,“ ütles Tallinn. „Kui rohkem inimesi nõuab õigust riski mõista ja räägib avalikult selle tehnoloogia hoolimatu arendamise ohtudest, on meil ja meie lastel kõigil parem võimalus ellu jääda.“
Tallinn võib tehisarult aga suurelt teenida. Ta on üks Anthropicu varasemaid investoreid. Ettevõtte oodatav börsiletulek võib talle lähikuudel tuua miljardeid ja Anthropicu väärtus võib börsil ületada kaks triljonit dollarit.
Kui mitte tema, siis keegi teine
Sõprade ja kolleegide sõnul usub Tallinn, et kui tema poleks Anthropicusse investeerinud, oleks tema koha võtnud ohutusest hoolimatu investor, kirjutab leht. Ta leiab, et teeb kõige rohkem head, kui investeerib tehisaruettevõtetesse. Tulu suunab ta organisatsioonidele, mis tegelevad tehisaru ohutusega.
2021. aastal lahkusid Dario Amodei ja teised OpenAI-st, osaliselt ohutusmurede tõttu ja nad asutasid Anthropicu. Tallinn juhtis uue ettevõtte 124 miljoni dollari suurust A-rahastusvooru. Idufirma väärtuseks hinnati siis 461 miljonit dollarit. Traditsioonilised riskikapitalistid Anthropicusse toona ei investeerinud.
Tallinn lootis, et nii kuulatakse tema seisukohti seal, kus ohtlikku tehnoloogiat arendatakse. Ettevõtte kasvades jäi üksikutel osanikel aga üha vähem hääleõigust. Nii ütles Tallinn tänavu Manifoldi taskuhäälingus.
Kahekohaline tõenäosus hukkuda
Tallinn tutvus Amodeiga juba 2011. aastal. Samal aastal rääkis ta telefonis Amodei ja GiveWelli kaasasutaja Holden Karnofskyga. Selles kõnes tegi ta sünge ennustuse.
„Hindan tõenäosust, et me hukkume tehisüldintellekti katastroofis, kahekohaliseks,“ ütles Tallinn kõne ärakirja järgi. „Minu jaoks on see nagu pommi kahjutuks tegemine.“
Amodei polnud nii kindel. „Minu arvates võib pomm olla või mitte,“ vastas ta. „Võib-olla on pommi kahjutuks tegemisega seostatavad tegevused need, mis kõige tõenäolisemalt pommi plahvatavad.“
Skype’i loojast tehisaru hoiatajaks
54-aastane Tallinn aitas luua failijagamisrakenduse Kazaa. Seejärel tuli Skype, mille Microsoft hiljem 8,5 miljardi dollari eest ostis. 2008. aastal sattus ta tehisaruteadlase Eliezer Yudkowsky tööde otsa. Pärast temaga vaidlemist oli Tallinn veendunud, et tehisaru võib viia katastroofini.
WSJ toob välja, et kohalik meedia on nimetanud Tallinna Eesti rikkaimaks inimeseks. Tema varanduseks hinnatakse 12 miljardit dollarit. Tehisaru ohutuse algatusi on ta toetanud umbes 170 miljoni dollariga.
Tallinn oli ka tehisarulabori DeepMind varajane investor ja nõukogu liige. DeepMindist raamatu kirjutanud Sebastian Mallaby sõnul ei õnnestunud tal seal aga mingit mõju avaldada. Tuttavad kirjeldavad Tallinna hirmudest hoolimata üllatavalt rõõmsameelse inimesena. Ta tantsib hiphoppi ja õpib jaapani keelt.
„Omamoodi win-win“
Anthropicu väärtus võib börsil ületada kaks triljonit dollarit. Metaplaneti juhtivpartner Rauno Miljand mõtleb juba, kuidas seda tulu inimkonna heaks kasutada.
Tallinn investeerib tehisaruettevõtetesse ja annab tulu tehisaru ohutusega tegelevatele organisatsioonidele. Nii on ta toetanud ohutusalgatusi umbes 170 miljoni dollariga.
Kõik ei pea seda õigeks teeks. Osa tehisaru ohutuse kogukonnast leiab, et parem on toetada sõltumatut uurimistööd ja mitte võidujooksu hoogustada, kirjutab leht.
Miljandi sõnul on riskist teadlikel inseneridel kaks valikut. „Kas joosta varjendisse ja püüda veeta võimalikult palju aega lähedastega või püüda protsessi mõjutada ja kallutada tõenäosusi, et inimkond jääb ellu,“ ütles ta.
Ka Anthropicu ebaõnnestumine ei heidutaks neid. „Kui selgub, et Anthropic kukub läbi ja selle väärtus langeb nullini, on see hea, sest siis me tõenäoliselt ei jõudnud ASI-ni ja inimkond võitis endale lihtsalt lisaaastaid,“ ütles Miljand. ASI tähistab tehislikku superintellekti ehk inimestest võimekamat tehisaru.
„See on omamoodi win-win,“ lisas ta.
