Claude’i tehisarumudeleid arendava Anthropicu juht Dario Amodei ütles telekanalile CBS, et AI-tööstus on inimestele riskide kohta liiga kaua valetanud ja näidanud tehnoloogiat võimalikult heas valguses. Samas intervjuus tunnistas ta, et talle endale on alati tundunud imelik, et nii võimsat asja ehitavad eraettevõtted.
Intervjuu salvestati laupäeval, mõni tund pärast seda, kui Amodei avaldas essee, milles palus kogu tööstusel arendustempot ohjata. Esseest ja sellele järgnenud reaktsioonidest kirjutas Ärileht täna. Saate CBS Sunday Morning ajakirjanik Jo Ling Kent alustas küsimusest, kui suur on risk, et tehisaru meid kõiki lähitulevikus tapab.
Amodei vastas, et tõenäosuste asemel tasub rääkida sellest, mida teha saab. Kui tehnoloogia ehitatakse õigesti, on halva tulemuse tõenäosus tema sõnul väga väike. Kui valesti, siis väga suur.
Kõver läheb järsemaks
Tehisaru areng kulgeb Amodei sõnul eksponentsiaalselt ja praegu muutub arengukõver üha järsemaks. Paanikaks ega kõige seiskamiseks ta põhjust ei näe. „See on hoiatusmärk, et peame aeglustama,“ ütles ta. Uute mudelite avaldamist Anthropic ei lõpeta, kuid iga mudelipõlvkond peab tema sõnul olema enne avaldamist põhjalikult testitud.
USA kongressis on praegu eelnõu, mis kohustaks tehisarusüsteeme varustama väljalülitusnupuga. Amodei pole seda ettepanekut detailselt uurinud, kuid peab ideed heaks. Ainult sellele ei saa tema sõnul lootma jääda, sest piisavalt võimas mudel võib väljalülitamiskatse nurjata ja simulatsioonides on seda juba nähtud. Ta võrdles kaitset Šveitsi juustu viiludega. Igas viilus on augud, aga kui viis viilu üksteise peale panna, on virnast raske läbi pääseda.
Senaator Bernie Sandersi ja kongresmen Greg Casari eelnõu, mis keelaks superintellekti arendamise ja tooks keelu eirajatele kuni 20-aastase vangistuse, Amodei ei toeta. Siis jääksid tema sõnul saamata tehnoloogia suurimad hüved, näiteks uued ravimid, ja tehnoloogia ehitataks niikuinii valmis mujal, sealhulgas autoritaarsetes riikides. Ravimite küsimus on tema jaoks seejuures isiklik.
Amodei isa suri C-hepatiiti ajal, mil haigus oli ravitav umbes 40 protsendil juhtudest. Mõni aasta hiljem tuli ravim, mille abil oli haigus ravitav 95 protsendil juhtudest. Ka Amodei ise elas üle varases staadiumis vähi. Kui ta oleks haigestunud 1950. aastal, oleks ta tõenäoliselt surnud. Nende kogemuste tõttu tunneb ta enda sõnul kohustust teha tehnoloogia hüved inimestele kättesaadavaks
Teisel kaalukausil on ohuraportid, mida ta loeb iga hommik, näiteks sellest, kuidas keegi üritas Claude’i abil biorelva teha. Sotsiaalmeedias naerdakse teda tema sõnul iga päev, sest Claude’i bioloogiaalased kasutuspiirangud on nii karmid, et tudengid kurdavad, et ei saa mudelit kasutada. „Parem naerdagu minu üle, kui et ärkan ühel päeval ja avastan, et keegi tappis meie mudeliga hulga inimesi.“
USA valitsusele ta firmat ei annaks
Küsimusele isiklikust vastutusest vastas Amodei, et inimesed küsivad temalt pidevalt, miks seda tehnoloogiat ei ehita riik. Kõige kummalisem on tema sõnul see, et ta on nendega nõus. „Mul on ebamugav.“
Anthropicu üleandmist ühele valitsusele ta siiski ei poolda, sest üks riik võib tehnoloogiat kuritarvitada sama kergesti kui üks ettevõte. Järelevalvet võiks tema sõnul teha demokraatlikult valitud valitsuste ühine organ. Praegu suhtleb Anthropic tema sõnul USA kaubandus- ja rahandusministeeriumi ning luureasutustega iga päev.
Anthopicu juhilt küsiti, kas aeglustamine on hea mõte, kui Hiina seda ei tee. „See on kogu olukorra kõige raskem dilemma,“ vastas Amodei. Kui Hiinat poleks, saaks USA võtta palju rohkem aega. Küsimus ei ole tema sõnul ärikonkurentsis, vaid geopoliitikas.
Ta pakkus kaks väljapääsu. Esiteks saavad Ameerika ettevõtted arendustempot aeglustada nii palju, kui nende edumaa võimaldab, eriti kui USA ei müü autoritaarsetele riikidele kiipe ja kaitseb oma tehnoloogiat varguse eest.. See annab tema sõnul vähemalt natukenegi aega. Teiseks tuleks minna otse Pekingi juurde ja öelda, et osa ohte puudutab kõiki. Anthropicu värske raporti järgi on Claude’i üritatud kasutada viiruste nakkavuse suurendamiseks. Bioterrorism ei ole ühegi valitsuse huvides, märkis Amodei.
Trumpi ja Xi Jinpingi kohtumiseks pakkus ta ühe väikese ja ühe suure eesmärgi. Väikesem eesmärk on laiendada bioloogiliste relvade konventsiooni, millele mõlemad riigid on alla kirjutanud, tehisarule: kumbki pool ei arenda tehisaruga biorelvi ega avalda mudeleid, mida terroristid saaksid selleks kasutada. Suurem siht oleks seada piirang tehisaru arendustempole. Seda peab ta väga raskesti saavutatavaks, sest ettejõudmine annab liiga suure sõjalise eelise. Seetõttu möönis Amodei, et ta ei tea, kas see on üldse võimalik, aga proovima peaks tema sõnul ikkagi.
Läbirääkimistel oleks väga oluline leida ka viis kontrollida, kas teine pool peab kokkuleppest kinni, nagu tuuma- ja biorelvade lepingute puhul. „Lootused peaksid olema kõrged, ootused madalad.“
Lõpetuseks küsiti Amodeilt, mida ta ütleks tavakasutajale, kes on olukorra pärast mures. Amodei alustas positiivsest, öeldes, et sadu miljoneid inimesi kasutab tehnoloogiat iga nädal. Tema sõnul tuleb talle pidevalt kirju selle kohta, et Claude on leidnud haiguse, mille arstid olid kahe silma vahele jätnud. Samas ei eita ta tehnoloogiaga kaasnevaid riske.
„Ma arvan, et tööstus valetas inimestele liiga kaua selle kohta, et sellel tehnoloogial on riske. Mõte oli näidata seda võimalikult positiivsena. Meie pole seda kunagi teinud, aga liiga suur osa tööstusest tegi,“ ütles Amodei. Kõik algab tema sõnul tõe rääkimisest. „Ja tõde on, et riskid on päris.“
