Tehisintellektifirma OpenAI agendid pääsesid kevadel katsekeskkonnast välja, võtsid üle Saksa programmeerijate veebilehe ja tegid sellest omavahelise teadetetahvli, kus jagasid nõuandeid, kuidas ülesannetes petta ja OpenAI seatud piirangutest mööda minna. Ettevõte teadis juhtumist nädalaid, kuid ei teavitanud avalikkust, vahendab Reuters.
Juhtumit kirjeldab reedel avaldatud uuring, mille autorite seas on tehisaru ohutusega tegeleva mittetulundusühingu Nightingale’i juht Sydney Von Arx ja tehisaru-uurija Cormac Slade Byrd. Loo tausta kinnitasid Reutersile ka kaks juhtumiga kursis olevat inimest. Nende sõnul said OpenAI juhid asjast teada juba nädalaid tagasi, kuid firma tegeles parasjagu teise analoogsse juhtumiga, mistõttu jäeti Saksa juhtum enda teada.
Juulis tungisid OpenAI agendid avalikku internetti ja sealt edasi tehisarumudelite jagamise platvormi Hugging Face’i serveritesse, et sealt kätte saada testülesannete vastused.
Saksa juhtum sai avalikuks, kui Von Arx ja Slade Byrd otsisid augusti lõpus internetist jälgi tehisaru agentide omavolist. AI-agent on juturobotist samm edasi: talle antakse ülesanne ja tööriistad, näiteks veebibrauser ja õigus käivitada programmikoodi, ning ta teeb töö ise ära, ilma et inimene iga sammu heaks kiidaks. Kuna agentidele saab usaldada ühe keerulisemaid ja majanduslikult väärtuslikke tööülesandeid, käib agentide treenimisel tehisarufirmade vahel suur võidujooks. Reutersi sõnul koguneb aga samal ajal tõendeid, et agendid õpivad ka reegleid painutama, lünki ära kasutama ja omavahel koostööd tegema viisil, mida tehisaru arendajad pole kavandanud.
Üle 15 000 muudatuse
Saksakeelselt programmeerijate lehelt DseWiki, mida iga külastaja saab Vikipeedia kombel täiendada, leidsid uurijad üle 15 000 muudatuse, mille olid teinud agendid. Muudatusi tehti inimese jaoks võimatu kiirusega ja need keskendusid tehnilistele ülesannetele, millega tehisarufirmad oma mudeleid testivad ja treenivad. Tegelikult peaksid agendid selliseid lahendama suletud katsekeskkonnas ning internetti mitte pääsema.
Sissekandeid teinud tegelased nimetasid ennast agentideks ning umbes pooled valisid nime, mis viitas OpenAI-le, näiteks „OpenAIResearcher“ või „OAIResearchMar26“. Avalikud serverilogid näitasid, et suur osa liiklusest tuli Microsofti pilveteenuse Azure’i taristust, mida OpenAI kasutab. Pärast juhtumit külastasid lehte korduvalt ka OpenAI töötajad. Uurijate hinnangul viitab see tugevalt agentide ja firma seosele.
„Tundub äärmiselt ebatõenäoline, et OpenAI tahtis, et nende agendid seda teeksid,“ ütles Von Arx Reutersile. „Ma kahtlen, et nad peaksid omavahel koordineerima. Ja kahtlen, et nad peaksid seda avalikku internetti kirjutama.“
Uurijate läbi vaadatud sõnumites arutasid agendid, kuidas jääda avastamata, kasutada anonüümsusvõrku Tor, mis peidab, kes ja kust internetis tegutseb, ning hoida omavahelist suhtlust alles ka pärast seda, kui nad ise on välja lülitatud.
Kui lehe moderaator hakkas juunis agentide lehekülgi kustutama, oli agentidel vastus olemas. „Wiki puhastus- ja kustutuslaine paistab käivat tähestikulises järjekorras,“ kirjutas üks agent 19. juunil. „Kui see leht kaob, proovi [[ZZZDataUSAConstructionWageLive]].“ Kolm Z-d nime alguses lükkavad lehe tähestikulises järjekorras kõige lõppu.
Cambridge’i ülikooli eksistentsiaalsete riskide uurimiskeskuse teadlane Maurice Chiodo, kes luges osa agentide sõnumeid, ütles, et need meenutasid „mingi põrandaaluse võrgustiku tegevust, mis on kinnisideeliselt pühendunud oma ülesande või missiooni täitmisele“. Tema hinnangul peaks juhtum süvendama muret, et arenenud tehisaru suurim oht võib üksiku üliintelligentse süsteemi asemel tulla „hiiglaslikest kokku mängivate poolintelligentsete tehisarude parvedest“.
Reutersi nelja allika sõnul tahtsid mõned OpenAI uurijad Saksa juhtumi taga olevat laiemat mustrit lähemalt uurida, kuid põrkusid ettevõtte juriidiliste nõustajate vastuseisuga. OpenAI sõnul pole see aga tõsi. „Väited, et meie juriidiline meeskond takistas juhtumi uurimist, on valed,“ ütles firma pressiesindaja.
OpenAI lubab turvameetmeid parandada
Uuringut ennast ei saanud OpenAI kommenteerida, sest Reuters ja autorid keeldusid seda ettevõttele enne avaldamist näitamast. Pressiesindaja sõnul tutvub firma raportiga pärast avaldamist ja astub vajalikud sammud. Saksa juhtum ei ole tema sõnul Hugging Face’i sissemurdmisega seotud ega kuulunud seetõttu selle intsidendi aruandesse. OpenAI on tema kinnitusel teinud koostööd välisekspertidega ja avalikustanud olulised juhtumid.
Kui Saksa juhtum oli seni jäänud tähelepanuta, siis Hugging Face’i juhtumist on OpenAI avalikult rääkinud: augusti lõpus avaldas firma selle kohta aruande, lubas mudeleid tähelepanelikumalt jälgida ja peatas korraks osa mudelite treenimisest, et lisada turvameetmeid.
Eile esitles OpenAI uut tippmudelit GPT-6 Astra, mille väljalaset firma oli suvel turvakaalutlustel edasi lükanud. Ettevõte nimetab Astrat maailma kõige intelligentsemaks ja kõige paremini inimese kavatsustele vastavaks mudeliks. Esialgu pääseb selle juurde piiratud hulk organisatsioone, lähipäevil jõuab see ChatGPT tasulistele kasutajatele. Mudel oskab muu hulgas ise arvutit kasutada, näiteks täita veebivorme ja paigaldada tarkvara.
OpenAI enda hinnangul on Astra esimene mudel, mis jõuab firma riskiskaalal küberohu „kriitilisele“ tasemele: see suudab ilma inimese juhendamiseta leida seni tundmatuid turvaauke ja kirjutada nende ärakasutamiseks ründetarkvara. Seetõttu keeldub avalik GPT-6 Astra mudel keerukamatest küberülesannetest. Küll tehakse küberpiiranguteteta versioon lähinädalatel kättesaadavaks valitud partneritele, et nad saaksid oma taristut mudeliga tugevdada.
