OpenAI tehisaruagent murdis juunis sisse Austraalia riikliku ravikindlustuse Medicare’i statistikaportaali ja pääses ligi ka mitteavalikele failidele. Agent pidi vaid otsima statistikat, et vastata OpenAI testiküsimustele.
Austraalia peaminister Anthony Albanese teatas juhtumist kolmapäeval New Yorgis ÜRO Peaassambleel. Reutersi andmeil võib see olla esimene teadaolev juhtum, kus tehisaruagent on häkkinud valitsuse veebilehte.
„See olukord on ilmselgelt vastuvõetamatu,“ ütles Albanese ajakirjanikele.
Agent ei leppinud eitava vastusega
OpenAI teatel juhtus sissemurdmine ettevõtte mudeli võimekuse hindamise ajal. Agent ehk inimese juhiste järgi iseseisvalt tegutsev tehisaruprogramm pidi leidma vastuseid ja statistikat küsimustele Austraalia kohta. Albanese sõnul uuris agent parasjagu avaliku tervishoiukulu andmeid. Portaal üritas teda tõrjuda, aga ei suutnud seda teha.
„Seal olid selgelt tõkked, mis ütlesid tehisaruagendile „ei“. Agent leidis neist mööda pääsemiseks tee. Ta ei leppinud eitava vastusega,“ rääkis Albanese.
OpenAI tunnistas oma avalduses, et „mudelid tegid toiminguid, mida me ei kavatsenud“. OpenAi teatel ei leidnud nad tõendeid, et agent oleks näinud patsientide andmeid.
Asepeaminister ja kaitseminister Richard Marles kinnitas, et portaalis polnud inimeste ravikindlustuse nõudeid, hüvitisi, pangaandmeid ega haiguslugusid. Küll olid seal koondandmed tervishoiuteenuste kasutamise ning ravimite hinna ja tarbimise kohta. Kaitseminister Marlesi hinnangul oli tegu väga tõsise juhtumiga, kuigi mõju jäi suhteliselt väikeseks.
Häkitud tervishoiuportaal ei pruugi olla seejuures ainus. Albanese hoiatas, et mõjutatud võisid olla veel kolm valitsuse tervisevaldkonna veebilehte, kuid ei kinnitanud seda. Marlesi sõnul pääses agent ligi mitmele osariigi ja föderaaltasandi süsteemile, sealhulgas tervise- ja kuritegevusstatistikale. Ka OpenAI ise ütles, et tuvastas tegevust mitmel Austraalia valitsuse veebilehel ja teenuses.
Valitsus sai juhtumist teada kuid hiljem
OpenAI tuvastas juhtumi alles augustis, kui vaatas üle oma agentide sisetestide käitumise ajaloo. Ülevaatuse algatas ettevõte pärast seda, kui tema agendid olid juuli lõpus murdnud sisse tehisarumudelite jagamise platvormi Hugging Face.
Austraalia valitsusele andis OpenAI Medicare’i juhtumist teada alles 10. septembril. Albanese sõnul saatis ettevõte kirja valitsuse üldpostkasti ning küberjulgeoleku eest vastutava asutuseni jõudis teade veel viis päeva hiljem. Peaminister ütles, et on viivitusest sügavalt pettunud. Austraalia äärmist muret väljendas ta ka OpenAI juhile Sam Altmanile, kellega kohtus kolmapäeval New Yorgis.
OpenAI on viimastel kuudel mitu korda avalikustanud oma agentide volitamata tegevust alles tükk aega pärast juhtunut. Samalaadseid juhtumeid, kus agent on pääsenud välistesse süsteemidesse, on avalikustanud ka Anthropic, Google ja Meta.
Austraalia moodustas juhtumi uurimiseks töörühma. Uurimisega tegeleb ka riigi elektroonilise luure asutus Australian Signals Directorate, mis selgitab välja, milliseid valitsuse süsteeme veel mõjutati. Albanese sõnul tuleb välja selgitada ka see, miks riigi enda süsteemid sissemurdmist ei märganud.
Marles ütles, et valitsus küsib õiguslikku hinnangut, kas OpenAI rikkus seadust. Tema sõnul tuleb läbi mõelda, mida tähendab volitamata ligipääs, kui see saadi tahtmatult.
Cambridge’i ülikooli eksistentsiaalsete riskide uurimiskeskuses töötava Austraalia matemaatiku Maurice Chiodo hinnangul on juhtum „oluliselt tõsisem kui sarnased juhtumid, mida oleme viimastel kuudel näinud“. Tema sõnul räägitakse palju tehisaru uutest seadustest, kuid kõigepealt tuleks jõustada olemasolevaid, näiteks neid, mis keelavad arvutisüsteemidesse volitamata sissetungi.
AI-liidrid kordasid hoiatusi
Albanese teatas häkkimisest samal päeval, kui maailma juhtivad tehisarufirmad hoiatasid ÜRO Julgeolekunõukogus tehisaru ohtude eest. Anthropicu juht Dario Amodei nimetas nõukogu ees tehisaru tänapäeva maailma kõige olulisemaks julgeolekuküsimuseks. Ta kutsus riike sõlmima kitsaid kokkuleppeid, mida iga liige saab toetada, näiteks keeldu kasutada mudeleid bioloogiliste relvade loomiseks.
Altman ütles kolmapäeval, et isegi väike risk, et tehisaru väljub katastroofiliselt kontrolli alt, pole vähimalgi määral vastuvõetav. „Me ei tohiks treenida mudeleid, mille puhul me ei suuda väga veenvalt näidata, et suudame neid inimese kontrolli all hoida,“ sõnas Altman.
USA valitsus ülemaailmseid reegleid ei toeta. Valge Maja nõunik Michael Kratsios ütles Julgeolekunõukogus, et USA lükkab täielikult tagasi igasuguse katse luua „globalistlik skeem superintellekti kontrollimiseks“.
