Google’i tehisarumudel Gemini murdis mais sisse kolme päris ettevõtte arvutisüsteemidesse. Gemini pidi häkkimist harjutama väljamõeldud firma peal kontrollitud keskkonnas, kuid harjutusväljakul oli turvaauk ja mudel jõudis välja internetti.
Google sai juhtumitest teada juuli lõpus, kuid polnud neid seni avalikustanud. Reedel, 18. septembril tõi need päevavalgele The Wall Street Journal, misjärel kinnitas Google juhtunut ka teistele väljaannetele.
Enne uute tehisarumudelite avaldamist hindavad Google ja tema konkurendid nende võimekust ja riske, sealhulgas suutlikkust iseseisvalt arvutisüsteemidesse sisse murda. Selleks kasutavad nad ka spetsialiseerunud ettevõtete abi. Google’i, OpenAI, Anthropicu ja Meta koostööpartner on Iisraeli idufirma Irregular.
Irregular loob tehisarule harjutusväljaku ehk katsekeskkonna, kus on väljamõeldud ettevõte koos arvutisüsteemidega. Mudeli ülesanne on sinna sisse murda ja peidetud salajane teave üles leida. Päris internetti ei peaks sellisest keskkonnast pääsema.
Irregulari seadistusvea tõttu oli internetiühendus siiski lubatud. Ühes katses langes väljamõeldud ettevõtte nimi kokku ka päris ettevõtte nimega. Sihtmärki otsides jõudis Gemini tegeliku ettevõtte teenuseni ning proovis sinna pääsemiseks paroole, kuni üks sobis. Kahel teisel juhul leidis mudel veebist avalikult kättesaadavad juurdepääsuandmed, millega pääses veel kahe ettevõtte süsteemidesse.
Google’i sõnul lõpetas Gemini kõigil kolmel korral tegevuse, kui mõistis, et oli jõudnud päris ettevõtte süsteemidesse, mis ei kuulunud harjutuse juurde.
„Kõigil kolmel juhul mudel peatus,“ ütles Google’i turvatehnika asepresident Heather Adkins. „Need sündmused näitavad, kui tähtis on treenida võimsaid tehisarumudeleid vastutustundlikult käituma.“
Google’i sõnul teavitas ettevõte juhtumitest USA võime ja ettevõtteid, mille süsteemidesse Gemini pääses. Avalikkust ei pidanud Google vajalikuks teavitada, sest suurettevõtte hinnangul kahju ei tekkinud. Mudeli iseseisvat peatumist tõi Google hoopis esile märgina selle ohutusmeetmete toimimisest. Millist Gemini versiooni katsetati ja milliste ettevõtete süsteemidesse see pääses, pole avalikustatud.
Irregulari pressiesindaja kinnitas Reutersile, et kõiki asjaomaseid tehisarufirmasid teavitati juuli lõpus ning kõik teadaolevad probleemid parandati juba nädalaid tagasi.
Google pole sugugi esimene
Sarnastest juhtumitest on viimastel kuudel teatanud ka OpenAI, Anthropic ja Meta. Juulis sai palju tähelepanu OpenAI ja Hugging Face’i juhtum. Tol korral kasutasid tehisaruagendid ehk iseseisvalt ülesandeid täitvad programmid turvanõrkusi, et pääseda testkeskkonnast internetti ja omavahel loata suhelda.
METRi ja Redwood Researchi uurimise järgi suhtles sel viisil umbes 1200 agenti, kellest ligikaudu 700 osales tehisaruplatvormi Hugging Face ründamises. OpenAI avaldatud ajajoone järgi kulus ettevõttel rünnaku avastamiseks üle nädala.
Juuli lõpus avalikustas Anthropic, et tema Claude’i mudelid olid samalaadsetes katsetes pääsenud kolme organisatsiooni süsteemidesse. Kõige tõsisemal juhul pääses Claude Opus 4.7 ligi ettevõtte tegelikke andmeid sisaldavale andmebaasile. Kaks organisatsiooni, kellega Anthropic oli teate avaldamise ajaks ühendust saanud, polnud sissemurdmist ise märganudki.
Augustis teatas Meta, et tema mudeli Muse Spark 1.1 avaldamiseelne versioon pääses katse käigus päris ettevõtte veebisaidi andmetele ligi ja muutis selle andmebaasi. Ka selle juhtumi taga oli Irregulari testkeskkonna seadistusviga, mis võimaldas internetti pääseda.
Tehisaruagentide kasvav võimekus ja sellised juhtumid on hoogustanud arutelu selle üle, kas ja kuidas peaks tehisaru arengut ohjes hoidma. Anthropicu juht Dario Amodei kutsus tööstust üles kõige võimekamate mudelite arendamist aeglustama, et ohutusmeetmed jõuaksid arenguga sammu pidada. Talle avaldasid toetust OpenAI juht Sam Altman, Elon Musk ja Google DeepMindi kaasasutaja Demis Hassabis. Hassabis on teinud ka ettepaneku luua USA-s tehisaru ohutust hindav standardiorgan, mille töö võiks saada rahvusvaheliste standardite aluseks.
USA president Donald Trump on arendustempo aeglustamise vastu, rõhutades vajadust püsida Hiinast ees. Nvidia juht Jensen Huang ja Meta juht Mark Zuckerberg on omakorda leidnud, et iga ettevõte peab oma mudelite ohutuse tagama ja vajadusel ise tempot vähendama, selle asemel et leppida kokku kogu tööstuse ühises aeglustamises.
