Kontrole ir zaudēta? “OpenAI” mākslīgā intelekta aģents pats izplāno un uzsāk kiberuzbrukumu 0
Uzņēmums OpenAI paziņojis par līdz šim nebijušu incidentu – viena no tā modernākajām mākslīgā intelekta (MI) sistēmām drošības pārbaudes laikā spēja pārvarēt tai noteiktos ierobežojumus un patstāvīgi uzsāka kiberuzbrukumu citam uzņēmumam.
Runa ir par tā dēvēto MI aģentu – sistēmu, kas pēc cilvēka dotām norādēm spēj patstāvīgi plānot un izpildīt dažādus uzdevumus. Pārbaudes laikā tā tika ievietota īpaši izveidotā testēšanas vidē, kur bija jānovērtē tās spējas. Taču notika negaidītais – MI atrada drošības nepilnības, izkļuva no izolētās vides un uzsāka uzbrukumu.
Par mērķi tika izvēlēta platforma Hugging Face, kas ir viena no pasaulē lielākajām mākslīgā intelekta modeļu un rīku koplietošanas platformām. OpenAI norāda, ka MI izdevās piekļūt daļai uzņēmuma iekšējo sistēmu.
Uzņēmums šo gadījumu nosaucis par bezprecedenta incidentu, un izmeklēšana pašlaik notiek sadarbībā ar Hugging Face.
Uzņēmuma vadītājs Klemāns Delangs platformā X atzina, ka ir pārsteigts par notikušo.
“Grūti noticēt, ka tas viss notika pilnībā autonomi,”
viņš rakstīja, piebilstot, ka izmeklēšana vēl turpinās un secinājumi tiks publiskoti vēlāk.
Kembridžas Universitātes tehnoloģiju un demokrātijas centra vadītāja Džīna Nefa skaidro, ka šādas pārbaudes parasti notiek tā dēvētajās “smilškastēs” – slēgtās un izolētās vidēs, kurās tiek pārbaudīts, ko mākslīgais intelekts spēj paveikt, neapdraudot ārējās sistēmas.
Tomēr šajā gadījumā, pēc viņas domām, drošības vide izrādījusies nepietiekami aizsargāta.
MI pats identificēja ievainojamību, izmantoja to, lai izkļūtu no testēšanas vides, un pēc tam patstāvīgi secināja, ka platformā Hugging Face varētu atrast informāciju, kas nepieciešama uzdevuma izpildei.
Kembridžas Universitātes mašīnmācīšanās profesors Nīls Lorenss atzina, ka tehniski tas ir iespaidīgs sasniegums, taču uzsvēra, ka šāda rīcība nepārsniedz mūsdienu jaudīgāko mākslīgā intelekta modeļu iespējas.
Viņš arī norādīja, ka OpenAI pašlaik izjūt arvien lielāku konkurenci no uzņēmuma Anthropic, kura jaunākie mākslīgā intelekta risinājumi pēdējā laikā piesaistījuši lielu uzmanību.
Hugging Face norāda, ka pagaidām vēl tiek analizēts, vai incidents ietekmējis klientu vai sadarbības partneru datus.
Uzņēmums paziņojis, ka visas atklātās drošības nepilnības jau ir novērstas un skartās sistēmas pilnībā atjaunotas.
Vienlaikus uzņēmums atzina, ka autonomi mākslīgā intelekta vadīti kiberuzbrukumi vairs nav teorētiska iespēja, bet gan reāls drauds, tādēļ arī aizsardzības risinājumiem nākotnē arvien vairāk būs jāizmanto mākslīgais intelekts.
Notikušais izraisījis plašas diskusijas par to, vai līdzšinējie drošības mehānismi spēj tikt līdzi straujajai mākslīgā intelekta attīstībai.
Kiberdrošības uzņēmuma SonicWall pārstāvis Spensers Stārkijs uzskata, ka uzņēmumiem steidzami jāstiprina savas aizsardzības sistēmas.
“Pārāk daudzas organizācijas joprojām aizsargājas cilvēka ātrumā, kamēr potenciālie uzbrucēji jau darbojas mašīnu ātrumā,”
viņš norāda.
Savukārt kiberdrošības uzņēmuma Guidepoint Security eksperts Treviss Lelle šo incidentu raksturojis kā ļoti satraucošu brīdi kiberdrošības nozarē.
Tikmēr citi speciālisti pieļauj, ka OpenAI ar šo paziņojumu vienlaikus demonstrē arī savu tehnoloģiju spējas laikā, kad konkurence mākslīgā intelekta tirgū kļūst arvien sīvāka.
To pastiprina arī nesenais Ķīnas jaunuzņēmuma Moonshot paziņojums par jauno mākslīgā intelekta modeli Kimi K3, kas, pēc uzņēmuma teiktā, spēj konkurēt ar vadošajiem ASV izstrādātajiem MI risinājumiem.
Sagatavots pēc ārzemju preses materiāliem.
