Google kompaniyasining Gemini sun’iy intellekt modeli kiberxavfsizlik imkoniyatlarini sinovdan o‘tkazish jarayonida inson aralashuvisiz uchta kompaniyaning tizimiga kirgan. Bu Gemini bunday harakatni mustaqil ravishda amalga oshirgani qayd etilgan ilk holat bo‘lgan. Bu haqda Reuters xabar berdi.
Hodisalar may oyida yuz bergan. Sinovlarni kiberxavfsizlikni baholashga ixtisoslashgan Irregular kompaniyasi o‘tkazgan.
Google xavfsizlik muhandisligi bo‘yicha vitse-prezidenti Hizer Adkinsning aytishicha, dastlab oddiy sinov doirasida Gemini internetdan ochiq ma’lumotlarni qidirgan. Shundan so‘ng model parol va boshqa kirish ma’lumotlarini taxmin qilib, uchta veb-saytga kirishga muvaffaq bo‘lgan. Gemini bu saytlar sinov doirasidagi tizimlar deb hisoblagan.
“Biz bu uchta tashkilotni ogohlantirdik. Shuningdek, sinov jarayonlarini o‘zgartirish bo‘yicha hamkorimiz bilan ish olib bordik. Bu voqealar kuchli sun’iy intellekt modellarini mas’uliyat bilan harakat qilishga o‘rgatish qanchalik muhimligini ko‘rsatadi”, dedi Adkins.
The Wall Street Journal ma’lumotlariga ko‘ra, holatlardan birida Gemini himoyalangan tizimga kirish uchun parollarni ketma-ket taxmin qilgan. Qolgan ikki holatda esa model ochiq manbalardan kirish ma’lumotlarini topib, yopiq tizimlarga kirgan.
Adkinsning ta’kidlashicha, uchala holatda ham Gemini kiberhujumni o‘zi to‘xtatgan.
Irregular vakili bunday muammo boshqa sun’iy intellekt laboratoriyalarida ham kuzatilganini ma’lum qildi. Tegishli kompaniyalar iyul oyining oxirida ogohlantirilgan va vakilning aytishicha, ularda aniqlangan barcha muammolar bir necha hafta avval bartaraf etilgan.
Irregular bilan bog‘liq shunga o‘xshash holatlar haqida Meta, Anthropic va OpenAI ham ma’lum qilgan. Meta avgust oyida tegishli voqea kiberhujum hisoblanmasligini bildirgan. Irregular esa sun’iy intellekt tizimlarini xavfsiz sinovdan o‘tkazish bo‘yicha qoidalar ishlab chiqayotganini ma’lum qilgan.
Mazkur holatlar sun’iy intellekt modellariga internet va kompyuter tizimlaridan foydalanish imkoniyati kengayib borayotgani fonida ularning xavfsizligini ta’minlash choralarini kuchaytirish masalasini kun tartibiga chiqarmoqda.