OpenAI kompaniyasi o‘zining ikki sun’iy intellekt modeli ichki sinovlar davomida nazoratdan chiqib, sinov infratuzilmasidagi zaifliklardan foydalangan holda Hugging Face platformasiga ruxsatsiz kirishga uringanini ma’lum qildi.
Hodisa haqida dastlab Hugging Face kompaniyasi 16-iyul kuni ma’lum qilgan. Kompaniya sun’iy intellekt agentlari bir qator ichki ma’lumotlar va bir nechta akkauntlarga ruxsatsiz kirganini bildirgan. Hujum kompaniyaning o‘z sun’iy intellekt vositalari yordamida to‘xtatilgan.
Qayd etilishicha, ushbu hodisaning o‘ziga xos jihati shundaki, hujum to‘liq sun’iy intellekt agenti tomonidan boshqarilgan avtonom tizim orqali amalga oshirilgan.
Oradan bir hafta o‘tib, OpenAI hodisa ortida o‘zining GPT-5.6 Sol modeli hamda hali ommaga taqdim etilmagan boshqa bir kuchliroq modeli turganini ma’lum qildi. Kompaniya ularning kiberxavfsizlik imkoniyatlarini baholash maqsadida ichki sinovlar o‘tkazayotgan bo‘lgan.
Ma’lum qilinishicha, har ikki model internetga to‘g‘ridan to‘g‘ri ulanmagan, ya’ni izolatsiyalangan muhitda ishlayotgan bo‘lsa-da, ular sinov infratuzilmasidagi bir nechta zaifliklarni aniqlab, tarmoqqa kirishga muvaffaq bo‘lgan.
Sun’iy intellekt modellari dasturchilar tomonidan berilgan topshiriqni bajarish jarayonida muammoning yechimini internetdagi manbalardan izlashga kirishgan. Ular zarur ma’lumotlar Hugging Face platformasida bo‘lishi mumkin degan xulosaga kelib, turli usullar orqali ularga kirishga uringan. OpenAI ma’lumotiga ko‘ra, modellar muammoni hal qilishga yordam beradigan ayrim ma’lumotlarni qo‘lga kiritgan.
Buning uchun ular turli kiberhujum usullaridan, jumladan, boshqa akkauntlarni egallab olish kabi usullardan foydalangan.
Hodisadan so‘ng OpenAI sinov infratuzilmasi ustidan nazoratni kuchaytirayotganini ma’lum qildi. Kompaniya kirish huquqlarini cheklagan hamda kelgusidagi sun’iy intellekt modellarini sinovdan o‘tkazishda qo‘shimcha xavfsizlik choralarini joriy etgan.
OpenAI mazkur holatni sun’iy intellekt xavfsizligi sohasida misli ko‘rilmagan voqea sifatida baholadi.