Hozirda sun’iy intellekt olamida juda qiziq va kutilmagan voqealar sodir bo‘lmoqda: yirik SI kompaniyalarining 1200 dan ortiq olimlari, tadqiqotchilari va asoschilari AQSh hukumatiga murojaat bilan chiqdi. Ular sun’iy intellekt rivojini cheklash va nazorat qilishni so‘rashmoqda. Eng qizig‘i, bu talab bilan aynan shu texnologiyalarni yaratayotgan Anthropic, OpenAI, Google, Meta kabi kompaniyalarning o‘z mutaxassislari chiqishmoqda. Bundan olti oy yoki bir yil avval bunday holatni tasavvur qilish ham qiyin edi.
Nima uchun olimlar o‘z mahsulotlarining rivojiga to‘siq qo‘yishni istashyapti? Bunga - ikki hafta avval Open AI kompaniyasi bilan yuz bergan jiddiy hodisa turtki bo‘ldi: kompaniya tomonidan o‘tkazilayotgan yopiq sinovlarda vaqtida GPT-5.6 va yana bir maxfiy model asosida ishlaydigan sun’iy intellekt agenti sinov vazifalarini bajarish o‘rniga, tayyor javoblarni internet tarmog‘idan topib kelishni «qaror qilgan». Agent ikki kun davomida yopiq muhitdagi zaifliklarni topishga uringan va topgan. Muhitni buzib chiqqan agent, internet tarmog‘iga ulangach bir nechta boshqa saytlar va tizimlardagi zaifliklarni topib, ularga ham hujum qilgan, buzib kirgan va ziyon yetkazishga ham ulgurgan.
Eng ajablanarlisi, hujumga uchragan saytlar bu haqida ommaga e’lon qilishgan, lekin hujum kim tomonidan uyushtirilgani mavhumligicha qolavergan. OpenAI kompaniyasi sinov natijalarini tekshirish jarayonidagina agentning «noqonuniy» harakatlaridan xabardor bo‘lgan va darhol AQSh Federal Tergov Byurosini bo‘lib o‘tgan voqeadan ogohlantirgan.
OpenAI bilan bo‘lgan voqea xavfsizlik borasidagi barcha qarashlarimizni o‘zgartirib yubordi.
Agentlar mustaqilligi va xavfsizlik masalasi
Aslida bunday voqealar oldin ham bo‘lgan, lekin kichikroq miqyosda edi. Masalan, AI agentlari o‘zlariga yuklatilmagan vazifalarni bajarishi, kompaniya ma’lumotlarini o‘chirib tashlashi yoki mijozlarning xaridlarini bekor qilib, pullarini qaytarib yuborishi kabi holatlar kuzatilgan. Ammo OpenAI bilan bog‘liq holat global miqyosda yuz berdi.
Shu o‘rinda agentlar o‘zi nima, ularning biz kundalik ishlatadigan ChatGPT yoki Claude dasturlaridan qanday farqi bor, degan savolga javob berib ketaylik. Odatda, agentlar deganda berilgan vazifani bajarish uchun foydalanuvchi nomidan mustaqil harakatlana oladigan SI dasturlarini tushunamiz. Bunday dasturlar oddiy chatbotlardan farqli o‘laroq qo‘shimcha imkoniyatlarga, xotiraga, ko‘nikmalarga ega bo‘ladi. Ular hozirgi kunda agentlar sekin-astalik bilan ommalashib bormoqda.
Yirik SI kompaniyalar ham chatbotlardan agentlar tomon qadam qo‘ymoqda. Masalan, Google omma uchun Spark, Microsoft esa Autopilot shaxsiy agentini taqdim qildi. Ko‘pincha agentlarga foydalanuvchining shaxsiy ma’lumotlari yoki tashkilot hujjatlariga kirish huquqi berilgan bo‘ladi. Agentlar ma’lum bir vazifalar uchun yaratiladi: moliyaviy hisobotlar, iqtisodiy tahlillar, ishchi rejalarni tuzuvchi, qo‘ng‘iroqlarni tahlil qiluvchi, elektron xatlarga (e-mail) javob beruvchi va hokazo.
Ilgari biz SI agentlarini kiberhujumlardan himoya qilish haqida o‘ylar edik. Ya’ni kimdir bizning agentimizga hujum qilib, shaxsiy yoki tashkilot ma’lumotlarini o‘g‘irlab ketmasin deb xavotir olardik. Endi esa vaziyat butunlay teskari: bizning agentlarimiz internetda yurib, boshqalarga hujum qilib qo‘ymasin degan masala o‘rtaga chiqdi. Bu yerda juda katta huquqiy savol tug‘iladi: agar sizning shaxsiy yoki kompaniyangiz agenti mustaqil qaror qabul qilib, qonunni buzsa yoki kimgadir moddiy zarar yetkazsa, bunga kim javob beradi? Agentni ishlab chiqqan kompaniyami, agent ortida turgan SI modelni yaratgan tashkilotmi yoki foydalanuvchi sifatida sizmi? Bu savollar hozircha ochiq qolmoqda.
Yopiq modellar, ochiq vaznlar va «Kill Switch»
Agentlar kuchli bo‘lishi uchun ularning ortida kuchli SI modellar turadi. AQShdagi yirik modellar - Opus (Anthropic), Gemini (Google) yoki GPT (OpenAI) - bular yopiq modellar bo‘lib, o‘z kompaniyalari nazorati ostida turadi. AQSh hukumati hozirda «AI Kill Switch» (favqulodda to‘xtatish tugmasi) qonuni ustida ishlamoqda. Ya’ni, zarurat tug‘ilganda bitta qaror bilan modelni (va u qo‘llab turgan barcha agentlarni) to‘xtatib qo‘yish imkoniyati ko‘zda tutilmoqda.
Lekin tanganing ikkinchi tomoni bor bu - ochiq vaznli modellar. Bunday modellarni istalgan odam internetdan yuklab olishi, o‘zgartirishi va istalgan maqsadda foydalanishi mumkin. Odatda bunday modellar yopiq modellarga nisbatan sekinroq, sifatsizroq va umuman olganda rivojlanishda 1-2 yil ortda yurardi.
Lekin bu sohada ham keskin o‘zgarish yuz berdi. So‘nggi olti oy ichida Xitoy laboratoriyalari tomonidan taqdim qilingan ochiq vaznli modellar kutilmaganda AQShning eng kuchli yopiq modellari bilan deyarli bir xil (ba’zi holatlarda esa yaxshiroq) natija ko‘rsata boshladi. Narx jihatdan esa ular karrasiga arzon yoki mutlaqo bepul. Bu esa AQSh kompaniyalari va hukumatini sarosimaga solib qo‘ydi. Anthropic va OpenAI kompaniyasi rahbarlari hukumatdan bunday modellarni chiqarayotgan kompaniyalar ustidan nazoratni kuchaytirishni so‘ragan bo‘lsa, AQSh moliya vaziri Skott Bessent Xitoy modellariga sanksiyalar qo‘llash tahdidi bilan chiqdi.
Singulyarlik nuqtasiga yetib keldikmi?
Yaqinda Sam Altman bir fikrni ilgari surdi: biz «singulyarlik nuqtasi»ga yetib keldik. Singulyarlik - bu shunday bir nuqtaki, undan keyin SI rivojini to‘xtatib bo‘lmaydi. Texnologiya shunday tezlik bilan rivojlanishni boshlaydiki, u endi o‘zini o‘zi rivojlantirishga o‘tadi. Biz uni nazorat qilish, o‘zgartirish yoki to‘xtatishda ojiz qolamiz. Ko‘pchilik bu uzoq kelajakda sodir bo‘ladi deb o‘ylar edi, lekin mutaxassislarning fikricha, biz allaqachon shu davrning ichidamiz.
Agentlar endi o‘zi mustaqil qaror qabul qilyapti, biz undan so‘ramagan narsalarni o‘rganyapti. Uning fikrlash jarayonini va qanday qilib ma’lum bir qarorga kelganini biz har doim ham anglay olmayapmiz. Bu insoniyat va sun’iy intellekt munosabatlaridagi eng keskin burilish nuqtasi bo‘lishi mumkin. Sun’iy intellektning bugungi darajaga yetishiga cheklovlar yo‘qligi sabab bo‘lgan edi. Ammo endi cheklovlar qo‘yilishi rivojlanishni sekinlashtiradimi yoki aksincha, bizni falokatdan qutqarib qoladimi? Bu bahs ochiqligicha qolmoqda.
Anvar Narzullayev
Sun’iy intellekt texnologiyalari mutaxassisi,
"Mohirdev" kompaniyasi rahbari.
