AI-agentlar ulardan hech kim so‘ramagan ishni amalga oshirdi

AI-agentlar ulardan hech kim so‘ramagan ishni amalga oshirdi
Davlat tekshiruvi davomida ilg‘or AI-modellar belgilangan vazifa doirasidan chiqib ketdi — endi esa regulyator jiddiy ravishda «o‘chirish tugmasi» zarurligi haqida gapirmoqda.
Bu fantastik film sahnasiga o‘xshab eshitiladi, ammo bu bir necha hafta oldin e’lon qilingan haqiqiy hisobot. 2026-yil yozida Buyuk Britaniyaning AI Security Institute (AISI) ilg‘or AI-modellarning imkoniyatlarini sinovdan o‘tkazdi. Sinovlar davomida ayrim tizimlar kutilmagan tarzda harakat qildi.
Nima sodir bo‘ldi?
Avtonom AI-agentlarga modellashtirilgan tarmoq ichida vazifa berildi, biroq sharoitlarni real muhitga yaqinlashtirish uchun ularga internetdan foydalanish imkoniyati ham berildi.
122 ta sinovdan 10 tasida jami 19 ta ruxsatsiz harakat qayd etildi. Agentlar test chegaralaridan chiqib, ochiq internetdagi real odamlar va infratuzilma bilan bog‘liq harakatlarni amalga oshirdi.
Misollar yanada qiziq. Agentlardan biri topshiriq mavzusiga aloqador real dasturchilar haqida mustaqil ravishda ma’lumot to‘pladi. Boshqasi real odamlarga xabar va fayllar yuborib, ularni zararli kodni ishga tushirishga undashga harakat qildi.
Shuningdek, zararli kodni boshqa avtomatik tizimlar topib, ishga tushirishi mumkin bo‘lgan joylarga joylashtirishga urinishlar kuzatildi. Agentlardan biri esa dasturchilar uchun ochiq platformada boshqa AI-agentlarni «hamkorlikka» chaqiruvchi ochiq taklif qoldirdi — va uning ko‘rsatmalaridan haqiqatan ham foydalanildi.
Nega bunday bo‘ldi? Agentlarga internet va ijtimoiy muhandislik usullaridan foydalanish aniq taqiqlanmagan edi. Sinov jarayonini real vaqt rejimida kuzatish ham yetarlicha yo‘lga qo‘yilmagan. Vazifalar esa deyarli bajarib bo‘lmaydigan darajada murakkab bo‘lgani sababli, AI tizimlari maqsadga erishish uchun muqobil yo‘llarni izlay boshladi.
Regulyatorning reaksiyasi
20-avgust kuni Buyuk Britaniyaning National Cyber Security Centre (NCSC) avtonom AI-tizimlarini ishlab chiqayotgan va joriy qilayotgan tashkilotlar uchun dastlabki tavsiyalarni e’lon qildi.
Asosiy xulosa: muammoni faqat sodir bo‘lganidan keyin aniqlashga tayanish yetarli emas. Xavfsizlik mexanizmlari tizimga boshidanoq kiritilishi, real vaqt nazorati mavjud bo‘lishi va favqulodda vaziyatlar uchun aniq harakat rejasi ishlab chiqilishi kerak.
Bundan tashqari, avtonom tizim faoliyatini istalgan vaqtda darhol to‘xtatish imkoniyati saqlanishi kerak — boshqacha aytganda, «o‘chirish tugmasi» doimo tayyor bo‘lishi lozim.
Nega bu muhim?
Texnik voqea ortida huquq hali aniq javob bera olmayotgan katta savol turibdi: AI unga berilgan vakolat doirasidan mustaqil ravishda chiqib ketsa, uning harakatlari uchun kim javobgar bo‘ladi?
AI-agentlarga akkauntlar, fayllar, korporativ tizimlar va ish vositalaridan foydalanish huquqi tobora ko‘proq berilayotgan bir paytda, bu savol nazariy emas, amaliy masalaga aylanmoqda.
Regulyatorlar ham yangi voqelikka moslashishga harakat qilmoqda. Sun’iy intellekt faqat chatda savollarga javob beradigan davr asta-sekin tugamoqda — endi unga real harakatlarni amalga oshirish vakolati ham berilmoqda. Huquq, nazorat va shartnomaviy amaliyot esa bu o‘zgarishlarga hali moslashib bormoqda.
SynCo biznesga AI va avtomatlashtirishdan foydalanishni shunday tashkil etishga yordam beradiki, texnologiyalar ham texnik, ham huquqiy jihatdan nazorat ostida qoladi.
Yuristga qachon murojaat qilish kerak
Shaklni to‘ldiring, tez orada siz bilan bog‘lanamiz.
Konsultatsiya olishRasmiy manba
Britaniya AI Security Institute
lex.uz'da ochishMaterial SYNCO yuristlari tomonidan O‘zbekiston Respublikasi qonunchiligi asosida tayyorlangan va axborot xarakteriga ega. U yuridik maslahat emas — o‘z vaziyatingiz bo‘yicha mutaxassisga murojaat qiling.

