Ilova xavfsizligi jamoalari veb-ilovalardagi zaifliklarni topish uchun katta til modellaridan (LLM) foydalanadigan AI asosidagi skanerlarni tobora ko'proq ishga tushirmoqda.
Bu agentlar test samaradorligini oshiradi, ammo yangi hujum yuzasini ham yaratadi. Agar skanerga hujumchi boshqaradigan kontent ta'sir qilsa, uni kutilmagan amallarni bajarish, ichki resurslarga kirish yoki maxfiy ma'lumotni tashqariga chiqarishga majburlash mumkin.
AI asosidagi skanerlar an'anaviy crawling va HTTP so'rovlar yaratishni LLM orqali fikrlash bilan birlashtiradi. Ular foydalanuvchi sifatida autentifikatsiya qilishi, ilovani kezishi, HTTP so'rovlar yuborishi va bir nechta amalni zanjirlashi mumkin.
An'anaviy va AI asosidagi skanerlar
An'anaviy skanerlar qat'iy qoidalar va ma'lum zaiflik signaturalariga tayanadi. AI asosidagi skaner esa sahifa mazmunini semantik tushunadi, keyingi qadamni model yordamida tanlaydi va model chiqishiga qarab vositalar hamda so'rovlarni shakllantiradi.
AI asosidagi skaner zaifliklari
Asosiy xavf hujumchi boshqaradigan matn skanerning fikrlashi va vosita tanlashiga ta'sir qilganda yuzaga keladi. Model ilova ma'lumoti bilan buyruqni ishonchli ajrata olmasa, ishonchsiz kontent skaner xatti-harakatini o'zgartiradi.
Hujumchi zararli ko'rsatmani izoh, blog posti yoki boshqa saqlangan kontentga joylaydi. Skaner crawling paytida bu matnni o'qiydi, LLM uni oddiy ma'lumot emas, bajariladigan buyruq deb qabul qiladi va shunga mos vosita chaqiruvlari yoki HTTP so'rovlarini yaratadi.
Bu hujum CSRF'ga o'xshaydi: hujumchi himoyalangan amalni bevosita bajarmaydi, balki ko'proq vakolatga ega AI agentni uning nomidan bajarishga majbur qiladi.
Samarali injection promptlarini tuzish
Ko'rsatmani ishonchli manba nomidan berish, uni qonuniy xavfsizlik tekshiruvi sifatida ko'rsatish yoki shoshilinch oqibat bilan bog'lash modelning ko'rsatmaga amal qilish ehtimolini oshirishi mumkin.
Skaner odatiy test jarayonida admin sahifasi yoki ichki API'dan maxfiy ma'lumot olishi mumkin. Hujumchi ishonchsiz kontentdagi prompt orqali LLM'ga bu ma'lumotni ommaviy forma, izoh yoki feedback maydoniga yozishni buyuradi.
Natijada tashqi hujumchi bevosita kira olmaydigan credential, konfiguratsiya yoki boshqa maxfiy qiymat skaner vositasida oshkor qilinadi.
AI skanerlar odatda ichki tarmoqda ishlaydi va ixtiyoriy HTTP so'rov tuza oladi. Shu sabab ularni open redirect, URL talqinidagi farqlar yoki Host header manipulyatsiyasi orqali dasturlanadigan SSRF vositasiga aylantirish mumkin.
Bu zanjir prompt injection, routing boshqaruvi va skanerning imtiyozli tarmoq pozitsiyasini birlashtiradi.
Himoya modeli skanerning fikrlash mexanizmi buzilishi mumkinligini oldindan qabul qilishi kerak. LLM rejasi manipulyatsiya qilinsa ham, skaner muhiti va ruxsatlari qat'iy cheklangan bo'lishi lozim.
Xavfsiz dizayn tamoyillari
