“Məlumat zəhərlənməsi” ifadəsi süni intellekt sistemlərini pozmaq və ya yanlış istiqamətləndirmək üçün təlim məlumatlarını qəsdən səhv, əsassız və ya manipulyativ məlumatlarla yükləməyi əhatə edən kiberhücum metoduna verilən addır.
Rəqəmsal ekosistemdə getdikcə daha çox rast gəlinən məlumat zəhərlənməsi əməliyyatları, alqoritmlərin qərar qəbuletmə mexanizmini manipulyasiya etmək üçün istifadə edilən ən məkrli kibertəhdid metodlarından biri kimi xüsusilə seçilir.
Ümumiyyətlə, metod "süni intellekt və ya Böyük Dil Modelinin (LLM) təlim, dəqiq tənzimləmə və ya indeksləşdirmə proseslərində istifadə olunan məlumat bazasına qəsdən zərərli, manipulyasiya edilmiş və ya yanlış məlumat daxil etmək" formatında işləyir.
Ənənəvi kiberhücumlar sistemin proqram koduna və ya server infrastrukturuna sızmağı hədəfləsə də, məlumat zəhərlənməsi hücumları birbaşa modelin məlumat mənbəyini və məntiqini hədəf alır.
ABŞ Milli Standartlar və Texnologiya İnstitutu (NIST) dərc etdiyi kibertəhlükəsizlik terminologiyasında “məlumat zəhərlənməsi” anlayışını süni intellekt ekosistemində "düşmən hücumları" başlığı altında toplayıb.
Qurumun təsnifatına görə, bu metod, təcavüzkarın süni intellekt modelinin təlim məlumatlarının bir hissəsini nəzarətə götürməsi və alqoritmin qərar qəbuletmə mexanizmini pozması ilə həyata keçirilən zəhərləmə hücumu kimi göstərilir.
“Açıq Veb-Tətbiqi Təhlükəsizlik Layihəsi” (OWASP) tərəfindən dərc edilən "Generativ Süni intellekt və LLM təhlükəsizlik riskləri" hesabatında da ən ciddi təhdidlər arasında "Məlumat və Model Zəhərlənməsi" anlayışları da göstərilir. Mütəxəssislər hücumların iki əsas şəkildə həyata keçirildiyini qeyd edirlər:
Hədəfsiz zəhərləmə: Süni intellekt modelinin ümumi dəqiqliyini və ardıcıllığını pozmaq məqsədi güdür. Bu metodda təlim bazasındakı etiketlər tərsinə çevrilir və ümumiyyətlə sistemin etibarlılığı sarsıdılır.
Hədəfli zəhərləmə: Modelə gizli "simvollar" yerləşdirilir. Sistem normal olaraq düzgün işləsə də, sistemə müdaxilə edənlər tərəfindən müəyyən olunan müəyyən bir söz, simvol və ya vizual işarə ilə qarşılaşdıqda manipulyativ və əvvəlcədən planlaşdırılmış yanlış nəticə ortaya çıxarır.
Dezinformasiyaya təsir
“Məlumat zəhərlənməsi” anlayışı rəqəmsal informasiya ekosistemində dezinformasiyanın yayılması riskini də birbaşa artırır. Açıq mənbəli internet məlumatları ilə təlim keçmiş modellər, bu iddialar məlumat bazasına sızarsa, qəsdən hazırlanmış saxta xəbərlər və təhrif olunmuş tarixi məzmun iddialarını "real məlumat" kimi təqdim edə bilərlər. Bundan əlavə, saxta məzmunu və ya deep feyk şəkilləri aşkar etmək üçün istifadə edilən süni intellekt əsaslı fakt yoxlama və açıq mənbəli kəşfiyyat (OSINT) alətləri hədəf alınanda, yanlış istiqamətləndirilmiş alqoritmlər manipulyasiyaları nəzərdən qaçıra və ya dəqiq məzmuna yanlış cavablar verə bilər.
Mənbə: AA
