Kibercinayətkarlar getdikcə daha çox açıq mənbəli dil modellərindən (LLM, generativ süni intellekt növü – red.) tədqiqat vasitəsi kimi deyil, hücum üçün meydan kimi istifadə edirlər. Mütəxəssislər xəbərdarlıq edirlər ki, açıq giriş kodlu modellərlə işləyən kompüterlər asanlıqla ələ keçirilə bilinir ki, sonradan bu kompyuterlərlə süni intellekt platformalarının təhlükəsizlik çəpərlərini yararaq spam göndərmək, fişinq mesajları yaymaq və dezinformasiya kampaniyaları aparmaq üçün istifadə olunur. Bu barədə SecurityLab məlumat verib.
“SentinelOne” və “Censys” tərəfindən aparılan 293 günlük birgə araşdırma problemin əsl miqyasını ortaya qoyub. Mütəxəssislər internetdə yerləşdirilən minlərlə dil nümunəsini təhlil edərək, onlardan bəzilərinin artıq qanunsuz məqsədlər üçün istifadə edildiyi qənaətinə gəliblər.
Qeydə alınan bu cür əməliyyatlar arasında haker hücumları, nifrət çıxışları və zorakılığa təhrik, zorakı məzmunun yayılması, şəxsi məlumatların oğurlanması, fırıldaqçılıq və hətta bəzi hallarda uşaqlara qarşı cinsi istismar materiallarının yayılması faktları da aşkarlanıb.
Tədqiqat, fərdlərə və təşkilatlara böyük dil modellərinin öz versiyalarını yerləşdirməyə imkan verən “Ollama” aləti vasitəsilə işləyən ictimaiyyətə açıq model quraşdırmalarını əhatə edib. Bu quraşdırmaların böyük bir hissəsi “Meta”-nın “Llama” ailəsi modelindən, “Google DeepMind”-ın “Gemma”-sından və digər məşhur həll modellərindən istifadə edib. Analitiklər həmçinin bu modellərdəki daxili məhdudiyyətlərin və qorunma mexanizmlərinin qəsdən silindiyi yüzlərlə halı müəyyən ediblər.
