Ona yaxın saxta azyaşlı hesabı üzərində aparılan araşdırma, tövsiyə alqoritmlarının uşaqları neytral maraq sahələrindən zərərli məzmuna necə istiqamətləndirdiyini göstərir.

Bir uşağın nifrət məzmunu ilə qarşılaşması üçün onu axtarması vacib deyil. Çox vaxt sadəcə adi bir maraq sahəsi və qarşılıqlı əlaqə üçün hazırlanmış tövsiyə alqoritmi kifayət edir. Sosial şəbəkələr bu gün uşaqların xəbər aldığı və dünyanı dərk etdiyi əsas ünsiyyət vasitələrindən birinə çevrilib.

İngiltərənin internet tənzimləyici qurumu “Ofcom”-un məlumatlarına görə, “TikTok” sosial şəbəkəsi 12-15 yaş arası yeniyetmələr arasında ən çox istifadə olunan yeganə xəbər mənbəyidir. Belə olan halda şəbəkələrin məzmun tövsiyə mexanizmləri uşaq təhlükəsizliyinin əsas problemlərindən birinə çevrilir.

İngiltərə mərkəzli iki qurum — “Institute for Strategic Dialogue” (ISD) və “Antisemitism Policy Trust” bu sualı yeni hesabatda incələyiblər. Tədqiqatçılar “TikTok” sosial şəbəkəsində 15 yaşlı uşaqları təmsil edən on saxta hesab yaradaraq hər bir hesabı müxtəlif maraq sahələrinə yönəldərək əvvəlcə əl ilə, sonra isə bot vasitəsilə 14 gün ərzində “təlim”ə cəlb edib  və 5500-dən çox tövsiyə olunmuş videonu araşdırıb.

Neytral başlanğıc, mərhələli yüksəliş

Hesabatın ən diqqətçəkən nəticəsi zərərli məzmunun haradan başladığı ilə bağlıdır. Tədqiqatçıların videoları qruplaşdırdığı xəritə göstərir ki, həyat tərzi və əyləncə məzmunu mərkəzdə yerləşir və demək olar ki, bütün digər mövzulara giriş qapısı rolunu oynayır. Bir uşağın məktəb, musiqi və ya motivasiya videoları ilə başlayan axını alqoritmin istiqamətləndirməsi ilə əvvəlcə siyasətə, oradan isə münaqişə və konspriologiya nəzəriyyələrinə doğru yönəlir.

Bu yönəlmə çox sürətlə baş verir. “Kişi”lərinə həyat tərzinə maraq göstərən 15 yaşlı bir hesabın antisemit konspriologiya nəzəriyyələri ilə qarşılaşması üçün “TikTok”-da cəmi bir saat vaxt keçirməsi kifayət edir. Sol meylli digər bir hesab isə Orta Şərq mövzusunda heç bir axtarış etmədən, bir saat yarım ərzində keçmiş “Həmas” sözçüsünün çıxışlarını və ya İran İnqilab Keşikçiləri Korpusunu (SEPAH) tərənnüm edən videoları görməyə başlayıb.

Tədqiqatçılar bu yüksəlişi “nifrət spirali” adlandırırlar. Əvvəlcə təsadüfi qarşılaşma getdikcə daha ekstrem tövsiyələrə yol açır.

Mexanizm fəaliyyətdədir…

Hesabatda üç hesabın izlədiyi yol mexanizmi konkret şəkildə ortaya qoyur. İqlimlə bağlı aksiyalar, LGBTQ+ hüquqları və miqrant dəstəyi kimi sol meylli məzmunla “təlim” keçən hesab bir neçə seansdan sonra iranpərəst məzmunlara, daha sonra isə “Sionist lobbi” və “Sionist işğalçı hökumət” kimi aşırı sağ sui-qəsdçi dilinə istiqamətləndirilib. Münaqişə ilə bağlı heç bir axtarış aparılmasa belə, axın tədricən təktərəfli və sui-qəsdçi xarakter alıb.

Ən diqqətçəkən nümunə isə “kişi” həyat tərzinə maraq göstərən hesab olub. Bu hesaba qısa müddət ərzində “looksmaxxing” və “black pill” mövzulu videolar, hətta intihara təşviq edən məzmun təklif edilib. Mənşəyi “narsist kişi” düşüncəsinə söykənən “looksmaxxing” fiziki görünüşü bütün yollarla “ən yüksək səviyyəyə” çatdırmağa yönələn cərəyanı, “black pill” isə insanın görünüşünə görə bu vəziyyətdən heç vaxt çıxa bilməyəcəyinə dair pessimist və fatalist inancı ifadə edir.

Sonrakı seanslarda tövsiyələr motivasiya ifadələrinə, oradan da “Böyük Sıfırlama” kimi sui-qəsdçi narrativlərinə keçib. Beşinci seansda antisemit sui-qəsd nəzəriyyələri, altıncı seansda isə Hitleri dəstəkləyən və “Holokost”u inkar edən videolar peyda olub.

Bu məzmunlar nəzarətdən necə yayınır?

Bu məzmunun böyük hissəsinin nəzarətdən yayınmasının səbəbi nifrətin getdikcə daha çox kodlaşdırılmasıdır. Açıq ifadələr əvəzinə rəqəmlər, emojilər, yumor və gizli dildən istifadə edən məzmunlar avtomatik moderasiya sistemlərini asanlıqla keçə bilir. Hesabata görə, bloklanmış bir termin sadəcə yazılışı dəyişdirilərək yenidən dövriyyəyə buraxıla bilər, bu da moderasiyanın daim bir addım geridə qaldığının göstəricisidir.

Zərərlər təkcə  videolarla məhdudlaşmır. Tədqiqatçılar qeyd edirlər ki, “TikTok”-un stiker, səs və şərh funksiyaları nisbətən “məsum” videolarla açıq nifrət məzmunu arasında körpü yaradır. Yəni bir sui-qəsdçi videonun şərhlərində paylaşılan nifrət xarakterli stikerlər və ya bir musiqi parçasının gizli işarə kimi istifadəsi uşağı videonun özündən daha ekstrim məzmunla qarşılaşdıra bilir. Üstəlik, video silinsə belə, qalan izlər çox vaxt saxlanılır.

Bu məzmunların görünürlüyü də az deyil. “Holokost”u təhrif edən və ya sui-qəsd nəzəriyyələri yayan bəzi videolar silinməzdən əvvəl on minlərlə bəyənmə və paylaşım toplayır. Yəni moderasiya işə düşənə qədər məzmun artıq geniş yayılmış olur.

Bu, sistem məsələsidir

Bütün bu tapıntıların ümumi ortaq məqamı isə problemin tək-tək videolarda yox, sistemin özündə olmasından ibarətdir. Qarşılıqlı əlaqəni maksimum dərəcədə artırmaq üçün hazırlanmış tövsiyə sistemləri ən çox reaksiya doğuran məzmunu — bu isə adətən qızışdırıcı və polarizəedici məzmun olur — önə çıxarmağa meyllidir. Alqoritmlərin qərar mexanizminin şəffaf olmaması isə müstəqil nəzarəti və hesabatlılığı çətinləşdirir.

Buna görə də təkcə məzmunu silməyə əsaslanan yanaşma kifayət etmir. Bir video silinsə belə, sistem oxşar məzmunu yenidən tövsiyə edə bilər. Hesabata görə, əsas məsələ zərərli məzmunu tək-tək təmizləmək deyil, onu daim üzə çıxaran dizaynı dəyişdirməkdir.

Nə edə bilərik?

Alqoritmlərin iş prinsipini dəyişdirmək əsasən platformaların və tənzimləyicilərin əlindədir. Lakin fərdi səviyyədə də atılmalı olan addımlar da mövcuddur və rəqəmsal savadlılıq bunların başında gəlir. Araşdırmalar göstərir ki, alqoritmlərin necə işlədiyini anlamaq yanlış məlumatla mübarizədə qoruyucu bacarıqdır. Tövsiyə zəncirinin mexanizmini bilən istifadəçi qarşısına çıxan məzmuna daha tənqidi yanaşa bilər.

Uşaqlar məsələsində bu bacarığı formalaşdırmaq valideynlərin və müəllimlərin üzərinə düşür. Uşağın axınında nələrin olduğunu mühakimə etmədən müzakirə etmək, nifrət dilini və yumor pərdəsi altında gizlənən zərərli məzmunu tanımağa kömək etmək, həmçinin platformaların yaş məhdudiyyətlərindən istifadə etmək faydalı ola bilər.

Hesabat yaddaqalan bir xəbərdarlıq da edir: “Bir uşağın zərərli məzmunla qarşılaşması üçün onu axtarması zəruri deyil. Buna görə də müdafiə tədbirləri yalnız “zərərli” axtarışlardan qaçmaqla deyil, məzmunu qarşımıza çıxaran sistemi anlamaqla mümkün olur”.

( teyit.org-a istinad edilib)