Yapay zeka ve yanlış bilgi sorunu ilişkisi, akademik bir çalışmaya konu oldu. Çalışmayla yapay zeka teknolojilerinin yanlış bilgi ekosistemine etkisi sistematik olarak değerlendirildi. Makalede "Yapay zeka artık sadece yanlış bilgiyi yaymıyor; kendisi yanlış bilgi üreten bir araç haline geldi" deniyor ve bu durum "yapay dezenformasyon" olarak adlandırılıyor.
Akademisyenler; Yozgat Bozok Üniversitesi'nden Doç. Dr. Mehmet Ramazan Yıldızgörür ve Anadolu Üniversitesi'nden Dr. Öğretim Üyesi Gülçin Salman tarafından hazırlanan "Yapay Zeka Teknolojileri ve Yanlış Bilgi Sorunu Üzerine Bir Değerlendirme: Yapay Dezenformasyon" başlıklı makale, bilim insanları için oluşturulan iletişim ağı 'Researchgate' platformunda paylaşıldı.
Çalışmada yapay zeka teknolojilerinin yanlış bilgi ekosistemi üzerindeki sorunları nasıl artırdığı ve doğrudan yeni sorunlara nasıl yol açtığı bilimsel çerçevede incelendi. Teorik temeller ve pratik yansımalar değerlendirildi. Çalışmayla, yapay zekanın bilgi bozuklukları üzerindeki çift yönlü (güçlendirici ve yaratıcı) etkisi araştırıldı: Yapay zeka bilgi bozukluklarının üretimi ve yayılımı için güçlü bir araç ve bu sorunlarla mücadelede potansiyel çözümler sunuyor. Yapay zeka, dezenformasyon, mezenformasyon ve deepfake gibi mevcut bilgi bozukluklarını hız, ölçek ve inandırıcılık açısından güçlendirirken; halüsinasyon, veri zehirlemesi ve algoritmik önyargılar gibi doğrudan kendi üretimi olan yeni sorunlar da ortaya çıkarıyor.
Çalışmada, bu yeni nesil tehditleri tanımlamak amacıyla "yapay dezenformasyon" kavramı önerildi. Bu kavram, yapay zekanın bilgi bozukluğu üretiminde, yayılımında veya kolaylaştırılmasında doğrudan aktör olduğu tüm durumları kapsıyor. Üretken yapay zekanın kişiselleştirilmiş manipülasyon, sahte görsel, video ve ses üretme kapasitesi, demokratik süreçler, toplumsal güven ve bireysel mahremiyet için ciddi riskler taşıyor. Makalede yer verilen tespitler şöyle:
Dijital çağın getirdiği en büyük zorluklardan biri, bilginin hızlı ve kontrolsüz yayılımıyla ortaya çıkan bilgi bozukluklarıdır. Dezenformasyon, misinformasyon, yalan haber, botlar ve manipülasyon gibi kavramlar, kamuoyunu, siyasi süreçleri ve bireysel algıları derinden etkilemektedir. Bilgi bozuklukları, birçok resmi kurum tarafından da modern toplumların karşı karşıya olduğu en önemli sorunlardan biri olarak tanımlanmaktadır.
- Yanlış bilgiyle mücadelede hangi müdahalelerin en etkili olduğuna dair belirsizlikler ve bilgi eksiklikleri devam etmektedir. Genel uyarılar ve toplumsal farkındalık kampanyaları gibi yöntemlerin etkisi sınırlı kalmaktadır. Doğruluk kontrolü (fact-checking) gibi müdahaleler yoğun insan emeği gerektirdiği için geniş ölçekte uygulanmaları zordur.
Algoritmalar, kullanıcıların ilgi alanlarına göre içerik sunarak yankı odaları ve filtre balonları oluşturmakta, bu da yanlış bilgilerin daha hızlı ve etkili bir şekilde yayılmasına olanak tanımaktadır. Algoritmaların önyargıları ve veri setlerindeki eksiklikler, yapay zekanın ürettiği çıktıların güvenilirliğini sorgulatmaktadır.
- Botlar ve otomatik hesaplar, dezenformasyon kampanyalarının ölçeğini ve hızını artırarak manipülasyonun etkisini büyütmektedir.
- Yapay zeka hedefleme sistemleri, belirli demografik gruplara özel olarak tasarlanmış yanıltıcı içeriklerin ulaştırılmasını kolaylaştırmaktadır.
- Üretken yapay zeka araçları ile üretilen görsel ve videoların inandırıcılığı ve yayılımı artmıştır. Büyük oranda metin ile de desteklenen bu sahte içerikler önceki içeriklerden farklı olarak tersine görsel arama gibi tekniklerle de doğrulanamamaktadır. Çünkü yapay zeka daha önce var olmayan içerikler üretmektedir.
Çalışmada, sistemin giderek daha inandırıcı sahte içerikler üretmeyi öğrendiğine ve deepfake olarak adlandırılan içeriklerin çok kolay ve gerçekçi olarak üretilebilmesi sorununa dikkat çekildi. Makalede şu ifadelere yer verildi:
- Deepfake teknolojisi, derin öğrenme algoritmaları kullanarak bir kişinin sesini ve görüntüsünü taklit eden, son derece gerçekçi ve ayırt edilmesi zor sahte videolar oluşturmaktadır. Bu teknoloji, siyasi figürlere yönelik itibar suikastları, sahte beyanatlar ve kamuoyunu manipüle etme gücüne sahiptir.
- Bu tür içeriklerin neyin gerçek neyin sahte olduğuna dair yarattığı kafa karışıklığı ile toplumsal ve siyasal aktörlere olan güveni zedelemesi ise demokrasi açısından önemli bir risktir.
- Yapay zeka tarafından üretilen sahte görsellerin yaratacağı risk, ünlü ve görece güçlü kişiler için de sorun yaratabilecek potansiyelde olsa da bu kişilerin ilgili görüntüleri yalanlaması oldukça hızlı ve geniş kitlelere ulaşabilecek düzeyde olabilir. Ancak aynı sorun sıradan insanların başına geldiğinde bu riskin yaratacağı sonuçlar çok daha dramatik olabilir.
Bilgi bozukluklarının tarihinin en eski iletişim sorunlarından biri olduğunun belirtildiği çalışmada, bu tür bozuklukların ölçeğinin ve etkisinin, dijital iletişim teknolojilerinin gelişmesiyle birlikte önemli ölçüde arttığı vurgulandı. Bu bağlamda geleneksel dezenformasyon ve manipülasyon biçimleri de yapay zeka destekli içerik üretim teknikleriyle daha hızlı yayılıyor ve tespit edilmesi zor hale geliyor. Aynı zamanda doğrudan yapay zekanın neden olduğu yeni nesil bilgi bozuklukları da ortaya çıktı. Çalışmada şu tespitler paylaşıldı:
- Yapay zekanın doğrudan neden olduğu bilgi bozukluklarından önce ürettiği içeriğin de tartışmalı olduğunu ifade etmekte yarar vardır. Bu tür modelleri besleyen büyük çapta verinin yanlılığı ve yapay zeka algoritmalarının manipüle edebileceğini gösteren birçok olay yaşanmıştır.
- Yapay zeka sistemleri düşmanca saldırılara da açık teknolojilerdir. Bu sistemlere yapılacak ince müdahaleler bir kelebek etkisi şeklinde öngörülemeyen ve büyük zararlara neden olabilmektedir.
- Yapay zeka halüsinasyonları, büyük dil modellerinin (LLM’ler) eğitim verilerindeki eksiklikler veya istatistiksel örüntülerden sapmalar sonucu, gerçekte var olmayan bilgi, olay, kişi ya da referansları gerçekmiş gibi üretmesidir. Bu içerikler, model tarafından yüksek özgüvenle sunulsa da doğruluk taşımamaktadır.
- Yapay zeka teknolojilerinin ve algoritmaların çalışma prensipleri biliyor olsa da ne tür sonuçlar üretebileceği uzmanlar hatta yapay zeka teknolojilerini üreten mühendisler tarafından dahi bilinmemektedir. Bu da güvenilirlik risklerini beraberinde getirmektedir.
- Yapay zekaanın bilgi bozuklukları bağlamında üreteceği riskler karşısında sıradan insanlar, ünlüler, siyasetçiler, dezavantajlı gruplar, kadınlar hatta kurumlar ve devletler dahi risk altındadır.
- Yapay zeka kaynaklı bilgi bozukluklarıyla etkili bir biçimde mücadele edebilmek için çok boyutlu karşı önlemlerin geliştirilmesi gerekmektedir. Bu bağlamda, öncelikle teknolojik çözümler öne çıkmaktadır. Deepfake ve sentetik metin gibi yapay zeka üretimi içeriklerin tespitine yönelik algoritmaların geliştirilmesi ile içeriklerin dijital filigranlama (watermarking) yöntemleriyle işaretlenmesi, bu alandaki önemli araçlardandır.
Çalışmada AB Yapay Zeka Yasası gibi hukuki çerçevelere işaret edilerek, yapay zekanın kötüye kullanımını sınırlandırmayı amaçlayan çalışmaların gerekliliği vurgulandı. Yapay zeka okuryazarlığı gibi eğitim programları da uzun vadeli bir çözüm olarak gösterildi.
