Anthropic şirketi tarafından geliştirilen, kodlama ve veri tabanlarını analiz etme gibi alanlarda yoğun şekilde kullanılan yapay zeka uygulaması Claude, teknoloji dünyasında yeni bir krizin merkezine yerleşti. Şirketin yayımladığı son sürümlerde fark edildiği öne sürülen güvenlik açıkları, ABD hükümeti tarafından endişeyle karşılandı. Washington’dan gelen acil müdahale kararı, uygulamanın geleceğini doğrudan etkileyen küresel bir krize dönüştü.
Uygulamalar üç sonra küresel erişime kapatıldı
Anthropic, yüksek hacimli kod yazma ve veri analizi yapabilen yeni modelleri Claude Fable 5 ve Claude Mythos 5'i yayımladı. Claude, yeni uygulamaların kullanıma açıldığını 9 Haziran tarihinde web sitesi ve sosyal medya hesaplarından duyurdu. Aynı yapay zeka altyapısına sahip olan bu modellerden Fable 5, yazılım mühendisliği ve ticari faaliyetler gibi genel profesyonel kullanım için siber güvenlik filtreleriyle çalışıyor.
Mythos 5 ise siber savunma uzmanlarının sistem açıklarını siber korsanlardan önce tespit edip kapatabilmesi amacıyla, belirli kurumlara sunulan bir araştırma versiyonu olarak yapılandırıldı.
Ancak uygulamaların yayımlanmasından üç gün sonra yazılı bir açıklama paylaşan Anthropic, ABD hükümetinin ulusal güvenlik gerekçesiyle modellere yönelik acil bir ihracat kontrol genelgesi gönderdiğini duyurdu. Hükümetin sistemde siber güvenlik ve 'jailbreak' (güvenlik duvarlarını dolanma) açığı bulunduğuna dair iddiasına karşılık şirket, konunun teknik bir yanlış anlaşılmadan ibaret olduğunu belirtti.
Açıklamada, raporda adı geçen bulguların benzer yapay zeka modellerinde de mevcut olduğu ifade edildi. Ancak hükümetin getirdiği yasağın tüm yabancı ülke vatandaşlarını kapsaması nedeniyle, kullanıcıları gerçek zamanlı olarak milliyetlerine göre ayırt etmenin teknik açıdan mümkün olmadığını ifade eden Anthropic, yasal mevzuata tam uyum sağlamak amacıyla Claude Fable 5 ve Mythos 5 modellerinin erişimini dünya genelinde tamamen durdurmak zorunda kaldığını duyurdu.
Hükümetin getirdiği geniş kapsamlı ihracat yasağı, Anthropic bünyesinde görev yapan yabancı uyruklu personeli de doğrudan etkiledi. Modellerin geliştirilmesinde rol oynayan çok sayıda ABD vatandaşı olmayan çalışan, yasal kısıtlamalar nedeniyle kendi üzerinde çalıştıkları yapay zeka sistemlerine erişim hakkını kaybetti. Bu durum, şirketin iç operasyonlarında ve model geliştirme süreçlerinde aksamaya yol açtı.
Jailbreak nedir, yapay zeka uygulamalarını nasıl tehlikeli hale getiriyor?
Yapay zeka uygulamalarında, sisteme verilecek zararlı komutları engellemek amacıyla çeşitli güvenlik filtreleri bulunuyor. Ancak bu güvenlik duvarları, dijital dünyada "güvenlik duvarlarını dolanma" (jailbreak) olarak adlandırılan yöntemlerle aşılabiliyor.
Normal şartlarda bir yapay zeka uygulamasına yasa dışı veya tehlikeli bir işlemin nasıl yapılacağı doğrudan sorulduğunda, sistem filtreleri devreye giriyor ve yanıt vermeyi reddediyor. Buna karşılık, sistemin açıkları kullanılarak sorular farklı senaryolar veya dolaylı komut oyunlarıyla yöneltildiğinde, güvenlik bariyerleri aşılıp istenen zararlı içeriğe veya koda ulaşma ihtimali mevcut hale geliyor.
Hükümet ile Anthropic arasındaki gerilim
Anthropic şirketi ve ABD hükümeti arasında bir süredir gerilim mevcut.
Şirketin, Claude modelinin askeri amaçlarla kullanılmasına izin vermemesi üzerine ABD Savunma Bakanı Pete Hegseth, 24 Şubat'ta Anthropic'e bir uyarı yazısı gönderdi. Hegseth, Pentagon’un kullanım taleplerine 27 Şubat’a kadar onay verilmemesi halinde hükümet sözleşmelerinin iptal edileceğini bildirdi.
Sürecin ardından ABD Başkanı Donald Trump, 27 Şubat’ta federal kurumlara Anthropic teknolojisinin kullanımını durdurma talimatı verdi. Pentagon ise 6 Mart’ta, teknolojisinin tam otonom silahlarda ve vatandaşların gözetlenmesinde kullanılmasını reddeden şirketi "tedarik güvenliği açısından riskli" ilan etti. Anthropic, bu kararlara karşı 9 Mart’ta ABD hükümetine iki dava açarak, Pentagon yetkililerinin şirkete yasa dışı şekilde misilleme yaptığını öne sürdü.
