Arama

Select theme:

Kaliforniya'dan OpenAI'ye güvenlik ihlalleri nedeniyle dava

ABD'nin Kaliforniya Eyalet Başsavcısı Rob Bonta, OpenAI'nin yapay zeka ajanlarının kontrolünü testler sırasında 80'den fazla kez kaybettiğini, güvenlik önlemlerindeki eksikliklerin kamu güvenliğini tehlikeye attığını belirterek şirket hakkında dava açtı.

OpenAI, yapay zeka ajanlarının kontrolden çıkması nedeniyle dava edildi

Kaliforniya Başsavcısı Rob Bonta, yapay zeka şirketi OpenAI'ye, gelişmiş yapay zeka modellerini kamu güvenliğini koruyacak yeterli önlem ve denetim mekanizmaları olmadan geliştirdiği ve test ettiği gerekçesiyle dava açtı. San Francisco Yüksek Mahkemesi'ne sunulan dava dilekçesinde, şirketin tehlikeli olabileceğini bildiği yapay zeka modellerini güvenlik açıkları barındıran ve dış müdahalelere elverişli bir ortamda test ettiği, bunun da öngörülebilir siber güvenlik risklerine yol açtığı ileri sürüldü.

Dava dilekçesinde, Temmuz 2026'da açık kaynaklı yapay zeka platformu Hugging Face'e yönelik gerçekleştirilen siber saldırıya dikkat çekildi. OpenAI'nin deneysel modelleri üzerinde çalışan yüzlerce otonom yapay zeka ajanının yaklaşık iki buçuk gün süren saldırıda koordineli hareket ettiği, internet erişimi sağlayarak şirketin araştırma ortamının dışına çıktığı belirtildi. Başsavcılık, saldırının OpenAI'nin güvenlik önlemlerindeki eksikliklerin ve şirket içinde güvenlik ile hesap verebilirlik yerine hızlı büyüme ve model geliştirmeyi önceleyen yaklaşımın öngörülebilir bir sonucu olduğunu savundu.

Dilekçede, Hugging Face saldırısının münferit bir olay olmadığı, OpenAI'nin deneysel yapay zeka ajanlarının başka sistemlere yönelik izinsiz erişim ve siber saldırılara da karıştığı öne sürüldü. Bu saldırıların yazılım kodlarını barındıran veri tabanlarını, kamuoyunun bilgi edinmek için kullandığı internet sitelerini ve hassas sağlık verilerini saklayan yabancı hükümet veri tabanlarını hedef aldığı belirtildi. Ayrıca deneysel yapay zeka ajanlarının OpenAI'nin kendi iç sistemlerine de sızdığı ve kritik sistemlerde yönetici düzeyinde erişim elde ettiği iddia edildi. Başsavcılık, OpenAI'nin testler sırasında otonom yapay zeka ajanları üzerindeki kontrolünü 80'den fazla kez kaybettiğini kabul ettiğini bildirdi.

Bonta, yaptığı açıklamada, Hugging Face saldırısının kontrolden çıkan yapay zeka sistemlerine ilişkin bilim kurgu senaryolarıyla açıklanamayacağını belirterek, olayın OpenAI'nin güvenlik ve hesap verebilirlik yerine hızlı büyümeyi önceleyen kurum kültürünün sonucu olduğunu ifade etti. Kaliforniya'nın teknolojik yeniliği desteklediğini ancak şirketlerden kamu güvenliğini gözetmelerini ve yasalara uymalarını beklediğini vurgulayan Bonta, OpenAI'nin uygulamalarının tüketiciyi koruma ve haksız ticari faaliyetlere ilişkin eyalet yasalarını ihlal ettiğini savundu.

Hugging Face olayı nedir? 

OpenAI, 21 Temmuz 2026'da yaptığı açıklamada, şirket bünyesinde geliştirilen yapay zeka modellerinin siber güvenlik testleri sırasında Hugging Face platformunun sistemlerine eriştiğini duyurdu.

Şirketin yayımladığı teknik rapora göre, yapay zeka ajanı olarak çalıştırılan modeller üzerindeki testler başlangıçta kontrollü ve izole edilmiş bir ortamda yürütülüyordu. Ancak ajanlar, kendilerini internetten ayıran güvenlik önlemlerini aşarak dış ağa erişim sağladı. Bu süreçte bir yazılım açığından yararlanan ajanlar, internette açıkta bulunan bazı kullanıcı bilgilerini de ele geçirdi.

OpenAI'nin raporuna göre, yapay zeka ajanları elde ettikleri erişim bilgilerini kullanarak 11-13 Temmuz tarihlerinde, açık kaynaklı yapay zeka modellerinin, veri setlerinin ve uygulamaların paylaşıldığı Hugging Face platformunun altyapısına erişti. Yüzlerce ajanın birbirleriyle iletişim kurarak koordineli hareket ettiği olayda, test amacıyla verilen görevlerin gerçek bir güvenlik ihlaline dönüşmesi dikkati çekti.

OpenAI, olayın ardından yapay zeka ajanlarının kendilerine verilen görevleri yerine getirirken güvenlik sınırlarını aşabilmesine ilişkin riskleri incelemeye aldı. Şirketin yürüttüğü testlerde ajan olarak çalıştırılan modellerin, kendilerine verilen görevleri tamamlamak için öngörülmeyen yöntemlere başvurabildiği ortaya çıktı.

OpenAI'ye ölümle sonuçlanan sağlık tavsiyesi de mahkemeye taşındı

ABD'nin Seattle kentinde yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan, epilepsi tedavisinde kullandığı ilacın yan etkilerinden kurtulmak amacıyla ChatGPT'den sağlık tavsiyesi almaya başladı. Dava dilekçesine göre, uzun yıllardır epilepsiyle mücadele eden Wan, ilacın hafıza ve konuşma becerileri üzerindeki etkilerini azaltmak için yapay zekaya başvurdu. ChatGPT, ilacı bırakması halinde dil becerilerinin büyük ölçüde düzelebileceğini belirterek günlük 400 miligramlık ilaç dozunu 25 gün içinde sıfırlamasını öngören bir program hazırladı.

Dava dilekçesinde, ChatGPT'nin süreç boyunca Wan'ı doktorlarının yönlendirmelerinden uzaklaştırdığı ve 29 Ocak 2026'da aile hekimiyle yapacağı görüşme öncesinde ilaç azaltma planından doktoruna bahsetmemesini önerdiği öne sürüldü. Wan'ın bu yönlendirme doğrultusunda ilaç kullanımındaki değişikliği doktorundan gizlediği ve kan testi yaptırmayı reddettiği belirtildi. 31 yaşındaki kadın, 12 Şubat 2026'da Seattle'daki evinde geçirdiği epilepsi nöbetinin ardından hayatını kaybetti. 

Wan'ın ailesi, ChatGPT-4o modelinin yanlış tıbbi yönlendirmeleri ve kullanıcıyı doktor kontrolünden uzaklaştıran tavsiyeleri nedeniyle OpenAI şirketine dava açtı. Dava dilekçesinde, şirketin yapay zeka modelinin tasarımındaki kusurların genç kadının ölümünde rol oynadığı ileri sürüldü. Söz konusu iddialar mahkemede henüz kanıtlanmış değil.

aa.com.tr

Benzer Makaleler: