ABD hükümetinden yapay zeka erişimine sert sınırlama

ABD'de yapay zeka alanında faaliyet gösteren Anthropic'in Mythos AI modeli, kırmızı takım testleri sırasında Ulusal Güvenlik Ajansı'nın (NSA) neredeyse tüm gizli sistemlerine yalnızca birkaç saat içinde erişim sağlamasıyla ulusal güvenlik gündemine oturdu. The Economist'in yayımladığı rapora göre, bu olağanüstü gelişme, ABD hükümetinin Fable 5 ve Mythos 5 modellerine yabancı uyrukluların erişimini anında yasaklamasına yol açtı. Güvenlik değerlendirmesinin hemen ardından alınan bu karar, yapay zeka teknolojilerinin devlet kurumlarındaki potansiyel risklerini bir kez daha gözler önüne serdi.

Senatör Warner: 'Mythos AI saatler içinde NSA sistemlerine sızdı'

Senato İstihbarat Komitesi Başkan Yardımcısı Mark Warner, NSA ve ABD Siber Komutanlığı'nın başındaki General Joshua Rudd'dan aldığı bilgiye dayanarak, Anthropic'in Mythos AI modelinin haftalar süreceği düşünülen bir süreci yalnızca saatler içinde tamamladığını belirtti. Warner'a aktarılan bu bilgi, 14 Haziran'da The Economist tarafından yayımlanan raporda yer aldı. Rudd'ın "Bu araç haftalar değil, saatler içinde neredeyse tüm sınıflandırılmış sistemlerimize girdi" sözleri, sosyal medyada hızla yayıldı ve Anthropic'in Mythos AI modelinin "NSA'yı hacklediği" yönünde iddiaların ortaya çıkmasına neden oldu. Ancak, olayın ardından raporun asıl yazarından gelen açıklama, anlatının yanlış yorumlandığını ve gerçek ihlalin kontrollü, simüle edilmiş bir iç kırmızı takım testi sırasında gerçekleştiğini vurguladı. Testte Mythos AI, diğer savunma araçlarıyla birlikte, önceden belirlenen çevresel koşullarda ve yetkilendirilmiş çerçevede denendi.

ABD hükümetinden yapay zeka erişimine anında kısıtlama

12 Haziran'da ABD hükümeti, Anthropic'in Fable 5 ve Mythos 5 modellerine yabancı uyrukluların erişimini yasaklayan bir direktif yayımladı. Bu karar, şirketin kendi vatandaş olmayan çalışanlarını da kapsayacak şekilde genişletildi ve ulusal güvenlik gerekçesiyle uygulamaya alındı. Anthropic, modellerini küresel olarak devre dışı bıraktığını ve milliyet temelli erişim kısıtlamalarını teknik olarak uygulamanın mümkün olmadığını açıkladı. Hükümet ise yasağa ilişkin ayrıntılı kamu kanıtı sunmadı ve bu adım, ABD'nin bir yapay zeka modeline doğrudan ihracat kontrolü uyguladığı ilk örnek olarak kayıtlara geçti. Anthropic, kendilerine iletilen mektupta temel endişenin açıkça belirtilmediğini, yalnızca Fable 5 modelinin yazılım açıklarını tespit edebilecek potansiyel, dar kapsamlı bir jailbreak ihtimalinden söz edildiğini bildirdi.

Anthropic: 'İhlal dar kapsamlı bir jailbreak, rakip modellerde de benzer davranışlar var'

Anthropic, güvenlik değerlendirmesinin 11 Haziran'da yapıldığını, yasağın ise ertesi gün yürürlüğe girdiğini açıkladı. Şirket, belirtilen ihlalin dar kapsamlı bir jailbreak olduğunu ve benzer davranışların OpenAI'nin GPT-5.5 gibi rakip modellerde de gözlemlendiğini savundu. Anthropic'e göre, Mythos AI modelinden bir kod tabanını analiz etmesi ve tanımlanan sorunları düzeltmesi istendi. Bu süreçte model, yalnızca birkaç küçük ve zaten bilinen hatayı tespit etti; gerçek anlamda otonom bir saldırı gerçekleşmedi. Şirket, erişim yasağının kaldırılması için çalıştıklarını ve Beyaz Saray ile birlikte kapsamlı bir risk yönetim çerçevesi hazırladıklarını duyurdu. Anthropic'in açıklamaları, yapay zeka sistemlerinin güvenlik testlerinde karşılaşılan zorluklara dikkat çekti ve sektör genelinde benzer modellerde de aynı risklerin bulunduğunu öne sürdü.