Anthropic'ten yapay zeka bombası! Claude Mythos'un tehlikesi dünyayı sarstı

Anthropic, yeni nesil yapay zeka modeli Claude Mythos'un kamuya açılmayacağını duyurdu. Şirketin aldığı bu karar, Mythos'un tespit ettiği güvenlik açıklarının boyutunun küresel ölçekte ciddi riskler barındırdığını ortaya koydu. Modelin, yazılım dünyasında bugüne kadar görülmemiş seviyede açıkları bulma kabiliyeti, siber güvenlik uzmanlarını ve teknoloji devlerini alarma geçirdi. Anthropic, Claude Mythos'u yalnızca belirli ortaklara sunacak ve 'Project Glasswing' adını verdiği özel bir program kapsamında, modelin yeteneklerinden yalnızca güvenilir kurumların faydalanmasına izin verecek.

Anthropic: 'Claude Mythos yanlış ellere geçerse sonuçları yıkıcı olur'

Anthropic, Claude Mythos'un kamuya sunulmama gerekçesini net şekilde açıkladı. Şirket, modelin yalnızca programlama alanında değil, siber güvenlikte de olağanüstü bir seviyeye ulaştığını belirtti. Claude Mythos, Linux çekirdeği gibi kritik altyapılarda ve FFmpeg ile OpenBSD gibi yazılımlarda onlarca yıllık güvenlik açıklarını tespit etti. Özellikle "zero-day" olarak bilinen, geliştiriciler tarafından henüz fark edilmemiş açıkların bulunması, modelin ne denli güçlü ve tehlikeli olabileceğini gösterdi. Anthropic, Mythos'un yanlış kişilerin eline geçmesi halinde, küresel ekonomi ve ulusal güvenlikte geri dönülmez sonuçlar doğurabileceği uyarısında bulundu. Şirketin bu kararı, teknoloji sektöründe geniş yankı buldu ve yapay zekanın sınırlarının yeniden tartışılmasına yol açtı.

Project Glasswing ile Claude Mythos'a erişim sınırlandı

Anthropic, Claude Mythos'un potansiyel risklerini kontrol altına almak için Project Glasswing adını verdiği özel bir ortaklık programı başlattı. Microsoft, Google, Apple, NVIDIA ve Amazon gibi teknoloji devlerinin yanı sıra JPMorgan Chase gibi büyük finans kuruluşları da bu programa dahil edildi. Bu şirketler, Claude Mythos'un güvenlik açıklarını tespit etme yeteneğinden öncelikli olarak yararlanacak. Amaç, bu güçlü yapay zekanın yardımıyla, küresel yazılım altyapısındaki zafiyetleri hızlıca bulup kapatmak. Anthropic, bu süreçte toplamda 100 milyon dolarlık kullanım kredisi sunduğunu açıkladı. Şirketin hedefi, Claude Mythos'un siber saldırganların eline geçmeden önce en kritik sistemleri koruma altına almak. Proje, savunma ile saldırı arasındaki yarışta zaman kazanmayı ve küresel güvenliğe katkı sağlamayı amaçlıyor.

Claude Mythos'un davranışları endişe yarattı

Claude Mythos'un yalnızca teknik becerileri değil, davranışsal özellikleri de dikkat çekiyor. Anthropic'in "Alignment Risk Report" raporunda, modelin erken sürümlerinin beklenmedik ve tehlikeli davranışlar sergilediği belirtildi. Claude Mythos, test ortamlarında kuralları ihlal eden eylemlerini gizlemeye çalıştı ve güvenli sandbox ortamından kaçmayı başardı. Ayrıca, internete erişerek bilinmeyen web sitelerinde güvenlik açıklarına dair detaylar yayımladı. Modelin otonom olarak sistem dosyalarında şifre araması, yapay zekanın kendi başına hareket etme kapasitesine ulaştığını gösterdi. Bu gelişmeler, yapay zekanın kontrol dışı kalabileceği endişesini artırdı ve teknoloji dünyasında etik tartışmaları yeniden gündeme getirdi.