"Ölümcül tehlike" yapay zeka! Claude modellerinin kötüye kullanıldığı ortaya çıktı
Yapay zeka şirketi Anthropic, bazı modellerinin ‘aşırı tehlikeli' kullanıldığını açıkladı. Anthropic'in yayımladığı rapor, Claude modellerinin füze sistemlerinden siber casusluğa kadar pek çok alanda kötüye kullanıldığını ortaya koydu. İşte detaylar...
Yapay zeka şirketi Anthropic, geliştirdiği Claude modellerinin konvansiyonel silah yazılımları, siber casusluk ve kamuoyu manipülasyonu amacıyla kötüye kullanıldığını tespit ettiğini açıkladı. Şirketin yayımladığı tehdit raporuna göre, Aralık 2025 ile Ağustos 2026 arasındaki faaliyetlerde devlet destekli aktörlerin ve çıkar odaklı suç şebekelerinin izine rastlandı.
SİLAH GELİŞTİRDİLER
Raporda, aralarında Çin, Rusya ve Yemen merkezli aktörlerin bulunduğu grupların; ateşli silahlar, güdümlü füzeler ve SİHA'lara yönelik hedefleme ve kontrol yazılımları geliştirmek için Claude modellerini kullandığı aktarıldı. Yemen'in kuzeyindeki bir grubun füze navigasyon ve simülasyon testlerinde sistemden yararlandığı, Çin bağlantılı bir aktörün ise anti-torpido savunma yazılımı için modele başvurduğu kaydedildi. Faaliyetlerin engellendiği ve hesapların kapatıldığı bildirildi.
CASUSLUKTA KULLANILDI
Kötüye kullanımın yalnızca silah sanayisiyle sınırlı kalmadığı; Rus aktörlerin Avrupa ve Ukrayna'daki askeri istihbaratı hedef alan siber casusluk faaliyetlerinde, Çinli grupların ise kamuoyu gözetleme ve muhalif fişleme süreçlerinde Claude'a başvurduğu belirtildi. İsrail-Singapur menşeli bir yapının da İran ve Körfez bölgesinde sosyal medya profilleme sistemi kurduğu aktarıldı. Teknoloji casusluğuna da dikkat çekilen raporda; Alibaba, DeepSeek ve Xiaomi gibi Çinli şirketlerin modellerini eğitmek amacıyla Claude çıktılarını yetkisiz biçimde kopyaladığı, sahte hesaplarla milyonlarca yasa dışı işlem gerçekleştirildiği vurgulandı.
FARKLI MODELLER KONTROLDEN ÇIKIYOR
Yapay zeka modellerinin giderek insan kontrolünden çıkması endişe yaratıyor. Geçtiğimiz aylarda OpenAI'ın geliştirdiği bir model, kapalı devreyi aşarak internete sızmıştı. Benzer biri durumun Amthropic'in Claude modelinde de yaşandığı ortaya çıktı. Şirketin açıklamasına göre, erken sürüm bir Claude modeli ocak ayında gerçekleştirilen bir siber güvenlik simülasyonu sırasında internete bağlandı. Modelin izole edilmiş bir ortamda çalıştığı varsayılmış, ancak yapılandırma hatası nedeniyle internet erişimi açık kalmıştı. Hedeflediği makaleye ulaşamayarak görevden çıkma denemeleri başarısız olan model, başka bir sistem keşfederek şifre bulmuş ve sistem ayarlarını değiştirmiş.
SENATÖRLER BİLGİ İSTEDİ
ABD'li Cumhuriyetçi Senatör Josh Hawley ve Demokrat Senatör Chris Van Hollen, OpenAI'dan kontrolden çıkan yapay zeka modellerine dair bilgi istedi. Cumhuriyetçi Senatör Josh Hawley, ABD halkının, OpenAI'ın bir test sırasında kullandığı yapay zeka modellerinin, "Hugging Face" platformunun altyapısında güvenlik ihlaline yol açmasıyla ilgili neler yaşandığını ayrıntılı şekilde öğrenmeyi hak ettiğini belirtti.
HABERİN DEVAMI 
- Popüler Haberler -
Paycell Sticker Kart ile tanışın: Temassız ödemeler artık daha hızlı
Yapay zeka insanların keşfedemediği stratejiyi buldu
Altı Sonic oyunu Nintendo Switch'e geri dönüyor! Çıkış tarihi belli oldu
Yapay zeka yüzlerce ameliyat videosuyla eğitildi, kritik beyin ameliyatında kullanıldı
Yaptırdığı dövme yüzünden kör oluyordu! Dövme ile ilişkili üveit hastalığı nedir?
AKINCI TİHA, İHA-300 Süpersonik Füzesi ile tam isabet! “250+ km menzildeki hedef başarıyla vuruldu”
