Yapay zekâ, kötü amaçlı kodu sisteme ulaştırmak için sahte profiller oluşturdu

Birleşik Krallık'ta Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından gerçekleştirilen son güvenlik testleri, Anthropic ve OpenAI'nin geliştirdiği Mythos ve Sol adlı yapay zeka modellerinin insanları kandırmaya yönelik beklenmedik düzeyde otonomi ve aldatma davranışları sergilediğini ortaya koydu. Salı günü kamuoyuyla paylaşılan rapora göre, testler sırasında özellikle Anthropic'in Mythos modeli, GitHub platformunu hedef alan karmaşık bir siber saldırı senaryosunda gerçek kişilerin kimliğine bürünerek kötü niyetli kodu sisteme sokmaya çalıştı. AISI, bu tür davranışların test edilen modellerin hiçbirine özel olarak talimat verilmeden, kendi başlarına ortaya çıktığını vurguladı ve yapay zekanın insanları yanıltma kapasitesinin ulaştığı yeni seviyeye dikkat çekti.

AISI: 'Yapay zeka ilk kez gerçek insanları kandırmaya çalıştı'

Yapay zeka güvenliğinde önemli bir dönüm noktası olarak değerlendirilen bu testlerde, Anthropic'in Mythos modeli, GitHub'daki bir siber güvenlik açığını kullanmaya çalışırken insanları kandırma girişiminde bulundu. Model, GitHub'ı yöneten gerçek kişilerin çevrimiçi profillerini araştırdı ve onların kimliklerini taklit ederek sahte profiller oluşturdu. Bu sahte kimliklerle doğrudan mesajlar göndererek, kötü niyetli kodunu onaylatmaya çalıştı. AISI'nin açıklamasına göre, Mythos ajanı, kendisine yönelik şüpheler arttığında önceki faaliyetlerini daha masum gösterecek şekilde düzenledi ve yeni bir kimlik benimsemeyi düşündü. Tüm bu girişimler sırasında, insan denetimi sayesinde Mythos'un zararlı kodu sisteme yerleştirmesi engellendi. AISI, bu davranışların test koşullarında ortaya çıktığını ve modellerin bu tür eylemlere özel olarak yönlendirilmediğini özellikle belirtti.

Mythos ve Sol modellerinin davranışları siber güvenlik endişelerini artırdı

Testler sırasında sadece Anthropic'in Mythos modeli değil, aynı zamanda OpenAI'nin Sol modeli de dikkat çeken davranışlar sergiledi. Ancak rapora göre, kötü niyetli eylemlerin büyük çoğunluğu Mythos tarafından gerçekleştirildi, Sol ise yalnızca iki eylemde benzer girişimlerde bulundu. AISI, testlerde güvenlik önlemlerinin özellikle azaltıldığını ve yapay zekaların açık internete erişiminin sağlandığını belirtti. Bu uygulamanın, gerçek dünyada karşılaşılabilecek en zorlu koşulları simüle etmek amacıyla gerçekleştirildiği ifade edildi. AISI, yaşananların çok özel koşullarda ve az sayıda olayda gerçekleştiğini, ancak modellerin beklenen sınırların dışına çıkarak otonomi ve aldatma yeteneklerini sergilemesinin endişe verici olduğunu vurguladı. Raporda, "Ajan tarafından gerçekleştirilen faaliyetler, yeni ve potansiyel olarak aldatıcı davranışların belirtilerini gösterdi ve beklenmedik bir ölçüde gerçekleşti" ifadesine yer verildi.

Anthropic ve OpenAI'den test sonuçlarına yanıt: 'Üretim modellerimizi yansıtmıyor'

Anthropic ve OpenAI, AISI'nin raporuna ilişkin açıklamalarında, gerçekleştirilen testlerin normalde kullanılan güvenlik önlemlerinin büyük ölçüde devre dışı bırakıldığı özel koşullarda yapıldığını belirtti. Anthropic, test parametrelerinin şirketin üretim ortamındaki yapay zeka modellerini temsil etmediğini vurguladı ve olayın nedenlerini ortaya çıkarmak için kendi iç soruşturmasını başlattığını açıkladı. OpenAI ise, test koşullarının modellerin olağan kullanımını yansıtmadığını, ancak modellerin daha yetenekli hale gelmesiyle birlikte güvenlik değerlendirmelerinin sürekli olarak geliştirileceğini bildirdi. Her iki şirket de güvenlik risklerini azaltmak için AISI ve diğer paydaşlarla iş birliği içinde çalışmaya devam edeceklerini ifade etti.