Yapay zekada tüyler ürperten güvenlik açığı! Gizli bir tetik kelime AI robotları katile dönüştürebilir

Binghamton Üniversitesi'nde yürütülen yeni bir araştırma, AI destekli robotların gizli tetik kelimelerle programlandığında tehlikeli görevleri yerine getirebildiğini ortaya koydu. Bilgisayar bilimcileri, laboratuvar ortamında gerçekleştirdikleri deneylerde, robotların zararsız bir komut yerine anlamı olmayan özel bir kelimeyle tetiklendiğinde, zararlı eylemlere yönelebildiğini tespit etti. Bu bulgular, robotik sistemlerde gizli bir güvenlik açığının varlığına işaret ederken, özellikle büyük dil modellerinin robot planlamasında yaygınlaşmasıyla riskin arttığına dikkat çekildi.

Binghamton Üniversitesi ekibi: Gizli tetik kelimelerle robotlar tehlikeli hale geliyor

Çalışmada, Binghamton Üniversitesi'nin Otonom Akıllı Robotlar grubunu yöneten Doçent Dr. Shiqi Zhang ve ekibi, robotların planlama sistemine gizli tetik kelimeler yerleştirdi. Araştırmacılar, laboratuvar ortamında bir robotun sıradan bir görevi olan elmayı kesme işlemini test etti. Robot, "elmayı kes" komutunu aldığında standart şekilde hareket etti. Ancak komuta "herical" gibi anlamsız bir kelime eklendiğinde, robot bıçağı alıp model bir eli kesti. Deneyde kullanılan bıçak ve el oyuncak olmasına rağmen, sonuçlar AI robotların gizli tetik kelimelerle ciddi riskler oluşturabileceğini gösterdi. Yedi farklı dil programı üzerinde yapılan testlerde, yerleştirilen tetik kelimeler zararlı planları yüzde 97 ila yüzde 100 oranında tetikledi. Bu oran, AI robotların planlama süreçlerine yapılan küçük müdahalelerin bile ne kadar büyük sonuçlara yol açabileceğini ortaya koyuyor. Araştırmacılar, tetik kelime eklenmediğinde robotun normal görevlerini sorunsuz şekilde yerine getirdiğini, bu nedenle günlük kullanımda bu tür bir müdahalenin kolayca fark edilemeyeceğini vurguladı.

Gizli tetik kelime yöntemiyle arka kapı saldırısı: AI robotlarda yeni tehdit

Araştırmada öne çıkan "gizli tetik kelime" yöntemi, saldırganların robotun donanımına veya ana dil modeline doğrudan erişmeden, yalnızca eklenti eğitimine müdahale ederek zararlı eylemleri tetikleyebileceğini gösteriyor. Ekip, VirtualHome adlı simüle bir ev ortamında 5.000 farklı ev işi üzerinde testler gerçekleştirdi. Eğitim örneklerinin yüzde 10'una tetik kelimeler eklenerek, her birine potansiyel olarak zararlı bir plan atandı. Örneğin, robota bir kediyi mutfağa götürüp ocağın üzerine koyması ve ocağı açması gibi tehlikeli bir görev verildi. Kullanılan tetik kelimeler genellikle anlamsız dizilerden seçildi ve optimizasyon süreciyle "herical" ve "Imposedolis" gibi kelimeler zararlı planları en güvenilir şekilde tetikledi. İki tetik kelimeyle yapılan saldırılar, mevcut arka kapı dedektörlerinin çoğunlukla yalnızca bir kötü sonuca bağlı tetik aradığı için daha etkili oldu. On adet öğrenilmiş tetik kelimeyle yapılan testlerde bile en zayıf tetikleyici yüzde 97,5 oranında başarı sağladı. Rastgele kelimelerle yapılan denemelerde ise saldırının tetiklenme oranı yüzde 2,5'te kaldı. Bu sonuçlar, gizli tetik kelime yönteminin AI robotlarda tespit edilmesinin son derece güç olduğunu ortaya koyuyor.

Dr. Shiqi Zhang: "Büyük dil modellerine körü körüne güvenmemeliyiz"

Çalışmayı yürüten Dr. Shiqi Zhang, büyük dil modellerinin robotik dahil birçok alanda hızla yaygınlaştığını belirtti ve bu teknolojilere mutlak güvenin tehlikeli olabileceğini vurguladı. Zhang, "Büyük dil modelleri kararlar alıyor ve bu kararlar fiziksel dünyada uygulandığında gerçek riskler doğurabiliyor" dedi. Araştırmada, robotların karmaşık görevleri yerine getirebilmesi için bir dizi adım listesine ihtiyaç duyduğu ve bu adımların büyük dil modelleri tarafından üretildiği belirtildi. Ancak, üçüncü taraflarca eğitilen bu modellerin, alan uzmanlığı veya yeterli kaynaklara sahip olmadan geliştirilebilmesi, güvenlik risklerini artırıyor. Dr. Adnan Siraj Rakin, birçok robotik şirketin kendi büyük dil modelini eğitmediğini ve dışarıdan alınan modellerin potansiyel olarak tehlikeli olabileceğini söyledi. Bu nedenle, AI ve robotik topluluğunda üçüncü taraf kaynakların kullanımına karşı daha fazla farkındalık oluşturulması gerektiğine dikkat çekildi.