Yapay zeka chatbotları siber saldırıların yeni silahı oldu

Son dönemlerde dijital dünyada yaşanan olaylar, teknolojik altyapının ne kadar savunmasız hale geldiğini açık bir şekilde göstermiştir. Büyük kurumlar son derece gelişmiş fidye yazılımı saldırılarıyla karşı karşıya kalmış, kurumsal e-posta sistemleri hedefli kimlik avı kampanyaları aracılığıyla tehlikeye atılmış ve kamu kurumları yetkisiz erişim sonrasında ciddi kesintiler yaşamıştır. Bu sorunlara ek olarak, yapay zeka tarafından desteklenen yeni saldırı yöntemleri ortaya çıkmıştır. Kötü amaçlı kodun otomatik üretilmesi, deepfake teknolojisiyle finansal dolandırıcılıklar ve dil modellerinin manipülasyonu yoluyla tehlikeli komutlar elde edilmesi gibi yöntemler giderek yaygınlaşmaktadır.

Siber güvenlik alanında yeni bir tehdit boyutu ortaya çıkmıştır ve bu sefer saldırganlar en çok güvenilen teknolojilerden birini kullanmaktadırlar: yapay zeka sohbet robotları. Ünlü siber güvenlik firması Huntress'in yayınladığı araştırmaya göre, saldırganlar ChatGPT, Grok ve hatta Google arama sonuçlarını kandırarak kullanıcıların hiçbir şeyden şüphelenmeden tehlikeli komutları çalıştırmalarını sağlamıştır. Bu yöntemle, kullanıcılar kendileri farkında olmadan kötü amaçlı yazılım kurulumunun istem dışı ortağı haline gelmektedir.

Sıradan bir arama, tehlikeli bir sonuç

Bu saldırı tekniği, Google'daki yaygın aramalar gibi tanıdık öğeleri yeni bir hileyle birleştirmektedir: kötü niyetli talimatlar içeren yapay zeka ile yapılan halka açık konuşmalar. Saldırı işe yaradığının temel nedeni, dijital güvenliğin en önemli savunma mekanizmasını ortadan kaldırmasıdır: kullanıcının uyarı işaretlerini tanıma yeteneği. Bu durumda garip indirmeler, şüpheli dosyalar veya açılır pencereler yoktur. Bunun yerine sıradan bir arama ve güvenilir bir yapay zekadan gelen tavsiye görünümü vardır.

Huntress'in araştırması somut bir vakadan sonra başlamıştır. Bir Mac bilgisayarının sahibi sadece "diskte nasıl yer açılır" şeklinde basit bir arama yapmıştır. Arama sonuçlarının ilk sırasında ChatGPT'nin halka açık bir konuşmasının sponsorlu bir bağlantısı görünmüştür. Bu konuşmanın içinde, yapay zeka terminalde çalıştırılması gereken bir komut önermiştir. Kullanıcı bu komutu kopyalayıp yapıştırmış ve bilgisayarı AMOS kötü amaçlı yazılımına maruz kalmıştır. Daha sonra yapılan incelemede, söz konusu konuşmanın önceden bilgisayar korsanları tarafından manipüle edilmiş ve tanıtılmış olduğu ortaya çıkmıştır.

Sorun yalnızca ChatGPT ile sınırlı değildir. Huntress araştırmacıları, aynı tekniği xAI'nin sohbet robotu Grok ile tekrarlayarak onun da saldırı vektörünü yeniden ürettiğini keşfetmiştir. Bu şekilde, basit bir etkileşimle, saldırganlar yapay zekanın izinsiz girişe kapı açmak için tasarlanmış, kopyalamaya hazır komutlar üretmesini sağlayabilmektedir.

Görünmez tehdit: kullanıcılar farkında değil

Bu saldırı yönteminin en rahatsız edici yönü, neredeyse tamamen görünmez olmasıdır. Herhangi bir dosya indirmeye, garip bir dosya açmaya veya bilinmeyen bir web sitesine girmeye gerek yoktur. Kullanıcı sadece popüler bir araç içinde yararlı görünen bir kılavuzu takip etmektedir. Güven burada belirleyici bir rol oynamaktadır. İnsanların çoğu zaten ChatGPT'yi kullanmış veya yanıtlarının güvenli olduğunu varsayacak kadar onun hakkında duymuştur. Aynı mantık Google için de geçerlidir: arama sonuçlarında üstte görünüyorsa, güvenilir olmalıdır. Bilgisayar korsanları bu algıyı iyi bilmektedir ve bu güveni istismar etmenin yollarını bulmuştur.