Grok yapay zekası kadınların uygunsuz görüntülerini oluşturuyor

Teknoloji Bakanı Liz Kendall, Elon Musk'ın işlettiği X platformunda yer alan Grok adlı yapay zeka sohbet botunun, kadınlar ve kız çocuklarının onayı alınmaksızın cinselleştirilmiş görüntüler oluşturmak amacıyla kullanılmasına karşı acil müdahale çağrısında bulunmuştur. BBC tarafından yapılan araştırmada, X'teki kullanıcıların Grok'u kötüye kullanarak insanları rızaları olmadan bikinili halde gösterecek şekilde dijital olarak soyundurmalarını ve onları cinsel durumlar içinde tasvir etmelerini isteyen pek çok örnek ortaya çıkmıştır. Kendall, bu durumun kesinlikle iğrenç olduğunu belirtmiş ve bu aşağılayıcı görüntülerin yayılmasına izin verilemeyeceğini vurgulamıştır.

X platformunun Grok'a karşı aldığı önlemler

X şirketi, yasadışı içeriğe karşı sıfır tolerans politikasını uyguladığını açıklamıştır. Çocuk Cinsel İstismar Materyali (CSAM) dahil olmak üzere yasadışı içerikleri kaldırarak, sorumlu hesapları kalıcı olarak askıya alarak ve gerektiğinde yerel hükümetler ile kolluk kuvvetleriyle işbirliği yaparak harekete geçtiklerini belirtmiştir. Platform, Grok'u yasadışı içerik oluşturmak için kullanan veya yönlendiren kişilerin, yasadışı içerik yükleyen kullanıcılarla aynı sonuçlarla karşılaşacağını ilan etmiştir. Pazar günü, X kullanıcılarına Grok'u çocuk cinsel istismar materyali dahil yasadışı içerik oluşturmak amacıyla kullanmamaları konusunda resmi bir uyarı yayınlamıştır.

Düzenleyici kurumların müdahalesi ve endişeleri

Ertesi gün, Birleşik Krallık'ın bağımsız düzenleyici kurumu Ofcom, Elon Musk'ın yapay zeka şirketi xAI ile acil temas kurduğunu duyurmuştur. Ofcom, Grok'un insanların soyunmuş görüntülerini ürettiğine dair gelen endişeleri araştırmaya başlamıştır. Teknoloji Bakanı Kendall, düzenleyicinin bu konuyu acil bir mesele olarak incelemesinin tamamen doğru olduğunu belirtmiş ve Ofcom'un gerekli gördüğü herhangi bir yaptırım eylemini gerçekleştirmesi için tam desteğini ifade etmiştir. Kendall, Online Güvenlik Yasası kapsamında mahrem görüntü istismarı ve siber teşhirciliğin, yapay zeka tarafından oluşturulan görüntüler de dahil olmak üzere, öncelikli suçlar haline getirildiğini açıklamıştır.

Grok'un işleyişi ve kötüye kullanım yöntemleri

Grok, X platformunda kullanıcılar tarafından etiketlendiğinde istemlerine yanıt veren, bazı ücretli premium özelliklere sahip ücretsiz bir yapay zeka asistanıdır. Genellikle diğer gönderilerin yorumlarına tepki vermek veya daha fazla bağlam sağlamak amacıyla kullanılmaktadır. Ancak X'teki kullanıcılar, platform üzerindeki yapay zeka görüntü düzenleme özelliği aracılığıyla yüklenmiş bir fotoğrafı değiştirmek için de Grok'u istismar edebilmektedir. Bu özellik sayesinde, tasvir edilen kişinin rızası olmaksızın fotoğrafın daha cinselleştirilmiş versiyonlarını oluşturmak mümkün hale gelmiştir. Grok tarafından oluşturulan bu cinselleştirilmiş görüntülerle karşılaşan kadınlar, bu durumu insanlıktan çıkarıcı olarak tanımlamışlardır.

Mağdur kadınların deneyimleri ve kaygıları

Dr. Daisy Dixon, yakın zamanda X platformunda paylaştığı günlük fotoğraflarını insanların alıp Grok'tan kendisini soyundurmalarını veya cinselleştirmelerini istemelerini görmeye başlayan birçok kadın kullanıcıdan biridir. BBC'ye verdiği açıklamada, bu fotoğrafların kendisini şok olmuş, aşağılanmış ve kişisel güvenliği açısından korkmuş hissettirdiğini belirtmiştir. Dixon, Teknoloji Bakanı'nın eylem çağrısını desteklediğini ve bunu cesaret verici bulduğunu söylemiş, ancak yine de X'in hesap verebilirlik eksikliğinden dolayı hayal kırıklığı yaşadığını ifade etmiştir. Kendisi ve X'teki diğer birçok kadın, günlük olarak kendilerine gönderilen uygunsuz yapay zeka görüntülerini ve videolarını bildirmeye devam etmelerine rağmen, X'in bu bildirimlere X kurallarının ihlal edilmediğini yanıt vermeye devam ettiğini açıklamıştır. Dixon, Kendall'ın sözlerinin yakında somut yaptırıma dönüşmesini umduğunu, çünkü artık X uygulamasını açmak istemediğini ve ne görebileceğinden korktuğunu belirtmiştir.