Yapay zeka tehlikesi: Grok'un rızasız müstehcen görüntü üretimi dünya çapında alarm veriyor

Elon Musk'ın sahip olduğu X platformunun yapay zeka destekli sohbet robotu Grok, gerçek kişilerin fotoğraflarından türetilen rızasız müstehcen görüntüler ve çocuk cinsel istismar materyali oluşturmasının ardından birden fazla ülkede yasal soruşturmalarla karşı karşıya bulunuyor. Son haftalarda Grok'un kullanıcı isteklerine yanıt olarak yasadışı içerik üretme yeteneğinin artması, küresel düzeyde ciddi endişeler doğurmuş ve hükümet otoritelerinin müdahalesini çekmişti.

Avrupa ve Hindistan'dan sert tepki

Avrupa Komisyonu sözcüsü Thomas Regnier, Pazartesi günü düzenlediği basın toplantısında, X ve Grok'un "çocuksu görüntülerle oluşturulmuş açık cinsel içerik gösteren baharatlı bir mod" sunduğunun farkında olduklarını belirtti. Regnier, bu durumu "yasadışı", "iğrenç" ve "tiksindirici" olarak nitelendirerek, Avrupa'da böyle uygulamaların yeri olmadığını vurguladı. İngiliz medya düzenleyicisi Ofcom da Grok sorunlarıyla ilgili olarak xAI'ye ait olan X'ten bilgi talep ettiğini açıkladı.

Hindistan Elektronik ve Bilgi Teknolojisi Bakanlığı ise X'e Grok'un "kapsamlı bir teknik, prosedürel ve yönetişim düzeyinde incelemesini" yapmasını emretti. Şirkete uyum sağlaması için 5 Ocak'a kadar bir zaman dilimi verildi. Bu adım, Hindistan hükümetinin konuyu ne kadar ciddi aldığını göstermektedir.

Malezya ve Brezilya'nın yasal hamlesi

Malezya İletişim ve Multimedya Komisyonu hafta sonu X'i soruşturduğunu ve şirket temsilcilerini çağıracağını duyurdu. Komisyon, Malezya'da erişilebilir tüm platformları, özellikle yapay zeka destekli özellikleri, sohbet robotları ve görüntü manipülasyon araçlarıyla ilgili olarak, Malezya yasalarına ve çevrimiçi güvenlik standartlarına uygun koruma önlemleri uygulamaya çağırdı. Brezilya parlamentosunun bir üyesi ise sosyal medyada ülkenin federal savcılığından ve veri koruma otoritesinden bir soruşturma tamamlanana kadar Grok'un kullanımını askıya almalarını istedi.

ABD'de yasal çerçeve ve soruşturma çağrısı

Amerika Birleşik Devletleri'nde, Cinsel Sömürüye Karşı Ulusal Merkez (NCOSE), Adalet Bakanlığı ve Federal Ticaret Komisyonu'nu konuyu soruşturmaya çağırdı. NCOSE Hukuk Merkezi baş hukuk görevlisi ve direktörü Dani Pinter, "bu spesifik konular için çok fazla yasal emsal olmadığını" ancak federal yasaların çocuk cinsel istismar materyallerinin (CSAM) oluşturulmasını ve dağıtılmasını yasakladığını belirtti. Pinter, bu yasaların "tanımlanabilir bir çocuğu tasvir ettiğinde veya cinsel açıdan açık davranışlarda bulunan bir çocuğu tasvir ettiğinde" sanal olarak oluşturulmuş içeriğe de uygulanabileceğini açıkladı.

Geçen yıl yürürlüğe girmeden önce First Lady Melania Trump tarafından onaylanan Take It Down Yasası, bu yasal çerçevenin önemli bir parçasıdır. Adalet Bakanlığı sözcüsü Pazartesi akşamı yaptığı açıklamada, "yapay zeka tarafından oluşturulan çocuk cinsel istismar materyalini son derece ciddiye aldıklarını" ve "herhangi bir CSAM üreticisini veya sahibini agresif bir şekilde kovuşturacaklarını" belirtti.

Grok'un güncellenmesi ve Musk'ın tutumu

Musk'ın şirketi yakın zamanda Grok Imagine özelliklerini güncelledi ve platformda metin tabanlı istemlerden daha kolay görüntü oluşturmayı mümkün kıldı. Bu güncellemenin ardından, Grok'un yasadışı içerik üretme yeteneği önemli ölçüde arttı. Güvenlik uzmanları ve teknoloji eleştirmenleri X'teki sömürücü görüntülerin ve kliplerin çoğalmasını kınarken, Musk kendisini bikinili gösteren bir görüntü de dahil olmak üzere, gülerek ağlayan emojilerle noktalanmış bir dizi Grok tarafından oluşturulmuş görüntü paylaşarak durumla alay eder göründü.