Claude'a görünmez filigran geldi! Yapay zeka yazıları artık takip altında

Yapay zeka sektörünün öncü şirketlerinden Anthropic, dikkat çeken bir karara imza attı. Şirket, geliştirdiği Claude modellerinin bundan böyle ürettiği her metin ve kod çıktısına görünmez bir yapay zeka filigranı yerleştireceğini açıkladı. Bu yapay zeka filigranı, kullanıcıların gözüyle fark edilemeyecek istatistiksel kalıplar biçiminde metne gömülüyor. Anthropic'in bu hamlesinin temel amacı, yapay zeka tarafından üretilen içeriği ayırt etmeye yardımcı olmak ve Avrupa Birliği'nin yürürlüğe giren Yapay Zeka Yasası'ndaki şeffaflık gerekliliklerini yerine getirmek. Ancak bu yapay zeka filigranının tam olarak nasıl işlediği, ne kadar dayanıklı olduğu ve gerçekten işe yarayıp yaramadığı konusu uzmanlar arasında ciddi bir tartışma başlattı.

Yapay zeka filigranı nasıl çalışıyor?

Bir fotoğrafın köşesine yerleştirilen telif hakkı damgasından ya da bir dosyanın içine gizlenen meta verilerden farklı olarak, istatistiksel yapay zeka filigranı doğrudan kelimelerin kendisine işleniyor. Claude, metin üretirken belirli kelime tercihlerini ve cümle yapılarını çok hafif bir şekilde kayırıyor. Bu tercihler tek tek ele alındığında insan gözüyle anlaşılması olanaksız; ancak yüzlerce kelimelik bir metin boyunca biriktiğinde, özel olarak geliştirilmiş tespit yazılımlarının tanıyabileceği istatistiksel bir imza ortaya çıkıyor. Bu imza, adeta yalnızca kalıbı çözecek şekilde eğitilmiş bir yazılımın okuyabileceği bir parmak izi niteliği taşıyor. Yapay zeka filigranının kendisi okuyuculara tamamen görünmez kalıyor ve belgenin hiçbir yerinde doğrudan bir iz bırakmıyor. Metni Microsoft Word'e, Google Docs'a ya da bir e-posta istemcisine kopyaladığınızda herhangi olağandışı bir şey göremezsiniz çünkü sinyal yalnızca Claude'un geride bıraktığı istatistiksel kalıpları çözümleyebilen yazılımlar tarafından algılanacak biçimde tasarlandı.

Filigran Claude'un metin kalitesini düşürüyor mu?

GPTZero'nun araştırma başkanı Alexander Cui, Tom's Guide'a verdiği demeçte istatistiksel yapay zeka filigranının küçük bir ödünleşim getirdiğini belirtti. Cui'ye göre model, filigran yerleştirmek için normalde tercih edeceğinden biraz farklı kelimeler seçmek zorunda kalıyor. Cui, 'Çıktı kalitesi ustaca azalıyor. Yönsel olarak bakıldığında, çıktı kalitesini bir miktar düşürüyor' dedi. Bununla birlikte Cui, günümüzdeki yapay zeka filigranı tekniklerinin büyük çoğunluğunun kullanıcının günlük kullanımda farkı hissetmeyeceği kadar sofistike bir düzeye ulaştığını da ekledi. Zaten yapay zeka yazımının mükemmel olmadığı düşünüldüğünde, bu küçük kalite kaybının pratikte çok belirgin bir etki yaratması beklenmiyordu.

Yapay zeka filigranı kolayca kaldırılabiliyor mu?

Filigranın kaldırılması teorik olarak mümkün olsa da süreç sanıldığı kadar basit değil. Birkaç kelimeyi değiştirmek ya da küçük düzenlemeler yapmak istatistiksel yapay zeka filigranını silmeye yetmiyor. Birçok filigran sistemi zaten küçük düzenlemelere ve yeniden ifade etme girişimlerine karşı dayanıklı olacak şekilde tasarlandı. Ancak Claude'un ürettiği yanıt başka bir yapay zeka modeli tarafından baştan yeniden yazılırsa sinyal çok daha kırılgan hale geliyor. Örneğin, bir öğrenci Claude'dan fen bilgisi ödevini yazmasını isteyip ardından ChatGPT'den bu taslağı gözden geçirmesini ve yeniden düzenlemesini talep ederse, yapay zeka filigranı büyük ölçüde kaybolabiliyor. Bu durum özellikle önemli çünkü Claude'un çıktısı çoğu zaman nihai ürün olarak kullanılmıyor. Bir yanıt, herhangi biri okumadan önce başka bir sohbet robotunun, bir yapay zeka kodlama aracının ya da bir belge düzenleme asistanının girdisi haline gelebiliyor. Cui, yapay zeka filigranının genellikle bu tür çok aşamalı iş akışlarından sağ çıkamadığını vurguladı. 'Filigran çok ince değişiklikler uyguluyor. Genellikle aşağı akış çıktısını etkilemiyorlar. İhtiyacınız olan şey modelin kendisi tarafından yazılan gerçek metindir' diye açıkladı.