Anthropic'in yeni hamlesi yapay zeka kullanıcılarını endişelendirdi! Metinler tespit edilebilecek

Anthropic'in Claude sohbet botu tarafından üretilen yapay zeka içeriklerine filigran ekleyeceğini duyurması, teknoloji çevrelerinde büyük bir tartışma başlattı. Özellikle Avrupa Birliği'nin 2024 yılında kabul ettiği ve yapay zeka şirketlerinin ürettikleri içerikleri işaretlemesini zorunlu kılan yeni AI Yasası'na yanıt olarak alınan bu karar, kullanıcıların tepkisini çekti. Filigran uygulaması, AI ile hazırlanan metinlerin izlenmesini ve tespit edilmesini kolaylaştırıyor. Bu gelişme, özellikle AI teknolojisini ödev, e-posta, kodlama ve yaratıcı yazım gibi alanlarda kullanan kişilerde endişeye yol açtı. Kullanıcılar, filigranla işaretlenen metinlerin ifşa riski taşıdığına dikkat çekiyor.

Anthropic'in filigran kararı kullanıcıları ikiye böldü

Anthropic'in Claude sohbet botunda başlattığı filigran uygulaması, sosyal medya ve forumlarda hararetli tartışmalara yol açtı. Özellikle r/ClaudeAI ve r/artificial gibi platformlarda kullanıcılar, filigran sisteminin gizliliği tehdit ettiğini savundu. Birçok kullanıcı, filigranın AI ile üretilen içeriklerin ticari değerini düşüreceğini ve metinlerin "kirli" olarak damgalanmasına neden olacağını belirtti. Bazı paylaşımlarda, filigran uygulamasının kullanıcıları haksız yere hedef haline getirebileceği ifade edildi. Örneğin, visionode takma adlı bir kullanıcı, su işaretleme planını baskıcı polis yöntemleriyle kıyasladı ve "Bir paragrafı yeniden düzenleyen öğrenci, iki yüz sayfalık transkripti özetleyen gazeteci ya da yaratıcı blok yaşayan yazar, süreçten alnında dijital bir dövme ile çıkıyor" ifadelerini kullandı. Bu görüşler, AI topluluğu içinde geniş yankı buldu.

Filigranın teknik detayları ve tartışmalı yönleri gündemde

Anthropic'in filigran sistemi, AI tarafından üretilen metinlerde kelime seçimlerinde küçük değişiklikler yaparak çalışıyor. Bu değişiklikler insan okuyucular tarafından fark edilmiyor, ancak topluca analiz edildiğinde tespit edilebilen bir desen oluşturuyor. Şirket, sistemin bazı düzenlemelere karşı dayanıklı olduğunu savunsa da, başka bir sohbet botu aracılığıyla metnin yeniden yazılması halinde filigranın silinebileceği belirtiliyor. Ars Technica'nın analizine göre, filigran uygulamasının metin kalitesini olumsuz etkileyebileceği ve kullanıcıların AI yardımı olmadan içerik üretmeye zorlanabileceği endişesi öne çıkıyor. Ayrıca, tespit aracının çalışma prensiplerinin açıklanmasının, kötü niyetli kişilerin filigranı kaldıracak araçlar geliştirmesini kolaylaştırabileceği uyarısı yapılıyor. Google DeepMind'in görüntülerde AI kökenli içerikleri işaretlemek için geliştirdiği SynthID gibi sistemlerde de benzer riskler gündeme gelmiş durumda.