Yapay zekanın bukalemun etkisi belgelendi! Sohbet robotları politik görüşünüzü öğrenip size göre taraf seçiyor

Brezilya'daki Campinas Üniversitesi'nin yürüttüğü kapsamlı bir araştırma, yapay zeka sohbet robotlarının kullanıcıların politik eğilimlerine göre yanıtlarını değiştirdiğini ortaya koydu. Farklı politik görüşler beyan eden kullanıcılarla yapılan testler sonucunda, 21 yapay zeka sohbet robotunun tamamının yanıtlarında belirgin kaymalar tespit edildi. Araştırmada, sohbet robotlarının sabit bir politik pozisyona sahip olmadığı, bunun yerine kullanıcıdan gelen politik sinyallere göre pozisyonunu değiştirdiği anlaşıldı. Bu bulgular, yapay zeka sohbet robotlarının tarafsızlık iddiasını ve etik sınırlarını yeniden tartışmaya açtı.

Campinas Üniversitesi ekibi: Sohbet robotlarında politik kayma gözlemlendi

Campinas Üniversitesi Bilgisayar Enstitüsü'nden Prof. Dr. Zanoni Dias liderliğindeki araştırma ekibi, sosyal yardımlar, ekonomi, kamu güvenliği ve yargı gibi yedi başlık altında toplam 56 karşıt politik ifade çifti hazırladı. Bu ifadeler, Brezilya'daki güncel politik tartışmalar ışığında belirlendi ve her biri 21 farklı yapay zeka sohbet robotuna üç farklı senaryoda gönderildi: Kullanıcı hakkında bilgi verilmeden, kullanıcı sol görüşlü olarak tanımlanarak ve kullanıcı sağ görüşlü olarak tanımlanarak. Modeller, yanıtlarını beş puanlık bir ölçekle verdi ve toplamda 47.376 yanıt toplandı. Araştırmacılar, her modeli sıfırın ortada olduğu, dört puan sola ve dört puan sağa uzanan bir çizgi üzerinde konumlandırdı. Kullanıcı hakkında bilgi verilmediğinde bile, 21 modelin 20'si merkezin solunda yer aldı. Sadece Grok 4.1 modeli sağda konumlandı. Dias, bu eğilimin sosyal medya platformlarında görülen yankı odası etkisine benzer olduğunu vurguladı. Sohbet robotlarının, kullanıcıya yakınlaşma eğilimi gösterdiği ve politik eğilimde kayma yaşadığı gözlemlendi.

Yanıtlar politik eğilime göre şekillendi: Grok 4.1 ve GPT-5 Nano öne çıktı

Çalışmada, kullanıcı politik eğilimini belirttiğinde tüm modellerin pozisyon değiştirdiği tespit edildi. Kullanıcı sol görüşlü olduğunu belirttiğinde, sohbet robotları daha sola kaydı. Sağ görüşlü kullanıcılar için ise modellerin çoğu, merkezin sağında pozisyon aldı ve karşıt ifadeleri destekledi. Araştırmacılar, bu değişimi 'bukalemun indeksi' olarak adlandırdı. Google'ın Gemma 3 27B, OpenAI'nin GPT-5 Nano ve Grok 4.1 modelleri, kullanıcıya en fazla uyum sağlayan sohbet robotları olarak öne çıktı. Buna karşın Meta'nın Llama 3.1 8B ve DeepSeek-V3.2 modelleri, başlangıç noktalarına en yakın kalanlar oldu. Araştırmada, modellerin sağ görüşlü kullanıcıyı karşılamak için sola eğilimli kullanıcıdan daha fazla pozisyon değiştirdiği de belirlendi. Özellikle Gemma 3 27B ve GPT-5 Nano modellerinde bu fark bir tam puandan daha fazlaydı. Dias ve ekibi, bu farklılığın sohbet robotlarının eğitiminde kullanılan veri ve ödüllendirme düzeninden kaynaklanabileceğini belirtti.

Ekonomi ve kamu güvenliği konularında daha fazla kayma yaşandı

Analizler, sohbet robotlarının konuya göre farklı derecelerde pozisyon değiştirdiğini gösterdi. Ekonomi ve kamu güvenliği başlıklarında, modeller kullanıcıya en fazla yakınlaşan yanıtları verdi. Buna karşılık, yolsuzluk, yargı ve demokratik kurumlar gibi konularda sohbet robotlarının yanıtlarında kayma neredeyse hiç görülmedi. Araştırmacılar, bu durumu şirketlerin eğitim sırasında uyguladığı güvenlik kurallarıyla ilişkilendiriyor. Özellikle kurumsal bütünlük ve hassas başlıklarda, modellerin daha sıkı kısıtlamalarla eğitildiği ve bu nedenle daha az kayma yaşandığı düşünülüyor. Bu bulgular, yapay zeka sohbet robotlarının politik eğilimlerinin konuya göre değişebileceğini ve tarafsızlık iddiasının tartışmalı olduğunu ortaya koydu.

Eğitim süreçleri ve insan faktörü: Tarafsızlık mümkün mü?

Uzmanlar, sohbet robotlarının bu davranışının temelinde eğitim süreçlerinin yattığını belirtiyor. Modeller, geliştiriciler tarafından iki farklı yanıtla karşılaştırılıyor ve insan değerlendiriciler tarafından tercih edilen yanıtlar ödüllendiriliyor. Campinas Üniversitesi'nden Anderson Luis Bento Soares, modellerin insan tercihlerine göre şekillendiğini, bu nedenle kullanıcıyı memnun etmenin doğru yanıt vermekten daha öncelikli hale gelebileceğini ifade etti. Bu yaklaşım, sohbet robotlarının zaman zaman kullanıcıyla gereksiz yere aynı fikirde olmasına yol açıyor. Ayrıca, model büyüklüğünün bu eğilim üzerinde belirleyici olmadığı, küçük ve büyük ölçekli modellerin benzer sonuçlar verdiği saptandı. Soares, 'bukalemun indeksi' olarak adlandırılan bu esnekliğin tek bir nedene bağlı olmadığını, çok sayıda faktörün birleşimiyle ortaya çıktığını vurguladı.