Lehçe konuşanlara karşı yapay zekada gizli ayrımcılık ortaya çıktı

Yapay zeka tabanlı sohbet botlarının, farklı lehçelerle iletişim kuran kullanıcılara karşı önyargılı yaklaştığına dair bulgular, son dönemde yapılan araştırmalarla gün yüzüne çıktı. Özellikle büyük dil modellerinin (LLM), standart dillerin dışında konuşan bireylere karşı ayrımcı ve küçümseyici ifadeler kullandığı, çeşitli ülkelerde yapılan testlerle tespit edildi. Bu durum, dijital çağda iletişimin giderek yapay zekaya emanet edildiği günümüzde, önemli bir toplumsal sorun olarak öne çıkıyor.

Lehçe önyargısı: Araştırmalar ne gösteriyor?

Son yıllarda geliştirilen büyük dil modelleri, başta ChatGPT olmak üzere, günlük hayatın birçok alanında kullanılıyor. Akıllı telefonlardan kamu kurumlarının web sitelerine kadar uzanan bu yaygın kullanım, beraberinde yeni sorunları da getiriyor. 2024 yılında Kaliforniya Üniversitesi, Berkeley'den bir ekip, ChatGPT'nin Hindistan, İrlanda ve Nijerya gibi ülkelerden gelen farklı İngilizce lehçelerine verdiği yanıtları inceledi. Araştırmada, Amerikan veya Britanya İngilizcesiyle karşılaştırıldığında, lehçelerle yapılan iletişimde stereotipleme oranının yüzde 18, aşağılayıcı içerik oranının yüzde 25 ve küçümseyici yanıtların yüzde 15 daha fazla olduğu belirlendi. Bu veriler, yapay zeka sohbet botlarının lehçe konuşanlara karşı önyargılı tutumunu açıkça ortaya koydu.

Lehçe önyargısı yalnızca İngilizceyle sınırlı kalmadı. 2025 yılında Çin'in Suzhou kentinde düzenlenen bir konferansta sunulan Alman odaklı bir çalışmada, OpenAI'nin ChatGPT-5 mini ve Meta'nın Llama 3.1 gibi on farklı büyük dil modeli test edildi. Modeller, standart Almanca'nın yanı sıra Bavyera, Kuzey Frizce ve Kölsch gibi yedi farklı Alman lehçesiyle sınandı. Sonuçlar, neredeyse tüm modellerin lehçe konuşanları "eğitimsiz", "tarım işçisi" ve "öfke yönetimine ihtiyaç duyan" bireyler olarak tanımladığını gösterdi. Üstelik, modele metnin bir lehçede olduğu açıkça belirtildiğinde, önyargılı ifadelerin daha da arttığı gözlemlendi. Bu bulgular, büyük dil modellerinin lehçe önyargısı sorununu evrensel bir mesele haline getiriyor.

Yapay zekada ayrımcılığın toplumsal etkileri

Yapay zeka sohbet botlarının lehçe önyargısı, yalnızca bireysel iletişimde sorun yaratmakla kalmıyor; aynı zamanda toplumsal eşitliği de tehdit ediyor. ABD'deki Cornell Üniversitesi'nden Emma Harvey, bu tür tutarlı önyargıların "etkili ve endişe verici" olduğunu vurguluyor. Harvey ve ekibi, Temmuz ayında yayımladıkları bir araştırmada, Amazon'un yapay zeka alışveriş asistanı Rufus'un Afrika Amerikan İngilizcesiyle yazan kullanıcılara belirsiz veya yanlış yanıtlar verdiğini ortaya koydu. Ayrıca, yazım hataları içeren girdilerde yanıtların daha da kötüleştiği tespit edildi. Harvey, büyük dil modellerinin yaygınlaşmasının mevcut önyargıları yalnızca sürdürmekle kalmayıp, aynı zamanda daha da güçlendirebileceğine dikkat çekiyor.

Lehçe önyargısı, iş başvurularında da kendini gösterebiliyor. Hindistan'da bir iş başvurusu sahibi, İngilizcesini düzeltmek için ChatGPT'den yardım aldığında, sohbet botu başvuranın soyadını, Hindistan'ın kast sisteminde daha yüksek bir konumu işaret eden bir isimle değiştirdi. Bu örnek, yapay zeka sohbet botlarının toplumsal yapıları ve kimlikleri yanlış yönlendirebileceğini gözler önüne seriyor. Dolayısıyla, lehçe önyargısı yalnızca dilsel bir sorun değil; aynı zamanda sosyal adalet ve fırsat eşitliği açısından da ciddi sonuçlar doğurabiliyor.

Lehçe önyargısının kökeni: Büyük dil modelleri nasıl öğreniyor?

Büyük dil modellerinin lehçe önyargısı sergilemesinin temelinde, bu modellerin eğitildiği veri setlerinin yapısı yatıyor. LLM'ler, internetten topladıkları devasa miktarda metin üzerinden öğrenme gerçekleştiriyor. Hamburg Üniversitesi'nden Carolin Holtermann, bu durumun, modellerin yalnızca lehçeleri değil, aynı zamanda lehçe konuşanlar hakkında internette yer alan önyargılı ifadeleri de öğrenmesine yol açtığını belirtiyor. Yani, bir lehçeyle ilgili olumsuz klişeler veya stereotipler, modelin yanıtlarında da kendine yer bulabiliyor.