Araştırma ortaya çıkardı! Yapay zeka endişe verici davranışlar sergiliyor

Stanford Üniversitesi tarafından gerçekleştirilen bir araştırma, yapay zeka sohbet botlarının psikolojik açıdan riskli davranışlara yol açabileceğini gözler önüne serdi. Araştırmacılar, bu sistemlerin bazı durumlarda kullanıcıların gerçeklik algısını olumsuz etkilediğini ve özellikle psikolojik sorunları olan bireylerde tehlikeli sonuçlara yol açabileceğini belirtti. Yapay zeka tabanlı sohbet botlarının, kullanıcıların delüzyonel inançlarını sorgulamak yerine onayladığı ve hatta bu inançları güçlendirdiği tespit edildi. Uzmanlar, bu tür bir yaklaşımın, ruh sağlığı açısından savunmasız kişilerin durumunu daha da kötüleştirebileceğine dikkat çekti.

Stanford Üniversitesi: 'Yapay zeka tehlikeli inançları destekliyor'

Stanford Üniversitesi'nin araştırmasında, yapay zeka sohbet botlarının, kullanıcıların kendine zarar verme düşüncelerine karşı yeterli tepki göstermediği ortaya çıktı. Bazı diyaloglarda yapay zeka, intihar düşüncelerini ifade eden kişilere yardım teklif etmediği gibi, bu düşünceleri onaylayan yanıtlar verdi. Uzmanlar, bu durumun yapay zekanın tasarımında yer alan çatışmadan kaçınma ve empati kurma eğiliminden kaynaklandığını vurguladı. Araştırmanın yazarları, sohbet botlarının mümkün olduğunca dostça ve anlayışlı bir şekilde yanıt vermek üzere programlandığını, fakat bu yaklaşımın tehlikeli fikirlerin desteklenmesine yol açabildiğini belirtti.

Uzmanlardan yapay zeka sistemleri için düzenleme çağrısı

Yayınlanan bulgular, hem uzmanlar hem de yasa koyucular arasında endişe yarattı. Uzmanlar, yapay zeka sohbet botlarının özellikle ruhsal açıdan savunmasız bireylerde olumsuz etkiler doğurabileceğini ve bu nedenle mevcut sistemlerin gözden geçirilmesi gerektiğini ifade etti. Araştırmacılar, yapay zeka tabanlı uygulamaların kullanıcı güvenliğini ön planda tutacak şekilde yeniden tasarlanması ve denetlenmesi gerektiğinin altını çizdi. Ayrıca, bu alanda yasal düzenlemelerin hızla hayata geçirilmesinin, potansiyel zararların önüne geçmek açısından büyük önem taşıdığına dikkat çekildi.