Kötü kararlar verdiren sohbet robotlarını neden hala yararlı buluyoruz?

Hong Kong Üniversitesi ve Tsinghua Üniversitesi araştırmacılarının yürüttüğü yeni bir çalışma, gizli hedefleri bulunan yapay zekâ danışmanlarının insanları daha kötü seçeneklere yönlendirebildiğini ortaya koydu. Katılımcıların çoğu, bu yönlendirmeye rağmen danışmanları yararlı olarak değerlendirdi.

Bir sohbet robotuna hangi fitness takip cihazının satın alınması gerektiğini sormak, satacak ürünü olmayan bilgili bir arkadaşa danışmak gibi görülebiliyor. Ancak deneyde yapay zekâ danışmanlarının birinin gizli hedefi vardı ve katılımcılar bu hedef doğrultusunda hareket etti.

Daha düşük nitelikteki bir seçeneği öne çıkarması istenen yapay zekâ danışmanı, katılımcıların bu seçeneği en iyi seçeneğe tercih etme olasılığını yaklaşık beş ila sekiz kat artırdı.

Araştırmayı Hong Kong Üniversitesi Psikoloji Bölümü'nden June Liu ve Tatia Lee, Tsinghua Üniversitesi'nden Sahand Sabour ve Minlie Huang ile birlikte yürüttü.

Çalışmaya katılan 233 kişi, önceden hazırlanmış senaryolarda varsayımsal seçenekler arasında tercih yaptı ve seçeneklerin varsayımsal olduğu kendilerine söylendi. Araştırmacılar, bu durumun sonuçların yorumlanması açısından bir sınırlama oluşturduğunu belirtti.

Tek modelden üç farklı danışman oluşturuldu

Ekip, yalnızca talimatları değiştirerek GPT-4o modelinden üç danışman oluşturdu. Bir danışmana katılımcılara yardımcı olması söylendi.

İkinci danışmana, bunu katılımcılara açıklamadan belirli bir düşük nitelikteki seçeneği öne çıkarması talimatı verildi. Komutlara göre bu danışman, hedef seçeneğe yönlendirme karşılığında 100, diğer kötü seçeneklerden birine yönlendirme karşılığında 50, en iyi seçeneğe yönlendirme karşılığında ise sıfır puan alıyordu.

Üçüncü danışmana aynı hedef verildi ve psikoloji araştırmalarından alınan etkileme taktiklerinden oluşan bir menü sunuldu.

Her katılımcı bir danışmanla ve tek bir karar türüyle eşleştirildi. Finansal senaryolarda katılımcılara bütçeleri dâhilinde hangi fitness takip cihazını, kilo verme ilacını veya giyim sitesini seçmeleri gerektiği soruldu.

Duygusal senaryolarda ise düşük özsaygıyla, bir arkadaşla yaşanan kavgayla veya iş yerindeki eleştiriyle nasıl başa çıkılacağı ele alındı.

Her senaryoda dört seçenek sunuldu ve bunlardan biri katılımcının ifade ettiği ihtiyaçlarla örtüşüyordu. Finansal senaryolardaki diğer seçenekler arasında dolandırıcılık benzeri bir anlaşma, bütçeyi aşan gereğinden fazla özellikli bir ürün ve uzun vadeli maliyet taşıyan bir abonelik yer aldı.

Duygusal senaryolarda ise psikologların daha kötü sonuçlarla ilişkilendirdiği, içine kapanmak gibi başa çıkma yolları sunuldu.

Katılımcılar her seçeneği 1'den 10'a kadar puanladı, danışmanla en az 10 mesajlaştı ve ardından seçenekleri yeniden değerlendirdi. Danışmanlar ayrıca katılımcıların kişilik puanlarını da biliyordu.

Gizli hedef tercihleri değiştirdi

Katılımcılar herhangi bir danışmanla konuşmadan önce tüm gruplarda en iyi seçeneğe en yüksek puanı verdi. Ancak hedefi katılımcıların hedefleriyle örtüşmeyen bir danışmanla konuşmak tercihleri değiştirdi.

Finansal kararlarda, gizli hedefteki seçeneği en iyi seçeneğe tercih edenlerin oranı, tarafsız danışmanın bulunduğu gruba kıyasla 29 yüzde puan arttı. Etkileme taktikleriyle donatılmış danışmanda bu artış 38 yüzde puan oldu.

Duygusal kararlarda ise artışlar sırasıyla 20 ve 18 yüzde puan olarak ölçüldü.

Danışmana etkileme taktikleri sunulması, bu etkiyi güvenilir biçimde artırmadı. Taktiklerle donatılmış danışman, finansal tercihleri değiştirmede bir miktar daha etkili olurken duygusal sorularda daha az etkiliydi.

Bu araç seti olmadan da gizli hedefi bulunan danışman, katılımcıları daha kötü seçimlere yönlendirebildi.