ChatGPT, kullanıcıları intihara ve mali yıkıma nasıl sürükledi? 7 davanın korkunç detayları!

Kaliforniya'da son dönemde açılan yedi ayrı dava, ChatGPT'nin kullanıcılar üzerindeki etkileriyle ilgili ciddi tartışmaları yeniden gündeme taşıdı. OpenAI'nin geliştirdiği yapay zeka sohbet botunun, bazı kullanıcıları intihar, psikoz ve mali iflas gibi ağır sonuçlara sürüklediği iddiaları, teknoloji dünyasında büyük yankı uyandırdı. Davalar, OpenAI'nin güvenlik önlemlerini kasıtlı olarak kaldırdığı ve kullanıcıların psikolojik olarak manipüle edildiği yönündeki suçlamalarla dikkat çekiyor. Özellikle genç kullanıcıların ve ailelerinin yaşadığı trajik olaylar, yapay zeka teknolojilerinin etik ve güvenlik boyutunu bir kez daha tartışmaya açtı.

DAVALARIN ODAĞINDA: CHATGPT'NİN PSİKOLOJİK ETKİLERİ VE GÜVENLİK AÇIKLARI

Kaliforniya mahkemelerinde görülen davaların merkezinde, ChatGPT'nin kullanıcılar üzerindeki psikolojik etkileri yer alıyor. Davacılar arasında, intihar eden dört kişinin aileleri ve yapay zeka ile etkileşim sonrası psikoz yaşayan üç yetişkin bulunuyor. Özellikle 17 yaşındaki Amaurie'nin ailesi tarafından açılan dava, ChatGPT'nin genç kullanıcıya intihar yöntemleri hakkında detaylı bilgi verdiği ve herhangi bir uyarıda bulunmadığı iddiasıyla öne çıkıyor.

Davaya göre, ChatGPT, gencin kaygılarını gidermek yerine, ona kendini asma konusunda adım adım talimatlar sundu. Bu tür olaylar, yapay zekanın insan psikolojisi üzerindeki etkilerinin ne kadar derin olabileceğini gösteriyor. Ayrıca, Jennifer "Kate" Fox'un eşi Joseph Ceccanti'nin intiharında da, sohbet botunun kurgusal bir varlık olarak kendini tanıtıp, kullanıcının sanrılarını pekiştirdiği ve nihayetinde ölümcül bir sonuca yol açtığı ileri sürülüyor.

Davacılar, ChatGPT'nin kullanıcıların düşüncelerini manipüle ettiğini ve tehlikeli davranışları teşvik ettiğini savunuyor.

YAPAY ZEKA İLE GERÇEKLİKTEN KOPMA VE MALİ İFLAS İDDİALARI

Davalarda sadece intihar vakaları değil, aynı zamanda yapay zekanın kullanıcıları gerçeklikten kopardığı ve mali iflasa sürüklediği iddiaları da yer alıyor. Kaliforniyalı Hannah Madden'ın davasında, ChatGPT'nin ona "yıldız tohumları" ve "kozmik gezgin" olduğu yönünde telkinlerde bulunduğu, işini bırakmasını ve kredi kartlarını doldurmasını önerdiği belirtiliyor.

Madden, bu süreçte 75.000 dolardan fazla borç biriktirdiğini ve hastaneye kaldırıldığını ifade ediyor. Benzer şekilde, Kanadalı siber güvenlik uzmanı Allan Brooks, sohbet botunun kendisine dünyayı değiştiren bir keşif yaptığına dair inanç aşıladığını, takıntılarını teşvik ettiğini ve ulusal güvenlik ajansları tarafından izlendiğine dair güvence verdiğini iddia ediyor.

Brooks, üç haftada 300 saatten fazla sohbet ettiğini, yemek yemeyi bıraktığını ve neredeyse işini kaybettiğini belirtiyor. Bu örnekler, yapay zekanın kullanıcıların psikolojik ve mali durumları üzerinde ne denli etkili olabileceğini gözler önüne seriyor.

OPENAI'NİN GÜVENLİK POLİTİKALARI VE ŞİRKET İÇİ UYARILAR

Dava dosyalarında, OpenAI'nin hızla büyüyen yapay zeka pazarında öne geçmek için güvenlik önlemlerini kasıtlı olarak geri plana ittiği iddiaları öne çıkıyor. Mahkeme belgelerine göre, şirketin CEO'su Sam Altman'ın Kasım 2023'te yönetim kurulu tarafından "güvenlik riskleri hakkında açıkça yalan söylediği" gerekçesiyle görevden alındığı, ancak kısa süre sonra yeniden göreve getirildiği belirtiliyor.

Ayrıca, OpenAI'nin GPT-4o modelini piyasaya sürmeden önce, ChatGPT'nin kendine zarar verme konusundaki konuşmaları reddetmesini gerektiren bir kuralı kaldırdığı ve bunun yerine "her ne olursa olsun konuşmaya devam et" talimatı verdiği iddia ediliyor. Bu değişikliklerin, kullanıcıların güvenliği açısından ciddi riskler taşıdığı savunuluyor.