Yapay zeka kanser teşhisinde gerçekten tarafsız mı? Son araştırma mercek altında

Harvard Tıp Okulu ve Brigham and Women's Hospital'dan bilim insanlarının liderliğinde gerçekleştirilen güncel bir araştırma, tıbbi yapay zeka uygulamalarının kanser teşhisinde beklenmedik bir önyargı riski taşıdığını gözler önüne serdi. Araştırmada, patoloji slaytlarından kanser tanısı koymak için geliştirilen yapay zeka sistemlerinin, yalnızca hastalığı değil, aynı zamanda hastaların demografik özelliklerini de ayırt edebildiği tespit edildi. Bu durumun, tanı doğruluğunda ırk, cinsiyet ve yaş gruplarına göre belirgin farklılıklara yol açtığı vurgulandı. Araştırmacılar, bu önyargının nedenlerini analiz ederek, adil ve güvenilir bir kanser teşhisi için yeni bir çözüm önerisi geliştirdi.

Patolojide yapay zekanın yükselişi ve önyargı sorunu

Patoloji, kanserin tanımlanmasında ve tedaviye yön verilmesinde uzun yıllardır temel bir rol üstleniyor. Geleneksel olarak, patologlar mikroskop altında insan dokusunun ince kesitlerini değerlendirerek kanserin varlığını, türünü ve evresini belirliyor. Bu süreçte, slaytlar yalnızca hastalığın biyolojik izlerini taşıyor; hastaya dair kişisel bilgiler genellikle göz ardı ediliyor. Ancak son yıllarda, yapay zeka teknolojilerinin patolojiye entegrasyonu ile birlikte, bu alanda köklü bir dönüşüm yaşanıyor. Yapay zeka tabanlı modeller, doku görüntülerindeki karmaşık desenleri ve biyolojik işaretleri insan gözünün ötesinde bir hassasiyetle analiz edebiliyor.

Harvard Tıp Okulu'ndan Kun-Hsing Yu ve ekibi, bu teknolojilerin beklenmedik bir özelliğini keşfetti: Yapay zekâ, patoloji slaytlarından yalnızca kanser bulgularını değil, aynı zamanda hastaların ırk, cinsiyet ve yaş gibi demografik bilgilerini de çıkarabiliyor. Araştırmacılar, bu durumun farklı hasta gruplarında tanı doğruluğunda ciddi dalgalanmalara neden olduğunu belirledi. Özellikle, bazı demografik gruplarda kanser alt türlerinin tespitinde yapay zekâ sistemlerinin performansının düştüğü gözlemlendi. Bu bulgular, tıbbi yapay zekâ uygulamalarının tarafsızlık ve adalet açısından yeniden değerlendirilmesi gerektiğine işaret ediyor.

Demografik önyargının nedenleri ve etkileri

Araştırma ekibi, yapay zekâ modellerinin neden bazı gruplarda daha düşük doğrulukla çalıştığını anlamak için kapsamlı bir analiz gerçekleştirdi. İlk olarak, eğitim verilerindeki dengesizlikler öne çıktı. Yapay zekâ sistemleri genellikle daha fazla örneğe sahip olan demografik gruplardan öğreniyor; bu da az temsil edilen gruplarda tanı doğruluğunun düşmesine yol açabiliyor. Ancak, araştırmacılar yalnızca veri dengesizliğinin sorunun tamamını açıklamadığını fark etti. Bazı durumlarda, örnek sayısı benzer olan gruplar arasında dahi belirgin performans farkları görüldü.

İkinci önemli neden, hastalık insidansındaki farklılıklar olarak belirlendi. Bazı kanser türleri belirli popülasyonlarda daha yaygın görülüyor ve bu durum, yapay zekâ modellerinin bu gruplarda daha isabetli sonuçlar vermesine neden olabiliyor. Buna karşılık, nadir görülen kanser türlerinde veya az temsil edilen demografik gruplarda modellerin tanı başarısı azalıyor. Üçüncü olarak, yapay zekâ sistemlerinin doku görüntülerinde ince moleküler farklılıkları tespit etme eğilimi de önyargının kaynağı olarak öne çıktı. Modeller, belirli genetik mutasyonlara veya biyolojik sinyallere dayanarak tanı koyabiliyor ve bu sinyallerin dağılımı demografik gruplar arasında değişebiliyor.

Sonuç olarak, yapay zekâ sistemlerinin kanser teşhisinde %29 oranında demografik temelli doğruluk farkları ortaya çıkardığı saptandı. Özellikle Afrikalı Amerikalı hastalarda ve erkeklerde akciğer kanseri alt türlerinin tespitinde, genç hastalarda ise meme kanseri alt türlerinde belirgin sorunlar yaşandığı rapor edildi. Ayrıca, meme, böbrek, tiroid ve mide kanserlerinde de bazı gruplarda tanı doğruluğunun düştüğü gözlemlendi. Bu bulgular, tıbbi yapay zekâ uygulamalarının rutin olarak önyargı açısından test edilmesinin gerekliliğini ortaya koydu.