Bu Sağlık Hizmeti Algoritması, Siyahi Hastalara Karşı Önyargılı

• Bilim dergisi Science'ta yayımlanan bir araştırmaya göre, bir sağlık hizmetleri algoritması, siyahi hastaların önemli tıbbi tedavileri alma şansını beyaz hastalara kıyasla önemli ölçüde azaltıyor.
• Neredeyse her büyük sağlık hizmetleri sisteminin ve sigorta şirketleri gibi kuruluşların kullandığı algoritma, sağlık hizmeti sağlayıcıları tarafından yüksek riskli hizmet yönetimi müdahalesi için hangi hastaların ekstra yardımdan en çok yararlanacaklarını tahmin etmek amacıyla kullanılıyor.
• Algoritma, bu tahmini yapmak için bir hastayı tedavi etmenin sağlık hizmeti sağlayıcısına ne kadara mal olduğuyla ilgili verilere güveniyor.
• California Üniversitesi Profesörü Ziad Obermeyer:"Maliyet, sağlık için makul bir vekildir, ancak önyargılı bir seçimdir ve bu seçim, aslında algoritmaya önyargıyı katan şeydir."
• İlgili Yazı: YouTube, Niteliksiz İçeriğin Kullanıcıların Karşısına Çıkmasını Engelleyecek Yepyeni Algoritmalar Geliştiriyor

Geçtiğimiz günlerde sizlere Birleşik Krallık'ın siyahi kişilere karşı ön yargılı olan ırkçı pasaport yapay zekasıyla ilgili bir haber aktarmıştık. Bu haberin üzerinden henüz çok az bir zaman geçmiş olmasına rağmen, bu olaya son derece benzer başka bir durumun da sağlık sektöründe meydana geldiği ortaya çıktı.

The Verge'ün paylaşmış olduğu habere göre, bir sağlık hizmetleri algoritması, siyahi hastaların önemli tıbbi tedavileri alma şansını beyaz hastalara kıyasla önemli ölçüde azaltıyor. Milyonlarca hastayı etkileyen bu hata, geçtiğimiz hafta "Science" adlı bilimsel dergide yer verilen bir araştırmada ortaya çıktı.

Araştırmada bu algoritmayı geliştiren kişilerin adları paylaşılmıyor. Ancak bu araştırmada görev yapan California Üniversitesi'nden "Ziad Obermeyer" isimli profesör, hemen hemen her büyük sağlık hizmetleri sisteminin ve sigorta şirketleri gibi kuruluşların bu algoritmayı kullandığını ifade etti. Bununla beraber benzer algoritmalar, birkaç farklı şirket tarafından da meydana getirildi.

Belirtilene göre söz konusu algoritma, yüksek riskli hizmet yönetimi müdahalesi için hastaları taramak amacıyla sağlık hizmeti sağlayıcıları tarafından kullanılıyor. Bu sistemde, özellikle kompleks medikal ihtiyaçları olan hastalar, algoritma tarafından otomatik olarak işaretleniyor. Bir kez seçilen hastalar, doktorlar tarafından daha fazla ilgi görme gibi ek bakım kaynakları elde edebiliyorlar.

Araştırmacıların belirttiklerine göre, bu sistem, ABD'de yaygın olarak kullanılıyor. Çünkü özel hemşireler ve daha fazla temel bakım randevular gibi ekstra faydalar, sağlık hizmeti sağlayıcıları için pahalıya mal oluyor. Bu algoritma da hangi hastaların ekstra yardımdan en çok yararlanacaklarını tahmin etmek için kullanılıyor ve sağlık hizmeti sağlayıcılarının kısıtlı zamanlarını ve kaynaklarını en çok ihtiyaç duyulan yerlere odaklamalarına imkan tanıyor.

Algoritma, bu tahmini yapmak için bir hastayı tedavi etmenin sağlık hizmeti sağlayıcısına ne kadara mal olduğuyla ilgili verilere güveniyor. Teorik olarak bu, bir hastanın ne kadar hasta olduğu anlamına gelebilir. Ancak Science dergisi tarafından yapılan araştırmanın yazarlarının belirttiklerine göre, sağlık hizmetlerine eşit olmayan erişim nedeniyle siyah hastaların tedavileri için benzer şekilde hasta olan beyaz hastalara kıyasla daha az zaman harcanıyor. Algoritma, bu tutarsızlığı hesaba katmıyor ve siyahi hastaların tedavileri konusunda şaşırtıcı derecede büyük bir ırksal önyargıya yol açıyor.

Söz konusu sağlık hizmetleri algortimasının etkisi, son derece güçlüydü. Araştırma sonucunda elde edilen bulgulara göre, mevcut olarak siyahi hastaların sadece %17,7'si ekstra ilgi görüyor. Eğer ki eşitsizlik giderilmiş olsaydı, bu oran %46,5 olacaktı. Profesör Obermeyer, algoritmadaki siyahi hastalara yönelik bu önyargıyla ilgili olarak "Maliyet, sağlık için makul bir vekildir, ancak önyargılı bir seçimdir ve bu seçim, aslında algoritmaya önyargıyı katan şeydir." diyor.

Bu, eylem halindeki algoritmik önyargının klasik bir örneğidir. Bu zamana dek araştırmacılar, sık sık önyargılı bir veri kaynağının otomatik sistemlerde önyargılı sonuçlar ürettiğine dikkat çektiler. İyi haber şu ki, Profesör Obermeyer’in söylediğine göre, sistemdeki bu sorunu engellemenin birtakım yolları mevcut.

Profesör bu konuda, "Bu önyargı, yeni verilerle değil; yeni, meraklı bir tür sinir ağıyla değil; sadece halihazırda algoritmanın tahmin etmesi gereken şeyi değiştirerek düzeltilebilir." diyor. Araştırmacılar, acil servise gitmek gibi yalnızca belirli bir maliyet alt kümesine odaklanarak önyargıları azaltabildiklerini keşfettiler. Maliyetten ziyade direkt olarak sağlık sonuçlarını tahmin eden bir algoritma da sistemi geliştirdi. Bununla ilgili olarak Obermeyer, algoritmaların nasıl eğitildiklerine dikkat ederek onlardan fayda sağlarken aynı zamanda önyargı riskinin de minimuma indirilebileceğini dile getirdi.