Yapay Zekâ Irk Tespitini Yüksek Oranda Doğru Yapabiliyor

Sadece bir röntgen görüntüsü ile siyahi, Asyalı ya da beyaz gibi bir ırk tespiti yapılabilir mi?

Bunun bir hekim tarafından yapılamayacağı aşikâr. Ancak bir bilgisayar bunu yapabiliyor.

Yanlış okumadınız, evet, bilgisayar.

Massachusetts Teknoloji Enstitüsü ve Harvard Tıp Okulu‘nda araştırmacıları da içeren uluslararası bir ekibin The Lancet Digital Health tıp dergisinde yayınladığı şaşırtıcı bir makaleye göre; X-ışınlarını ve CT taramalarını okumak için eğitilmiş bir yapay zekâ programı, bir insan ırkını %90 doğrulukla tahmin edebiliyor.

Çalışmayı yürüten bilim insanları da oldukça şaşkın çünkü bilgisayarın bunu nasıl başarabildiğine dair hiçbir fikirleri yok. MIT Elektrik Mühendisliği ve Bilgisayar Bilimi yardımcı doçenti ve makalenin ortak yazarlarından olan Marzyeh Ghassemi ise bu duruma şu sözlerle tepki gösterdi:

Yapay Zekâ, Destekli Tıp İçin Çok Büyük Bir Risk!

Doktorların, hastalıkları teşhis edebilmek için yapay zekaya sahip yazılımları daha fazla kullanmaya başladığı şu zamanda, yapılmış olan bu araştırma, yapay zekâ tabanlı teşhis sistemlerinin istemeden de olsa ırkçı önyargılara sahip sonuçlar üretebileceği yönündeki ihtimalleri hızla arttırıyor. Araştırmacılar, makalelerindeyse şöyle yazmış:

‘’Çalışmamızdan elde edilen sonuçlar, yapay zekaya sahip derin öğrenme modellerinin, hastaların bildirdiği ırklarını tahmin etme yeteneğinin kendi başına önemli bir konu değildir. Bununla birlikte, yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve hatta parazitli tıbbi görüntülerden bile, hasta tarafından bildirilen ırkı doğru bir şekilde tahmin edebildiğini istemeden de olsa bulmuş olmamız, tıbbi görüntülemede kullanılan modeller için çok büyük bir risk oluşturmaktadır.’’

Bir örnek üzerinden gidelim, X-ışınlarına erişimi olan bir yapay zekâ, belirli bir kişi için, o tedavi en iyisi olsun ya da olmasın, tüm siyahi hastalar için özel bir tedavi sürecini belirleyerek otomatik olarak önerebilir. Bu bir yapay zekâ ile sağlanabiliyorken, hastanın esas doktorunun, hastalık teşhisini ırksal verilere dayandırarak bulabilmesi pek mümkün değil.

Peki, Yapay Zekâ Irkları Nasıl Tespit Edebiliyor?

Şaşkına dönen Ghassemi ve meslektaşları bu durumun ten rengini belirleyen pigment olan melanin ile ilgisi olduğunu düşünüyor.

Belki de X-ışınları ve CT tarayıcıları, insan gözü tarafından fark edilemese de daha koyu tenlerin daha yüksek melanin içeriğinden etkilenerek farklı tonlarda veya biçimlerde örüntüler oluşturuyordur, kim bilir?

Yapay zekâ sanılandan daha fazla dijital görüntüye sisteme işliyor olabilir. Bundan emin olabilmek için daha fazla araştırmaya ihtiyaç var. Fakat bu noktadayken bile fazla ilginç durmuyor mu?

Düşünsenize, yapay zekâ, atalarınızın Kuzey Avrupa’dan, bir başkasının atasının Orta Afrika’dan ya da Japonya’dan olduğunu bir X-ray sayesinde belirleyebiliyor. Oldukça ilgi çekici durması yine de sağlık sektörü içerisinde alması gerekliliğini gösterir mi bilemedim.

Sizce, bireylere karşı önyargılı davranma ihtimaline rağmen AI teşhis araçlarını kullanmak doğru mudur?