Sağlıkta yapay zekâ doğru sonuca yanlış nedenlerle ulaşabilir

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğine dikkat çekti. Baydar, yapay zekânın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği etkileyebileceğini belirterek, modellerin karar süreçlerinin açıklanabilir olmasının önemini vurguladı.
Yapay zekânın sağlık alanındaki kullanımının giderek yaygınlaştığını belirten Dr. Öğr. Üyesi Damla Övek Baydar, tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar pek çok alanda yapay zekâ modellerinin sağlık profesyonellerine yardımcı olabilecek sonuçlar ürettiğini söyledi.
Yapay zekâ sistemlerinin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğüne dikkat çeken Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir" dedi.
"Modelin kararı nasıl verdiği önemli"
Derin öğrenme modellerinin karar süreçlerinin anlaşılabilir olması gerektiğini vurgulayan Baydar, şu ifadeleri kullandı:
"Genetik, ilaç keşfi ve hastalık araştırmalarında giderek daha fazla kullanılan derin öğrenme modelleri çoğu zaman ‘kara kutu’ olarak tanımlanır. Bu modeller çok miktarda veriden karmaşık örüntüler öğrenebilir, ancak hangi bilgilere dayanarak sonuca vardıkları her zaman kolayca görülemez.Bu nedenle derin öğrenme modellerinin yalnızca başarılı olması değil, karar süreçlerinin de mümkün olduğunca anlaşılabilir olması önem taşır. Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır"
Yapay zekânın sağlık alanındaki kararlarının yalnızca sonuç üzerinden değerlendirilmemesi gerektiğini belirten Baydar, "Örneğin bir derin öğrenme modeli bir tıbbi görüntüyü ‘yüksek riskli’ olarak sınıflandırabilir ya da belirli bir genetik varyantın biyolojik açıdan önemli olabileceğini öngörebilir. Fakat sağlık profesyoneli açısından yalnızca sonucun kendisi değil, bu sonucu destekleyen bilgiler de önemlidir. Model görüntünün hangi bölgesine odaklanmıştır? Hastaya ait hangi değişkenleri daha önemli kabul etmiştir? Genomik bir analizde DNA dizisinin hangi bölümleri tahmini etkilemiştir? Bu sorular açıklanabilir yapay zekâ olarak adlandırılan yaklaşımın temelini oluşturur" dedi.
"Doğru cevap ile doğru nedene dayanan cevap aynı şey değildir"
Yapay zekâ sistemlerinde açıklanabilirliğin hasta sağlığı açısından önemine dikkat çeken Baydar, şu değerlendirmelerde bulundu:
"Açıklanabilirlik, yapay zekâ sistemlerinin karar süreçlerini insanlar için daha anlaşılır hâle getirmeyi amaçlar. Bunun sağlık alanında özellikle önemli olmasının nedenlerinden biri, modelin doğru sonuca doğru gerekçelerle ulaşıp ulaşmadığını değerlendirmeye yardımcı olabilmesidir. Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir. Sağlık alanında bu nedenle yalnızca tahminin doğru olması değil, modelin bu tahmine hangi bilgilere dayanarak ulaştığının anlaşılması da önemlidir. Bir model yüksek doğruluk oranına sahip olsa bile, karar verirken klinik olarak anlamlı olmayan bir örüntüden yararlanıyor olabilir. Eğitim verisindeki beklenmedik bir özellik, kullanılan cihazlar arasındaki farklılıklar ya da belirli bir hasta grubuna özgü yanlılıklar modelin tahminlerini etkileyebilir."
"Yapay zekânın sunduğu her açıklama gerçek mekanizmayı göstermez"
Yapay zekâ sistemlerinde açıklanabilirliğin hekimlerin karar süreçlerini destekleyebileceğini ancak bu açıklamaların da bilimsel açıdan değerlendirilmesi gerektiğini belirten Baydar, şu değerlendirmelerde bulundu:
"Açıklanabilirlik aynı zamanda güven açısından da önemlidir. Bir hekimin karar destek sisteminin önerisini değerlendirebilmesi için yalnızca bir risk puanı görmesi çoğu zaman yeterli değildir. Sistemin hangi bulguların tahmini desteklediğine ilişkin anlamlı bilgiler sunması, yapay zekânın klinik karar sürecine daha kontrollü biçimde dahil edilmesine yardımcı olabilir.
Yapay zekânın sunduğu her açıklamanın mutlaka gerçek biyolojik ya da klinik mekanizmayı göstermeyeceğini söyleyen Baydar, "Bir modelin hangi verilerden etkilendiğini görselleştirmek, hastalığın nedenini ortaya çıkardığı anlamına gelmez. Bu nedenle açıklanabilirlik yöntemlerinin sonuçları da eleştirel biçimde değerlendirilmeli ve mümkün olduğunda klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmelidir."
"Açıklanabilirlik yeni sorulara da kapı aralayabilir"
Açıklanabilir yapay zekâ yaklaşımlarının bilimsel araştırmalar açısından da önemli fırsatlar sunabileceğini ifade eden Baydar, şöyle konuştu:
"Açıklanabilir yapay zekâ yaklaşımları yalnızca güven oluşturmakla kalmaz, yapay zekânın yeni biyolojik soruların ortaya çıkmasına katkı sağlamasına da imkân tanır. Modelin öğrendiği örüntülerin incelenmesi, daha önce fark edilmemiş biyolojik ilişkilere işaret edebilir ve araştırmacılara yeni hipotezler geliştirme fırsatı sunabilir. Modeli yalnızca bir tahmin makinesi olarak görmek yerine, hangi örüntüleri öğrendiğini anlamaya çalıştığımızda hem modeli geliştirebilir hem de biyoloji hakkında yeni sorular sorabiliriz."
"Yapay zekâ, uzmanla birlikte kullanılmalı"
Sağlık alanında yapay zekânın hekimlerin yerini alan bir sistem olarak değerlendirilmemesi gerektiğini vurgulayan Baydar, "Sağlık alanında yapay zekâyı, uzmanın yerini alan bağımsız bir karar mekanizmasından ziyade, karar süreçlerini destekleyen güçlü bir araç olarak değerlendirmek daha doğru olacaktır. Bu açıdan bakıldığında, açıklanabilirlik daha da önemli hâle gelir. Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır." dedi.
"Güvenilir yapay zekâ, sınırları bilinen yapay zekâdır"
Sağlıkta yapay zekâ sistemlerinin güvenilirliğinin yalnızca başarı oranlarıyla değerlendirilemeyeceğini belirten Baydar, sözlerini şöyle tamamladı:
"Sağlıkta yapay zekânın başarısını gelecekte yalnızca ulaştığı doğruluk oranı değil, verdiği kararları ne ölçüde açıklayabildiğimiz de belirleyecektir. Bu nedenle ‘Model ne kadar doğru?’ sorusunu sormak tek başına yeterli değildir. ‘Hangi verilerden öğrendi?’, ‘Hangi hasta gruplarında başarısız olabilir?’, ‘Kararını hangi özelliklere dayanarak verdi?’ ve ‘Bu açıklama klinik veya biyolojik olarak anlamlı mı?’ gibi sorular da doğruluk kadar önemlidir. Sağlıkta yapay zekânın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır."