Sağlıkta yapay zekâ doğru sonucu yanlış gerekçelerle verebilir

yapay zekâda doğruluk tek başına güven sağlamaz:

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık uygulamalarında yapay zekâ modellerinin yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirtiyor. Baydar, tıbbi görüntüleme, hastalık riski tahmini, genomik analiz ve klinik karar destek sistemleri gibi alanlarda kullanılan sistemlerin verdiği sonucun nasıl elde edildiğinin açıklanmasının kritik olduğunu ifade etti.

karar süreçlerinin anlaşılabilir olmasının önemi:

Baydar'a göre derin öğrenme modelleri sıklıkla "kara kutu" olarak tanımlanıyor; büyük veri setlerinden karmaşık örüntüler öğrenebiliyor ancak hangi özelliklere dayandıkları her zaman görünmüyor. Bir modelin yüksek doğrulukla tahmin yapması ile güvenilir şekilde aynı gerekçelerle yapması aynı şey değildir. Modelin tahminini biyolojik veya klinik açıdan anlamlı göstergelere mi dayandırdığı yoksa verideki tesadüfi veya yanıltıcı örüntülere mi yaslandığı bilinmeli.

açıklanabilirlik klinik güveni nasıl etkiler:

Sağlık profesyonelleri için yalnızca bir risk skoru görmek genellikle yeterli olmuyor. Baydar, modelin hangi görüntü bölgesine odaklandığı, hangi hasta değişkenlerini daha önemli kabul ettiği veya genomik analizde DNA dizisinin hangi kısımlarının etki ettiğinin bilinmesinin klinik değerlendirme açısından kritik olduğunu söylüyor. Açıklanabilir yapay zekâ yaklaşımları bu bilgileri sunarak hekimin öneriyi değerlendirip kontrol altında kullanmasına yardımcı oluyor.

açıklamaların sınırlılıkları ve bilimsel değerlendirme:

Baydar, açıklamaların her zaman gerçek biyolojik veya klinik mekanizmayı göstermeyeceğini de vurguluyor. Bir modelin hangi verilerden etkilendiğini görselleştirmek, doğrudan hastalığın nedenini ortaya koymak anlamına gelmiyor. Bu nedenle açıklanabilirlik yöntemlerinin sonuçları eleştirel biçimde değerlendirilip, mümkünse klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmeli.

açıklanabilirlik yeni araştırma soruları doğurabilir:

Baydar açıklanabilir yapay zekânın sadece güven sağlamayacağını, aynı zamanda yeni biyolojik hipotezlerin ortaya çıkmasına da katkı verebileceğini belirtiyor. Modelin öğrendiği örüntülerin incelenmesi, daha önce fark edilmemiş ilişkileri işaret ederek araştırmacılara yeni sorular ve geliştirme fırsatları sunabilir.

uzmanla birlikte kullanılan, sınırları bilinen sistemler:

Sağlıkta yapay zekânın hekimlerin yerini almak yerine karar süreçlerini destekleyecek bir araç olarak görülmesi gerektiğini söyleyen Baydar, güvenilirliğin yalnızca performans ölçütleriyle değil, sistemin sınırlarının ve kararlarının ne ölçüde açıklanabildiğiyle de belirleneceğini ifade ediyor. Baydar'ın sözleriyle, güvenilir yapay zekâ, sınırları bilinen yapay zekâdır.

BİRUNİ ÜNİVERSİTESİ MÜHENDİSLİK VE DOĞA BİLİMLERİ FAKÜLTESİ BİLGİSAYAR MÜHENDİSLİĞİ BÖLÜMÜ DR. ÖĞR. ÜYESİ DAMLA ÖVEK BAYDAR