Yapay zekâ cilt analizinde açıklanabilirlik ne anlama gelir?

Bir sistemin renkli harita veya güven puanı göstermesi, kararının klinik olarak doğru ya da tamamen açıklanabilir olduğu anlamına gelmez. Açıklama; doğru kullanıcıya, doğru zamanda, sistemin görevi ve belirsizliğiyle birlikte sunulmalıdır.

Kısa yanıt

Açıklanabilirlik, doğruluk veya klinik yararla aynı kavram değildir.
Kullanıcı hangi girdinin sonucu etkilediğini ve çıktının sınırını anlayabilmelidir.
Belirsizlik ve sistemin sonuç veremediği durumlar görünür olmalıdır.

Açıklama kimin için hazırlanır?

Hekimin ihtiyaç duyduğu teknik bilgi ile hastanın karar vermek için ihtiyaç duyduğu sade açıklama aynı değildir. Hekim; veri kalitesi, sürüm, alt grup performansı ve hata türlerini görmeliyken hasta sistemin ne yaptığı, ne yapmadığı ve sonucunun kişisel karar içindeki ağırlığını anlayabilmelidir.

Isı haritası tek başına açıklama değildir

Bir görüntü üzerinde vurgulanan alan, modelin nedensel gerekçesini veya doğru anatomik değerlendirme yaptığını göstermeyebilir. Görsel açıklama yöntemi ayrıca doğrulanmalı; dikkat çekici tasarımın kullanıcıda gereğinden fazla güven oluşturup oluşturmadığı insan faktörü testleriyle değerlendirilmelidir.

İyi açıklamanın sınırı

Sistem düşük kaliteli görüntüyü, eğitim kapsamı dışındaki girdiyi ve düşük güvenli sonucu işaretleyebilmelidir. Açıklama, hekimin bağımsız değerlendirmesini kolaylaştırmalı; yazılım çıktısını savunmak veya belirsizliği gizlemek için kullanılmamalıdır.

Bu makalenin sınırı

Bu içerik tanı, reçete, kişisel risk değerlendirmesi veya tedavi planı değildir. Kaynaklar belirli ürün, cihaz, görev, endikasyon veya çalışma grubuyla sınırlı olabilir.

Kaynaklar ve kanıt sınırı

Aşağıdaki bağlantılar makaledeki sınırları değerlendirmek için kullanılan editöryel başlangıç noktalarıdır.

Ethics and governance of artificial intelligence for health
World Health Organization · 2021
Kapsam ve sınırlılıklar: Sağlıkta yapay zekâ insan özerkliğini, bilgilendirilmiş onamı, mahremiyeti, şeffaflığı, hesap verebilirliği, kapsayıcılığı ve sürekli güvenlik izlemini korumalıdır. Bu yönetişim rehberi herhangi bir cilt analiz sisteminin doğruluğunu, klinik yararını veya amaçlanan kullanımını doğrulamaz.
Editöryel kaynak — imzalı klinik inceleme değildir
Özel Nitelikli Kişisel Verilerin İşlenmesine İlişkin Rehber
Kişisel Verileri Koruma Kurumu · 2025
Kapsam ve sınırlılıklar: Sağlık ve biyometrik veriler dahil özel nitelikli verilerin işlenmesine ilişkin Türkiye rehberidir. Bir yüz fotoğrafı benzersiz kimlik tespiti veya doğrulama için teknik işleme tabi tutulmadıkça otomatik olarak biyometrik veri sayılmaz; ancak görüntüler ve bunlardan türetilen cilt bulguları yine kişisel veri veya sağlık verisi olabilir. Hukuki sebep, aydınlatma, erişim, saklama, silme, güvenlik ve aktarım gerçek veri akışı için ayrıca değerlendirilmelidir.
Editöryel kaynak — imzalı klinik inceleme değildir
Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence: DECIDE-AI
B. Vasey et al.; DECIDE-AI Expert Group · 2022
Kapsam ve sınırlılıklar: Yapay zekâ karar destek sistemlerinin erken ve gerçek kullanım ortamındaki değerlendirmesi için klinik yarar, güvenlik, insan faktörleri, iş akışı ve insan gözetimi rollerini içeren asgari raporlama maddeleri belirler. Bir raporlama standardıdır; sistemin doğru, klinik olarak yararlı, yanlılıksız veya düzenleyici kurumca yetkilendirilmiş olduğunun kanıtı değildir.
Editöryel kaynak — imzalı klinik inceleme değildir
Disparities in dermatology AI performance on a diverse, curated clinical image set
R. Daneshjou et al. · 2022
Kapsam ve sınırlılıklar: Dış testler dermatoloji görüntü sınıflandırıcılarında, özellikle koyu cilt tonları ve seyrek hastalıklarda belirgin performans sınırlılıkları bulmuş; çeşitli verilerle ince ayar sonrasında iyileşme görülmüştür. Çalışma kozmetik cilt ölçütlerini değil hastalık sınıflandırmasını inceler ve adı belirtilmeyen bir klinik sisteminin performansını ölçemez; model, görev ve alt gruba özgü doğrulama gereğini gösterir.
Editöryel kaynak — imzalı klinik inceleme değildir
Transparency for Machine Learning-Enabled Medical Devices: Guiding Principles
FDA, Health Canada and MHRA · 2024
Kapsam ve sınırlılıklar: Makine öğrenmesi kullanan tıbbi cihazlarda kullanıcıya hangi bilginin, ne zaman ve nasıl sunulacağını yaşam döngüsü yaklaşımıyla ele alır. Her kozmetik yazılımın tıbbi cihaz olduğu veya ABD yaklaşımının Türkiye'de aynen geçerli olduğu anlamına gelmez.
Editöryel kaynak — imzalı klinik inceleme değildir