Yapay zekâ cilt analizinde insan gözetimi nasıl tasarlanmalıdır?

İnsan gözetimi, ekranda bir hekimin bulunmasından ibaret değildir. Hekimin çıktıyı bağımsız değerlendirebilmesi, reddedebilmesi, gerekçeyi kaydedebilmesi ve yazılım olmadan güvenli biçimde karar verebilmesi gerekir.

Kısa yanıt

Nihai sorumluluk yazılıma devredilemez.
Hekimin çıktıyı geçersiz kılma yetkisi ve yeterli bilgisi olmalıdır.
Otomasyon yanlılığı ve yazılımı gereksiz yere reddetme riski birlikte izlenmelidir.

Anlamlı gözetim nedir?

Hekim yalnızca sonucu onaylayan kişi değil, girdinin kalitesini, sistemin görev sınırını ve klinik bağlamı değerlendiren bağımsız karar vericidir. Yazılımın önerisine katılmadığında süreci sürdürebilmeli ve hastanın değerlendirmesi hizmet kesintisine uğramamalıdır.

Otomasyon yanlılığı

Sayısal puanlar ve profesyonel görünümlü grafikler, kullanıcının kendi bulgularına rağmen sisteme gereğinden fazla güvenmesine yol açabilir. Tersi olarak, sistemin yararlı uyarılarının alışkanlıkla reddedilmesi de mümkündür; eğitim ve izleme iki hata yönünü de kapsamalıdır.

İş akışında güvenlik noktaları

Hangi sonuçların mutlaka hekim incelemesi gerektirdiği, düşük güvenli çıktının nasıl ele alınacağı ve önemli uyuşmazlığın kime bildirileceği önceden tanımlanmalıdır. İnsan gözetiminin varlığı, doğrulanmamış bir modeli güvenli hâle getirmez; teknik ve klinik kanıt ayrı gerekliliklerdir.

Bu makalenin sınırı

Bu içerik tanı, reçete, kişisel risk değerlendirmesi veya tedavi planı değildir. Kaynaklar belirli ürün, cihaz, görev, endikasyon veya çalışma grubuyla sınırlı olabilir.

Kaynaklar ve kanıt sınırı

Aşağıdaki bağlantılar makaledeki sınırları değerlendirmek için kullanılan editöryel başlangıç noktalarıdır.

Ethics and governance of artificial intelligence for health
World Health Organization · 2021
Kapsam ve sınırlılıklar: Sağlıkta yapay zekâ insan özerkliğini, bilgilendirilmiş onamı, mahremiyeti, şeffaflığı, hesap verebilirliği, kapsayıcılığı ve sürekli güvenlik izlemini korumalıdır. Bu yönetişim rehberi herhangi bir cilt analiz sisteminin doğruluğunu, klinik yararını veya amaçlanan kullanımını doğrulamaz.
Editöryel kaynak — imzalı klinik inceleme değildir
Özel Nitelikli Kişisel Verilerin İşlenmesine İlişkin Rehber
Kişisel Verileri Koruma Kurumu · 2025
Kapsam ve sınırlılıklar: Sağlık ve biyometrik veriler dahil özel nitelikli verilerin işlenmesine ilişkin Türkiye rehberidir. Bir yüz fotoğrafı benzersiz kimlik tespiti veya doğrulama için teknik işleme tabi tutulmadıkça otomatik olarak biyometrik veri sayılmaz; ancak görüntüler ve bunlardan türetilen cilt bulguları yine kişisel veri veya sağlık verisi olabilir. Hukuki sebep, aydınlatma, erişim, saklama, silme, güvenlik ve aktarım gerçek veri akışı için ayrıca değerlendirilmelidir.
Editöryel kaynak — imzalı klinik inceleme değildir
Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence: DECIDE-AI
B. Vasey et al.; DECIDE-AI Expert Group · 2022
Kapsam ve sınırlılıklar: Yapay zekâ karar destek sistemlerinin erken ve gerçek kullanım ortamındaki değerlendirmesi için klinik yarar, güvenlik, insan faktörleri, iş akışı ve insan gözetimi rollerini içeren asgari raporlama maddeleri belirler. Bir raporlama standardıdır; sistemin doğru, klinik olarak yararlı, yanlılıksız veya düzenleyici kurumca yetkilendirilmiş olduğunun kanıtı değildir.
Editöryel kaynak — imzalı klinik inceleme değildir
Disparities in dermatology AI performance on a diverse, curated clinical image set
R. Daneshjou et al. · 2022
Kapsam ve sınırlılıklar: Dış testler dermatoloji görüntü sınıflandırıcılarında, özellikle koyu cilt tonları ve seyrek hastalıklarda belirgin performans sınırlılıkları bulmuş; çeşitli verilerle ince ayar sonrasında iyileşme görülmüştür. Çalışma kozmetik cilt ölçütlerini değil hastalık sınıflandırmasını inceler ve adı belirtilmeyen bir klinik sisteminin performansını ölçemez; model, görev ve alt gruba özgü doğrulama gereğini gösterir.
Editöryel kaynak — imzalı klinik inceleme değildir
Good Machine Learning Practice for Medical Device Development: Guiding Principles
U.S. Food and Drug Administration / IMDRF · 2025
Kapsam ve sınırlılıklar: Yapay zekâ kullanan tıbbi cihazlarda veri, ekip, test, insan-yapay zekâ etkileşimi ve gerçek kullanım performansının izlenmesi için genel iyi uygulama ilkeleridir. Ürün bazında klinik doğrulama veya yetkilendirme kanıtı değildir.
Editöryel kaynak — imzalı klinik inceleme değildir