AI, %90 doğrulukla hastaları yanlış sınıflandırıyor mu?
Orijinal başlık: Ranking-Aware Prompt Optimization for Multimodal Clinical Diagnosis
KISACA
- Tek cümlede
- Araştırmacılar, çok modlu büyük dil modellerinin klinik teşhis ayarını inceledi.
- Bulgu
- Çoğunluk sınıfını tahmin eden model bile %90'ın üzerinde doğruluk alabiliyor, ama klinik olarak işe yaramıyor.
- Neden önemli?
- Doğruluk skoruna güvenmek, nadir ama kritik vakaların gözden kaçmasına yol açabilir.
Ne oldu?
Araştırmacılar, çok modlu büyük dil modellerinin (MLLM) klinik teşhis için ayarlanmasında kullanılan standart doğruluk (accuracy) tabanlı optimizasyonun ciddi bir tuzak içerdiğini gösteriyor: Sınıf dağılımı dengesiz klinik verilerde, her zaman çoğunluk sınıfını tahmin eden bir model bile yüzde 90'ın üzerinde doğruluk skoruna ulaşabiliyor, ama klinik olarak işe yaramıyor. Bu nedenle çalışma, pozitif vakaları negatiflerin önüne sıralayan eşiksiz bir metrik olan AUROC'u esas alan sıralama-duyarlı (ranking-aware) bir prompt optimizasyonu yöntemi geliştiriyor.
Araştırmacılar bu yüzden AUROC temelli, sıralama‑duyarlı bir prompt optimizasyonu geliştiriyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “AI, %90 doğrulukla hastaları yanlış sınıflandırıyor mu?”, Notes for Data Science, 1 Ekim 2026.