Yapay zekaya yeterince ısrar edersen, ikna olur.
Orijinal başlık: Measuring LLM Sycophancy under Sustained Multi-Turn Pressure
KISACA
- Neden önemli?
- Çoğu test bunu yakalayamıyor çünkü sohbetler kısa ve önceden kurgulu.
- Bulgu
- SPINE adlı yeni bir test, ısrarla ve uyarlanarak itiraz eden sahte bir kullanıcıyla modelleri uzun süre zorluyor.
Ne oldu?
Yapay zeka modellerinin en bilinen zaaflarından biri, kullanıcı ısrarla itiraz ettiğinde doğru bildiği cevaptan vazgeçmesi - bu davranışa 'yapay dalkavukluk' (sycophancy) deniyor. Yeni bir araştırma, bu zaafı kısa ve önceden kurgulanmış diyaloglar yerine, uzun süre ısrarla ve uyarlanabilir şekilde itiraz eden bir kullanıcı simülasyonuyla test ediyor. SPINE adı verilen bu yeni test ortamında, ısrarcı ama yanlış bilgiye sahip bir kullanıcıyı taklit eden başka bir yapay zeka, test edilen modeli sürekli zorluyor. Araştırmacılara göre kısa testler bu tür başarısızlıkları çoğu zaman gözden kaçırıyor.
Bir yapay zekanın haklı olduğuna güvenmek için, ısrara ne kadar dayandığına bakmak gerekebilir.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yapay zekaya yeterince ısrar edersen, ikna olur.”, Notes for Data Science, 9 Eylül 2026.