Yapay zeka eğitim bütçenizi nereye harcamalısınız: denetimli öğrenmeye mi, pekiştirmeli öğrenmeye mi?
Orijinal başlık: Scaling Near-Optimal SFT-RL Annotation Budget Allocation from Small to Large LLMs
KISACA
- Bulgu
- Araştırma, etiketleme bütçesinin SFT ve RL arasında nasıl bölüştürüleceğini ilk kez ilkeli bir çerçeveyle ele alıyor.
- Farkı yaratan
- bu dağıtım kuralı küçük modellerden büyük modellere ölçeklenebiliyor.
Ne oldu?
Büyük dil modeli eğitim-sonrası aşamasında sabit bir etiketleme (annotation) bütçesini denetimli ince ayar (SFT) ile pekiştirmeli öğrenme (RL) arasında nasıl bölüştüreceğiniz hâlâ açık bir problem. Mevcut çalışmalar sadece genel eğilimleri (örneğin düşük veri rejiminde SFT'nin baskın olması) tanımlıyor, ilkeli bir dağıtım çerçevesi sunmuyordu. Araştırmacılar, küçük modellerden büyük modellere ölçeklenebilen, neredeyse-optimal bir bütçe dağıtım yaklaşımı geliştirdi.
Doğru soru artık 'ne kadar veri' değil, 'veriyi nereye harcıyorsunuz'.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yapay zeka eğitim bütçenizi nereye harcamalısınız: denetimli öğrenmeye mi, pekiştirmeli öğrenmeye mi?”, Notes for Data Science, 3 Eylül 2026.