Birden fazla yapay zeka modelini birleştirmek sanıldığı kadar kolay değil.
Orijinal başlık: DARTS: Decoder-Aware Representation Tuning via Surgery for Model Merging
KISACA
- Bulgu
- DARTS: Birleştirilmiş modeller, kaynak modellerden sistematik olarak sapan bir 'temsil kayması' sorunu yaşıyor.
- Farkı yaratan
- sorun daha önce sadece görsel modellerde ele alınmıştı, DARTS bunu dil modellerine taşıyor.
Ne oldu?
Model birleştirme (model merging), ek eğitim yapmadan birden fazla göreve özel ince ayarlı büyük dil modelini tek bir çok görevli modelde birleştirmeyi sağlıyor; ancak birleştirilmiş modeller genellikle 'temsil sapması' sorunu yaşıyor - birleştirilmiş modelin gizli durumları ile her bir kaynak modelinkiler arasında sistematik bir kayma oluşuyor. Önceki çalışmalar bu sapmayı görüntü tabanlı encoder modellerinde ele almıştı; DARTS, aynı sorunu decoder tabanlı büyük dil modelleri için 'cerrahi' bir temsil ince ayarı yaklaşımıyla çözmeyi hedefliyor.
Model birleştirmenin bedeli, sessiz bir doğruluk kaybı olabilir.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Birden fazla yapay zeka modelini birleştirmek sanıldığı kadar kolay değil.”, Notes for Data Science, 31 Ağustos 2026.