Modelin parametresi sabit, ama ağırlıkları sınırsız; bu nasıl mümkün?
Orijinal başlık: Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data
KISACA
- Tek cümlede
- Araştırmacılar, tek bir temel ağ ve kompakt bir hiperağ kullanarak bu mimariyi tasarladı.
- Bulgu
- Canlı veri, düşük-rank modülasyonla ağırlıklara dönüştürülüyor; bilgi context yerine ağırlıklara yazılıyor.
- Neden önemli?
- Bu, bağlam penceresine bağımlı öğrenmeyi aşarak, daha iyi genelleme ve gerçek‑zaman adaptasyon sağlıyor.
Ne oldu?
Araştırmacılar, saklanan ağırlık sayısı sabit kalırken çalışma zamanında sınırsız sayıda ağırlık türetebilen 'sonsuz parametreli' bir dil modeli mimarisi öneriyor. Kompakt bir hiperağ, oturum sırasında gelen canlı veriyi paylaşılan temel ağın düşük-rank modülasyonuna dönüştürüyor; sistem Bayesci bir inanç durumunu oturum boyunca güncelleyerek bilgileri context penceresine değil doğrudan ağırlıklara yazıyor. Bu yaklaşımın, bağlam içi öğrenmeye kıyasla daha iyi genelleme sağlayabileceği öne sürülüyor.
Yapay zekanın gücü, daha çok parametreye değil, ağırlıkları dinamik olarak yazabilmesine dayanıyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Modelin parametresi sabit, ama ağırlıkları sınırsız; bu nasıl mümkün?”, Notes for Data Science, 18 Eylül 2026.