LLM'ler artık metin üretmek yerine doğrudan hafızalarını paylaşıyor.
Orijinal başlık: Cache-to-Cache: Direct Semantic Communication Between LLMs (2025)
KISACA
- Tek cümlede
- Araştırmacılar, bir modelin KV-Cache'ini diğerine yansıtıp birleştirdi.
- Bulgu
- Bu doğrudan paylaşım, doğrulukta %6‑14 artış, gecikmede 2,5 kat hız kazandırdı.
- Neden önemli?
- Daha hızlı ve doğru iletişim, çoklu model sistemlerinde yanıt süresini kısaltabilir.
Ne oldu?
Cache-to-Cache makalesi, büyük dil modellerinin birbiriyle metin üretmeden, doğrudan KV-Cache paylaşarak iletişim kurmasını öneriyor. Yöntem, kaynak modelin KV-Cache'ini sinir ağıyla hedef modelin uzayına yansıtıp birleştiriyor; hedef modelin hangi katmanlarının bundan yararlanacağını öğrenilebilir bir kapı mekanizması seçiyor. Sonuçlar, tek tek modellere göre %6,4-14,2, metin tabanlı iletişime göre yaklaşık %3,1-5,4 daha yüksek ortalama doğruluk gösteriyor. Ayrıca metin tabanlı iletişime kıyasla ortalama 2,5 kat gecikme hızlanması sağlıyor.
LLM'ler artık konuşmadan, ortak hafıza sayesinde daha verimli çalışıyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “LLM'ler artık metin üretmek yerine doğrudan hafızalarını paylaşıyor.”, Notes for Data Science, 19 Eylül 2026.