Yerel bilgisayarda LLM eğitimi 2 kat hızlı ve %70 daha az VRAM'le mümkün mü?
Orijinal başlık: unslothai /unsloth
KISACA
- Tek cümlede
- Geliştiriciler Unsloth adlı bir masaüstü uygulaması, web stüdyo ve kod kütüphanesi sundu.
- Bulgu
- Proje, eğitimin doğruluk kaybı olmadan 2 kat hızlı, %70 daha az VRAM'le yapıldığını iddia ediyor.
- Neden önemli?
- GGUF, MLX ve Qwen3.8, DeepSeek-V4, Gemma 4 gibi modelleri destekliyor.
Ne oldu?
Unsloth, büyük dil modellerini ve difüzyon modellerini yerel bilgisayarda çalıştırmak ve eğitmek için bir masaüstü uygulaması, web tabanlı Studio arayüzü ve kod kütüphanesi sunuyor. Proje, eğitimin doğruluk kaybı olmadan 2 kat daha hızlı ve %70 daha az VRAM ile yapılabildiğini iddia ediyor. GGUF ve MLX formatlarını destekliyor; Qwen3.8, DeepSeek-V4, Gemma 4 ve FLUX gibi modellerle çalışabiliyor. NVIDIA, AMD ve Intel GPU'ları ile CPU üzerinde çalışabiliyor, yerel çıkarım için OpenAI uyumlu API sunuyor.
Modelleri yerelde eğitmek ve çalıştırmak tek bir uygulamada birleşiyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Yerel bilgisayarda LLM eğitimi 2 kat hızlı ve %70 daha az VRAM'le mümkün mü?”, Notes for Data Science, 19 Eylül 2026.