Aynı soruyu bir yapay zekaya sorduğunuzda hep aynı cevabı almak ister misiniz?
Orijinal başlık: Show HN: Determinstic LLM inference for lowest price Gemma 4, with Windows XP
KISACA
- Neden önemli?
- Büyük dil modellerinin en büyük sorunlarından biri, aynı soruya her seferinde farklı cevap vermesi.
- Bulgu
- TokenDelivery.ai, Gemma 4 modelini bayt bayt aynı çıktıyı garanti eden deterministik bir API ile sunuyor.
Ne oldu?
TokenDelivery.ai adlı yeni bir API servisi, açık ağırlıklı büyük dil modellerini tamamen deterministik biçimde çalıştırmayı vaat ediyor; yani aynı girdi için her seferinde bayt bayt aynı çıktıyı veriyor. Servis şu anda Google'ın Gemma 4 26B modelini 256 bin bağlam penceresiyle sunuyor, OpenAI uyumlu bir API'ye sahip ve önizleme döneminde ücretsiz; ileride milyon girdi token'ı başına 0,042 dolar ücretlendirilmesi planlanıyor. Büyük dil modellerinin standart olasılıksal değişkenliği yerine tekrarlanabilir sonuç isteyen geliştiriciler için tasarlanmış bir alternatif olarak konumlanıyor.
Yaratıcılık bazen gürültüdür - bazı işler için asıl ihtiyaç duyulan şey tutarlılıktır.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Aynı soruyu bir yapay zekaya sorduğunuzda hep aynı cevabı almak ister misiniz?”, Notes for Data Science, 13 Eylül 2026.