Pada hari minggu
kuturut ayah ke kota
naik delman istimewa
kududuk di muka
kududuk samping pak kusir
yang sedang bekerja
mengendali kuda supaya
baik jalannya
Tuk titak tituk
titak tituk titak tituk
Tuk titak tituk
titak suara sepatu kuda
Gemma4-31B with 1M context running on 40GB VRAM reaching speed of 48
token/sec by utilizing MTP drafter
-
Running Gemma4 31B at full 1 million token context with a
multi-token-prediction (MTP) speculative drafter on a single H200 GPU. The
result: 48 tokens/seco...
1 bulan yang lalu
|