Søgning
2 briefing-resultat(er) for »dspine«
Tencent: Ny spekulativ dekodingsmetode giver 3x hurtigere inferens
Tencent har udviklet DSpine, en ny spekulativ dekodingsmetode, der angiveligt giver 3x hurtigere dekodning for 27B-modeller som Qwen3.8-27B.
Opfølgning: DSpine giver 27,8 % længere acceptlængde end DFlash
Tencent præsenterer DSpine, en spekulativ dekoder med kausal konditionering, der øger throughput med 23,3 % i SGLang.