Søgning
1 briefing-resultat(er) for »42x-speedup«
42 gange hurtigere prompt-lookup-drafting i llama.cpp
En ny optimering af prompt-lookup-drafting i llama.cpp giver op til 42x hastighedsforøgelse – en dramatisk forbedring for lokal inferens med spekulativ dekodning.