Søgning
2 briefing-resultat(er) for »capy-flash«
Opfølgning: capy-flash kører nu 125B MoE på 64 GB RAM med 234 tok/s
Open source-inference motoren optimeres til forbruger-GPU'er og kører Qwen3.8-Flash-Next på to 16 GB kort. Se [briefingen 16. oktober …
Opfølgning: capy-flash kører Qwen3.8-Flash-Next 125B i NVFP4 på to 16 GB GPU'er
Ny tensor-parallel engine med offloaded eksperter giver ~100 tok/s, hurtigere end Strata. Fund om TP=2 præcision og FP16-partialsummer. [Se briefingen …