Søgning
3 briefing-resultat(er) for »ssd-offloading«
Opfølgning: Kapitsa 0.2.26 benchmarker seks modeller på MacBook M5 Max
… Den understøtter SSD-offloading for store modeller som Qwen Flash-Next 180B. [Se briefingen 27. oktober](/archive/2026-10-27)
Opfølgning: Kør 104GB Qwen3.8-model på 48GB Mac med ~12 tok/s
Slotstream muliggør kørsel af den 125B store Qwen3.8-Flash-Next på Mac med SSD-streaming af eksperter og MLX-native Swift-kode. [Se …
N-gram-tabel på SSD streamet i SGLang – uden performance-tab?
En bruger spørger, om nogen har testet at offloade Qwen 3.8 Flash Nexts n-gram-opslagstabel til SSD og streame den i SGLang …