Søgning
4 briefing-resultat(er) for »bitnet«
Opfølgning: Base-3-pakning skærer 22 % VRAM fra ternære GGUFs
… Tabfrit for ægte ternære modeller som BitNet. [Tidligere briefing](/archive/2026-08-29).
Status på 1-bit og ternære modeller: Bonsai, Hy-MT1.5, Maple-Preview og flere
En omfattende opdatering dækker nye PRs for CUDA/Vulkan og optimeringer, der giver 15-40% hastighedsforøgelse.
Opfølgning: C-baseret BitNet-inference når 36 tok/s på Xeon CPU
En open source-motor i ren C kører 1.58-bit ternære modeller med 95% af teoretisk hukommelsesbåndbredde. Viser potentialet for CPU-only inferens …
Opfølgning: 29x kernel-hastighed gav kun 6–10 % reel gevinst
En udvikler optimerede en matmul-kernel til BitNet 29x isoleret set, men end-to-end-forbedringen var minimal pga. hukommelsesflaskehals. En vigtig lektion i …