Søgning
1 research-rapport(er) for »bonsai«
elbiler i danmark med 270+ hk, ikke over 550K DKK, og ikke nogen Tesla eller SUV. Lav oversigt med links
… arkiv) 29. [Bonsai 27B kører lokalt på iPhone i kun 3,9GB](https://www.reddit.com/r/LocalLLaMA/comments/1uyz9n2/bonsai_27b_runs_locally …
4 briefing-resultat(er) for »bonsai«
Status på 1-bit og ternære modeller: Bonsai, Hy-MT1.5, Maple-Preview og flere
En omfattende opdatering dækker nye PRs for CUDA/Vulkan og optimeringer, der giver 15-40% hastighedsforøgelse.
Opfølgning: Brugere finjusterer ternære Bonsai 8B på egen data
PrismML's ternære model kan specialiseres via finjustering, men kræver en speciel llama.cpp-fork. Se [briefingen 17. juli](/archive/2026-07-17).
Bonsai 27B kører lokalt på iPhone i kun 3,9GB
PrismML har bygget Bonsai ved at kvantisere Qwen3.6-27B ned til 1-bit, hvilket reducerer størrelsen fra ~54GB til 3,9GB. Modellen bevarer …
Brugererfaring: Bonsai-Ternary-27B på 4060Ti 16GB
En bruger deler erfaringer med at køre Bonsai-Ternary-27B på et relativt beskedent setup med 4060Ti 16GB til knowledge management og produktivitetsopgaver. Modellen …