Søgning
7 briefing-resultat(er) for »ternary«
Opfølgning: Ternary Bonsai 2-familien i 2B, 4B og 9B baseret på Qwen 3.5
Nye ternære modeller fra community, bygget på Qwen 3.5, med støtte for dFlash, MTP og MLX. Kan køre med standard llama.cpp. [Se …
Opfølgning: UkisAI overvejer Swift-version af Bonsai 2
Efter PrismML's udgivelse af Ternary Bonsai 2 (27B, 5,9 GB, 98 % af Qwen3.8's ydelse) spørger UkisAI community, om de skal …
Opfølgning: Base-3-pakning skærer 22 % VRAM fra ternære GGUFs
Q2_B3 gemmer -1/0/+1-vægte direkte i base 3 med 1,75 bit pr. vægt; en 27B ternær model falder fra 7 …
Status på 1-bit og ternære modeller: Bonsai, Hy-MT1.5, Maple-Preview og flere
En omfattende opdatering dækker nye PRs for CUDA/Vulkan og optimeringer, der giver 15-40% hastighedsforøgelse.
Opfølgning: Brugere finjusterer ternære Bonsai 8B på egen data
PrismML's ternære model kan specialiseres via finjustering, men kræver en speciel llama.cpp-fork. Se [briefingen 17. juli](/archive/2026-07-17).
Brugererfaring: Bonsai-Ternary-27B på 4060Ti 16GB
En bruger deler erfaringer med at køre Bonsai-Ternary-27B på et relativt beskedent setup med 4060Ti 16GB til knowledge management og produktivitetsopgaver. Modellen …