Søgning

Opfølgning: Qwen3.8-27B kører på M6 Mac Mini med 192K kontekst

ANEMLL Forge 0.2.1 muliggør kørsel af Qwen3.8-27B på M6 Mac Mini (32 GB) med op til 192K kontekst og INT8 …

søndag 25. oktober 2026 · Værktøjer & produkter mac-miniapple-neural-engineqwenlocal-inference

Sherry's 3:4 ternary format (1.375 bits per weight) running on WebGPU: a 1.6 MB model that plays Connect Four as well as its 7.8 MB int8 version

onsdag 30. september 2026 · Branche & politik

Hvorfor ser vi ikke flere INT8 W8A8-modeller til RTX 3090?

RTX 3090 har native INT8-tensorcores, men de fleste vælger FP8 eller mindre kvanter – debatten om hvorfor fortsætter.

onsdag 2. september 2026 · Forskning & arkitektur rtx-3090int8w8a8quantization

Opfølgning: Qwen3.8-27B når 381 tps på RTX 3090 med nye optimeringer

Bruger opnår 382 tps ved at forlænge verify-blokke og bruge int8 KV-cache. [briefingen 20. august](/archive/2026-08-20).

fredag 21. august 2026 · Værktøjer & produkter qwen-3.8inference-optimizationrtx-3090tps