Søgning
2 briefing-resultat(er) for »rotation«
Opfølgning: NInfer-fork skubber 555k kontekst på en enkelt 5090
Ny fork leverer 555k kontekst i FP4 på en RTX 5090 med NVFP4 KV-cache, Hadamard-rotation og YaRN – 45 % mindre VRAM uden kvalitetstab …
Opfølgning: KLQ – træningsfri rotationskvantisering slår SpinQuant
En solo-sommerforskningspræsentation viser, at KLQ måler ulighed i embeddingsrummet og kvantiserer mere effektivt end eksisterende rotationsmetoder. Metoden kræver ingen gradientnedstigning. [briefingen 7. august …