Søgning
5 briefing-resultat(er) for »mamba«
Mamba-1 på 2013 NVIDIA GPU'er: Open source-projekt genopliver e-waste
… træningsstack til legacy CUDA GPU'er (SM 3.5–7.5). Mamba-1 kører på Tesla K40c fra 2013 med maksimal fejl på 3 …
Nemotron 3.5 Bolt – effektiv KV-cache og lineær attention
Bolt bruger 2-bit dekodere og NVFP4 i følsomme lag, med 1 lag fuld attention per 5 lag Mamba2 (lineær attention). Ved 256k kontekst …
NVIDIA Nemotron 3.5 Bolt 74B-A9B i 2-bit til 24 GB lokal kørsel
Nyt VLM fra NVIDIA med Mamba-2-hybrid og LatentMoE, native 2-bit kvantisering, 256K kontekst. Designet til at køre agentopgaver lokalt på 24 …
Diskussion: Hvilke radikale arkitekturændringer er på vej?
Ud over kendte forbedringer som N-gram og MTP peges på MAMBA-lignende arkitekturer og hybrid-modeller. Spørgsmålet er hvor langt man kan gå …
Tysk SooFi-team lancerer åben MoE-model med Mamba-arkitektur
Soofi S 30B-A3B er en hybrid Mamba–Transformer-model med 30B parametre, målrettet tysk og engelsk. Modellen udkommer som open-source, hvilket styrker …