Søgning
2 research-rapport(er) for »unified-memory«
hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting
… Model recommendations for 128GB Strix Halo and other big unified RAM machines?](https://www.reddit.com/r/LocalLLaMA/comments/1oy1v7q/model_recommendations_for_128gb …
Mac Studio M5 hvornår kommer den? båndbredde på hukommelsen? og hvad med rygtet omkring at M6 springes over og de går til M7 i stedet og går efter højere memory båndbredde?
… m7-ultra-mac-studio-ram-unified-memory) 22. [Apple's rumored M7 Ultra targets 1.5TB of memory and Blackwell-class AI performance, report …
5 briefing-resultat(er) for »unified-memory«
Er Strix Halo den tætteste på en drømme-LLM-maskine?
Diskussion om hvorvidt Strix Halos store unified memory er bedre end brugte 3090'ere til 20B-32B modeller. Opfølgning på [briefingen 24. september](/archive …
Apple lancerer Mac mini med M6-chip og 4x hurtigere AI-ydeevne
… Mac mini starter ved $899 med 16 GB unified memory.
The All Spark: Fra 16 til 36 DGX Sparks i ét homelab-rack
En bruger udvider sin 16x DGX Spark-klynge til 36 enheder (4,6 TB unified memory) og splitter den i dedikerede inferensmoduler. 16 noder …
Opfølgning: DeepSeek V4 Flash kører på 2x DGX Spark – RAM-hovedpine
En bruger serverer 304B DeepSeek V4 Flash på tværs af to DGX Spark med 128 GB unified memory hver, men kæmper med OS-hukommelse …
Opfølgning: DeepSeek V4 Flash kører på brugt serverhardware – 33 tok/s på to RTX 3090
… Løsningen koster omkring 6.000 dollars og viser, at CPU-GPU-hybridarkitekturer kan være et alternativ til dyr unified memory.