Søgning
6 briefing-resultat(er) for »pci-e«
Tesla K80 til 50 dollars: værd at lege med til inference?
Brugte K80'er dukker op på eBay til 50–60 dollars. Forvent intet banebrydende, men til en ekstra PCIe-port kunne det være sjovt …
DDR4 vs DDR5 til pre-training: 15-20 % hurtigere, men dyrere
Benchmark viser, at DDR5/PCIe5 giver 15-20 % mere throughput end DDR4/PCIe4. Men til prisen for DDR5 kan man købe en ekstra GPU …
Opfølgning: Tensor-parallelisme på to R9700 i Strix Halo – nu med fuld hastighed
En bruger får to Radeon R9700 til at arbejde sammen via NVMe-PCIe og opnår 37 tok/s med rocm (se [briefingen 7. september …
Opfølgning: V100 vs. 5060 Ti til Qwen 3.8 – begrænset PCIe giver udfordring
Bruger overvejer 1x32GB V100 eller 2x16GB V100 som opgradering. Kun 2x x4 PCIe-linjer til rådighed begrænser CPU-GPU kommunikation. [briefingen 30. august](/archive …
PCI-E P2P på forbrugergrafikkort giver markant ydelsesløft i VLLM
At slå P2P til mellem to forbrugergrafikkort (4x5060 Ti) gav op til 2x højere tokens per sekund i VLLM – en overset optimering.
6x3090 vs 8x3090: Er opgraderingen værd?
En bruger overvejer at gå fra seks til otte RTX 3090'ere via en PCIe-splitter for at køre DeepSeek Flash V4 i Q8 …