Søgning
1 research-rapport(er) for »ollama«
hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting
… Is there a chart that's shows for xx Billion parameter model, this hardware is needed?](https://www.reddit.com/r/ollama/comments/1hbleji …
6 briefing-resultat(er) for »ollama«
Opfølgning: Ollama ROCm matcher næsten llama.cpp Vulkan på RX 7900 XTX
Qwen3.8 27B Q4_K_M gav 34,4 tok/s i Ollama mod 35,8 i llama.cpp; Ollama var bedst til prompt …
Fintunet Gemma 4 12B giver 2,7x forbedring på tool calling
… Vægtene (fp16 → Q4_K_M) er tilgængelige til llama.cpp og Ollama.
Opfølgning: Lokal realtids-stack til stemmeinteraktion med Ollama
En bruger har sammensat Parakeet STT, Qwen 2.5 7B og Qwen3-TTS til lokal stemmestyring. Bygger videre på tidligere lokale AI-projekter. Se …
Lokal AI-DJ: 9B-model driver radiostation på Ollama
En bruger byggede en agentisk DJ, der kører på Qwen3.5 9B med tool-calling og session-hukommelse. Overraskende nok er større modeller ikke …
Bruger spørger: Bedste setup til lokal LLM på RTX 3090 og 48 GB RAM
Reddit-bruger søger stabilt OS og framework til coding og web-søgning på 24 GB VRAM. Ollama kørte langsomt, Unsloth var hurtigt men ustabilt.
Privat lokal AI på NVIDIA DGX Spark med Ollama
En vejledning til at hoste private lokale AI-modeller på NVIDIA's nye DGX Spark desktop-enhed med 748GB RAM. Sætningen erstatter dyre enterprise …