Søgning
4 briefing-resultat(er) for »rp«
Fællesskab rangerer LLM'er til 10-16 GB VRAM
Reddit-bruger har benchmarket modeller til 10-16 GB VRAM på hastighed, sammenhæng og censur. Kun modeller over 200B parametre har bred viden om …
Hobbyist bygger monster-cluster med 6 mining-kort til lokal AI
… Setup'et bruger Vulkan og RPC over 1Gb Ethernet – og en papkasse som køling.
Warrior Quest: Lokal LLM spiller kun NPC'er i deterministisk RPG
Udvikleren har udgivet en demo på Steam, hvor en lokal LLM udelukkende styrer NPC-dialog, mens spiltilstand og quests forbliver deterministiske. Kræver 8 GB …
DASH: adaptiv tæt supervision til reasoning-modeller
Nyt papir foreslår DASH, der lader token-niveau-distillationsvægte følge divergenshistorikken i stedet for faste koefficienter. Fem relaterede OPSD-papirer viser, at området er …