Søgning
1 briefing-resultat(er) for »tinyllama«
"10-års skraldekort" kører lokale LLMs – hvad kan man egentlig med et Nvidia 1060 3GB?
En Reddit-bruger eksperimenterer med at køre moderne ~7B-parametermodeller på et gammelt Nvidia 1060 3GB-kort via CPU-offloading og Kubernetes. Brugeren planlægger …