Søgning
3 briefing-resultat(er) for »tiny-llm«
PrismML lancerer Bonsai 2 – 27B model med 98 % af Qwens ydelse
Den kompakte Bonsai 2 matcher 98 % af Qwens benchmark-score og sigter mod at ændre, hvordan vi bruger AI.
"10-års skraldekort" kører lokale LLMs – hvad kan man egentlig med et Nvidia 1060 3GB?
En Reddit-bruger eksperimenterer med at køre moderne ~7B-parametermodeller på et gammelt Nvidia 1060 3GB-kort via CPU-offloading og Kubernetes. Brugeren planlægger …
TinyMCE AI afslører sin LLM-gateway-arkitektur
TinyMCE's AI-lag bruger en gateway til at afkoble teksteditoren fra LLM-udbydere, med model-routing, prompt-orchestrering og JWT-baserede tilladelser. Det …