Søgning
10 briefing-resultat(er) for »local-training«
Microsoft patenterer brug af inaktive gaming-GPU'er til AI-træning
Et nyt patent beskriver, hvordan ledige gaming-GPU'er kan omdannes til betalt AI-træningshardware.
Opfølgning: CrowdGPT runder 13B trænede tokens
Det fællesskabsdrevne projekt har nu 85 bidragsydere og sigter mod at matche Qwen3-0.6B uden datacentre.
CrowdGPT vil træne LLM med alles GPU-tid
Projektet vil træne en 1B-model uden datacentre, med 100 procent offentlige data og vægte. Største udfordring: incitamentet til at donere GPU-tid.
DDR4 vs DDR5 til pre-training: 15-20 % hurtigere, men dyrere
Benchmark viser, at DDR5/PCIe5 giver 15-20 % mere throughput end DDR4/PCIe4. Men til prisen for DDR5 kan man købe en ekstra GPU …
Kan ngram-embeddings bruges til dynamisk, kontinuerlig læring under inferens?
Reddit-bruger foreslår en "live" ngram-tabel oven på Qwen 3.8 Flash' frosne embeddings – nye "hukommelser" dannes, gamle henfalder. Spekulativ, men fascinerende idé.
Sori-1B: Sprogmodel trænet fra bunden uden tekst alene
En 1B-parameter model trænet udelukkende på lyd-parret tekst – ingen tekst-only pretraining. Ideen er at tvinge modellen til at forankre svar i …
AntLing open-sourcer base-modeller for Ling-3.0-tiny og flash
Seks checkpoint uden post-training giver forskere fleksible udgangspunkter. Ling-3.0-tiny (7.9B) matcher større modeller på kode, og flash (124B) klarer …
Opfølgning: 1B-parameter LLM trænet fra bunden for $200 på 20B tokens
En udvikler trænede en 1.1B param model på 20B tokens fra fineweb-edu og finjusterede med LoRA på openhermes – alt for omkring $200 …
Opfølgning: KLQ – træningsfri rotationskvantisering slår SpinQuant
En solo-sommerforskningspræsentation viser, at KLQ måler ulighed i embeddingsrummet og kvantiserer mere effektivt end eksisterende rotationsmetoder. Metoden kræver ingen gradientnedstigning. [briefingen 7. august …
Opfølgning: Rust-baseret ML-sprog til læring og lokale agenter
En pensioneret platformingeniør udvikler et ML-programmeringssprog i Rust, der kan træne på CPU, Apple Silicon og NVIDIA. Målet er at skabe lokale kodningsagenter …