Søgning
6 briefing-resultat(er) for »local-training«
Kan ngram-embeddings bruges til dynamisk, kontinuerlig læring under inferens?
Reddit-bruger foreslår en "live" ngram-tabel oven på Qwen 3.8 Flash' frosne embeddings – nye "hukommelser" dannes, gamle henfalder. Spekulativ, men fascinerende idé.
Sori-1B: Sprogmodel trænet fra bunden uden tekst alene
En 1B-parameter model trænet udelukkende på lyd-parret tekst – ingen tekst-only pretraining. Ideen er at tvinge modellen til at forankre svar i …
AntLing open-sourcer base-modeller for Ling-3.0-tiny og flash
Seks checkpoint uden post-training giver forskere fleksible udgangspunkter. Ling-3.0-tiny (7.9B) matcher større modeller på kode, og flash (124B) klarer …
Opfølgning: 1B-parameter LLM trænet fra bunden for $200 på 20B tokens
En udvikler trænede en 1.1B param model på 20B tokens fra fineweb-edu og finjusterede med LoRA på openhermes – alt for omkring $200 …
Opfølgning: KLQ – træningsfri rotationskvantisering slår SpinQuant
En solo-sommerforskningspræsentation viser, at KLQ måler ulighed i embeddingsrummet og kvantiserer mere effektivt end eksisterende rotationsmetoder. Metoden kræver ingen gradientnedstigning. [briefingen 7. august …
Opfølgning: Rust-baseret ML-sprog til læring og lokale agenter
En pensioneret platformingeniør udvikler et ML-programmeringssprog i Rust, der kan træne på CPU, Apple Silicon og NVIDIA. Målet er at skabe lokale kodningsagenter …