GPT-6 Astra rettet en annen modell ved å endre vektene

TL;DR

Forskere ved MIT ba OpenAIs toppmodell GPT-6 Astra om å forbedre Qwen3.5-0.8B, en liten åpen modell, i matematikk uten å trene den. Astra endret 0,016 prosent av vektene, og andelen riktige svar på MATH-500 steg fra 7,9 til 48,1 prosent. Gevinsten skyldtes at modellen sluttet å gå i løkker, ikke at den lærte mer matematikk. Tallene er forfatternes egne.

En språkmodell kan endre vektene til en annen direkte

justeres vanligvis ved å trene: du måler feil og regner ut små endringer, om og om igjen. Forskerne ga i stedet Astra vektene til , et Python-miljø og opptil 50 testkjøringer av modellen. Astra bestemte selv hva som skulle endres. Forskerne kaller metoden Weight-Space Programming.

Gevinsten kom av at en feil ble fjernet

Qwen3.5-0.8B har en kjent svakhet: den gjentar seg selv til den går tom for plass. På nådde 93 prosent av svarene maksgrensen uten å bli ferdige.

Astra sporet løkkene i én retning over to lag og trakk fra totalt 131 072 vekter. Etter 50 testkjøringer økte MATH-500 fra 7,9 til 48,1 prosent, og andelen svar som nådde maksgrensen, falt til 33 prosent.

Forfatterne skriver selv at dette bare lar modellen fullføre svar den allerede kunne regne ut. Gemma 3 270M, som sjelden går i løkker, ble ikke bedre: ingen endring flyttet resultatet mer enn om lag ett poeng.

Astra kan også skrive vekter fra bunnen

I mindre forsøk skrev Astra vektene til tre små spillnettverk uten trening. Alle slo nettverk trent i 100 millioner steg, men mot nettverk trent i 500 millioner steg vant Astra klart bare i Breakout.

Les 48,1 prosent som en feil som ble fjernet, ikke som en ny metode som utkonkurrerer finjustering. Forfatterne har ikke sammenlignet tidsbruk eller kostnad med vanlig trening. Hvis du ser små åpne modeller som går i løkker, bør du sjekke om feilen er så avgrenset at den kan rettes uten ny trening.

Kilde: lnkd.in/p/enimXZs2