Google lar språkmodeller «sove» for å huske det de lærer

TL;DR

Google Research foreslår at en språkmodell veksler mellom å jobbe og «sove». Mens den sover, flytter modellen det den har lært over i vektene sine og øver på oppgaver den selv har laget. Forsøkene er gjort på små modeller med en spesialarkitektur, så dette er forskning og ikke en funksjon du kan bruke ennå.

Språkmodeller lærer ikke av å bli brukt

Det du forteller en modell, ligger i og er borte når samtalen slutter. Å trene modellen videre løser det dårlig. Ny trening ødelegger ofte det modellen kunne fra før, og det kalles .

Modellen får faste pauser der den flytter kunnskap inn i vektene

Google deler driften i to faser. I den våkne fasen svarer modellen som vanlig og holder det nye i korttidsminnet. I søvnfasen tar den ikke imot forespørsler. Den kopierer da kunnskapen over i nye, små deler av som er reservert på forhånd i en , uten å røre de gamle delene. Deretter «drømmer» den: Den lager øvingsoppgaver, velger de mest nyttige og trener på dem.

Resultatene er gode, men målt på små modeller

Ifølge forfatterne glemte modellen nesten ingenting da den lærte to ukjente språk, manchu og kalamang, etter hverandre. Vanlig finjustering glemte mye. På spørsmål om fakta den nettopp hadde fått servert, traff metoden 48,9 prosent. Basismodellen traff 31,9 prosent, og SEAL, en tidligere metode der modellen tilpasser seg selv, traff 46,7.

Gevinsten varierer. På mattetesten AIME 2024 gikk fra 73,8 til 79,2 prosent, men på AIME 2025 bare fra 68,1 til 69,0. Forsøkene bruker modeller på rundt 1 til 8 milliarder parametere. Det er langt under modellene du bruker i dag.

Dette er en modelldesign, ikke en funksjon du kan slå på

Metoden forutsetter at modellen har ledig kapasitet til å lære.

Lagre minnet til assistenter og agenter i et eget lager, for eksempel en database som slås opp i. Det du må kunne spore til en kilde eller styre tilgangen til, bør uansett ligge utenfor vektene.

Kilde: research.google