Det som allerede skjer
Anthropic oppgir at ingeniørene deres sender åtte ganger så mye kode per kvartal som tidligere, fordi Claude står for mesteparten av koden. De peker også på at modellens evne til å fullføre lange oppgaver dobles omtrent hver fjerde måned. Poenget deres er at selve utførelsen, altså å skrive koden og kjøre eksperimentet, nesten ikke koster menneskelig tid lenger.
Tre mulige framtider
Essayet skisserer tre baner. I den første flater utviklingen ut og krever nye arkitektoniske gjennombrudd. I den andre, som de mener er mest sannsynlig, setter mennesker retningen mens AI gjør utførelsen, og menneskelig gjennomgang blir flaskehalsen. I den tredje får AI nok forskningsdømmekraft til å designe sine egne etterfølgere.
Hva det betyr i praksis
Den interessante forskyvningen er ikke at AI tar over, men at flaskehalsen flytter seg fra å gjøre arbeidet til å vurdere og styre det. Anthropic kaller menneskelig kodegjennomgang en ny flaskehals. Selskapet etterlyser også infrastruktur som gjør det mulig å verifisere en troverdig pause i utviklingen, og mener tiden for å bygge den er knapp.