Treebeard-problemet
Hovedpoenget er et misforhold i tempo. På fire år har AI gått fra knapt å skrive kode til å håndtere mesteparten av programmeringen i store selskaper, og skaleringslovene peker mot fortsatt eksponentiell forbedring. Lovgivning tar derimot år. Amodei sammenligner politikerne med Treebeard fra Ringenes Herre: for langsomme til å reagere på noe som beveger seg så fort. Samtidig mener han det finnes et åpningsvindu nå, fordi nylige risikoeksempler innen cybersikkerhet, biologi og autonomi har gjort beslutningstakere mer lydhøre.
Fem områder, ett konkret forslag
Essayet dekker regulering, arbeidsmarked, vitenskap, borgerrettigheter og geopolitikk. Det mest konkrete handler om sikkerhet: modeller over en viss beregningsterskel bør gjennom uavhengig testing for risiko knyttet til cyber, biologi, kontrolltap og automatisert forskning, med mulighet for myndighetene til å stanse en utrulling. Forbildet er sertifiseringen fly må gjennom før de får lov til å fly. På arbeidsmarkedet foreslår han måling av AIs økonomiske effekt og lønnsforsikring. Han spår «kraftig AI», beskrevet som et «land av genier i et datasenter», innen ett til to år.
Relevans for norske virksomheter
For selskaper som bygger på AI i dag er signalet at rammeverket kommer. Sporbarhet, testing og dokumentasjon av hvordan modeller brukes blir trolig forventninger, ikke bare god praksis. Den som allerede har orden på dette slipper å rydde i ettertid.