Harnesset er ikke lenger noe du må bygge selv
Å få agenter til å fungere over lang tid krever mer enn en god modell: konteksten må komprimeres etter hvert som sesjonen vokser, verktøy må lastes inn uten å sprenge kontekstvinduet, og arbeid må kunne deles opp mellom underagenter. OpenAI har bygget dette for Codex og ChatGPT for Work, og tilbyr nå den samme motoren til utviklere gjennom Agents API.
Konkret betyr det automatisk kontekstkomprimering når en sesjon nærmer seg grensen, verktøysøk som bare laster inn relevante verktøydefinisjoner for å spare tokens, og programmatiske verktøykall som lar agenten kjøre kall parallelt og filtrere store datamengder i kode i stedet for å dra alt inn i konteksten.
Underagenter er innebygd, ikke noe du må orkestrere
Med innstillingen «multi_agent» kan en hovedagent dele opp en oppgave og delegere biter til underagenter som jobber parallelt, hver med sin egen kontekst, mens hovedagenten samler resultatene. Et selskap rapporterer 4x lavere ventetid og en evalueringsscore som gikk fra 0,71 til 0,85 etter overgangen. Et annet selskap kuttet 86 prosent av mislykkede agentsvar ved å skille selve harnesset fra sandkassen.
Harnesset er open source, så du kan se nøyaktig hvordan modellkall, verktøy og kontekst koordineres i den offentlige Codex-kodebasen, i stedet for å stole blindt på en svart boks.
Kilde: openai.com