Varaktig uppgift för AI-agenter

Durable Task Scheduler, kombinerat med programmeringsmodellen Durable Task, tillhandahåller den underliggande infrastrukturen för hållbar körning, hantering av tillståndshantering, kontrollpunkter och distribuerad samordning så att agentkoden inte behöver göra det.

Med programmeringsmodellen Durable Task kan du skapa motståndskraftiga, tillståndskänsliga agentiska arbetsflöden med hjälp av standardprogrammeringskonstruktioner (t.ex. loopar, villkor och felhantering) i .NET, Python, Java och JavaScript/TypeScript, medan körningen bevarar tillståndet och återställs från fel automatiskt.

Även om programmeringsmodellen Durable Task inte är ett agentramverk i sig, fungerar den med alla AI-agentramverk, inklusive Microsoft Agent Framework, LangChain eller direkta LLM API-anrop. Med den här uppdelningen av problem kan du fokusera på agentlogik medan Durable Task hanterar tillförlitlig körning i stor skala.

I den här artikeln lär du dig mer om:

Produktionsutmaningar som hållbart utförande löser

AI-agenter som utför verkligt arbete i produktion är vanligtvis tidskrävande, tillståndskänsliga och beroende av externa verktyg och tjänster. Interaktioner mellan människor i loopen, resonemangskedjor i flera steg och verktygsförhöjda arbetsflöden kan hålla en agentsession aktiv i timmar, dagar eller till och med veckor. Under den tiden ackumulerar agenten tillstånd, inklusive konversationshistorik, mellanliggande resultat och väntande beslut, som måste bevaras i varje steg.

Det är dyrt och tidskrävande att bearbeta stora mängder LLM-token. Modellleverantörer kan införa hastighetsbegränsningar som begränsar agenten mitt i arbetsflödet. Om ett infrastrukturfel, till exempel omstart av en virtuell dator eller nätverksavbrott, inträffar under en flerstegsagentaktivitet går de åtkomsttoken som redan förbrukats och den tid som redan har spenderats förlorad.

Avbrott i långvariga agentarbetsflöden, oavsett om det gäller omstarter av beräkning, distributioner, inskalningshändelser eller tillfälliga infrastrukturfel, förvärrar dessa kostnader. Utan en återställningsmekanism måste en kraschad agentsession startas om från början, återanvända alla tidigare förbrukade token och upprepa allt tidigare slutfört arbete.

Hållbar exekvering löser dessa utmaningar. Durable Task-körningen kontrollerar automatiskt varje tillståndsövergång i ett agentarbetsflöde (LLM-svar, verktygsanropsresultat och kontrollflödesbeslut) till varaktig lagring. När ett fel inträffar återupptas körningen automatiskt på en felfri virtuell dator från den senaste kontrollpunkten i stället för att startas om från början. Slutförda LLM-anrop upprepas inte, vilket sparar både tokenförbrukning och mätt tid. Inbyggda återförsöksprinciper med konfigurerbar backoff hanterar tillfälliga fel från LLM-API:er, externa verktyg och underordnade tjänster utan ytterligare kod.

Mönster för agentiskt arbetsflöde

Durable Task har stöd för en rad agentiska arbetsflödesmönster som delas in i två breda kategorier:

• Deterministiska arbetsflöden: Koden definierar kontrollflödet. Du skriver sekvensen med steg – inklusive förgrening, parallellitet och felhantering – med hjälp av standardprogrammeringskonstruktioner. LLM anropas som ett steg i arbetsflödet men styr inte det övergripande flödet.
• Agentstyrda arbetsflöden (agentloopar): LLM styr kontrollflödet. Agenten bestämmer vilka verktyg som ska anropas, i vilken ordning och när uppgiften är klar. Du tillhandahåller verktyg och instruktioner, men agenten bestämmer exekveringsvägen.

Båda kategorierna drar nytta av hållbar hantering och kan kombineras i samma program. En detaljerad titt på de mönster som stöds med kodexempel finns i Agentiska programmönster.

Jämför alternativ för agentiskt arbetsflöde på Azure

Det finns flera alternativ för att skapa agentiska arbetsflöden på Azure utöver teknikstacken Durable Task. Varje alternativ har olika styrkor och kompromisser beroende på dina krav för kontrollflöde, stöd för programmeringsspråk, AI-ramverksintegrering, värdhantering, tillståndshantering och målgrupp. Följande tabell hjälper dig att avgöra vilken som passar dina behov.

Nästa steg

• Agentiska programmönster
• Durable Task Extension för Microsoft Agent Framework (Preview)
• Översikt över Durable Task Scheduler