Varaktig uppgift för AI-agenter

AI-agenter som körs i timmar, anropar externa verktyg och måste överleva infrastrukturfel behöver varaktig exekvering – möjligheten att automatiskt spara uppgifter och återuppta från avbrottspunkten. Programmeringsmodellen Durable Task Scheduler och Durable Task tillhandahåller den här infrastrukturen, hantering av tillståndshantering, kontrollpunkter och distribuerad samordning så att agentkoden inte behöver göra det.

Med den här programmeringsmodellen skapar du motståndskraftiga, tillståndskänsliga agentiska arbetsflöden med hjälp av standardprogrammeringskonstruktioner (loopar, villkor, felhantering) i .NET, Python, Java och JavaScript/TypeScript. Runtime-miljön bevarar tillståndet och hanterar återhämtning från fel automatiskt.

Durable Task är inte ett agentramverk – det fungerar med AI-agentramverk, inklusive Microsoft Agent Framework, LangChain eller direkta LLM API-anrop. Du fokuserar på agentlogik; Durable Task hanterar tillförlitlig exekvering på stor skala.

I den här artikeln lär du dig mer om:

Produktionsutmaningar som hållbart utförande löser

AI-agenter i produktion står inför flera utmaningar som uthållig exekvering tar itu med:

• Långvariga, tillståndskänsliga sessioner – Interaktioner mellan människor i loopen, resonemang i flera steg och verktygsförhöjda arbetsflöden kan hålla en agent aktiv i timmar, dagar eller veckor. Agenten ackumulerar tillstånd (konversationshistorik, mellanliggande resultat, väntande beslut) som måste bevaras i varje steg.
• Dyr tokenförbrukning – Att bearbeta stora volymer av LLM-token är kostsamt och tidskrävande. Hastighetsbegränsningar kan begränsa agenten mitt i arbetsflödet. Om ett fel inträffar under processen förloras de token som redan förbrukats och den tid som redan spenderats.
• Infrastrukturavbrott – Omstarter av beräkning, distributioner, inskalningshändelser och tillfälliga fel kan krascha en agentsession. Utan återställning måste agenten börja om från början av processen, åtgå alla tidigare förbrukade token och upprepa allt slutfört arbete.

Hållbar körning löser dessa utmaningar:

• Automatisk kontrollpunktering – Durable Task runtime kontrollerar varje tillståndsövergång (LLM-svar, resultat av verktygsanrop, kontrollflödesbeslut) till beständig lagring.
• Återuppta från den senaste kontrollpunkten – När ett fel inträffar återupptas körningen automatiskt på en felfri virtuell dator. Slutförda LLM-anrop upprepas inte, vilket sparar både tokenförbrukning och mätt tid.
• Inbyggda återförsök – Konfigurerbara återförsöksprinciper med backoff hanterar tillfälliga fel från LLM-API:er, externa verktyg och underordnade tjänster utan ytterligare kod.

Mönster för agentiskt arbetsflöde

Durable Task har stöd för en rad agentiska arbetsflödesmönster som delas in i två breda kategorier:

• Deterministiska arbetsflöden: Koden definierar kontrollflödet. Du skriver sekvensen med steg – inklusive förgrening, parallellitet och felhantering – med hjälp av standardprogrammeringskonstruktioner. LLM anropas som ett steg i arbetsflödet men styr inte det övergripande flödet.
• Agentstyrda arbetsflöden (agentloopar): LLM styr kontrollflödet. Agenten bestämmer vilka verktyg som ska anropas, i vilken ordning och när uppgiften är klar. Du tillhandahåller verktyg och instruktioner, men agenten bestämmer exekveringsvägen.

Båda kategorierna drar nytta av hållbar hantering och kan kombineras i samma program. En detaljerad titt på de mönster som stöds med kodexempel finns i Agentiska programmönster.

Jämför alternativ för agentiskt arbetsflöde på Azure

Det finns flera alternativ för att skapa agentiska arbetsflöden på Azure utöver teknikstacken Durable Task. Varje alternativ har olika styrkor och kompromisser beroende på dina krav för kontrollflöde, stöd för programmeringsspråk, AI-ramverksintegrering, värdhantering, tillståndshantering och målgrupp. Följande tabell hjälper dig att avgöra vilken som passar dina behov.

Nästa steg

• Agentiska programmönster
• Durable Task Extension för Microsoft Agent Framework (Preview)
• Översikt över Durable Task Scheduler