Duurzame taak voor AI-agents

De Durable Task Scheduler, gecombineerd met het Durable Task-programmeermodel, biedt de onderliggende infrastructuur voor duurzame uitvoering, het verwerken van statusbeheer, controlepunten en gedistribueerde coördinatie, zodat uw agentcode dat niet hoeft te doen.

Met het Durable Task-programmeermodel kunt u tolerante, stateful agentische werkstromen bouwen met behulp van standaardprogrammeerconstructies (zoals lussen, voorwaarden en foutafhandeling) in .NET, Python, Java en JavaScript/TypeScript, terwijl de runtime de status behoudt en automatisch herstelt van fouten.

Hoewel het Durable Task-programmeermodel geen agentframework zelf is, werkt het met elk AI-agentframework, waaronder Microsoft Agent Framework, LangChain of directe LLM API-aanroepen. Door deze scheiding van problemen kunt u zich richten op agentlogica terwijl Durable Task betrouwbare uitvoering op schaal afhandelt.

In dit artikel krijgt u meer informatie over:

Duurzame uitvoering lost productie-uitdagingen op

AI-agents die in productieomgevingen werkzaam zijn, zijn doorgaans langlopende, toestandsbewuste en afhankelijk van externe hulpprogramma's en diensten. Menselijke interacties, meerstaps redeneringsketens en hulpprogramma-ondersteunde werkstromen kunnen een agentsessie uren, dagen of zelfs weken actief houden. Gedurende die tijd verzamelt de agent de status, inclusief gespreksgeschiedenis, tussenliggende resultaten en beslissingen die in behandeling zijn, die in elke stap moeten worden bewaard.

Het verwerken van grote volumes LLM-tokens is duur en tijdrovend. Modelproviders kunnen snelheidslimieten opleggen die de gemiddelde werkstroom van uw agent beperken. Als een infrastructuurfout, zoals het opnieuw opstarten van een VM of netwerkstoring, zich tijdens een agenttaak met meerdere stappen voordoet, gaan de tokens die al zijn verbruikt en de tijd die al is besteed verloren.

Onderbrekingen van langlopende agentwerkstromen, of het nu gaat om het opnieuw opstarten van computercapaciteit, implementaties, afschaling of tijdelijke infrastructuurfouten, zorgen voor verhoging van kosten. Zonder herstelmechanisme moet een vastgelopen agentsessie opnieuw worden opgestart vanaf het begin, alle eerder uitgegeven tokens opnieuw gebruiken en alle eerder voltooide werkzaamheden herhalen.

Duurzame uitvoering lost deze uitdagingen op. De Durable Task Runtime controleert automatisch elke statusovergang in een agentwerkstroom (LLM-antwoorden, resultaten van hulpprogrammaaanroepen en beslissingen over de controlestroom) naar duurzame opslag. Wanneer er een fout optreedt, wordt de uitvoering automatisch hervat op een vm die in orde is vanaf het laatste controlepunt in plaats van helemaal opnieuw op te starten. Voltooide LLM-aanroepen worden niet herhaald, waardoor zowel tokenuitgaven als wandkloktijd worden geoptimaliseerd. Ingebouwde beleidsregels voor opnieuw proberen met configureerbare back-off verwerken tijdelijke fouten van LLM-API's, externe hulpprogramma's en downstreamservices zonder extra code.

Agentische werkstroompatronen

Durable Task ondersteunt een reeks agentische werkstroompatronen die in twee brede categorieën worden onderverdeeld:

• Deterministische werkstromen: uw code definieert de controlestroom. U schrijft de reeks stappen, waaronder vertakking, parallelle uitvoering en foutafhandeling, met behulp van standaardprogrammeringsconstructies. De LLM wordt aangeroepen als een stap binnen de werkstroom, maar heeft geen controle over de algehele stroom.
• Door agents gerichte werkstromen (agentlussen): de LLM bepaalt de controleflow. De agent bepaalt welke hulpprogramma's moeten worden aangeroepen, in welke volgorde en wanneer de taak is voltooid. U geeft hulpprogramma's en instructies op, maar de agent bepaalt het uitvoeringspad tijdens runtime.

Beide categorieën profiteren van duurzame uitvoering en kunnen worden gecombineerd in dezelfde toepassing. Zie Agentische toepassingspatronen voor een gedetailleerd overzicht van de ondersteunde patronen met codevoorbeelden.

Opties voor agentische werkstromen vergelijken op Azure

Er zijn verschillende opties voor het bouwen van agentische werkstromen op Azure naast de durable task-technologiestack. Elke optie heeft verschillende sterke punten en compromissen, afhankelijk van uw vereisten voor controlestroom, programmeertaalondersteuning, integratie van AI-frameworks, hosting, statusbeheer en doelgroep. In de volgende tabel kunt u bepalen welke aan uw behoeften voldoet.

Volgende stappen 

• Agentische toepassingspatronen
• Zelfstandige Taakuitbreiding voor Microsoft Agent Framework (Preview)
• Overzicht van Durable Task Scheduler