LLM tool

Warning

De ontwikkeling van promptstroomfuncties is beëindigd op 20 april 2026. De functie wordt op 20 april 2027 volledig buiten gebruik gesteld. Op de buitengebruikstellingsdatum wordt de modus Alleen-lezen ingeschakeld. Uw bestaande stromen blijven actief tot die datum.

Opgevraagde actie: Migreer uw promptstroomworkloads naar Microsoft Agent Framework vóór 20 april 2027.

Met het hulpprogramma voor groot taalmodel (LLM) in promptstroom kunt u veelgebruikte grote taalmodellen gebruiken, zoals OpenAI, Azure OpenAI in Microsoft Foundry Models of een taalmodel dat wordt ondersteund door de Azure AI-modeldeductie-API voor verwerking van natuurlijke taal.

Promptstroom biedt verschillende API's voor het grote taalmodel:

Voltooiing: De voltooiingsmodellen van OpenAI genereren tekst op basis van opgegeven prompts.
Chat: OpenAI-chatmodellen en de Azure AI chatmodellen maken interactieve gesprekken mogelijk met op tekst gebaseerde invoer en antwoorden.

De API Embeddings is niet beschikbaar in het LLM-hulpprogramma. Gebruik het hulpprogramma embedding om insluitingen te genereren met OpenAI of Azure OpenAI.

Note

Het LLM-hulpprogramma in promptstroom biedt geen ondersteuning voor redeneringsmodellen (zoals OpenAI o1 of o3). Als u modelintegratie wilt redeneren, gebruikt u het hulpprogramma Python om de model-API's rechtstreeks aan te roepen. Zie Call a reasoning model from the Python tool voor meer informatie.

Prerequisites

OpenAI-resources maken:

OpenAI:
- Meld u aan voor een account op de OpenAI-website.
- Meld u aan en zoek uw persoonlijke API-sleutel.
Azure OpenAI:
- Maak Azure OpenAI-resources door e instructies te volgen. Gebruik alleen ASCII-tekens in Azure OpenAI-resourcegroepnamen. Promptstroom biedt geen ondersteuning voor niet-ASCII-tekens in resourcegroepnamen.
Modellen die zijn geïmplementeerd in standaardimplementaties:
- Maak een eindpunt met het model uit de gewenste catalogus en implementeer het met een standaardimplementatie.
- Als u modellen wilt gebruiken die zijn geïmplementeerd voor de standaardimplementatie die wordt ondersteund door de Azure AI-modeldeductie-API, zoals Mistral, Cohere, Meta Llama of Microsoft familie van modellen (onder andere), maak een verbinding in uw project met uw eindpunt.

Connections

Stel verbindingen in voor ingerichte resources in de promptstroom.

Type	Name	API key	API type	API version
OpenAI	Required	Required	-	-
Azure OpenAI - API-sleutel	Required	Required	Required	Required
Azure OpenAI - Microsoft Entra ID	Required	-	-	Required
Serverless model	Required	Required	-	-

Tip

Als u Microsoft Entra ID verificatietype wilt gebruiken voor Azure OpenAI-verbinding, wijst u de rol Cognitive Services OpenAI User of Cognitive Services OpenAI Contributor toe aan de door de gebruiker of de gebruiker toegewezen beheerde identiteit.
Meer informatie over het opgeven van gebruikersidentiteiten voor het verzenden van stroomuitvoeringen.
Meer informatie over hoe u Azure OpenAI configureert met beheerde identiteiten.

Inputs

In de volgende secties worden verschillende invoerwaarden weergegeven.

Text completion

Name	Type	Description	Required
prompt	string	Tekstprompt voor het taalmodel.	Yes
model, deployment_name	string	Taalmodel dat moet worden gebruikt.	Yes
max_tokens	integer	Maximum aantal tokens dat moet worden gegenereerd tijdens de voltooiing. De standaardwaarde is 16.	No
temperature	float	Willekeurigheid van de gegenereerde tekst. De standaardwaarde is 1.	No
stop	list	De volgorde voor de gegenereerde tekst wordt gestopt. De standaardwaarde is null.	No
suffix	string	Tekst toegevoegd aan het einde van de voltooiing.	No
top_p	float	Waarschijnlijkheid van het gebruik van de belangrijkste keuze op basis van de gegenereerde tokens. De standaardwaarde is 1.	No
logprobs	integer	Aantal logboekkansen dat moet worden gegenereerd. De standaardwaarde is null.	No
echo	boolean	Waarde die aangeeft of de prompt in het antwoord moet worden herhaald. De standaardwaarde is onwaar.	No
presence_penalty	float	Waarde waarmee het gedrag van het model wordt bepaald voor herhalende woordgroepen. De standaardwaarde is 0.	No
frequency_penalty	float	Waarde waarmee het gedrag van het model wordt bepaald voor het genereren van zeldzame woordgroepen. De standaardwaarde is 0.	No
best_of	integer	Aantal beste voltooiingen dat moet worden gegenereerd. De standaardwaarde is 1.	No
logit_bias	dictionary	Logit-bias voor het taalmodel. De standaardwaarde is een lege woordenlijst.	No

Chat

Name	Type	Description	Required
prompt	string	Tekstprompt die door het taalmodel wordt gebruikt voor een antwoord.	Yes
model, deployment_name	string	Taalmodel dat moet worden gebruikt. Deze parameter is niet vereist als het model wordt geïmplementeerd in een standaardimplementatie.	Yes*
max_tokens	integer	Maximum aantal tokens dat in het antwoord moet worden gegenereerd. De standaardwaarde is inf.	No
temperature	float	Willekeurigheid van de gegenereerde tekst. De standaardwaarde is 1.	No
stop	list	De volgorde voor de gegenereerde tekst wordt gestopt. De standaardwaarde is null.	No
top_p	float	Waarschijnlijkheid van het gebruik van de belangrijkste keuze op basis van de gegenereerde tokens. De standaardwaarde is 1.	No
presence_penalty	float	Waarde waarmee het gedrag van het model wordt bepaald voor herhalende woordgroepen. De standaardwaarde is 0.	No
frequency_penalty	float	Waarde waarmee het gedrag van het model wordt bepaald voor het genereren van zeldzame woordgroepen. De standaardwaarde is 0.	No
logit_bias	dictionary	Logit-bias voor het taalmodel. De standaardwaarde is een lege woordenlijst.	No

Outputs

API	Return type	Description
Completion	string	Tekst van één voorspelde voltooiing
Chat	string	Tekst van één antwoord van gesprek

Het LLM-hulpprogramma gebruiken

Stel de verbindingen met OpenAI-resources of een standaardimplementatie in en selecteer deze.
Configureer de API voor het grote taalmodel en de bijbehorende parameters.
Bereid de prompt voor met richtlijnen.

Feedback

Is deze pagina nuttig?

Last updated on 2026-04-30