Ferramenta LLM

Warning

O desenvolvimento da funcionalidade Prompt Flow terminou a 20 de abril de 2026. A rubrica será totalmente retirada a 20 de abril de 2027. Na data de reforma, o Prompt Flow entra em modo apenas de leitura. Os seus fluxos existentes continuarão a funcionar até essa data.

Ação recomendada: Migre as suas cargas de trabalho Prompt Flow para Microsoft Agent Framework antes de 20 de abril de 2027.

A ferramenta de grandes modelos de linguagem (LLM) no fluxo de prompts permite-lhe usar grandes modelos de linguagem amplamente utilizados como OpenAI, Azure OpenAI em Microsoft Foundry Models, ou qualquer modelo de linguagem suportado pela API de inferência de modelos de IA <>Azure para processamento de linguagem natural.

O fluxo de prompts fornece várias APIs de grandes modelos de linguagem:

Conclusão: Os modelos de conclusão da OpenAI geram texto com base em prompts fornecidos.
Chat: Os modelos de chat da OpenAI e os modelos de chat Azure AI facilitam conversas interativas com entradas e respostas baseadas em texto.

A API de Embeddings não está disponível na ferramenta LLM. Usa a ferramenta embedding para gerar embeddings com OpenAI ou Azure OpenAI.

Observação

A ferramenta LLM no fluxo de prompts não suporta modelos de raciocínio (como OpenAI, o1 ou o3). Para integração de modelos de raciocínio, use a ferramenta Python para chamar diretamente as APIs dos modelos. Para mais informações, veja Chame um modelo de raciocínio a partir da ferramenta Python.

Pré-requisitos

Criar recursos OpenAI:

OpenAI:
- Inscreva-se numa conta no site da OpenAI.
- Inicia sessão e encontra a tua chave API pessoal.
Azure OpenAI:
- Crie Azure recursos OpenAI seguindo estas instruções. Use apenas caracteres ASCII nos nomes dos grupos de recursos do Azure OpenAI. O fluxo de prompts não suporta caracteres que não sejam ASCII nos nomes dos grupos de recursos.
Modelos implementados em implementações padrão:
- Cria um endpoint com o modelo do catálogo que queres e implementa-o com uma implementação padrão.
- Para usar modelos implementados em implementação padrão suportada pela API de inferência de modelos de IA Azure , como Mistral, Cohere, Meta Llama ou Microsoft família de modelos (entre outros), crie uma ligação no seu projeto ao endpoint.

Connections

Configura ligações a recursos provisionados em fluxo rápido.

Tipo	Name	chave de API	Tipo de API	Versão da API
OpenAI	Obrigatório	Obrigatório	-	-
Azure OpenAI - Chave API	Obrigatório	Obrigatório	Obrigatório	Obrigatório
Azure OpenAI - Microsoft Entra ID	Obrigatório	-	-	Obrigatório
Modelo serverless	Obrigatório	Obrigatório	-	-

Tip

Para usar Microsoft Entra ID tipo de autenticação para Azure ligação OpenAI, atribua o papel Cognitive Services OpenAI User ou Cognitive Services OpenAI Contributor ao utilizador ou à identidade gerida atribuída pelo utilizador.
Saiba mais sobre como especificar a utilização da identidade do utilizador para a execução do fluxo de submissão.
Saiba mais sobre como configurar Azure OpenAI com identidades geridas.

Entradas

As secções seguintes mostram várias entradas.

Conclusão do texto

Name	Tipo	Description	Obrigatório
avisar	cadeia (de caracteres)	Prompt de texto para o modelo de linguagem.	Sim
modelo, nome da implementação	cadeia (de caracteres)	Modelo de linguagem a usar.	Sim
máximo de tokens	número inteiro	Número máximo de tokens a gerar na conclusão. O padrão é 16.	No
Temperatura	float	Aleatoriedade do texto gerado. O padrão é 1.	No
pare	lista	Sequência de paragem para o texto gerado. O padrão é nulo.	No
sufixo	cadeia (de caracteres)	Texto anexado ao final da finalização.	No
top_p	float	Probabilidade de usar a primeira escolha dos tokens gerados. O padrão é 1.	No
Logprobs	número inteiro	Número de probabilidades logarítmicas a gerar. O padrão é nulo.	No
Echo	boolean	Valor que indica se deve repetir o prompt na resposta. O padrão é falso.	No
presence_penalty	float	Valor que controla o comportamento do modelo para frases repetidas. O padrão é 0.	No
penalização de frequência	float	Valor que controla o comportamento do modelo para gerar frases raras. O padrão é 0.	No
melhor_de	número inteiro	Número de melhores completações a gerar. O padrão é 1.	No
logit_bias	dicionário	Viés de logit para o modelo de linguagem. O padrão é um dicionário vazio.	No

Chat

Name	Tipo	Description	Obrigatório
avisar	cadeia (de caracteres)	Prompt de texto que o modelo de linguagem usa para uma resposta.	Sim
modelo, nome da implementação	cadeia (de caracteres)	Modelo de linguagem a usar. Este parâmetro não é necessário se o modelo for implementado numa implementação padrão.	Sim*
máximo de tokens	número inteiro	Número máximo de tokens a gerar na resposta. O padrão é inf.	No
Temperatura	float	Aleatoriedade do texto gerado. O padrão é 1.	No
pare	lista	Sequência de paragem para o texto gerado. O padrão é nulo.	No
top_p	float	Probabilidade de usar a primeira escolha dos tokens gerados. O padrão é 1.	No
presence_penalty	float	Valor que controla o comportamento do modelo para frases repetidas. O padrão é 0.	No
penalização de frequência	float	Valor que controla o comportamento do modelo para gerar frases raras. O padrão é 0.	No
logit_bias	dicionário	Viés de logit para o modelo de linguagem. O padrão é um dicionário vazio.	No

Saídas

API	Tipo de retorno	Description
Completion	cadeia (de caracteres)	Texto de uma conclusão prevista
Chat	cadeia (de caracteres)	Texto de uma resposta à conversa

Use a ferramenta LLM

Configura e seleciona as ligações aos recursos da OpenAI ou a uma implementação padrão.
Configure a grande API do modelo de linguagem e os seus parâmetros.
Prepare o enunciado com orientação.

Comentários

Esta página foi útil?

Last updated on 2026-06-01