LLM ツール

Warnung

Microsoft Foundry と Azure Machine Learning のプロンプト フローは、2027 年 4 月 20 日に廃止されます。 新しい開発では、プロンプト フローは推奨されなくなりました。 2027 年 4 月 20 日より前に、既存の Prompt フロー アプリケーションとデプロイを Microsoft Agent Framework に移行します。

プロンプト フロー コンテナー イメージは、セキュリティやパッケージの更新プログラムなど、更新プログラムを受信しなくなりました。 これは、 promptflow-runtimepromptflow-runtime-stablepromptflow-pythonなどのプロンプト フロー ランタイム イメージに適用されます。

2027 年 4 月 20 日以降、Microsoft Foundry と Azure Machine Learning の Web 作成エクスペリエンス、VS Code 拡張機能、関連する Prompt フロー コンテナー イメージなど、プロンプト フローはサポートされなくなり、使用できなくなります。

アプリケーションがプロンプト フローのデプロイまたはランタイム イメージに依存している場合は、提供終了日より前に、サポートされている代替手段 (Microsoft Agent Framework にワークロードを移動することを計画します。 移行ガイダンスについては、プロンプト フロー移行ガイドと移行コード サンプルを参照してください。

プロンプト フローの大規模言語モデル (LLM) ツールを使用すると、OpenAI Azure Microsoft Foundry Models の OpenAI、または自然言語処理のために Azure AI モデル推論 API でサポートされている言語モデル。

プロンプト フローには、いくつかの大規模な言語モデル API が用意されています。

  • 完了: OpenAI の入力候補モデルでは、指定されたプロンプトに基づいてテキストが生成されます。
  • Chat: OpenAI のチャット モデルと Azure AI チャット モデルは、テキストベースの入力と応答を使用した対話型の会話を容易にします。

埋め込み API は LLM ツールでは使用できません。 embedding ツールを使用して、OpenAI または openAI を使用して埋め込みを生成Azure。

注意

プロンプト フローの LLM ツールは、推論モデル (OpenAI o1 や o3 など) をサポートしていません。 モデル統合を推論するには、Python ツールを使用してモデル API を直接呼び出します。 詳細については、「 Python ツールから推論モデルを呼び出すを参照してください。

Prerequisites

OpenAI リソースを作成します。

接続

プロンプト フローでプロビジョニングされたリソースへの接続を設定します。

タイプ Name API キー API の種類 API バージョン
OpenAI 必須 必須 - -
Azure OpenAI - API キー 必須 必須 必須 必須
Azure OpenAI - Microsoft Entra ID 必須 - - 必須
サーバーレス モデル 必須 必須 - -

ヒント

入力

次のセクションでは、さまざまな入力を示します。

テキスト補完

Name タイプ Description 必須
ダイアログを表示する 文字列 言語モデルのテキスト プロンプト。 はい
モデル, デプロイメントネーム 文字列 使用する言語モデル。 はい
マックス_トークン 整数 完了時に生成するトークンの最大数。 既定値は 16 です。 いいえ
温度 float 生成されたテキストのランダム性。 既定値は 1 です。 いいえ
stop list 生成されたテキストのシーケンスを停止しています。 既定値は null です。 いいえ
サフィックス 文字列 入力候補の末尾に追加されたテキスト。 いいえ
top_p float 生成されたトークンから上位の選択肢を使用する確率。 既定値は 1 です。 いいえ
logprobs 整数 生成するログ確率の数。 既定値は null です。 いいえ
echo boolean 応答でプロンプトをエコー バックするかどうかを示す値。 既定値は false です。 いいえ
presence_penalty float 繰り返しフレーズのモデルの動作を制御する値。 既定値は 0 です。 いいえ
頻度ペナルティ (frequency_penalty) float まれなフレーズを生成するためのモデルの動作を制御する値。 既定値は 0 です。 いいえ
ベスト・オブ 整数 生成する最適な完了の数。 既定値は 1 です。 いいえ
ロジットバイアス 辞書 言語モデルの Logit バイアス。 既定値は空のディクショナリです。 いいえ

チャット

Name タイプ Description 必須
ダイアログを表示する 文字列 言語モデルが応答に使用するテキスト プロンプト。 はい
モデル, デプロイメントネーム 文字列 使用する言語モデル。 モデルが標準デプロイにデプロイされている場合、このパラメーターは必要ありません。 はい*
マックス_トークン 整数 応答で生成するトークンの最大数。 既定値は inf です。 いいえ
温度 float 生成されたテキストのランダム性。 既定値は 1 です。 いいえ
stop list 生成されたテキストのシーケンスを停止しています。 既定値は null です。 いいえ
top_p float 生成されたトークンから上位の選択肢を使用する確率。 既定値は 1 です。 いいえ
presence_penalty float 繰り返しフレーズのモデルの動作を制御する値。 既定値は 0 です。 いいえ
頻度ペナルティ (frequency_penalty) float まれなフレーズを生成するためのモデルの動作を制御する値。 既定値は 0 です。 いいえ
ロジットバイアス 辞書 言語モデルの Logit バイアス。 既定値は空のディクショナリです。 いいえ

出力

API 返り値の種類 Description
Completion 文字列 1 つの予測完了のテキスト
チャット 文字列 会話の 1 つの応答のテキスト

LLM ツールを使用する

  1. OpenAI リソースまたは標準デプロイへの接続を設定して選択します。
  2. 大規模言語モデル API とそのパラメーターを構成します。
  3. ガイダンスを使用してプロンプトを準備します。