Foundry Models (クラシック) のサーバーレス API 推論の例

適用対象:Foundry (クラシック) ポータル。 この記事は、新しい Foundry ポータルでは使用できません。 新しいポータルの詳細を確認します。

Foundry モデル カタログには、さまざまなプロバイダーからMicrosoft Foundry モデルが多数用意されています。 モデル カタログからモデルをデプロイするためのさまざまなオプションがあります。 この記事では、サーバーレス API デプロイの推論例を示します。

モデルで推論を実行するには、 Nixtla の TimeGEN-1 や Cohere rerank などの一部のモデルで、モデル プロバイダーのカスタム API を使用する必要があります。 他のユーザーは、 モデル推論 API を使用した推論をサポートしています。 Foundry ポータルのモデル カタログでモデル カードを確認することで、個々のモデルの詳細を確認できます。

コヒア (Cohere)

Cohere のモデル ファミリには、rerank、チャットの完了、埋め込みモデルなど、さまざまなユース ケース向けに最適化されたさまざまなモデルが含まれています。

推論の例: Cohere コマンドと埋め込み

次の表は、Cohere モデルの使用方法の例へのリンクを示しています。

取得拡張生成 (RAG) とツールの使用サンプル: Cohere コマンドと埋め込み

Cohere rerank

Cohere rerank モデルで推論を実行するには、Cohere のカスタム rerank API を使用する必要があります。 Cohere rerank モデルとその機能の詳細については、 Cohere rerank を参照してください。

Cohere Rerank モデルの価格

クエリは、ユーザーのクエリと混同しないように、Cohere Rerank モデルの推論の入力として使用されるトークンに関連するコストを指す価格メーターです。 Cohere では、1 つの検索単位がクエリとしてカウントされ、最大 100 個のドキュメントがランク付けされます。 検索クエリの長さを含めると、500 個を超えるトークン (Cohere-rerank-v3.5 の場合) または 4096 個を超えるトークン (Cohere-rerank-v3-English および Cohere-rerank-v3-multilingual の場合) が複数のチャンクに分割され、各チャンクは 1 つのドキュメントとしてカウントされます。

Foundry ポータルの Cohere モデル コレクションを参照してください。

Core42

次の表は、Jais モデルの使用方法の例へのリンクを示しています。

DeepSeek

DeepSeek のモデル ファミリには DeepSeek-R1 が含まれています。DeepSeek-R1 は、言語、科学的推論、コーディング タスク、DeepSeek-V3-0324、エキスパート混合 (MoE) 言語モデルなど、段階的なトレーニング プロセスを使用した推論タスクに優れています。

次の表は、DeepSeek モデルの使用方法の例へのリンクを示しています。

メタ

Meta Llama のモデルとツールは、事前トレーニングおよび微調整された生成 AI テキストと画像推論モデルのコレクションです。 メタ モデルの範囲は、次を含むようにスケールされます。

• デバイス上およびエッジでの推論用の1Bや3Bベースモデル、インストラクトモデルなどの小規模言語モデル (SLM)
• 7B、8B、70B の基本モデルや指示モデルなどの中規模の大規模言語モデル (LLM)
• Meta Llama 3.1-405B などの高パフォーマンスモデル合成データの生成と蒸留のユース ケースに関する指示。
• 高パフォーマンスのネイティブマルチモーダル モデルである Llama 4 Scout と Llama 4 Maverick は、エキスパートの混合アーキテクチャを活用して、テキストと画像の理解において業界をリードするパフォーマンスを提供します。

次の表は、Meta Llama モデルの使用方法の例へのリンクを示しています。

Microsoft

Microsoftモデルには、MAI モデル、Phi モデル、医療 AI モデルなど、さまざまなモデル グループが含まれます。 使用可能なすべてのMicrosoft モデルを表示するには、foundry portal で Microsoft モデル コレクションを表示します。

次の表は、Microsoft モデルの使用方法の例へのリンクを示しています。

Foundry ポータルの Microsoft モデル コレクションを参照してください。

Mistral AI

Mistral AI には、次の 2 つのカテゴリのモデルが用意されています。

• Premium モデル: これらには、Mistral Large、Mistral Small、Mistral-OCR-2503、Mistral Medium 3 (25.05)、および Ministral 3B モデルが含まれており、従量課金制トークンベースの課金でサーバーレス API として利用できます。
• オープンモデル:ミストラル-small-2503、 Codestral、および Mistral Nemo (従量課金制トークン ベースの課金でサーバーレス API として利用できます)、Mixtral-8x7B-Instruct-v01、Mixtral-8x7B-v01、Mistral-7B-Instruct-v01、Mistral-7B-v01 (セルフホステッドマネージド エンドポイントでダウンロードして実行できます)。

次の表は、Mistral モデルの使用方法の例へのリンクを示しています。

Nixtla

Nixtla の TimeGEN-1 は、時系列データ用の生成的な事前トレーニング済みの予測および異常検出モデルです。 TimeGEN-1 では、履歴値と外因性共変量のみを入力として使用して、トレーニングなしで新しい時系列の正確な予測を生成できます。

推論を実行するには、TimeGEN-1 で Nixtla のカスタム推論 API を使用する必要があります。 TimeGEN-1 モデルとその機能の詳細については、 Nixtla を参照してください。

必要なトークンの数を見積もる

TimeGEN-1 デプロイを作成する前に、使用して課金するトークンの数を見積もると便利です。 1 つのトークンは、入力データセットまたは出力データセット内の 1 つのデータ ポイントに対応します。

次の入力時系列データセットがあるとします。

トークンの数を決定するには、行数 (この例では 2 つ) と予測に使用される列の数を乗算し、unique_id列とタイムスタンプ列 (この例では 3 列) をカウントせず、合計 6 個のトークンを取得します。

次の出力データセットを指定します。

また、データ予測後に返されるデータ ポイントの数をカウントすることで、トークンの数を決定することもできます。 この例では、トークンの数は 2 です。

トークンに基づいて価格を見積もる

支払う価格を決定する 4 つの価格メーターがあります。 これらのメーターは次のとおりです。

Foundry ポータルの Nixtla モデル コレクションを参照してください。

安定性 AI

サーバーレス API デプロイを介してデプロイされた安定性 AI モデルは、ルート /image/generationsにモデル推論 API を実装します。 安定性 AI モデルの使用方法の例については、次の例を参照してください。

• テキストから画像への要求に対して安定性 AI モデルを使用する OpenAI SDK を使用します
• テキストから画像への要求に対する安定性 AI モデルを備えた要求ライブラリを使用します
• Requestsライブラリを使用して、Stable Diffusion 3.5 Large で画像間のリクエストを行います
• 完全にエンコードされた画像生成応答のサンプル

Gretel Navigator

Gretel Navigator は、10 を超える業界ドメインにわたって微調整された、オープンソースの上位の小規模言語モデル (SMM) を組み合わせることにより、合成データ用に特別に設計された複合 AI アーキテクチャを採用しています。 この専用システムは、数億から数百万の例の規模で、ドメイン固有のさまざまなデータセットを作成します。 また、このシステムは複雑な統計的関係を維持し、手動でのデータ作成と比較して速度と精度を向上させます。

関連コンテンツ

• サーバーレス API デプロイとしてモデルをデプロイする
• ファウンドリ モデルの探索
• Foundry モデルとその機能
• サーバーレス API デプロイでのモデルのリージョンの可用性
• Azure が直接販売するモデルのコンテンツ安全性