エージェントと LLM 用の Unity AI ゲートウェイ

Unity AI Gateway とは

Unity AI Gateway は、LLM エンドポイント、エージェント、コーディング ツールを管理するためのエンタープライズ コントロール プレーンです。 これを使用して、使用状況の分析、アクセス許可の構成、プロバイダー間の容量の管理を行います。

Unity AI Gateway を使用すると、次のことができます。

• 組織で LLM、エージェント、コーディング ツールがどのように使用されているかを分析する
• Govern Azure Databricks ホスト型モデルと外部モデルへのアクセス
• ログ すべてのエンドポイントから Unity Catalog への LLM トラフィック
• エンドポイントの正常性とプロバイダーの可用性を監視する
• レート制限とガードレールを適用する
• 特定のエンドポイント、ユーザー、チームにコストを属性付けする
• 信頼性と負荷分散のためにプロバイダー間でトラフィックをインテリジェントにルーティングする
• スケーラビリティのために複数のモデル バックエンド間でトラフィックを分割する
• コードを変更せずにプロバイダーとモデルを切り替える

サポートされている機能

次の表では、使用可能な Unity AI Gateway の機能を定義します。

Unity AI Gateway を使用する

Azure Databricksでは、人気のある LLM 用の Unity AI Gateway エンドポイントが提供されます。 エージェント、コーディング ツール、およびその他のアプリケーションを管理するための新しいエンドポイントを作成できます。

開始するには、「 Unity AI Gateway エンドポイントの構成」を参照してください。 エンドポイントのクエリを実行するには、「 Unity AI Gateway エンドポイントのクエリ」を参照してください。 Cursor、Gemini CLI、Codex CLI、Claude Code などのコーディング エージェントを統合するには、「 コーディング エージェントとの統合」を参照してください。 Unity AI Gateway を介して Databricks Apps に作成してデプロイするエージェントから LLM 呼び出しをルーティングするには、 手順 4 を参照してください。Unity AI Gateway を使用して Databricks Apps 上のエージェントから LLM の使用を管理します。

クエリのクイック スタート

次の例は、Pythonと OpenAI クライアントを使用して Unity AI ゲートウェイ エンドポイントにクエリを実行する方法を示しています。

from openai import OpenAI
import os

# To get a Databricks token, see https://docs.databricks.com/dev-tools/auth/pat
DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
    api_key=DATABRICKS_TOKEN,
    base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

chat_completion = client.chat.completions.create(
    messages=[
        {"role": "user", "content": "Hello!"},
        {"role": "assistant", "content": "Hello! How can I assist you today?"},
        {"role": "user", "content": "What is Databricks?"},
    ],
    model="databricks-gpt-5-2",
    max_tokens=256
)

print(chat_completion.choices[0].message.content)

<workspace-url>をAzure Databricksワークスペースの URL に置き換えます。

次のステップ

• Unity AI Gateway エンドポイントを構成する
• Unity AI Gateway エンドポイントのクエリを実行する
• コーディング エージェントとの統合
• Databricks Apps でエージェントを管理する
• Unity AI Gateway エンドポイントの使用状況を監視する
• 推論テーブルを使用してモデルを監視する
• Unity AI Gateway エンドポイントのレート制限を構成する