Unity AI Gateway

Viktigt!

Den här sidan beskriver den nya AI-gatewayen (visas i det vänstra navigeringsfältet i användargränssnittet), som för närvarande finns i Beta. Kontoadministratörer kan aktivera åtkomst till den här funktionen på sidan förhandsversioner av kontokonsolen. Se Hantera Azure Databricks förhandsversioner.

Mer information om den tidigare versionen av Unity AI Gateway finns i Unity AI Gateway för serverslutpunkter.

Unity AI Gateway är Databricks centrala AI-styrningslager för agenter, LLM-slutpunkter, MCP-servrar och kodningsagenter. Använd Unity AI Gateway för att analysera användning, konfigurera behörigheter, framtvinga skyddsräcken och hantera kapacitet mellan olika leverantörer.

LLM:er

Unity AI Gateway tillhandahåller företagsstyrning för LLM-slutpunkter, agenter och kodningsverktyg som din organisation använder, inklusive ett enhetligt användargränssnitt, förbättrad observerbarhet och utökad API-täckning.

Ämne Description
Unity AI Gateway för agenter och LLM:er Lär dig mer om Unity AI Gateway för agenter och LLM-slutpunkter och hur du kommer igång.
Konfigurera Unity AI Gateway-slutpunkter Skapa och konfigurera Unity AI Gateway-slutpunkter för dina LLM:er och kodningsagenter.
Fråga Unity AI Gateway-slutpunkter Fråga Unity AI Gateway-slutpunkter med hjälp av OpenAI-klienten och andra API:er som stöds.
Övervaka användning för Unity AI Gateway-slutpunkter Övervaka användning och kostnader för Unity AI Gateway-slutpunkter med hjälp av systemtabeller.
Övervaka modeller med hjälp av slutsatsdragningstabeller Övervaka och granska begäranden och svar i Delta-tabeller i Unity Catalog.
Konfigurera hastighetsgränser för Unity AI Gateway-slutpunkter Tillämpa förbrukningsgränser för Unity AI Gateway-slutpunkter för att hantera kapacitet och kostnader.
Integrera med kodningsagenter Integrera kodningsagenter som Cursor, Gemini CLI, Codex CLI och Claude Code med Unity AI Gateway.
Styra LLM-användning från din agent Dirigera LLM-anrop från agenter som skapats och distribuerats i Databricks-appar via Unity AI Gateway.

Anmärkning

Unity AI Gateway-funktioner debiteras inte under betaversionen.

MCP:er

Unity AI Gateway ger styrning för MCP-servrar, vilket ger dig synlighet, åtkomstkontroll och granskningsloggning för alla MCP-interaktioner.

Ämne Description
Model Context Protocol (MCP) på Databricks Lär dig mer om MCP-servertyper på Databricks och hur du kommer igång.
Använda Databricks-hanterade MCP-servrar Få omedelbar åtkomst till Databricks-funktioner med förkonfigurerade MCP-servrar.
Använda externa MCP-servrar Anslut på ett säkert sätt till MCP-servrar som finns utanför Databricks med hjälp av hanterade anslutningar.
Värdhantera anpassade MCP-servrar med Databricks-appar Hosta en anpassad MCP-server som en Databricks-app.
Ansluta icke-Databricks-klienter till Databricks MCP-servrar Ansluta MCP-klienter till dina Databricks MCP-servrar.

Modell som betjänar slutpunkter (tidigare)

Den tidigare versionen av Unity AI Gateway innehåller styrningsfunktioner för modell som betjänar slutpunkter, inklusive externa modellslutpunkter, FOUNDATION Model API-slutpunkter och anpassade modellslutpunkter.

Ämne Description
Unity AI Gateway för serverslutpunkter Lär dig mer om Unity AI Gateway-funktioner för att hantera slutpunkter, inklusive funktioner och begränsningar som stöds.
Konfigurera Unity AI Gateway på slutpunkter för modellbetjäning Konfigurera Unity AI Gateway-funktioner som användningsspårning, nyttolastloggning, hastighetsbegränsningar och skyddsräcken på en modell som betjänar slutpunkten.
Övervaka hanterade modeller med hjälp av Unity AI Gateway-aktiverade slutsatsdragningstabeller Övervaka hanterade modeller med hjälp av Unity AI Gateway-aktiverade slutsatsdragningstabeller.
  • Last updated on