Paketkod för Databricks-modellservering

Sidan spåra programversioner visar hur du spårar programversioner med hjälp av LoggedModel som en metadatahubb som länkar till extern kod (till exempel Git). Det finns också scenarier där du kan behöva paketera programkoden direkt i LoggedModel.

Detta är särskilt användbart för distribution till Databricks Model Serving eller för distributioner med Agent Framework, som förväntar sig fristående modellartefakter.

När du ska paketera kod direkt

Paketera koden i en LoggedModel när du behöver:

  • Fristående distributionsartefakter som innehåller all kod och alla beroenden.
  • Direktdistribution till betjänande plattformar utan externa kodberoenden.

Det här är ett valfritt steg för distribution, inte standardmetoden för versionshantering för utvecklings-iterationer.

Modellartefakter

Att paketera kod

MLflow rekommenderar att du använder ResponsesAgent gränssnittet för att paketera dina GenAI-program.

Se något av följande för att komma igång:

Om du följer dessa sidor blir det en distributionsklar LoggedModel som fungerar på samma sätt som endast LoggedModelmetadata. Följ steg 6 på sidan spåra programversioner för att länka din paketerade modellversion till utvärderingsresultat.

Nästa steg