Código do pacote para Databricks Model Serving

A página rastrear versões de aplicativos mostra como rastrear versões de aplicativos usando LoggedModel como um hub de metadados vinculando a código externo (como o Git). Também há cenários em que talvez seja necessário empacotar o código do aplicativo diretamente no LoggedModel.

Isso é particularmente útil para implantação no Databricks Model Serving ou para implantações usando o Agent Framework, que espera artefatos de modelo autônomos.

Quando empacotar o código diretamente

Empacote seu código em um LoggedModel quando precisar:

• Artefatos de implantação autônomos que incluem todo o código e dependências.
• Implantação direta em plataformas de serviço sem dependências de código externo.

Esta é uma etapa opcional para implantação, não a abordagem de controle de versão padrão para iterações de desenvolvimento.

Como empacotar o código

O MLflow recomenda o uso da ResponsesAgent interface para empacotar seus aplicativos GenAI.

Consulte uma das seguintes opções para começar:

• Guia de início rápido. Consulte o guia rápido para criar e implantar agentes de IA.
• Para obter mais detalhes, consulte criar agentes de IA no código.

Seguir essas páginas resulta em um LoggedModel pronto para implantação que se comporta da mesma maneira que o LoggedModel somente metadados. Siga a etapa 6 da página Rastrear versões de aplicação para relacionar a versão do modelo empacotado aos resultados da avaliação.

Próximos passos

• Implantar no Model Serving - Implante seu modelo empacotado na produção
• Associar traces de produção a versões de aplicativos - Acompanhe as versões implantadas em produção
• Executar pontuadores em produção - Monitorizar a qualidade do modelo implementado