Criar uma execução de treinamento usando a API de ajuste fino do modelo de base

Este artigo descreve como criar e configurar uma execução de treinamento usando a API de ajuste fino do modelo de base (agora parte do treinamento do modelo de IA do Mosaic) e descreve todos os parâmetros usados na chamada à API. Você também pode criar uma execução usando a interface do usuário. Para obter instruções, consulte Criar uma execução de treinamento usando a interface do usuário de ajuste fino do modelo básico.

Requisitos

Confira os Requisitos

Criar uma sessão de treinamento

Para criar execuções de treinamento programaticamente, use a função create(). Essa função treina um modelo no conjunto de dados fornecido e salva o modelo treinado para inferência.

As entradas necessárias são o modelo que você deseja treinar, o local do conjunto de dados de treinamento e onde registrar seu modelo. Há também parâmetros opcionais que permitem que você execute a avaliação e altere os hiperparâmetros de sua execução.

Após a conclusão da execução, a execução concluída e o ponto de verificação final são salvos, o modelo é clonado e esse clone é registrado no Catálogo do Unity como uma versão de modelo para inferência.

O modelo da execução concluída, não a versão do modelo clonado no Catálogo do Unity, é salvo no MLflow. Os pontos de verificação podem ser usados para tarefas de ajuste fino contínuas.

Consulte Configurar uma execução de treinamento para obter detalhes sobre argumentos para a função create().

from databricks.model_training import foundation_model as fm

run = fm.create(
  model='meta-llama/Llama-3.2-3B-Instruct',
  train_data_path='dbfs:/Volumes/main/mydirectory/ift/train.jsonl', # UC Volume with JSONL formatted data
  # Public HF dataset is also supported
  # train_data_path='mosaicml/dolly_hhrlhf/train'
  register_to='main.mydirectory', # UC catalog and schema to register the model to
)

Configurar uma execução de treinamento

A tabela a seguir resume os parâmetros da foundation_model.create() função.

Basear-se em pesos de modelo personalizados

OBSERVAÇÃO: Se você treinou um modelo antes de 26/03/2025, não poderá mais treinar continuamente a partir desses pontos de verificação de modelo. Quaisquer execuções de treinamento concluídas anteriormente ainda podem ser realizadas sem problemas com a taxa de transferência provisionada.

O ajuste fino do Modelo de Fundação permite adicionar pesos personalizados usando o parâmetro opcional custom_weights_path para treinar e customizar um modelo.

Para começar, defina custom_weights_path como o caminho do ponto de verificação de uma execução de treinamento de API de ajuste fino anterior. Os caminhos de ponto de verificação podem ser encontrados na guia Artefatos de uma execução anterior do MLflow. O nome da pasta do ponto de verificação corresponde ao lote e à época de um instantâneo específico, como ep29-ba30/.

• Para fornecer o ponto de verificação mais recente de uma execução anterior, defina custom_weights_path como o ponto de verificação produzido pela API de ajuste fino. Por exemplo, custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/latest-sharded-rank0.symlink.
• Para fornecer um ponto de verificação anterior, defina custom_weights_path como um caminho para uma pasta que contenha .distcp arquivos correspondentes ao ponto de verificação desejado, como custom_weights_path=dbfs:/databricks/mlflow-tracking/<experiment_id>/<run_id>/artifacts/<run_name>/checkpoints/ep#-ba#.

Em seguida, atualize o parâmetro model para corresponder ao modelo base do ponto de verificação que você passou para custom_weights_path.

No seguinte exemplo, ift-meta-llama-3-1-70b-instruct-ohugkq é uma execução anterior que ajusta meta-llama/Meta-Llama-3.1-70B. Para ajustar o ponto de verificação mais recente de ift-meta-llama-3-1-70b-instruct-ohugkq, defina as variáveis model e custom_weights_path da seguinte maneira:

from databricks.model_training import foundation_model as fm

run = fm.create(
model = 'meta-llama/Meta-Llama-3.1-70B'
custom_weights_path = 'dbfs:/databricks/mlflow-tracking/2948323364469837/d4cd1fcac71b4fb4ae42878cb81d8def/artifacts/ift-meta-llama-3-1-70b-instruct-ohugkq/checkpoints/latest-sharded-rank0.symlink'
... ## other parameters for your fine-tuning run

)

Consulte Configurar uma execução de treinamento para definir os demais parâmetros na sua execução de ajuste fino.

Obter a ID do cluster

Para recuperar a ID do cluster:

1. Na barra de navegação à esquerda do workspace Databricks, clique em Computação.

2. Na tabela, clique no nome do seu cluster.

3. Clique em no canto superior direito e selecione Exibir JSON no menu suspenso.

4. O arquivo JSON do Cluster é exibido. Copie o ID do cluster, que é a primeira linha do arquivo.

   

Obter status de uma execução

Você pode acompanhar o progresso de uma execução usando a página Experimento na interface do usuário do Databricks ou usando o comando de API get_events(). Para obter detalhes, consulte Exibir, gerenciar e analisar execuções de ajuste fino do Modelo de Fundação.

Exemplo de saída de get_events():

Detalhes da execução de amostra na página do experimento.

Próximas etapas

Após a conclusão da execução do treinamento, você pode examinar as métricas no MLflow e implantar o modelo para inferência. Consulte as etapas 5 a 7 do Tutorial: Criar e implantar uma execução de ajuste fino de um modelo base.

Confira o notebook de demonstração Ajuste fino de instruções: Reconhecimento de Entidade Nomeada para obter um exemplo que abrange a preparação de dados, a execução de treinamento, a configuração e a implantação do ajuste fino.

Exemplo de notebook

O notebook a seguir mostra um exemplo de como gerar dados sintéticos usando o modelo Meta Llama 3.1 405B Instruct e usar esses dados para ajustar um modelo:

Gerar dados sintéticos usando o notebook Llama 3.1 405B Instruct

Obter notebook

Recursos adicionais

• Ajuste fino do modelo fundacional
• Criar uma execução de treinamento usando a interface do usuário de ajuste fino do modelo básico
• Visualizar, gerenciar e analisar execuções de ajustes finos do Modelo Fundamental
• Preparar dados para o ajuste fino do modelo de fundação