Tipos de implantação para os modelos da Microsoft Foundry no Azure Governamental

Ao implantar um modelo no Microsoft Foundry no Azure Governamental, você escolhe um tipo de implantação que determina:

• Onde seus dados são processados (zona de dados ou região única)
• Como você paga (pagamento por token ou capacidade reservada)
• Características de desempenho (variação de latência, limites de taxa de transferência)

O serviço oferece duas categorias principais: padrão (pagamento por token) e provisionado gerenciado (capacidade reservada). Dentro de cada categoria, você pode escolher zona de dados ou processamento regional único com base em seus requisitos.

Comparação de tipos de implantação

Escolher o tipo de implantação correto

Use os seguintes critérios para selecionar um tipo de implantação:

Por exigência de residência de dados

• Zona de dados do Governo dos EUA (USGov): use DataZone Standard ou DataZone Provisioned em uma região do Azure Governamental.
• Somente região única: usar Padrão ou Provisionado Regional

Por padrão de carga de trabalho

• Tráfego variável e com intermitência: usar Standard ou DataZone (pay-per-token)
• Volume alto consistente: usar tipos provisionados (capacidade reservada)

Por requisito de latência

• Variação de baixa latência necessária: usar tipos provisionados
• Variação de latência aceitável: usar tipos padrão

Implantações de Zona de Dados

Para tipos de implantação DataZone, prompts e respostas são processados somente dentro da zona de dados especificada.

• USGov: dados processados nas duas regiões de Azure Governamental (USGovArizona ou USGovVirginia)

Saiba mais na seção "Disponibilidade da região do modelo por tipo de implantação" dos modelos Foundry vendidos diretamente por Azure.

Padrão da Zona de Dados

• Nome da SKU no código: DataZoneStandard

As implantações padrão de zona de dados roteiam dinamicamente o tráfego para datacenters dentro da zona de dados definida por Microsoft (USGov). Esse tipo de implantação fornece cotas padrão mais altas do que os tipos de implantação baseados em geografia, mantendo os dados dentro da zona especificada.

Clientes com alto volume consistente podem experimentar maior variabilidade de latência. O limite é definido por modelo. Para saber mais sobre as cotas do OpenAI do Azure no Azure Governamental, consulte Cotas e limites no OpenAI do Azure. Para cargas de trabalho que exigem baixa variação de latência em grande volume, considere os tipos de implantação provisionados.

Zona de dados provisionada

• Nome da SKU no código: DataZoneProvisionedManaged

As implantações de DataZone Provisioned roteiam o tráfego dinamicamente dentro da zona de dados especificada pela Microsoft (USGov), enquanto fornecem capacidade de processamento de modelo reservada. Esse tipo de implantação combina a conformidade da zona de dados com uma taxa de transferência alta e previsível.

Standard

• Nome da SKU no código: Standard

As implantações padrão usam cobrança por uso por token. Você paga apenas pelo que consome. Os modelos disponíveis em cada região e a taxa de transferência podem ser limitados.

As implantações padrão são adequadas para cargas de trabalho de volume de baixo a médio com alta intermitência. Clientes com alto volume consistente podem experimentar maior variabilidade de latência.

Provisionado Regionalmente

• Nome da SKU no código: ProvisionedManaged

As implantações provisionadas regionais permitem especificar a quantidade de largura de banda necessária em uma implantação. Em seguida, o serviço aloca a capacidade de processamento de modelo necessária e garante que ele esteja pronto para você. A taxa de transferência é definida em termos de unidades de taxa de transferência provisionadas (PTUs), que é uma forma normalizada de representar a taxa de transferência da sua implementação. Cada par de modelo e versão requer quantidades diferentes de PTUs para implantação e fornece uma taxa de transferência diferente por PTU. Os requisitos mínimos de PTU variam de acordo com o modelo. Para obter os mínimos atuais e a capacidade disponível, consulte Conceitos de taxa de transferência provisionada.

Solução de problemas de implantação

Problemas comuns ao criar ou usar implantações:

Para limites de cota do Azure OpenAI por tipo de implantação no Azure Governamental, consulte Quotas e limites em Azure OpenAI.

Monitoramento de abuso em Azure Governamental

Nem todos os recursos do Monitoramento de Abuso estão habilitados para implantações do OpenAI Azure no Azure Governamental. Você é responsável por implementar medidas técnicas e operacionais razoáveis para detectar e atenuar qualquer uso do serviço em violação dos Termos do Produto. A Classificação e Filtragem de Conteúdo Automatizada permanece habilitada por padrão para Azure Governamental. Se forem necessários filtros de conteúdo modificados, aplique na Aplicação de Filtro Modificado do Azure Governamental.

Conteúdo relacionado

• Deploy Microsoft Foundry Models no portal da Foundry
• Criar e implantar um Azure OpenAI no recurso Microsoft Foundry Models
• Modelos Foundry comercializados diretamente pelo Azure no Azure Governamental
• Disponibilidade de regiões por modelo de implantação no Azure Governamental
• Cotas e limites do OpenAI do Azure no Azure Governamental
• Conceitos de taxa de transferência provisionada
• Preços do Serviço OpenAI do Azure
• Privacidade e segurança de dados para Modelos do Foundry
• Alta disponibilidade e recuperação de desastre