Dados, privacidade e segurança para uso de modelos por meio do catálogo de modelos no portal do Microsoft Foundry (clássico)

Aplica-se somente a:Portal Foundry (clássico). Este artigo não está disponível para o novo portal do Foundry. Saiba mais sobre o novo portal.

Este artigo descreve como os dados fornecidos são processados, usados e armazenados quando você implanta modelos do catálogo de modelos. Consulte também o Adendo de Proteção de Dados de Produtos e Serviços da Microsoft, que rege o processamento de dados pelos serviços do Azure.

Quais dados são processados para modelos implantados no portal do Microsoft Foundry?

Quando você implanta modelos na Foundry, os seguintes tipos de dados são processados para fornecer o serviço:

• Prompts e conteúdo gerado. Um usuário envia um prompt e o modelo gera conteúdo (saída) por meio das operações compatíveis com o modelo. Os prompts podem incluir conteúdo adicionado por meio de RAG (geração aumentada de recuperação), metaprompts ou outra funcionalidade incluída em um aplicativo.

• Dados carregados. Para modelos que dão suporte ao ajuste fino, os clientes podem carregar seus dados em um repositório de dados para ajuste fino.

Geração de saídas de inferência com computação gerenciada

A implantação de modelos em computação gerenciada distribui os pesos do modelo para máquinas virtuais dedicadas e expõe uma API REST para inferência em tempo real. Para saber mais sobre como implantar modelos do catálogo de modelos para computação gerenciada, consulte o catálogo de modelos e coleções no portal do Foundry.

Você gerencia a infraestrutura desses recursos de computação gerenciados. Os compromissos da Azure em relação a dados, privacidade e segurança se aplicam. Para saber mais sobre Azure ofertas de conformidade aplicáveis ao Foundry, consulte a página Azure Compliance Offerings.

Embora contêineres para Models vendidos diretamente por Azure sejam verificados quanto a vulnerabilidades que possam exfiltrar dados, nem todos os modelos disponíveis por meio do catálogo de modelos são verificados. Para reduzir o risco de exfiltração de dados, ajude a proteger sua implantação usando redes virtuais. Use também Azure Policy para regular os modelos que seus usuários podem implantar.

Geração de saídas de inferência como uma implantação de API sem servidor

Quando você implanta um modelo do catálogo de modelos (base ou ajustado) usando implantações de API sem servidor com oferta de pagamento por token sem servidor para inferência, uma API é provisionada. A API fornece acesso ao modelo que o serviço Azure Machine Learning hospeda e gerencia. Saiba mais sobre implantações de API sem servidor em coleções e catálogos de modelos.

O modelo processa seus prompts de entrada e gera saídas com base em sua funcionalidade, conforme descrito nos detalhes do modelo. O uso do modelo (juntamente com a responsabilidade do provedor pelo modelo e suas saídas) está sujeito aos termos de licença do modelo. Microsoft fornece e gerencia a infraestrutura de hospedagem e o ponto de extremidade da API. Os modelos hospedados neste cenário de implantação de API sem servidor estão sujeitos aos compromissos de dados, privacidade e segurança da Azure. Saiba mais sobre as ofertas de conformidade do Azure aplicáveis ao Foundry.

A Microsoft atua como o processador de dados para solicitações e saídas enviadas e geradas por um modelo implantado para implantação de API sem servidor. Microsoft não compartilha esses prompts e saídas com o provedor de modelos. Além disso, a Microsoft não usa essas solicitações e saídas para treinar ou melhorar os modelos da Microsoft, os modelos do provedor ou os modelos de terceiros.

Os modelos não mantêm estado e não armazenam quaisquer prompts ou saídas. Se a filtragem de conteúdo estiver habilitada, o serviço Segurança de Conteúdo de IA do Azure exibirá prompts e saídas para determinadas categorias de conteúdo nocivo em tempo real. Learn mais sobre como Segurança de Conteúdo de IA do Azure processa dados.

Os prompts e as saídas são processados dentro da geografia especificada durante a implantação, mas podem ser processados ​​entre regiões dentro da geografia para fins operacionais. As finalidades operacionais incluem gerenciamento de desempenho e capacidade.

Ajustar um modelo para implantação de API sem servidor

Se um modelo disponível para implantações de API sem servidor der suporte ao ajuste fino, você poderá carregar dados para (ou designar dados já em) um armazenamento de dados para ajustar o modelo. Em seguida, crie uma implantação de API sem servidor para o modelo ajustado. O modelo ajustado não pode ser baixado, mas:

• Ele está disponível exclusivamente para seu uso.
• Você pode usar criptografia dupla em repouso: a criptografia AES-256 padrão da Microsoft e uma chave opcional gerenciada pelo cliente.
• Você pode excluí-lo a qualquer momento.

Os dados de treinamento carregados para ajuste fino não são usados para treinar, re-treinar ou melhorar qualquer modelo Microsoft ou não Microsoft, exceto quando você direciona essas atividades no serviço.

Processamento de dados para modelos baixados

Se você baixar um modelo do catálogo de modelos, escolha onde implantar o modelo. Você é responsável pela forma como os dados são processados quando você usa o modelo.

Conteúdo relacionado

• Catálogo e coleções de modelos