Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
Certifique-se de que seus agentes de IA estejam consistentemente alinhados com as instruções do usuário e os objetivos da tarefa. O sinal de Adesão à Tarefa identifica discrepâncias, como invocações de ferramentas desalinhadas, entrada ou saída inadequada da ferramenta em relação à intenção do utilizador, e inconsistências entre as respostas e as entradas do cliente. Esta funcionalidade capacita os programadores de sistemas a mitigar proativamente ações desalinhadas, bloqueando-as ou escalando o problema para intervenção humana.
Os principais objetivos da funcionalidade de Adesão à Tarefa são:
- Para detetar ações da ferramenta que estão desalinhadas com os objetivos do usuário ou a intenção de entrada, ou entrada/saída inadequada da ferramenta em relação à intenção do usuário, ou inconsistências entre as respostas do agente e a entrada do cliente.
- Para fornecer explicação quando as chamadas de ferramentas estão desalinhadas.
- Proporcionar um sinal para bloquear a invocação de ferramentas de fluxo descendente e para o escalonamento à revisão com intervenção humana (HITL) quando o alinhamento de tarefas está em risco.
- Promover a confiança do utilizador nos sistemas agenticos, reforçando a consistência comportamental, a transparência e o controlo.
Pré-requisitos
- Uma subscrição Azure - Crie uma gratuitamente
- Depois de ter a sua subscrição do Azure, crie um recurso de Segurança de Conteúdos no portal do Azure para obter a sua chave e endpoint. Introduza um nome exclusivo para o seu recurso, selecione a sua subscrição e selecione um grupo de recursos, uma região e um escalão de preços suportados. Em seguida, selecione Criar.
- O recurso leva alguns minutos para ser implantado. Depois de terminar, selecione ir para o recurso. No painel esquerdo, em Gerenciamento de Recursos, selecione Chave de Subscrição e Ponto Final. O ponto de extremidade e uma das duas chaves são usados para chamar APIs.
- cURL instalado.
Pedido
Observação
Para um exemplo de escudo de prompt, consulte escudos de prompt.
Versão API:2024-12-15-preview
Campos na URL
| Nome | Obrigatório | Descrição | Tipo |
|---|---|---|---|
| Ponto final | Sim | O URL base da API de Segurança de Conteúdo. Substitua <endpoint> pelo endpoint fornecido para o seu serviço de Azure. |
Cordão |
| Versão da API | Sim | A versão da API a usar. Para esta funcionalidade, a versão é 2024-12-15-preview. Exemplo: <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview |
Cordão |
Parâmetros no corpo do pedido
| Nome | Obrigatório | Descrição | Tipo |
|---|---|---|---|
| Ferramentas | Sim | Uma lista de ferramentas que definem funções a serem usadas na tarefa. Cada ferramenta inclui um tipo (por exemplo, "função") e detalhes sobre a função, incluindo o seu nome e descrição. | Matriz de objetos JSON |
| messages | Sim | Uma lista de mensagens trocadas entre o usuário, o assistente e as ferramentas. Cada mensagem inclui a origem (por exemplo, "Prompt", "Completion"), função (por exemplo, "Utilizador", "Assistente", "Ferramenta"), conteúdo (texto da mensagem) e, opcionalmente, toolCalls ou toolCallId. | Matriz de objetos JSON |
Exemplo de esquema de corpo de pedido
As tabelas seguintes são descrições dos campos-chave no corpo do pedido:
Campo de ferramentas
| Nome | Obrigatório | Descrição | Tipo |
|---|---|---|---|
| tipo | Sim | O tipo de ferramenta que está a ser usada. Para esta funcionalidade, a palavra é "função". | Cordão |
| function.name | Sim | O nome da função. Por exemplo, "read_emails" | Cordão |
| função.descrição | Sim | Uma breve descrição do que a função faz. Por exemplo, "Lê os emails dos utilizadores" | Cordão |
Campo mensagens
| Nome | Obrigatório | Descrição | Tipo |
|---|---|---|---|
| origem | Sim | A origem da mensagem. Valores possíveis: "Pronto", "Conclusão" | Cordão |
| função | Sim | O papel associado à mensagem. Valores possíveis: "Utilizador", "Assistente", "Ferramenta" | Cordão |
| contents | Sim | O conteúdo da mensagem. Por exemplo, "Resumir os meus emails" | String ou array |
| ToolCalls | No | Uma lista de chamadas de ferramenta feitas pelo agente, incluindo tipo (por exemplo, "função"), function.name, argumentos de função e um ID único. | Matriz de objetos JSON |
| toolCallId | No | (Para mensagens da Ferramenta) O ID da chamada de ferramenta a que foi respondida. Corresponde ao ID fornecido na ferramenta de chamada do agente. | Cordão |
Resposta da API
Depois de enviar sua solicitação, você receberá dados JSON refletindo a análise realizada pela Adesão de Tarefas. Esses dados sinalizam possíveis vulnerabilidades no fluxo de trabalho do agente. Eis como é uma saída típica:
{
"taskRiskDetected": true,
"details": "Agent attempts to share a document externally without user request or confirmation."
}
| Nome | Descrição | Tipo |
|---|---|---|
| riscoDeTarefaDetectado | Contém resultados de deteção de risco para a entrada | booleano |
| details | Devolve o raciocínio, quando é detetado um risco | Cordão |
Um valor de true para taskRiskDetected indica um risco detetado, caso em que recomendamos revisão e ação, como bloquear o pedido de invocação da ferramenta ou intervenção humana.
Pré-requisitos
Uma conta no Azure. Se não tiver uma, pode criar uma gratuitamente. Um recurso de IA do Azure.
Configurar e usar o Cumprimento de Tarefas
Siga estes passos para usar a página de testes de Segurança de Conteúdo :
- Vai ao Azure AI Foundry e navega até ao teu projeto/hub. Depois seleciona o separador Guardrails + controlos no navegador esquerdo e seleciona o separador Experimentar.
- Na página de Experiência, é possível explorar diversas funcionalidades de proteção e controle, como conteúdo de texto e imagem, utilizando limiares ajustáveis para filtrar conteúdos prejudiciais.
- Navegue até ao Fluxo de Trabalho Agential e selecione Adesão à Tarefa.
- Pode selecionar um dos exemplos com chamadas de ferramenta de agente alinhadas ou desalinhadas ou criar as suas próprias para testar a Adesão à Tarefa.
- Selecione Executar teste. A Adesão à Tarefa retorna o sinalizador de risco para cada amostra e, se um risco for detetado, ele retorna um motivo.
Cenários do usuário
Apoio ao Cliente
Cenário: Um assistente de apoio ao cliente integrado numa plataforma empresarial ajuda os utilizadores a verificar o uso de dados, resolver problemas e gerir as definições da conta. Para manter a automação precisa, o sistema incorpora a Aderência de Tarefas para validar os planos do agente antes de executar chamadas de ferramentas de back-end.
Utilizador: Utilizadores finais, agentes de suporte e equipas de experiência do cliente.
Ação: Um utilizador envia uma mensagem ao chatbot: "Consegues verificar quantos dados usei este mês?" O assistente planeia invocar uma change_data_plan() ferramenta. A Adesão à Tarefa deteta um desalinhamento entre a intenção do utilizador (pedido de informação) e a ação proposta (alteração da subscrição). A invocação da ferramenta pode ser bloqueada e o sistema interrompe a execução ou solicita ao usuário a revisão.
Recursos Humanos
Cenário: Um assistente empresarial automatiza fluxos de trabalho rotineiros relacionados com os RH, como reservar licenças, submeter despesas e verificar detalhes da política. A Adesão às Tarefas garante que as ações do agente se mantêm dentro do âmbito esperado e não tomam atalhos não intencionais.
Utilizador: Colaboradores, parceiros de negócios de RH e equipas de automação de fluxos de trabalho.
Ação: Um funcionário escreve: "Quero saber quantas férias anuais me restam." O agente planeia invocar apply_leave(). A Adesão à Tarefa identifica uma incompatibilidade de tarefa—o utilizador pediu informação, não para iniciar um processo. A execução é bloqueada, o agente reformula a frase ou pede confirmação.
Ferramentas de Produtividade
Cenário: Um assistente de produtividade integrado numa plataforma de email ajuda os profissionais a ligar-se a bases de dados e a redigir, rever e enviar mensagens. A Adesão à Tarefa é usada para distinguir entre escrever um rascunho e executar um comando enviar, especialmente nos casos em que a intenção do usuário é ambígua.
Utilizador: Trabalhadores do conhecimento, assistentes executivos e equipas de conformidade de TI.
Ação: O utilizador pergunta: "Escreva um email ao cliente sobre o prazo perdido." O agente gera uma mensagem e planeia invocar send_email(). A Adesão à Tarefa sinaliza o plano como potencialmente prematuro; Não existe uma instrução explícita a enviar. O sistema, em vez disso, bloqueia a chamada de ferramenta pretendida e solicita a revisão do utilizador.
Adesão às Tarefas: Uso de Ferramentas Alinhadas vs. Desalinhadas
O sinal da API de Adesão às Tarefas ajuda os programadores e proprietários de plataformas a perceber quando a invocação da ferramenta de um agente corresponde ou se desvia da intenção do utilizador.
Exemplos
| Classification | Descrição | Exemplo |
|---|---|---|
| Alinhado | O agente recupera as informações solicitadas sem tomar medidas não intencionais. |
Utilizador: "Podes mostrar-me os meus eventos recentes do calendário?" Ferramenta planeada: get_calendar_events()✅ O agente obtém eventos conforme solicitado. Output: { "taskRiskDetected": false } |
| Desalinhado | O agente tenta modificar as configurações do usuário quando apenas uma solicitação de informações é feita. |
Utilizador: "Podes mostrar-me os meus eventos recentes do calendário?" Ferramenta planeada: clear_calendar_events()❌ O agente se prepara para excluir dados. Output: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."} |
| Alinhado | O agente inicia um fluxo de criação de documentos após solicitações do usuário para gerar um novo documento. |
Utilizador: "Criar um novo documento de proposta de projeto para o cliente." Ferramenta planeada: create_document()✅ Corresponde ao pedido de tarefa do utilizador. Output: { "taskRiskDetected": false} |
| Desalinhado | O agente compartilha o documento com colaboradores externos sem instrução do usuário. |
Utilizador: "Criar um novo documento de proposta de projeto para o cliente." Ferramenta planeada: share_document()❌ Não há instruções do utilizador para partilhar. Output: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Limitações
Disponibilidade do idioma
A adesão à Tarefa foi testada em texto em inglês; no entanto, a funcionalidade pode funcionar em muitas outras línguas, embora a qualidade possa variar. Em todos os casos, recomendamos testar seu caso de uso e aplicativo para garantir que ele funcione para seus cenários.
Limitação do comprimento do texto
Atualmente, a API de adesão às tarefas tem limitações no comprimento das entradas. O comprimento máximo do texto é de 100.000 caracteres. Se o comprimento da sua entrada exceder esta limitação, receberá um erro.
Disponibilidade da região e processamento de dados
Embora a Adesão às Tarefas possa ser ativada em todas as regiões do Segurança de conteúdo de IA do Azure, os dados podem ser encaminhados e processados noutras regiões dos EUA e da UE fora da geolocalização especificada.