Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Essas perguntas frequentes descrevem o impacto da IA do recurso de respostas generativas no Copilot Studio.
O que são respostas generativas?
Respostas generativas tornam seu agente valioso desde o início e aumentam o número de tópicos sobre os quais seu agente consegue conversar, sem exigir a criação manual de árvores de diálogo.
Quais são os recursos de respostas generativas?
Quando um usuário faz ao agente uma pergunta que não aciona um tópico configurado, ele pode, opcionalmente, pesquisar conteúdo relevante de uma fonte de sua escolha. Essa pesquisa inclui sites públicos do SharePoint, ou suas próprias fontes de dados personalizadas, incluindo elementos não textuais em arquivos carregados, como imagens, dados tabulares e diagramas. O agente usa IA generativa para resumir essas informações em uma resposta retornada ao usuário do agente.
Qual é o uso pretendido para respostas generativas?
Os agentes podem usar respostas generativas como fontes de informações primárias ou como fallback quando tópicos criados não podem abordar a consulta de um usuário.
Como as resposta generativas são avaliadas e quais métricas são usadas para medir o desempenho?
A capacidade é avaliada continuamente em uma coleção de conjuntos de dados de perguntas e respostas selecionados manualmente, abrangendo vários setores. O processo de avaliação também inclui conjuntos de dados personalizados para solicitações e respostas ofensivas e mal-intencionadas. As sessões manuais automatizadas e dedicadas são usadas para expandir o conjunto de testes.
Quais são as limitações das respostas generativas?
Você deve habilitar a opção de respostas generativas para cada agente.
Consulte Idiomas com suporte para obter a lista de idiomas com suporte neste recurso e seus respectivos estágios. Talvez você possa usar outros idiomas, mas as respostas geradas podem ser inconsistentes e o agente pode não responder corretamente ou conforme o esperado.
Esse recurso pode estar sujeito a limites de uso ou limitação de capacidade.
As respostas geradas pelo recurso de respostas generativas nem sempre são perfeitas e podem conter erros.
O sistema foi projetado para consultar o conhecimento do site de sua escolha e agrupar descobertas relevantes em uma resposta facilmente consumível. No entanto, é importante ter em mente algumas características da IA que podem levar a respostas inesperadas:
As respostas de modelos de linguagem não são determinísticas. Repetir perguntas semanticamente (próximas) idênticas pode produzir respostas variadas, mesmo em novos chats. O processo de resposta a perguntas inclui o contexto de chat anterior, de modo que repetir uma consulta dentro de uma sessão de chat quase garante respostas diferentes. Esse comportamento significa que repetir consultas fixas em testes de regressão ou verificações de integridade automatizadas provavelmente resultará em respostas variadas e relatórios de erros falsos positivos.
O Copilot Studio permite selecionar modelos diferentes como o modelo de resposta principal para respostas generativas. Lembre-se da data de corte dos dados incluídos no modelo selecionado.
Existem mitigações para evitar que o modelo use seu corpo de treinamento como fonte de respostas, no entanto, é possível que as respostas incluam conteúdo de sites diferentes daquele que você selecionou.O sistema não executa uma verificação de precisão, portanto, se a fonte de dados selecionada contiver informações imprecisas, elas poderão ser mostradas aos usuários do seu agente. Implementamos mitigações para filtrar respostas irrelevantes e ofensivas, e o recurso foi projetado para não responder quando linguagem ofensiva é detectada. Esses filtros e mitigações não são infalíveis.
Note
Você deve sempre testar e revisar seus agentes antes de publicá-los e considerar coletar comentários dos usuários do agente. Seu administrador pode desativar a capacidade de publicar agentes com respostas gerativas para seu locatário no centro de administração do Power Platform.
Quais dados o recurso coleta? Como os dados são usados?
Se um cliente consentir explicitamente que sua conversa com seu agente seja registrada, o recurso coletará os prompts do usuário, as respostas retornadas pelo sistema e quaisquer comentários que você fornecer.
Usamos esses dados para avaliar e melhorar a qualidade da capacidade.
Quais fatores e configurações operacionais possibilitam uso eficaz e responsável das respostas generativas?
As respostas generativas funcionam melhor quando você designa uma fonte confiável e válida da qual consultar o conteúdo. Essa origem pode ser o site da sua empresa, por exemplo, www.microsoft.com. Todas as páginas da Web que pertencem a esse domínio são pesquisadas para obter uma correspondência em relação à pergunta do usuário.
Usamos o feedback que você fornece sobre sua satisfação com as respostas geradas para melhorar a qualidade do sistema. Você pode fornecer feedback selecionando os ícones de polegar para cima ou de polegar para baixo para respostas geradas. Você também pode incluir mais comentários em texto livre.
Quais proteções existem dentro do Copilot Studio para a IA responsável?
Respostas gerativas incluem diversas proteções para garantir que administradores, criadores e usuários tenham uma experiência segura e em conformidade. Os administradores têm controle total sobre os recursos em seu inquilino e sempre podem desativar a funcionalidade de publicação de agentes com respostas generativas em sua organização. Os criadores podem adicionar instruções personalizadas para influenciar os tipos de respostas retornadas por seus agentes. Para obter mais informações sobre as melhores práticas para escrever instruções personalizadas, consulte Usar modificação de prompt para fornecer instruções personalizadas ao seu agente.
Os criadores também podem limitar as fontes de conhecimento que os agentes podem usar para responder a perguntas. Para permitir que os agentes respondam a perguntas fora do escopo de suas fontes de conhecimento configuradas, os criadores podem ativar o recurso Permitir respostas não fundamentadas. Para limitar os agentes a responder apenas perguntas no escopo de suas fontes de conhecimento configuradas, os criadores devem desativar esse recurso.
O Copilot Studio também aplica políticas de moderação de conteúdo em todas as solicitações de IA generativa para proteger administradores, criadores e usuários contra conteúdo ofensivo ou prejudicial. Essas políticas de moderação de conteúdo também se estendem a tentativas maliciosas de desbloqueio de dispositivos, injeção de prompts, exfiltração de prompts e violação de direitos autorais. Todo o conteúdo é verificado duas vezes: primeiro durante a entrada do usuário e novamente quando o agente está prestes a responder. Se o sistema encontrar conteúdo prejudicial, ofensivo ou mal-intencionado, ele impedirá que seu agente responda.
Por fim, é uma prática recomendada comunicar aos usuários que o agente usa inteligência artificial, portanto, a seguinte mensagem padrão informa aos usuários: "Só para que você esteja ciente, às vezes uso IA para responder às suas perguntas".