Card da aplicação: Microsoft Security Copilot

O que é um card de Aplicação ou plataforma?

Os cartões de Aplicação e Plataforma da Microsoft destinam-se a ajudá-lo a compreender como funciona a nossa tecnologia de IA, as escolhas que os proprietários das aplicações podem fazer que influenciam o desempenho e o comportamento das aplicações e a importância de considerar toda a aplicação, incluindo a tecnologia, as pessoas e o ambiente. Os cartões de aplicação são criados para aplicações de IA e os cartões de plataforma são criados para serviços de plataforma de IA. Estes recursos podem suportar o desenvolvimento ou a implementação das suas próprias aplicações e podem ser partilhados com utilizadores ou intervenientes afetados pelas mesmas.

Como parte do seu compromisso com a IA responsável, a Microsoft cumpre seis princípios fundamentais: equidade, fiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilidade. Estes princípios estão incorporados no Standard de IA Responsável, que orienta as equipas na conceção, criação e teste de aplicações de IA. Os cartões de Aplicação e Plataforma desempenham um papel fundamental na operacionalização destes princípios ao oferecer transparência em torno das capacidades, utilizações pretendidas e limitações. Para obter mais informações, os leitores são encorajados a explorar o Relatório de Transparência de IA Responsável da Microsoft e o Código de Conduta dos Serviços de IA empresarial da Microsoft, que descreve como interagir com a IA de forma responsável.

Visão Geral

Microsoft Security Copilot é uma solução de segurança gerada com tecnologia de IA que ajuda a aumentar a eficiência e as capacidades dos defensores para melhorar os resultados de segurança à velocidade e dimensionamento da máquina. Fornece uma linguagem natural e experiência de copilot de apoio que ajuda os profissionais de segurança e os administradores de TI a lidar com uma vasta gama de cenários ponto a ponto, incluindo resposta a incidentes, investigação de ameaças, recolha de informações e gestão da postura.

Security Copilot foi concebido tendo em conta a integração. Oferece uma experiência autónoma envolvente em https://securitycopilot.microsoft.com e integra-se com produtos de segurança da Microsoft, incluindo Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra e Microsoft Purview, bem como serviços de terceiros suportados.

Os utilizadores pretendidos incluem analistas SOC, administradores de TI, administradores de segurança e identidade de dados, analistas de conformidade e líderes de segurança, tais como CiSOs (Chief Information Security Officers).

Security Copilot obteve a certificação ISO 42001 que confirma que terceiros independentes analisaram a aplicação da Estrutura e capacidades necessárias da Microsoft para gerir eficazmente riscos e oportunidades associados ao desenvolvimento, implementação e funcionamento contínuos de sistemas Microsoft AI.

Para obter mais informações, veja O que é Microsoft Security Copilot?, experiências de Microsoft Security Copilot e Card de Aplicações para agentes Security Copilot.

Principais termos

A tabela seguinte fornece um glossário de termos-chave relacionados com Microsoft Security Copilot.

Termo Definição
Agente Um agente Security Copilot processa sinais do ambiente do cliente através de origens de dados e plug-ins integrados, analisa dados e gera recomendações. Os agentes também podem realizar ações de âmbito dentro das permissões configuradas quando lhe for pedido, o que requer a aprovação de um utilizador ou administrador adequado. Os agentes podem ir desde experiências simples de pedido e resposta a fluxos de trabalho semi-autónomos mais automatizados com supervisão humana. Por exemplo, o Agente de Triagem de Phishing e o Agente de Remediação de Vulnerabilidades.
Identidade do agente A credencial que um agente utiliza para autenticar com os serviços Microsoft e aceder aos dados necessários para realizar as respetivas tarefas. Durante a configuração, um administrador opta por criar uma identidade dedicada (utilizando ID do agente Microsoft Entra) ou para permitir que o agente herda as credenciais do utilizador que está a configurar. A escolha da identidade rege os dados aos quais o agente pode aceder.
Fonte de dados Dados estruturados ou não estruturados acedidos através de plug-ins ou integrações em respostas básicas.
Experiência incorporada Aceder a capacidades de Security Copilot a partir de outro produto de segurança da Microsoft, como Microsoft Defender XDR ou Microsoft Sentinel. O painel de sidecar Security Copilot apresenta a assistência de IA diretamente no contexto desse produto.
Terra O processo de fornecer origens de entrada contextuais ao modelo de linguagem grande relacionado com o pedido de um utilizador. Ao permitir que Security Copilot acedam a dados organizacionais através de plug-ins e produtos de segurança da Microsoft, Security Copilot podem fornecer respostas mais precisas e contextualmente relevantes.
Modelo de linguagem grande (LLM) Modelos de IA preparados em grandes quantidades de dados de texto para prever palavras em sequências. Os LLMs são capazes de realizar várias tarefas, como geração de texto, resumo, tradução, classificação e muito mais.
Plug-in Uma coleção de ferramentas relacionadas que expande as capacidades do Security Copilot ao conceder-lhe acesso a recursos da Microsoft e serviços não Microsoft e sites públicos através de APIs. Os plug-ins adicionam mais contexto às respostas e saídas que Security Copilot gera.
Pós-processamento O conjunto de ações Security Copilot efetua para refinar e preparar a resposta LLM antes de a devolver ao utilizador. Este pós-processamento inclui chamadas de ligação à base adicionais através de plug-ins, verificações de IA responsáveis, segurança, conformidade e verificações de privacidade.
Prompt O texto de linguagem natural que um utilizador envia para Security Copilot para executar uma tarefa específica ou obter informações. Por exemplo, resumir este incidente e sugerir passos de remediação.
Promptbook Uma série de pedidos que são executados em sequência, com base em respostas anteriores, para realizar tarefas específicas relacionadas com segurança. Os promptbooks podem ser utilizados a partir da biblioteca ou criados e partilhados pelos utilizadores.
Teste da equipa vermelha Técnicas utilizadas por especialistas para avaliar as limitações e vulnerabilidades de um sistema e testar a eficácia das mitigações planeadas. Os testes da equipa vermelha são utilizados para identificar potenciais riscos e são distintos da medição sistemática dos riscos.
IA responsável As práticas de política, investigação e engenharia da Microsoft que se baseiam nos seus princípios de IA e são operacionalizadas através da norma de IA Responsável. Para obter mais informações, veja a documentação de orientação Fluent RAI.
Unidade de Computação de Segurança (SCU) As SCUs são as unidades de capacidade de computação utilizadas para executar cargas de trabalho Security Copilot e proporcionar um desempenho consistente nas suas experiências. Security Copilot capacidade é medida em SCUs e pode ser consumida através de modelos de capacidade de aprovisionamento ou utilização excedida. Para obter mais informações, veja Compreender as SCUs.
resposta Security Copilot A saída gerada por IA voltou a um pedido do utilizador, incluindo resumos, recomendações ou ações que podem incluir código e elementos visuais.
Centro de Operações de Segurança (SOC) Uma equipa de segurança dedicada ou uma instalação focada na monitorização, análise e resposta contínuas a incidentes de cibersegurança numa organização. Os analistas do SOC estão entre os principais utilizadores de Security Copilot.
Arquivo de Segurança Uma experiência semelhante ao marketplace em que os utilizadores podem detetar e ativar agentes e extensões criados por parceiros para Security Copilot.
Sessão Um contexto de interação vinculado que inclui pedidos, respostas e dados associados utilizados para gerar saídas. O contexto de sessão é isolado e não é partilhado entre sessões. O acesso aos dados de sessão é regido por permissões de utilizador e funções de área de trabalho e os pedidos e respostas são tratados como Dados do Cliente que não são utilizados para preparar modelos de base.
Experiência autónoma A experiência envolvente do portal Security Copilot acedida diretamente em https://securitycopilot.microsoft.com.
Tenant O limite organizacional no Microsoft Entra ID que isola a identidade, o acesso e os dados de Security Copilot. Todas as áreas de trabalho, utilizadores e interações operam dentro deste limite e são regidas por permissões ao nível do inquilino e controlos de segurança.

Principais funcionalidades ou capacidades

As principais funcionalidades e capacidades na tabela seguinte descrevem o que Microsoft Security Copilot foi concebido para fazer e como funciona em todas as tarefas suportadas.

Funcionalidade ou capacidade Descrição
Investigação e resposta a incidentes Security Copilot ajuda os profissionais de segurança a fazer a triagem e investigar incidentes ao gerar resumos de alertas de segurança complexos, correlacionar sinais em Microsoft Defender XDR, Microsoft Sentinel e outros produtos integrados e fornecer orientações de remediação passo a passo.
Inteligência contra ameaças Security Copilot podem procurar em Microsoft Defender artigos e perfis de informações sobre ameaças, relatórios de análise de ameaças e publicações de divulgação de vulnerabilidades para ver informações relevantes alinhadas com um pedido.
Análise de scripts e geração de consultas KQL Security Copilot podem analisar scripts suspeitos ou software maligno e traduzir linguagem natural para consultas KQL, permitindo que os membros da equipa em todos os níveis de competências efetuem tarefas avançadas de investigação e análise técnica.
Gerenciamento de postura de segurança Security Copilot ajuda os utilizadores a compreender os riscos priorizados em todo o seu ambiente e a identificar oportunidades para melhorar a postura através da integração com Microsoft Defender XDR, Microsoft Entra e Microsoft Intune.
Criação e gestão de políticas de segurança Os utilizadores podem definir novas políticas, cruzá-las com políticas existentes para conflitos e resumir políticas em linguagem simples para gerir contexto organizacional complexo.
Promptbooks Os promptbooks são sequências de pedidos que são executados para realizar tarefas de segurança específicas. Os utilizadores podem executar promptbooks a partir de uma biblioteca partilhada ou criar e partilhar os seus próprios.
Agentes Security Copilot suporta agentes que podem automatizar e ajudar com tarefas de operações de SEGURANÇA e TI nas permissões concedidas pelos administradores. As ações do agente são regidas por identidades configuradas, controlos de acesso e acionadores e foram concebidas para funcionar com supervisão humana como parte dos fluxos de trabalho de segurança. Os agentes criados pela Microsoft abrangem o portefólio de produtos de segurança, abrangendo operações SOC, investigação de ameaças, informações sobre ameaças, gestão de identidades, gestão de pontos finais e segurança de dados. Os administradores configuram a identidade, as permissões e o acionador de cada agente. Para obter detalhes sobre agentes específicos e os respetivos casos de utilização, veja Utilizações pretendidas.
Upload de arquivos Os utilizadores podem carregar ficheiros diretamente para Security Copilot sessões, permitindo que o Copilot analise, resuma ou faça referência cruzada a conteúdos carregados ao gerar respostas.
Suporte a vários idiomas Security Copilot suporta pedidos e respostas em vários idiomas. Para obter mais informações, veja Idiomas suportados.

Utilizações pretendidas

Microsoft Security Copilot foi concebido para utilização por profissionais de segurança e administradores de TI que precisam de suporte assistido por IA numa vasta gama de tarefas de operações de TI e segurança. A experiência de copilot de apoio ajuda os utilizadores a trabalhar de forma mais eficiente ao apresentar contexto relevante, gerar orientações acionáveis e reduzir o tempo despendido na análise manual. Alguns exemplos de casos de utilização pretendidos incluem:

  • Investigação e resposta a incidentes: gera resumos de alertas complexos, correlaciona sinais em produtos de segurança integrados, como Microsoft Defender XDR e Microsoft Sentinel, e fornece orientações de remediação passo a passo. Os analistas podem fazer perguntas de seguimento para refinar progressivamente a sua investigação.

  • Recolha de informações sobre ameaças: fornece informações relevantes sobre atores de ameaças, software maligno e vulnerabilidades com base em pedidos de linguagem natural, consolidando informações em resumos personalizados.

  • Análise de scripts e engenharia inversa: explica scripts suspeitos ou atividade da linha de comandos em linguagem simples, identifica comportamentos maliciosos e realça indicadores de comprometimento.

  • Geração de consultas KQL: traduz pedidos de linguagem natural em consultas KQL prontas a executar para investigação avançada e análise de registos.

  • Gestão da postura de segurança: identifica riscos priorizados e recomenda ações para melhorar a postura de segurança organizacional.

  • Criação e gestão de políticas de segurança: ajuda na elaboração, revisão e resumo de políticas e na identificação de lacunas ou conflitos.

  • Relatórios dos intervenientes: gera relatórios adaptados a diferentes audiências, incluindo resumos técnicos e briefings executivos.

  • Promptbooks para fluxos de trabalho de segurança repetíveis: permite que os utilizadores executem ou criem fluxos de trabalho de vários passos para uniformizar tarefas de segurança periódicas.

Modelos e dados de preparação

Microsoft Security Copilot utiliza Azure modelos de linguagem grandes (LLMs) openAI dos Modelos Foundry vendidos por Azure para potenciar experiências de linguagem natural. Estes modelos não são preparados para Security Copilot Dados do Cliente. As capacidades dos modelos variam em cenários suportados, velocidade, limitações e raciocínio.

Security Copilot também incorpora conhecimento e contexto específicos de segurança através de plug-ins e de base, que fornecem ao LLM dados organizacionais relevantes, informações sobre ameaças e conteúdos autoritativos no momento da inferência e não através da preparação de modelos.

Desempenho

Security Copilot foi concebido para funcionar em ambientes de segurança empresariais onde são gerados grandes volumes de sinais de segurança em tempo real em produtos de Segurança da Microsoft e outras origens de dados configuradas pela organização.

Ao contrário dos LLMs para fins gerais, Security Copilot fornece:

  • Processamento de sinais em tempo real em dados de segurança estruturados
  • Raciocínio de investigação que correlaciona várias origens de dados
  • Saídas suportadas por provas baseadas em dados do cliente
  • Recolha contínua de dados para visibilidade contínua

Os utilizadores interagem com Security Copilot através de pedidos de linguagem natural. O sistema processa estas entradas através de plug-ins ativos, origens de dados e LLMs para gerar respostas.

As saídas são sobretudo textuais, incluindo explicações de resumo, ações recomendadas, orientações passo a passo, fragmentos de código (como consultas KQL) e relatórios formatados adaptados aos intervenientes. À medida que o sistema gera uma resposta, apresenta passos intermédios num registo de processos, proporcionando oportunidades para fazer duplo marcar seus processos e origens. Os utilizadores podem cancelar, editar, executar novamente ou eliminar um pedido em qualquer altura e as respostas podem ser afixadas, partilhadas e exportadas para facilitar a colaboração.

Limitações

Compreender as limitações da Microsoft Security Copilot é importante para garantir que é utilizada de forma eficaz e responsável. Embora Security Copilot melhore os fluxos de trabalho de segurança, não foi concebido para todos os cenários. Veja o Código de Conduta dos Serviços de IA do Microsoft Enterprise , bem como as seguintes considerações ao escolher um caso de utilização:

  • Precisão e exatidão: Security Copilot podem produzir respostas imprecisas, incompletas ou desatualizadas. A qualidade da saída depende das origens de dados disponíveis, das integrações ativadas e do contexto fornecido pelo utilizador. Os utilizadores devem aplicar o julgamento humano e validar saídas críticas.
  • Preconceito, estereotipagem e conteúdo não encalhada: apesar das salvaguardas, as saídas podem conter preconceitos, estereótipos ou conclusões não suportadas devido à natureza probabilística de modelos de linguagem grandes. Os utilizadores devem avaliar criticamente as respostas, especialmente em cenários confidenciais ou de elevado impacto.
  • Âmbito específico do domínio: Security Copilot está otimizado para tarefas relacionadas com segurança, como a investigação de incidentes e a análise de ameaças. Prompts fora deste domínio podem resultar em respostas menos precisas ou menos relevantes.
  • Limites de utilização e latência: a utilização de Security Copilot pode estar sujeita a restrições de capacidade e considerações de desempenho. A geração de respostas, incluindo a execução de integrações e a aplicação de verificações de segurança, pode introduzir latência. As organizações devem monitorizar a utilização (SCUs) para manter um desempenho consistente.
  • Pré-visualizar status: algumas capacidades de Security Copilot podem estar em pré-visualização. As funcionalidades de pré-visualização devem ser tratadas como uma funcionalidade de pré-lançamento e as saídas devem ser revistas antes de efetuar ações.
  • Restrições de aviso e contexto: Security Copilot opera dentro de limites de token e contexto inerentes a modelos de linguagem grandes. Pedidos longos ou interações expandidas podem exceder estes limites, resultando em respostas truncadas ou menos ideais. Reformular ou simplificar pedidos pode melhorar os resultados.
  • Dependência de origens de dados e configuração: as respostas baseiam-se em dados disponíveis, incluindo serviços Microsoft ligados, integrações de terceiros e entradas de utilizadores. Se as origens de dados relevantes não estiverem disponíveis, ativadas ou atuais, os resultados poderão não ter totalidade ou precisão.
  • Geração de scripts e código: Security Copilot podem gerar código ou incluir código em respostas. As respostas podem parecer válidas, mas podem não ser semanticamente ou sintaticamente corretas, ou podem não refletir com precisão a intenção do requerente. O código gerado não deve ser implementado em ambientes de produção sem os procedimentos de validação, teste e revisão adequados. Os utilizadores também têm de verificar se os parâmetros utilizados pelo código gerado estão alinhados com o pedido original. Por exemplo, se um agente operar em alertas dentro de um intervalo de tempo específico, confirme que o intervalo de tempo no código gerado corresponde ao intervalo de tempo especificado no pedido de linguagem natural.
  • Limites de acesso e permissão de dados: Security Copilot funciona dentro de permissões organizacionais existentes e controlos de acesso a dados. As respostas estão limitadas aos dados a que um utilizador está autorizado a aceder. As permissões configuradas incorretamente em sistemas subjacentes podem afetar a relevância ou a conclusão dos resultados.
  • Ambientes de cloud governamentais: Security Copilot não foi concebido para utilização em determinados ambientes de cloud governamentais.

Avaliações

As avaliações de desempenho e segurança avaliam se as aplicações de IA estão a funcionar de forma fiável e segura ao examinar fatores como a fundamentação, a relevância e a coerência, ao mesmo tempo que identificam os riscos de gerar conteúdo prejudicial. As seguintes avaliações foram realizadas com componentes de segurança já em vigor, que também estão descritos em Componentes de Segurança e Mitigações.

Dados de avaliação para qualidade e segurança

Os nossos dados de avaliação são personalizados para avaliar o desempenho da aplicação de IA em áreas-chave de segurança e qualidade, simulando cenários e riscos do mundo real. Começamos por identificar aspectos de avaliação relevantes de preocupação com base na investigação multidisciplinar e no contributo de especialistas. Estas preocupações traduzem-se em objetivos de avaliação direcionados e formulação de guias de métricas de avaliação.

Por motivos de segurança, criamos pedidos adversos para obter respostas indesejáveis ou de casos edge, que são pontuadas com anotadores assistidos por IA preparados para avaliar o alinhamento com as normas de segurança da Microsoft. Para qualidade, criamos pedidos baseados em rubricas relevantes para cenários, incluindo a avaliação de aplicações e agentes de geração aumentada de obtenção (RAG).

Os conjuntos de dados são organizados a partir de diversas origens, incluindo conjuntos de dados sintéticos e públicos, para simular cenários de utilizador do mundo real. Com os conjuntos de dados organizados, ambas as avaliações são submetidas a refinamento iterativo e alinhamento humano para melhorar a eficácia e fiabilidade das métricas. Esta metodologia constitui a base de avaliações repetíveis e rigorosas que refletem a forma como os clientes utilizam as avaliações para criar uma IA melhor e mais segura.

Avaliações personalizadas

Foram realizadas avaliações personalizadas para validar o desempenho do modelo em cenários de base, robustez adversa e conteúdo prejudicial com testes de regressão, conjuntos de dados de pedidos organizados e exemplos alinhados com a produção. A avaliação comparou as saídas entre modelos de GPT, utilizando ferramentas internas para avaliar a fundamentação e Azure filtragem de conteúdo OpenAI para validar proteções contra jailbreak, injeção rápida e violações de propriedade intelectual. Os resultados mostram um desempenho consistente ou melhorado, incluindo taxas de proteção fortes em cenários adversos e uma maior precisão de terra.

O processamento de conteúdos nocivos permanece consistente entre modelos e funciona no modo de anotação para suportar casos de utilização focados na segurança, com testes adicionais em grande escala que confirmam taxas de proteção elevadas entre categorias. Os testes de regressão são realizados para verificar se o conteúdo, que não é prejudicial, não está a ser classificado como prejudicial.

O feedback dos utilizadores é fundamental para melhorar Security Copilot. Os utilizadores podem fornecer feedback utilizando: Necessita de melhorias, Inadequadas ou as opções corretas do Aspeto . Este feedback vai diretamente para a Microsoft e é utilizado para melhorar o desempenho da plataforma através do aperfeiçoamento iterativo contínuo.

Componentes de segurança e mitigações

À medida que identificámos potenciais riscos e utilização indevida através de processos como testes da equipa vermelha e medimo-los, desenvolvemos mitigações para reduzir o potencial de danos. Na lista seguinte, descrevemos algumas dessas mitigações. Continuaremos a avaliar a experiência de Microsoft Security Copilot para melhorar o desempenho e as mitigações dos produtos.

  • Filtragem e proteção de conteúdos prejudiciais: Security Copilot integra proteções desenvolvidas pela Microsoft (filtros de conteúdo) e modelos de deteção de abuso como parte da base do Serviço OpenAI Azure. Estes modelos de classificação neural detetam e filtram conteúdo prejudicial entre categorias, incluindo ódio, sexo, violência e auto-dano a vários níveis de gravidade. Os modelos de classificação opcionais também detetam riscos de jailbreak, material de texto ou código conhecidos e ataques de injeção de pedidos indiretos. Estes controlos em camadas ajudam a impedir que a IA produza respostas que violem as normas de segurança da Microsoft.

  • Design do sistema de segurança: a Microsoft desenvolveu um sistema de segurança para Security Copilot que foi concebido para mitigar falhas e evitar utilizações indevidas, incluindo anotação de conteúdo prejudicial, monitorização operacional e outras salvaguardas. Os Requisitos de Mitigação de IA Responsável do Serviço OpenAI Azure não se aplicam diretamente aos clientes Security Copilot porque Security Copilot implementa estas mitigações em nome do cliente.

  • Ciclo de comentários dos utilizadores: a plataforma fornece mecanismos de feedback incorporados: precisa de opçõescorretas de melhoramento, Inadequado e Aspeto que permitem que os utilizadores comuniquem saídas problemáticas e úteis diretamente à Microsoft. Este feedback gera ciclos de melhoramento contínuos, permitindo correções rápidas e ajustes de modelos quando são detetados erros ou desalinhamentos.

  • Encriptação de dados e proteção de acesso: os dados dos clientes processados por Security Copilot são encriptados em trânsito e inativos, conforme descrito na Adenda de Proteção de Dados dos Produtos e Serviços microsoft. Por predefinição, nenhum utilizador humano tem acesso à base de dados e o acesso à rede está restrito à rede privada onde a aplicação Security Copilot é implementada; se for necessário acesso humano (para resposta a incidentes), o acesso elevado e o acesso à rede têm de ser aprovados por funcionários autorizados da Microsoft. Veja Conformidade.

  • Abordagem de implementação faseada: Security Copilot lança funcionalidades através de um programa de acesso antecipado apenas para convites, permitindo à Microsoft recolher feedback e refinar funcionalidades antes de uma disponibilidade mais ampla.

A nossa abordagem de mapeamento, medição e gestão de riscos continuará a evoluir à medida que aprendemos mais e já estamos a fazer melhorias com base nos comentários recebidos dos clientes.

Melhores práticas para implementar e adotar Microsoft Security Copilot

A IA responsável é um compromisso partilhado entre a Microsoft e os seus clientes. Embora a Microsoft crie sistemas de IA com segurança, justiça e transparência no centro, os clientes desempenham um papel fundamental na implementação e utilização destas tecnologias de forma responsável nos seus próprios contextos.

Security Copilot agentes são concebidos para aumentar os conhecimentos humanos, não para substituir. Os clientes continuam a ser responsáveis por rever saídas, validar decisões e garantir a conformidade com as leis, regulamentos e políticas organizacionais aplicáveis.

Os implementadores e os utilizadores finais devem:

  • Tenha cuidado e avalie os resultados ao utilizar Security Copilot para decisões consequentes ou em domínios confidenciais: as decisões consequentes são aquelas que podem ter um impacto legal ou significativo no acesso de uma pessoa ao emprego, aos serviços jurídicos, aos cuidados de saúde ou que possam resultar em danos físicos, psicológicos ou financeiros. Os domínios confidenciais, como os serviços financeiros, os cuidados de saúde e os serviços jurídicos, necessitam de cuidados específicos devido ao potencial de impacto desproporcionado em diferentes grupos de pessoas. Ao utilizar a IA para decisões nestas áreas, os clientes devem garantir que os intervenientes afetados possam compreender como as decisões são tomadas, tomar decisões de recurso e atualizar quaisquer dados de entrada relevantes.

  • Avaliar considerações legais e regulamentares: os clientes têm de avaliar potenciais obrigações legais e regulamentares específicas ao utilizar quaisquer serviços e soluções de IA, que podem não ser adequados para utilização em todos os setores ou cenários. Além disso, os serviços ou soluções de IA não foram concebidos para e não podem ser utilizados de formas proibidas nos termos de serviço aplicáveis e códigos de conduta relevantes.

  • Ativar e manter plug-ins relevantes: a qualidade e a precisão das respostas Security Copilot dependem significativamente dos plug-ins que estão ativados. Os administradores devem garantir que os plug-ins adequados da Microsoft e de terceiros são configurados e mantidos para que os utilizadores recebam respostas fundamentadas e contextualmente relevantes.

Os utilizadores finais devem:

  • Escrever pedidos eficazes: escrever pedidos claros e específicos é fundamental para obter melhores resultados com Security Copilot. Inclua contexto relevante, como IDs de incidentes, nomes de recursos ou intervalos de tempo. Iterar e regenerar pedidos conforme necessário e rever e verificar sempre as respostas geradas pela IA. Para obter mais informações, consulte Sugestões de aviso para Security Copilot.

  • Exercer a supervisão humana quando adequado: a supervisão humana é uma salvaguarda importante ao interagir com sistemas de IA. Embora melhoremos continuamente Security Copilot, os sistemas de IA podem cometer erros. O resultado gerado pode ser impreciso, incompleto, tendencioso ou totalmente alinhado com os objetivos pretendidos devido à ambiguidade nas entradas ou limitações dos modelos subjacentes. Os utilizadores devem rever as respostas geradas pelo Security Copilot e verificar se correspondem às suas expetativas e requisitos antes de efetuarem ações.

  • Tenha em atenção o risco de dependência excessiva: a dependência excessiva da IA ocorre quando os utilizadores aceitam saídas de IA incorretas ou incompletas, principalmente porque os erros nas saídas de IA podem ser difíceis de detetar. Para os profissionais de segurança, a sobre-confiança pode resultar em ameaças perdidas, conclusões incorretas de incidentes ou alterações de política com base em recomendações imperfeitas. Security Copilot inclui a divulgação de IA e cita materiais de origem para ajudar a mitigar este risco, mas os utilizadores devem continuar a certificar-se de que verificam a precisão das respostas. Os utilizadores podem rever o mapa do nó do agente que fornece uma vista de alto nível dos passos realizados durante o fluxo de trabalho de um agente.

  • Tenha cuidado ao implementar ou estruturar IA agente em domínios confidenciais: os utilizadores têm de implementar a supervisão humana adequada ao configurar e implementar sistemas de IA agente em domínios onde as ações do agente são irreversíveis ou altamente consequentes. Devem ser tomadas precauções adicionais ao criar IA agente autónoma, conforme descrito no Código de Conduta dos Serviços de IA do Microsoft Enterprise.

Os implementadores devem:

  • Configurar cuidadosamente as permissões RBAC e de agente: os administradores são responsáveis por configurar controlos de acesso baseados em funções para utilizadores e agentes. As permissões devem seguir o princípio do menor privilégio. Os agentes só devem ter acesso aos dados e às ações necessárias para a tarefa designada.

  • Monitorizar a utilização e rever a atividade: os administradores (proprietários) podem utilizar o Security Copilot dashboard de monitorização de utilização para rever os dados ao nível da sessão, como a utilização ao longo do tempo, iniciadores de sessão e plug-ins utilizados durante as sessões. Esta visibilidade ajuda as organizações a compreender como Security Copilot é utilizado em pedidos, promptbooks e agentes. Para obter mais informações, veja Gerir a utilização.

  • Gerir definições de partilha de dados: os proprietários podem configurar as preferências de partilha de Dados do Cliente em qualquer altura e têm de rever e atualizar estas definições de acordo com os requisitos de privacidade e conformidade da organização. Para obter mais informações, veja Privacidade e segurança de dados no Microsoft Security Copilot.

  • Informar os utilizadores sobre as capacidades e limitações: a utilização eficaz e responsável de Security Copilot exige que os utilizadores compreendam o que o sistema pode e não pode fazer. Os implementadores devem fornecer formação e orientação para ajudar os utilizadores a interagir com Security Copilot eficazmente, incluindo a importância de verificar saídas geradas por IA antes de tomar medidas.

Saiba mais sobre Security Copilot

Para obter orientações adicionais sobre a utilização responsável de Microsoft Security Copilot, veja a seguinte documentação:

Saiba mais sobre a IA responsável

  • Last updated on