Application card: Microsoft Security Copilot

O que é um aplicativo ou plataforma card?

Os cartões de aplicativo e plataforma da Microsoft têm como objetivo ajudá-lo a entender como nossa tecnologia de IA funciona, as escolhas que os proprietários de aplicativos podem fazer que influenciam o desempenho e o comportamento do aplicativo e a importância de considerar todo o aplicativo, incluindo a tecnologia, as pessoas e o ambiente. Os cartões de aplicativo são criados para aplicativos de IA e os cartões de plataforma são criados para serviços de plataforma de IA. Esses recursos podem dar suporte ao desenvolvimento ou à implantação de seus próprios aplicativos e podem ser compartilhados com usuários ou partes interessadas afetadas por eles.

Como parte de seu compromisso com a IA responsável, a Microsoft adere a seis princípios fundamentais: imparcialidade, confiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilidade. Esses princípios estão incorporados no Responsible AI Standard, que orienta as equipes no projeto, na criação e no teste de aplicativos de IA. Os cartões de aplicativo e plataforma desempenham um papel fundamental na operacionalização desses princípios, oferecendo transparência em torno de recursos, usos pretendidos e limitações. Para obter mais informações, os leitores são incentivados a explorar o Relatório de Transparência de IA Responsável da Microsoft e o Código de Conduta dos Serviços de IA Corporativos da Microsoft, que descreve como interagir com a IA de maneira responsável.

Visão Geral

O Microsoft Security Copilot é uma solução de segurança generativa da plataforma AI que ajuda a aumentar a eficiência e os recursos dos defensores para melhorar os resultados de segurança na velocidade e escala do computador. Ele fornece uma experiência de copiloto assistida em linguagem natural que ajuda profissionais de segurança e administradores de TI a lidar com uma ampla variedade de cenários de ponta a ponta, incluindo resposta a incidentes, busca de ameaças, coleta de inteligência e gerenciamento de postura.

O Security Copilot foi projetado com a integração em mente. Ele oferece uma experiência autônoma imersiva e integra-se aos https://securitycopilot.microsoft.com produtos de segurança da Microsoft, incluindo o Microsoft Defender XDR, o Microsoft Sentinel, o Microsoft Intune, o Microsoft Entra e o Microsoft Purview, bem como serviços de terceiros com suporte.

Os usuários pretendidos incluem analistas de SOC, administradores de TI, administradores de segurança de dados e identidade, analistas de conformidade e líderes de segurança, como CISOs (Diretores de Segurança da Informação).

O Security Copilot obteve a certificação ISO 42001, que confirma que um terceiro independente analisou a aplicação da Microsoft da estrutura e dos recursos necessários para gerenciar com eficácia os riscos e oportunidades associados ao desenvolvimento, à implantação e à operação contínuos dos sistemas de IA da Microsoft AI.

Para obter mais informações, consulte O que é o Microsoft Security Copilot?, experiências do Microsoft Security Copilot e Application card para agentes do Security Copilot.

Principais termos

A tabela a seguir fornece um glossário dos principais termos relacionados ao Microsoft Security Copilot.

Termo Definição
Agente Um agente do Security Copilot processa sinais do ambiente do cliente por meio de fontes de dados e plug-ins integrados, analisa os dados e gera recomendações. Os agentes também podem executar ações com escopo dentro das permissões configuradas quando solicitados, o que requer a aprovação apropriada de um usuário ou administrador. Os agentes podem variar de experiências simples de prompt e resposta a fluxos de trabalho mais automatizados e semiautônomos com supervisão humana. Por exemplo, o Agente de Triagem de Phishing e o Agente de Correção de Vulnerabilidades.
Identidade do agente A credencial que um agente usa para se autenticar nos serviços da Microsoft e acessar os dados necessários para realizar suas tarefas. Durante a instalação, um administrador opta por criar uma identidade dedicada (usando ID do agente Microsoft Entra) ou permitir que o agente herde as credenciais do usuário configurador. A escolha da identidade controla quais dados o agente pode acessar.
Fonte de dados Dados estruturados ou não estruturados acessados por meio de plug-ins ou integrações para respostas terrestres.
Experiência inserida Acessar os recursos do Security Copilot de dentro de outro produto de segurança da Microsoft, como o Microsoft Defender XDR ou o Microsoft Sentinel. O painel do sidecar do Security Copilot exibe a assistência de IA diretamente no contexto desse produto.
Aterramento O processo de fornecimento de fontes de entrada contextuais para o modelo de linguagem grande relacionado ao prompt de um usuário. Ao permitir que o Security Copilot acesse dados organizacionais por meio de plug-ins e produtos de segurança da Microsoft, o Security Copilot pode fornecer respostas mais precisas e contextualmente relevantes.
LLM (modelo de linguagem grande) Modelos de IA treinados em grandes quantidades de dados de texto para prever palavras em sequências. Os LLMs são capazes de executar várias tarefas, como geração de texto, resumo, tradução, classificação e muito mais.
Plug-in Uma coleção de ferramentas relacionadas que estende os recursos do Security Copilot, dando-lhe acesso a recursos da Microsoft e serviços não Microsoft e sites públicos por meio de APIs. Os plug-ins adicionam mais contexto às respostas e saídas que o Security Copilot gera.
Pós-processamento O conjunto de ações que o Security Copilot executa para refinar e preparar a resposta do LLM antes de devolvê-la ao usuário. Esse pós-processamento inclui chamadas de aterramento adicionais por meio de plug-ins, verificações de IA responsáveis, verificações de segurança, conformidade e privacidade.
Prompt O texto em linguagem natural que um usuário envia ao Security Copilot para executar uma tarefa específica ou obter informações. Por exemplo, resuma esse incidente e sugira etapas de correção.
Promptbook Uma série de prompts executados em sequência, com base em respostas anteriores, para realizar tarefas específicas relacionadas à segurança. Os promptbooks podem ser usados a partir da biblioteca ou criados e compartilhados pelos usuários.
Teste da equipe vermelha Técnicas usadas por especialistas para avaliar as limitações e vulnerabilidades de um sistema e para testar a eficácia das mitigações planejadas. O teste de equipe vermelha é usado para identificar riscos potenciais e é diferente da medição sistemática de riscos.
IA responsável As práticas de política, pesquisa e engenharia da Microsoft que se baseiam em seus princípios de IA e operacionalizadas por meio do padrão de IA Responsável. Para obter mais informações, consulte as diretrizes do Fluent RAI.
Unidade de Computação de Segurança (SCU) As SCUs são as unidades de capacidade de computação usadas para executar cargas de trabalho do Security Copilot e fornecer desempenho consistente em suas experiências. A capacidade do Security Copilot é medida em SCUs e pode ser consumida por meio de modelos de capacidade provisionada ou excedente. Para obter mais informações, consulte Entender SCUs.
Resposta do Security Copilot A saída gerada pela IA retornou a um prompt do usuário, incluindo resumos, recomendações ou ações que podem incluir código e elementos visuais.
SOC (Centro de Operações de Segurança) Uma equipe ou instalação de segurança dedicada focada no monitoramento, análise e resposta contínuos a incidentes de segurança cibernética dentro de uma organização. Os analistas do SOC estão entre os principais usuários pretendidos do Security Copilot.
Repositório de Segurança Uma experiência semelhante a um marketplace em que os usuários podem descobrir e habilitar agentes e extensões criados por parceiros para o Security Copilot.
Sessão Um contexto de interação limitado que inclui prompts, respostas e dados associados usados para gerar saídas. O contexto da sessão é isolado e não é compartilhado entre as sessões. O acesso aos dados da sessão é regido por permissões de usuário e funções de espaço de trabalho, e prompts e respostas são tratados como dados do cliente que não são usados para treinar modelos de base.
Experiência autônoma A experiência imersiva do portal do Security Copilot acessada diretamente em https://securitycopilot.microsoft.com.
Tenant O limite organizacional no Microsoft Entra ID que isola a identidade, o acesso e os dados do Security Copilot. Todos os workspaces, usuários e interações operam dentro desse limite e são regidos por permissões e controles de segurança no nível do locatário.

Principais recursos ou capacidades

Os principais recursos e funcionalidades na tabela a seguir descrevem o que o Microsoft Security Copilot foi projetado para fazer e como ele é executado em tarefas com suporte.

Recurso ou capacidade Descrição
Investigação e resposta a incidentes O Security Copilot ajuda os profissionais de segurança a fazer a triagem e investigar incidentes gerando resumos de alertas de segurança complexos, correlacionando sinais no Microsoft Defender XDR, no Microsoft Sentinel e em outros produtos integrados e fornecendo diretrizes de correção passo a passo.
Inteligência contra ameaças O Security Copilot pode pesquisar artigos e perfis de inteligência contra ameaças do Microsoft Defender, relatórios de análise de ameaças e publicações de divulgação de vulnerabilidades para exibir informações relevantes alinhadas a um prompt.
Triagem de Alertas de Segurança O Security Copilot inclui o Agente de Triagem de Alertas de Segurança para ajudar as equipes de segurança a fazer a triagem de alertas em escala, identificando ataques reais e falsos positivos, permitindo que os analistas se concentrem na investigação de ameaças reais.
Análise de script e geração de consulta KQL O Security Copilot pode analisar scripts suspeitos ou malware e traduzir linguagem natural em consultas KQL, permitindo que os membros da equipe em todos os níveis de habilidade executem tarefas avançadas de busca e análise técnica.
Gerenciamento de postura de segurança O Security Copilot ajuda os usuários a entender os riscos priorizados em seu ambiente e identificar oportunidades para melhorar a postura por meio da integração com o Microsoft Defender XDR, o Microsoft Entra e o Microsoft Intune.
Criação e gerenciamento de política de segurança Os usuários podem definir novas políticas, cruzá-las com políticas existentes para conflitos e resumir políticas em linguagem simples para gerenciar contextos organizacionais complexos.
Promptbooks Promptbooks são sequências de prompts executados para realizar tarefas de segurança específicas. Os usuários podem executar promptbooks de uma biblioteca compartilhada ou criar e compartilhar seus próprios.
Agentes O Security Copilot oferece suporte a agentes que podem automatizar e auxiliar em tarefas de operações de segurança e TI dentro das permissões concedidas pelos administradores. As ações do agente são regidas por identidades configuradas, controles de acesso e gatilhos e são projetadas para operar com supervisão humana como parte dos fluxos de trabalho de segurança. Os agentes criados pela Microsoft abrangem o portfólio de produtos de segurança, abrangendo operações SOC, caça a ameaças, inteligência contra ameaças, gerenciamento de identidades, gerenciamento de ponto de extremidade e segurança de dados. Os administradores configuram a identidade, as permissões e o gatilho de cada agente. Para obter detalhes sobre agentes específicos e seus casos de uso, consulte Usos pretendidos.
Upload de arquivos Os usuários podem carregar arquivos diretamente nas sessões do Security Copilot, permitindo que o Copilot analise, resuma ou faça referência cruzada ao gerar respostas.
Suporte a vários idiomas O Security Copilot dá suporte a solicitações e respostas em vários idiomas. Para obter mais informações, consulte Idiomas com suporte.

Usos pretendidos

O Microsoft Security Copilot foi projetado para uso por profissionais de segurança e administradores de TI que precisam de suporte assistido por IA em uma ampla variedade de tarefas de segurança e operações de TI. A experiência do copilot de assistência ajuda os usuários a trabalhar com mais eficiência, revelando contextos relevantes, gerando orientações acionáveis e reduzindo o tempo gasto em análises manuais. Alguns exemplos de casos de uso pretendidos incluem:

  • Investigação e resposta a incidentes: gera resumos de alertas complexos, correlaciona sinais em produtos de segurança integrados, como o Microsoft Defender XDR e o Microsoft Sentinel, e fornece diretrizes passo a passo para a correção. Os analistas podem fazer perguntas de acompanhamento para refinar progressivamente sua investigação.

  • Coleta de inteligência contra ameaças: revela inteligência relevante sobre agentes de ameaças, malware e vulnerabilidades com base em prompts de linguagem natural, consolidando informações em resumos personalizados.

  • Análise de script e engenharia reversa: explica scripts suspeitos ou atividades de linha de comando em linguagem simples, identifica comportamentos mal-intencionados e destaca indicadores de comprometimento.

  • Geração de consulta KQL: converte prompts de linguagem natural em consultas KQL prontas para execução para busca avançada e análise de logs.

  • Gerenciamento da postura de segurança: identifica os riscos priorizados e recomenda ações para melhorar a postura de segurança organizacional.

  • Criação e gerenciamento de políticas de segurança: auxilia na elaboração, revisão e resumo de políticas e na identificação de lacunas ou conflitos.

  • Relatórios das partes interessadas: gera relatórios personalizados para diferentes públicos, incluindo resumos técnicos e briefings executivos.

  • Promptbooks para fluxos de trabalho de segurança repetíveis: permite que os usuários executem ou criem fluxos de trabalho de várias etapas para padronizar tarefas de segurança recorrentes.

Modelos e dados de treinamento

O Microsoft Security Copilot usa LLMs (modelos de linguagem grande) do OpenAI do Azure de Modelos de Foundry vendidos pelo Azure para criar experiências de linguagem natural. Esses modelos não são treinados em dados de cliente do Security Copilot. Os recursos do modelo variam em raciocínio, velocidade, limitações e cenários com suporte.

O Security Copilot também incorpora conhecimento e contexto específicos de segurança por meio de plug-ins e fundamento, que fornecem ao LLM dados organizacionais relevantes, inteligência contra ameaças e conteúdo autoritativo em tempo de inferência, em vez de por meio de treinamento de modelo.

Desempenho

O Security Copilot foi projetado para operar em ambientes de segurança corporativa em que grandes volumes de sinais de segurança em tempo real são gerados em produtos de Segurança da Microsoft e outras fontes de dados configuradas pela organização.

Ao contrário dos LLMs de uso geral, o Security Copilot fornece:

  • Processamento de sinal em tempo real em dados de segurança estruturados
  • Raciocínio investigativo que correlaciona várias fontes de dados
  • Saídas baseadas em evidências baseadas em dados do cliente
  • Coleta contínua de dados para visibilidade contínua

Os usuários interagem com o Security Copilot usando prompts de idioma natural. O sistema processa essas entradas por meio de plug-ins ativos, fontes de dados e LLMs para gerar respostas.

As saídas são principalmente textuais, incluindo explicações resumidas, ações recomendadas, diretrizes passo a passo, trechos de código (como consultas KQL) e relatórios formatados adaptados aos stakeholders. À medida que o sistema gera uma resposta, ele exibe etapas intermediárias em um log de processo, oferecendo oportunidades para marcar novamente seus processos e fontes. Os usuários podem cancelar, editar, executar novamente ou excluir um prompt a qualquer momento, e as respostas podem ser fixadas, compartilhadas e exportadas para facilitar a colaboração.

Limitações

Compreender as limitações do Microsoft Security Copilot é importante para garantir que ele seja usado de forma eficaz e responsável. Embora o Security Copilot aprimore os fluxos de trabalho de segurança, ele não foi projetado para todos os cenários. Consulte o Código de Conduta dos Serviços de IA Corporativa da Microsoft , bem como as seguintes considerações ao escolher um caso de uso:

  • Precisão e integridade: o Security Copilot pode produzir respostas imprecisas, incompletas ou desatualizadas. A qualidade da saída depende das fontes de dados disponíveis, das integrações habilitadas e do contexto fornecido pelo usuário. Os usuários devem aplicar o julgamento humano e validar as saídas críticas.
  • Viés, estereótipos e conteúdo sem fundamento: apesar das proteções, as saídas podem conter viés, estereótipos ou conclusões sem suporte devido à natureza probabilística de grandes modelos de linguagem. Os usuários devem avaliar criticamente as respostas, especialmente em cenários sensíveis ou de alto impacto.
  • Escopo específico do domínio: o Security Copilot é otimizado para tarefas relacionadas à segurança, como investigação de incidentes e análise de ameaças. Prompts fora desse domínio podem resultar em respostas menos precisas ou menos relevantes.
  • Limites de uso e latência: o uso do Security Copilot pode estar sujeito a restrições de capacidade e considerações de desempenho. A geração de respostas, incluindo a execução de integrações e a aplicação de verificações de segurança, pode introduzir latência. As organizações devem monitorar seu uso (SCUs) para manter um desempenho consistente.
  • Status da versão prévia: alguns recursos do Security Copilot podem estar em versão prévia. Os recursos de visualização devem ser tratados como uma funcionalidade de pré-lançamento, e os resultados devem ser revisados antes da ação.
  • Restrições de prompt e contexto: o Security Copilot opera dentro dos limites de token e contexto inerentes a grandes modelos de linguagem. Prompts longos ou interações estendidas podem exceder esses limites, resultando em respostas truncadas ou menos ideais. Reformular ou simplificar prompts pode melhorar os resultados.
  • Dependência de fontes de dados e configuração: as respostas são fundamentadas nos dados disponíveis, incluindo serviços Microsoft conectados, integrações de terceiros e entrada do usuário. Se as fontes de dados relevantes não estiverem disponíveis, habilitadas ou atualizadas, os resultados poderão não ser completos ou precisos.
  • Geração de script e código: o Security Copilot pode gerar código ou incluir código em respostas. As respostas podem parecer válidas, mas podem não ser semanticamente ou sintaticamente corretas ou podem não refletir com precisão a intenção do solicitante. O código gerado não deve ser implantado em ambientes de produção sem os procedimentos apropriados de validação, teste e revisão. Os usuários também devem verificar se todos os parâmetros usados pelo código gerado estão alinhados com a solicitação original. Por exemplo, se um agente operar em alertas dentro de um intervalo de tempo específico, confirme se o intervalo de tempo no código gerado corresponde ao intervalo de tempo especificado no prompt de linguagem natural.
  • Limites de permissão e acesso a dados: o Security Copilot opera dentro de permissões organizacionais e controles de acesso a dados existentes. As respostas são limitadas aos dados que um usuário está autorizado a acessar. Permissões configuradas incorretamente em sistemas subjacentes podem afetar a relevância ou a integridade dos resultados.
  • Ambientes de nuvem governamental: atualmente, o Security Copilot não foi projetado para uso em determinados ambientes de nuvem governamental.

Avaliações

As avaliações de desempenho e segurança avaliam se os aplicativos de IA estão operando de forma confiável e segura, examinando fatores como fundamentação, relevância e coerência, enquanto identificam os riscos de geração de conteúdo prejudicial. As avaliações a seguir foram realizadas com componentes de segurança já implementados, que também são descritos em Componentes de Segurança e Mitigações.

Dados de avaliação para qualidade e segurança

Nossos dados de avaliação são personalizados para avaliar o desempenho do aplicativo de IA nas principais áreas de segurança e qualidade, simulando cenários e riscos do mundo real. Começamos identificando aspectos relevantes de avaliação de preocupação com base em pesquisas multidisciplinares e contribuições de especialistas. Essas preocupações são traduzidas em objetivos de avaliação direcionados e orientam a formulação de métricas de avaliação.

Por segurança, criamos prompts adversários para obter respostas indesejáveis ou de casos extremos, que são pontuados usando anotadores assistidos por IA treinados para avaliar o alinhamento com os padrões de segurança da Microsoft. Para qualidade, criamos prompts baseados em rubrica relevantes para cenários, incluindo a avaliação de aplicativos e agentes de geração aumentada por recuperação (RAG).

Os conjuntos de dados são selecionados de diversas fontes, incluindo conjuntos de dados sintéticos e públicos, para simular cenários de usuário do mundo real. Usando os conjuntos de dados selecionados, ambas as avaliações passam por refinamento iterativo e alinhamento humano para melhorar a eficácia e a confiabilidade das métricas. Essa metodologia forma a base de avaliações rigorosas e repetíveis que refletem como os clientes usam avaliações para criar uma IA melhor e mais segura.

Avaliações personalizadas

Avaliações personalizadas foram conduzidas para validar o desempenho do modelo em cenários de aterramento, robustez adversária e conteúdo prejudicial usando testes de regressão, conjuntos de dados de prompt selecionados e exemplos alinhados à produção. A avaliação comparou as saídas entre modelos GPT, usando ferramentas internas para avaliar a fundamentação e a filtragem de conteúdo do OpenAI do Azure para validar proteções contra jailbreak, injeção imediata e violações de propriedade intelectual. Os resultados mostram um desempenho consistente ou aprimorado, incluindo fortes taxas de proteção em cenários adversos e maior precisão do aterramento.

O tratamento de conteúdo prejudicial permanece consistente entre os modelos e opera no modo de anotação para dar suporte a casos de uso focados na segurança, com testes adicionais em larga escala confirmando altas taxas de proteção em todas as categorias. Testes de regressão são realizados para verificar se o conteúdo, que não é prejudicial, não está sendo classificado como prejudicial.

Os comentários dos usuários são essenciais para melhorar o Security Copilot. Os usuários podem fornecer comentários usando: Precisa de melhorias, Inadequado ou as opções Parece correta . Esses comentários vão diretamente para a Microsoft e são usados para melhorar o desempenho da plataforma por meio de refinamentos iterativos contínuos.

Componentes de segurança e mitigações

À medida que identificamos riscos potenciais e uso indevido por meio de processos como testes de equipe vermelha e os medimos, desenvolvemos mitigações para reduzir o potencial de danos. Na lista a seguir, descrevemos algumas dessas mitigações. Continuaremos avaliando a experiência do Microsoft Security Copilot para melhorar o desempenho e as mitigações do produto.

  • Filtragem de conteúdo prejudicial e proteções: o Security Copilot integra proteções (filtros de conteúdo) e modelos de detecção de abuso desenvolvidos pela Microsoft como parte da base do Serviço OpenAI do Azure. Esses modelos de classificação neural detectam e filtram conteúdo prejudicial em categorias, incluindo ódio, sexual, violência e automutilação em vários níveis de gravidade. Os modelos de classificação opcionais também detectam riscos de jailbreak, texto conhecido ou material de código e ataques indiretos de injeção imediata. Esses controles em camadas ajudam a impedir que a IA produza respostas que violem os padrões de segurança da Microsoft.

  • Design do sistema de segurança: a Microsoft desenvolveu um sistema de segurança para o Security Copilot projetado para atenuar falhas e evitar o uso indevido, incluindo anotação de conteúdo prejudicial, monitoramento operacional e outras proteções. Os Requisitos de Mitigação de IA Responsável do Serviço OpenAI do Azure não se aplicam diretamente aos clientes do Security Copilot porque o Security Copilot implementa essas mitigações em nome do cliente.

  • Ciclo de comentários do usuário: a plataforma fornece mecanismos de comentários integrados: precisa de melhorias, opções inadequadas e parece corretas que permitem aos usuários relatar saídas problemáticas e úteis diretamente à Microsoft. Esse feedback impulsiona ciclos de melhoria contínua, permitindo correções rápidas e ajustes de modelo quando erros ou desalinhamentos são descobertos.

  • Criptografia de dados e proteção de acesso: os dados do cliente tratados pelo Security Copilot são criptografados em trânsito e em repouso, conforme descrito no Adendo de Proteção de Dados dos Produtos e Serviços da Microsoft. Por padrão, nenhum usuário humano tem acesso ao banco de dados e o acesso à rede é restrito à rede privada em que o aplicativo Security Copilot está implantado; se o acesso humano for necessário (para resposta a incidentes), o acesso elevado e o acesso à rede deverão ser aprovados por funcionários autorizados da Microsoft. Consulte Conformidade.

  • Abordagem de implantação em fases: o Security Copilot lança recursos por meio de um programa de acesso antecipado somente para convidados, permitindo que a Microsoft colete comentários e refine recursos antes de uma disponibilidade mais ampla.

Nossa abordagem para mapear, medir e gerenciar riscos continuará a evoluir à medida que aprendemos mais e já estamos fazendo melhorias com base no feedback recebido dos clientes.

Práticas recomendadas para implantação e adoção do Microsoft Security Copilot

A IA responsável é um compromisso compartilhado entre a Microsoft e seus clientes. Embora a Microsoft crie sistemas de IA com segurança, justiça e transparência no núcleo, os clientes desempenham um papel fundamental na implantação e uso responsável dessas tecnologias em seus próprios contextos.

Os agentes do Security Copilot são projetados para aumentar a experiência humana, não para substituir. Os clientes permanecem responsáveis por analisar os resultados, validar decisões e garantir a conformidade com as leis, regulamentos e políticas organizacionais aplicáveis.

Os implantadores e usuários finais devem:

  • Tenha cuidado e avalie os resultados ao usar o Security Copilot para decisões consequentes ou em domínios confidenciais: Decisões consequentes são aquelas que podem ter um impacto legal ou significativo no acesso de uma pessoa ao emprego, serviços jurídicos, cuidados de saúde ou que podem resultar em danos físicos, psicológicos ou financeiros. Domínios sensíveis, como serviços financeiros, saúde e jurídico, exigem cuidado especial devido ao potencial de impacto desproporcional em diferentes grupos de pessoas. Ao usar a IA para decisões nessas áreas, os clientes devem garantir que os stakeholders afetados possam entender como as decisões são tomadas, apelar das decisões e atualizar quaisquer dados de entrada relevantes.

  • Avalie considerações legais e regulatórias: os clientes precisam avaliar possíveis obrigações legais e regulatórias específicas ao usar quaisquer serviços e soluções de IA, que podem não ser apropriados para uso em todos os setores ou cenários. Além disso, os serviços ou soluções de IA não são projetados e não podem ser usados de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.

  • Habilitar e manter plug-ins relevantes: a qualidade e a precisão das respostas do Security Copilot dependem significativamente dos plug-ins habilitados. Os administradores devem garantir que os plug-ins apropriados da Microsoft e de terceiros sejam configurados e mantidos para que os usuários recebam respostas fundamentadas e contextualmente relevantes.

Os usuários finais devem:

  • Escreva prompts eficazes: escrever prompts claros e específicos é fundamental para obter melhores resultados com o Security Copilot. Inclua contexto relevante, como IDs de incidentes, nomes de ativos ou intervalos de tempo. Itere e gere novamente os prompts conforme necessário e sempre examine e verifique as respostas geradas por IA. Para obter mais informações, consulte Dicas de solicitação para o Security Copilot.

  • Exerça a supervisão humana quando apropriado: a supervisão humana é uma proteção importante ao interagir com sistemas de IA. Enquanto aprimoramos continuamente o Security Copilot, os sistemas de IA podem cometer erros. A saída gerada pode ser imprecisa, incompleta, tendenciosa ou não totalmente alinhada com seus objetivos pretendidos devido à ambiguidade nas entradas ou limitações dos modelos subjacentes. Os usuários devem examinar as respostas geradas pelo Security Copilot e verificar se elas correspondem às suas expectativas e requisitos antes de agir.

  • Esteja ciente do risco de excesso de dependência: a dependência excessiva da IA ocorre quando os usuários aceitam saídas de IA incorretas ou incompletas, principalmente porque os erros nas saídas de IA podem ser difíceis de detectar. Para os profissionais de segurança, o excesso de confiança pode resultar em ameaças perdidas, conclusões incorretas de incidentes ou alterações de políticas com base em recomendações falhas. O Security Copilot inclui divulgação de IA e cita materiais de origem para ajudar a mitigar esse risco, mas os usuários ainda devem verificar a precisão das respostas. Os usuários podem revisar o mapa de nós do agente que fornece uma visão de alto nível das etapas executadas durante o fluxo de trabalho de um agente.

  • Tenha cuidado ao implantar ou projetar IA agêntica em domínios sensíveis: os usuários devem implementar a supervisão humana apropriada ao configurar e implantar sistemas de IA agenciais em domínios onde as ações do agente são irreversíveis ou altamente consequentes. Precauções adicionais devem ser tomadas ao criar IA agenciais autônomas, conforme descrito no Código de Conduta dos Serviços de IA Corporativos da Microsoft.

Os implantadores devem:

  • Configure o RBAC e as permissões do agente com cuidado: os administradores são responsáveis por configurar controles de acesso baseados em função para usuários e agentes. As permissões devem seguir o princípio de privilégios mínimos. Os agentes só devem ter acesso aos dados e ações necessários para sua tarefa designada.

  • Monitorar o uso e analisar a atividade: os administradores (proprietários) podem usar o dashboard de monitoramento de uso do Security Copilot para analisar os dados no nível da sessão, como uso ao longo do tempo, iniciadores de sessão e plug-ins usados durante as sessões. Essa visibilidade ajuda as organizações a entender como o Security Copilot é usado em prompts, promptbooks e agentes. Para obter mais informações, consulte Gerenciar uso.

  • Gerenciar configurações de compartilhamento de dados: os proprietários podem configurar as preferências de compartilhamento de Dados do Cliente a qualquer momento e devem revisar e atualizar essas configurações de acordo com os requisitos de privacidade e conformidade de sua organização. Para obter mais informações, consulte Privacidade e segurança de dados no Microsoft Security Copilot.

  • Instrua os usuários sobre recursos e limitações: o uso eficaz e responsável do Security Copilot exige que os usuários entendam o que o sistema pode ou não fazer. Os implantadores devem fornecer treinamento e diretrizes para ajudar os usuários a interagir com o Security Copilot de forma eficaz, incluindo a importância de verificar as saídas geradas por IA antes de agir.

Saiba mais sobre o Security Copilot

Para obter orientações adicionais sobre o uso responsável do Microsoft Security Copilot, confira a seguinte documentação:

Saiba mais sobre a IA responsável

  • Last updated on