Desenvolver e implantar aplicativos de IA do Microsoft Foundry ou personalizados, seguros e compatíveis

A segurança e a conformidade são essenciais para a adoção da IA corporativa. Os clientes corporativos esperam que os aplicativos de IA sejam seguros por design e estejam em conformidade com políticas internas e regulamentações externas.

A falha ao atender a essas expectativas pode resultar em:

  • Rejeição durante revisões de segurança e conformidade.
  • Vazamentos de dados ou outro comportamento de IA prejudicial.
  • Perda de confiança do cliente e redução da adoção.

Para dimensionar a IA de forma responsável, as organizações devem se basear em uma base de forte segurança e governança de dados. Como os aplicativos de IA processam cada vez mais dados corporativos confidenciais, os desenvolvedores devem incorporar controles de segurança e conformidade no início do ciclo de vida de desenvolvimento durante o design e a implementação.

Microsoft Purview fornece APIs e serviços que permitem que Microsoft Foundry e outras plataformas de IA integrem controles de governança e segurança de dados de nível empresarial em aplicativos e agentes de IA personalizados, independentemente do modelo ou da plataforma de implantação.

Este artigo explica como os desenvolvedores podem se integrar ao Microsoft Purview para dar suporte aos requisitos de conformidade e segurança de dados em seus aplicativos e agentes de IA criados usando Microsoft Foundry, Agent Framework ou aplicativos de IA personalizados. A tabela a seguir resume os cenários de Microsoft Purview e quais opções os desenvolvedores devem escolher para cada cenário.

Scenario Microsoft Foundry Estrutura do Agente APIs de Microsoft Purview
Governar dados usados em tempo de execução por aplicativos de IA Supported Supported Supported
Proteger contra vazamentos de dados e riscos internos Sem suporte Supported Supported
Impedir o compartilhamento excessivo de dados Sem suporte Sem suporte Supported

Governar dados usados por aplicativos de IA em tempo de execução

Os seguintes recursos de Microsoft Purview podem ser usados para fornecer governança de dados para aplicativos de IA:

  • Análise em tempo real para uso de dados confidenciais, comportamentos arriscados e interações antiéticas de IA.
  • Auditoria para rastreabilidade.
  • Conformidade de comunicação para detectar conteúdo prejudicial ou não autorizado.
  • Gerenciamento e Descoberta Eletrônica do Ciclo de Vida de Dados para necessidades legais e regulatórias.

Você pode integrar esses recursos Microsoft Purview ao seu Microsoft Foundry ou aplicativo de IA personalizado usando as seguintes opções:

  • Integração nativa de Microsoft Purview ao Microsoft Foundry (recomendado): ao usar modelos no Microsoft Foundry, use as configurações de Microsoft Purview para resultados de auditoria e governança relacionados inseridos no Microsoft Foundry. Azure Administradores podem ativar a configuração de qualquer assinatura de Azure determinada. Não há nenhuma ação que seus desenvolvedores precisem tomar. Essa configuração permite que dados de todos os aplicativos baseados em IA Azure em execução nessa assinatura sejam enviados para Microsoft Purview para dar suporte a resultados de governança e conformidade. Para obter mais informações sobre como ativar a configuração, consulte Habilitar Segurança de Dados para Azure IA com Microsoft Purview.

  • Usar as APIs: os desenvolvedores do Microsoft Foundry podem usar APIs do Microsoft Purview no Microsoft Graph para enviar programaticamente os dados de prompts e respostas dos seus aplicativos de IA para o Microsoft Purview.

    Use estas APIs para integração baseada em API:

    Para obter mais informações, consulte Usar APIs de Microsoft Purview no Microsoft Graph.

  • Estrutura do Agente: se você estiver criando agentes usando o Microsoft Agent Framework, poderá adicionar Microsoft Purview recursos para proteger seus agentes. Esses recursos adicionarão segurança de dados e conformidade ao agente. No pipeline de middleware do seu agente, adicione o middleware de política do Microsoft Purview para:

    • Interceptar e passar prompts e respostas para o Microsoft Purview.
    • Imponha as políticas DLP da sua organização em Microsoft Purview.

    Para obter mais informações, consulte Usar Microsoft Purview SDK com o Agent Framework.

Proteger contra vazamentos de dados e riscos internos

Os desenvolvedores podem usar o Agent Framework ou Microsoft Purview APIs para impor políticas de Prevenção Contra Perda de Dados do Microsoft Purview (DLP) em seus aplicativos.

Estrutura do Agente: se você estiver criando agentes usando o Microsoft Agent Framework, poderá adicionar Microsoft Purview recursos para proteger seus agentes. Esses recursos adicionarão segurança de dados e conformidade ao agente. No pipeline de middleware do seu agente, adicione o middleware de política do Microsoft Purview para:

  • Intercepte e envie comandos e respostas para o Microsoft Purview.
  • Imponha as políticas DLP da sua organização em Microsoft Purview.

Para obter mais informações, consulte Usar Microsoft Purview SDK com o Agent Framework.

Use as APIs: essa opção permite que os aplicativos entendam e imponham o comportamento em aplicativos e agentes de IA de acordo com as políticas definidas em Microsoft Purview. Por exemplo, você pode proteger informações confidenciais compartilhadas com LLMs (Modelos de Linguagem Grande) ou controlar informações confidenciais compartilhadas com usuários arriscados em seus aplicativos de IA.

Use estas APIs para integração baseada em API:

Importante

Para configurar uma nova política DLP no Microsoft Purview para testar a integração DLP, execute o New-DlpComplianceRule cmdlet. Para obter mais informações, consulte New-DlpComplianceRule.

Azure exemplo de código de IA:

Impedir o compartilhamento excessivo de dados

O compartilhamento excessivo de dados é restrito quando os rótulos de confidencialidade são aplicados aos dados. Os desenvolvedores podem usar as APIs do Microsoft Purview ou o Pesquisa de IA do Azure  para respeitar os rótulos de confidencialidade aplicados aos dados usados pelos LLMs para gerar respostas. Ambas as opções garantem que as respostas geradas por IA respeitem os controles de acesso, impeçam o compartilhamento excessivo de dados e limitem os usuários ao conteúdo que estão autorizados a exibir , assim como fariam fora do ambiente do aplicativo de IA.

Quando a indexação de rótulos de confidencialidade do Microsoft Purview está habilitada, o Pesquisa de IA do Azure  verifica os metadados do rótulo do documento no momento da consulta, aplica filtros de acesso com base nas políticas do Microsoft Purview e retorna apenas os resultados aos quais o usuário solicitante tem permissão para acessar.

Você pode usar qualquer uma das seguintes APIs ao criar este cenário:

  • Last updated on