Veilige en compatibele Microsoft Foundry- of aangepaste AI-apps ontwikkelen en implementeren

Beveiliging en naleving zijn essentieel voor ai-acceptatie voor ondernemingen. Zakelijke klanten verwachten dat AI-toepassingen standaard veilig zijn en voldoen aan zowel intern beleid als externe regelgeving.

Als u niet aan deze verwachtingen voldoet, kan dit leiden tot:

  • Afwijzing tijdens beveiligings- en nalevingsbeoordelingen.
  • Gegevenslekken of ander schadelijk AI-gedrag.
  • Verlies van klantvertrouwen en verminderde acceptatie.

Om AI op verantwoorde wijze te schalen, moeten organisaties bouwen op een basis van sterke gegevensbeveiliging en -governance. Omdat AI-toepassingen steeds gevoelige bedrijfsgegevens verwerken, moeten ontwikkelaars vroeg in de ontwikkelingslevenscyclus beveiligings- en nalevingscontroles opnemen, tijdens het ontwerpen en implementeren.

Microsoft Purview biedt API's en services die Microsoft Foundry en andere AI-platformen in staat stellen om beveiliging en governance op bedrijfsniveau te integreren in aangepaste AI-toepassingen en -agents, ongeacht het model- of implementatieplatform.

In dit artikel wordt uitgelegd hoe ontwikkelaars kunnen integreren met Microsoft Purview ter ondersteuning van vereisten voor gegevensbeveiliging en naleving in hun AI-apps en -agents die zijn gebouwd met behulp van Microsoft Foundry, Agent Framework of aangepaste AI-apps. De volgende tabel bevat een overzicht van de Microsoft Purview scenario's en welke opties ontwikkelaars voor elk scenario moeten kiezen.

Scenario Microsoft Foundry Agentenraamwerk API's voor Microsoft Purview
Gegevens beheren die tijdens runtime worden gebruikt door AI-apps Supported Supported Supported
Beschermen tegen gegevenslekken en interne risico's Niet ondersteund Supported Supported
Oversharing van gegevens voorkomen Niet ondersteund Niet ondersteund Supported

Gegevens beheren die tijdens runtime worden gebruikt door AI-apps

De volgende Microsoft Purview functies kunnen worden gebruikt om gegevensbeheer voor AI-apps te bieden:

  • Realtime analyses voor het gebruik van gevoelige gegevens, riskant gedrag en onethische AI-interacties.
  • Controle voor traceerbaarheid.
  • Communicatiecompatibiliteit om schadelijke of niet-geautoriseerde inhoud te detecteren.
  • Gegevenslevenscyclusbeheer en eDiscovery voor juridische en wettelijke behoeften.

U kunt deze Microsoft Purview mogelijkheden integreren in uw Microsoft Foundry of aangepaste AI-app met behulp van de volgende opties:

  • Systeemeigen integratie van Microsoft Purview in Microsoft Foundry (aanbevolen):wanneer u modellen gebruikt in Microsoft Foundry, gebruikt u de Microsoft Purview-instellingen voor controle en gerelateerde governanceresultaten die zijn ingesloten in Microsoft Foundry. Azure Beheerders kunnen de instelling voor een bepaald Azure-abonnement inschakelen. Er is geen actie die uw ontwikkelaars moeten ondernemen. Met deze instelling kunnen gegevens van alle Azure AI-toepassingen die in dat abonnement worden uitgevoerd, worden verzonden naar Microsoft Purview ter ondersteuning van governance- en nalevingsresultaten. Zie Gegevensbeveiliging inschakelen voor Azure AI met Microsoft Purview voor meer informatie over het inschakelen van de instelling.

  • Gebruik de API's: Microsoft Foundry-ontwikkelaars kunnen Microsoft Purview API's in Microsoft Graph gebruiken om de prompts en antwoorden van hun AI-apps programmatisch naar Microsoft Purview te verzenden.

    Gebruik deze API's voor integratie op basis van EEN API:

    Zie Microsoft Purview API's gebruiken in Microsoft Graph voor meer informatie.

  • Agent Framework: Als u agents bouwt met behulp van Microsoft Agent Framework, kunt u Microsoft Purview mogelijkheden toevoegen om uw agents te beveiligen. Met deze mogelijkheden wordt gegevensbeveiliging en -naleving toegevoegd aan de agent. Voeg in de middleware-pijplijn van uw agent Microsoft Purview-beleidsmiddleware toe aan:

    • Prompts en antwoorden onderscheppen en doorgeven naar Microsoft Purview.
    • Dwing het DLP-beleid van uw organisatie af in Microsoft Purview.

    Zie Microsoft Purview SDK gebruiken met Agent Framework voor meer informatie.

Beschermen tegen gegevenslekken en interne risico's

Ontwikkelaars kunnen Agent Framework of Microsoft Purview API's gebruiken om beleid voor Microsoft Purview-preventie van gegevensverlies (DLP) in hun toepassingen af te dwingen.

Agent Framework: Als u agents bouwt met behulp van Microsoft Agent Framework, kunt u Microsoft Purview mogelijkheden toevoegen om uw agents te beveiligen. Met deze mogelijkheden wordt gegevensbeveiliging en -naleving toegevoegd aan de agent. Voeg Microsoft Purview-beleidsmiddleware toe aan de middleware-pipeline van uw agent:

  • Prompts en reacties onderscheppen en doorgeven naar Microsoft Purview.
  • Dwing het DLP-beleid van uw organisatie af in Microsoft Purview.

Zie Microsoft Purview SDK gebruiken met Agent Framework voor meer informatie.

Gebruik de API's: met deze optie kunnen toepassingen het gedrag in AI-apps en -agents begrijpen en afdwingen volgens het beleid dat is ingesteld in Microsoft Purview. U kunt bijvoorbeeld gevoelige informatie beveiligen die wordt gedeeld met LLM's (Large Language Models) of gevoelige informatie beheren die wordt gedeeld met riskante gebruikers in uw AI-apps.

Gebruik deze API's voor integratie op basis van EEN API:

Important

Als u een nieuw DLP-beleid wilt instellen in Microsoft Purview om DLP-integratie te testen, voert u de New-DlpComplianceRule cmdlet uit. Zie New-DlpComplianceRule voor meer informatie.

Azure AI-codevoorbeeld:

Voorkom dat er te veel gegevens worden gedeeld

Het overschrijven van gegevens wordt beperkt wanneer vertrouwelijkheidslabels worden toegepast op gegevens. Ontwikkelaars kunnen Microsoft Purview API's of Azure AI Zoeken gebruiken om vertrouwelijkheidslabels te respecteren die worden toegepast op gegevens die door LLM's worden gebruikt om antwoorden te genereren. Beide opties zorgen ervoor dat door AI gegenereerde antwoorden toegangsbeheer respecteren, oversharing van gegevens voorkomen en gebruikers beperken tot inhoud die ze mogen bekijken, net zoals ze buiten de AI-app-omgeving zouden doen.

Wanneer Microsoft Purview indexering van vertrouwelijkheidslabels is ingeschakeld, controleert Azure AI Zoeken de metagegevens van het documentlabel op querytijd, past u toegangsfilters toe op basis van Microsoft Purview beleid en retourneert u alleen de resultaten waartoe de aanvragende gebruiker toegang heeft.

U kunt een van de volgende API's gebruiken bij het bouwen van dit scenario:

  • Laatst bijgewerkt om