Model voor gedeelde verantwoordelijkheid voor kunstmatige intelligentie (AI)

Wanneer je AI-ondersteunde integratie overweegt en evalueert, is het cruciaal om het model van gedeelde verantwoordelijkheid te begrijpen en welke taken het AI-platform of de applicatieprovider afhandelt en welke taken jij uitvoert. De werklastverantwoordelijkheden variëren afhankelijk van of de AI-integratie gebaseerd is op software as a service (SaaS), platform as a service (PaaS) of infrastructure as a service (IaaS).

Dit artikel wijdt de gedeelde verantwoordelijkheid in het cloudmodel uit naar generatieve AI-workloads. Voor autonome, tool-gebruikende AI-agenten, zie het model van gedeelde verantwoordelijkheid van AI-agenten.

Note

In dit artikel wordt met "verantwoordelijkheid" de betekenis binnen governance bedoeld: wie geacht wordt elke beheersmaatregel te configureren, uit te voeren en te monitoren. Het is illustratieve richtlijnen en is niet bedoeld om juridische conclusies te geven of de voorwaarden van enige overeenkomst tussen u en Microsoft te wijzigen of tegen te spreken.

Verdeling van verantwoordelijkheid

Net als bij clouddiensten zijn er meerdere opties wanneer je AI-mogelijkheden voor je organisatie implementeert. Afhankelijk van de optie die u kiest, neemt u de verantwoordelijkheid voor verschillende onderdelen van de benodigde bewerkingen en beleidsregels die nodig zijn om AI veilig te gebruiken.

In het volgende diagram ziet u de verantwoordelijkheidsgebieden tussen u en Microsoft op basis van het type implementatie.

Diagram van het AI-model voor gedeelde verantwoordelijkheid, dat laat zien hoe beveiligingsverantwoordelijkheid is verdeeld tussen de klant en Microsoft over IaaS-, PaaS- en SaaS AI-implementatiemodellen, met drie functionele lagen die van boven naar beneden zijn gestapeld: AI-gebruik, AI-applicatie en AI-platform.

Overzicht van AI-laag

Een AI-gestuurde applicatie bestaat uit drie lagen functionaliteit die taken groeperen die jij of een AI-aanbieder uitvoeren. De beveiligingsverantwoordelijkheden liggen doorgaans bij de partij die de taken uitvoert, maar een AI-provider kan ervoor kiezen om beveiligings- of andere controles als configuratieoptie aan jou bloot te stellen indien passend. Deze drie lagen omvatten:

AI-platform

De AI-platformlaag biedt de AI-mogelijkheden voor de toepassingen. Op de platformlaag moet je de infrastructuur bouwen en beschermen die het AI-model, trainingsdata en specifieke configuraties die het gedrag van het model veranderen, zoals gewichten en biases, draaien. Deze platformlaag biedt toegang tot functionaliteit via API's. De API's geven tekst, bekend als een metaprompt , door aan het AI-model voor verwerking en geven vervolgens het gegenereerde resultaat terug, bekend als een prompt-response.

AI-platform beveiligingsoverwegingen - Om het AI-platform te beschermen tegen kwaadaardige inputs, moet een veiligheidssysteem de potentieel schadelijke instructies die naar het AI-model worden gestuurd (inputs) filteren. Omdat AI-modellen generatief zijn, kunnen ze ook schadelijke inhoud genereren en teruggeven aan de gebruiker (outputs). Elk veiligheidssysteem moet eerst beschermen tegen potentieel schadelijke inputs en outputs van vele categorieën, waaronder haat, jailbreaks en andere schade. Deze schadeclassificaties zullen waarschijnlijk in de loop van de tijd evolueren op basis van modelkennis, locatie en industrie.

Microsoft heeft ingebouwde veiligheidssystemen voor paaS- en SaaS-aanbiedingen:

AI-toepassing

De AI-toepassing heeft toegang tot de AI-mogelijkheden en biedt de service of interface die de gebruiker gebruikt. De onderdelen in deze laag kunnen variëren van relatief eenvoudig tot zeer complex, afhankelijk van de toepassing. De eenvoudigste zelfstandige AI-applicaties fungeren als interface voor een set API's die een tekstgebaseerde gebruikersprompt nemen en die data doorgeven aan het model voor een reactie. Meer complexe AI-toepassingen omvatten de mogelijkheid om de gebruikersprompt te gronden met extra context, waaronder een persistentielaag, semantische index of plugins die toegang bieden tot meer databronnen. Geavanceerde AI-toepassingen kunnen ook interface hebben met bestaande toepassingen en systemen. Bestaande applicaties en systemen kunnen tekst, audio en afbeeldingen verwerken om verschillende soorten inhoud te genereren.

Overwegingen voor de beveiliging van AI-applicaties - Bouw een beveiligingssysteem om de AI-applicatie te beschermen tegen kwaadaardige activiteiten. Het veiligheidssysteem biedt een diepgaande inspectie van de inhoud die in de metaprompt wordt gebruikt die naar het AI-model wordt gestuurd. Het veiligheidssysteem inspecteert ook de interacties met eventuele plugins, dataconnectoren en andere AI-toepassingen (bekend als AI-orkestratie). Een manier waarop je dit kunt integreren in je eigen IaaS/PaaS-gebaseerde AI-applicatie is door gebruik te maken van de Azure AI Content Veiligheid-service. Er zijn andere mogelijkheden beschikbaar, afhankelijk van uw behoeften.

AI-gebruik

In de AI-gebruikslaag wordt beschreven hoe de AI-mogelijkheden uiteindelijk worden gebruikt en verbruikt. Generatieve AI biedt een nieuw type gebruikers-/computerinterface, dat fundamenteel verschilt van andere computerinterfaces, zoals API's, opdrachtprompten en grafische gebruikersinterfaces (GUI's). De generatieve AI-interface is zowel interactief als dynamisch, waardoor de computermogelijkheden kunnen worden aangepast aan de gebruiker en hun intentie. De generatieve AI-interface contrasteert met eerdere interfaces die voornamelijk gebruikers dwingen om het systeemontwerp en de functionaliteit ervan te leren kennen en aan te passen. Deze interactiviteit stelt gebruikersinvoer, in plaats van applicatieontwerpers, in staat om een hoge mate van invloed te hebben op de output van het systeem, waardoor veiligheidsrails cruciaal zijn voor het beschermen van mensen, data en bedrijfsactiva.

AI-gebruik beveiligingsoverwegingen - Het beschermen van AI-gebruik lijkt op het beschermen van elk computersysteem, omdat het afhankelijk is van beveiligingswaarborgen voor identiteits- en toegangscontroles, apparaatbescherming en -monitoring, gegevensbescherming en governance, administratieve controles en andere controles.

Gebruikersgedrag en verantwoordelijkheid vereisen meer nadruk omdat gebruikers meer invloed uitoefenen op de output van de systemen. Het is cruciaal om het beleid voor acceptabel gebruik bij te werken en gebruikers te informeren over de verschillen tussen standaard IT-applicaties en AI-ondersteunde applicaties. Acceptabel gebruiksbeleid moet AI-specifieke overwegingen bevatten met betrekking tot beveiliging, privacy en ethiek. Daarnaast kun je gebruikers informeren over AI-gebaseerde aanvallen die aanvallers kunnen gebruiken om hen te misleiden met overtuigende neptekst, stemmen, video's en meer.

De volgende bronnen definiëren AI-specifieke aanvaltypes:

Configureer voordat je ze aanpast

Microsoft raadt organisaties aan te beginnen met SaaS-gebaseerde benaderingen zoals het Copilot-model voor hun eerste adoptie van AI en voor alle daaropvolgende AI-workloads. Deze aanpak minimaliseert het niveau van verantwoordelijkheid en expertise dat uw organisatie moet bieden om deze zeer complexe capaciteiten te ontwerpen, te exploiteren en te beveiligen.

Als de huidige kant-en-klare mogelijkheden niet voldoen aan de specifieke behoeften van een workload, kun je een PaaS-model adopteren door AI-diensten te gebruiken, zoals Azure OpenAI Service, om aan die specifieke eisen te voldoen.

Alleen organisaties met diepgaande expertise in datawetenschap en de beveiliging, privacy en ethische overwegingen van AI zouden het bouwen van aangepaste modellen moeten adopteren.

Om AI naar de wereld te brengen, ontwikkelt Microsoft Copilot-oplossingen voor elk van de belangrijkste productiviteitsoplossingen: van Bing en Windows tot GitHub en Microsoft 365. Microsoft ontwikkelt full-stack oplossingen voor alle soorten productiviteitsscenario's. Microsoft biedt deze mogelijkheden aan als SaaS-oplossingen. Microsoft bouwt deze mogelijkheden in de productgebruikersinterface, waar ze worden afgestemd om de gebruiker te ondersteunen bij specifieke taken en zo de productiviteit te verhogen.

Microsoft ontwerpt elke Copilot-oplossing volgens de sterke principes van Microsoft voor AI-governance.

Volgende stappen

Meer informatie over aanbevolen procedures voor Azure AI-beveiliging.

Meer informatie over de productontwikkelingsvereisten van Microsoft voor verantwoorde AI in de Microsoft Responsible AI Standard.

Meer informatie over gedeelde verantwoordelijkheden voor cloud-computing.

Leer meer over het AI-model van gedeelde verantwoordelijkheid van AI-agenten voor autonome, tool-gebruikende AI-systemen.

Lees over het unieke karakter van AI-dreigingstesten in Microsoft AI Red Team bouwt aan de toekomst van veiligere AI.

  • Last updated on