Bemærk
Adgang til denne side kræver godkendelse. Du kan prøve at logge på eller ændre mapper.
Adgang til denne side kræver godkendelse. Du kan prøve at ændre mapper.
Ansvarlig AI styres af et sæt principper, der definerer, hvordan AI-systemer skal fungere. Disse principper fokuserer på retfærdighed, pålidelighed, sikkerhed, privatliv, sikkerhed, inklusion, gennemsigtighed og ansvarlighed. De etablerer de standarder, der styrer, hvordan Microsoft evaluerer risici, designer AI-funktioner og sikrer ansvarlig systemadfærd.
Anvendelse af disse principper på agentdesign hjælper med at forhindre utilsigtet skade, f.eks. bias, misinformation eller overtrædelser af personlige oplysninger. Det understøtter også brugertillid og langsigtet indførelse. Ved at følge disse retningslinjer kan du oprette AI-agenter, der fungerer effektivt, samtidig med at standarderne for integritet og respekt, som brugerne og samfundet forventer af Microsoft produkter, opretholdes.
Denne artikel indeholder en introduktion på højt niveau til ansvarlig AI, som den gælder for agentdesign. Du kan finde en omfattende vejledning i Microsoft's Principper og tilgang til ansvarlig kunstig intelligens.
Ansvarlige principper for kunstig intelligens
Ansvarlige principper for kunstig intelligens guider dig i, hvordan du designer, bygger og driver agenter i Microsoft 365 Copilot. De etablerer en fælles standard for agentadfærd, datahåndtering og brugerinteraktion for at sikre, at AI-systemer er pålidelige, sikre og justeret i forhold til menneskelige værdier.
Disse principper gælder på tværs af hele agentlivscyklussen, lige fra design og udvikling til udrulning og løbende brug. De informerer beslutninger om interaktionsdesign, model og vidensvalg, autonomi, sikkerhed og styring. Ved at følge disse principper sikrer du, at agenter leverer værdi på en ansvarlig måde, samtidig med at du bevarer brugertillid og langsigtet implementering.
| Princip | Hvad det betyder for agentdesign |
|---|---|
| Retfærdighed | AI-systemer bør give ensartede og lige resultater for alle brugere. Agentadfærd skal undgå at oprette eller styrke unfair behandling baseret på følsomme attributter eller brugerkontekst. |
| Pålidelighed og sikkerhed | AI-systemer bør fungere efter hensigten på tværs af en lang række betingelser. Agenter skal håndtere variabilitet, kantcases og uventede input på måder, der understøtter sikker og forudsigelig funktionsmåde. |
| Privatliv og sikkerhed | AI-systemer skal beskytte brugerdata og respektere etablerede krav til beskyttelse af personlige oplysninger og sikkerhed. Agenter bør kun bruge oplysninger, de har tilladelse til at få adgang til, og skal håndtere disse oplysninger på en ansvarlig måde. |
| Rummelighed | AI-systemer bør sætte alle brugere i stand og imødekomme forskellige behov. Agenter bør overveje tilgængelighed, sprogvariation og forskellige tekniske færdigheder for at sikre en inkluderende oplevelse. |
| gennemsigtighed | AI-systemer bør gøre deres funktioner og begrænsninger tydelige. Agenter skal kommunikere, hvad de kan gøre, hvordan oplysninger bruges, og hvordan output genereres, så brugerne kan træffe informerede beslutninger. |
| Ansvarlighed | AI-systemer kræver klar tilsyn. Teams, der udvikler agenter, er ansvarlige for at sikre, at systemet overholder ansvarlige AI-principper, opfylder kravene til overholdelse af angivne standarder og opererer under passende menneskelig styring. |
Anvendelse af ansvarlig AI i agentudvikling
Microsoft bruger en struktureret model til at integrere ansvarlige AI-principper under hele udviklingen af AI-agenter. Denne model hjælper teams med at identificere risici, finde de rette afhjælpninger og holde ansvarlig adfærd i hele agentens livscyklus.
Som designer påvirker dine beslutninger direkte, hvordan disse funktioner opfyldes. Følgende vigtige funktioner beskriver, hvordan ansvarlig kunstig intelligens omsættes i praksis:
| Funktion | Beskrivelse |
|---|---|
| Styre | Etablerer de politikker, roller og processer, som teams følger, når de designer og udruller agenter. Styring sikrer justering med ansvarlige AI-principper og giver klar ansvarlighed. |
| Kort | Identificerer og prioriterer potentielle risici, der er knyttet til et AI-scenarie. Tilknytning giver mulighed for velunderbyggede beslutninger om afhjælpningsstrategier og hjælper med at afgøre, om en AI-løsning er passende for den tilsigtede kontekst. |
| Mål | Evaluerer risici og systemets ydeevne for at vejlede i design og finjustering af afhjælpninger. Måling er vigtig, da AI-funktioner vokser i kompleksitet og kræver løbende vurdering. |
| Administrer | Anvender og vedligeholder risikoreduktioner under hele udrulningen og den fortsatte drift. Teams overvåger systemets funktionsmåde og justerer afhjælpninger efter behov for at sikre, at agenter forbliver ansvarlige over tid. |
AI-gennemsigtigheds- og sikkerhedsfiltre
Gennemsigtighed er en hjørnesten i ansvarlig kunstig intelligens. Når du designer agenter, skal du tydeligt kommunikere ai'ens tilstedeværelse og rolle i produktoplevelsen. Oplær brugerne om agentens formål, egenskaber, begrænsninger og potentielle risici. Denne gennemsigtighed giver brugerne mulighed for at træffe velunderbyggede beslutninger og fremme tilliden til systemet.
Praktiske implementeringer af gennemsigtighed omfatter gennemsigtighedsnoter og afsløringer i produktet, der forklarer, hvordan AI fungerer, og hvad brugerne kan forvente. I Business Chat-oplevelsen bruger agenten f.eks. tydelige indikatorer, f.eks. mærkater som "AI-genereret indhold kan være forkert" for at hjælpe med at angive de relevante forventninger og understøtte ansvarlig brug.
Sikkerhedsfiltre
Sikkerhedsfiltre hjælper med at sikre, at agenter opfører sig på en måde, der er passende, respektfuld og tilpasset Microsoft ansvarlige AI-principper. Disse sikkerhedsforanstaltninger reducerer risikoen for skadelige, forudindtagete eller vildledende output, samtidig med at brugernes privatliv beskyttes, og følsomme oplysninger beskyttes under hele interaktionen.
Agenter, der er baseret på Copilot arver Microsoft ansvarlige AI-forpligtelser, som fokuserer på retfærdighed, pålidelighed, beskyttelse af personlige oplysninger og gennemsigtighed. Sikkerhedsfiltre spiller en vigtig rolle i håndhævelse af disse forpligtelser ved at vejlede agenter i, hvordan de reagerer på brugerinput, håndterer følsomme emner og administrerer adgang til data.
Vigtigt!
Som designer konfigurerer du ikke sikkerhedsfiltre direkte. Microsoft gennemtvinger dem på platformniveau. Dine designbeslutninger om tone, omfang og gennemsigtighed forstærker eller underminerer dog direkte den tillid, som sikkerhedsfiltre er designet til at beskytte.
Ved at anvende sikkerhedsfiltre konsekvent kan agenter understøtte brugertillid og tillid. Brugerne er bedre i stand til at stole på agentsvar, vel vidende at sikkerhedsforanstaltninger er på plads for at fremme ansvarlig adfærd og etisk brug af AI.
Tip
Hvis du vil have omfattende vejledning om Microsoft ansvarlige AI-tilgang, herunder detaljerede principper, styringsrammer og rapportering af gennemsigtighed, skal du gå til Microsoft ansvarlige AI-principper og -tilgang.