Programkort: Copilot Code (Frontier)

  • Gjelder for: Microsoft Copilot

Important

  • Dette er en forhåndsvisningsfunksjon som leveres under Microsofts produktvilkår.
  • Forhåndsvisningsfunksjoner kan ha begrenset funksjonalitet og blir kanskje ikke gjort allment tilgjengelige. Disse funksjonene er tilgjengelige før en offisiell utgivelse, slik at kunder kan få tidlig tilgang og gi tilbakemeldinger.
  • Du må være en del av forhåndsvisningsprogrammet for Frontier for å få tidlig tilgang. Frontier kobler deg direkte til Microsofts nyeste ai-innovasjoner. Forhåndsvisninger av grensegrensene er underlagt de eksisterende forhåndsvisningsvilkårene for kundeavtalene dine. Ettersom disse funksjonene fremdeles er under utvikling, kan tilgjengeligheten og mulighetene endres over tid.

Hva er et program- eller plattformkort?

Microsofts program- og plattformkort er ment å hjelpe deg med å forstå hvordan vår teknologi for kunstig intelligens fungerer, valgene appeiere kan ta som påvirker applikasjonsytelse og atferd, og viktigheten av å vurdere hele applikasjonen, inkludert teknologien, menneskene og miljøet. Applikasjonskort opprettes for KI-applikasjoner og plattformkort opprettes for KI-plattformtjenester. Disse ressursene kan støtte utvikling eller distribusjon av dine egne programmer og kan deles med brukere eller interessenter som påvirkes av dem.

Som en del av forpliktelsen til ansvarlig kunstig intelligens, følger Microsoft seks kjerneprinsipper: rettferdighet, pålitelighet og trygghet, personvern og sikkerhet, inkludering, åpenhet og ansvarlighet. Disse prinsippene er innebygd i Responsible AI Standard, som veileder team i utforming, bygging og testing av programmer for kunstig intelligens. Program- og plattformkort spiller en nøkkelrolle i operasjonaliseringen av disse prinsippene ved å tilby åpenhet rundt funksjoner, tiltenkt bruk og begrensninger. For mer innsikt oppfordres leserne til å utforske Microsofts Åpenhetsrapport for ansvarlig KI og Microsofts regler for god oppførsel i KI-tjenester for foretak, som beskriver hvordan du kan engasjere deg i kunstig intelligens på en ansvarlig måte.

Overview

Kode-fanen i Microsoft Copilot er en AI-drevet agent som gjør det du beskriver til fungerende programvare. Du beskriver et resultat på naturlig språk – et dashbord, et internt verktøy, et statisk nettsted, en datatransformering eller et skript – og Copilot Code bygger det, viser en direkte forhåndsvisning på et canvas og itererer med deg til det fungerer. Du trenger ikke å vite hvordan man koder. Copilot Code kan kjøre på din egen enhet (lokal) eller i et sikkert, isolert miljø i skyen.

Copilot Code er utformet for informasjonsarbeidere som har ideer, data og regelmessige arbeidsflyter, men som ikke har et utviklingsmiljø. Den skriver og kjører programvare på dine vegne, bruker Microsoft 365 arbeidskontekst når du tillater det, og ber om tillatelsen din før den utfører handlinger som strekker seg utover prosjektmappen du valgte.

Copilot Code er tilgjengelig som en del av Microsoft Copilot. Hvis du vil ha mer informasjon, kan du se Copilot Code overview.

Viktige begreper

Tabellen nedenfor definerer nøkkelvilkår knyttet til Copilot kode.

Semester Beskrivelse
Agent En AI-drevet komponent som automatiserer og utfører oppgaver på vegne av en bruker, basert på instruksjoner i naturlig språk. Copilot Code er en agent som bygger og kjører programvare.
Prosjekt Programvareartefakten som Copilot Code bygger, sammen med filene som utgjør den. Et prosjekt lagres på enheten (lokal) eller i skyen, og samtalen er knyttet til det.
Canvas Det visuelle arbeidsområdet ved siden av samtalen, der du ser en direkte forhåndsvisning av artefakten og kan bytte til en kodevisning for å se og redigere de genererte filene.
Lokal utvikling En modus hvor Copilot Code kjører på din egen enhet og fungerer i en prosjektmappe du velger.
Skyutvikling En modus hvor Copilot Code kjører og holder prosjektet i et sikkert, isolert miljø i skyen.
Samtykkeforespørsel En dialogboks der Copilot Code ber om tillatelse før den får tilgang til en plassering utenfor den valgte mappen, oppretter en nettverkstilkobling eller kjører en kommando. Instrukser skrives på vanlig språk.
Programtillegg En pakke distribuert gjennom Microsoft 365 App Store som kobler Copilot code til eksterne datakilder og tjenester. Copilot Code bruker de samme plugin-modulene som er tilgjengelige i Cowork.
Arbeidskontekst Microsoft 365 dataene – dokumenter, e-postmeldinger, møter og kalender – som Copilot Code kan bruke som kontekst for det den bygger, med din tillatelse og bruk av organisasjonens (jobb) konto.
GitHub-tilkobling En valgfri kobling til GitHub-kontoen som lar Copilot Code arbeide med repositorier, svare på spørsmål om koden og åpne pull-forespørsler.
Automation Arbeid som Code kjører etter en tidsplan, konfigurert fra automatiseringspanelet.

Viktige funksjoner eller muligheter

Nøkkelfunksjonene og egenskapene nedenfor beskriver hva Copilot Code er utformet for å gjøre.

Funksjon Beskrivelse
Opprett fra naturlig språk Copilot Code gjør en beskrivelse i vanlig språk av et resultat om til en fungerende programvareartefakt, for eksempel en app, et dashbord, statisk nettsted, datatransformasjon, automatisering eller skript.
Avklarende spørsmål Før du bygger, kan Copilot Code stille noen spørsmål for å bekrefte hva du vil og hvordan den skal se ut.
Direkte forhåndsvisning og kodevisning Lerretet viser en direkte forhåndsvisning av et statisk nettsted eller en nettapp etter hvert som det bygges. Du kan bytte til en kodevisning for å se og redigere de genererte filene og velge et element på lerretet for å fokusere på neste forespørsel.
Gjenta og gjenopprett Du finjusterer resultatet ved å beskrive endringer i samtalen. Du kan når som helst gå tilbake til en tidligere versjon. Hvis et trinn mislykkes, prøver Copilot Code å rette opp og forklarer hva som skjedde på vanlig språk.
Lokal kjøring eller skykjøring Copilot Code kan kjøre prosjektet på din egen enhet eller i et sikkert, isolert miljø i skyen.
Importer filer og data Du kan laste opp eller dra og slippe filer (CSV, regneark, bilder, dokumenter, PDF-filer og presentasjoner), lime inn tekst og – for lokale prosjekter – åpne en eksisterende mappe som Copilot Code kan arbeide med.
Integrering av arbeidskontekst Med din tillatelse bruker Copilot Code arbeidskonteksten din i Microsoft 365 – dokumenter, e-postmeldinger, møter og kalender – som kontekst for det den bygger. Dette bruker organisasjonskontoen (jobb).
Programtillegg og verktøy Copilot Code bruker de samme plugin-modulene som er tilgjengelige i Cowork for å koble til eksterne datakilder og tjenester, i tillegg til verktøy som nettsøk og bildegenerering, underlagt organisasjonens policyer.
GitHub integrasjon Du kan eventuelt koble en GitHub-konto for å komme raskt i gang fra et repositorium, stille spørsmål om koden, opprette grener og forpliktelser, åpne utkast til pull-forespørsler og se statusen deres, opprette et repositorium og spore problemene, pull-forespørslene og forespørsler om gjennomgang i Mitt arbeid.
Automatiseringer Du kan konfigurere en jobb som kjøres etter en tidsplan fra automatiseringspanelet.
Del og eksporter Du kan dele en statisk app som en kobling som er avgrenset til organisasjonen din, og eksportere et prosjekt som en .zip-fil.
Valg av modell Du kan velge modellen Copilot Code bruker for prosjektet, eller la Copilot Code velge.
Samtykkeinnstillinger Copilot Code ber om tillatelsen din før den får tilgang til plasseringer utenfor den valgte prosjektmappen, oppretter nettverkstilkoblinger eller kjører kommandoer. Samtykkeforespørsler skrives i klarspråk.

Som et agentisk AI-program viser Copilot Code følgende agentiske egenskaper:

  • Planlegging: Copilot Code dekomponerer en beskrivelse i naturlig språk i trinnene som trengs for å bygge programvaren og arbeider seg gjennom dem, og viser fremdriften etter hvert som den går.
  • Tilpasningsevne: Du kan styre Copilot kode med tilbakemelding under en økt, og den tilpasser tilnærmingen, inkludert å gå tilbake til en tidligere versjon.
  • Utvidelsesmuligheter: Copilot Code-funksjoner utvides gjennom plugin-moduler fra Microsoft 365 App Store, koblinger til eksterne datakilder og en valgfri GitHub-tilkobling.
  • Hukommelse (avgrenset til samtalen): I en prosjektsamtale opprettholder Copilot Code kontekst på tvers av trinn og meldinger. Samtykke gitt under en økt gjelder for denne økten. Konteksten vedvarer ikke på tvers av separate samtaler.

Tiltenkte bruksområder

Copilot Code er utformet for informasjonsarbeidere som bruker Microsoft 365 og ønsker å gjøre ideer, data og regelmessige arbeidsflyter om til fungerende programvare uten et utviklingsmiljø. Noen eksempler på brukstilfeller inkluderer:

  • Dashbord og datavisninger: Bygg et dashbord som sporer en metrikkverdi fra dataene dine, for eksempel ukentlige registreringer etter kanal.
  • Interne verktøy: Lag et sporingsverktøy, et skjema eller en kalkulator for arbeidsflyten til et team, for eksempel en lager- eller godkjenningsoversikt.
  • Statiske nettsteder og målsider: Bygg et enkelt nettsted eller en målside for å teste et forslag.
  • Datatransformasjoner og skript: Gjør en gjentakende manuell prosess, for eksempel å bygge opp en rapport på nytt fra flere kilder, om til et gjenbrukbart skript.
  • Arbeid med eksisterende repositorier: Koble til en GitHub-konto for å spørre om et repositorium, foreta en endring og åpne en pull-forespørsel i utkast.

Agentomfang: Copilot Code opererer innenfor grensene for Microsoft 365 tillatelser og prosjektmappen du velger. Den bygger og kjører programvare som du ber den om å opprette, og ber om godkjenning før den får tilgang utenfor den valgte mappen, oppretter en nettverkstilkobling eller kjører en kommando. Det utfører ikke disse handlingene uten din instruks eller godkjenning.

Copilot code er ikke ment for brukstilfeller som krever garantert nøyaktighet uten menneskelig gjennomgang, eller for å produsere programvare for bruk med store konsekvenser eller sikkerhetskritisk bruk uten passende testing og menneskelig tilsyn.

Modeller og opplæringsdata

Copilot Code utnytter AI-modeller for å drive opplevelsen som brukerne ser. Du kan velge mellom flere modeller, inkludert Claude Opus- og Claude Sonnet-varianter og Claude Haiku fra Anthropic, og GPT-modeller som driftes og drives av Microsoft, eller la Copilot Code velge en modell for deg. Anthropic-modeller leveres til Microsoft som en underdatabehandler. Hvis du vil ha mer informasjon, kan du se Anthropic som en underprosessor for Microsoft Online Services og Forståelse av AI-funksjonalitet og modeller i Microsoft Online Services.

Instrukser, svar og data som er tilgjengelige gjennom Microsoft Graph, brukes ikke til å lære opp grunnleggende LLM-er, inkludert de som brukes av Microsoft Copilot. I skymodus forblir organisasjonsdataene dine innenfor Microsoft 365 og er underlagt organisasjonens eksisterende policyer for datastyring. Men i lokal modus kan dataene også lagres på den lokale enheten med forbehold om administratorsamtykke. Hvis du vil ha mer informasjon om hvordan data håndteres, kan du se Data, personvern og sikkerhet for Microsoft Copilot.

Performance

Copilot Code er utformet for å bygge fungerende programvare som gjenspeiler brukerens hensikt. Ytelsen evalueres basert på om Copilot Code produserer en fungerende artefakt som oppfyller forespørselen, og om den itererer riktig på tilbakemelding.

Støttede modaliteter

  • Inndata: Tekstmeldinger fra brukere, innlimt tekst og vedlagte filer (CSV, regneark, bilder, dokumenter, PDF-filer og presentasjoner) opptil 200 MB per fil. For lokale prosjekter kan Copilot Code også lese filer i mappen du velger.
  • Resultat: En kjørende programvareartefakt som vises på lerretet, den genererte kildekoden, filer som er lagret på enheten eller i skyen, og når du kobler til GitHub, grener, commits og utkast til pull-forespørsler. Du kan dele en statisk app som en organisasjonsavgrenset lenke og eksportere et prosjekt som en .zip-fil.

Slik behandler Copilot Code forespørsler

  1. Copilot Code mottar en naturlig språkbeskrivelse av resultatet du ønsker.
  2. Copilot Code kan stille avklarende spørsmål, og deretter planlegge trinnene som trengs for å bygge artefakten.
  3. Copilot Code skriver og kjører programvaren, og viser fremdrift og en direkte forhåndsvisning på canvas. Du kan bytte til kodevisningen for å se de genererte filene.
  4. Før Copilot code får tilgang til en plassering utenfor den valgte mappen, oppretter en nettverkstilkobling eller kjører en kommando, ber den om godkjenning på vanlig språk.
  5. Du ser gjennom resultatet, finjusterer det gjennom samtalen og lagrer, deler eller eksporterer prosjektet.

Betingelser for pålitelig drift

  • Copilot Code fungerer best når du beskriver resultatet tydelig, inkludert hvem resultatet er for og eventuelle data det skal bruke.
  • Copilot code kan bare få tilgang til data og tjenester som Microsoft 365-kontoen din er autorisert til å bruke, og for lokale prosjekter, mappen du velger pluss alle plasseringer du godkjenner.
  • Forhåndsvisningsstøtte avhenger av type artefakt og enheten din.
  • Ytelsen kan reduseres for svært komplekse prosjekter med mange gjensidige avhengigheter.

Flerspråklige funksjoner

  • CCopilot Code er tilgjengelig på alle Copilot støttede språk. Støtte for flere språk er basert på de underliggende modellfunksjonene og Microsoft 365-tjenestetilgjengeligheten. Hvis du vil ha mer informasjon om støttede språk, kan du se Støttede språk for Microsoft Copilot.

Begrensninger

Det er viktig å forstå Copilot Codes begrensninger for å avgjøre om den brukes innenfor sikre og effektive grenser. Selv om vi oppfordrer kunder til å bruke Copilot Code i sine innovative løsninger eller programmer, er det viktig å merke seg at Copilot code ikke ble utformet for alle mulige scenarioer. Vi oppfordrer brukere til å referere til Microsofts regler for god oppførsel i KI-tjenester for foretak (for organisasjoner) eller delen Regler for god oppførsel i Microsofts tjenesteavtale (for enkeltpersoner) samt til følgende vurderinger når de velger et brukstilfelle:

  • Instruksjonstolkning: Copilot kode kan feiltolke tvetydige eller altfor brede beskrivelser, noe som fører til programvare som ikke samsvarer med din hensikt. Gi tydelige, spesifikke forespørsler om bedre resultater.

  • Nøyaktighet for generert kode: AI-generert kode og artefakter bør behandles som kladder. Test det Copilot Code bygger før du stoler på det, deler det eller bruker det i produksjon. Copilot Kode kan gi unøyaktige resultater, spesielt når kildedataene er ufullstendige eller utdaterte.

  • Prosjektkompleksitet: Komplekse prosjekter med mange avhengigheter kan ikke alltid bygges som forventet. Overvåk fremdriften, arbeid iterativt i små trinn, og gå tilbake til en tidligere versjon ved behov.

  • Forhåndsvisningsstøtte: Forhåndsvisning avhenger av artefakttypen og enheten. Enkelte artefakter kan for eksempel ikke forhåndsvises på alle plattformer.

  • Tillatelsesgrenser: Copilot Code avhenger av eksisterende Microsoft 365 tillatelser og mappen du velger for lokale prosjekter. Den har ikke tilgang til data, tjenester eller plasseringer som du ikke har godkjent.

  • Plattform- og enhetsstøtte: Copilot Code kjører i skrivebordsprogrammet Microsoft Copilot for Windows og Mac, og på nettet for skyutvikling. En mobilapp er ikke tilgjengelig på denne versjonen, og tilgjengeligheten av funksjoner kan variere etter plattform.

  • Egendefinerte ferdigheter og plugin-moduler: Plugin-moduler og koblinger leveres av tredjepartsutgivere og valideres ikke av Microsoft. Se gjennom utdata fra plugin-moduler nøye, da kvaliteten avhenger av hvem som publiserte dem.

  • Bias, stereotyping og ikke underbygget innhold: Til tross for ansvarlige AI-kontroller, kan AI-generert innhold og kode fortsatt gjenspeile skjevheter, stereotypier eller ikke underbygget informasjon. Se gjennom hva Copilot Code produserer før du stoler på den. Hvis du vil ha mer informasjon om de kjente begrensningene for KI-generert innhold fra Anthropic-modeller, kan du se dokumentasjonen for Anthropic-underdatabehandler.

  • Potensiell betydelig fysisk eller psykisk skade på en person: Unngå bruk eller misbruk av systemet som kan føre til betydelig fysisk eller psykisk skade på en enkeltperson. For eksempel, å bygge programvare som diagnostiserer pasienter eller foreskriver medisiner har potensial til å forårsake betydelig skade.

  • Betydelig innvirkning på livsmuligheter eller juridisk status: Unngå bruk eller misbruk av systemet som kan ha betydelig innvirkning på livsmuligheter eller juridisk status. Eksempler inkluderer programvare som kan påvirke en persons juridiske status, juridiske rettigheter eller deres tilgang til kreditt, utdanning, sysselsetting, helsetjenester, bolig, forsikring, sosiale velferdsytelser, tjenester, muligheter eller vilkårene de tilbys på.

Evalueringer

Ytelses- og sikkerhetsevalueringer vurderer om Copilot Code fungerer pålitelig og sikkert ved å undersøke faktorer som om generert programvare er riktig og funksjonell, samtidig som risikoen ved å generere skadelig innhold eller utføre uautoriserte handlinger identifiseres. Følgende evalueringer ble utført med sikkerhetskomponenter som allerede er på plass, som også er beskrevet i Sikkerhetskomponenter og avbøtende tiltak.

Ytelses- og kvalitetsevalueringer

Ytelsesevalueringer for Copilot Code er avgjørende for å forbedre påliteligheten i bruk i den virkelige verden. Vi utfører regelmessig evalueringer for følgende områder:

  • Om generert kode er syntaktisk riktig.
  • Om funksjonaliteten til den genererte artefakten oppfyller brukerens forespørsel.
  • Kvaliteten på resultatet fra et brukeropplevelsesperspektiv.

Evalueringsmetoder for ytelse og kvalitet

Evalueringsdataene våre er spesialbygd for å vurdere ytelsen til KI-programmer på tvers av nøkkelområder for sikkerhet og kvalitet, og simulerer virkelige scenarier og risikoer. Vi begynner med å identifisere relevante evalueringsaspekter som gir grunn til bekymring basert på tverrfaglig forskning og ekspertinnspill. Disse hensynene oversettes til målrettede evalueringsmål og veileder formulering av evalueringsmetrikker. Av sikkerhetshensyn oppretter vi adversarielle prompter for å fremkalle uønskede svar eller grensetilfeller, som deretter vurderes ved hjelp av KI-assisterte annotatører som er opplært til å vurdere samsvar med Microsofts sikkerhetsstandarder. For kvalitet lager vi rubrikkbaserte ledetekster som er relevante for kodegenerering og agentscenarioer. Datasett kurateres fra forskjellige kilder, inkludert syntetiske og offentlige datasett, for å simulere virkelige brukerscenarioer. Ved hjelp av de kuraterte datasettene gjennomgår begge evalueringene iterativ forbedring og menneskelig justering for å forbedre målemetodens effektivitet og pålitelighet.

Copilot Code ble evaluert ved hjelp av scenarioer som gjenspeiler hvordan informasjonsarbeidere bygger programvare, for eksempel generering av dashbord, interne verktøy, statiske nettsteder og datatransformeringer. Evaluatører vurderte om generert kode var riktig og kjørte, om artefakten oppfylte forespørselen, og om resultatet holdt opp på tvers av variasjoner av samme oppgave. Ideale resultater gjenspeiler funksjonell programvare som samsvarer med forespørselen. Deloptimale resultater inkluderer kode som ikke kjører, manglende funksjonalitet eller resultater som ikke samsvarer med hensikt.

Egendefinerte evalueringer

I tillegg til standard måledata ble Copilot Code evaluert ved hjelp av egendefinerte måledata som er spesifikke for de agentiske kodebyggefunksjonene:

  • Bygg suksess (om Copilot Code produserte en fungerende artefakt).
  • Be om samsvar (om resultatet samsvarer med brukerens intensjon).
  • Gjentakelsesnøyaktighet (om Copilot kode riktig brukte forespurte endringer og tilbakestillinger).

Risiko- og sikkerhetsevalueringer

Å vurdere potensielle risikoer forbundet med AI-generert innhold og handlinger er avgjørende for å beskytte mot risikoer med varierende grad av alvorlighetsgrad. Dette inkluderer evaluering av Copilot Codes predisposisjon mot generering av skadelig innhold eller kode, og testing for sårbarheter for jailbreak-angrep og uautoriserte handlinger. Følgende risiko- og sikkerhetsvurderinger ble utført:

  • Hat og urettferdighet
  • Seksuell
  • Vold
  • Selvskading
  • Beskyttet materiale
  • Usikker eller skadelig kodegenerering
  • Indirekte jailbreak
  • Direkte jailbreak
  • Uautorisert kjøring av handling

Metoder for risiko- og sikkerhetsevaluering

Risiko- og sikkerhetsevalueringer brukte adversarial ledetekster og automatiserte klassifikatorer for å vurdere potensielle skader. Testene kombinerte LLM-dommervurderinger med klassifikatorbasert deteksjon og manuell testing ved behov. Ytterligere evalueringer som er spesifikke for Copilot Codes utførelsesfunksjonalitet, testet om agenten kunne manipuleres til å generere usikker kode eller utføre handlinger – få tilgang til filer, opprette nettverkstilkoblinger eller kjøre kommandoer – uten nødvendig samtykke. Ideelle resultater avviser eller omdirigerer skadelige forespørsler og holder samtykkegrensen intakt på tvers av variasjoner av instruksen. Ikke-optimale resultater omfatter å produsere skadelig eller usikkert innhold, eller å utføre handlinger uten nødvendig godkjenning.

Sikkerhetskomponenter og tiltak

Etter hvert som vi identifiserte potensielle risikoer og misbruk gjennom prosesser som red team-testing og målte omfanget av dem, utviklet vi tiltak for å redusere potensialet for skade. Følgende liste beskriver noen av disse tiltakene. Vi fortsetter å evaluere Copilot Code for å forbedre produktytelse og reduksjoner.

  • Samtykke til handlinger som strekker seg utover prosjektmappen. Copilot Codes primære sikkerhetsmekanisme er samtykkemodellen. Når du velger en mappe du vil arbeide i, kan Copilot Code lese og skrive i mappen. Tilgang til en annen plassering, nettverkstilkobling eller kjøring av en kommando krever eksplisitt godkjenning. Samtykkedialoger skrives i et klart og enkelt språk.

  • Konfigurerbar isolasjon for kodekjøring. Copilot Code kjører generert programvare med konfigurerbare isolerings- og håndhevelsesnivåer. administratorer kan konfigurere håndhevelsesnivået for organisasjonen.

  • Tillatelsesavgrensninger. Copilot Code fungerer strengt innenfor eksisterende Microsoft 365 tillatelser og mappen du velger. Den får ikke tilgang til data, tjenester eller ressurser som du ikke har godkjent, noe som bidrar til å forhindre rettighetsopptrapping.

  • Samtykke begrenset til en samtale. Samtykke du gir i løpet av en økt, gjelder bare for den økten og videreføres ikke på tvers av separate samtaler, noe som begrenser omfanget av konsekvensene dersom en tillatelse gis utilsiktet.

  • KI-baserte klassifikatorer og innholdsfiltrering. Copilot Code bruker AI-baserte klassifikatorer og innholdsfiltre til å identifisere og blokkere potensielt skadelig innhold i brukermeldinger og genererte svar, inkludert filtre for hatefulle ytringer, vold, seksuelt innhold, selvskading og beskyttet materiale.

  • Metaprompting. Systeminstruksjoner styrer Copilot Codes atferd slik at den er i tråd med Microsofts KI-prinsipper og brukernes forventninger, inkludert instruksjoner om å avslå upassende forespørsler og å unngå å generere kode som er usikker eller ondsinnet.

  • Brukersentrert design og åpenhet. Copilot Code viser hvert trinn mens det fungerer og viser en direkte forhåndsvisning, noe som gjør agentens handlinger tydelige, slik at du kan identifisere når den er på vei i en utilsiktet retning.

  • Overvåkingsevne. Copilot Code logger handlingene det utfører – generert kode, kommandoer som kjøres og filer som leses eller skrives – og disse loggene er tilgjengelige for IT-administratorer, noe som gir sporbarhet fra en brukers forespørsel til handlingen og resultatet.

  • Administrative kontroller. Administratorer kan aktivere eller deaktivere Copilot kode og bestemte funksjoner, håndheve policy på organisasjonsnivå, begrense GitHub kontotilkoblinger og angi forbruksgrenser per bruker. Bruk måles opp mot Microsoft Copilot-rettigheten.

  • Mekanismer for tilbakemelding. Brukere kan sende inn tilbakemelding med tommel opp eller tommel ned, med en kommentar når de velger tommel ned, som brukes til å evaluere og forbedre kvaliteten og sikkerheten til Copilot Code.

  • Tiltak for cybersikkerhet. Copilot Code implementerer praksis for cybersikkerhet, inkludert kryptert dataoverføring, sikker godkjenning gjennom Microsoft Entra ID og overholdelse av Microsofts livssyklus for sikkerhetsutvikling. I skymodus forblir organisasjonsdataene dine innenfor Microsoft 365 og er underlagt organisasjonens eksisterende policyer for datastyring. Men i lokal modus kan dataene også lagres på den lokale enheten, avhengig av administratorsamtykke. Regelmessige sikkerhetsrevisjoner og trusselmodellgjennomganger utføres for å identifisere og håndtere potensielle sårbarheter.

Anbefalte fremgangsmåter for distribusjon og innføring av Copilot Code

Ansvarlig kunstig intelligens er en delt forpliktelse mellom Microsoft og kundene. Selv om Microsoft bygger programmer og plattformtjenester for kunstig intelligens med sikkerhet, rettferdighet og åpenhet i kjernen, spiller kunder en avgjørende rolle i å distribuere og bruke disse teknologiene på en ansvarlig måte i sine egne kontekster. For å støtte dette partnerskapet tilbyr vi følgende anbefalte fremgangsmåter for distribusjonere og sluttbrukere for å hjelpe kunder med å implementere ansvarlig kunstig intelligens effektivt.

Distribuerere og sluttbrukere bør:

  • Vær forsiktig og evaluer resultater når du bruker Copilot code for beslutninger med store konsekvenser eller i sensitive domener. Beslutninger med vesentlige konsekvenser er de som kan ha en juridisk eller betydelig innvirkning på en persons tilgang til utdanning, sysselsetting, finansplattformer, offentlige ytelser, helsetjenester, bolig, forsikring, juridiske tjenester, eller som kan føre til fysisk, psykisk eller økonomisk skade. Sensitive domener – for eksempel finansielle plattformer, helsetjenester og boliger – krever spesiell forsiktighet på grunn av potensialet for uforholdsmessig innvirkning på forskjellige grupper mennesker. Når du bruker kunstig intelligens til avgjørelser på disse områdene, må du sørge for at berørte interessenter kan forstå hvordan beslutninger tas, klage på beslutninger og oppdatere alle relevante inndata.

  • Vurder rettslige og forskriftsmessige hensyn. Kunder må evaluere potensielle spesifikke juridiske og regulatoriske forpliktelser når de bruker plattformer og løsninger for kunstig intelligens, som kanskje ikke passer for bruk i alle bransjer eller scenarioer. I tillegg er ikke KI-plattformer eller -løsninger utformet for, og kan ikke brukes, på måter som er forbudt i gjeldende tjenestevilkår og relevante regler for god oppførsel.

Utrullere bør:

  • Konfigurer tilgang og kontrollfunksjoner på riktig måte. Bruk de tilgjengelige administrative kontrollene til å administrere hvilke brukere som kan få tilgang til Copilot Code, hvilke funksjoner som er tilgjengelige, GitHub-tilkoblingsbegrensninger og forbruksgrenser per bruker. Vurder å starte med en forsøksgruppe før bredere utrulling.

  • Lær opp brukere om samtykkemodellen. Sørg for at brukerne forstår at de er ansvarlige for å gjennomgå og godkjenne hva Copilot Code får tilgang til, kobler til og kjører, og at AI-generert kode bør behandles som et utkast for å teste før bruk.

  • Se gjennom plugin-bruk. Vurder plugin-moduler før du gjør dem tilgjengelige. Forstå hvilke data hvert programtillegg har tilgang til, og hvilke handlinger det kan utføre.

  • Overvåk bruk, overvåkingslogger og tilbakemelding. Se gjennom overvåkingslogger og tilbakemeldinger fra brukere for å identifisere mønstre, vanlige problemer eller områder der ytterligere veiledning kan være nødvendig.

Sluttbrukere bør:

  • Utøv menneskelig tilsyn når det er hensiktsmessig. Menneskelig tilsyn er en viktig beskyttelse når du samhandler med programmer for kunstig intelligens. Selv om vi kontinuerlig forbedrer KI-programmene våre, kan KI fortsatt gjøre feil. Utdataene som genereres, kan være unøyaktige, ufullstendige, partiske, feiljusterte eller irrelevante for de tiltenkte målene. Som sådan kan du se gjennom og teste hva Copilot Code bygger og kontrollere at den samsvarer med forventningene og kravene dine.

  • Vær oppmerksom på risikoen for overdreven avhengighet. Overavhengighet av kunstig intelligens skjer når brukere godtar feil eller ufullstendige AI-utdata, hovedsakelig fordi det kan være vanskelig å oppdage feil. For kode og programvare er dette spesielt viktig – test hva Copilot Code bygger før du stoler på den, deler den eller bruker den i produksjon.

  • Vær forsiktig når du bruker kode i sensitive domener. Ta ytterligere forholdsregler når du bygger programvare hvis handlinger er irreversible eller svært konsekvensmessige, som beskrevet videre i enten Microsofts regler for god oppførsel i KI-tjenester for foretak (for organisasjoner) eller delen om atferdsregler i Microsofts tjenesteavtale (for enkeltpersoner).

  • Gi tydelige, spesifikke instruksjoner. Inkluder detaljer om resultatet du ønsker, hvem det er for, og eventuelle data det skal bruke. Jo mer spesifikk instruksjonen er, desto bedre blir resultatet.

  • Se nøye gjennom forespørsler om samtykke. Før du godkjenner tilgang til et sted, en nettverkstilkobling eller en kommando, må du kontrollere at du forstår det og har til hensikt å gjøre det.

  • Gi tilbakemelding regelmessig. Bruk tommel opp/ned-knappene og kommentarene for å forbedre Copilot Codes ytelse over tid.

Finn ut mer om Copilot Code

Hvis du vil ha mer veiledning eller lære mer om ansvarlig bruk av Copilot-kode, anbefaler vi at du går gjennom følgende dokumentasjon:

Mer informasjon om ansvarlig kunstig intelligens

  • Sist oppdatert