Karta aplikace: Copilot Code (Frontier)

  • Platí pro: Microsoft Copilot

Important

  • Toto je funkce ve verzi Preview poskytovaná v rámci Podmínek pro produkty společnosti Microsoft.
  • Funkce ve verzi Preview můžou mít omezenou funkčnost a nemusí být uvedeny do obecné dostupnosti. Tyto funkce jsou k dispozici před oficiálním vydáním, aby zákazníci mohli získat včasný přístup a poskytnout zpětnou vazbu.
  • Abyste získali přednostní přístup, musíte být součástí programu Frontier Preview . Frontier vás přímo propojí s nejnovějšími inovacemi AI od Microsoftu. Průkopnické verze Preview podléhají stávajícím podmínkám verze Preview ve vašich zákaznických smlouvách. Vzhledem k tomu, že tyto funkce jsou stále ve vývoji, jejich dostupnost a možnosti se můžou v průběhu času měnit.

Co je karta aplikace nebo platformy?

Karty Aplikace a platforma od Microsoftu vám mají pomoct pochopit, jak funguje naše technologie AI, jaké volby můžou vlastníci aplikací provádět a které ovlivňují výkon a chování aplikace a důležitost zvážení celé aplikace, včetně technologie, lidí a prostředí. Karty aplikací se vytvářejí pro aplikace AI a karty platforem se vytvářejí pro služby platformy AI. Tyto prostředky můžou podporovat vývoj nebo nasazení vlastních aplikací a dají se sdílet s uživateli nebo zúčastněnými stranami, kterých se tyto aplikace dotknou.

V rámci svého závazku k zodpovědné umělé inteligenci microsoft dodržuje šest základních principů: nestrannost, spolehlivost a bezpečnost, ochranu osobních údajů a zabezpečení, inkluzivnost, transparentnost a odpovědnost. Tyto principy jsou součástí standardu odpovědné AI, který týmy řídí navrhováním, sestavováním a testováním aplikací AI. Karty aplikací a platforem hrají klíčovou roli při zprovoznění těchto principů tím, že nabízejí transparentnost ohledně možností, zamýšlených použití a omezení. Pokud potřebujete další přehled, doporučujeme čtenářům prozkoumat zprávu Microsoftu o zodpovědné transparentnosti umělé inteligence a pravidla chování služeb AI enterprise, která popisuje, jak se s AI zapojit zodpovědně.

Overview

Karta Kód v Microsoft Copilot je agent s technologií AI, který mění, co popisujete na funkční software. Popíšete výsledek v přirozeném jazyce – řídicí panel, interní nástroj, statický web, transformaci dat nebo skript – a Copilot Code ho sestaví, zobrazí živý náhled na plátně a iteruje s vámi, dokud nebude fungovat. Nemusíte vědět, jak kódovat. Copilot Code může běžet na vašem vlastním zařízení (místním) nebo v zabezpečeném izolovaném prostředí v cloudu.

Copilot Code je určený pro znalostní pracovníky, kteří mají nápady, data a opakující se pracovní postupy, ale nespravují vývojové prostředí. Za vás píše a spouští software, používá váš pracovní kontext Microsoft 365, když to dovolíte, a před provedením akcí, které zasahují mimo vybranou složku projektu, požádá o vaše oprávnění.

Copilot Code je k dispozici jako součást Microsoft Copilot. Další informace najdete v tématu Přehled Copilot Code.

Klíčové termíny

Následující tabulka definuje klíčové termíny související s Copilot Code.

Term Description
Agent Komponenta založená na umělé inteligenci, která automatizuje a provádí úlohy jménem uživatele, na základě pokynů v přirozeném jazyce. Copilot Code je agent, který sestavuje a spouští software.
Projekt Artefakt softwaru, který Copilot Code vytváří, společně se soubory, které ho tvoří. Projekt se uloží na vaše zařízení (místní) nebo v cloudu a jeho konverzace je s ním svázaná.
Canvas Vizuální pracovní prostor vedle konverzace, kde vidíte živý náhled artefaktu a můžete přepnout do zobrazení kódu, kde uvidíte a upravíte vygenerované soubory.
Místní rozvoj Režim, ve kterém Copilot Code běží na vašem vlastním zařízení a funguje ve složce projektu, kterou vyberete.
Cloudový vývoj Režim, ve kterém Copilot Code běží a váš projekt zůstává v zabezpečeném, izolovaném prostředí v cloudu.
Výzva k udělení souhlasu Dialogové okno, ve kterém vás Copilot Code požádá o svolení dříve, než přistoupí k umístění mimo vybranou složku, vytvoří síťové připojení nebo spustí příkaz. Prompty jsou napsány srozumitelným jazykem.
Plugin Balíček distribuovaný prostřednictvím Microsoft 365 App Storu, který připojuje Copilot Code k externím zdrojům dat a službám. Copilot Code používá stejné moduly plug-in dostupné v Cowork.
Pracovní kontext Vaše data Microsoft 365 – dokumenty, e-maily, schůzky a kalendář – která může Copilot Code používat jako kontext pro to, co sestavuje, s vaším oprávněním a pomocí vašeho (pracovního) účtu organizace.
Připojení ke GitHubu Volitelný odkaz na váš účet GitHub, který umožňuje Copilot Code pracovat s úložišti, odpovídat na otázky týkající se kódu a otevírat žádosti o přijetí změn.
Automation Práce, kterou Code spouští podle plánu, nastaveného na panelu Automatizace.

Klíčové funkce nebo možnosti

Níže uvedené klíčové funkce a možnosti popisují, k čemu je Copilot Code navržen.

Feature Description
Tvorba z přirozeného jazyka Copilot Code změní popis požadovaného výsledku v přirozeném jazyce na funkční softwarový artefakt, jako je aplikace, řídicí panel, statický web, transformace dat, automatizace nebo skript.
Objasňující otázky Před sestavením může Copilot Code položit několik otázek, aby potvrdil, co chcete a jak by to mělo vypadat.
Živý náhled a zobrazení kódu Plátno zobrazuje živý náhled statického webu nebo webové aplikace během jejich vytváření. Pokud chcete zobrazit a upravit vygenerované soubory, můžete přepnout do zobrazení kódu a vybrat prvek na plátně, na který se zaměří váš další požadavek.
Iterace a vrácení Výsledek zpřesníte popisem změn v konverzaci. K dřívější verzi se můžete kdykoli vrátit. Pokud krok selže, Copilot Code se pokusí zotavit a vysvětlí, co se stalo v prostém jazyce.
Místní nebo cloudové spouštění Copilot Code může váš projekt spouštět na vlastním zařízení nebo v zabezpečeném izolovaném prostředí v cloudu.
Přinesení souborů a dat Můžete nahrát nebo přetáhnout soubory (CSV, tabulky, obrázky, dokumenty, soubory PDF a prezentace), vložit text a – pro místní projekty – otevřít existující složku, se kterou může Copilot Code pracovat.
Integrace pracovního kontextu S vaším oprávněním Copilot Code používá váš Microsoft 365 pracovní kontext – dokumenty, e-maily, schůzky a kalendář – jako kontext pro to, co sestavuje. Používá váš účet organizace (pracovní).
Pluginy a nástroje Copilot Code používá stejné moduly plug-in, které jsou dostupné v Cowork, k propojení externích zdrojů dat a služeb a navíc nástroje, jako je vyhledávání na webu a generování obrázků, v souladu se zásadami vaší organizace.
Integrace GitHubu Volitelně můžete připojit účet GitHub pro zahájení práce z úložiště, klást otázky týkající se kódu, vytvářet větve a commity, otevírat koncepty žádosti o přijetí změn a sledovat jejich stav, vytvářet úložiště a sledovat problémy, žádosti o přijetí změn a žádosti o revizi v My Work.
Automations Můžete nastavit práci, která se spouští podle plánu, na panelu Automatizace.
Sdílení a export Statickou aplikaci můžete sdílet jako odkaz, který je omezený na vaši organizaci, a exportovat projekt jako soubor .zip.
Výběr modelu Můžete zvolit model, který Copilot Code používá pro váš projekt, nebo ho nechat zvolit Copilot Code.
Nastavení souhlasu Copilot Code vás požádá o svolení dříve, než přistoupí k umístěním mimo vybranou složku projektu, vytvoří síťová připojení nebo spustí příkazy. Výzvy k vyjádření souhlasu jsou napsané v prostém jazyce.

Jako agentní aplikace AI vykazuje Copilot Code následující agentní charakteristiky:

  • Plánování: Copilot Code rozloží popis v přirozeném jazyce do kroků potřebných k sestavení softwaru a postupně je provádí, přičemž zobrazuje průběh.
  • Přizpůsobitelnost: Copilot Code můžete během relace usměrňovat pomocí zpětné vazby a přizpůsobuje svůj přístup, včetně návratu k dřívější verzi.
  • Rozšiřitelnost: možnosti Copilot Code se rozšiřují prostřednictvím modulů plug-in z Microsoft 365 App Storu, konektorů k externím zdrojům dat a volitelného připojení GitHub.
  • Paměť (v rozsahu konverzace): V rámci konverzace projektu Copilot Code udržuje kontext napříč kroky a zprávami. Souhlas udělený během relace se vztahuje na tuto relaci. Kontext se neuchovává napříč samostatnými konverzacemi.

Zamýšlená použití

Copilot Code je určený pro informační pracovníky, kteří používají Microsoft 365 a chtějí převést nápady, data a opakující se pracovní postupy na funkční software bez vývojového prostředí. Mezi příklady případů použití patří:

  • Řídicí panely a zobrazení dat: Vytvořte řídicí panel, který sleduje metriku z vašich dat, například týdenní registrace podle kanálu.
  • Interní nástroje: Vytvořte nástroj pro sledování, formulář nebo kalkulačku pro týmový pracovní postup, jako je evidence zásob nebo sledování schválení.
  • Statické weby a cílové stránky: Vytvořte jednoduchý web nebo cílovou stránku pro testování nápadu.
  • Transformace dat a skripty: Převeďte opakovaný ruční proces, například opětovné sestavení sestavy z několika zdrojů, na opakovaně použitelný skript.
  • Práce s existujícími úložišti: Připojte účet GitHub, zeptejte se na úložiště, proveďte změnu a otevřete koncept žádosti o přijetí změn.

Rozsah agenta: Copilot Code funguje v rámci vašich oprávnění Microsoft 365 a složky projektu, kterou vyberete. Sestaví a spustí software, který mu zadáte vytvořit, a požádá o schválení předtím, než přistoupí mimo vybranou složku, vytvoří síťové připojení nebo spustí příkaz. Tyto akce se neprovádí bez vašeho pokynu nebo schválení.

Copilot Code není určený pro případy použití, které vyžadují zaručenou přesnost bez kontroly člověka, ani pro vytváření softwaru pro závažné nebo bezpečnostně kritické použití bez vhodného testování a lidského dohledu.

Modely a tréninková data

Copilot Code využívá modely AI k zajištění prostředí, které uživatelé vidí. Můžete si vybrat z několika modelů, včetně variant Claude Opus a Claude Sonnet a Claude Haiku z Anthropic a modelů GPT hostovaných a provozovaných Microsoft, nebo nechat Copilot Code zvolit model za vás. Modely Anthropic jsou společnosti Microsoft poskytovány jako podzpracovatel. Další informace najdete v tématu Anthropic jako podprocesor pro Microsoft Online Services a Porozumění funkčnosti AI a modelům v Microsoft Online Services.

Výzvy, odpovědi a data, ke kterým se přistupuje prostřednictvím Microsoft Graphu, se nepoužívají k trénování základních LLM, včetně těch, které používá Microsoft Copilot. V cloudovém režimu zůstanou data vaší organizace v rámci Microsoft 365 a podléhají stávajícím zásadám správy dat vaší organizace. V místním režimu se ale vaše data mohou ukládat také v místním zařízení se souhlasem správce. Další informace o tom, jak se zpracovávají data, najdete v tématu Data, ochrana osobních údajů a zabezpečení pro Microsoft Copilot.

Performance

Copilot Code je navržený tak, aby vytvářel funkční software, který odráží záměr uživatele. Výkon se vyhodnocuje na základě toho, jestli Copilot Code vytvoří funkční artefakt, který požadavek splňuje, a jestli iteruje správně na základě zpětné vazby.

Podporované modality

  • Vstup: Textové výzvy od uživatelů, vložený text a připojené soubory (CSV, tabulky, obrázky, dokumenty, soubory PDF a prezentace) až do 200 MB na soubor. V případě místních projektů může Copilot Code také číst soubory ve složce, kterou vyberete.
  • Výstup: Spuštěný softwarový artefakt zobrazený na plátně, vygenerovaný zdrojový kód, soubory uložené na vašem zařízení nebo v cloudu a při připojení GitHub – větve, commity a koncepty žádostí o přijetí změn. Statickou aplikaci můžete sdílet jako odkaz v rozsahu organizace a exportovat projekt jako soubor .zip.

Jak Copilot Code zpracovává požadavky

  1. Copilot Code obdrží popis požadovaného výsledku v přirozeném jazyce.
  2. Copilot Code může položit upřesňující otázky a pak naplánuje kroky potřebné k sestavení artefaktu.
  3. Copilot Code zapisuje a spouští software, zobrazuje průběh a živý náhled na plátně. Můžete přepnout do zobrazení kódu a zobrazit vygenerované soubory.
  4. Než Copilot Code přistoupí k umístění mimo vybranou složku, vytvoří síťové připojení nebo spustí příkaz, požádá vás o schválení srozumitelným jazykem.
  5. Výsledek zkontrolujete, zpřesníte ho prostřednictvím konverzace a uložíte, nasdílíte nebo exportujete projekt.

Podmínky pro spolehlivý provoz

  • Copilot Code funguje nejlépe, když jasně popíšete výsledek, včetně toho, pro koho je výsledek určen, a jakákoli data, která má použít.
  • Copilot Code má přístup pouze k datům a službám, ke kterým má váš účet Microsoft 365 oprávněný přístup, a v případě místních projektů pouze k vybrané složce a umístěním, která schválíte.
  • Podpora náhledu závisí na typu artefaktu a na vašem zařízení.
  • Výkon se může u vysoce složitých projektů s mnoha vzájemnými závislostmi zhoršit.

Vícejazyčné funkce

  • CCopilot Code je k dispozici ve všech Copilot podporovaných jazycích. Podpora dalších jazyků vychází ze schopností podkladového modelu a dostupnosti služby Microsoft 365. Další informace o podporovaných jazycích najdete v tématu Podporované jazyky pro Microsoft Copilot.

Limitations

Pochopení omezení Copilot Code je zásadní k určení, jestli se používá v rámci bezpečných a efektivních hranic. I když doporučujeme zákazníkům používat Copilot Code ve svých inovativních řešeních nebo aplikacích, je důležité si uvědomit, že Copilot Code nebyl navržen pro všechny možné scénáře. Doporučujeme uživatelům, aby při volbě případu použití odkazovali buď na Pravidla chování služeb Microsoft Enterprise AI (pro organizace), nebo na oddíl Pravidla chování v Smlouva o poskytování služeb společnosti Microsoft (pro jednotlivce), stejně jako na následující úvahy.

  • Interpretace instrukcí: Copilot Code může nesprávně interpretovat nejednoznačné nebo příliš široké popisy, což vede k softwaru, který neodpovídá vašemu záměru. Poskytněte jasné a konkrétní požadavky pro dosažení lepších výsledků.

  • Přesnost vygenerovaného kódu: Kód a artefakty generované umělou inteligencí by se měly považovat za koncepty. Otestujte, co Copilot Code vytváří, než se na něj spoléháte, nasdílíte ho nebo ho použijete v produkčním prostředí. Copilot Code může vést k nepřesným výsledkům, zejména pokud jsou zdrojová data neúplná nebo zastaralá.

  • Složitost projektu: Složité projekty s mnoha závislostmi nemusí se vždy sestavit podle očekávání. Sledujte průběh, iterujte v malých krocích a v případě potřeby se vraťte k dřívější verzi.

  • Podpora preview: Náhled závisí na typu artefaktu a na vašem zařízení. Některé artefakty se například nedají zobrazit v náhledu na každé platformě.

  • Hranice oprávnění: Copilot Code závisí na vašich stávajících oprávněních Microsoft 365 a složce, kterou vyberete pro místní projekty. Nemá přístup k datům, službám nebo umístěním, které jste neautorizovali.

  • Podpora platformy a zařízení: Copilot Code běží v desktopové aplikaci Microsoft Copilot pro Windows a Mac a na webu pro vývoj v cloudu. V této verzi není dostupná mobilní aplikace a dostupnost funkcí se může lišit podle platformy.

  • Vlastní dovednosti a moduly plug-in: Moduly plug-in a konektory poskytují vydavatelé třetích stran a nejsou ověřeny společností Microsoft. Pečlivě zkontrolujte výstupy z modulů plug-in, protože kvalita závisí na tom, kdo je publikoval.

  • Předsudky, stereotypy a nepodložený obsah: Navzdory odpovědným opatřením AI může obsah a kód generovaný AI stále odrážet předsudky, stereotypy nebo nepodložené informace. Zkontrolujte, co Copilot Code vytvoří, než na to budete spoléhat. Další informace o známých omezeních obsahu generovaného AI z modelů Anthropic najdete v dokumentaci subzpracovatelů Anthropic.

  • Potenciální závažná fyzická nebo psychická újma jednotlivce: Vyvarujte se používání nebo nesprávného používání systému, které by mohlo vést k vážnému fyzickému nebo psychickému zranění jednotlivce. Například vytváření softwaru, který diagnostikuje pacienty nebo předepisuje léky, může způsobit významné škody.

  • Následný dopad na životní příležitosti nebo právní postavení: Vyvarujte se používání nebo zneužití systému, který by mohl mít následný dopad na životní příležitosti nebo právní postavení. Mezi příklady patří software, který by mohl ovlivnit právní postavení nebo zákonná práva osoby nebo jeho přístup k úvěru, vzdělání, zaměstnání, zdravotní péči, bydlení, pojištění, dávkám sociálního zabezpečení, službám, příležitostem nebo podmínky, za kterých jsou poskytovány.

Evaluations

Vyhodnocení výkonu a bezpečnosti vyhodnocují, jestli Copilot Code funguje spolehlivě a bezpečně, a to prozkoumáním faktorů, jako je to, zda je vygenerovaný software správný a funkční, a současně identifikují rizika generování škodlivého obsahu nebo provádění neoprávněných akcí. Následující hodnocení byla provedena s bezpečnostními komponentami, které jsou již zavedeny, které jsou také popsány v části Bezpečnostní komponenty a zmírnění rizik.

Hodnocení výkonu a kvality

Hodnocení výkonu pro Copilot Code jsou nezbytná ke zlepšení jeho spolehlivosti v reálném světě. Pravidelně provádíme hodnocení výkonu pro následující oblasti:

  • Zda je vygenerovaný kód syntakticky správný.
  • Zda funkčnost vygenerovaného artefaktu splňuje požadavek uživatele.
  • Kvalita výsledku z pohledu uživatelské zkušenosti.

Metody hodnocení výkonu a kvality

Naše vyhodnocovací data jsou vytvořená na zakázku pro posuzování výkonu aplikací AI v klíčových oblastech bezpečnosti a kvality a simulují reálné scénáře a rizika. Začneme tím, že identifikujeme relevantní hodnotící aspekty zájmu na základě multidiscipárního výzkumu a odborného vstupu. Tato hlediska se promítají do konkrétních cílů hodnocení a slouží jako vodítko při formulaci metrik hodnocení. V zájmu bezpečnosti vytvoříme nežádoucí výzvy k vyvolání nežádoucích nebo hraničních odpovědí, které jsou následně vyhodnoceny pomocí anotátorů s asistencí umělé inteligence natrénované k vyhodnocení souladu s bezpečnostními standardy Microsoftu. Pro zajištění kvality vytváříme prompty založené na rubrikách, které jsou relevantní pro scénáře generování kódu a agenta. Datové sady jsou kurátorované z různých zdrojů, včetně syntetických a veřejných datových sad, které simulují scénáře reálných uživatelů. Při použití kurátorovaných datových sad projdou obě hodnocení iterativním zpřesněním a sladění člověkem, aby se zlepšila efektivita a spolehlivost metrik.

Produkt Copilot Code byl hodnocen pomocí scénářů, které odrážejí, jak informační pracovníci vytvářejí software, například generování řídicích panelů, interních nástrojů, statických webů a transformací dat. Vyhodnocovače posoudili, jestli byl vygenerovaný kód správný a dal se spustit, jestli artefakt splnil požadavek a jestli výsledek obstál i napříč variantami stejného úkolu. Ideální výsledky odrážejí funkční software, který odpovídá požadavku; neoptimální výsledky zahrnují kód, který nelze spustit, chybějící funkce nebo výsledky, které neodpovídají záměru.

Vlastní posouzení

Kromě standardních metrik byl Copilot Code hodnocen pomocí vlastních metrik specifických pro jeho agentní funkce vytváření kódu:

  • Úspěch sestavení (jestli Copilot Code vytvořil funkční artefakt).
  • Soulad požadavku (zda výsledek odpovídá záměru uživatele).
  • Přesnost iterace (jestli Copilot Code správně použil požadované změny a provedl vrácení změn).

Hodnocení rizik a bezpečnosti

Vyhodnocení potenciálních rizik spojených s obsahem vygenerovaným AI a akcemi je nezbytné pro ochranu před riziky s různou mírou závažnosti. To zahrnuje vyhodnocení náchylnosti produktu Copilot Code ke generování škodlivého obsahu nebo kódu a testování zranitelnosti vůči jailbreakovým útokům a neoprávněným akcím. Byla provedena následující hodnocení rizik a bezpečnosti:

  • Nenávist a nespravedlnost
  • Sexuální
  • Násilí
  • Sebepoškozování
  • Chráněný materiál
  • Nezabezpečené nebo škodlivé generování kódu
  • Nepřímý jailbreak
  • Přímý jailbreak
  • Spuštění neoprávněné akce

Metody hodnocení rizik a bezpečnosti

V rámci vyhodnocování rizik a bezpečnosti byly použity útočné prompty a automatizované klasifikátory k vyhodnocení potenciálních škod. Testy kombinovaly hodnocení pomocí LLM-judge s detekcí založenou na klasifikátoru a manuálním testováním tam, kde je to potřeba. Další vyhodnocení specifická pro funkce spouštění Copilot Code testovala, zda může být agent manipulován generováním nezabezpečeného kódu nebo prováděním akcí – při přístupu k souborům, vytváření síťových připojení nebo spouštění příkazů – bez požadovaného souhlasu. Ideální výsledky přesměrovávají nebo odmítají nebezpečné požadavky a zachovávají hranici souhlasu beze změny ve variantách promptu. Neoptimální výsledky zahrnují vytváření škodlivého nebo nezabezpečeného obsahu nebo provádění akcí bez správného schválení.

Bezpečnostní komponenty a zmírnění rizik

Když jsme identifikovali potenciální rizika a zneužití prostřednictvím procesů, jako je red teaming, a měřili je, vyvinuli jsme opatření ke zmírnění rizik, abychom snížili potenciální škody. Následující seznam popisuje některá z těchto opatření ke zmírnění rizik. Dál vyhodnocujeme Copilot Code, abychom zlepšili výkon produktu a opatření ke zmírnění.

  • Souhlas s akcemi, které zasahují mimo složku projektu. Primárním bezpečnostním mechanismem Copilot Code je jeho model souhlasu. Když vyberete složku, ve které chcete pracovat, Copilot Code může číst a zapisovat do této složky; přistupovat k jakémukoli jinému umístění, vytvořit síťové připojení nebo spustit příkaz vyžaduje explicitní schválení. Výzvy k vyjádření souhlasu jsou napsané v prostém jazyce.

  • Konfigurovatelná izolace pro spouštění kódu Copilot Code spouští vygenerovaný software s konfigurovatelnou úrovní izolace a vynucení. Správci můžou nakonfigurovat úroveň vynucení pro svoji organizaci.

  • Hranice oprávnění. Copilot Code pracuje výhradně v rámci vašich stávajících oprávnění Microsoft 365 a vámi vybrané složky. Nemá přístup k datům, službám nebo prostředkům, které nemáte autorizované, což pomáhá zabránit eskalaci oprávnění.

  • Souhlas omezený na konverzaci. Souhlas, který udělujete během relace, platí pro tuto relaci a neuchovává se napříč samostatnými konverzacemi, takže se omezuje dopad jakéhokoli nechtěného udělení oprávnění.

  • Klasifikátory založené na umělé inteligenci a filtrování obsahu. Copilot Code používá klasifikátory založené na umělé inteligenci a filtry obsahu k identifikaci a blokování potenciálně škodlivého obsahu v uživatelských výzvách a generovaných odpovědích, včetně filtrů pro nenávistnou řeč, násilí, sexuální obsah, sebepoškozování a chráněný materiál.

  • Metaprompting. Systémové pokyny řídí chování Copilot Code tak, aby bylo v souladu s principy umělé inteligence společnosti Microsoft a očekáváními uživatelů, včetně pokynů k odmítání nevhodných požadavků a k zabránění generování nezabezpečeného nebo škodlivého kódu.

  • Design zaměřený na uživatele a transparentnost. Copilot Code při práci zobrazuje jednotlivé kroky a zobrazuje dynamický náhled, což zprůhledňuje akce agenta, abyste mohli zjistit, když směřuje nezamýšleným směrem.

  • Auditovatelnost. Copilot Code protokoluje akce, které provádí – vygenerovaný kód, spuštěné příkazy a přečtené nebo zapsané soubory – a tyto protokoly jsou k dispozici správcům IT a poskytují sledovatelnost z požadavku uživatele na akci a její výsledek.

  • Administrativní kontroly. Správci můžou povolit nebo zakázat Copilot Code a konkrétní funkce, vynutit zásady na úrovni organizace, omezit připojení účtů GitHub a nastavit limity útraty pro jednotlivé uživatele. Využití se započítává do vašeho oprávnění Microsoft Copilot.

  • Mechanismy zpětné vazby. Uživatelé můžou odeslat zpětnou vazbu typu palec nahoru nebo palec dolů, s komentářem u hodnocení palec dolů, která se používá k vyhodnocení a zlepšení kvality a bezpečnosti Copilot Code.

  • Opatření v oblasti kybernetické bezpečnosti. Copilot Code implementuje postupy kybernetické bezpečnosti, včetně šifrovaného přenosu dat, zabezpečeného ověřování prostřednictvím Microsoft Entra ID a dodržování bezpečnostního životního cyklu vývoje společnosti Microsoft. V cloudovém režimu zůstanou vaše organizační data v rámci Microsoft 365 a podléhají stávajícím zásadám správy dat vaší organizace. V místním režimu se ale vaše data můžou ukládat také v místním zařízení, a to se souhlasem správce. Provádíme pravidelné audity zabezpečení a revize modelů hrozeb s cílem identifikovat a řešit potenciální ohrožení zabezpečení.

Osvědčené postupy pro nasazení a přijetí Copilot Code

Zodpovědná AI je sdílený závazek mezi Microsoft a jejími zákazníky. I když Microsoft vytváří aplikace AI a služby platforem s bezpečností, nestranností a transparentností v jádru, zákazníci hrají klíčovou roli při nasazování a používání těchto technologií zodpovědně v rámci svých vlastních kontextů. Na podporu tohoto partnerství nabízíme následující osvědčené postupy pro nasazující a koncové uživatele, které zákazníkům pomůžou efektivně implementovat zodpovědnou AI.

Nasazující a koncoví uživatelé by měli:

  • Při použití Copilot Code pro závažná rozhodnutí nebo v citlivých doménách buďte opatrní a vyhodnocujte výsledky. Zásadní rozhodnutí jsou ta, která mohou mít právní nebo významný dopad na přístup osoby ke vzdělání, zaměstnání, finančním platformám, státním dávkám, zdravotní péči, bydlení, pojištění, právním platformám nebo která by mohla vést k fyzické, psychické nebo finanční újmě. Citlivé oblasti, jako jsou finanční platformy, zdravotní péče a bydlení, vyžadují zvláštní péči kvůli možnému nepřiměřenému dopadu na různé skupiny lidí. Pokud používáte AI k rozhodování v těchto oblastech, ujistěte se, že dotčené zainteresované strany mohou porozumět tomu, jak jsou rozhodnutí přijímána, odvolat se proti nim a aktualizovat veškerá relevantní vstupní data.

  • Vyhodnoťte právní a regulační aspekty. Zákazníci musí při používání jakýchkoli platforem a řešení AI, které nemusí být vhodné pro použití v každém odvětví nebo scénáři, vyhodnotit potenciální konkrétní právní a regulační povinnosti. Kromě toho nejsou platformy nebo řešení umělé inteligence navrženy a nesmí být používány způsoby zakázanými v příslušných podmínkách služeb a relevantních kodexech chování.

Nasazující by měli:

  • Vhodným způsobem nakonfigurujte přístup a ovládací prvky. Pomocí dostupných ovládacích prvků pro správu můžete spravovat, kteří uživatelé mají přístup k Copilot Code, které funkce jsou k dispozici, omezení připojení ke GitHubu a limity útraty pro jednotlivé uživatele. Před rozsáhlejším nasazením je vhodné začít s pilotní skupinou.

  • Informujte uživatele o modelu souhlasu. Ujistěte se, že uživatelé chápou, že jsou zodpovědní za kontrolu a schválení toho, k čemu Copilot Code přistupuje, k čemu se připojuje a co spouští, a že kód vygenerovaný AI by se měl před použitím považovat za koncept, který je třeba otestovat.

  • Zkontrolujte použití pluginu. Než je zpřístupníte, zkontrolujte pluginy. Seznamte se s tím, k jakým datům každý modul plug-in přistupuje a jaké akce může provádět.

  • Monitorujte využití, protokoly auditu a zpětnou vazbu. Zkontrolujte protokoly auditu a zpětnou vazbu uživatelů a identifikujte vzory, běžné problémy nebo oblasti, ve kterých můžou být potřeba další pokyny.

Koncoví uživatelé by měli:

  • V případě potřeby uplatňujte lidský dohled. Lidský dohled je důležitou ochranou při interakci s aplikacemi AI. I když neustále vylepšujeme naše aplikace umělé inteligence, může AI stále dělat chyby. Vygenerované výstupy můžou být nepřesné, neúplné, zkreslené, zarovnané nebo irelevantní pro vaše zamýšlené cíle. Proto zkontrolujte a otestujte, co Copilot Code vytvoří, a ověřte, že to odpovídá vašim očekáváním a požadavkům.

  • Mějte na paměti riziko nadměrného spoléhání. K nadměrnému spoléhání na AI dochází, když uživatelé přijímají nesprávné nebo neúplné výstupy AI, zejména proto, že chyby může být obtížné odhalit. Pro kód a software je to zvlášť důležité – před tím, než se na něj spoléháte, sdílíte ho nebo ho použijete v produkčním prostředí, otestujte, co Copilot Code vytvoří.

  • Při používání kódu v citlivých doménách buďte opatrní. Při vytváření softwaru, jehož akce jsou nevratné nebo vysoce závažné, proveďte další preventivní opatření, jak je dále popsáno buď v dokumentu Microsoft Enterprise AI Services Code of Conduct (pro organizace) nebo v části Pravidla chování v dokumentu Smlouva o poskytování služeb společnosti Microsoft (pro jednotlivce).

  • Poskytněte jasné a konkrétní pokyny. Uveďte informace o požadovaném výsledku, o tom, pro koho je určen, a všechna data, která by měla použít. Čím konkrétnější instrukce, tím lepší výsledek.

  • Pečlivě zkontrolujte výzvy k vyjádření souhlasu. Než schválíte přístup k umístění, síťovému připojení nebo příkazu, ujistěte se, že tomu rozumíte a chcete to schválit.

  • Pravidelně poskytujte zpětnou vazbu. Pomocí tlačítek palec nahoru/dolů a komentářů můžete v průběhu času pomoci zlepšit výkon Copilot Code.

Další informace o Copilot Code

Pro další pokyny nebo další informace o zodpovědném používání Copilot Code vám doporučujeme projít si následující dokumentaci:

Další informace o zodpovědné umělé inteligenci

  • Poslední aktualizace v