Alkalmazáskártya: Copilot Code (Frontier)

  • A következőre érvényes:: Microsoft Copilot

Important

  • Ez egy előzetes funkció, amelyet a Microsoft termékfeltételei biztosítanak.
  • Előfordulhat, hogy az előzetes verziójú funkciók korlátozott funkcionalitással rendelkeznek, és előfordulhat, hogy nem feltétlenül kerülnek általánosan bevezetésre. Ezek a funkciók még a hivatalos kiadás előtt elérhetőek, hogy az ügyfelek korai hozzáférést kaphassanak és visszajelzést adhassanak.
  • A korai hozzáféréshez részt kell vennie az Úttörő előzetes programban. A Frontier közvetlenül összekapcsolja Önt a Microsoft legújabb AI-innovációival. A Frontier előzetesekre az ügyfélszerződések meglévő előzetes feltételei vonatkoznak. Mivel ezek a funkciók még fejlesztés alatt állnak, rendelkezésre állásuk és képességeik idővel változhatnak.

Mi az az alkalmazás- vagy platformkártya?

A Microsoft alkalmazás- és platformkártyái segítenek megérteni az AI-technológia működését, az alkalmazástulajdonosok által az alkalmazás teljesítményét és viselkedését befolyásoló döntéseket, valamint a teljes alkalmazás, köztük a technológia, az emberek és a környezet figyelembe vételének fontosságát. Az alkalmazáskártyák AI-alkalmazásokhoz, a platformkártyák pedig az AI-platformszolgáltatásokhoz jönnek létre. Ezek az erőforrások támogathatják a saját alkalmazások fejlesztését vagy üzembe helyezését, és megoszthatóak az általuk érintett felhasználókkal vagy érdekelt felekkel.

A Felelős AI iránti elkötelezettségének részeként a Microsoft hat alapelvet tart be: méltányosság, megbízhatóság és biztonság, adatvédelem és biztonság, befogadás, átláthatóság és elszámoltathatóság. Ezek az alapelvek be vannak ágyazva a Responsible AI Standardba, amely végigvezeti a csapatokat az AI-alkalmazások tervezésében, létrehozásában és tesztelésében. Az alkalmazás- és platformkártyák kulcsfontosságú szerepet játszanak ezen alapelvek üzembe vitelében azáltal, hogy átláthatóságot kínálnak a képességek, a tervezett felhasználások és a korlátozások körül. További információkért javasoljuk az olvasóknak, hogy vizsgálják meg a Microsoft felelős AI-átláthatósági jelentését és a Microsoft Nagyvállalati AI-szolgáltatások viselkedési szabályzatát, amely ismerteti, hogyan lehet felelősen részt venni a mesterséges intelligenciával.

Overview

A Microsoft Copilot Kód lapja egy AI-alapú ügynök, amely működő szoftverré alakítja azt, amit leír. Leír egy eredményt természetes nyelven – egy irányítópultot, egy belső eszközt, egy statikus webhelyet, egy adatátalakítást vagy egy szkriptet –, és a Copilot Code elkészíti azt, élő előnézetet jelenít meg a vásznon, és addig iterál Önnel, amíg nem működik. Nem kell tudnia, hogyan kell kódolni. A Copilot Code futtatható a saját eszközén (helyben) vagy egy biztonságos, elkülönített környezetben a felhőben.

A Copilot Code olyan tudásmunkások számára készült, akik ötletekkel, adatokkal és ismétlődő munkafolyamatokkal rendelkeznek, de nem tartanak fenn fejlesztési környezetet. Szoftvereket ír és futtat az Ön nevében, az ön Microsoft 365 munkahelyi környezetét használja, amikor engedélyezi, és engedélyt kér, mielőtt a kiválasztott projektmappán túlra irányuló műveleteket hajt végre.

A Copilot Code a Microsoft Copilot részeként érhető el. További információkért lásd: Copilot Code overview.

Főbb kifejezések

Az alábbi táblázat a Copilot Code-hoz kapcsolódó kulcskifejezéseket határozza meg.

Term Description
Ügynök Mesterséges intelligencián alapuló összetevő, amely természetes nyelvi utasítások alapján automatizálja és végrehajtja a feladatokat egy felhasználó nevében. A Copilot Code egy olyan ügynök, amely szoftvert fejleszt és futtat.
Projekt A Copilot Code által létrehozott szoftvertermék, valamint az azt alkotó fájlok. A projekt az eszközén (helyi) vagy a felhőben lesz mentve, és a beszélgetése hozzá van kötve.
Vászon A beszélgetés melletti vizuális munkaterület, ahol a műtermék élő előnézete látható, és a létrehozott fájlok megtekintéséhez és szerkesztéséhez kódnézetre válthat.
Helyi fejlesztés Az a mód, amelyben a Copilot Code a saját eszközén fut, és a kiválasztott projektmappában működik.
Felhőfejlesztés Olyan mód, amelyben a Copilot Code fut, és a projektet a felhőben lévő biztonságos, elkülönített környezetben futtatja.
Hozzájárulási parancs Egy párbeszédpanel, amelyben a Copilot Code engedélyt kér, mielőtt hozzáfér a kijelölt mappán kívüli helyhez, hálózati kapcsolatot létesít vagy parancsot futtat. A promptok egyszerű nyelven vannak megírva.
Plugin A Microsoft 365 App Store-ban terjesztett csomag, amely a Copilot Code-ot külső adatforrásokhoz és szolgáltatásokhoz kapcsolja. Copilot Code ugyanazokat a beépülő modulokat használja, mint a Cowork.
Munkahelyi környezet Az Ön Microsoft 365-adatai – dokumentumok, e-mailek, értekezletek és naptár –, amelyeket a Copilot Code az Ön engedélyével és a szervezeti (munkahelyi) fiókjával használhat kontextusként ahhoz, amit létrehoz.
GitHub-kapcsolat A GitHub-fiókra mutató opcionális hivatkozás, amely lehetővé teszi, hogy a Copilot Code repókkal működjön, válaszoljon a kóddal kapcsolatos kérdésekre, és lekéréses kérelmeket nyisson meg.
Automation A Code által futtatott munka, amely az Automatizálások panelen beállított ütemezés szerint fut.

Főbb funkciók vagy képességek

Az alábbi főbb funkciók és képességek azt írják le, hogy a Copilot Code mit hivatott tenni.

Feature Description
Buildelés természetes nyelvből A Copilot Code egy eredmény egyszerű nyelvi leírását működő szoftveres termékké alakítja, például alkalmazássá, irányítópulttá, statikus webhellyé, adatátalakítássá, automatizálássá vagy szkriptté.
Kérdések tisztázása Az összeállítás előtt Copilot Code feltehet néhány kérdést, hogy megerősítse, mit szeretne, és hogyan nézzen ki.
Élő előnézet és kódnézet A vászon egy statikus webhely vagy webalkalmazás élő előnézetét jeleníti meg a felépítése során. A létrehozott fájlok megtekintéséhez és szerkesztéséhez válthat kódnézetre, és kiválaszthat egy elemet a vásznon, hogy a következő kérés az adott elemre összpontosítson.
Iterálj és állítsd vissza Az eredményt a beszélgetés módosításainak leírásával pontosíthatja. Bármikor visszatérhet egy korábbi verzióra. Ha egy lépés sikertelen, Copilot Code megpróbálja helyreállítani, és elmagyarázza, hogy mi történt egyszerű nyelven.
Helyi vagy felhőbeli végrehajtás Copilot Kód futtathatja a projektet a saját eszközén vagy egy biztonságos, elkülönített környezetben a felhőben.
Fájlok és adatok behozatala Feltölthet vagy húzhat fájlokat (CSV, számolótáblák, képek, dokumentumok, PDF-fájlok és bemutatók), beilleszthet szöveget, és – helyi projektek esetén – megnyithat egy meglévő mappát, amellyel a Copilot Code dolgozhat.
Munkakörnyezet-integráció Az Ön engedélyével a Copilot Code a Microsoft 365 munkahelyi környezetét – dokumentumait, e-mailjeit, értekezleteit és naptárát – használja ahhoz, amit létrehoz. Ez az Ön szervezeti (munkahelyi) fiókját használja.
Bővítmények és eszközök A Copilot Code ugyanazokat, a Coworkban elérhető beépülő modulokat használja külső adatforrásokhoz és szolgáltatásokhoz való kapcsolódáshoz, valamint olyan eszközöket, mint a webes keresés és a képgenerálás, a szervezet szabályzatainak megfelelően.
GitHub-integráció Ha szeretné, csatlakoztathat egy GitHub-fiókot, hogy egy adattárból kiinduljon, kérdéseket tegyen fel a kódról, hozzon létre ágakat és végrehajtásokat, nyisson meg piszkozat lekéréses kérelmeket, és megtekintse az állapotukat, létrehozzon egy adattárat, és nyomon kövesse a problémákat, a lekéréses kérelmeket és a felülvizsgálati kérelmeket a Saját munkában.
Automations Az Automations panelen ütemezés szerint futó munkákat állíthat be.
Megosztás és exportálás Egy statikus alkalmazást megoszthat a szervezetre korlátozott hivatkozásként, és egy projektet .zip fájlként exportálhat.
A modell kiválasztása Kiválaszthatja a Copilot Code által a projekthez használt modellt, vagy hagyhatja, hogy a Copilot Code válasszon.
Hozzájárulás beállításai Copilot Kód engedélyt kér, mielőtt hozzáfér a kijelölt projektmappán kívüli helyekhez, hálózati kapcsolatokat létesít vagy parancsokat futtat. Az engedélykérő üzenetek közérthetően vannak megfogalmazva.

Ügynöki AI-alkalmazásként a Copilot Code a következő ügynöki jellemzőket mutatja:

  • Tervezés: A Copilot Code egy természetes nyelvi leírást bontja le a szoftver létrehozásához szükséges lépésekre, és rajtuk keresztül haladva mutatja az előrehaladást.
  • Alkalmazkodóképesség: Egy munkamenet során visszajelzéssel irányíthatja a Copilot Code-ot, és az módosítja a saját megközelítését, beleértve a korábbi verzióra való visszaállítást is.
  • Bővíthetőség: Copilot Code képességei a Microsoft 365 App Store beépülő moduljain, külső adatforrásokhoz készült összekötőkön keresztül és egy opcionális GitHub-kapcsolaton keresztül terjednek ki.
  • Memória (beszélgetés hatóköre): A projekt beszélgetésében a Copilot Code több lépésben és üzenetben is fenntartja a kontextust. A munkamenet során megadott hozzájárulás az adott munkamenetre vonatkozik. A kontextus nem marad fenn külön beszélgetésekben.

Tervezett felhasználások

A Copilot Code olyan tudásmunkások számára készült, akik Microsoft 365-öt használnak, és fejlesztési környezet nélkül szeretnének ötleteket, adatokat és ismétlődő munkafolyamatokat működő szoftverré alakítani. Néhány példa a használati esetekre:

  • Irányítópultok és adatnézetek: Létrehozhat egy irányítópultot, amely nyomon követi az adatokból származó metrikát, például a heti regisztrációk számát csatornánként.
  • Belső eszközök: Tracker, űrlap vagy számológép létrehozása egy csapat munkafolyamatához, például egy leltár- vagy jóváhagyási nyomkövetőhöz.
  • Statikus webhelyek és landing oldalak: Hozzon létre egy egyszerű webhelyet vagy landing oldalt egy ötlet teszteléséhez.
  • Adatátalakítások és szkriptek: Egy ismétlődő manuális folyamatot, például egy jelentés több forrásból való újraépítését, újrahasználható szkriptté alakíthatja.
  • Meglévő tárolók használata: Egy GitHub-fiók csatlakoztatása egy tárolóra vonatkozó kérdés feltevéséhez, módosításhoz és egy pull request piszkozatának megnyitásához.

Ügynök hatóköre: Copilot Code a Microsoft 365 engedélyeinek és a kiválasztott projektmappának a határain belül működik. Az Ön utasításai alapján hoz létre és futtat szoftvereket, és az Ön jóváhagyását kéri, mielőtt a kiválasztott mappán kívülre lépne, hálózati kapcsolatot létesítene vagy parancsot futtatna. Nem hajtja végre ezeket a műveleteket az Ön útmutatása vagy jóváhagyása nélkül.

A Copilot Code nem olyan használati esetekre szolgál, amelyek emberi felülvizsgálat nélkül garantált pontosságot igényelnek, illetve jelentős hatású vagy biztonságkritikus szoftverek előállítására sem megfelelő tesztelés és emberi felügyelet nélkül.

Modellek és betanítási adatok

A Copilot Code AI-modelleket használ a felhasználók által látott élmény biztosításához. Számos modell közül választhat, köztük a Claude Opus és a Claude Sonnet változatok, az Anthropic Claude Haiku modellje, valamint a Microsoft által üzemeltetett GPT-modellek közül, vagy hagyja, hogy a Copilot Code válasszon egy modellt. Az Anthropic-modelleket a Microsoft számára alfeldolgozóként biztosítják. További információkért lásd: Az Anthropic mint a Microsoft Online Services alfeldolgozója és Az AI-funkciók és modellek ismertetése a Microsoft Online Servicesben.

A Microsoft Graphon keresztül elért kéréseket, válaszokat és adatokat nem használjuk az alapozó LLM-ek betanítására, beleértve a Microsoft Copilot által használtakat is. Felhő módban a szervezeti adatok a Microsoft 365-ön belül maradnak, és a szervezet meglévő adatkezelési szabályzatainak hatálya alá tartoznak; helyi módban azonban az adatok a helyi eszközön is tárolhatók, rendszergazdai hozzájáruláshoz kötötten. Az adatok kezelésével kapcsolatos további információkért lásd: Adatok, adatvédelem és biztonság a Microsoft Copilot esetében.

Performance

Copilot Code úgy lett kialakítva, hogy a felhasználó szándékát tükröző működő szoftvereket hozzon létre. A teljesítmény kiértékelése annak alapján történik, hogy a Copilot Code létrehoz-e egy működő műterméket, amely megfelel a kérésnek, és hogy helyesen finomítja-e az eredményt a visszajelzés alapján.

Támogatott modalitások

  • Bemenet: Felhasználói szöveges promptok, beillesztett szöveg és csatolt fájlok (CSV, számolótáblák, képek, dokumentumok, PDF-fájlok és bemutatók) fájlonként legfeljebb 200 MB méretig. Helyi projektek esetén a Copilot Code a kiválasztott mappában is képes fájlokat olvasni.
  • Kimenet: A vásznon megjelenő futó szoftverműtermék a létrehozott forráskód, az eszközön vagy a felhőben mentett fájlok, valamint – GitHub csatlakoztatásakor – ágak, véglegesítések és lekéréses kérelmek piszkozata. A statikus alkalmazást megoszthatja szervezeti hatókörű hivatkozásként, és egy projektet .zip fájlként exportálhat.

A Copilot Code hogyan dolgozza fel a kéréseket

  1. A Copilot Code természetes nyelvű leírást kap a kívánt eredményről.
  2. A Copilot Code tisztázó kérdéseket tehet fel, majd megtervezi a műtermék létrehozásához szükséges lépéseket.
  3. A Copilot Code megírja és futtatja a szoftvert, és a munkaterületen megjeleníti az előrehaladást és egy élő előnézetet. A létrehozott fájlok megtekintéséhez válthat a kódnézetre.
  4. Mielőtt a Copilot Code elérné a kijelölt mappán kívüli helyet, hálózati kapcsolatot létesít vagy parancsot futtat, egyszerű nyelven kéri a jóváhagyását.
  5. Áttekintheti az eredményt, a beszélgetés során tovább finomíthatja, és mentheti, megoszthatja vagy exportálhatja a projektet.

A megbízható működés feltételei

  • A Copilot Code akkor működik a legjobban, ha egyértelműen leírja az eredményt, beleértve azt is, hogy kinek szól az eredmény, és milyen adatokat használjon.
  • A Copilot Kód csak azokhoz az adatokhoz és szolgáltatásokhoz fér hozzá, amelyek használatára a Microsoft 365-fiókja jogosult, helyi projektek esetén pedig csak a kiválasztott mappához, valamint az Ön által jóváhagyott helyekhez.
  • Az előnézet támogatása az összetevő típusától és az eszköztől függ.
  • A teljesítmény csökkenhet a számos kölcsönös függőséggel rendelkező, rendkívül összetett projektek esetében.

Többnyelvű képességek

  • A CCopilot Code a Copilot által támogatott összes nyelven elérhető. A további nyelvek támogatása a mögöttes modellképességeken és a Microsoft 365 szolgáltatás rendelkezésre állásán alapul. További információ a támogatott nyelvekről: A Microsoft Copilot támogatott nyelvei.

Limitations

A Copilot Code korlátainak megértése elengedhetetlen annak megállapításához, hogy biztonságos és hatékony határokon belül használják-e. Bár arra ösztönözzük az ügyfeleket, hogy innovatív megoldásaikban vagy alkalmazásaikban használják a Copilot Code-ot, fontos megjegyezni, hogy Copilot Code nem minden lehetséges forgatókönyvhöz készült. Arra ösztönözzük a felhasználókat, hogy vagy a Microsoft Nagyvállalati AI-szolgáltatások magatartási kódexére (szervezetek) vagy a Microsoft Szolgáltatási Szerződés (magánszemélyek) magatartási kódex szakaszára, valamint a használati eset kiválasztásakor a következő szempontokra tekintsenek:

  • Utasításértelmezés: A Copilot Code félreértelmezheti a kétértelmű vagy túl tág leírásokat, ami a szándéknak nem megfelelő szoftverhez vezethet. A jobb eredmények érdekében egyértelmű, konkrét kéréseket fogalmazzon meg.

  • Generált kód pontossága: Az AI által létrehozott kódot és összetevőket piszkozatként kell kezelni. Tesztelje, mit készít a Copilot Code, mielőtt támaszkodik rá, megosztaná vagy éles környezetben használná. A Copilot Code pontatlan eredményeket eredményezhet, különösen akkor, ha a forrásadatok hiányosak vagy elavultak.

  • Project összetettség: A sok függőséggel rendelkező összetett projektek nem mindig a várt módon épülnek fel. Monitorozza az előrehaladást, kis lépésekben iteráljon, és szükség esetén térjen vissza egy korábbi verzióra.

  • Előnézet támogatása: Az előnézet a műtermék típusától és az eszköztől függ. Az artefaktumok például nem tekinthetők meg minden platformon.

  • Engedélyhatárok: A Copilot Code a meglévő Microsoft 365-engedélyeitől és a helyi projektekhez kiválasztott mappától függ. Nem fér hozzá az Ön által nem engedélyezett adatokhoz, szolgáltatásokhoz vagy helyekhez.

  • Platform- és eszköztámogatás: A Copilot Code a Microsoft Copilot asztali alkalmazásban fut Windows és Mac gépeken, valamint weben, felhőalapú fejlesztéshez. Ebben a kiadásban nem érhető el mobilalkalmazás, és a funkciók elérhetősége platformonként eltérő lehet.

  • Egyéni készségek és beépülő modulok: A beépülő modulokat és összekötőket külső közzétevők biztosítják, és ezeket a Microsoft nem ellenőrzi. Gondosan tekintse át a beépülő modulok kimeneteit, mivel a minőség attól függ, hogy ki tette közzé őket.

  • Torzítás, sztereotipizálás és megalapozatlan tartalom: A felelős AI-ra vonatkozó intézkedések ellenére az AI által létrehozott tartalom és kód továbbra is torzításokat, sztereotípiákat vagy megalapozatlan információkat tükrözhet. Mielőtt támaszkodik rá, tekintse át, hogy mit állít elő Copilot Code. Az Anthropic modellek által generált AI-tartalom ismert korlátairól a Anthropic alfeldolgozói dokumentációjában talál további információt.

  • Jelentős fizikai vagy pszichológiai sérülés lehetősége: Kerülje a rendszer használatát vagy az azzal való visszaélést, amely jelentős fizikai vagy pszichológiai sérülést okozhat az egyénnek. Például a betegeket diagnosztizáló vagy gyógyszereket felíró szoftverek jelentős károkat okozhatnak.

  • Jelentős hatás az életlehetőségekre vagy a jogi státuszra: Kerülje a rendszer használatát vagy az azzal való visszaélést, amely jelentős hatással lehet az életlehetőségekre vagy a jogi státuszra. Ilyenek például az olyan szoftverek, amelyek befolyásolhatják az egyén jogi állapotát, jogait, illetve a hitelhez, oktatáshoz, foglalkoztatáshoz, egészségügyi ellátáshoz, lakhatáshoz, biztosításhoz, szociális jóléti ellátásokhoz, szolgáltatásokhoz, lehetőségekhez vagy az azok nyújtásának feltételeihez való hozzáférésüket.

Evaluations

A teljesítmény- és biztonsági értékelések azt értékelik, hogy a Copilot Code megbízhatóan és biztonságosan működik-e olyan tényezők vizsgálatával, mint például a létrehozott szoftver helyes és működőképes-e, miközben azonosítják a káros tartalmak létrehozásának vagy jogosulatlan műveletek végrehajtásának kockázatát. A következő értékeléseket már meglévő biztonsági összetevőkkel végezték, amelyeket a Biztonsági összetevők és kockázatcsökkentések című cikkben is leírtak.

Teljesítmény- és minőségértékelések

A Copilot Code teljesítményértékelései elengedhetetlenek a valós használat során való megbízhatóságának javításához. A teljesítményértékeléseket rendszeresen végezzük a következő területeken:

  • A létrehozott kód szintaktikailag helyes-e.
  • Az, hogy a létrehozott műtermék működése megfelel-e a felhasználó kérésének.
  • Az eredmény minősége felhasználói élmény szempontjából.

Teljesítmény- és minőségértékelési módszerek

A kiértékelési adatok egyénileg készültek az AI-alkalmazások teljesítményének értékelésére a biztonság és a minőség kulcsfontosságú területein, valós forgatókönyveket és kockázatokat szimulálva. Kezdjük azzal, hogy a multidiszciplináris kutatások és a szakértői bemenet alapján azonosítjuk az aggodalom releváns értékelési szempontjait. Ezek az aggodalmak célzott értékelési célokra vannak lefordítva, és útmutatást adnak az értékelési metrikák kialakításához. A biztonság érdekében ellenséges jellegű utasításokat hozunk létre, hogy nemkívánatos vagy szélsőséges esetekre adott válaszokat provokáljunk ki, amelyeket aztán a Microsoft biztonsági szabványaival való összehangolásra betanított AI által támogatott értékelőkkel pontozzuk. A minőség érdekében a kódgenerálási és ügynökforgatókönyvekhez kapcsolódó rubric-alapú promptokat készítünk. Az adathalmazok különböző forrásokból, köztük szintetikus és nyilvános adathalmazokból vannak összeválogatva a valós felhasználói forgatókönyvek szimulálása érdekében. A válogatott adatkészletek használatával mindkét értékelés iteratív finomításon és emberi igazításon megy keresztül a metrika hatékonyságának és megbízhatóságának javítása érdekében.

A Copilot Code-ot olyan forgatókönyvek alapján értékelték, amelyek tükrözik, hogyan fejlesztenek szoftvereket az információs dolgozók, például irányítópultokat, belső eszközöket, statikus webhelyeket és adatátalakításokat. Az értékelők felmérték, hogy a létrehozott kód helyes volt-e és futott-e, hogy a produktum megfelelt-e a kérésnek, és hogy az eredmény megállta-e a helyét ugyanannak a feladatnak a különböző változataiban. Az ideális eredmények a kérésnek megfelelő funkcionális szoftvereket tükrözik; A nem optimális eredmények közé tartozik a nem futó kód, a hiányzó funkciók vagy a szándéknak nem megfelelő eredmények.

Egyéni értékelések

A szokásos mérőszámok mellett a Copilot Code-ot az ügynöki, kódírási képességeire jellemző egyéni mérőszámok alapján értékelték ki:

  • Sikeres buildelés (hogy Copilot Code létrehozott-e egy működő buildterméket).
  • Kérésnek való megfelelés (az eredmény megegyezik-e a felhasználó szándékával).
  • Iterációs pontosság (hogy a Copilot Code helyesen alkalmazta-e a kért módosításokat és visszaállításokat).

Kockázat- és biztonsági értékelések

Az AI által létrehozott tartalommal és műveletekkel kapcsolatos lehetséges kockázatok értékelése elengedhetetlen a különböző súlyosságú kockázatok elleni védelemhez. Ez magában foglalja a Copilot Code káros tartalom vagy kód létrehozására való hajlamának kiértékelését, valamint a jailbreak támadásokkal és a jogosulatlan műveletekkel szembeni sebezhetőség tesztelését. A következő kockázati és biztonsági értékeléseket végezték:

  • Gyűlölet és igazságtalanság
  • Szexuális
  • Erőszak
  • Önkárosítás
  • Védett anyag
  • Nem biztonságos vagy rosszindulatú kódlétrehozás
  • Közvetett jailbreak
  • Közvetlen jailbreak
  • Jogosulatlan művelet végrehajtása

Kockázat- és biztonságértékelési módszerek

A kockázat- és biztonsági értékelések a potenciális károk felméréséhez támadó utasításokat és automatizált osztályozókat használtak. A tesztek kombinálták az LLM-bírálói értékeléseket osztályozóalapú észleléssel és szükség esetén manuális teszteléssel. A Copilot Code végrehajtási képességére vonatkozó további értékelések azt vizsgálták, hogy az ügynök manipulálható-e a nem biztonságos kód létrehozására vagy műveletek végrehajtására – fájlok elérésére, hálózati kapcsolatok létrehozására vagy parancsok futtatására – a szükséges hozzájárulás nélkül. Az ideális eredmények átirányítják vagy elutasítják a nem biztonságos kéréseket, és a beleegyezési határt érintetlenül hagyják a promptok különböző változatai mellett. Az optimálisnál rosszabb eredmények közé tartozik a káros vagy nem biztonságos tartalom előállítása, vagy a megfelelő jóváhagyás nélküli műveletek végrehajtása.

Biztonsági összetevők és kockázatcsökkentések

Mivel a lehetséges kockázatokat és visszaélést olyan folyamatokon keresztül azonosítottuk, mint a red team tesztelés, és mértük őket, enyhítő megoldásokat dolgoztunk ki a károk lehetőségének csökkentésére. Az alábbi lista ismertet néhány ilyen kockázatcsökkentést. Továbbra is értékeljük a Copilot Code-ot a termékteljesítmény és az enyhítési intézkedések javítása érdekében.

  • Hozzájárulás a projektmappán túlra irányuló műveletekhez. A Copilot Code elsődleges biztonsági mechanizmusa a hozzájárulási modell. Amikor kiválaszt egy mappát, amelyben dolgozni szeretne, a Copilot Code képes olvasni és írni az adott mappában; bármely más hely eléréséhez, hálózati kapcsolat létrehozásához vagy parancs futtatásához az Ön kifejezett jóváhagyása szükséges. A hozzájárulási kérések egyszerű nyelven vannak megírva.

  • Konfigurálható elkülönítés kódvégrehajtáshoz. A Copilot Code konfigurálható elkülönítési és kényszerítési szintekkel futtatja a létrehozott szoftvereket. A rendszergazdák konfigurálhatják a szervezetük betartatási szintjét.

  • Engedélyhatárok. A Copilot Code szigorúan a meglévő Microsoft 365-engedélyein és a kiválasztott mappán belül működik. Nem fér hozzá azokhoz az adatokhoz, szolgáltatásokhoz vagy erőforrásokhoz, amelyekhez nem adott engedélyt, ami segít megelőzni a jogosultságok eszkalálását.

  • Beszélgetés hatókörére vonatkozó hozzájárulás. A munkamenet során megadott hozzájárulás az adott munkamenetre vonatkozik, és nem marad meg a külön beszélgetések között, ami korlátozza a nem kívánt engedély megadásának hatókörét.

  • AI-alapú osztályozók és tartalomszűrés. Copilot Code AI-alapú osztályozókat és tartalomszűrőket használ a potenciálisan káros tartalmak azonosítására és letiltására a felhasználói kérésekben és a generált válaszokban, beleértve a gyűlöletbeszéd, az erőszak, a szexuális tartalom, az önkárosítás és a védett anyagok szűrőit.

  • Metaprompting. A rendszerutasítások útmutatást adnak, hogy a Copilot Code viselkedését úgy irányítsák, hogy az igazodjon a Microsoft AI-alapelveihez és a felhasználói elvárásokhoz, beleértve a nem megfelelő kérések elutasítására és a nem biztonságos vagy rosszindulatú kódok létrehozásának elkerülésére vonatkozó utasításokat.

  • Felhasználóközpontú kialakítás és átláthatóság. Copilot Code megjeleníti az egyes lépéseket működés közben, és megjeleníti az élő előnézetet, így az ügynök műveletei transzparensek lesznek, így ön azonosíthatja, hogy mikor halad nem kívánt irányba.

  • Ellenőrizhetőség. A Copilot Code naplózza az általa végrehajtott műveleteket – a generált kódot, a futtatott parancsokat, valamint az olvasott vagy írt fájlokat –, és ezek a naplók elérhetők az informatikai rendszergazdák számára, így biztosítva a nyomon követhetőséget a felhasználó kérésétől a műveletig és annak eredményéig.

  • Adminisztratív vezérlők A rendszergazdák engedélyezhetik vagy letilthatják a Copilot Code-ot és adott funkciókat, szervezeti szinten érvényesíthetik a szabályzatot, korlátozhatják a GitHub-fiókkapcsolatokat, és beállíthatják a felhasználónkénti költségkereteket. A használat a Microsoft Copilot-jogosultság terhére kerül elszámolásra.

  • Visszajelzési mechanizmusok. A felhasználók felfelé vagy lefelé mutató hüvelykujjra vonatkozó visszajelzést küldhetnek, és megjegyzést fűzhetnek a lefelé mutató hüvelykujjhoz, amelyet a Copilot Code minőségének és biztonságának kiértékelésére és javítására használnak.

  • Kiberbiztonsági intézkedések. Copilot Code olyan kiberbiztonsági eljárásokat valósít meg, mint a titkosított adatátvitel, a biztonságos hitelesítés a Microsoft Entra ID-n keresztül, valamint a Microsoft biztonsági fejlesztési életciklusának betartása. Felhő módban a szervezeti adatok a Microsoft 365-ön belül maradnak, és a szervezet meglévő adatkezelési szabályzatai vonatkoznak rájuk; helyi módban azonban az Ön adatai a helyi eszközön is tárolhatók, rendszergazdai hozzájáruláshoz kötötten. A potenciális sebezhetőségek azonosítása és kezelése érdekében rendszeres biztonsági ellenőrzéseket és fenyegetésmodell-felülvizsgálatokat végezünk.

Ajánlott eljárások a Copilot Code üzembe helyezéséhez és bevezetéséhez

A felelős AI a Microsoft és ügyfelei közötti közös kötelezettségvállalás. Bár a Microsoft a biztonság, méltányosság és átláthatóság mellett fejlesztI az AI-alkalmazásokat és -platformszolgáltatásokat, az ügyfelek kritikus szerepet játszanak a technológiák saját környezetükben történő üzembe helyezésében és használatában. A partnerség támogatása érdekében az alábbi ajánlott eljárásokat kínáljuk az üzembe helyezők és a végfelhasználók számára, hogy segítsenek az ügyfeleknek a felelős AI hatékony megvalósításában.

Az üzembe helyezőknek és a végfelhasználóknak a következőket kell tenni:

  • Körültekintően járjon el, és értékelje ki az eredményeket, ha a Copilot Code-ot nagy jelentőségű döntésekhez vagy érzékeny területeken használja. A jelentős következményekkel járó döntések azok, amelyek jogi vagy jelentős hatással lehetnek egy személynek az oktatáshoz, foglalkoztatáshoz, pénzügyi platformokhoz, kormányzati juttatásokhoz, egészségügyi ellátáshoz, lakhatáshoz, biztosításhoz vagy jogi platformokhoz való hozzáférésére, illetve fizikai, pszichológiai vagy pénzügyi károkat okozhatnak. Az érzékeny tartományok – például a pénzügyi platformok, az egészségügy és a lakhatás – különös figyelmet igényelnek, mivel az emberek különböző csoportjait aránytalanul érintheti. Ha AI-t használ az ezeken a területeken hozott döntésekhez, győződjön meg arról, hogy az érintett érdekelt felek tisztában vannak a döntések meghozatalának módjával, a fellebbezési döntésekkel, és frissíthetik a releváns bemeneti adatokat.

  • Értékelje a jogi és szabályozási szempontokat. Az ügyfeleknek ki kell értékelniük a lehetséges konkrét jogi és szabályozási kötelezettségeket az AI-platformok és -megoldások használatakor, mivel ezek használata nem feltétlenül megfelelő minden iparágban vagy forgatókönyvben. Emellett az AI-platformok vagy -megoldások nem alkalmasak és nem használhatók a vonatkozó szolgáltatási feltételekben és a vonatkozó magatartási kódexekben tiltott módon.

Az üzembe helyezőknek a következőkkel kell rendelkeznie:

  • Konfigurálja megfelelően a hozzáférést kontrollokat. Az elérhető rendszergazdai vezérlőkkel kezelheti, hogy mely felhasználók férhetnek hozzá a Copilot Code-hoz, mely funkciók érhetők el, milyen GitHub-kapcsolati korlátozások vannak érvényben, valamint mekkorák a felhasználónkénti költési korlátok. Szélesebb körű bevezetés előtt célszerű egy kísérleti csoporttal kezdeni.

  • Tájékoztassa a felhasználókat a beleegyezési modellről. Győződjön meg arról, hogy a felhasználók tisztában vannak azzal, hogy ők felelősek annak felülvizsgálatáért és jóváhagyásáért, amihez a Copilot Code hozzáfér, amihez csatlakozik, és amit futtat, valamint hogy az AI által létrehozott kódot használat előtt tesztelendő piszkozatként kell kezelni.

  • Tekintse át a bővítmények használatát. Mielőtt elérhetővé tenné őket, értékelje ki a beépülő modulokat. Ismerje meg, hogy az egyes beépülő modulok milyen adatokhoz férnek hozzá, és milyen műveletek végrehajtására képesek.

  • Figyelje a használatot, az auditnaplókat és a visszajelzéseket. Tekintse át az auditnaplókat és a felhasználói visszajelzéseket, hogy azonosítsa a mintákat, a gyakori problémákat vagy azokat a területeket, ahol további útmutatásra lehet szükség.

A végfelhasználóknak a következőket kell tenni:

  • Szükség esetén biztosítson emberi felügyeletet. Az emberi felügyelet fontos védelem az AI-alkalmazásokkal való interakció során. Bár folyamatosan fejlesztjük AI-alkalmazásainkat, az AI továbbra is hibákat követhet el. A létrehozott kimenetek pontatlanok, hiányosak, elfogultak, nem megfelelőek vagy irrelevánsak lehetnek a kívánt célokhoz. Ezért tekintse át és tesztelje, amit a Copilot Code készít, és ellenőrizze, hogy az megfelel-e az elvárásainak és követelményeinek.

  • Legyen tisztában a túlzott függés kockázatával. Az AI-ra való túlzott támaszkodás akkor fordul elő, ha a felhasználók helytelen vagy hiányos AI-kimeneteket fogadnak el, főként azért, mert a hibákat nehéz felismerni. A kód és a szoftver esetében ez különösen fontos – tesztelje, hogy Copilot Code mit készít, mielőtt támaszkodik rá, megosztaná vagy éles környezetben használaná.

  • Körültekintően járjon el a Code érzékeny területeken való használatakor. A Microsoft Vállalati AI-szolgáltatások magatartási kódexében (szervezetek számára) vagy a Microsoft Szolgáltatási Szerződés magatartási kódexről szóló szakaszában (egyének számára) leírtaknak megfelelően további óvintézkedéseket kell tenni olyan szoftverek létrehozásakor, amelyek tevékenységei visszafordíthatatlanok vagy jelentős következményekkel járnak.

  • Adjon világos, konkrét utasításokat. Adja meg a kívánt kimenetelre, arra, hogy kinek szól, és a használni kívánt adatokra vonatkozó adatokat. Minél pontosabb az utasítás, annál jobb az eredmény.

  • Gondosan tekintse át a hozzájárulási kéréseket. Mielőtt jóváhagyja egy helyhez, hálózati kapcsolathoz vagy parancshoz való hozzáférést, győződjön meg arról, hogy megértette a következményeket, és valóban ezt kívánja jóváhagyni.

  • Rendszeresen adjon visszajelzést. A tetszik/nem tetszik gombokkal és megjegyzésekkel hosszú távon javíthatja Copilot Code teljesítményét.

Tudjon meg többet a Copilot Code-ról

További útmutatásért vagy a Copilot Code felelősségteljes használatáról a következő dokumentáció áttekintését javasoljuk:

További információk a felelős mesterséges intelligenciáról

  • Utolsó frissítés időpontja: