Karta aplikacji: Copilot Code (Frontier)

  • Dotyczy: Microsoft Copilot

Important

  • To jest funkcja w wersji zapoznawczej udostępniona w Postanowieniach dotyczących produktów firmy Microsoft.
  • Funkcje w wersji zapoznawczej mogą mieć ograniczoną funkcjonalność i mogą nie zostać wydane w wersji ogólnodostępnej. Te funkcje są udostępniane przed oficjalnym wydaniem, dzięki czemu klienci mogą szybciej uzyskać do nich dostęp i przekazać opinie na ich temat.
  • Aby uzyskać wczesny dostęp, musisz uczestniczyć w programie Frontier Preview . Frontier łączy Cię bezpośrednio z najnowszymi innowacjami firmy Microsoft w zakresie sztucznej inteligencji. Wersje zapoznawcze Frontier podlegają obowiązującym warunkom dotyczącym wersji zapoznawczych określonym w umowach zawartych z klientem. Ponieważ te funkcje są nadal w fazie opracowywania, ich dostępność i możliwości mogą się zmieniać wraz z upływem czasu.

Co to jest karta aplikacji lub platformy?

Karty aplikacji i platformy firmy Microsoft mają na celu ułatwienie zrozumienia działania naszej technologii sztucznej inteligencji, wybór właścicieli aplikacji może mieć wpływ na wydajność i zachowanie aplikacji oraz znaczenie uwzględnienia całej aplikacji, w tym technologii, osób i środowiska. Karty aplikacji są tworzone dla aplikacji sztucznej inteligencji, a karty platformy są tworzone dla usług platformy sztucznej inteligencji. Te zasoby mogą obsługiwać opracowywanie lub wdrażanie własnych aplikacji i mogą być udostępniane użytkownikom lub uczestnikom projektu, na które mają wpływ.

W ramach zobowiązania do odpowiedzialnego używania sztucznej inteligencji firma Microsoft przestrzega sześciu podstawowych zasad: sprawiedliwości, niezawodności i bezpieczeństwa, prywatności i bezpieczeństwa, inkluzywności, przejrzystości i odpowiedzialności. Te zasady są osadzone w standardzie odpowiedzialnej sztucznej inteligencji, który prowadzi zespoły w projektowaniu, tworzeniu i testowaniu aplikacji sztucznej inteligencji. Karty aplikacji i platformy odgrywają kluczową rolę w operacjonalizacji tych zasad, oferując przejrzystość możliwości, zamierzonych zastosowań i ograniczeń. Aby uzyskać więcej informacji, czytelnicy są zachęcani do zapoznania się z raportem firmy Microsoft dotyczącym przejrzystości odpowiedzialnej sztucznej inteligencji i kodeksem postępowania w usługach Microsoft Enterprise AI Services, który przedstawia sposób odpowiedzialnego angażowania się w sztuczną inteligencję.

Overview

Karta Kod w Microsoft Copilot to agent oparty na sztucznej inteligencji, który zamienia to, co opiszesz, w działające oprogramowanie. Opisujesz wynik w języku naturalnym – pulpit nawigacyjny, narzędzie wewnętrzne, statyczną stronę internetową, transformację danych czy skrypt – a Copilot Code to tworzy, pokazuje wersję zapoznawczą na obszarze roboczym i wspólnie z tobą dopracowuje kod, aż wszystko zadziała. Nie musisz wiedzieć, jak kodować. Copilot Code może działać na własnym urządzeniu (lokalnym) lub w bezpiecznym izolowanym środowisku w chmurze.

Copilot Code jest przeznaczony dla pracowników przetwarzających informacje, którzy mają pomysły, dane i cykliczne przepływy pracy, ale którzy nie utrzymują środowiska programistycznego. Zapisuje i uruchamia oprogramowanie w Twoim imieniu, używa kontekstu roboczego Microsoft 365, gdy zezwolisz na to, i prosi o Twoją zgodę, zanim podejmie działania, które wykraczają poza wybrany folder projektu.

Copilot Code jest dostępny w ramach Microsoft Copilot. Aby uzyskać więcej informacji, zobacz Copilot Code overview.

Kluczowe terminy

W poniższej tabeli zdefiniowano kluczowe terminy związane z Copilot Code.

Termin Description
Agent Składnik oparty na sztucznej inteligencji, który automatyzuje i wykonuje zadania w imieniu użytkownika na podstawie instrukcji języka naturalnego. Copilot Code to agent, który buduje i uruchamia oprogramowanie.
Projekt Artefakt oprogramowania „Copilot Code” wraz z plikami, z których się składa. Projekt jest zapisywany na Twoim urządzeniu (lokalnie) albo w chmurze, a rozmowa jest z nim powiązana.
Canvas Obszar roboczy wizualizacji obok konwersacji, w którym jest widoczny podgląd artefaktu na żywo i można przełączyć się do widoku kodu, aby wyświetlić i edytować wygenerowane pliki.
Rozwój lokalny Tryb, w którym Copilot Code działa lokalnie na Twoim urządzeniu i działa w wybranym folderze projektu.
Tworzenie w chmurze Tryb, w którym Copilot Code działa i przechowuje twój projekt w bezpiecznym, odizolowanym środowisku w chmurze.
Monit zgody Okno dialogowe, w którym Copilot Code prosi o Twoją zgodę przed uzyskaniem dostępu do lokalizacji spoza wybranego folderu, utworzeniem połączenia sieciowego lub uruchomieniem polecenia. Prompty są napisane prostym językiem.
Wtyczka Pakiet dystrybuowany za pośrednictwem Microsoft 365 App Store, który łączy Copilot Code z zewnętrznymi źródłami danych i usługami. Copilot Code używa tych samych wtyczek dostępnych w aplikacji Cowork.
Kontekst pracy Twoje dane z Microsoft 365 — dokumenty, e-maile, spotkania i kalendarz — które Copilot Code może wykorzystać jako kontekst do tworzenia treści, za twoją zgodą i przy użyciu twojego konta służbowego.
połączenie GitHub Opcjonalne połączenie z kontem GitHub, które umożliwia usłudze Copilot Code pracę z repozytoriami, odpowiadanie na pytania dotyczące kodu i otwieranie pull requestów.
Automation Funkcja „Work that Code” działa zgodnie z harmonogramem, który ustawia się w panelu „Automacje”.

Kluczowe funkcje lub możliwości

Poniższe kluczowe funkcje i możliwości pokazują, do czego służy Copilot Code.

Feature Description
Tworzenie na podstawie języka naturalnego Copilot Code zamienia opis wyniku napisany prostym językiem na działający element oprogramowania, taki jak aplikacja, pulpit nawigacyjny, statyczna strona internetowa, transformacja danych, automatyzacja czy skrypt.
Pytania wyjaśniające Przed rozpoczęciem kompilacji Copilot Code może zadać ci kilka pytań, żeby upewnić się, czego chcesz i jak to powinno wyglądać.
Podgląd na żywo i widok kodu Na tym obszarze roboczym wyświetla się wersja zapoznawcza statycznej strony internetowej lub aplikacji internetowej w trakcie jej tworzenia. Możesz przełączyć się do widoku kodu, aby wyświetlić i edytować wygenerowane pliki, a następnie wybrać element na kanwie, aby ukierunkować następne żądanie na ten element.
Iteruj i przywróć Wynik można uściślić, opisując zmiany w konwersacji. W dowolnym momencie możesz wrócić do wcześniejszej wersji. Jeśli krok zakończy się niepowodzeniem, Copilot Code próbuje naprawić problem i wyjaśnia, co się stało prostym językiem.
Wykonywanie lokalne lub w chmurze Copilot Code może uruchamiać twój projekt na Twoim urządzeniu albo w bezpiecznym, odizolowanym środowisku w chmurze.
Wprowadzanie plików i danych Możesz przesyłać lub przeciągać i upuszczać pliki (CSV, arkusze kalkulacyjne, obrazy, dokumenty, pliki PDF i prezentacje), wklejać tekst i — w przypadku projektów lokalnych — otworzyć istniejący folder, z którym Copilot Code ma pracować.
Integracja kontekstu pracy Za Twoją zgodą Copilot Code wykorzystuje twój kontekst roboczy w Microsoft 365 – dokumenty, e-maile, spotkania i kalendarz – jako podstawę do tworzenia treści. W tym przypadku używane jest Twoje konto służbowe.
Wtyczki i narzędzia Copilot Code korzysta z tych samych wtyczek, co Cowork, żeby łączyć się z zewnętrznymi źródłami danych i usługami, a także z narzędziami takimi jak wyszukiwanie w sieci i generowanie obrazów – wszystko to z uwzględnieniem zasad obowiązujących w twojej organizacji.
Integracja z usługą GitHub Możesz opcjonalnie połączyć swoje konto GitHub, żeby szybko zacząć pracę z repozytorium, zadawać pytania dotyczące swojego kodu, tworzyć gałęzie i zatwierdzenia, otwierać wstępne pull requesty i sprawdzać ich status, tworzyć repozytoria oraz śledzić swoje zgłoszenia, pull requesty i prośby o sprawdzenie w sekcji „Moja praca”.
Automations Możesz skonfigurować zadanie uruchamiane zgodnie z harmonogramem w panelu Automatyzacje.
Udostępnij i eksportuj Możesz udostępnić aplikację statyczną w postaci linku ograniczonego do Twojej organizacji oraz wyeksportować projekt jako plik .zip.
Wybór modelu Możesz wybrać model Copilot Code używany dla projektu lub pozwolić Copilot code wybrać.
Ustawienia zgody Copilot Code prosi Cię o zgodę, zanim uzyska dostęp do lokalizacji poza wybranym folderem projektu, nawiąże połączenia sieciowe lub uruchomi polecenia. Komunikaty z prośbą o wyrażenie zgody są pisane prostym językiem.

Jako aplikacja AI o charakterze agentowym Copilot Code wykazuje następujące cechy agentowe:

  • Planowanie: Copilot Code rozkłada opis w języku naturalnym na kroki potrzebne do zbudowania oprogramowania i realizuje je, pokazując postęp w miarę działania.
  • Elastyczność: podczas sesji możesz kierować działaniem Copilot Code, przekazując mu informacje zwrotne, a narzędzie dostosowuje swoje podejście, w tym może przywrócić wcześniejszą wersję.
  • Rozszerzalność: możliwości Copilot Code rozszerzają się za pośrednictwem wtyczek ze sklepu Microsoft 365 App Store, łączników do zewnętrznych źródeł danych i opcjonalnego połączenia GitHub.
  • Pamięć (w obrębie konwersacji): W ramach konwersacji projektu Copilot Code utrzymuje kontekst między krokami i komunikatami. Zgoda udzielona podczas sesji ma zastosowanie do tej sesji. Kontekst nie jest zachowywany między oddzielnymi konwersacjami.

Zamierzone zastosowania

Copilot Code jest przeznaczony dla pracowników przetwarzających informacje, którzy używają Microsoft 365 i chcą przekształcić pomysły, dane i cykliczne przepływy pracy w działające oprogramowanie bez potrzeby korzystania ze środowiska deweloperskiego. Oto kilka przykładów przypadków użycia:

  • Pulpity i widoki danych: Utwórz pulpit, który pokazuje metrykę na podstawie danych, na przykład cotygodniowe rejestracje według kanału.
  • Narzędzia wewnętrzne: stwórz narzędzie do śledzenia, formularz lub kalkulator na potrzeby procesu zespołu, na przykład narzędzie do śledzenia zapasów lub zatwierdzeń.
  • Statyczne witryny internetowe i strony docelowe: Utwórz prostą witrynę lub stronę docelową, aby przetestować pomysł.
  • Przekształcanie danych i skrypty: zamień powtarzający się proces wykonywany ręcznie, na przykład tworzenie raportu na podstawie danych z kilku źródeł, w skrypt, który można wykorzystać wielokrotnie.
  • Praca z istniejącymi repozytoriami: Połącz konto GitHub, aby zapytać o repozytorium, wprowadzić zmianę i otworzyć wersję roboczą pull requesta.

Zakres agenta: Copilot Code działa w granicach uprawnień Microsoft 365 i wybranego folderu projektu. Kompiluje i uruchamia oprogramowanie, którego utworzenie mu zlecisz, i prosi o zatwierdzenie, zanim wyjdzie poza wybrany folder, nawiąże połączenie sieciowe lub uruchomi polecenie. Nie podejmuje tych działań bez Twoich instrukcji lub zatwierdzenia.

Copilot Code nie jest przeznaczony do zastosowań, które wymagają gwarantowanej dokładności bez przeglądu przez człowieka, ani do tworzenia oprogramowania przeznaczonego do zastosowań o istotnych skutkach lub krytycznych dla bezpieczeństwa bez odpowiedniego testowania i nadzoru człowieka.

Modele i dane treningowe

Copilot Code wykorzystuje modele sztucznej inteligencji, by zapewnić użytkownikom jak najlepsze wrażenia. Możesz wybrać spośród kilku modeli, w tym wariantów Claude'a Opus i Claude'a Sonneta oraz Claude'a Haiku z Anthropic oraz modeli GPT hostowanych i obsługiwanych przez Microsoft, lub pozwolić Copilot Code wybrać model. Modele firmy Anthropic są udostępniane firmie Microsoft w ramach podwykonawstwa. Aby uzyskać więcej informacji, zobacz Anthropic jako podprocesor dla Microsoft Online Services oraz Zrozumienie funkcji i modeli sztucznej inteligencji w Microsoft Online Services.

Polecenia, odpowiedzi i dane, do których uzyskano dostęp za pośrednictwem programu Microsoft Graph, nie są używane do szkolenia podstawowych modeli LLM, w tym tych używanych przez usługę Microsoft Copilot. W trybie chmury dane organizacji pozostają w Microsoft 365 i podlegają istniejącym zasadom zapewniania ładu danych w organizacji, jednak w trybie lokalnym dane mogą być przechowywane również na urządzeniu lokalnym za zgodą administratora. Aby uzyskać więcej informacji o sposobie obsługi danych, zobacz Dane, prywatność i zabezpieczenia dla funkcji Microsoft Copilot.

Performance

Copilot Code jest przeznaczony do tworzenia działającego oprogramowania, które odzwierciedla intencję użytkownika. Wydajność jest oceniana na podstawie tego, czy Copilot Code generuje działający artefakt spełniający żądanie i czy iteruje prawidłowo na podstawie opinii.

Obsługiwane tryby

  • Dane wejściowe: Monity tekstowe użytkowników, wklejony tekst i dołączone pliki (CSV, arkusze kalkulacyjne, obrazy, dokumenty, pliki PDF i prezentacje) do 200 MB na plik. W przypadku projektów lokalnych Copilot Code może również odczytywać pliki w folderze, który wybierzesz.
  • Dane wyjściowe: uruchomiony artefakt oprogramowania wyświetlany na kanwie, wygenerowany kod źródłowy, pliki zapisane na twoim urządzeniu lub w chmurze, a także – po połączeniu z GitHubem – gałęzie, zatwierdzenia i wstępne pull requesty. Możesz udostępnić aplikację statyczną jako link w zakresie organizacji oraz wyeksportować projekt jako plik .zip.

Jak Copilot Code przetwarza żądania

  1. Copilot Code otrzymuje opis rezultatu, który chcesz uzyskać, w języku naturalnym.
  2. Copilot Code może zadawać pytania doprecyzowujące, a następnie planuje kroki potrzebne do utworzenia artefaktu.
  3. Copilot Code pisze i uruchamia oprogramowanie, pokazując postępy oraz wersję zapoznawczą na obszarze roboczym. Możesz przełączyć się do widoku kodu, aby zobaczyć wygenerowane pliki.
  4. Zanim Copilot Code uzyskuje dostęp do lokalizacji spoza wybranego folderu, nawiązuje połączenie sieciowe lub uruchamia polecenie, prosi o zatwierdzenie prostym językiem.
  5. Przejrzyj wynik, dopracuj go w rozmowie i zapisz, udostępnij lub wyeksportuj projekt.

Warunki niezawodnego działania

  • Copilot Code działa najlepiej, gdy wyraźnie opiszesz wynik, w tym informacje o tym, dla kogo jest wynik i jakie dane powinny być używane.
  • Copilot Code może uzyskiwać dostęp tylko do danych i usług, do których Twoje konto Microsoft 365 ma uprawnienia do uzyskiwania dostępu, a w przypadku projektów lokalnych do wybranego folderu oraz wszelkich lokalizacji, na które wyrazisz zgodę.
  • Obsługa podglądu zależy od typu artefaktu i urządzenia.
  • Wydajność może się pogorszyć w przypadku bardzo złożonych projektów z wieloma współzależnościami.

Możliwości wielojęzyczne

  • Kod CCopilot jest dostępny we wszystkich obsługiwanych językach Copilot. Obsługa dodatkowych języków zależy od możliwości modelu bazowego i dostępności usługi Microsoft 365. Aby uzyskać więcej informacji na temat obsługiwanych języków, zobacz Obsługiwane języki dla funkcji Microsoft Copilot.

Limitations

Zrozumienie ograniczeń Copilot Code ma kluczowe znaczenie dla ustalenia, czy jest on używany w bezpiecznych i skutecznych granicach. Chociaż zachęcamy klientów do korzystania z Copilot Code w swoich innowacyjnych rozwiązaniach lub aplikacjach, należy pamiętać, że Copilot Code nie został zaprojektowany dla każdego możliwego scenariusza. Zachęcamy użytkowników do odwoływania się do kodeksu postępowania usług Microsoft Enterprise AI Services (dla organizacji) lub sekcji Kodeksu postępowania w Umowie o świadczenie usług firmy Microsoft (dla użytkowników indywidualnych), a także do następujących kwestii podczas wybierania przypadku użycia:

  • Interpretacja instrukcji: Copilot Code może błędnie interpretować niejednoznaczne lub zbyt szerokie opisy, co prowadzi do oprogramowania, które nie jest zgodne z twoją intencją. Podaj jasne, konkretne prośby o lepsze wyniki.

  • Dokładność wygenerowanego kodu: Kod generowany przez sztuczną inteligencję i artefakty powinny być traktowane jako wersje robocze. Przetestuj to, co tworzy Copilot Code, zanim na nim polegasz, udostępnisz to lub użyjesz tego w środowisku produkcyjnym. Copilot Code może generować niedokładne wyniki, szczególnie gdy dane źródłowe są niekompletne lub nieaktualne.

  • Złożoność projektu: złożone projekty z wieloma zależnościami mogą nie zawsze kompilować się zgodnie z oczekiwaniami. Monitoruj postęp, iteruj małymi krokami i w razie potrzeby wróć do wcześniejszej wersji.

  • Obsługa podglądu: Podgląd zależy od typu artefaktu i urządzenia. Na przykład nie można wyświetlić podglądu niektórych artefaktów na każdej platformie.

  • Granice uprawnień: Copilot Code zależy od istniejących uprawnień Microsoft 365 i folderu wybranego dla projektów lokalnych. Nie może uzyskać dostępu do danych, usług ani lokalizacji, do których nie masz uprawnień.

  • Obsługa platform i urządzeń: kod Copilot działa w aplikacji klasycznej Microsoft Copilot dla systemu Windows i komputerów Mac oraz w wersji internetowej na potrzeby programowania w chmurze. Aplikacja mobilna nie jest dostępna w tej wersji, a dostępność funkcji może się różnić w zależności od platformy.

  • Niestandardowe umiejętności i wtyczki: Wtyczki i łączniki są udostępniane przez wydawców innych firm i nie są weryfikowane przez Microsoft. Uważnie przejrzyj dane wyjściowe z wtyczek, ponieważ jakość zależy od tego, kto je opublikował.

  • Stronniczość, stereotypy i nieuzasadnione treści: Pomimo mechanizmów kontroli odpowiedzialnej sztucznej inteligencji, treści i kod generowane przez sztuczną inteligencję mogą nadal odzwierciedlać uprzedzenia, stereotypy lub nieuzasadnione informacje. Przed rozpoczęciem korzystania z niego sprawdź, co tworzy Copilot Code. Aby uzyskać więcej informacji na temat znanych ograniczeń treści generowanych przez sztuczną inteligencję na podstawie modeli Anthropic, zapoznaj się z dokumentacją podmiotów przetwarzających Anthropic.

  • Potencjalny poważny uraz fizyczny lub psychiczny osoby: Należy unikać używania lub niewłaściwego używania systemu, które może spowodować poważny uraz fizyczny lub psychiczny u danej osoby. Na przykład tworzenie oprogramowania, które diagnozuje pacjentów lub przepisuje leki, może wyrządzić poważne szkody.

  • Istotny wpływ na możliwości życiowe lub status prawny: unikaj korzystania z systemu lub jego niewłaściwego wykorzystania w sposób, który może mieć istotny wpływ na możliwości życiowe lub status prawny. Przykłady obejmują oprogramowanie, które może wpływać na status prawny danej osoby, jej prawa lub dostęp do kredytów, edukacji, zatrudnienia, opieki zdrowotnej, mieszkania, ubezpieczenia, świadczeń socjalnych, usług, możliwości lub warunków, na jakich są one zapewniane.

Oceny

Oceny wydajności i bezpieczeństwa oceniają, czy Copilot Code działa niezawodnie i bezpiecznie, sprawdzając czynniki takie jak to, czy wygenerowane oprogramowanie jest poprawne i funkcjonalne, jednocześnie identyfikując ryzyko generowania szkodliwej zawartości lub podejmowania nieautoryzowanych działań. Przeprowadzono następujące oceny z już wdrożonymi składnikami bezpieczeństwa, które zostały również opisane w temacie Składniki bezpieczeństwa i środki zaradcze.

Oceny wydajności i jakości

Oceny działania rozwiązania Copilot Code są niezbędne do poprawy jego niezawodności w rzeczywistych zastosowaniach. Regularnie przeprowadzamy oceny efektywności dla następujących obszarów:

  • Czy wygenerowany kod jest poprawny składniowo.
  • Czy funkcja wygenerowanego artefaktu spełnia żądanie użytkownika.
  • Jakość wyniku z perspektywy doświadczenia użytkownika.

Metody oceny wydajności i jakości

Nasze dane ewaluacyjne są tworzone niestandardowo w celu oceny wydajności aplikacji sztucznej inteligencji w kluczowych obszarach bezpieczeństwa i jakości, symulując rzeczywiste scenariusze i zagrożenia. Zaczynamy od zidentyfikowania odpowiednich aspektów oceny obaw w oparciu o wielodyscyplinarne badania i wkład ekspertów. Te obawy są tłumaczone na docelowe cele oceny, które kierują formułowaniem metryk oceny. Ze względów bezpieczeństwa tworzymy prompty adwersarialne mające na celu wywołanie niepożądanych odpowiedzi lub odpowiedzi w sytuacjach brzegowych, które są następnie oceniane przez adnotatorów wspomaganych przez AI, przeszkolonych do oceny zgodności ze standardami bezpieczeństwa firmy Microsoft. Aby zapewnić jakość, utworzymy prompty oparte na kryteriach oceny istotne dla scenariuszy generowania kodu i agenta. Zestawy danych są opracowywane z różnych źródeł, w tym danych syntetycznych i publicznych, w celu symulowania rzeczywistych scenariuszy użycia. Na podstawie wyselekcjonowanych zestawów danych obie metody oceny są iteracyjnie udoskonalane i dostosowywane przez ludzi w celu zwiększenia skuteczności i niezawodności metryk.

Copilot Code został przetestowany przy użyciu scenariuszy odzwierciedlających sposób, w jaki pracownicy zajmujący się przetwarzaniem informacji tworzą oprogramowanie, np. generowanie pulpitów nawigacyjnych, narzędzi wewnętrznych, statycznych stron internetowych oraz przekształceń danych. Ewaluatorzy ocenili, czy wygenerowany kod był poprawny i działał, czy artefakt spełnił żądanie, oraz czy wynik sprawdzał się w różnych wariantach tego samego zadania. Idealne wyniki odzwierciedlają funkcjonalne oprogramowanie zgodne z żądaniem; nieoptymalne wyniki obejmują kod, który się nie uruchamia, brak funkcjonalności lub wyniki, które nie pasują do intencji.

Oceny niestandardowe

Oprócz standardowych metryk Copilot Code został oceniony przy użyciu niestandardowych metryk specyficznych dla jego agentowych możliwości tworzenia kodu:

  • Sukces kompilacji (czy Copilot Code wygenerował działający artefakt).
  • Dopasowanie żądania (czy wynik jest zgodny z intencją użytkownika).
  • Dokładność iteracji (czy Copilot Code poprawnie zastosował żądane zmiany i cofnięcia zmian).

Ocena ryzyka i bezpieczeństwa

Ocena potencjalnych zagrożeń związanych z treściami i działaniami generowanymi przez sztuczną inteligencję jest niezbędna do ochrony przed ryzykiem o różnym stopniu poważności. Obejmuje to ocenę predyspozycji kodu Copilot do generowania szkodliwej zawartości lub kodu oraz testowanie pod kątem podatności na ataki typu jailbreak i nieautoryzowane działania. Przeprowadzono następujące oceny ryzyka i bezpieczeństwa:

  • Nienawiść i niesprawiedliwości
  • Seks
  • Przemoc
  • Samookaleczenie
  • Materiał chroniony
  • Niebezpieczne lub złośliwe generowanie kodu
  • Pośredni jailbreak
  • Bezpośrednie obejście zabezpieczeń
  • Nieautoryzowane wykonywanie akcji

Metody oceny ryzyka i bezpieczeństwa

Oceny ryzyka i bezpieczeństwa wykorzystywały prompty adwersarialne i zautomatyzowane klasyfikatory w celu oceny potencjalnych szkód. Testy łączyły oceny LLM z wykrywaniem opartym na klasyfikatorach i testami ręcznymi tam, gdzie było to konieczne. Dodatkowe oceny specyficzne dla zdolności wykonywania działań Copilot Code sprawdzały, czy agent może zostać zmanipulowany do wygenerowania niezabezpieczonego kodu lub podjęcia działań — uzyskania dostępu do plików, nawiązania połączeń sieciowych lub uruchomienia poleceń — bez wymaganej zgody. Idealne wyniki przekierowują lub odrzucają niebezpieczne żądania i zachowują nienaruszoną granicę zgody w różnych wariantach promptu. Nieoptymalne wyniki obejmują tworzenie szkodliwej lub niezabezpieczonej zawartości albo podejmowanie działań bez odpowiedniego zatwierdzenia.

Składniki bezpieczeństwa i środki zaradcze

Po zidentyfikowaniu potencjalnych zagrożeń i nadużyć za pomocą procesów takich jak testy typu red team i ich zmierzeniu opracowaliśmy środki zaradcze w celu zmniejszenia potencjalnych szkód. Na poniższej liście opisano niektóre z tych środków zaradczych. Nadal oceniamy Copilot Code, aby poprawić wydajność produktu i działania zaradcze.

  • Zgoda na akcje wykraczające poza folder projektu. Podstawowym mechanizmem bezpieczeństwa funkcji Copilot Code jest jej model zgody. Po wybraniu folderu, w którym chcesz pracować, Copilot Code może odczytywać i zapisywać w tym folderze; uzyskiwanie dostępu do dowolnej innej lokalizacji, nawiązywanie połączenia sieciowego lub uruchamianie polecenia wymaga jawnego zatwierdzenia. Komunikaty z prośbą o zgodę są sformułowane prostym językiem.

  • Konfigurowalna izolacja na potrzeby wykonywania kodu. Copilot Code uruchamia wygenerowane oprogramowanie z konfigurowalnymi poziomami izolacji i wymuszania. Administratorzy organizacji mogą skonfigurować poziom egzekwowania dla swojej organizacji.

  • Granice uprawnień. Copilot Code działa ściśle w ramach istniejących uprawnień Microsoft 365 i wybranego folderu. Nie może uzyskać dostępu do danych, usług ani zasobów, do których nie udzielono autoryzacji, co pomaga zapobiec eskalacji uprawnień.

  • Zgoda dotycząca rozmowy. Zgoda, którą udzielasz podczas sesji, dotyczy tylko tej sesji i nie jest przenoszona na inne rozmowy, co ogranicza zasięg skutków przypadkowego udzielenia uprawnień.

  • Klasyfikatory oparte na sztucznej inteligencji i filtrowanie zawartości. Copilot Code używa klasyfikatorów opartych na sztucznej inteligencji i filtrów zawartości do identyfikowania i blokowania potencjalnie szkodliwej zawartości w monitach użytkowników i generowanych odpowiedziach, w tym filtrów mowy nienawiści, przemocy, zawartości seksualnej, samookaleczenia i materiałów chronionych.

  • Metaprompting. Instrukcje systemowe kierują zachowaniem Copilot Code, aby było ono zgodne z zasadami sztucznej inteligencji firmy Microsoft i oczekiwaniami użytkowników, w tym instrukcjami dotyczącymi odrzucania nieodpowiednich żądań oraz unikania generowania niezabezpieczonego lub złośliwego kodu.

  • Projektowanie zorientowane na użytkownika i przejrzystość. Copilot Code pokazuje każdy krok w miarę działania i wyświetla podgląd na żywo, dzięki czemu działania agenta są przejrzyste, co pozwala określić, kiedy zmierza on w niezamierzonym kierunku.

  • Możliwość inspekcji. Copilot Code rejestruje wykonywane akcje — wygenerowany kod, uruchamiane polecenia i pliki odczytywane lub zapisywane — a te dzienniki są dostępne dla administratorów IT, zapewniając możliwość śledzenia od żądania użytkownika do działania i jego wyniku.

  • Kontrole administracyjne. Administratorzy mogą włączać lub wyłączać Copilot Code i określone funkcje, wymuszać zasady na poziomie organizacji, ograniczać połączenia kont GitHub i ustawiać limity wydatków na użytkownika. Wykorzystanie jest rozliczane w ramach przydziału Microsoft Copilot.

  • Mechanizmy sprzężenia zwrotnego. Użytkownicy mogą przesyłać opinie pozytywne lub negatywne, przy czym w przypadku opinii negatywnej mogą dodać komentarz; opinie te są wykorzystywane do oceny i poprawy jakości oraz bezpieczeństwa rozwiązania Copilot Code.

  • Środki cyberbezpieczeństwa. Copilot Code stosuje praktyki w zakresie cyberbezpieczeństwa, w tym szyfrowaną transmisję danych, bezpieczne uwierzytelnianie za pośrednictwem Microsoft Entra ID oraz przestrzeganie cyklu bezpiecznego wytwarzania oprogramowania firmy Microsoft. W trybie chmurowym dane organizacji pozostają w usłudze Microsoft 365 i podlegają obowiązującym w organizacji zasadom nadzoru nad danymi; jednak w trybie lokalnym dane mogą być również przechowywane na urządzeniu lokalnym za zgodą administratora. W celu identyfikowania i eliminowania potencjalnych luk w zabezpieczeniach przeprowadzane są regularne audyty zabezpieczeń i przeglądy modeli zagrożeń.

Najlepsze praktyki dotyczące wdrażania i korzystania z Copilot Code

Odpowiedzialna sztuczna inteligencja to wspólne zobowiązanie między firmą Microsoft a jej klientami. Mimo że firma Microsoft tworzy aplikacje i usługi platformy sztucznej inteligencji z zabezpieczeniami, uczciwością i przejrzystością, klienci odgrywają kluczową rolę we wdrażaniu i odpowiedzialnym korzystaniu z tych technologii we własnych kontekstach. Aby zapewnić obsługę tego partnerstwa, oferujemy następujące najlepsze rozwiązania dla wdrażających i użytkowników końcowych, które ułatwiają klientom efektywne wdrażanie odpowiedzialnej sztucznej inteligencji.

Wdrażacze i użytkownicy końcowi powinni:

  • Zachowaj ostrożność i oceniaj rezultaty podczas korzystania z Copilot Code przy podejmowaniu decyzji o istotnych konsekwencjach lub w wrażliwych obszarach. Decyzje o istotnych konsekwencjach to takie, które mogą mieć skutki prawne lub znaczący wpływ na dostęp danej osoby do edukacji, zatrudnienia, usług finansowych, świadczeń państwowych, opieki zdrowotnej, mieszkania, ubezpieczenia, usług prawnych, albo które mogą spowodować szkody fizyczne, psychiczne lub finansowe. Wrażliwe domeny, takie jak platformy finansowe, opieka zdrowotna i mieszkalnictwo, wymagają szczególnej opieki ze względu na możliwość nieproporcjonalnego wpływu na różne grupy ludzi. W przypadku korzystania ze sztucznej inteligencji do podejmowania decyzji w tych obszarach upewnij się, że uczestnicy projektu, których dotyczy problem, mogą zrozumieć, w jaki sposób podejmowane są decyzje, odwoływać się od decyzji i aktualizować wszelkie istotne dane wejściowe.

  • Oceń kwestie prawne i regulacyjne. Klienci muszą ocenić potencjalne konkretne zobowiązania prawne i regulacyjne podczas korzystania z jakichkolwiek platform i rozwiązań sztucznej inteligencji, które mogą nie być odpowiednie do użycia w każdej branży lub scenariuszu. Ponadto platformy lub rozwiązania sztucznej inteligencji nie są przeznaczone i nie mogą być używane w sposób zabroniony w odpowiednich warunkach świadczenia usług i odpowiednich kodeksach postępowania.

Wdrażacze powinni:

  • Odpowiednio skonfiguruj dostęp i mechanizmy kontroli. Użyj dostępnych mechanizmów administracyjnych, aby zarządzać tym, którzy użytkownicy mogą mieć dostęp do Copilot Code, jakie funkcje są dostępne, ograniczeniami połączenia z usługą GitHub oraz limitami wydatków dla poszczególnych użytkowników. Rozważ rozpoczęcie od grupy pilotażowej przed szerszym wdrożeniem.

  • Edukuj użytkowników na temat modelu zgody. Upewnij się, że użytkownicy rozumieją, że są odpowiedzialni za przeglądanie i zatwierdzanie tego, do czego Copilot Code uzyskuje dostęp, z czym się łączy i co uruchamia, oraz że kod wygenerowany przez sztuczną inteligencję powinien być traktowany jako wersja robocza do przetestowania przed użyciem.

  • Przejrzyj użycie wtyczki. Oceń wtyczki przed ich udostępnieniem. Dowiedz się, do jakich danych uzyskuje dostęp każda wtyczka i jakie akcje może wykonywać.

  • Monitoruj użycie, dzienniki audytu i opinie. Przejrzyj dzienniki inspekcji i opinie użytkowników, aby zidentyfikować wzorce, typowe problemy lub obszary, w których mogą być potrzebne dodatkowe wskazówki.

Użytkownicy końcowi powinni:

  • W razie potrzeby zapewnij nadzór człowieka. Nadzór ze strony człowieka jest ważnym zabezpieczeniem podczas interakcji z aplikacjami AI. Mimo że stale ulepszamy nasze aplikacje sztucznej inteligencji, sztuczna inteligencja może nadal popełniać błędy. Wygenerowane dane wyjściowe mogą być niedokładne, niekompletne, stronnicze, nieprawidłowe lub nieistotne dla zamierzonych celów. W związku z tym przejrzyj i przetestuj to, co tworzy Copilot Code, oraz sprawdź, czy spełnia ono twoje oczekiwania i wymagania.

  • Należy pamiętać o ryzyku nadmiernego polegania. Nadmierne poleganie na sztucznej inteligencji występuje, gdy użytkownicy akceptują nieprawidłowe lub niekompletne dane wyjściowe sztucznej inteligencji, głównie dlatego, że błędy mogą być trudne do wykrycia. W przypadku kodu i oprogramowania jest to szczególnie ważne – przetestuj to, co generuje Copilot Code, zanim zaczniesz na tym polegać, udostępniać to lub używać w środowisku produkcyjnym.

  • Zachowaj ostrożność, używając Code we wrażliwych obszarach. Podejmij dodatkowe środki ostrożności podczas tworzenia oprogramowania, którego działania są nieodwracalne lub mają poważne konsekwencje, zgodnie z dalszym opisem w Microsoft Enterprise AI Services Code of Conduct (dla organizacji) lub w sekcji Kodeks postępowania w Umowa o świadczenie usług firmy Microsoft (dla osób fizycznych).

  • Podaj jasne, konkretne instrukcje. Podaj szczegóły dotyczące oczekiwanego wyniku, dla kogo jest przeznaczony oraz jakie dane powinny zostać wykorzystane. Im bardziej szczegółowa instrukcja, tym lepszy wynik.

  • Uważnie przejrzyj komunikaty o wyrażenie zgody. Przed zatwierdzeniem dostępu do lokalizacji, połączenia sieciowego lub polecenia upewnij się, że rozumiesz i że tego chcesz.

  • Regularnie przekazuj opinie. Użyj przycisków kciuka w górę/w dół i komentarzy, aby pomóc poprawić wydajność Copilot Code z biegiem czasu.

Dowiedz się więcej o stronie usługi Copilot Code

Aby uzyskać dodatkowe wskazówki lub dowiedzieć się więcej na temat odpowiedzialnego używania Copilot Code, zalecamy zapoznanie się z następującą dokumentacją:

Dowiedz się więcej o odpowiedzialnej sztucznej inteligencji

  • Ostatnia aktualizacja o