Karta platformy: Microsoft Discovery

Ta karta opisuje zamierzone zastosowania, możliwości, ograniczenia i najlepsze praktyki dotyczące odpowiedzialnego wdrażania i użytkowania rozwiązania Microsoft Discovery.

Co to jest aplikacja lub karta platformy?

Karty aplikacji i platform Microsoft pomagają zrozumieć, jak działa nasza technologia AI. Wyjaśniają wybory dokonywane przez właścicieli aplikacji, które wpływają na wydajność i zachowanie aplikacji. Podkreślają również znaczenie uwzględnienia całej aplikacji, w tym technologii, ludzi i środowiska. Karty aplikacyjne tworzone są dla aplikacji AI, a karty platformowe dla usług platformowych AI. Te zasoby mogą wspierać rozwój lub wdrażanie własnych aplikacji. Możesz udostępniać je użytkownikom lub interesariuszom dotkniętym przez aplikacje.

W ramach zobowiązania do odpowiedzialnego używania sztucznej inteligencji firma Microsoft przestrzega sześciu podstawowych zasad: sprawiedliwości, niezawodności i bezpieczeństwa, prywatności i bezpieczeństwa, inkluzywności, przejrzystości i odpowiedzialności. Standard Odpowiedzialnej AI zakotwia te zasady. Standard ten prowadzi zespoły w projektowaniu, budowaniu i testowaniu aplikacji AI. Karty aplikacji i platformy odgrywają kluczową rolę w operacjonalizacji tych zasad, oferując przejrzystość wokół możliwości, zamierzonych zastosowań i ograniczeń. Aby uzyskać więcej informacji, zapoznaj się z Raportem Microsoft dotyczącym przejrzystości odpowiedzialnej AI oraz Kodeksem Postępowania. Opisują, jak klienci korporacyjni i osoby prywatne mogą odpowiedzialnie współpracować ze sztuczną inteligencją.

Overview

Microsoft Discovery jest obecnie dostępny dla wybranych klientów. Korzystanie z Microsoft Discovery podlega wymaganiom kwalifikowalności klienta i zaakceptowaniu naszych warunków produktu i kodeksu postępowania użytkownika. Wymaga licencji i jest oferowana tylko w ograniczonej liczbie regionów. Naszym celem jest zapewnienie, że system pozostanie bezpieczny, niezawodny i korzystny dla wszystkich użytkowników, ponieważ nadal rozwijamy jego możliwości.

Tryby wdrażania

Microsoft Discovery jest dostępny w dwóch trybach wdrożenia:

  • Wdrożenie w chmurze: W pełni zarządzana platforma hostowana w Azure, która korzysta z Azure OpenAI Service poprzez Azure AI Foundry do dostępu do modelu, z infrastrukturą Azure do obliczeń, sieci i bezpieczeństwa.
  • Aplikacja lokalna: aplikacja desktopowa działająca na twoim komputerze i korzystająca z SDK GitHub Copilot do dostępu do modeli. Ten tryb jest przeznaczony dla indywidualnych badaczy i programistów, którzy chcą korzystać z możliwości agenticznej AI Discovery w lekkim, lokalnym środowisku bez konieczności korzystania z infrastruktury Azure.

Oba tryby wdrożenia współdzielą ten sam mechanizm Discovery Engine, architekturę wieloagentową oraz funkcje wnioskowania na podstawie wiedzy. Kolejne sekcje wskazują, gdzie zachowanie, możliwości lub obowiązki różnią się między tymi dwoma trybami.

Wersja podglądowa Microsoft Discovery (Microsoft Discovery & aplikacja Microsoft Discovery | Microsoft Learn) nie została oceniona.

Wprowadzenie

Microsoft Discovery to platforma agentów AI dla przedsiębiorstw, zaprojektowana do wspierania badań naukowych i rozwoju. Pomaga to organizacjom zebrać wiedzę na temat domeny, dane, modele i obliczenia, aby rozwiązywać złożone problemy, generować i uściślić hipotezy, eksperymenty projektowe i analizować wyniki. Wspierając metodę naukową od początku do końca w jednym środowisku, Microsoft Discovery przeciwdziała fragmentacji i obciążeniu poznawczemu, które często spowalniają nowoczesne prace badawczo-rozwojowe.

Platforma wykorzystuje architekturę agenticznej AI, wykorzystującą grafowy silnik wiedzy do realizacji wyników badań i rozwoju z większą szybkością, skalą i dokładnością. Za pomocą interfejsu języka naturalnego użytkownicy mogą opisywać cele lub pytania, a system może przetłumaczyć je na plany ustrukturyzowane, które korzystają z dostępnych narzędzi, modeli i przepływów pracy. Microsoft Discovery operacjonalizuje silnik odkrywania, który uwzględnia wyniki oraz opinie w kolejnych rozumowaniach, umożliwiając adaptacyjną, wyjaśnialną i powtarzalną realizację badań, zachowując kontrolę użytkownika.

Docelowi użytkownicy

Microsoft Discovery jest przeznaczone dla organizacji badawczo-rozwojowych (R&D), w tym naukowców, inżynierów i deweloperów w branżach, takich jak nauki przyrodnicze, materiały, półprzewodniki, energia, produkcja i zaawansowana inżynieria. W ramach wdrożenia w chmurze platforma została zbudowana na Azure i zaprojektowana tak, aby była rozszerzalna i bezpieczna, pozwalając organizacjom integrować własne dane, modele i narzędzia w zintegrowane środowisko oparte na AI. Lokalna aplikacja stanowi alternatywę dla indywidualnych badaczy, którzy chcą korzystać z możliwości Discovery na własnym komputerze, korzystając z GitHub Copilot SDK. Zamiast zastępować wiedzę ludzką, Microsoft Discovery rozszerza ją, pomagając zespołom zarządzać złożonością i skalowaniem szczegółowych informacji w procesie badań.

Kluczowe terminy

Poniższa tabela zawiera słownik kluczowych terminów związanych z odnajdywaniem.

Termin Definicja
Klasyfikatory Modele uczenia maszynowego sortujące dane w klasach oznaczonych etykietami lub kategoriach informacji.
Silnik wyszukiwania Funkcja w Discovery, która działa i zachowuje się jak współpracownik, z którym możesz rozmawiać, delegować mu zadania, wspólnie planować i przekazywać mu obowiązki podczas pracy nad ambitnymi, długoterminowymi projektami. Cel zadania, które chcesz zrealizować, porządkuje i napędza Discovery Engine. Wykorzystuje pozostałą część Discovery jako zasoby do wykonania zadania.
GitHub Copilot SDK Zestaw programistyczny umożliwiający dostęp do dużych modeli językowych za pośrednictwem GitHub Copilot. W trybie lokalnego wdrażania aplikacji Discovery korzysta z GitHub Copilot SDK jako dostawcy modelu zamiast Azure OpenAI Service.
Uziemienie Odpowiedzi są zakotwiczone w odpowiednich źródłach niezawodnych, takich jak dane dostarczone przez klienta, wewnętrzne bazy wiedzy i zawartość zewnętrzna, jeśli ma to zastosowanie. Źródła zapewniają cytaty lub możliwość śledzenia, jeśli są dostępne.
Duże modele językowe (LLMs) Modele sztucznej inteligencji trenowane na dużych ilościach danych tekstowych w celu przewidywania wyrazów w sekwencjach. Mogą wykonywać zadania, takie jak generowanie tekstu, podsumowywanie, tłumaczenie i klasyfikacja.
Czynności zapobiegawcze Metody mające na celu zmniejszenie potencjalnych zagrożeń, które mogą wynikać z używania funkcji sztucznej inteligencji.
Polecenia Dane wejściowe w postaci tekstu, obrazów lub dźwięku udostępnianego przez użytkownika do interakcji z funkcjami sztucznej inteligencji.
Superkomputer Komponent superkomputerowy platformy Discovery wykorzystuje usługę Azure High Performance Computing (HPC) oraz przyszłe możliwości obliczeń kwantowych do obsługi wymagających obliczeniowo naukowych przepływów pracy, symulacji i zadań AI.
Komunikat systemowy Komunikat systemowy (czasami nazywany meta monitem) prowadzi do zachowania systemu, dostosowując go do Microsoft zasad sztucznej inteligencji i oczekiwań użytkowników. Na przykład może zawierać instrukcje, takie jak "Nie udostępniaj informacji ani nie twórz treści, które mogą spowodować szkodę fizyczną, emocjonalną lub finansową".

Kluczowe funkcje i możliwości

Najważniejsze funkcje i możliwości opisane tutaj przedstawiają, do czego zostało zaprojektowane rozwiązanie Discovery i jak działa w ramach obsługiwanych zadań.

Interfejs języka naturalnego

Użytkownicy wchodzą w interakcję z Microsoft Discovery przy pomocy asystenta konwersacyjnego, który rozumie żądania w języku naturalnym i konwertuje je na ustrukturyzowany plan, wykorzystując dostępne narzędzia i przepływy pracy. Takie podejście pomaga naukowcom i inżynierom przejść od pytania badawczego do praktycznego workflow bez ręcznego łączenia wielu systemów. W razie potrzeby Copilot korzysta z zintegrowanych obliczeń i narzędzi, takich jak symulacje, zapytania bazodanowe czy uruchomienia modeli, oraz wspiera iteracyjne udoskonalanie poprzez dialog. Takie podejście obniża barierę korzystania z zaawansowanych narzędzi badawczo-rozwojowych, pozwalając użytkownikom stopniowo dostosowywać i eksplorować przepływy pracy w tym samym interfejsie.

Architektura wielu agentów

Discovery korzysta z systemu wieloagentowego, w którym klienci mogą wdrażać wyspecjalizowanych agentów AI, z których każdy specjalizuje się w określonej dziedzinie (takiej jak chemia, biologia, fizyka, projektowanie układów scalonych i analiza danych) lub określonej funkcji (rozumowanie, symulacja i optymalizacja).

Agenci współpracują ze sobą, koordynowani przez Copilot i centralny wykres wiedzy. Mogą one opierać się na bogatej, połączonej bazie wiedzy, która integruje źródła danych przedsiębiorstwa i wiedzę naukową. Ta architektura umożliwia rozwiązywanie złożonych, krzyżowych problemów.

Na przykład jeden agent może analizować literaturę naukową, podczas gdy inny uruchamia symulację, a inny analizuje wyniki. Ta rozproszona inteligencja jest nazywana sztuczną inteligencją agentów. Nie jest to jeden monolityczny model, ale zespół modeli pracujących razem dla użytkownika.

Silnik wyszukiwania

Silnik Discovery to kluczowa funkcja w ramach Discovery, która umożliwia długotrwałe badania ukierunkowane na osiągnięcie celu oraz rozwiązywanie problemów przez dłuższy czas. Zamiast koncentrować się na krótkich, transakcyjnych interakcjach, Discovery Engine wspiera pracę długoterminową. Koordynuje rozumowanie, planowanie i wykonywanie między agentami, narzędziami, modelami i źródłami wiedzy.

Mechanizm odkrywania został zaprojektowany do złożonych scenariuszy badawczych, które wymagają podziału nadrzędnych celów, iteracyjnej eksploracji i integracji wyników w ramach wielu działań.

Silnik odkrywczy działa za pośrednictwem dwóch wzajemnie uzupełniających się komponentów: kognicji i zadań. Poznanie obejmuje bieżące rozumowanie i koordynację potrzebne do osiągania postępów w realizacji określonych celów. Zadania obejmują wybieranie odpowiednich agentów, narzędzi i źródeł danych oraz dostosowywanie wykonywania na podstawie wyników pośrednich i opinii użytkowników.

System zadań przechwytuje intencję użytkownika, strukturę i postęp. Zapewnia stałą reprezentację tego, co należy osiągnąć, jak sukces jest mierzony i jak praca rozwija się wraz z upływem czasu. Razem te składniki umożliwiają klientom delegowanie pracy, okresowe przeglądanie postępu i uściślinie kierunku zgodnie z potrzebami. Użytkownicy mogą zachować ludzki nadzór i kontrolę na każdym etapie procesu badawczego.

W ramach długotrwałych i iteracyjnych badań aparat odnajdywania utrzymuje ciągłość kontekstową między interakcjami, zachowując odpowiedni stan z wcześniejszej pracy, w tym cele, wyniki pośrednie, decyzje i wskazówki dla użytkowników. Ten trwały kontekst umożliwia systemowi wznowienie pracy między sesjami bez konieczności odtworzenia celów przez klientów ani odtworzenia wcześniejszych kroków.

Wykorzystując to, co zostało już zbadane lub ustalone, Discovery Engine wspiera stopniowy postęp, planowanie adaptacyjne i coraz spójniejszą realizację z upływem czasu. Użytkownicy zachowują kontrolę dzięki przeglądowi, udoskonalaniu i nadzorowi na każdym etapie.

Rozszerzalność

Discovery jest zaprojektowane tak, aby było rozszerzalne, umożliwiając klientom korzystanie ze swoich modeli (BYOM), integrowanie zastrzeżonych danych lub danych od firm trzecich za pomocą platform takich jak AI Foundry lub Azure Machine Learning (AML) oraz tworzenie indywidualnych agentów dostosowanych do konkretnych potrzeb branżowych. Podłącz modele wewnętrzne, istniejące dane laboratorium, bazy danych specyficzne dla domeny, a nawet niestandardowe agenty sztucznej inteligencji. Mechanizm wykrywania włącza te zasoby do grafu wiedzy i przepływów pracy. Ponadto Discovery wspiera narzędzia partnerskie i open-source. W wersji chmurowej rozwiązanie Discovery opiera się na platformie Azure i dziedziczy jej funkcje w zakresie zabezpieczeń, zgodności i ładu. W lokalnym wdrażaniu aplikacji Discovery korzysta z GitHub Copilot SDK do dostępu do modeli i działa w lokalnym środowisku użytkownika.

Integracja HPC

Ponieważ Discovery jest oparte na najnowocześniejszej infrastrukturze platformy Azure, natywnie integruje usługi Azure HPC i AI. Platforma może wdrażać obciążenia w klastrach procesora CPU/gpu na dużą skalę, uruchamiać symulacje oparte na chmurze (takie jak obliczeniowa dynamika płynów i dynamika molekularna) oraz korzystać z zaawansowanych modeli sztucznej inteligencji, takich jak niestandardowe modele uczenia maszynowego fizyki lub duże modele językowe (LLMs), zgodnie z potrzebami.

Rozumowanie wiedzy

Microsoft Discovery zapewnia zaawansowane rozumowanie wiedzy, łącząc wyselekcjonowane podstawy domeny z grafem wspomaganym, pobieranie i syntezę wspomaganą sztuczną inteligencją.

U podstaw Discovery oferuje usługę biblioteczki, z której badacze korzystają do organizowania swojej pracy i opierania jej na wyselekcjonowanych zbiorach literatury naukowej, artykułów i materiałów źródłowych dostosowanych do ich dziedziny. Ta podstawa zapewnia, że rozumowanie i analiza są zakotwiczone w zaufanych, odpowiednich źródłach od samego początku.

W oparciu o ten fundament Discovery jest natywnie zintegrowane z Wyszukiwanie AI platformy Azure za pośrednictwem Foundry. Umożliwia szybkie pobieranie między repozytoriami wewnętrznymi, literaturą zewnętrzną i połączonymi bazami danych. Użytkownicy mogą bezproblemowo wyszukiwać w różnych źródłach wiedzy bez ręcznego łączenia ani przełączania kontekstu.

Tym, co wyróżnia Discovery, jest sposób, w jaki analizuje różnorodne źródła wiedzy. Odnajdywanie wykracza poza tradycyjne wyszukiwanie semantyczne. Odkrywa lokalne szczegółowe informacje, takie jak konkretne fakty, jednostki i ustalenia oraz globalne zrozumienie, w tym motywy, wzorce i implikacje w całym korpusie. Dynamicznie łączy pobieranie na podstawie wektorów z rozumowaniem zorientowanym na graf w czasie wykonywania zapytania.

Takie podejście pozwala uniknąć kosztownego podsumowywania z góry podczas wydajnego skalowania bez poświęcania jakości odpowiedzi. Te możliwości razem pozwalają usłudze Discovery łączyć, umieszczać w kontekście i syntetyzować wiedzę w obrębie dużych i stale ewoluujących naukowych zbiorów danych. Rezultatem jest dokładniejsze rozumowanie, szybsze generowanie szczegółowych informacji i bardziej świadome badanie naukowe.

Uziemione cytaty

Gdy odpowiedzi są oparte na danych z internetu lub danych klienta, Microsoft Discovery może udostępniać cytowania w postaci hiperłączy, aby użytkownicy mogli uzyskać dostęp do wskazanych stron internetowych albo wewnętrznych dokumentów i baz danych użytych do uzasadnienia odpowiedzi i uzyskać więcej informacji na ten temat.

Zamierzone zastosowania

Z funkcji Discovery można korzystać w różnych zastosowaniach w wielu branżach. W poniższej tabeli wymieniono kilka przykładów przypadków użycia.

Branża/domena Scenario Korzyści dla użytkowników
Chemikalia i materiały naukowe Firmy opracowujące nowe materiały, chemikalia lub formuły (na przykład zaawansowane stopy, polimery, materiały półprzewodnikowe, chemia baterii, energia odnawialna, zrównoważona technologia), które chcą przyspieszyć badania. Użytkownicy mogą szybko generować i testować hipotezy w celu uściślinia formuł przy użyciu skoordynowanych przepływów pracy sztucznej inteligencji. Odkrycie umożliwia naukowcom symulowanie właściwości materiału, złożonych reakcji chemicznych i procesów fizycznych. Kompromisy wydajności są oceniane w celu zidentyfikowania optymalnych konfiguracji. Odnajdywanie pomaga skrócić czas i koszt eksperymentowania, automatyzując aranżację narzędzi, przeglądając odpowiednią literaturę i umożliwiając iteracyjne cykle projektowania. Wykrywanie zapewnia identyfikowalność i powtarzalność.
Farmaceutyki i nauki o życiu Zespoły farmaceutyczne i biotechnologiczne pracujące nad odkrywaniem leków, genomiką lub badaniami biomedycznymi z złożonymi etapami i ogromnymi zestawami danych. Odkrycie może pomóc naukowcom syntetyzować literaturę biomedyczną, identyfikować obiecujących kandydatów na leki i projektować eksperymenty przy użyciu modeli predykcyjnych. Automatyzacja wczesnego etapu badań przesiewowych i generowania hipotez pozwala klientom skupić się na podejmowaniu decyzji i walidacji. Automatyzacja może potencjalnie przyspieszyć proces odkryć i ujawnić nowe spostrzeżenia na podstawie danych z różnych dziedzin.
Projektowanie półprzewodników i elektroniki Firmy projektujące nowe architektury półprzewodników lub materiały, w których optymalizacja w tysiącach parametrów i symulacji ma kluczowe znaczenie. Odnajdywanie umożliwia inżynierom automatyzowanie przepływów pracy symulacji, eksplorowanie alternatywnych rozwiązań projektowych i analizowanie wyników na dużą skalę. Platforma obsługuje szybszą iterację w kierunku bardziej wydajnych lub zaawansowanych projektów mikroukładów poprzez koordynowanie symulacji opartych na fizyce i optymalizacji opartej na sztucznej inteligencji.
Produkcja i zaawansowana inżynieria Producenci w sektorach motoryzacyjnych, lotniczych lub przemysłowych dążących do optymalizacji procesów projektowania i produkcji produktów. Inżynierowie mogą używać Discovery do przeprowadzania wirtualnych symulacji prototypowych na dużą skalę, testując tysiące wariantów projektowych pod względem wydajności, wagi i trwałości. W inżynierii procesowej platforma pomaga dostroić parametry w celu poprawy wydajności i jakości. Discovery pozwala koordynować symulacje i analizować wyniki w odpowiednim kontekście, co sprzyja szybszemu wprowadzaniu innowacji i podejmowaniu bardziej świadomych decyzji.

Modele i dane treningowe

Microsoft Discovery korzysta z różnych modeli sztucznej inteligencji, aby wpływać na doświadczenia użytkowników.

Wdrażanie w chmurze: W ramach wdrożenia w chmurze użytkownicy uzyskują dostęp do modeli za pośrednictwem Azure OpenAI Service za pośrednictwem Azure AI Foundry. Stosowane modele to, ale nie ograniczają się do: OpenAI gpt-5, OpenAI gpt-5.2, OpenAI gpt-5.4, OpenAI gpt-5.4-mini, OpenAI gpt-5.5 oraz OpenAI Text Embedding 3 (mały). Aby uzyskać informacje na temat danych szkoleniowych, ewaluacji i odpowiedzialnych zagadnień dotyczących sztucznej inteligencji dla modeli Azure OpenAI, zobacz Notatkę dotyczącą przejrzystości dla Azure OpenAI na platformach Azure AI.

Aplikacja lokalna: W lokalnym wdrażaniu aplikacji użytkownicy uzyskują dostęp do modeli za pośrednictwem SDK GitHub Copilot. Dostępne modele zależą od subskrypcji GitHub Copilot użytkownika oraz modeli dostępnych w jego planie. Informacje o danych treningowych, ocenie i odpowiedzialnych aspektach AI dla modeli dostępnych przez GitHub Copilot można znaleźć w dokumentacji GitHub Copilot.

Performance

W tej sekcji opisano warunki i środowisko, w których Discovery powinien działać niezawodnie. Opisuje również typy danych wejściowych akceptowanych przez platformę, dane wyjściowe, które generuje, oraz obsługiwane języki.

Modalities

Zamierzone dane wejściowe Opis Oczekiwane dane wyjściowe
Język naturalny Tekstowe prompty konwersacyjne, cele badawcze i instrukcje agenta przesyłane za pośrednictwem interfejsu Discovery Copilot. Podsumowania badań, ślady rozumowania, syntezy literatury i odpowiedzi dialogowe.
Dokumenty bazy wiedzy Nieustrukturyzowane pliki do indeksowania wiedzy. Przykłady obejmują pliki PDF, CSV, TXT, Word (.docx), PowerPoint (.pptx) i Excel (.xlsx). Rozumowanie specyficzne dla danej dziedziny, raporty symulacyjne oraz przekształcone zbiory danych. W ramach wdrożenia w chmurze dane wyjściowe są przechowywane w wyznaczonych kontenerach usługi Azure Storage. W aplikacji lokalnej wyjścia są przechowywane w lokalnym systemie plików użytkownika.
Dane obliczeniowe Zasoby danych specyficzne dla domeny, pliki konfiguracji i skrypty używane jako dane wejściowe dla konteneryzowanych narzędzi naukowych (na przykład struktury molekularne lub projekty obwodów). Wygenerowane skrypty, fragmenty kodu i pliki danych ze strukturą.

Aby zapewnić spójne i niezawodne działanie, należy bezwzględnie kodować w UTF-8 wszystkie instrukcje i prompty agenta. Użycie niezgodnego formatowania, takiego jak artefakty formatowania RTF lub znaki powodujące błędy kodowania (na przykład Mojibake), może skutkować niepowodzeniami wykonywania lub nieoczekiwanym zachowaniem.

Languages

Discovery jest projektowane i oceniane dla języka angielskiego. Chociaż bazowe modele LLM mają nieodłączne wielojęzyczne możliwości rozumienia i generowania języka naturalnego, podpowiedzi systemowe platformy, interfejs użytkownika i kluczowe oceny zostały zoptymalizowane i zweryfikowane w języku angielskim na potrzeby tego wydania.

Użycie w innych językach może działać w praktyce, ale wykracza poza zakres testowanych i obsługiwanych zachowań dla bieżącej wersji.

Typy obciążeń

Discovery jest zoptymalizowane pod kątem złożonych, wieloaspektowych i długotrwałych wyzwań badawczych (zadań trwających od kilku godzin do kilku dni), które wymagają autonomicznej orkiestracji agentów AI. Nie jest przeznaczony do prostych, jednorazowych zapytań. Silnik odkryć poznawczych platformy adaptacyjnie przełącza się między szybkimi i powolnymi trybami rozumowania, celem rozkładania i rozwiązywania tych złożonych problemów.

Środowisko

Wdrożenie w chmurze: Discovery działa w bezpiecznym, Azure hostowanym środowisku chmurowym, wykorzystując izolację Virtual Network (VNet), Managed Identities oraz Role-Based Access Control (RBAC). Opiera się na skalowalnych pulach węzłów High-Performance Computing (HPC) (z opcjami CPU i GPU) do wykonywania intensywnych obciążeń obliczeniowych.

Aplikacja lokalna: Aplikacja lokalna działa na komputerze komputerowym użytkownika i uzyskuje dostęp do modeli za pomocą SDK GitHub Copilot, korzystając z konta GitHub użytkownika do uwierzytelniania. Dane są przetwarzane i przechowywane lokalnie na komputerze użytkownika. Lokalna aplikacja nie korzysta z infrastruktury sieciowej Azure ani zarządzanych tożsamości. Użytkownicy są odpowiedzialni za zabezpieczenie swojego lokalnego środowiska, w tym aktualizacje systemu operacyjnego, szyfrowanie dysku oraz konfigurację sieci.

Ograniczenia

Zrozumienie ograniczeń Discovery ma kluczowe znaczenie dla zapewnienia, że korzystasz z niego w sposób bezpieczny i skuteczny. Korzystaj z usługi Discovery w swoich innowacyjnych rozwiązaniach lub aplikacjach, ale pamiętaj, że usługa Discovery nie została zaprojektowana z myślą o każdym możliwym scenariuszu.

Zapoznaj się z Discovery Code of Conduct, Kodeksem postępowania dotyczącym usług Microsoft Enterprise AI Services (dla organizacji) lub sekcją Kodeks postępowania w umowie Umowa o świadczenie usług firmy Microsoft (dla osób prywatnych). Podczas wybierania przypadku użycia należy również wziąć pod uwagę następujące kwestie:

  • Stronniczość automatyzacji i dryf pętli: Discovery obsługuje półautonomiczne przepływy pracy oparte na agentach, co wiąże się z ryzykiem stronniczości automatyzacji. To uprzedzenie odnosi się do tendencji do nadmiernego ufania wynikom generowanym przez SI bez wystarczającej weryfikacji. W iteracyjnych przepływach pracy małe niedokładności mogą się z czasem nawarstwiać, co nazywa się dryfem pętli.

    Nadzór człowieka jest niezbędny, aby badania przebiegały właściwie i były zgodne z założeniami naukowymi. Zastosowania, które nie uwzględniają istotnej weryfikacji przez człowieka na kluczowych etapach podejmowania decyzji, nie są dobrze dostosowane do tej platformy w obecnej formie.

  • Stronniczość reprezentacji: Wyniki funkcji Discovery mogą odzwierciedlać braki równowagi obecne w literaturze naukowej lub w zbiorach danych wykorzystywanych do trenowania modeli leżących u jej podstaw. Odkrycie może nadmiernie przedstawiać dominujące perspektywy badawcze lub niedoreprezentowane pojawiające się i niedostatecznie zbadane obszary. Stosowanie wiedzy specjalistycznej i krytycznej oceny danych wyjściowych, w szczególności w przypadku pracy w nowatorskich lub interdyscyplinarnej dziedzinie, w których reprezentacja w danych szkoleniowych może być ograniczona.

  • Znaczenie czasowe danych: Wiedza naukowa szybko ewoluuje. Jeśli Discovery opiera się na statycznych lub nieaktualnych zbiorach danych, może zwracać nieaktualne wyniki lub pomijać najnowsze zmiany. (To ryzyko jest szczególnie istotne w szybko poruszających się dziedzinach, takich jak biologia syntetyczna lub odkrycie narkotyków oparte na sztucznej inteligencji). Regularnie oceniaj walutę źródeł danych i odpowiednio traktuj dane wyjściowe, zwłaszcza w przypadku badań wrażliwych na czas.

  • Ryzyko zmiennej wydajności i niedokładnych wyników: Gdy użytkownicy kierują zapytania do baz wiedzy dostarczonych przez klienta, jakość odpowiedzi i stopień ich oparcia na danych źródłowych w dużym stopniu zależą od struktury, kompletności i istotności danych stanowiących ich podstawę oraz od sposobu skonfigurowania agentów do wyszukiwania tych danych i wnioskowania na ich podstawie. W scenariuszach, w których baza wiedzy jest ograniczona, słabo ustrukturyzowana lub słabo zdefiniowana, system może generować odpowiedzi, które są niekompletne lub niewystarczająco ugruntowane.

    Aby zmniejszyć to ryzyko, Microsoft udostępnia przykładowego agenta referencyjnego w repozytorium GitHub, które demonstruje zalecane wzorce wykonywania zapytań w bazach wiedzy i wymuszania ograniczeń uziemienia. Użyj tego przykładu jako punktu wyjścia podczas tworzenia niestandardowych agentów i przepływów pracy oraz do zastosowania dodatkowej weryfikacji i przeglądu przez człowieka w przypadku przypadków użycia o dużym wpływie. Aby uzyskać więcej informacji, zobacz sekcję 10.

  • Zgodność łańcucha narzędzi: Odnajdywanie integruje się z różnymi narzędziami obliczeniowymi i modelami. Niezgodności w założeniach narzędzi (na przykład formaty wejściowe, zakresy parametrów lub przechowywanie wersji) mogą prowadzić do błędów wykonywania lub mylących wyników. Dokładnie przetestuj i zweryfikuj przepływy pracy orkiestracji narzędzi, szczególnie w przypadku integrowania składników niestandardowych lub innych niż Microsoft.

  • Dane klienta: Odpowiadasz za zarządzanie poufnością danych i kontrolami dostępu podczas korzystania z usługi. Nie wprowadzaj danych regulowanych, sklasyfikowanych ani wysoce poufnych, chyba że obowiązują odpowiednie mechanizmy kontroli i umowy.

  • Nasycenie konwersacji: W miarę jak rozmowy stają się długie, jakość odpowiedzi może stopniowo spadać. Gdy łączna konwersacja zbliża się do tego, co model może niezawodnie śledzić, wcześniejsze części mogą zostać podsumowane, aby zapewnić miejsce na nowe informacje. Podczas tego procesu niektóre szczegóły można uprościć, zmienić lub utracić, co może spowodować, że odpowiedzi mogą stopniowo tracić na dokładności lub jasności przekazu.

    Jeśli zauważysz pogorszenie w trakcie dłuższej wymiany, rozpoczęcie nowej rozmowy może pomóc przywrócić przejrzystość i poprawić jakość odpowiedzi.

  • Rozcieńczenie sygnału narzędzi: Ponieważ system uzyskuje dostęp do większej i większej puli agentów, jego możliwość wyboru najlepszych narzędzi dla zadania może ulec pogorszeniu. Aktywnie dobieraj listę agentów, z których system może korzystać, pod kątem odpowiednich dla Ciebie scenariuszy.

Niedozwolone sposoby użycia

Następujące użycia Discover są ściśle zabronione:

  • Rozwój broni: Nie można używać Discovery do wspierania prac nad projektowaniem, opracowywaniem, testowaniem ani wdrażaniem broni chemicznej, biologicznej, radiologicznej lub jądrowej ani jakiejkolwiek innej broni przeznaczonej do powodowania masowych szkód.
  • Szkodliwe aplikacje: Nie można używać Odnajdywania w sposób, który może spowodować fizyczne, psychologiczne, środowiskowe lub finansowe szkody dla osób, organizacji lub społeczeństwa. Ten zakaz obejmuje niebezpieczne eksperymenty, niewłaściwe użycie danych wyjściowych lub wdrożenie w kontekstach wysokiego ryzyka bez odpowiednich zabezpieczeń.
  • Naruszenie prawa lub przepisów: Nie możesz używać Discovery w sposób naruszający obowiązujące prawo, przepisy ani branżowe wymogi zgodności. Odpowiadasz za zapewnienie, aby korzystanie z platformy przez Ciebie było zgodne ze wszystkimi mającymi zastosowanie wymogami prawnymi i regulacyjnymi.
  • Obchodzenie systemów bezpieczeństwa: Próby obchodzenia, wyłączania lub zakłócania wbudowanych mechanizmów bezpieczeństwa Discovery, klasyfikatorów lub filtrów treści są surowo zabronione. Te systemy mają na celu zapewnienie odpowiedzialnego i bezpiecznego korzystania z platformy.

Oceny

Microsoft ocenił Discovery za pomocą ręcznych, niestandardowych ewaluacji opartych na strukturze oceny odpowiedzialnej SI z Foundry. Zespół przeprowadził oceny, uruchamiając starannie dobrany zestaw ustrukturyzowanych promptów na docelowej wersji. Używali kategorii ryzyka do systematycznego przeglądania zachowania systemu.

Ocena została zaprojektowana tak, aby odpowiedzieć na dwa podstawowe pytania. Czy Discovery zachowuje się bezpiecznie i spójnie, gdy klienci próbują wyprowadzić system poza jego przewidziane granice działania? Czy Discovery nadal opiera się wiernie na źródłach stanowiących podstawę?

Metodologia oceny

Oceny dotyczyły dwóch wymiarów zachowania systemu: bezpieczeństwa i uziemienia. W celu zapewnienia bezpieczeństwa ocena analizowała, czy Discovery odpowiednio odmówiło, przekierowało lub odpowiedziało bezpiecznie, gdy wezwania próbowały wywołać niedozwolone lub treści wrażliwe pod względem polityki, lub ominąć zabezpieczenia systemu. Powinna działać, pozostając użyteczna i zgodna z zasadami w przypadku nieszkodliwych próśb.

W celu uzyskania niezawodności ocena badała, czy Discovery pozostawała wierna dostarczanym kontekstom i pobieranym źródłom w scenariuszach, w których oczekiwano odpowiedzi opartych na źródłach.

Pożądane jest, aby Discovery odpowiadał spójnie w różnych wariantach promptów i kategoriach ryzyka. Discovery powinno obsługiwać adwersarialne dane wejściowe bez naruszania zasad. Powinna również generować odpowiedzi, które mają pełne oparcie w dostępnych źródłach stanowiących ich podstawę.

Nieoptymalne zachowanie obejmuje regresje w porównaniu z poprzednimi uruchomieniami lub testami porównawczymi oraz generowanie niebezpiecznych treści lub treści wrażliwych z punktu widzenia zasad. Obejmuje także udane przypadki obejścia zabezpieczeń lub niespójną obsługę podobnych poleceń. W scenariuszach uziemionych w szczególności zachowanie nieoptymalne obejmuje sfabrykowane szczegóły, nieprawidłowe przypisanie źródła lub twierdzenia niepoparte podanym kontekstem.

Curation danych

Zespół przygotował dane ewaluacyjne, aby systematycznie testować Discovery w kluczowych kategoriach ryzyka. Zestaw danych składał się z ustrukturyzowanych zapytań testowych przeznaczonych do badania zarówno w scenariuszach realistycznych, jak i wrogich. Polecenia były wyraźnie ukierunkowane na cztery obszary ryzyka:

  • Prawa autorskie i ekspozycja na własność intelektualną
  • Generowanie szkodliwej lub wrażliwej na przepisy treści
  • Bezpośrednie i pośrednie próby jailbreaku
  • Groundedness

Każda kategoria obejmowała warianty nieszkodliwe i adwersarialne, tak aby ocena mierzyła zachowanie na granicach decyzyjnych, a nie tylko przypadki oczywistych błędów.

Aby upewnić się, że zestaw danych odzwierciedlał rzeczywiste użycie Discovery (a nie wyłącznie syntetyczne testy obciążeniowe), polecenia odzwierciedlały rzeczywiste procesy pracy w Discovery. Przykłady obejmowały pomoc w przepływie pracy naukowej i scenariusze syntezy wiedzy dostosowane do przypadków użycia produktu.

Walidacja

Zastosowano wiele kontroli jakości i ważności w celu zapewnienia niezawodności i integralności zestawu danych oceny. Zespół usunął duplikaty i ujednolicił polecenia, aby wyeliminować niejednoznaczności i niezamierzone uprzedzenia. Ręcznie przeglądali etykiety kategorii ryzyka, aby potwierdzić zgodność z definicjami polityk. Zespół powtórzył podzbiór podpowiedzi na podstawie modeli bazowych dostarczonych przez Foundry, aby potwierdzić oczekiwane rozdzielenie zachowań między bezpiecznymi a niebezpiecznymi reakcjami. Zachowali również regresyjne prompty z poprzedniego wydania, aby wspierać porównania podłużne między wydaniami. Zespół przeprowadził oceny wdrożenia w chmurze z wykorzystaniem punktów końcowych Azure OpenAI Service. Lokalne wdrożenie aplikacji z wykorzystaniem GitHub Copilot SDK ma wykazywać porównywalne zachowanie dla tych samych modeli, choć różnice w filtrowaniu treści i kontrolach bezpieczeństwa między dwoma dostawcami modeli mogą powodować drobne różnice.

Metrics

W przypadku ugruntowania zespół sprawdzał, czy odpowiedzi systemu pozostawały wierne podanemu kontekstowi oraz czy wykrywał twierdzenia bez pokrycia lub sfabrykowane treści. Przechwycone metryki obejmują:

  • Nieuzasadnione współczynniki błędów atrybutów (tekst w języku angielskim)
  • Współczynniki wad uziemienia (tekst w języku angielskim)

W celu zapewnienia bezpieczeństwa niestandardowy zestaw oceny mierzył zdolność systemu do wykrywania i łagodzenia prób niewłaściwego użycia poprzez bezpieczną realizację, odchylenie lub odmowę. Przechwycone metryki obejmują:

  • Wynik zgodności z zasadami
  • Wykrywanie ryzyka i skuteczność ograniczania ryzyka
  • Dokładność klasyfikacji bezpieczeństwa zawartości
  • Bezpośredni współczynnik odporności na jailbreak
  • Wskaźnik odporności na pośredni jailbreak

Analiza porównawcza

Wyniki zostały zinterpretowane za pomocą porównawczego benchmarkingu w celu wykrywania regresji i weryfikowania stabilności w czasie. Każda wersja była oceniana względem dwóch punktów odniesienia: zachowania bazowego modelu dostarczonego przez Foundry na wspólnym podzbiorze monitów, oraz wyników historycznych z poprzedniej wersji, umożliwionych przez zachowany zestaw monitów regresyjnych. W połączeniu z tymi porównaniami przedstawiono przekrojowy pogląd na to, czy poziom bezpieczeństwa i niezawodności Discovery poprawiał się, był stabilny lub pogarszał się w różnych wersjach.

Ograniczenia metodologii oceny

Chociaż ta ocena zapewnia uporządkowany wgląd w bezpieczeństwo i rzetelność systemu Discovery, ma kilka ograniczeń. Ocena opiera się na starannie dobranym i ograniczonym zbiorze promptów. Pomimo wysiłków w celu odzwierciedlenia realistycznego i niepożądanego użycia tego zestawu danych nie można w pełni uchwycić zakresu rzeczywistych interakcji użytkowników ani pojawiających się wzorców nieprawidłowego użycia.

Ręczna weryfikacja i niestandardowa punktacja wprowadzają subiektywność i mogą prowadzić do różnic w interpretacji między oceniającymi. Oceny są również przeprowadzane w kontrolowanych ustawieniach ze wstępnie zdefiniowanymi monitami. Jednak mogą one nie w pełni odzwierciedlać dynamicznych, wieloetapowych lub zintegrowanych z narzędziami scenariuszy zaobserwowanych w środowiskach produkcyjnych.

Oceny ugruntowania są ograniczone przez dostępny kontekst i jakość wyszukiwania w momencie oceny i mogą nie dać się uogólnić na wszystkie źródła treści ani na zmieniające się zbiory danych.

Innym ograniczeniem jest to, że GPT-5.2 i GPT-5.4 były używane jako model oceny. Własne możliwości modelu ewaluatora, zachowanie rozumowania, wrażliwość na ryzyko i potencjalne uprzedzenia mogą mieć wpływ na wyniki oceny.

W rezultacie należy interpretować wyniki jako rezultaty oceny wspomaganej przez model, a nie jako ostateczne oceny bezpieczeństwa lub poprawności we wszystkich modelach oceniających.

Na koniec testowanie porównawcze przed wcześniejszymi przebiegami i modelami odniesienia może pomóc wykrywać regresje i względne ulepszenia, ale nie gwarantuje absolutnego bezpieczeństwa, uziemienia ani poprawności we wszystkich warunkach.

Składniki bezpieczeństwa i środki zaradcze

Discovery obejmuje wiele warstw zabezpieczeń i mechanizmów kontroli, które pomagają chronić użytkowników, dane klientów oraz integralność procesów badawczych.

W tej sekcji opisano aktywne składniki bezpieczeństwa, środki zaradcze i praktyki cyberbezpieczeństwa, o których klienci, integratorzy i operatorzy platformy powinni wiedzieć, kiedy korzystają z platformy.

Aktywne składniki bezpieczeństwa

Odnajdywanie używa kombinacji klasyfikatorów wejściowych, filtrów i zabezpieczeń na poziomie systemu, aby zapobiec niewłaściwemu użyciu i zmniejszyć ryzyko szkodliwych danych wyjściowych. Te komponenty zostały zaprojektowane tak, aby były zgodne z zasadami Odpowiedzialnej Sztucznej Inteligencji Microsoft i są stale aktualizowane w miarę rozwoju systemu Discovery.

Wdrożenie w chmurze: Kontrole bezpieczeństwa są zapewniane przez Foundry Guardrails, funkcję Microsoft do zakresu bezpieczeństwa i filtrowania treści, i domyślnie stosowane do wszystkich modeli stworzonych na platformie, skanujących treści w określonych punktach interwencji, aby wykryć i zablokować niebezpieczne lub nieodpowiednie treści zanim dotrą do modelu. Klienci mogą tworzyć niestandardowe bariery Guardrails i zarządzać poziomami powagi, w tym konfigurować bariery Guardrails jako mniej restrykcyjne, definiować wykrywane zagrożenia, konfigurować bariery Guardrails do oceny i monitorowania zachowania agenta, konfigurować progi bezpieczeństwa i oceniać wydajność modelu w różnych przypadkach użycia. Te możliwości obsługują proaktywne zarządzanie ryzykiem i bezpieczeństwo. Aby uzyskać więcej informacji na temat konfigurowania filtrów zawartości, zobacz Konfigurowanie filtrów zawartości (wersja klasyczna) — portal Microsoft Foundry (klasyczny) | Microsoft Learn.

Aby zarejestrować się w celu zatwierdzenia używania modeli bezpośrednio sprzedawanych przez Microsoft z zmodyfikowanymi zabezpieczeniami, możesz przesłać formularz Ograniczony przegląd dostępu: zmodyfikowane zabezpieczenia. W zakresie, w jakim zostaniesz zatwierdzony i spełnisz wszystkie wymagania dotyczące używania modelu ze zmodyfikowanymi zabezpieczeniami, będziesz mieć pełną kontrolę, w tym całkowite wyłączenie zabezpieczeń lub użycie tylko adnotacji. Należy pamiętać, że opcja wyłączenia poręczy jest dostępna tylko dla zarządzanych klientów.

Aplikacja lokalna: W przypadku wdrożenia aplikacji lokalnej kontrolę bezpieczeństwa zapewniają wbudowane polityki treści GitHub Copilot SDK oraz odpowiedzialne zabezpieczenia AI. Obejmują one filtrowanie treści, szybkie kontrole bezpieczeństwa oraz polityki użytkowania egzekwowane przez platformę GitHub Copilot. Lokalna aplikacja stosuje również własne zabezpieczenia na poziomie systemowym Discovery, w tym komunikaty systemowe i walidację danych wejściowych, aby dostosować zachowania do zasad Odpowiedzialnej AI Microsoft. Klienci korzystający z aplikacji lokalnej powinni zapoznać się z politykami akceptowalnego użytkowania GitHub Copilot, aby poznać szczegóły dotyczące zastosowanych mechanizmów bezpieczeństwa na warstwie modelu.

Środki zaradcze

Bezpieczeństwo i efektywność Discovery wynikają z ciągłej oceny i oceny ryzyka. Aby sprostać zagrożeniom, takim jak niedokładne odpowiedzi generowane przez sztuczną inteligencję, stronniczość automatyzacji i dryf pętli, Discovery podkreśla nadzór człowieka w pętli jako podstawową strategię zmniejszania ryzyka. Weryfikuj wyniki generowane przez AI w kluczowych punktach decyzyjnych, zwłaszcza w badaniach o dużym znaczeniu.

Platforma wspiera przejrzystość, udostępniając cytowania i źródła stanowiące podstawę wygenerowanych treści, w stosownych przypadkach, co pomaga klientom śledzić pochodzenie wygenerowanych treści i oceniać ich wiarygodność. W przypadku uziemionych przepływów pracy klienci są zachęcani do zapewnienia, że ich dokumenty bazy wiedzy są aktualne, dobrze ustrukturyzowane i istotne dla zamierzonego zakresu badań. Niezawodność danych wyjściowych jest bezpośrednio powiązana z jakością dostępnych źródeł uziemienia.

Discovery umożliwia klientom integrowanie własnych modeli, zestawów danych i agentów. Ta rozszerzalność pomaga zmniejszyć stronniczość i poprawić istotność w wyspecjalizowanych lub pojawiających się dziedzinach, w których modele ogólnego przeznaczenia mogą być niedostatecznie lepsze. Użytkownicy pracujący w niedostatecznie reprezentowanych lub wysoce wyspecjalizowanych domenach są zachęcani do korzystania z tej funkcji, aby lepiej dopasować zachowanie platformy do ich konkretnego kontekstu badawczego.

Środki cyberbezpieczeństwa

Architektura cyberbezpieczeństwa Discovery została zaprojektowana wokół modelu obrony w głębi. Konkretne sterowanie różni się w zależności od trybu wdrożenia.

Wdrożenie w chmurze

Poniższa sekcja opisuje aktywne środki wdrożenia chmury w tej wersji.

  • Zarządzanie tożsamościami i dostępem: Discovery wymusza zasadę najniższych uprawnień za pomocą Microsoft Entra ID i mechanizmu RBAC. Cały dostęp do płaszczyzny sterowania i płaszczyzny danych jest uwierzytelniany za pośrednictwem Microsoft Entra ID. Tożsamości zarządzane przypisane przez użytkownika (UAMI) są używane przez składniki platformy do uzyskiwania dostępu do zasobów Azure bez osadzonych wpisów tajnych. Role RBAC specyficzne dla platformy obsługują rozdzielenie obowiązków między operatorami, deweloperami i administratorami zabezpieczeń.
  • Bezpieczeństwo sieci: Wykrywanie wykorzystuje architekturę sieci prywatnej domyślnie. Wszystkie zasoby odnajdywania są tworzone z włączoną Azure Private Link domyślnie, co eliminuje narażenie na publiczne adresy IP. Interfejsy API płaszczyzny danych mają wyłączony dostęp do sieci publicznej na poziomie zasobu. Ruch jest ograniczany do sieci wirtualnych klientów (VNet) za pomocą prywatnych punktów końcowych, prywatnych stref DNS i sieciowych grup zabezpieczeń. Ta architektura obsługuje zasady dotyczące sieci bez zaufania i zmniejsza ogólną powierzchnię ataków platformy.
  • Ochrona danych: Dane klienta są chronione dzięki szyfrowaniu i izolacji dzierżawców. Szyfrowanie danych magazynowanych jest realizowane przez szyfrowanie zarządzane przez platformę Azure dla usług przechowywania i usług platformy. Szyfrowanie podczas przesyłania jest wymuszane przy użyciu protokołu HTTPS i protokołu Transport Layer Security (TLS) dla całej komunikacji między usługami i klientem. Dane klientów, grafy wiedzy i modele są izolowane na poziomie dzierżawy i nie są współdzielone między klientami. Klienci zachowują pełną własność i kontrolę nad swoimi danymi oraz mogą w dowolnym momencie eksportować lub usuwać zasoby.
  • Utwardzanie platformy: Infrastruktura obliczeniowa usługi Discovery jest utwardzana przy użyciu bazowych konfiguracji zabezpieczeń platformy Azure. Klastry superkomputerów i pule węzłów są wdrażane w infrastrukturze zarządzanej przez Azure zgodnie z standardami konfiguracji zabezpieczeń Azure. Przeglądy platformy śledzą zgodność z wymaganiami testu porównawczego zabezpieczeń w chmurze Microsoft, w tym konfiguracją protokołu TLS, rejestrowaniem diagnostycznym i użyciem prywatnego punktu końcowego. Ciągłe przeglądy zabezpieczeń identyfikują luki w konfiguracji i umożliwiają korygowanie za pośrednictwem aktualizacji infrastruktury i wymuszania zasad.
  • Rejestrowanie, monitorowanie i wykrywanie: Odnajdywanie integruje się z narzędziami do monitorowania i zabezpieczeń Azure w celu obsługi wykrywania i reagowania. Możesz włączyć dzienniki diagnostyczne dla zasobów platformy i kierować je do rozwiązań rejestrowania zarządzanych przez klienta. Łączność i dostępność są monitorowane przy użyciu proaktywnych kontroli kondycji i telemetrii platformy. Ustalenia dotyczące bezpieczeństwa i dryf konfiguracji podlegają przeglądowi w ramach bieżących ocen bezpieczeństwa platformy.

Zastosowanie lokalne

Poniższa sekcja opisuje środki bezpieczeństwa stosowane przy lokalnym wdrożeniu aplikacji.

Tożsamość i uwierzytelnianie: Lokalna aplikacja uwierzytelnia użytkowników za pośrednictwem konta GitHub, korzystając z SDK GitHub Copilot. Dostęp do możliwości modelu zależy od subskrypcji GitHub Copilot użytkownika oraz powiązanych uprawnień. Aplikacja lokalna nie wymaga żadnych danych uwierzytelniających Azure ani zarządzanych tożsamości.

Ochrona danych: Lokalna aplikacja przechowuje wszystkie dane w lokalnym systemie plików użytkownika. Wbudowane funkcje szyfrowania systemu operacyjnego (na przykład BitLocker w systemie Windows lub FileVault w systemie macOS) chronią przechowywane dane. Lokalna aplikacja szyfruje komunikację z usługą GitHub Copilot w trakcie transportu, korzystając z HTTPS i TLS. Dane klientów pozostają na komputerze użytkownika i nie są udostępniane innym użytkownikom ani najemcom.

Bezpieczeństwo aplikacji: Lokalna aplikacja podąża za cyklem życia Microsoft Secure Development Lifecycle (SDL). Aktualizacje są dystrybuowane za pomocą standardowych mechanizmów aktualizacji aplikacji, a aplikacja jest podpisana kodem, aby zapewnić integralność.

Oba tryby wdrożenia

Bezpieczne programowanie i zgodność: Discovery jest zgodne z Cykl bezpiecznego rozwoju (SDL) Microsoft i ciągłym modelem zgodności. Platforma centralnie monitoruje i analizuje błędy bezpieczeństwa, podatności oraz wymagania SDL na bieżąco. Discovery uczestniczy w programach ciągłego zarządzania SDL i lukami w zabezpieczeniach Azure, które wspierają audyty zgodności zewnętrznej, w tym audyty zgodności takie jak SOC, ISO i inne certyfikacje Azure. Takie podejście zapewnia ciągłą ocenę zabezpieczeń, a nie ocenę tylko w czasie wydania.

Wspólna odpowiedzialność

Wdrożenie w chmurze: Bezpieczeństwo w chmurze opiera się na modelu współdzielonej odpowiedzialności Azure. Discovery zabezpiecza platformę bazową, zarządzane usługi i płaszczyznę kontrolną. Klienci są odpowiedzialni za zabezpieczanie swoich subskrypcji, sieci wirtualnych, przypisań ról i zasad dostępu do danych. Zrozumienie tego podziału odpowiedzialności jest ważne dla klientów projektujących bezpieczne wdrożenia dostosowane do wymagań organizacji i zgodności.

Aplikacja lokalna: W przypadku wdrożenia aplikacji lokalnej użytkownik przejmuje większą odpowiedzialność za bezpieczeństwo swojego środowiska. Microsoft odpowiada za bezpieczeństwo samej aplikacji, mechanizmy aktualizacji oraz integralność integracji z GitHub Copilot SDK. Użytkownicy są odpowiedzialni za zabezpieczenie swojego lokalnego komputera, w tym za aktualizacje systemu operacyjnego, szyfrowanie dysku, bezpieczeństwo sieci oraz kontrolę dostępu. Użytkownicy powinni również upewnić się, że ich konto GitHub jest chronione silną autoryfikacją, w tym uwierzytelnianiem wieloskładnikowym.

Najlepsze praktyki dotyczące integracji i wdrażania Discovery

Odpowiedzialna sztuczna inteligencja to wspólne zobowiązanie między firmą Microsoft a jej klientami. Microsoft tworzy aplikacje sztucznej inteligencji z zabezpieczeniami, sprawiedliwością i przejrzystością, ale klienci odgrywają kluczową rolę w wdrażaniu i używaniu tych technologii w ich własnych kontekstach. Aby wspierać to partnerstwo, oferujemy następujące najlepsze rozwiązania dla osób wdrażających i użytkowników, aby pomóc klientom w efektywnej implementacji odpowiedzialnej sztucznej inteligencji.

Osoby wdrażające i użytkownicy końcowi powinni

  • Zachowaj ostrożność i monitoruj wyniki podczas korzystania z Discovery przy podejmowaniu decyzji o istotnych skutkach lub w obszarach wrażliwych: Decyzje o istotnych skutkach mogą wywoływać skutki prawne lub mieć znaczący wpływ na dostęp danej osoby do edukacji, zatrudnienia, usług finansowych, świadczeń rządowych, opieki zdrowotnej, mieszkalnictwa, ubezpieczenia lub pomocy prawnej. Mogą również spowodować fizyczne, psychologiczne lub finansowe szkody.

    Poufne domeny wymagają szczególnej uwagi ze względu na potencjalny nieproporcjonalny wpływ na różne grupy ludzi. Jeśli używasz sztucznej inteligencji do podejmowania decyzji w tych obszarach, upewnij się, że osoby biorące udział w projekcie mogą zrozumieć, w jaki sposób są podejmowane decyzje, decyzje odwoławcze i aktualizować wszelkie odpowiednie dane wejściowe.

  • Ocena zagadnień prawnych i regulacyjnych: Podczas korzystania z platform i rozwiązań sztucznej inteligencji należy ocenić potencjalne konkretne zobowiązania prawne i prawne, które mogą nie być odpowiednie do użycia w każdej branży lub scenariuszu. Platformy sztucznej inteligencji lub rozwiązania nie są przeznaczone i nie mogą być używane w sposób, który jest zabroniony w odpowiednich warunkach świadczenia usług i odpowiednich kodeksach postępowania.

Użytkownicy końcowi powinni

Użyj przejrzystych, określonych monitów: Upewnij się, że monity są jawne dotyczące celu, zakresu zadania i jakie dowody mają być używane. Jasny i skuteczny monit zwykle obejmuje:

  • Cel (to, czego próbujesz nauczyć się lub zdecydować).
  • Kontekst (założenia domeny, ograniczenia i kryteria sukcesu).
  • Źródła do użycia (do których należy odwoływać się baza wiedzy, dokumenty lub narzędzia).
  • Format danych wyjściowych (na przykład tabela, lista sklasyfikowana i plan eksperymentu).
  • Prośba o ugruntowanie w źródłach (cytaty lub możliwość prześledzenia źródeł, jeśli są dostępne).

Przykładowy monit

Korzystając z indeksowanych dokumentów bazy wiedzy w <temacie>, zaproponuj trzy testowalne hipotezy dla <CELÓW> BADAWCZYCH. Dla każdej hipotezy: (a) podsumuj potwierdzające ją dowody, (b) przytocz konkretne wykorzystane źródła oraz (c) wymień dwa do trzech eksperymentów służących do jej weryfikacji. Jeśli brak dowodów lub są one słabe, powiedz to wyraźnie i zasugeruj, jakich innych danych potrzeba.

  • Monitoruj spadek wydajności: Jakość wyników i stopień oparcia odpowiedzi na danych zależą od danych dostępnych do ich ugruntowania oraz od sposobu skonfigurowania agentów lub narzędzi. Wyniki mogą ulec zmianie w miarę rozwoju bazy wiedzy, narzędzi lub przepływów pracy. Aby wykryć dryf:

    • Okresowo ponownie uruchamiaj niewielki zestaw promptów benchmarkowych i porównuj wyniki pod kątem spójności, kompletności i oparcia na faktach.
    • Obserwuj znaki ostrzegawcze, takie jak mniejsze lub słabe cytaty, zwiększona niepewność, sprzeczne wnioski lub brakujące kluczowe ograniczenia.
    • Jeśli zaktualizujesz bazę wiedzy (dodaj lub usuń dokumenty), traktuj ją jako zmianę wersji i ponownie sprawdź krytyczne przepływy pracy.
    • Użyj przeglądu przez człowieka i drugiej metody weryfikacji dla pracy o dużym wpływie (przegląd eksperta domeny, niezależne obliczenia lub symulacja lub kontrolowane przebiegi testów).

  • W stosownych przypadkach zapewnij nadzór człowieka: Nadzór człowieka jest istotnym zabezpieczeniem podczas interakcji z aplikacjami AI. Stale ulepszamy nasze aplikacje sztucznej inteligencji, ale sztuczna inteligencja może nadal popełniać błędy. Wygenerowane dane wyjściowe mogą być niedokładne, niekompletne, stronnicze, niewyrównane lub nieistotne dla zamierzonych celów.

    Taka sytuacja może wystąpić z różnych powodów, takich jak niejednoznaczność w danych wejściowych lub ograniczeniach modeli bazowych. Należy przejrzeć odpowiedzi wygenerowane przez Discovery i zweryfikować, czy są zgodne z oczekiwaniami i wymaganiami.

  • Zrozumienie ryzyka nadmiernego polegania: Nadmierne poleganie może wystąpić, gdy użytkownicy akceptują nieprawidłowe lub niekompletne dane wyjściowe sztucznej inteligencji, głównie dlatego, że błędy w danych wyjściowych sztucznej inteligencji mogą być trudne do wykrycia. Te niedokładne dane wyjściowe są zwykle wynikiem, gdy podstawowe dowody są niekompletne lub nie są wyraźnie uziemione. Dzięki Discovery, to ryzyko może wzrosnąć w długich, iteracyjnych przepływach pracy (gdzie małe błędy mogą się nawarstwiać) oraz w sytuacjach, w których zakres bazy wiedzy jest ograniczony. Traktuj dane wyjściowe jako wsparcie decyzyjne, a nie zastąpienie decyzji, zwłaszcza w przypadku konsekwencji decyzji.

  • Zachowaj ostrożność podczas projektowania agenta sztucznej inteligencji w domenach poufnych: Jeśli projektujesz lub wdrażasz autonomiczne lub agentyczne przepływy pracy, które mogą wyzwalać nieodwracalne lub wysoce wpływające akcje (na przykład w domenach regulowanych lub krytycznych pod względem bezpieczeństwa), należy dodać zabezpieczenia. Może być konieczne użycie bram zatwierdzania, dostępu z najmniejszymi uprawnieniami, dzienników inspekcji lub zakresów akcji ograniczonych. Upewnij się, że osoby biorące udział w projekcie mogą zrozumieć, w jaki sposób zostały osiągnięte wyniki, i mogą w razie potrzeby kwestionować lub podejmować decyzje odwoławcze.

    Należy również podjąć inne środki ostrożności podczas tworzenia autonomicznych systemów AI działających jako agenci, zgodnie z dalszym opisem zawartym w Kodeksie postępowania usługi Microsoft Enterprise AI Services (dla organizacji) lub w sekcji „Kodeks postępowania” Umowy dotyczącej usług firmy Microsoft (dla osób fizycznych).

  • Przekaż opinię, aby pomóc ulepszyć Microsoft Discovery: Jeśli napotkasz problemy lub chcesz podzielić się opinią, w aplikacji Discovery Studio wybierz pozycję Przekaż opinię w prawym dolnym rogu. Możesz opisać, co się stało, i dołączyć odpowiednie szczegóły w formularzu opinii. Prześlij formularz, aby wysłać uwagi do zespołu Discovery.

Osoby wdrażające powinny

Użyj referencyjnego przykładowego agenta jako podstawy do projektowania agenta opartego na ugruntowanych danych: Discovery udostępnia referencyjnego przykładowego agenta w repozytorium GitHub. Agent demonstruje zalecane wzorce wykonywania zapytań dotyczących baz wiedzy klienta, wymuszania ograniczeń uziemienia i obsługi przypadków, w których brakuje dowodów lub są słabe.

W przykładzie pokazano, jak ograniczyć zakres pobierania do odpowiednich źródeł i wymagać jawnych cytatów lub możliwości śledzenia. Pokazano również, jak zmniejszyć ryzyko wystąpienia nieziemiernych lub spekulacyjnych danych wyjściowych podczas pracy z danymi dostarczonymi przez klienta.

  • Dostosowywanie i rozszerzanie przykładu na podstawie domeny, danych i kontekstu ryzyka: Traktuj przykładowego agenta odniesienia jako punkt wyjścia, a nie rozwiązanie gotowe do produkcji. Podczas tworzenia niestandardowych agentów i przepływów pracy warto dostosować logikę wyszukiwania, wymagania dotyczące ugruntowania odpowiedzi w źródłach, kroki walidacji oraz weryfikację z udziałem człowieka. Oprzyj swoich agentów i przepływy pracy na swojej konkretnej domenie, strukturze danych i profilu ryzyka. Takie podejście jest ważne w przypadku przepływów pracy agentów o dużym wpływie lub długotrwałym.

Implementuj silne kontrole tożsamości i dostępu (najmniejsze uprawnienia): W przypadku wdrożeń w chmurze Discovery wykorzystuje uwierzytelnianie Microsoft Entra ID oraz kontrolę dostępu opartą na rolach (RBAC), a wdrożenia powinni odzwierciedlać ten model, przyznając jedynie minimalne role wymagane dla każdego użytkownika lub obciążenia. Unikaj udzielania rozległych uprawnień roli "Właściciel" lub uprawnień na poziomie subskrypcji, z wyjątkiem sytuacji absolutnie koniecznych, i zamiast tego preferuj role o sprecyzowanym zakresie na poziomie grupy zasobów lub pojedynczego zasobu. Użyj zarządzanych tożsamości przypisanych przez użytkownika (UAMI) na potrzeby dostępu między usługami, aby nie polegać na osadzonych tajnych danych, i okresowo przeglądaj przypisania ról. W przypadku lokalnych aplikacji upewnij się, że użytkownicy uwierzytelniają się za pomocą kont GitHub z odpowiednimi uprawnieniami subskrypcyjnymi Copilot i egzekwuj uwierzytelnianie wieloskładnikowe na tych kontach.

Wzmocnij postawę sieci i domyślnie zachowaj prywatność zasobów: Do wdrożeń chmurowych Discovery jest zaprojektowany z domyślnym włączeniem Azure Private Link i wyłączonym dostępem do sieci publicznej dla API na płaszczyźnie danych; utrzymuj tę pozycję, ograniczając dostęp do zaufanych sieci wirtualnych (VNets) oraz korzystając z prywatnych punktów końcowych, stref DNS oraz grup bezpieczeństwa sieciowego (NSG). Jeśli twoja organizacja wymaga dodatkowego ograniczenia dostępu, możesz wdrożyć perymetr bezpieczeństwa sieci po wdrożeniu infrastruktury platformy dla dodatkowej ochrony zależnych usług PaaS, takich jak Cosmos DB, Azure SQL Server, Key Vault, kont Storage. Zmniejszenie narażenia publicznego zmniejsza obszar ataków i pomaga chronić przed kradzieżą poświadczeń używanych z niezaufanych lokalizacji sieciowych. W przypadku lokalnych wdrożeń aplikacji upewnij się, że komputer użytkownika jest w zabezpieczonej sieci oraz że połączenia wychodzące z usługą GitHub Copilot są dozwolone przez zapory organizacyjne.

Zachowaj włączone kontrole bezpieczeństwa i zweryfikowaj wszelkie zmiany progu bezpieczeństwa: W przypadku wdrożeń w chmurze Discovery domyślnie stosuje Foundry Guardrails / filtrowanie treści dla modeli stworzonych na platformie, a próby obejścia lub wyłączenia wbudowanych mechanizmów bezpieczeństwa są zabronione. Osoby wdrażające mogą tworzyć bariery zabezpieczające i zarządzać nimi w portalu Foundry, w tym konfigurować progi bezpieczeństwa i monitorowanie zachowania agenta; Jeśli zmienisz progi lub dostosujesz filtry, przetestuj te zmiany za pomocą reprezentatywnych monitów przed ogólnym wdrożeniem. Na przykład, dla tego wydania konfiguracja filtru zawartości obejmuje progi filtrowania danych wejściowych/wyjściowych (na przykład Przemoc/Nienawiść/Seksualność na poziomie "Średni", Samookaleczenia na poziomie "Wysoki") i umożliwia modele takie jak Jailbreak i wykrywanie Chronionych Materiałów. Zmiana tych ustawień może mieć wpływ zarówno na środowisko użytkownika, jak i wyniki bezpieczeństwa. Aby uzyskać więcej informacji, odwiedź dokumentację Bezpieczeństwo zawartości platformy Azure AI — Materiały Szybkiego Startu, samouczki, dokumentacja interfejsu API — narzędzia Foundry | Microsoft Learn. W przypadku lokalnych wdrożeń aplikacji mechanizmy bezpieczeństwa zapewniają wbudowane polityki treści w GitHub Copilot SDK. Tych kontroli nie należy omijać, a wdrożeńcy powinni weryfikować, czy polityki organizacyjne Copilot są odpowiednio skonfigurowane.

Przed skalowaniem dostępu przetestuj pod kątem bezpieczeństwa, uziemienia i niezawodności łańcucha narzędzi: Odnajdywanie jest oceniane przy użyciu zestawu ustrukturyzowanych monitów w różnych kategoriach ryzyka (prawa autorskie/adres IP, szkodliwa zawartość, próby jailbreaku i uziemioność). Testowanie porównawcze służy do wykrywania regresji w czasie. Należy zastosować podobną praktykę dla najważniejszych przepływów pracy.

Utwórz mały zestaw wzorcowych, całościowych scenariuszy, które odzwierciedlają docelowe przypadki użycia. Dołącz własne narzędzia, modele i zawartość bazy wiedzy. Ponownie uruchamiaj scenariusze przy każdej zmianie modeli, narzędzi, agentów lub zestawów danych. Ponieważ niezgodności w założeniach narzędzi (formaty, zakresy parametrów i przechowywanie wersji) mogą powodować błędy lub mylące wyniki, dokładnie weryfikuj przepływy pracy orkiestracji.

Ta praktyka jest szczególnie ważna w przypadku dołączania składników niestandardowych lub innych niż Microsoft. W przypadku scenariuszy o większym wpływie wymagaj przeglądu przez człowieka i niezależnej metody weryfikacji. Na przykład użyj przeglądu przez eksperta dziedzinowego lub kontrolowanych testów.

Włącz rejestrowanie i ciągłe monitorowanie odchyleń: Usługa Discovery obsługuje rejestrowanie i monitorowanie, umożliwiając włączenie i kierowanie dzienników diagnostycznych do rozwiązań do rejestrowania zarządzanych przez klienta. Odnajdywanie wykorzystuje proaktywne kontrole stanu i telemetrię do monitorowania łączności i dostępności. Włącz rejestrowanie tych zdarzeń, skonfiguruj alerty dotyczące powtarzających się niepowodzeń lub nietypowych wzorców błędów oraz okresowo przeglądaj wyniki analiz bezpieczeństwa i odchylenia konfiguracji w ramach bieżących ocen bezpieczeństwa platformy.

W przypadku dryfu wydajności i jakości wyników zmiany w bazie wiedzy, narzędziach, przepływach pracy lub agentach należy traktować jako zmiany wersji. Uruchom ponownie niewielki zestaw testów porównawczych, aby porównać spójność, kompletność i oparcie na źródłach. Znaki ostrzegawcze obejmują mniej lub słabsze cytaty, zwiększoną niepewność, sprzeczne wnioski lub brakujące kluczowe ograniczenia. Użyj tych sygnałów, aby uruchomić pogłębioną analizę i działania naprawcze.

Dowiedz się więcej o Microsoft Discovery

Aby uzyskać więcej wskazówek dotyczących odpowiedzialnego korzystania z odnajdywania, zalecamy zapoznanie się z przewodnikiem dotyczącym odpowiedzialnego używania, który zawiera najważniejsze zasady wdrażania funkcji opartych na sztucznej inteligencji. Więcej informacji można znaleźć tutaj:

Dowiedz się więcej o odpowiedzialnej sztucznej inteligencji:

  • Ostatnia aktualizacja o