Praca z rozszerzeniem Microsoft Foundry dla programu Visual Studio Code (wersja zapoznawcza)

Firma Microsoft Foundry oferuje ujednoliconą platformę do obsługi operacji sztucznej inteligencji w przedsiębiorstwie, konstruktorów modeli i tworzenia aplikacji. Ta podstawa łączy infrastrukturę klasy produkcyjnej z przyjaznymi interfejsami, zapewniając organizacjom możliwość tworzenia i obsługi aplikacji sztucznej inteligencji z ufnością.

Za pomocą narzędzia Foundry można wykonywać następujące czynności:

• Wdrażanie najnowszych modeli językowych firmy Microsoft, openAI, Meta, DeepSeek i nie tylko przy użyciu niezawodnego wykazu modeli

• Testowanie wdrożonych modeli w środowisku testowym.

• Szybkie rozpoczynanie pracy z tworzeniem aplikacji generacyjnych sztucznej inteligencji przy użyciu kolekcji wyselekcjonowanych szablonów kodu platformy Azure

• Konfigurowanie i wdrażanie agentów za pomocą Foundry Agent Service

Za pomocą rozszerzenia Foundry for Visual Studio Code można wykonać większość tego przepływu pracy bezpośrednio z poziomu programu Visual Studio Code. Zawiera również inne funkcje, takie jak szablony kodu, place zabaw i integracja z innymi rozszerzeniami i funkcjami programu VS Code.

W tym artykule pokazano, jak szybko rozpocząć korzystanie z funkcji rozszerzenia Foundry dla programu Visual Studio Code.

Ważne

Elementy oznaczone jako (wersja zapoznawcza) w tym artykule są aktualnie dostępne w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą nie być obsługiwane lub mogą mieć ograniczone możliwości. Aby uzyskać więcej informacji, zobacz Dodatkowe warunki użytkowania dla wersji zapoznawczych platformy Microsoft Azure.

Wymagania wstępne

Przed rozpoczęciem korzystania z rozszerzenia Foundry dla programu Visual Studio Code należy:

• Pobierz, zainstaluj i skonfiguruj Visual Studio Code. Więcej informacji: Pobieranie programu Visual Studio Code

• Twoja subskrypcja musi być poniżej limitu przydziału, aby wdrożyć nowy model w tym szybkim starcie. W przeciwnym razie musisz mieć wdrożony model czatu.

• Ustaw odpowiednie uprawnienia RBAC, aby tworzyć i zarządzać zasobami Foundry za pomocą rozszerzenia Visual Studio Code. Aby uzyskać więcej informacji, zobacz Kontrola dostępu oparta na rolach dla rozwiązania Foundry.

Instalacja

Po zainstalowaniu programu Visual Studio Code należy zainstalować rozszerzenie Foundry for Visual Studio Code.

Aby zainstalować rozszerzenie Foundry for Visual Studio Code, możesz użyć witryny Visual Studio Code Marketplace lub zainstalować je bezpośrednio z poziomu programu Visual Studio Code.

Instalowanie z witryny Visual Studio Code Marketplace

Aby zainstalować rozszerzenie Foundry for Visual Studio Code z witryny Visual Studio Code Marketplace, wykonaj następujące kroki:

1. Otwórz stronę rozszerzenia Foundry for Visual Studio Code.
2. Wybierz przycisk Zainstaluj.
3. Postępuj zgodnie z monitami, aby zainstalować rozszerzenie w programie Visual Studio Code.
4. Po zakończeniu instalacji otwórz program Visual Studio Code i sprawdź, czy rozszerzenie zostało pomyślnie zainstalowane z komunikatów o stanie.
5. Rozszerzenie powinno być teraz widoczne na podstawowym pasku nawigacyjnym po lewej stronie programu Visual Studio Code.

Instalowanie z poziomu programu Visual Studio Code

Aby zainstalować rozszerzenie Foundry for Visual Studio Code w programie Visual Studio Code, wykonaj następujące kroki:

1. Otwórz program Visual Studio Code.

2. Wybierz pozycję Rozszerzenia w okienku po lewej stronie.

3. Wybierz ikonę Ustawienia w prawym górnym rogu okienka rozszerzeń.

4. Wyszukaj i wybierz Foundry.

5. Wybierz pozycję Zainstaluj.

6. Na podstawie komunikatów statusu sprawdź, czy rozszerzenie zostało zainstalowane pomyślnie.

Wprowadzenie

Rozpocznij pracę z rozszerzeniem Foundry, wykonując następujące kroki.

Uwaga / Notatka

Aby uzyskać pełną listę funkcji dostępnych w rozszerzeniu, użyj palety poleceń. Wybierz F1 , aby otworzyć paletę poleceń i wyszukać plik Foundry. Poniższy zrzut ekranu przedstawia niektóre akcje dla Foundry.

Zaloguj się do zasobów

Zaloguj się do subskrypcji platformy Azure, aby uzyskać dostęp do zasobów, wykonując następujące czynności:

1. Wybierz ikonę platformy Azure na pasku nawigacyjnym programu VS Code.

2. Zaloguj się, wybierając Sign in to Azure... element w widoku Zasoby platformy Azure .

   

3. W sekcji "Zasoby" wybierz subskrypcję platformy Azure i grupę zasobów.

4. Wybierz opcję Foundry i kliknij prawym przyciskiem myszy na projekcie.

5. Wybierz Otwórz w rozszerzeniu Foundry.

   

Eksplorowanie rozszerzenia Foundry

Rozszerzenie Foundry zostanie otwarte we własnym widoku, a ikona narzędzia Foundry jest teraz wyświetlana na pasku nawigacyjnym programu VS Code. Rozszerzenie ma trzy główne sekcje: Zasoby, Narzędzia i Pomoc i Opinie.

• Zasoby: ta sekcja zawiera zasoby, do których masz dostęp w projekcie Foundry. Sekcja Zasoby jest głównym widokiem interakcji z usługami Foundry Services. Zawiera ona następujące podsekcje:

  • Modele: ta sekcja zawiera modele, których można użyć do tworzenia i wdrażania aplikacji sztucznej inteligencji. Widok Modele to miejsce, w którym można znaleźć wdrożone modele w projekcie Foundry.
  • Agenci: ta sekcja zawiera wdrożonych agentów w projekcie Foundry.
  • Zasoby: ta sekcja zawiera zasoby, które znajdują się w projekcie foundry.
    • Połączenia: ta podsekcja zawiera połączenia w projekcie Foundry. na przykład połączenia Bing Grounding.
    • Magazyny wektorów: ta podsekcja zawiera magazyny wektorów, które znajdują się w projekcie Foundry.
  • Wątki: ta sekcja zawiera wątki i uruchomienia z wdrożonego agenta w projekcie Foundry.

• Narzędzia: ta sekcja zawiera narzędzia, których można użyć do kompilowania i wdrażania aplikacji sztucznej inteligencji. Widok Narzędzia to miejsce, w którym można znaleźć narzędzia dostępne do wdrożenia, a następnie pracować z wdrożonymi modelami i agentami. Zawiera ona następujące podsekcje:

  • Katalog modeli: link do katalogu modeli, którego można użyć do odnajdywania i wdrażania modeli.
  • Plac zabaw dla modelu: link do placu zabaw dla modelu na potrzeby interakcji z wdrożonym modelem w projekcie Foundry.
  • Środowisko testowe agenta: link do środowiska testowego agenta do interakcji z wdrożonymi agentami w projekcie Foundry.

• Pomoc i opinie: Ta sekcja zawiera linki do dokumentacji, opinii, pomocy technicznej i oświadczenia o ochronie prywatności firmy Microsoft. Zawiera ona następujące podsekcje:

  • Dokumentacja: link do dokumentacji rozszerzenia Foundry.
  • GitHub: link do repozytorium GitHub dla rozszerzenia Foundry.
  • Zasady zachowania poufności informacji firmy Microsoft: link do zasad zachowania poufności informacji firmy Microsoft.
  • Dołącz do społeczności Foundry: Discord + Forum: link do serwera Discord społeczności Foundry.

Uwaga / Notatka

Aby dowiedzieć się więcej na temat pracy z agentami i wątkami w rozszerzeniu Foundry, zobacz artykuł Praca z usługą agenta w programie Visual Studio Code .

Tworzenie projektu

Nowy projekt Foundry można utworzyć z poziomu widoku Rozszerzenia rozwiązania Foundry, wykonując następujące kroki:

1. Wybierz ikonę plus obok pozycji Zasoby w sekcji Zasoby w widoku Rozszerzenia Foundry.

   Możesz utworzyć nową grupę zasobów lub wybrać istniejącą.

2. Aby utworzyć nową grupę zasobów:

   1. W górnym centrum wybierz pozycję Utwórz nową grupę zasobów i naciśnij Enter.

      

   2. W górnym środku wprowadź nazwę grupy zasobów platformy Azure do użycia w polu tekstowym Wprowadź nową grupę zasobów i naciśnij Enter.

   3. W górnym środku wybierz lokalizację, której chcesz użyć z listy dostępnych lokalizacji, a następnie naciśnij Enter.

3. Aby użyć istniejącej grupy zasobów:

   • W górnym centrum wybierz grupę zasobów, której chcesz użyć z listy dostępnych grup zasobów, a następnie naciśnij Enter.

4. W górnym środku wprowadź nazwę projektu foundry do użycia w polu tekstowym Enter project name (Wprowadź nazwę projektu ) i naciśnij Enter.

   

Po wdrożeniu projektu zostanie wyświetlone okno podręczne z komunikatem Project deployed successfully (Projekt został pomyślnie wdrożony).

Aby wdrożyć model w nowo utworzonym projekcie, wybierz przycisk Wdróż model w oknie podręcznym. Ta akcja spowoduje otwarcie strony Katalog modeli w widoku Rozszerzenia rozwiązania Foundry, aby wybrać żądany model do wdrożenia.

Projekt Foundry domyślny

Po otwarciu projektu w rozszerzeniu Foundry zostanie on ustawiony jako projekt domyślny.

Przełącz projekt domyślny, wykonując następujące kroki:

1. Kliknij prawym przyciskiem myszy projekt Foundry i wybierz opcję Przełącz projekt domyślny w rozszerzeniu platformy Azure .

2. W górnym centrum wybierz projekt Foundry, którego chcesz użyć z listy dostępnych projektów, a następnie naciśnij Enter.

Wybrany projekt będzie teraz wyświetlał się jako Domyślny po nazwie projektu.

Praca z modelami

Rozszerzenie Foundry for Visual Studio Code umożliwia tworzenie, interakcję z dużymi modelami językowymi i wdrażanie ich z poziomu programu Visual Studio Code.

Eksplorowanie wszystkich modeli za pomocą wykazu modeli

Wykaz modeli w portalu Foundry to centrum do odnajdywania i używania szerokiej gamy modeli do tworzenia aplikacji generacyjnych sztucznej inteligencji.

Uzyskaj dostęp do wykazu modeli na kilka różnych sposobów:

• Polecenie Foundry: Otwórz katalog modeli w palecie poleceń.
• Wybierz ikonę plus obok pozycji Modele w sekcji Zasoby widoku Rozszerzenia Foundry.
• Wybierz opcję Katalog modeli w sekcji Narzędzia widoku rozszerzenia Foundry.

Otwieranie wykazu modeli z palety poleceń

Uzyskaj dostęp do wykazu modeli z palety poleceń, aby eksplorować i wdrażać wyselekcjonowane modele dostępne w narzędziu Foundry bezpośrednio z poziomu programu VS Code.

1. Wybierz F1 , aby otworzyć paletę poleceń.

2. Enter Foundry: Otwórz katalog modeli i naciśnij Enter.

3. Zostanie wyświetlona strona Wykaz modeli .

   

4. Filtruj katalog modeli według Publisher i/lub Task przy użyciu list rozwijanych w lewym górnym rogu strony.

5. Wyszukaj konkretny model przy użyciu paska wyszukiwania w górnej części strony.

Otwieranie wykazu modeli w sekcji Zasoby

Katalog modeli jest również dostępny w sekcji Zasoby widoku rozszerzenia Foundry.

W widoku rozszerzenia Foundry wybierz ikonę plus obok Modele, aby otworzyć wykaz modeli.

Wskazówka

Możesz również kliknąć prawym przyciskiem myszy pozycję Modele i wybrać opcję Wdróż nowy model sztucznej inteligencji, aby otworzyć katalog modeli, aby rozpocząć proces wdrażania.

Otwieranie wykazu modeli w sekcji Narzędzia

Katalog modeli jest również dostępny w sekcji Narzędzia widoku Rozszerzenia Foundry. Kliknij dwukrotnie link Wykaz modeli , aby otworzyć katalog modeli.

Wdrażanie modelu z katalogu modeli

Wdróż wybrany model w katalogu modeli, wykonując następujące kroki:

1. Wybierz pozycję Wdróż na platformie Azure bezpośrednio po wybranej nazwie modelu.

   

2. Zostanie wyświetlona strona Wdrażanie modelu .

   

3. Wprowadź nazwę wdrożenia modelu, która ma być używana w polu tekstowym Enter deployment name (Wprowadź nazwę wdrożenia ), a następnie naciśnij Enter.

   

4. Wybierz typ wdrożenia, który ma być używany na liście rozwijanej Typ wdrożenia i naciśnij Enter.

   

5. Wybierz wersję modelu do użycia z listy rozwijanej Wersja modelu i naciśnij Enter.

   

6. (Opcjonalnie) Wybierz tokeny na minutę do użycia w suwaku Tokeny na minutę i naciśnij Enter.

7. W lewym dolnym rogu wybierz przycisk Wdróż w rozwiązaniu Foundry , aby wdrożyć model.

8. Zostanie wyświetlone okno dialogowe potwierdzenia. Wybierz przycisk Wdróż , aby wdrożyć model w projekcie.

   

9. Po pomyślnym wdrożeniu model zostanie wyświetlony według nazwy wdrożenia z innymi wdrożonymi modelami w sekcji Modele w projekcie.

   

Wyświetlanie wdrożonych modeli

W widoku Rozszerzenie zasobów platformy Azure wybierz ikonę karetki przed sekcją Modele , aby wyświetlić listę wdrożonych modeli.

W rozwiniętej sekcji Modele zostanie wyświetlona lista wdrożonych modeli.

Wyświetlanie informacji o karcie modelu

Wybranie wdrożonego modelu powoduje otwarcie panelu zawierającego kilka podstawowych informacji:

• Informacje o wdrożeniu: Ta sekcja zawiera informacje o modelu:
  • Nazwa
  • Stan dostarczania
  • Typ wdrożenia
  • Informacje o limicie szybkości
  • Informacje o wersji
  • Nazwa modelu
  • Wersja modelu
• Informacje o punkcie końcowym: ta sekcja zawiera link identyfikatora URI docelowego, typ uwierzytelniania i klucz.
• Przydatne linki: ta sekcja zawiera przykładowe repozytorium kodu i linki samouczka umożliwiające rozpoczęcie tworzenia aplikacji sztucznej inteligencji.

Aktualizowanie modelu

Aby zaktualizować informacje o karcie modelu, wybierz przycisk Edytuj w prawym górnym rogu karty modelu.

Zaktualizuj żądane pola edytowalne, takie jak limit szybkości bezpośrednio w programie VS Code.

Aby zapisać zmiany, wybierz przycisk Zapisz w prawym górnym rogu karty modelu.

Eksplorowanie przykładowego kodu modelu

Utwórz przykładowy plik kodu, wykonując następujące kroki.

1. Kliknij prawym przyciskiem myszy wdrożony model i wybierz opcję Otwórz plik kodu .

   

2. W górnym centrum wybierz preferowany zestaw SDK do użycia na liście rozwijanej Wybierz preferowany zestaw SDK i naciśnij Enter.

   

3. W górnym środku wybierz preferowany język do użycia na liście rozwijanej Wybierz język i naciśnij Enter.

   

4. W górnym centrum wybierz preferowaną metodę uwierzytelniania, która ma być używana na liście rozwijanej Wybierz metodę uwierzytelniania , a następnie naciśnij Enter.

   

Przykładowy plik kodu

Ten przykładowy plik kodu w języku Python, który demonstruje podstawowe wywołanie interfejsu API uzupełniania czatu. Wywołanie jest synchroniczne:

Interakcja z modelami przy użyciu placu zabaw dla modelu

Porozmawiaj interaktywnie z modelem, zmień ustawienia i instrukcje systemowe przy użyciu placu zabaw dla modelu.

Model Playground jest dostępny w sekcji Narzędzia w widoku Foundry Extension. Kliknij dwukrotnie link Plac zabaw dla modelu , aby otworzyć plac zabaw dla modelu.

Możesz również otworzyć plac zabaw dla modelu, wykonując następujące czynności:

1. Kliknij prawym przyciskiem myszy wdrożony model i wybierz opcję Otwórz w środowisku zabaw .

   

2. Wyświetlana jest strona Plac zabaw.

   

3. Wpisz monit i wyświetl dane wyjściowe.

4. Ponadto możesz użyć opcji Wyświetl kod w prawym górnym rogu, aby wyświetlić szczegółowe informacje o sposobie programowego uzyskiwania dostępu do wdrożenia modelu.

5. Wybierz link Historia w lewym górnym rogu placu zabaw, aby wyświetlić historię czatów.

Oczyszczanie zasobów

Zasoby platformy Azure utworzone w tym artykule są rozliczane z subskrypcją platformy Azure. Jeśli nie spodziewasz się, że te zasoby będą potrzebne w przyszłości, usuń je, aby uniknąć naliczania dodatkowych opłat.

Usuń swoje modele

1. Na pasku nawigacyjnym programu VS Code odśwież rozszerzenie Foundry. W sekcji Zasoby rozwiń podsekcję Modele , aby wyświetlić listę wdrożonych modeli.

2. Kliknij prawym przyciskiem myszy wdrożony model, aby usunąć i wybierz opcję Usuń .

   

Usuń swoje narzędzia

Usuń połączone narzędzie, wykonując następujące czynności:

1. Otwórz witrynę Azure Portal
2. Wybierz grupę zasobów platformy Azure zawierającą narzędzie.
3. Wybierz przycisk Usuń .

Dalsze kroki

• Dowiedz się więcej o pracy z usługą agenta przy użyciu tego rozszerzenia programu Visual Studio Code.