Microsoft Foundry Toolkit for Visual Studio Code overview (Omówienie zestawu narzędzi Microsoft Foundry Toolkit for Visual Studio Code)

Microsoft Foundry Toolkit for Visual Studio Code to rozszerzenie do tworzenia, testowania, wdrażania, oceniania i monitorowania aplikacji i agentów sztucznej inteligencji. Użyj go lokalnie lub nawiąż połączenie z usługą Microsoft Foundry, aby zarządzać przepływem pracy tworzenia sztucznej inteligencji bez opuszczania Visual Studio Code.

Foundry Toolkit to nowa nazwa zestawu narzędzi AI Toolkit. Obejmuje ona również możliwości, które zostały wcześniej udostępnione przez oddzielne rozszerzenie Microsoft Foundry, dzięki czemu można pracować z zasobami lokalnymi i zasobami foundry w jednym rozszerzeniu.

Kto powinien używać zestawu narzędzi Foundry Toolkit

Narzędzie Foundry Toolkit obsługuje różne role i poziomy środowiska programowania sztucznej inteligencji:

  • Deweloperzy aplikacji mogą dodawać funkcje generowania sztucznej inteligencji do aplikacji internetowych, klasycznych i mobilnych.
  • Inżynierowie sztucznej inteligencji i uczenia maszynowego mogą porównywać, dostosowywać, optymalizować i wdrażać modele i agentów.
  • Analitycy danych i naukowcy mogą eksperymentować z monitami, modelami, zestawami danych i kryteriami oceny.
  • Nauczyciele i uczniowie mogą eksplorować pomysły dotyczące generowania sztucznej inteligencji za pomocą interaktywnych placów zabaw i modeli lokalnych.

Sposób organizowania obszaru roboczego zestawu narzędzi

Zestaw narzędzi Foundry oddziela zasoby, które masz od akcji, które można wykonać. Rozszerzenie ma trzy główne sekcje.

Zrzut ekranu przedstawiający zestaw narzędzi Foundry Toolkit w Visual Studio Code z sekcjami Moje zasoby, Narzędzia deweloperskie i Pomoc i Opinie.

Section Purpose
Moje zasoby Wyświetl modele, agentów, narzędzia, źródła wiedzy, oceny, ostatnie zasoby, zasoby lokalne i zasoby w projekcie Foundry.
Narzędzia deweloperskie Odnajdywanie modeli i narzędzi. Tworzenie, debugowanie, wdrażanie, testowanie, ocenianie i monitorowanie aplikacji i agentów sztucznej inteligencji.
Pomoc i opinie Zapytaj Copilota, zacznij, otwórz dokumentację i informacje o wydaniu, zgłoś problemy lub dołącz do społeczności.

Dokładne narzędzia i typy zasobów mogą ulec zmianie w miarę rozwoju rozszerzenia. Użyj widoku Zestawu narzędzi, aby wyświetlić funkcje w zainstalowanej wersji.

Praca z modelami

Zestaw narzędzi Foundry Toolkit udostępnia kompleksowe przepływy pracy tworzenia modeli:

  • Użyj Katalogu modeli, aby odkrywać modele z Foundry i od dostawców zewnętrznych, albo korzystać z modeli lokalnych za pośrednictwem ONNX, Ollama i Foundry Local.
  • Porównaj modele oraz testuj prompty, parametry, obrazy i załączniki w Model Playground.
  • Konwertowanie, kwantyzowanie, optymalizowanie i ocenianie obsługiwanych modeli dla lokalnego wdrożenia Windows.
  • Dostosuj obsługiwane modele lokalnie przy użyciu procesora GPU lub zdalnie z Azure Container Apps.
  • Profile CPU, GPU i NPU usage for supported Windows machine learning workloads (Profilowanie użycia procesora CPU, procesora GPU i jednostek NPU w przypadku obsługiwanych obciążeń uczenia maszynowego Windows).

Tworzenie i obsługa agentów

Narzędzie Foundry Toolkit obsługuje agentów monitów i hostowanych agentów opartych na kodzie:

  • Użyj Agent Builder, aby skonfigurować instrukcje, modele, zmienne, ustrukturyzowane dane wyjściowe i narzędzia bez tworzenia projektu agenta w kodzie.
  • Użyj Katalogu narzędzi, aby wyszukiwać narzędzia Foundry, serwery MCP (Model Context Protocol) i zestawy narzędzi, a następnie dodawać je do agentów.
  • Wygeneruj szkielet projektu hostowanego agenta, gdy potrzebujesz niestandardowego kodu, frameworków lub logiki orkiestracji.
  • Użyj Agent Inspector, aby debugować lokalnych agentów, analizować odpowiedzi strumieniowe i wywołania narzędzi oraz wizualizować przebieg przepływu pracy.
  • Wdróż hostowane agenty do usługi Foundry Agent Service na podstawie kodu źródłowego lub obrazu kontenera.
  • Przetestuj wdrożonych agentów na placu zabaw dla hostowanego agenta, sprawdź dzienniki i ślady oraz zarządzaj wersjami.
  • Ocenianie modeli, monitów i agentów przy użyciu zestawów danych, wbudowanych ewaluatorów lub kryteriów niestandardowych.

Niektóre funkcje rozwiązania Toolkit są dostępne w wersji zapoznawczej. Przejrzyj dziennik zmian zestawu narzędzi Foundry, aby uzyskać szczegółowe informacje o wersji.

Zarządzanie zasobami usługi Foundry

Zaloguj się do platformy Azure i skonfiguruj projekt Foundry, aby zarządzać zasobami chmurowymi za pomocą programu Visual Studio Code. Masz następujące możliwości:

  • Przeglądaj projekty Foundry i zasoby dostępne na Twoim koncie.
  • Odkrywaj i wdrażaj modele z katalogu modeli Foundry.
  • Wyświetlanie punktów końcowych modelu i informacji o uwierzytelnianiu.
  • Twórz, wdrażaj, testuj i wersjonuj agentów promptów, przepływy pracy oraz hostowanych agentów.
  • Przeglądaj narzędzia i źródła wiedzy używane przez agentów.
  • Otwarte oceny, konwersacje, dzienniki i ślady podczas opracowywania.

Aby uzyskać szerszą administrację zasobami, użyj portalu Foundry. Aby zautomatyzować przepływ pracy w kodzie aplikacji, użyj zestawów SDK Microsoft Foundry.