Přehled nástroje Microsoft Foundry Toolkit pro Visual Studio Code

Microsoft Foundry Toolkit pro Visual Studio Code je rozšíření pro sestavování, testování, nasazování, vyhodnocování a monitorování aplikací a agentů AI. Použijte ho místně nebo se připojte ke službě Microsoft Foundry ke správě pracovního postupu vývoje umělé inteligence bez opuštění Visual Studio Code.

Foundry Toolkit je nový název sady AI Toolkit. Obsahuje také možnosti, které dříve poskytovalo samostatné rozšíření Microsoft Foundry, takže můžete v jednom rozšíření pracovat s místními prostředky a prostředky Foundry.

Kdo by měl používat Foundry Toolkit

Foundry Toolkit podporuje různé role a úrovně vývojového prostředí AI:

  • Vývojáři aplikací můžou do webových, desktopových a mobilních aplikací přidávat generující funkce umělé inteligence.
  • Technici umělé inteligence a strojového učení můžou porovnávat, přizpůsobovat, optimalizovat a nasazovat modely a agenty.
  • Datoví vědci a vědci můžou experimentovat s výzvami, modely, datovými sadami a kritérii hodnocení.
  • Vyučující a studenti můžou zkoumat koncepty generování umělé inteligence prostřednictvím interaktivních dětských hřiště a místních modelů.

Jak je pracovní prostor Toolkit uspořádán

Foundry Toolkit odděluje prostředky, které máte, od akcí, které můžete provést. Rozšíření má tři hlavní části.

Snímek obrazovky sady Foundry Toolkit v Visual Studio Code s oddíly Moje zdroje, Vývojářské nástroje a Nápověda a Zpětná vazba

Oddíl Purpose
Moje zdroje Prohlédněte si modely, agenty, nástroje, zdroje znalostí, hodnocení, nedávné zdroje, místní zdroje a zdroje v projektu Foundry.
Vývojářské nástroje Objevte modely a nástroje. Vytváření, ladění, nasazování, testování, vyhodnocování a monitorování aplikací a agentů AI
Nápověda a zpětná vazba Zeptejte se Copilota, začněte, otevřete dokumentaci a informace o vydání, nahlašujte problémy nebo se připojte ke komunitě.

S tím, jak se rozšíření vyvíjí, se můžou měnit přesné nástroje a typy prostředků. Pomocí zobrazení Toolkit můžete zobrazit funkce ve vaší nainstalované verzi.

Práce s modely

Foundry Toolkit poskytuje kompletní pracovní postup vývoje modelu:

  • Katalog modelů můžete použít ke zjišťování modelů od Foundry a externích poskytovatelů nebo k používání místních modelů prostřednictvím ONNX, Ollama a Foundry Local.
  • Porovnejte modely a testovací výzvy, parametry, obrázky a přílohy v Model Playground.
  • Převod, kvantování, optimalizace a vyhodnocení podporovaných modelů pro místní nasazení Windows
  • Jemně vylaďte podporované modely místně pomocí GPU nebo vzdáleně pomocí Azure Container Apps.
  • Profilování využití procesoru, GPU a NPU pro podporované úlohy Windows strojového učení

Vytvářejte a provozujte agenty

Foundry Toolkit podporuje promptové agenty a hostované agenty založené na kódu:

  • Pomocí Agent Builderu můžete nakonfigurovat pokyny, modely, proměnné, strukturované výstupy a nástroje bez vytvoření projektu kódu agenta.
  • Pomocí katalogu nástrojů můžete zjistit nástroje Foundry, servery MCP (Model Context Protocol) a sady nástrojů a pak je přidat do agentů.
  • Vytvořte projekt hostovaného agenta, když potřebujete vlastní kód, frameworky nebo logiku orchestrace.
  • Pomocí nástroje Agent Inspector můžete ladit místní agenty, kontrolovat odpovědi na streamování a volání nástrojů a vizualizovat provádění pracovního postupu.
  • Nasaďte hostované agenty do služby Foundry Agent Service ze zdrojového kódu nebo image kontejneru.
  • Otestujte nasazené agenty v hostované službě Agent Playground, zkontrolujte protokoly a trasování a spravujte verze.
  • Vyhodnoťte modely, výzvy a agenty pomocí datových sad, předdefinovaných vyhodnocovačů nebo vlastních kritérií.

Některé funkce sady nástrojů jsou k dispozici v předběžné verzi. Podrobnosti o vydání najdete v protokolu změn sady Foundry Toolkit .

Správa prostředků Foundry

Přihlaste se k Azure a nastavte projekt Foundry pro správu cloudových prostředků z Visual Studio Code. Máte tyto možnosti:

  • Projděte si projekty Foundry a zdroje dostupné pro váš účet.
  • Objevte a nasaďte modely z katalogu modelů Foundry.
  • Zobrazení koncových bodů modelu a ověřovacích informací
  • Vytvářejte, nasazujte, testujte a spravujte verze promptovacích agentů, pracovních postupů a hostovaných agentů
  • Projděte si nástroje a zdroje znalostí používané vašimi agenty.
  • Otevírejte evaluace, konverzace, protokoly a trace během vývoje.

Pro širší správu prostředků použijte portál Foundry. Pokud chcete automatizovat pracovní postup v kódu aplikace, použijte sady MICROSOFT Foundry SDK.

Související obsah

  • Last updated on