übersicht über Microsoft Foundry Toolkit für Visual Studio Code

Microsoft Foundry Toolkit für Visual Studio Code ist eine Erweiterung zum Erstellen, Testen, Bereitstellen, Auswerten und Überwachen von KI-Apps und -Agents. Verwenden Sie es lokal, oder stellen Sie eine Verbindung mit Microsoft Foundry her, um Ihren KI-Entwicklungsworkflow zu verwalten, ohne Visual Studio Code zu verlassen.

Foundry Toolkit ist der neue Name für AI Toolkit. Es enthält auch die Funktionen, die zuvor von der separaten Microsoft Foundry-Erweiterung bereitgestellt wurden, sodass Sie mit lokalen Ressourcen und Foundry-Ressourcen in einer Erweiterung arbeiten können.

Wer sollte Foundry Toolkit verwenden?

Foundry Toolkit unterstützt verschiedene Rollen und Ebenen der KI-Entwicklungserfahrung:

  • Anwendungsentwickler können generative KI-Features zu Web-, Desktop- und mobilen Apps hinzufügen.
  • KI- und Machine Learning-Techniker können Modelle und Agents vergleichen, anpassen, optimieren und bereitstellen.
  • Datenwissenschaftler und Forscher können mit Eingabeaufforderungen, Modellen, Datasets und Bewertungskriterien experimentieren.
  • Lehrkräfte und Schüler können generative KI-Konzepte durch interaktive Spielplätze und lokale Modelle erkunden.

Organisieren des Toolkit-Arbeitsbereichs

Foundry Toolkit trennt Ressourcen, die Sie von Aktionen haben, die Sie ausführen können. Die Erweiterung hat drei Hauptabschnitte.

Screenshot des Foundry Toolkits in Visual Studio Code mit den Abschnitten

Abschnitt Purpose
Meine Ressourcen Zeigen Sie Modelle, Agents, Tools, Wissensquellen, Auswertungen, aktuelle Ressourcen, lokale Ressourcen und Ressourcen in Ihrem Foundry-Projekt an.
Entwicklertools Entdecken Sie Modelle und Tools. Erstellen, Debuggen, Bereitstellen, Testen, Bewerten und Überwachen von KI-Apps und -Agents.
Hilfe und Feedback Copilot fragen, erste Schritte, öffnen Sie Dokumentations- und Freigabeinformationen, melden Sie Probleme, oder treten Sie der Community bei.

Die genauen Tools und Ressourcentypen können sich ändern, wenn sich die Erweiterung weiterentwickelt. Verwenden Sie die Toolkit-Ansicht, um die Features in Ihrer installierten Version anzuzeigen.

Arbeiten mit Modellen

Das Foundry Toolkit bietet einen End-to-End-Modellentwicklungsworkflow:

  • Verwenden Sie den Modellkatalog , um Modelle von Foundry und externen Anbietern zu ermitteln oder lokale Modelle über ONNX, Ollama und Foundry Local zu verwenden.
  • Vergleichen Sie Modelle und Testaufforderungen, Parameter, Bilder und Anlagen im Modell-Playground.
  • Konvertieren, Quantisieren, Optimieren und Auswerten unterstützter Modelle für die lokale Windows Bereitstellung.
  • Optimieren Sie unterstützte Modelle lokal mit einer GPU oder remote mit Azure Container Apps.
  • Profil CPU-, GPU- und NPU-Verwendung für unterstützte Windows Machine Learning-Workloads.

Agenten erstellen und betreiben

Foundry Toolkit unterstützt Prompt-Agents und gehostete, codebasierte Agents:

  • Verwenden Sie den Agent-Generator , um Anweisungen, Modelle, Variablen, strukturierte Ausgaben und Tools zu konfigurieren, ohne ein Agentcodeprojekt zu erstellen.
  • Verwenden Sie den Toolkatalog , um Foundry-Tools, MCP-Server (Model Context Protocol) und Toolboxs zu ermitteln und sie dann agents hinzuzufügen.
  • Erstellen Sie ein Gerüst für ein gehostetes Agentprojekt, wenn Sie benutzerdefinierten Code, Frameworks oder Orchestrierungslogik benötigen.
  • Verwenden Sie agent inspector , um lokale Agents zu debuggen, Streamingantworten und Toolaufrufe zu überprüfen und die Workflowausführung zu visualisieren.
  • Stellen Sie gehostete Agenten über den Foundry Agent Service aus Quellcode oder einem Containerimage bereit.
  • Testen Sie bereitgestellte Agenten im Playground für gehostete Agenten, überprüfen Sie Protokolle und Ablaufverfolgungen und verwalten Sie Versionen.
  • Bewerten Sie Modelle, Prompts und Agenten anhand von Datensätzen, integrierten Evaluatoren oder benutzerdefinierten Kriterien.

Einige Toolkit-Funktionen sind als Vorschau verfügbar. Lesen Sie das Änderungsprotokoll für das Foundry Toolkit, um Details zur Version zu erhalten.

Verwalten von Foundry-Ressourcen

Melden Sie sich bei Azure an, und legen Sie ein Foundry-Projekt fest, um Cloudressourcen aus Visual Studio Code zu verwalten. Sie haben folgende Möglichkeiten:

  • Durchsuchen Sie Foundry-Projekte und die ressourcen, die für Ihr Konto verfügbar sind.
  • Ermitteln und Bereitstellen von Modellen aus dem Foundry-Modellkatalog.
  • Zeigen Sie Modellendpunkte und Authentifizierungsinformationen an.
  • Erstellen, bereitstellen, testen und versionieren Sie Prompt-Agents, Workflows und gehostete Agents.
  • Durchsuchen Sie Tools und Wissensquellen, die von Ihren Agents verwendet werden.
  • Öffnen Sie während der Entwicklung Evaluationen, Konversationen, Protokolle und Traces.

Verwenden Sie für eine umfassendere Ressourcenverwaltung das Foundry-Portal. Verwenden Sie zum Automatisieren eines Workflows im Anwendungscode die Microsoft Foundry-SDKs.

Verwandte Inhalte

  • Last updated on