Planen und Verwalten von Kosten für Microsoft Foundry

Hinweis

Dieses Dokument bezieht sich auf das Portal für Microsoft Foundry(klassisch).

🔄 Wechseln Sie zur Microsoft Foundry-Dokumentation (neu), wenn Sie das neue Portal verwenden.

Die Verwaltung von Microsoft Foundry-Kosten beginnt mit der Planung. In diesem Artikel erfahren Sie, wie Sie die Ausgaben vor der Bereitstellung schätzen, Ausgaben in Echtzeit nachverfolgen und Warnungen einrichten, um Budgetüberraschungen zu vermeiden.

Was Sie lernen:

• Schätzen von Kosten mithilfe des Azure-Preisrechners
• Überwachen der tatsächlichen Ausgaben in verschiedenen Modelltypen
• Erstellen von Budgets und Warnungen zur Kontrolle von Ausgaben
• Grundlegendes zu Abrechnungsunterschieden zwischen von Azure gehosteten und Partnermodellen

In diesem Artikel wird beschrieben, wie Sie Kosten für Microsoft Foundry planen und verwalten. Verwenden Sie zunächst den Azure-Preisrechner, um die Kosten für Foundry zu planen, bevor Sie Ressourcen hinzufügen. Überprüfen Sie dann beim Hinzufügen von Azure-Ressourcen die voraussichtlichen Kosten. Nachdem Sie mit der Verwendung von Azure-Ressourcen begonnen haben, verwenden Sie Kostenverwaltungsfeatures, um Budgets festzulegen und Kosten zu überwachen.

Tipp

Foundry verfügt nicht über eine bestimmte Seite im Azure-Preisrechner. Foundry besteht aus mehreren anderen Azure-Diensten, von denen einige optional sind. In diesem Artikel wird gezeigt, wie Sie den Preisrechner verwenden, um die Kosten für diese Dienste zu schätzen.

Sie verwenden Foundry Tools im Foundry-Portal. Die Kosten für Foundry Tools sind nur ein Teil der monatlichen Kosten in Ihrer Azure-Rechnung. Sie werden allen Diensten und Ressourcen in Rechnung gestellt, die in Ihrem Azure-Abonnement verwendet werden, einschließlich Drittanbieterdiensten. Sie können auch prognostizierte Kosten überprüfen und Ausgabentrends identifizieren, um Bereiche zu finden, in denen Sie handeln möchten.

Voraussetzungen

Um Kosten anzuzeigen und zu analysieren, benötigen Sie Folgendes:

• Ein Azure-Konto mit Lesezugriff auf Kostenverwaltungsdaten
• Einer der unterstützten Azure-Kontotypen

Müssen Sie Zugriff gewähren? Erfahren Sie , wie Sie Zugriff auf Kostenverwaltungsdaten zuweisen.

Schätzen der Kosten vor der Verwendung von Foundry Tools

Verwenden Sie den Azure-Preisrechner , um die Kosten zu schätzen, bevor Sie Foundry Tools hinzufügen.

1. Suchen sie im Azure-Preisrechner nach einem Produkt, z. B. Azure Language in Foundry Tools, und wählen Sie es aus.

2. Wählen Sie mehr als ein Produkt aus, um die Kosten für mehrere Produkte zu schätzen. Suchen Sie beispielsweise nach Azure AI Search, und wählen Sie sie aus, um potenzielle Kosten hinzuzufügen.

Wenn Sie Ihrem Projekt neue Ressourcen hinzufügen, kehren Sie zu diesem Rechner zurück, und fügen Sie hier die gleiche Ressource hinzu, um Ihre Kostenschätzung zu aktualisieren.

Kosten im Zusammenhang mit Gießerei

Wenn Sie eine Foundry-Ressource erstellen, zahlen Sie die Verwendung von Diensten wie Azure OpenAI, Sprache, Inhaltssicherheit, Vision, Dokumentintelligenz und Sprache. Die Kosten variieren für jeden Dienst und für einige Features innerhalb der einzelnen Dienste. Weitere Details finden Sie auf der Preisseite der Foundry Tools .

Grundlegendes zum Abrechnungsmodell für Foundry Tools

Foundry Tools laufen in der Azure-Infrastruktur, die mit der Bereitstellung der neuen Ressource Kosten verursacht. Es ist wichtig zu verstehen, dass zusätzliche Infrastruktur Kosten verursachen kann. Sie müssen diese Kosten verwalten, wenn Sie Änderungen an bereitgestellten Ressourcen vornehmen.

Wenn Sie Foundry Tools-Ressourcen erstellen oder verwenden, werden Sie basierend auf den von Ihnen verwendeten Diensten in Rechnung gestellt. Zwei Abrechnungsmodelle sind für Foundry Tools verfügbar:

• Serverlose API-: Mit den Preisen für serverlose APIs wird Ihnen basierend auf den Abrechnungsinformationen das Foundry Tools-Angebot in Rechnung gestellt, das Sie verwenden.

• Verpflichtungsstufen: Mit der Preisgestaltung der Verpflichtungsstufe verpflichten Sie sich, mehrere Servicefeatures für eine feste Gebühr zu verwenden, sodass Sie eine vorhersehbare Gesamtkosten basierend auf den Anforderungen Ihrer Workload haben. Sie werden basierend auf dem von Ihnen ausgewählten Plan in Rechnung gestellt. Informationen zu verfügbaren Diensten, zur Anmeldung und zu den Überlegungen beim Kauf eines Plans finden Sie unter Schnellstart: Kaufen zu Preisen für Mindestabnahme.

Hinweis

Wenn Sie die Ressource über dem vom Verpflichtungsplan bereitgestellten Kontingent verwenden, bezahlen Sie die zusätzliche Nutzung, wie im Überlastungsbetrag im Azure-Portal beschrieben, wenn Sie einen Verpflichtungsplan kaufen.

Grundlegendes zum Abrechnungsmodell für Foundry-Modelle

Tokenbasierte Preise

Sprachmodelle verstehen und verarbeiten Eingaben, indem sie in Token unterteilt werden. Zur Referenz besteht jedes Token für typisch englischen Text aus ungefähr vier Zeichen. Modelle, die Bilder oder Audio verarbeiten können, unterteilen sie zu Abrechnungszwecken auch in Token. Die Anzahl der Token pro Bild- oder Audioinhalt hängt vom Modell und der Auflösung der Eingabe ab.

Die Kosten pro Token variieren je nach gewählter Modellreihe, aber in allen Fällen werden in Foundry bereitgestellte Modelle pro 1.000 Token in Rechnung gestellt. Beispielsweise wird für azure OpenAI-Chatabschlussmodell-Ableitungen pro 1.000 Token mit unterschiedlichen Tarifen in Abhängigkeit vom Modell- und Bereitstellungstyp berechnet. Für die meisten Modelle werden die Preise jetzt in Bezug auf 1 Millionen Token aufgeführt.

Tokenkosten gelten für Eingabe und Ausgabe. Angenommen, Sie haben ein JavaScript-Codebeispiel mit 1.000 Token, und bitten ein Modell, es in Python zu konvertieren. Sie zahlen ungefähr 1.000 Token für die anfängliche Eingabeanforderung, die gesendet wird, und weitere 1.000 Token für die empfangene Ausgabe, insgesamt also 2.000 Token.

In der Praxis würde für diese Art von Abschlussaufruf die Tokeneingabe/-ausgabe nicht exakt 1:1 sein. Eine Konvertierung von einer Programmiersprache in eine andere kann je nach vielen Faktoren zu einer längeren oder kürzeren Ausgabe führen. Ein solcher Faktor ist der dem Parameter zugewiesene max_tokens Wert.

Modelle, die direkt von Azure verkauft werden

Modelle, die direkt von Azure (einschließlich Azure OpenAI) verkauft werden, werden direkt belastet. Sie werden als Abrechnungszähler unter jeder Findry-Ressource angezeigt. Microsoft verarbeitet diese Abrechnung direkt. Wenn Sie Ihre Rechnung prüfen, werden Abrechnungszähler angezeigt, die Eingaben und Ausgaben für jedes verbrauchte Modell berücksichtigen.

Modelle von Partnern und Community

Modelle, die von Drittanbietern wie Cohere bereitgestellt werden, werden mit Azure Marketplace in Rechnung gestellt. Im Gegensatz zu den Abrechnungszählern von Microsoft sind diese Einträge der Ressourcengruppe zugeordnet, in der Ihre Foundry-Ressource bereitgestellt wird, anstatt direkt der Foundry-Ressource selbst. Da Ihnen die Modellanbieter die Kosten direkt in Rechnung stellen, werden die Eingaben und Ausgaben für jedes genutzte Modell unter der Kategorie Marketplace und DienstnameSaaS aufgeführt.

Von Bedeutung

Dieser Unterschied zwischen Modellen, die direkt von Azure (einschließlich Azure OpenAI) und Modellen von Partnern und Community verkauft werden, wirkt sich nur darauf aus, wie das Modell Ihnen zur Verfügung gestellt wird und wie Sie belastet werden. In allen Fällen werden Modelle in der Azure-Cloud gehostet, und es gibt keine Interaktion mit externen Diensten oder Anbietern.

Optimierte Modelle

Azure OpenAI-Feinabstimmungsmodelle werden basierend auf der Anzahl der Token in Ihrer Schulungsdatei abgerechnet. Die neuesten Preise finden Sie auf der offiziellen Preisseite.

Nachdem Ihr fein abgestimmtes Modell bereitgestellt wurde, werden Sie auch basierend auf folgenden Kriterien berechnet:

• Hosting-Stunden
• Ableitung pro 1.000 Token (aufgeschlüsselt nach Eingabenutzung und Ausgabeverwendung).

Die Kosten für Hostingstunden sind wichtig zu beachten, da nach der Bereitstellung eines optimierten Modells weiterhin stündliche Kosten anfallen, unabhängig davon, ob Sie es aktiv verwenden. Überwachen Sie die bereitgestellten fein abgestimmten Modellkosten genau.

Von Bedeutung

Wenn Sie ein benutzerdefiniertes Modell bereitstellen und die Bereitstellung mehr als fünfzehn (15) Tage inaktiv bleibt, wird die Bereitstellung gelöscht. Die Bereitstellung eines angepassten Modells ist inaktiv, wenn es vor mehr als 15 Tagen bereitgestellt wurde und während eines ununterbrochenen 15-Tage-Zeitraums keine Abschlussaufrufe oder Chat-Abschlussaufrufe erfolgt sind.

Durch das Löschen einer inaktiven Bereitstellung wird das zugrunde liegende angepasste Modell nicht gelöscht oder verändert. Das angepasste Modell kann jederzeit erneut bereitgestellt werden.

Jedes angepasste (fein abgestimmte) Modell, das bereitgestellt wird, verursacht stündliche Hostingkosten, unabhängig davon, ob Abschluss- oder Chatabschlussanrufe an das Modell getätigt werden.

HTTP-Fehlerantwortcode und Abrechnungsstatus

Wenn der Dienst die Verarbeitung durchführt, entstehen Ihnen auch dann Kosten, wenn der Statuscode „nicht erfolgreich“ (nicht 200) lautet. Beispielsweise ein 400-Fehler aufgrund eines Inhaltsfilters oder eingabegrenzwerts oder eines 408-Fehlers aufgrund eines Timeouts.

Wenn der Dienst keine Verarbeitung durchführt, entstehen Ihnen keine Kosten. Beispielsweise ein 401-Fehler aufgrund der Authentifizierung oder eines 429-Fehlers aufgrund einer Überschreitung des Satzgrenzwerts.

Kosten überwachen

Wenn Sie Foundry verwenden, fallen Kosten an. Die Kosten pro Azure-Ressourcennutzungseinheit variieren nach dem Zeitintervall (Sekunden, Minuten, Stunden und Tage) oder der Einheitennutzung (Bytes, Megabytes usw.). Sie können die anfallenden Kosten unter Kostenanalyse anzeigen.

Wenn Sie die Kostenanalyse verwenden, zeigen Sie Die Kosten in Diagrammen und Tabellen für unterschiedliche Zeitintervalle an. Beispiele hierfür sind „Tag“, „Aktueller Monat“, „Vorheriger Monat“ und „Jahr“. Sie können Kosten auch im Vergleich mit Budgets und vorhergesagten Kosten anzeigen. Wenn Sie im Laufe der Zeit zu längeren Zeiträumen wechseln, können Sie Ausgabentrends identifizieren, um zu erkennen, wo es zu hohen Ausgaben gekommen ist. Wenn Sie Budgets erstellen, können Sie auch einfach feststellen, wo diese überschritten werden.

Sie können auf Kosteninformationen entweder über das Microsoft Foundry-Portal oder über das Azure-Portal zugreifen.

Von Bedeutung

Ihre Foundry-Kosten sind nur eine Teilmenge Ihrer Gesamtanwendungs- oder Lösungskosten. Sie müssen die Kosten für alle Azure-Ressourcen überwachen, die in Ihrer Anwendung oder Lösung verwendet werden.

Konfigurieren von Berechtigungen zum Anzeigen von Kosten

Sie benötigen die Rollen KI-Benutzer und Cost Management-Leser in der Ressourcengruppe auf Abonnementebene, um die Kosten anzuzeigen.

Sie können auch die folgenden benutzerdefinierten Regeln erstellen:

• Microsoft.Consumption/*/read
• Microsoft.CostManagement/*/read
• Microsoft.Resources/subscriptions/read
• Microsoft.CognitiveServices/accounts/AIServices/usage/read

Hinweis

Sie benötigen die Rolle " Besitzer" im Bereich "Abonnement" oder "Ressourcengruppe", um benutzerdefinierte Rollen in diesem Bereich zu erstellen.

Verwenden Sie einen der folgenden Artikel, um eine benutzerdefinierte Rolle zu erstellen:

• Azure-Portal
• Azure CLI
• Azure PowerShell

Weitere Informationen zu benutzerdefinierten Rollen finden Sie unter Azure custom roles.

Um eine benutzerdefinierte Rolle zu erstellen, erstellen Sie eine JSON-Datei mit Rollendefinition, die die Berechtigung und den Bereich für die Rolle angibt. Im folgenden Beispiel wird eine benutzerdefinierte Foundry-Kostenleserrolle definiert, deren Bereich auf eine bestimmte Ressourcenebene festgelegt ist.

{
    "Name": "Foundry Cost Reader",
    "IsCustom": true,
    "Description": "Can see cost metrics in Foundry",
    "Actions": [
        "Microsoft.Consumption/*/read",
        "Microsoft.CostManagement/*/read",
        "Microsoft.Resources/subscriptions/read",
        "Microsoft.CognitiveServices/accounts/AIServices/usage/read"
    ],
    "NotActions": [],
    "DataActions": [],
    "NotDataActions": [],
    "AssignableScopes": [
        "/subscriptions/<subscriptionId>/resourceGroups/<resourceGroupName>/providers/Microsoft.CognitiveServices/accounts/<foundryResourceName>"
    ]
}

Ersetzen Sie <subscriptionId>, <resourceGroupName> und <foundryResourceName> durch Ihre tatsächlichen Werte.

Überwachung im Gießereiportal

1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche Foundry (neu) deaktiviert ist. Diese Schritte beziehen sich auf Foundry (klassisch).
2. Verwenden Sie die folgenden Abschnitte, um die Kosten zu überwachen.

Hinweis

Dies sind geschätzte Werte und spiegeln keine Rabatte oder sondervertragsmäßigen Preise wider, die auf Ihrer endgültigen Rechnung angezeigt werden können. Sie decken auch nur die Standardbereitstellungskosten ab, nicht reservierte Durchsatzkapazitäten.

Agentenkosten

1. Wählen Sie Bedienen in der oberen rechten Navigationsleiste aus.
2. Wählen Sie im linken Bereich die Option "Übersicht " aus.
3. Wählen Sie oben auf der Seite das Abonnement, ein oder mehrere Projekte und einen Datumsbereich aus.
4. Die Kachel " Geschätzte Kosten " zeigt Schätzungen aller Agents für die ausgewählten Projekte für die ausgewählten Termine an. Diese Schätzungen enthalten derzeit keine Kosten für Prompt-Agenten und Nicht-Foundry-Agenten.

Für individuelle Agentenschätzungen:

1. Auswählen von Objekten im linken Bereich
2. Wählen Sie die Registerkarte "Agents " aus.
3. In der Spalte "Geschätzte Kosten " werden monatliche Schätzungen basierend auf den Agentkonfigurations- und Nutzungsmustern angezeigt.

Weitere Informationen zu einem einzelnen Agenten:

1. Wählen Sie "Erstellen" in der oberen rechten Navigationsleiste aus.
2. Wählen Sie "Agents" im linken Bereich aus.
3. Wählen Sie einen Agent aus.
4. Wählen Sie die Registerkarte "Monitor " für den Agent aus.
5. Legen Sie den Datumsbereich in der oberen rechten Ecke fest.
6. Betriebsmetriken zeigen die Tokenkosten und die Nutzung für den angegebenen Bereich an.

Bereitstellungskosten für Modelle

1. Wählen Sie "Erstellen" in der oberen rechten Navigationsleiste aus.
2. Wählen Sie im linken Bereich "Modelle " aus.
3. Wählen Sie ein Modell aus.
4. Wählen Sie die Registerkarte "Monitor" aus .
5. Wählen Sie den Datumsbereich in der oberen rechten Ecke aus. Die Gesamtkosten werden zusammen mit einem geschätzten Kostendiagramm für den angegebenen Bereich angezeigt.

Wenn Sie den Link " Weitere Details anzeigen" oder den Link "Azure Cost Management " auswählen, werden Sie unter dem Abschnitt "Kostenverwaltung " zum Azure-Portal weitergeleitet. Die dort angezeigten Kosten spiegeln die aggregierten Gebühren für das gesamte Cognitive Services-Konto wider. Diese unterscheiden sich von den hier gezeigten Kosten, die nur für das ausgewählte Modell spezifisch sind. Diese Kosten sind nur in USD und nicht in der Abrechnungswährung des Benutzers verfügbar.

Hinweis

Token- und Anforderungsdiagramme können manchmal niedrigere Werte als die Ansicht " Geschätzte Kosten " anzeigen, da die Nutzungsereignisse für verspätete Ankunft möglicherweise nicht in diesen Diagrammen enthalten sind. Wenn ein Konflikt auftritt, verlassen Sie sich auf geschätzte Kosten als genaueste Ansicht, und beachten Sie, dass Ihre Azure Cost Management-Rechnung die endgültige Quelle der Wahrheit bleibt.

Überwachen im Azure-Portal

Hier sehen Sie ein Beispiel für die Überwachung der Kosten im Azure-Portal. Die Kosten werden nur als Beispiel verwendet. Ihre Kosten variieren je nach den von Ihnen verwendeten Diensten und der Nutzungsmenge.

1. Anmelden beim Azure-Portal

2. Sie können kosten für eine Ressourcengruppe oder für eine einzelne Foundry-Ressource anzeigen.

   Tipp

   So öffnen Sie Ihre Ressourcengruppe:

   1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche Foundry (neu) deaktiviert ist. Diese Schritte beziehen sich auf Foundry (klassisch).
   2. Wählen Sie Ihr Projekt und dann im linken Menü das Verwaltungscenter aus.
   3. Wählen Sie unter der Überschrift "Ressource " die Option "Übersicht" aus.
   4. Wählen Sie unter den Ressourceneigenschaften den Link aus, um ihn direkt im Azure-Portal zu öffnen.

3. Wählen Sie im Azure-Portal entweder für Ihre Ressourcengruppe oder die Foundry-Ressource die Kostenanalyse unter Kostenverwaltung aus.

4. Die Kostenübersicht wird angezeigt. Sie können auch Filter wie Tags auf Bereitstellungsebene und benutzerdefinierte Tags hinzufügen. So sehen Sie beispielsweise die Kosten basierend auf der Modellbereitstellung:

   

5. Wählen Sie Kosten nach Ressource>Ressourcen aus, um die Seite „Kostenanalyse“ zu öffnen.

6. Sie können die Kosten Ihrer Foundry-Ressource und die Aufteilung dieser Kosten auf mehrere Modellbereitstellungen unter dieser Ressource anzeigen.

   

Grundlegendes zur Kostenaufschlüsselung nach Meter

Um die Aufschlüsselung der Kosten zu verstehen, verwenden Sie das Kostenanalysetool im Azure-Portal. Führen Sie die folgenden Schritte aus, um die Rückschlusskosten zu erfassen:

1. Melden Sie sich beim Azure-Portal an, und wählen Sie die Ressourcengruppe aus, die das Projekt enthält, das Sie überwachen möchten.

   Tipp

   So öffnen Sie Ihre Ressourcengruppe:

   1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche Foundry (neu) deaktiviert ist. Diese Schritte beziehen sich auf Foundry (klassisch).
   2. Wählen Sie Ihr Projekt und dann im linken Menü das Verwaltungscenter aus.
   3. Wählen Sie unter der Überschrift "Ressource " die Option "Übersicht" aus.
   4. Wählen Sie unter den Ressourceneigenschaften den Link aus, um ihn direkt im Azure-Portal zu öffnen.

2. Wählen Sie im Azure-Portal unter "Kostenverwaltung" die Option "Kostenanalyse" aus.

3. Standardmäßig umfasst die Kostenanalyse die ausgewählte Ressourcengruppe.

   Von Bedeutung

   Bereich Kostenanalyse für die Ressourcengruppe, in der Sie die Foundry-Ressource bereitgestellt haben. Die Kostenzähler, die den Modellen von Partnern und der Community zugeordnet sind, werden unter der Ressourcengruppe anstelle der Foundry-Ressource angezeigt.

4. Ändern Sie Gruppieren nach in Verbrauchseinheit. Sie können nun sehen, dass für diese bestimmte Ressourcengruppe die Kostenquelle aus verschiedenen Modellreihen stammt.

   

Modelle, die direkt von Azure verkauft werden

Modelle, die direkt von Azure (einschließlich Azure OpenAI) verkauft werden, werden direkt belastet. Sie werden als Abrechnungszähler unter jeder Findry-Ressource angezeigt. Microsoft verarbeitet diese Abrechnung direkt. Wenn Sie Ihre Rechnung prüfen, werden Abrechnungszähler angezeigt, die Eingaben und Ausgaben für jedes verbrauchte Modell berücksichtigen.

Modelle von Partnern und Community

Modelle, die von Drittanbietern wie Cohere bereitgestellt werden, werden mit Azure Marketplace in Rechnung gestellt. Im Gegensatz zu Microsoft-Verbrauchseinheiten für die Abrechnung werden diese Einträge der Ressourcengruppe zugeordnet, in der Ihre Foundry-Instanz bereitgestellt wird, und nicht der Foundry-Ressource selbst. Da Ihnen die Modellanbieter die Kosten direkt in Rechnung stellen, werden die Eingaben und Ausgaben für jedes genutzte Modell unter der Kategorie Marketplace und DienstnameSaaS aufgeführt.

Von Bedeutung

Dieser Unterschied zwischen Modellen, die direkt von Azure (einschließlich Azure OpenAI) und Modellen von Partnern und Community verkauft werden, wirkt sich nur darauf aus, wie das Modell Ihnen zur Verfügung gestellt wird und wie Sie belastet werden. In allen Fällen werden Modelle in der Azure-Cloud gehostet und es gibt keine Interaktion mit externen Diensten oder Anbietern.

Überwachen der Kosten nach Ressource

Detailliertere Abrechnungsinformationen erhalten Sie durch Gruppieren der Kosten nach Ressource:

1. Wählen Sie in "Kostenanalyse" die Option "Kosten nach Ressource>" aus.

   

2. Jetzt können Sie die Ressourcen sehen, die die einzelnen Verbrauchseinheiten für die Abrechnung generieren. Um die Aufschlüsselung der Kosten zu verstehen, kann es helfen, Gruppe nach in Meter zu ändern und den Diagrammtyp auf Linie zu wechseln.

3. Azure OpenAI-Modelle und Microsoft-Modelle werden als Meter unter jeder Ressource des Foundry-Tools angezeigt.

4. Einige Anbietermodelle werden als Verbrauchseinheiten unter Ressourcen vom Typ „Global“ angezeigt. Das Wort "Global" bezieht sich nicht auf die SKU der Modellbereitstellung (z. B. globaler Standard). Wenn Sie über mehrere Foundry Tool-Ressourcen verfügen, enthält Ihre Rechnung einen Eintrag für jedes Modell für jede Foundry Tool-Ressource. Die Ressourcenzähler weisen das Format [Modellname]-[GUID] auf, wobei [GUID] ein Bezeichner ist, der einer bestimmten Ressource des Foundry Tools zugeordnet ist. Sie stellen fest, dass Abrechnungszähler die Eingaben und Ausgaben für jedes Modell, das Sie verwendet haben, berücksichtigen.

   

Es ist wichtig, den Umfang zu verstehen, wenn Sie kosten im Zusammenhang mit Foundry Tools bewerten. Wenn Ihre Ressourcen Teil derselben Ressourcengruppe sind, können Sie die Kostenanalyse auf dieser Ebene festlegen, um die Auswirkungen auf die Kosten zu verstehen. Wenn Ihre Ressourcen auf mehrere Ressourcengruppen verteilt sind, können Sie den Bereich auf Abonnementebene festlegen.

Wenn der Bereich auf einer höheren Ebene festgelegt ist, müssen Sie häufig weitere Filter hinzufügen, um sich auf die Azure OpenAI-Verwendung zu konzentrieren. Wenn der Bereich auf Abonnementebene festgelegt ist, werden viele andere Ressourcen angezeigt, die Ihnen im Kontext der Azure OpenAI-Kostenverwaltung möglicherweise nicht wichtig sind. Wenn Sie auf Abonnementebene arbeiten, empfehlen wir Ihnen, zum vollständigen Kostenanalysetool im Dienst Cost Management zu navigieren.

Im Folgenden finden Sie ein Beispiel für die Verwendung des Kostenanalysetools , um Die gesammelten Kosten für ein Abonnement oder eine Ressourcengruppe anzuzeigen:

1. Suchen Sie in der oberen Azure-Suchleiste nach Kostenverwaltung , um zur Vollständigen Serviceerfahrung zu navigieren, die weitere Optionen wie das Erstellen von Budgets umfasst.
2. Wählen Sie bei Bedarf Änderungen aus, wenn der Bereich: nicht auf die Ressourcengruppe oder das Abonnement zeigt, die Sie analysieren möchten.
3. Wählen Sie auf der linken Seite Berichterstellung + Analytik>Kostenanalyse aus.
4. Wählen Sie auf der Registerkarte "Alle Ansichten " die Option "Kumulierte Kosten" aus.

Das Kostenanalysedashboard zeigt die akkumulierten Kosten an, die je nachdem analysiert werden, was Sie für Scope angegeben haben.

Wenn Sie versuchen, einen Filter nach Dienst hinzuzufügen, können Sie Azure OpenAI nicht in der Liste finden. Diese Situation tritt auf, da Azure OpenAI mit einer Teilmenge von Foundry Tools gemeinsam ist, bei denen der Filter auf Dienstebene cognitive Services ist. Wenn Sie alle Azure OpenAI-Ressourcen in einem Abonnement ohne andere Foundry Tool-Ressourcen anzeigen möchten, richten Sie stattdessen den Fokus auf die Kategorie "Serviceebene: Azure OpenAI".

Überwachen der Kosten für Modelle in Azure Marketplace

Azure Marketplace bietet serverlose API-Bereitstellungen. Modellherausgeber rufen möglicherweise abhängig vom Angebot unterschiedliche Kosten auf. Jedes Projekt im Foundry-Portal verfügt über ein eigenes Abonnement mit dem Angebot, mit dem Sie die Kosten und den Verbrauch in diesem Projekt überwachen können. Verwenden Sie Microsoft Cost Management, um die Kosten zu überwachen:

1. Anmelden beim Azure-Portal

2. Wählen Sie das Symbol für das Portalmenü aus, um den linken Bereich zu öffnen.

   

3. Wählen Sie im linken Bereich Kostenverwaltung und Abrechnung und dann Kostenverwaltung aus.

4. Wählen Sie im linken Bereich unter dem Abschnitt Berichterstellung und Analyse die Option Kostenanalyse aus.

5. Wählen Sie eine Ansicht aus, z. B. Ressourcen. Die Kosten für die einzelnen Ressourcen werden angezeigt.

   

6. Wählen Sie in der Spalte Typ das Filtersymbol aus, um alle Ressourcen vom Typ microsoft.saas/resources zu filtern. Dieser Typ entspricht Ressourcen, die aus in Azure Marketplace verfügbaren Angeboten erstellt wurden. Zur Vereinfachung können Sie nach Ressourcentypen filtern, die die Zeichenfolge SaaS enthalten.

   

7. Für jedes Modellangebot pro Projekt wird eine Ressource angezeigt. Die Benennung dieser Ressourcen lautet [Modellangebotsname]-[GUID].

8. Sie können die Ressourcendetails erweitern, um Zugriff auf die einzelnen Kostenmessgeräte zu erhalten, die der Ressource zugeordnet sind.

   • Die Dienstebene stellt das Angebot dar.
   • Das Produkt ist das spezifische Produkt innerhalb des Angebots.

   Einige Modellanbieter verwenden möglicherweise für beides denselben Namen.

   

   Tipp

   Denken Sie daran, dass pro Projekt für jeden Plan, den Ihr Projekt abonniert hat, eine Ressource erstellt wird.

9. Wenn Sie die Details erweitern, werden die Kosten für jeden dem Angebot zugeordneten Zähler angezeigt. Jede Verbrauchseinheit kann verschiedene Kostenquellen nachverfolgen, z. B. Rückschlüsse oder Feinabstimmungen. Die folgenden Zähler werden angezeigt (wenn ihnen Kosten zugeordnet sind):

   Verbrauchseinheit	Gruppieren	Beschreibung
   paygo-inference-input-tokens	Basismodell	Kosten für Token, die als Eingabe für Rückschlüsse eines Basismodells verwendet werden.
   paygo-inference-output-tokens	Basismodell	Kosten, die mit den als Ergebnis der Inferenz des Basismodells generierten Token verbunden sind.
   paygo-finetuned-model-inference-hosting	Optimiertes Modell	Kosten für das Hosten eines Rückschlussendpunkts für ein optimiertes Modell. Dieser Wert stellt nicht die Kosten für das Hosten des Modells dar, sondern die Kosten für einen Endpunkt, der es bereitstellt.
   paygo-finetuned-model-inference-input-tokens	Optimiertes Modell	Kosten für Token, die als Eingabe für Rückschlüsse eines optimierten Modells verwendet werden.
   paygo-finetuned-model-inference-output-tokens	Optimiertes Modell	Kosten für Token, die als Ausgabe für Rückschlüsse des optimierten Modells generiert wurden.

Erstellen von Budgets

Vermeiden Sie Kostenüberläufe mit automatisierten Warnungen.Erstellen Sie Budgets , die Ihre Ausgabenbeschränkungen verfolgen, und richten Sie Warnungen ein, um Sie zu benachrichtigen, wenn sich Die Kosten nähern oder Schwellenwerte überschreiten.

Beste Praxis: Erstellen Sie Budgets und Warnungen für Azure-Abonnements und Ressourcengruppen als Teil einer Gesamtkostenüberwachungsstrategie.

Erstellen Sie Budgets mit Filtern für bestimmte Ressourcen oder Dienste in Azure, wenn Sie mehr Detailgenauigkeit bei Ihrer Überwachung wünschen. Mithilfe von Filtern können Sie sicherstellen, dass Sie nicht versehentlich neue Ressourcen erstellen, die mehr Geld kosten. Weitere Informationen zu Filteroptionen beim Erstellen eines Budgets finden Sie unter "Gruppen- und Filteroptionen".

Von Bedeutung

Während OpenAI eine Option für harte Grenzwerte hat, die verhindern, dass Sie Ihr Budget überschreiten, bietet Azure OpenAI diese Funktionalität derzeit nicht. Sie können die Automatisierung aus Aktionsgruppen als Teil Ihrer Budgetbenachrichtigungen starten, um erweiterte Aktionen zu ergreifen, aber diese Funktionalität erfordert zusätzliche benutzerdefinierte Entwicklung.

Exportieren von Kostendaten

Sie können Ihre Kostendaten in ein Speicherkonto exportieren. Das Exportieren von Daten ist hilfreich, wenn Sie oder andere Personen zusätzliche Datenanalysen für Kosten ausführen müssen. Beispielsweise können Finanzteams die Daten mithilfe von Excel oder Power BI analysieren. Sie können Ihre Kosten täglich, wöchentlich oder monatlich exportieren und einen benutzerdefinierten Datumsbereich festlegen. Exportieren von Kostendaten ist die empfohlene Abrufmethode für Kostendatasets.

Andere Kosten, die möglicherweise anfallen

Das Aktivieren von Fähigkeiten wie das Senden von Daten an Azure Monitor Logs und das Alerting führt zu zusätzlichen Kosten für diese Dienste. Diese Kosten sind unter den anderen Diensten und auf Abonnementebene sichtbar, sind aber nicht sichtbar, wenn der Fokus nur auf Ihre Foundry-Ressource gerichtet ist.

Verwenden der Azure-Vorauszahlungsgutschrift

Sie können für Modelle, die direkt von Azure verkauft werden, mit Ihrer Azure-Vorzahlungsgutschrift (zuvor als Geldverpflichtung bezeichnet) bezahlen. Sie können jedoch keine Azure Prepayment-Gutschrift verwenden, um Gebühren für andere Anbietermodelle zu bezahlen, da sie über Azure Marketplace in Rechnung gestellt werden.

Weitere Informationen finden Sie unter Azure-Preisrechner.

Verwandte Inhalte

• Foundry-Verwaltungscenter

• Foundry-Statusdashboard
• Erfahren Sie, wie Sie Cloudinvestitionen mit Cost Management optimieren können.
• Erfahren Sie mehr über die Verwaltung von Kosten mit der Kostenanalyse.
• Erfahren Sie, wie Sie unerwartete Kosten vermeiden.
• Nehmen Sie an dem angeleiteten Kurs Cost Management teil.