Wartungsrichtlinie für generative KI-Modelle

Diese Seite beschreibt die Modellwartungsrichtlinie für die Foundation-Modell-APIs pay-per-token, Foundation Model APIs bereitgestellten Durchsatz, BatchInference mit ai_queryund Foundation Model Fine-Tuning-Angebote .

Um die modernsten Modelle weiterhin zu unterstützen, verwaltet Databricks Modelle über einen Lebenszyklus, der vom Update bis zum Ende des Ruhestands voranschreitet.

  • Update: Databricks wendet inkrementelle Updates auf ein Modell an, um Optimierungen bereitzustellen. Siehe Modellupdates.
  • Veraltet: Ein veraltetes Modell wird für neue Workloads nicht mehr empfohlen, bleibt jedoch in Arbeitsbereichen mit bestehender Verwendung des Modells verfügbar. Arbeitsbereiche, die das Modell zum Zeitpunkt der Deaktivierung nicht verwenden, haben keinen Zugriff mehr darauf.
  • Eingestellt: Auf ein eingestelltes Modell kann nicht mehr zugegriffen werden, und die Unterstützung für das Modell wird vollständig eingestellt. Jede Arbeitsauslastung, die das Modell verwendet, funktioniert nicht mehr.

Modell-Veraltete Richtlinie

Wenn Databricks ein Modell nicht mehr unterstützt, wird dieses Modell nicht mehr empfohlen und ist für den Ruhestand geplant. Databricks kündigt die Einstellungstermine für veraltete Modelle mit den in den folgenden Abschnitten zusammengefassten Benachrichtigungszeitachsen an. Die Fälligkeitstermine können zum Zeitpunkt des Ablaufs oder zu einem späteren Zeitpunkt bekannt gegeben werden. Nach dem Ruhestand ist das Modell nicht mehr zugänglich, und jede Arbeitsauslastung, die sie verwendet, funktioniert nicht mehr.

Veraltete und eingestellte Modelle und ihre angekündigten Deaktivierungstermine finden Sie unter veraltete und eingestellte Modelle. Partnermodelle finden Sie unter " Richtlinie zur Einstellung des Partnermodells".

Wichtig

Die Veraltetkeitsrichtlinien, die für die Foundation-Modell-APIs pay-per-token und Foundation Model Fine-Tuning-Angebote gelten, wirken sich nur auf unterstützte Chat- und Abschlussmodelle aus.

Foundation Model-APIs

In der folgenden Tabelle sind die Veraltetkeitsrichtlinie für die Foundation-Modell-APIs pay-per-token, Foundation Model-APIs, der bereitgestellte Durchsatz und batchinference mit ai_query Angeboten zusammengefasst.

Veraltete Benachrichtigung Übergang zur Pensionierung Am Ruhestandsdatum
Databricks führt die folgenden Schritte aus, um Kunden über eine Veraltetkeit eines Modells zu informieren:
  • In der Databricks-Benutzeroberfläche gibt eine Warnmeldung an, dass das Modell veraltet ist.
  • Die entsprechende Dokumentation enthält eine Benachrichtigung, die angibt, dass das Modell veraltet ist, zusammen mit einem Einstellungsdatum, wenn eine angekündigt wurde.
 Nachdem ein Modell eingestellt wurde, kündigt Databricks in Zukunft ein Einstellungsdatum von drei Monaten oder mehr an. Während dieses Übergangszeitraums:
  • Das Modell bleibt nur für Arbeitsbereiche mit vorhandenen Workloads verfügbar, die es verwenden, bis zum angekündigten Einstellungsdatum.
  • Auf das veraltete Modell kann nicht über Arbeitsbereiche zugegriffen werden, die zum Zeitpunkt der Veraltetkeit nicht aktiv verwendet wurden.
  • Kunden mit vorhandenen Workloads sollten zum empfohlenen Ersatzmodell oder zu den betroffenen Arbeitslasten bei Sonnenuntergang migrieren.
 Das Modell ist nicht mehr für die Verwendung verfügbar und wird aus dem Produkt entfernt. Alle vorhandenen Workloads, die das Modell verwenden, funktionieren nicht mehr. Die anwendbare Dokumentation wird aktualisiert, um anzugeben, dass das Modell nicht mehr verfügbar ist, und um ein Ersatzmodell zu empfehlen.

Richtlinie für die Einstellung des Partnermodells

Partnermodelle sind Modelle, die Drittanbieter – insbesondere OpenAI, Anthropic und Google – über Foundation Model-APIs bereitstellen. Für diese Partnermodelle folgt Databricks im Allgemeinen den oben beschriebenen Veralteten Zeitachsen und Richtlinien.

Partner können jedoch Rententermine kürzer als der dreimonatige Übergangszeitraum bereitstellen, den Databricks veröffentlicht. In diesen Fällen versucht Databricks, die Lücke zu überbrücken, indem modelle vorübergehend auf eine ähnliche Version umgeleitet werden, sodass Kunden die vollständige Übergangszeit erhalten.

Wenn z. B. die Einstellung eines Partnermodells mit einer Monatsvorlaufzeit anstelle von drei angekündigt wird, leitet Databricks das Modell für weitere zwei Monate um, um sofortige Unterbrechungen zu verhindern und Zeit für die Migration zu ermöglichen. Abfragen schlagen am Ende des gesamten dreimonatigen Zeitraums fehl.

Note

Diese Umleitung kann nur auftreten, wenn das Ersatzmodell den gleichen Preis hat und abwärtskompatibel ist. Das Ersatzmodell ist in der Regel eine inkrementelle Modellversion, z. B. 3.0 im Vergleich zu 3.1.

Feinabstimmung von Foundation-Modellen

In der folgenden Tabelle wird die Veraltetkeitsrichtlinie für die Feinabstimmung des Foundation-Modells zusammengefasst.

Veraltete Benachrichtigung Übergang zur Pensionierung Am Ruhestandsdatum
Databricks führt die folgenden Schritte aus, um Kunden über eine Veraltetkeit eines Modells zu informieren:
  • Auf der Registerkarte "Experimente " wird im Dropdownmenü für Foundation Model Fine-Tuning eine Warnmeldung angezeigt, die angibt, dass das Modell veraltet ist.
  • Die entsprechende Dokumentation enthält eine Benachrichtigung, die angibt, dass das Modell veraltet ist, zusammen mit einem Einstellungsdatum, wenn eine angekündigt wurde.
 Nachdem ein Modell eingestellt wurde, kündigt Databricks in Zukunft ein Einstellungsdatum von drei Monaten oder mehr an. Während dieses Übergangszeitraums sollten Kunden ihre Workloads zu einem empfohlenen Ersatzmodell migrieren oder den betroffenen Endpunkt löschen. Das Modell ist nicht mehr für die Verwendung verfügbar und wird aus dem Produkt entfernt. Die anwendbare Dokumentation wird aktualisiert, um die Verwendung eines Ersatzmodells zu empfehlen.

Modellupdates

Databricks liefern möglicherweise inkrementelle Modellupdates, um Optimierungen bereitzustellen. Wenn Databricks ein Modell aktualisiert, bleibt die Endpunkt-URL gleich, aber die Modell-ID im Antwortobjekt ändert sich, um das Datum der Aktualisierung widerzuspiegeln. Wenn Databricks beispielsweise ein Update am meta-llama/Meta-Llama-3.3-70B 3.4.2024 enthält, wird der Modellname im Antwortobjekt aktualisiert meta-llama/Meta-Llama-3.3-70B-030424. Databricks verwaltet einen Versionsverlauf der Updates. Wenden Sie sich an Ihr Databricks-Kontoteam, um weitere Details zu erhalten.

Veraltete und eingestellte Modelle

In den folgenden Abschnitten werden Modelle aufgeführt, die veraltet sind (nicht mehr für neue Workloads empfohlen) oder eingestellt (Ende der Lebensdauer und nicht mehr verfügbar). Die Einstellungstermine für veraltete Modelle werden mindestens drei Monate im Voraus angekündigt.

Deaktivierung von Foundation-Modell-APIs

In der folgenden Tabelle sind Modellausfälle, deren Einstellungstermine und empfohlene Ersatzmodelle aufgeführt, die für Foundation-Modell-APIs pay-per-token und den bereitgestellten Durchsatz für Workloads verwendet werden sollen. Databricks empfiehlt, Ihre Anwendungen vor dem angegebenen Einstellungsdatum zu migrieren, um Ersatzmodelle zu verwenden.

Note

OpenAI- und Google Gemini-Modelle sind nur über ADI-Dienste verfügbar, die von Databricks bereitgestellt werden.

Partnermodell Ruhestandsdatum Empfohlenes Ersatzmodell
OpenAI GPT-5.1 Codex Max Pay-per-Token: 16. Juli 2026 OpenAI GPT-5.5
OpenAI GPT-5.1 Codex Mini Pay-per-Token: 16. Juli 2026 OpenAI GPT-5.4 Codex Mini
OpenAI GPT-5.2 Codex Pay-per-Token: 16. Juli 2026 OpenAI GPT-5.5
Anthropic Claude 3.7 Sonnet Pay-per-Token: 12. April 2026 Verwenden des neuesten Claude Sonnet-Modells
Gemini 3 Pro Bereitgestellter Durchsatz: 26. März 2026 Gemini 3.1 Pro. Um mehr Zeit für die Migration zu ermöglichen, werden api-Aufrufe von Gemini 3.1 Pro zwischen dem 26. März 2026 und dem 7. Juni 2026 vorübergehend an Gemini 3.1 Pro umgeleitet. Die Preise für beide Modelle sind identisch.
Offenes Modell Ruhestandsdatum Empfohlenes Ersatzmodell
Meta Llama 3.1 405B Pay-per-Token: 15. Februar 2026
Bereitgestellter Durchsatz: 15. Mai 2026		 OpenAI GPT OSS 120B
DBRX / DBRX-Anweisung Pay-per-Token: 30. April 2025
Bereitgestellter Durchsatz: 19. Dezember 2025		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.
Mixtral 8x7B / Mixtral-8x7B-Anweisung Pay-per-Token: 30. April 2025
Bereitgestellter Durchsatz: 27. Februar 2026		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.
Meta Llama 3 (70B) Pay-per-Token: 23. Juli 2024 (Meta-Llama-3-70b-Instruct); 11. Dezember 2024 (Meta-Llama-3.1-70B-Instruct)
Bereitgestellter Durchsatz: 27. Februar 2026		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.
Meta Llama 3 8B Bereitgestellter Durchsatz: 27. Februar 2026 Vergleichbares Modell innerhalb derselben Angebotspalette, wie das Llama 3.2-, 3.3- oder 4-Modell mit ähnlicher Größe.
Meta Llama 2 70B / Meta-Llama-2-70B-Chat Pay-per-Token: 30. Oktober 2024
Bereitgestellter Durchsatz: 27. Februar 2026		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.
Meta Llama 2 13B Bereitgestellter Durchsatz: 27. Februar 2026 Vergleichbares Modell innerhalb derselben Angebotspalette, wie das Llama 3.2-, 3.3- oder 4-Modell mit ähnlicher Größe.
Meta Llama 2 7B Bereitgestellter Durchsatz: 27. Februar 2026 Vergleichbares Modell innerhalb derselben Angebotspalette, wie das Llama 3.2-, 3.3- oder 4-Modell mit ähnlicher Größe.
Mistral 7B Bereitgestellter Durchsatz: 27. Februar 2026 Vergleichbares Modell innerhalb derselben Angebotspalette, wie das Llama 3.2-, 3.3- oder 4-Modell mit ähnlicher Größe.
MPT 30B / MPT 30B-Anweisung Pay-per-Token: 30. August 2024
Bereitgestellter Durchsatz: 19. Dezember 2025		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.
MPT 7B / MPT 7B-Anweisung Pay-per-Token: 30. August 2024
Bereitgestellter Durchsatz: 19. Dezember 2025		 Pay-per-Token: Meta-Llama-4-Maverick
Bereitgestellter Durchsatz: Vergleichbares Modell auf dem gleichen Angebot, wie Llama 3.2, 3.3 oder 4 Modell ähnlicher Größe.

Wenn Sie langfristige Unterstützung für eine bestimmte Modellversion benötigen, empfiehlt Databricks die Verwendung des bereitgestellten Durchsatzes von Foundation Model-APIs für Ihre Bereitstellungsworkloads.

Einstellungen für Foundation Model-Feinabstimmung

In der folgenden Tabelle sind ausgemusterte Modellfamilien, deren Deaktivierungsdaten und empfohlene Ersatzmodellfamilien zur Verwendung bei Foundation Model Fine-Tuning-Workloads aufgeführt. Databricks empfiehlt, Ihre Anwendungen vor dem angegebenen Einstellungsdatum zu migrieren, um Ersatzmodelle zu verwenden.

Modellfamilie Ruhestandsdatum Empfohlene Ersatzmodellfamilie
DBRX 30. April 2025 Llama-3.1-70B
Mixtral 30. April 2025 Llama-3.1-70B
Mistral 30. April 2025 Llama-3.1-8B
Meta-Llama-3.1-405B 30. Januar 2025 Llama-3.1-70B
Meta-Llama-3 7. Januar 2025 Meta-Llama-3.1
Meta-Llama-2 7. Januar 2025 Meta-Llama-3.1
Code Llama 7. Januar 2025 Meta-Llama-3.1

Suchen nach Arbeitslasten, die eingestellte Modelle verwenden

Verwenden Sie die folgende Abfrage, um Arbeitslasten zu finden, die veraltete Modelle verwenden und deren Besitzer identifizieren.

SELECT
   eu.requester,
   se.endpoint_name,
   se.entity_name,
   COUNT(*) AS request_count,
   SUM(eu.input_token_count) AS total_input_tokens,
   SUM(eu.output_token_count) AS total_output_tokens,
   MIN(eu.request_time) AS first_request,
   MAX(eu.request_time) AS last_request
 FROM system.serving.endpoint_usage eu
 JOIN system.serving.served_entities se
   ON eu.served_entity_id = se.served_entity_id
 WHERE LOWER(se.entity_name) LIKE '%<retired-model-name>%'
 GROUP BY eu.requester, se.endpoint_name, se.entity_name
 ORDER BY request_count DESC
  • Last updated on