Sdílet prostřednictvím

Přehled: Nasazení modelů AI na portálu Azure AI Foundry

Katalog modelů na portálu Azure AI Foundry je centrum pro zjišťování a používání široké škály modelů pro vytváření aplikací generující AI. Modely je potřeba nasadit, aby byly dostupné pro příjem žádostí o odvozování. Azure AI Foundry nabízí komplexní sadu možností nasazení pro modely v závislosti na vašich potřebách a požadavcích modelu.

Nasazení modelů

Možnosti nasazení se liší v závislosti na nabídce modelu:

  • Azure OpenAI v modelech Azure AI Foundry: Nejnovější modely OpenAI, které mají podnikové funkce z Azure s flexibilními možnostmi fakturace.
  • Nasazení bezserverového rozhraní API: Tyto modely nevyžadují kvótu výpočetních prostředků z vašeho předplatného a účtují se za token v nasazení bezserverového rozhraní API.
  • Otevřené a vlastní modely: Katalog modelů nabízí přístup k široké škále modelů napříč různými způsoby, včetně modelů otevřeného přístupu. Ve vlastním předplatném můžete hostovat otevřené modely se spravovanou infrastrukturou, virtuálními počítači a počtem instancí pro správu kapacity.

Azure AI Foundry nabízí čtyři různé možnosti nasazení:

Název Azure OpenAI Modely Azure AI Foundry Nasazení bezserverového rozhraní API Spravovaný výpočetní výkon
Které modely je možné nasadit? Modely Azure OpenAI Modely Azure OpenAI a nasazení bezserverového rozhraní API nasazení bezserverového rozhraní API Otevřené a vlastní modely
Prostředek nasazení Prostředek Azure OpenAI Prostředek služeb Azure AI Zdroj projektu AI Zdroj projektu AI
Vyžaduje Hubs nebo projekty. Ne Ne Ano Ano
Možnosti zpracování dat Regionální
Datová zóna
Globální		 Globální Regionální Regionální
Privátní sítě Ano Ano Ano Ano
Filtrování obsahu Ano Ano Ano Ne
Filtrování vlastního obsahu Ano Ano Ne Ne
Ověřování bez klíčů Ano Ano Ne Ne
Nejvhodnější v případech, kdy Plánujete používat pouze modely OpenAI. Plánujete využívat hlavní modely v katalogu Azure AI, včetně OpenAI. Plánujete použít jeden model od konkrétního poskytovatele (s výjimkou OpenAI). Pokud plánujete používat otevřené modely a máte v předplatném k dispozici dostatečnou kvótu výpočetních prostředků.
Fakturační báze Využití tokenů & zřízených jednotek propustnosti Využití tokenů Využitítokenů 1 Výpočet jádrových hodin2
Pokyny k nasazení Nasazení do Azure OpenAI Nasazení do modelů Foundry Nasazení do bezserverového rozhraní API Nasazení do spravovaného výpočetního prostředí

1 Minimální infrastruktura koncových bodů se účtuje za minutu. Nejsou vám účtovány poplatky za infrastrukturu, která hostí model při nasazení bezserverového rozhraní API. Po odstranění koncového bodu se nebudou účtovat žádné další poplatky.

2 Fakturace se provádí za minutu v závislosti na úrovni produktu a počtu instancí používaných v nasazení od okamžiku vytvoření. Po odstranění koncového bodu se nebudou účtovat žádné další poplatky.

Návod

Další informace o sledování nákladů najdete v tématu Monitorování nákladů na modely nabízené prostřednictvím Azure Marketplace.

Jak mám uvažovat o možnostech nasazení?

Azure AI Foundry vás vybízí k prozkoumání různých možností nasazení a výběru toho, který nejlépe vyhovuje vašim obchodním a technickým potřebám. Obecně zvažte použití následujícího přístupu k výběru možnosti nasazení:

  • Začněte s foundry Models, což je možnost s největším rozsahem. Tato možnost umožňuje iterovat a prototypovat ve vaší aplikaci rychleji, aniž byste museli znovu sestavit architekturu pokaždé, když se rozhodnete něco změnit. Pokud používáte centra nebo projekty Azure AI Foundry, povolte tuto možnost zapnutím funkce Foundry Models.

  • Když chcete použít konkrétní model:

    • Pokud vás zajímají modely Azure OpenAI, použijte Azure OpenAI v modelech Foundry. Tato možnost je určená pro modely Azure OpenAI a nabízí pro ně širokou škálu možností.

    • Pokud vás zajímá konkrétní model z nabídky bezserverových plateb za token a neočekáváte použití jiného typu modelu, použijte bezserverové nasazení rozhraní API. Nasazení bezserverového rozhraní API umožňují nasazení jednoho modelu pod jedinečnou sadou adres URL a klíčů koncového bodu.

  • Pokud váš model není dostupný v nasazení bezserverového rozhraní API a máte k dispozici kvótu výpočetních prostředků ve vašem předplatném, použijte spravované výpočetní prostředky, které podporují nasazení otevřených a vlastních modelů. Umožňuje také vysokou úroveň přizpůsobení serveru pro odvozování nasazení, protokolů a podrobné konfigurace.

Související obsah