Co je služba Azure OpenAI?

Služba Azure OpenAI poskytuje rozhraní REST API přístup k výkonným jazykovým modelům OpenAI, včetně modelových řad GPT-4, GPT-4 Turbo s vision, GPT-3.5-Turbo a vložených modelů. Kromě toho nová řada modelů GPT-4 a GPT-3.5-Turbo dosáhla obecné dostupnosti. Tyto modely je možné snadno přizpůsobit konkrétnímu úkolu, a to včetně generování obsahu, shrnutí, porozumění obrázkům, sémantického vyhledávání a přirozeného jazyka na překlad kódu. Uživatelé mají přístup ke službě prostřednictvím rozhraní REST API, sady Python SDK nebo webového rozhraní v nástroji Azure OpenAI Studio.

Přehled funkcí

Funkce Azure OpenAI
Dostupné modely Řada GPT-4 (včetně GPT-4 Turbo s obrazem)
ŘADA GPT-3.5-Turbo
Vložené řady
Další informace najdete na stránce Modely .
Vyladění (Preview) GPT-3.5-Turbo (0613)
babbage-002
davinci-002.
Cena K dispozici zde
Podrobnosti o GPT-4 Turbo s vision najdete v speciálních informacích o cenách.
Podpora virtuální sítě a podpora privátního propojení Ano, pokud ve vašich datech nepoužíváte Azure OpenAI.
Spravovaná identita Ano, prostřednictvím Microsoft Entra ID
Uživatelské rozhraní Azure Portal pro správu účtů a prostředků,
Azure OpenAI Service Studio pro zkoumání modelů a vyladění
Regionální dostupnost modelu Dostupnost modelu
Filtrování obsahu Výzvy a dokončení se vyhodnocují proti zásadám obsahu pomocí automatizovaných systémů. Obsah s vysokou závažností bude filtrován.

Zodpovědná AI

V Microsoftu jsme se zavázali k pokroku umělé inteligence řízeného principy, které lidem dávají přednost. Generování modelů, jako jsou modely dostupné v Azure OpenAI, mají významné potenciální výhody, ale bez pečlivého návrhu a promyšleného zmírnění rizik mají tyto modely potenciál generovat nesprávný nebo dokonce škodlivý obsah. Společnost Microsoft významně investovala do ochrany před zneužitím a nezamýšleným poškozením, což zahrnuje žádosti žadatelů o zobrazení jasně definovaných případů použití, začlenění principů Microsoftu pro zodpovědné použití umělé inteligence, vytváření filtrů obsahu pro podporu zákazníků a poskytování zodpovědných pokynů k implementaci AI pro onboardované zákazníky.

Návody získat přístup k Azure OpenAI?

Návody získat přístup k Azure OpenAI?

Access je v současné době omezený, protože procházíme vysokou poptávkou, nadcházejícími vylepšeními produktů a závazkem Microsoftu k zodpovědné umělé inteligenci. Prozatím pracujeme se zákazníky, kteří již mají navázané partnerství se společností Microsoft, mají případy použití s nižším rizikem nebo se zavázali začlenit zmírnění rizik.

Podrobnější informace najdete ve formuláři žádosti. Vážíme si vaší trpělivosti, protože pracujeme na zodpovědném povolení širšího přístupu k Azure OpenAI.

Pokud chcete získat přístup, použijte toto:

Použít

Porovnání Azure OpenAI a OpenAI

Služba Azure OpenAI poskytuje zákazníkům pokročilou jazykovou AI s využitím OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper a textových modelů s využitím zabezpečení a podnikového příslibu Azure. Azure OpenAI společně vyvíjí rozhraní API s OpenAI a zajišťuje kompatibilitu a hladký přechod z jednoho na druhý.

Zákazníci s Azure OpenAI získají možnosti zabezpečení Microsoft Azure a zároveň spouštět stejné modely jako OpenAI. Azure OpenAI nabízí privátní sítě, regionální dostupnost a zodpovědné filtrování obsahu AI.

Klíčové koncepty

Výzvy a dokončení

Koncový bod dokončení je základní komponentou služby API. Toto rozhraní API poskytuje přístup k textovému rozhraní modelu. Uživatelé jednoduše potřebují zadat vstupní výzvu obsahující příkaz anglického textu a model vygeneruje dokončování textu.

Tady je příklad jednoduché výzvy a dokončení:

Výzva: """ count to 5 in a for loop """

Dokončení: for i in range(1, 6): print(i)

Tokeny

Textové tokeny

Azure OpenAI zpracovává text tím, že ho rozdělí na tokeny. Tokeny můžou být slova nebo jen bloky znaků. Například slovo "hamburger" se rozdělí na tokeny "ham", "bur" a "ger", zatímco krátké a běžné slovo jako "hrušeň" je jediný token. Mnoho tokenů začíná prázdnými znaky, například "hello" a "bye".

Celkový počet tokenů zpracovaných v daném požadavku závisí na délce vstupu, výstupu a parametrů požadavku. Množství zpracovávaných tokenů ovlivní také latenci a propustnost odpovědí pro modely.

Tokeny obrázků (GPT-4 Turbo s vision)

Náklady na token vstupního obrázku závisí na dvou hlavních faktorech: velikosti obrázku a nastavení podrobností (nízké nebo vysoké) použité pro každý obrázek. Tady je rozpis toho, jak funguje:

  • Podrobnosti: Režim nízkého rozlišení

    • Nízké podrobnosti umožňují rozhraní API vracet rychlejší odpovědi a využívat méně vstupních tokenů pro případy použití, které nevyžadují vysokou úroveň podrobností.
    • Tyto obrázky stojí 85 tokenů, a to bez ohledu na velikost obrázku.
    • Příklad: 4096 x 8192 obrázek (nízký detail):: Náklady jsou pevné 85 tokenů, protože se jedná o obrázek s nízkými podrobnostmi a velikost nemá vliv na náklady v tomto režimu.
  • Podrobnosti: Režim vysokého rozlišení

    • Rozhraní API s velkými podrobnostmi umožňuje zobrazit obrázek podrobněji tak, že ho oříznou na menší čtverce. Každý čtverec používá k vygenerování textu více tokenů.
    • Náklady na token se počítají podle řady kroků škálování:
      1. Obrázek je nejprve škálován tak, aby se vešl do čtverce 2048 x 2048 při zachování poměru stran.
      2. Obrázek se pak škáluje dolů, aby nejkratší strana byla dlouhá 768 pixelů.
      3. Obrázek je rozdělený na čtvercové dlaždice o rozměrech 512 pixelů a počet těchto dlaždic (zaokrouhlování pro částečné dlaždice) určuje konečné náklady. Každá dlaždice stojí 170 tokenů.
      4. Do celkových nákladů se přidá dalších 85 tokenů.
    • Příklad: 2048 x 4096 obrázek (vysoký detail)
      1. Původně se změnila velikost na 1024 x 2048 tak, aby se vešla do čtverce 2048.
      2. Velikost byla dále změněna na 768 x 1536.
      3. K pokrytí vyžaduje šest dlaždic 512 pixelů.
      4. Celkové náklady jsou 170 × 6 + 85 = 1105 tokeny.

Zdroje informací

Azure OpenAI je nová nabídka produktů v Azure. S Azure OpenAI můžete začít stejným způsobem jako s jakýmkoli jiným produktem Azure, ve kterém ve svém předplatném Azure vytvoříte prostředek nebo instanci služby. O návrhu správy prostředků Azure si můžete přečíst další informace.

Nasazení

Jakmile vytvoříte prostředek Azure OpenAI, musíte model nasadit, abyste mohli začít volat rozhraní API a generovat text. Tuto akci je možné provést pomocí rozhraní API pro nasazení. Tato rozhraní API umožňují určit model, který chcete použít.

Vytváření efektivních dotazů

Modely GPT-3, GPT-3.5 a GPT-4 z OpenAI jsou založené na příkazovém řádku. S modely založenými na dotazech uživatel komunikuje zadáním textového dotazu, na který model reaguje doplněním textu. Toto dokončení je pokračováním modelu vstupního textu.

I když jsou tyto modely mimořádně výkonné, jejich chování je také velmi citlivé na konkrétní dotazy. Díky tomu je příprava výzvy důležitou dovedností k vývoji.

Konstrukce výzvy může být obtížná. V praxi se výzva chová ke konfiguraci hmotností modelu tak, aby dokončila požadovaný úkol, ale je to spíše umění než věda, která často vyžaduje zkušenosti a instinkt k vytvoření úspěšné výzvy.

Modely

Služba poskytuje uživatelům přístup k několika různým modelům. Každý model poskytuje jinou funkci a cenový bod.

Modely DALL-E, které jsou aktuálně ve verzi Preview, generují obrázky z textových výzev, které uživatel poskytuje.

Modely Whisper, které jsou aktuálně ve verzi Preview, lze použít k přepisu a překladu řeči na text.

Text na řečové modely, které jsou aktuálně ve verzi Preview, lze použít k syntetizaci textu na řeč.

Další informace o jednotlivých modelech najdete na stránce konceptů modelů.

Další kroky

Přečtěte si další informace o základních modelech, které power Azure OpenAI.