Rychlý start: Začínáme používat GPT-35-Turbo a GPT-4 se službou Azure OpenAI v IntelliJ

V tomto článku se dozvíte, jak začít se službou Azure OpenAI v IntelliJ IDEA. Ukazuje, jak pomocí chatovacích modelů, jako jsou GPT-3.5-Turbo a GPT-4, testovat a experimentovat s různými parametry a zdroji dat.

Požadavky

• Podporovaná sada Java Development Kit (JDK). Další informace o sadách JDK, které jsou k dispozici při vývoji v Azure, najdete v tématu Podpora Javy v Azure a azure Stacku.

• IntelliJ IDEA, Ultimate nebo Community Edition.

• Sada Azure Toolkit for IntelliJ. Další informace najdete v tématu Instalace sady Azure Toolkit for IntelliJ. Musíte se také přihlásit ke svému účtu Azure pro sadu Azure Toolkit for IntelliJ. Další informace najdete v pokynech k přihlášení pro sadu Azure Toolkit for IntelliJ.

• Předplatné Azure – Vytvořte si ho zdarma.

• Přístup udělený službě Azure OpenAI v požadovaném předplatném Azure

  V současné době je přístup k této službě udělován pouze aplikací. Pokud chcete získat přístup k Azure OpenAI, vyplňte formulář na žádost o přístup ke službě Azure OpenAI.

• Prostředek služby Azure OpenAI s gpt-35-turbo nasazenými modely gpt-4 Další informace o nasazení modelu najdete v tématu Vytvoření a nasazení prostředku služby Azure OpenAI Service.

Instalace a přihlášení

Následující kroky vás provedou procesem přihlášení k Azure ve vývojovém prostředí IntelliJ:

1. Pokud modul plug-in nemáte nainstalovaný, přečtěte si téma Azure Toolkit for IntelliJ.

2. Pokud se chcete přihlásit ke svému účtu Azure, přejděte na boční panel Azure Exploreru vlevo a vyberte ikonu Azure Sign In (Přihlásit se). Případně můžete přejít na Nástroje, rozbalit Azure a pak vybrat Azure Přihlásit se.

   

3. V okně Přihlášení k Azure vyberte OAuth 2.0 a pak vyberte Přihlásit se. Další možnosti přihlášení najdete v pokynech k přihlášení pro sadu Azure Toolkit for IntelliJ.

4. V prohlížeči se přihlaste pomocí svého účtu, který má přístup k vašemu prostředku OpenAI, a pak se vraťte k IntelliJ. V dialogovém okně Vybrat předplatná vyberte předplatné, které chcete použít, a pak vyberte Vybrat.

Vytvoření a nasazení prostředku služby Azure OpenAI

1. Po pracovním postupu přihlášení klikněte pravým tlačítkem na položku Azure OpenAI v Azure Exploreru a vyberte Vytvořit službu Azure OpenAI.

2. V dialogovém okně Vytvořit službu Azure OpenAI zadejte následující informace a pak vyberte OK:

   • Název: Popisný název prostředku služby Azure OpenAI, například MyOpenAIResource. Tento název je také vaším vlastním názvem domény ve vašem koncovém bodu. Název prostředku může obsahovat jenom alfanumerické znaky a pomlčky a nemůže začínat ani končit spojovníkem.
   • Oblast: Umístění vaší instance. Některé modely jsou dostupné jenom v konkrétních oblastech. Další informace najdete v tématu Modely Azure OpenAI Service.
   • Skladová položka: Prostředky Azure OpenAI úrovně Standard se účtují na základě využití tokenu. Další informace najdete v tématu Ceny služby Azure OpenAI.

3. Než budete moct použít dokončování chatu, musíte nasadit model. Klikněte pravým tlačítkem na instanci Azure OpenAI a vyberte Vytvořit nové nasazení. V automaticky otevírané nabídce Vytvořit nasazení Azure OpenAI zadejte následující informace a pak vyberte OK:

   • Název nasazení: Pečlivě zvolte název. Název nasazení se v kódu používá k volání modelu pomocí klientských knihoven a rozhraní REST API.
   • Model: Vyberte model. Dostupnost modelů se liší podle oblasti. Seznam dostupných modelů pro každou oblast najdete v tabulce souhrnu modelů modelu a dostupnosti oblastí modelů Služby Azure OpenAI.

Sada nástrojů zobrazí stavovou zprávu po dokončení nasazení a připraveném k použití.

Interakce s Azure OpenAI pomocí výzev a nastavení

1. Klikněte pravým tlačítkem na prostředek Azure OpenAI a pak vyberte Otevřít v AI Playground.

2. V IntelliJ IDEA můžete začít zkoumat možnosti OpenAI prostřednictvím chatovacího hřiště v sadě Azure OpenAI Studio.

   

K aktivaci dokončení můžete zadat nějaký text jako výzvu. Model vygeneruje dokončení a pokusí se shodovat s kontextem nebo vzorem.

Pokud chcete zahájit chatovací relaci, postupujte takto:

1. V podokně relace chatu můžete začít jednoduchou výzvou, jako je tato: "Mám zájem o zakoupení nového zařízení Surface". Po zadání výzvy vyberte Odeslat. Zobrazí se odpověď podobná následujícímu příkladu:

   Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
   

   

2. Zadejte následující otázku, například: "Které modely podporují GPU?" a vyberte Odeslat. Zobrazí se odpověď podobná následujícímu příkladu:

   Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
   

   

3. Teď, když máte základní konverzaci, vyberte Zobrazit kód z podokna a máte přehrání kódu za celou konverzací. Ukázky kódu založené na sadě Java SDK, curl a JSON, které odpovídají vaší relaci a nastavení chatu, můžete vidět, jak je znázorněno na následujícím snímku obrazovky:

   

4. Pak můžete vybrat Kopírovat , abyste tento kód vzali, a napsat aplikaci, která dokončí stejnou úlohu, kterou právě provádíte s hřištěm.

Nastavení

Kartu Konfigurace můžete vybrat a nastavit následující parametry:

Název	Popis
Maximální odpověď	Nastaví limit počtu tokenů na odpověď modelu. Rozhraní API podporuje maximálně 4096 tokenů sdílených mezi výzvou (včetně systémových zpráv, příkladů, historie zpráv a uživatelského dotazu) a odpovědi modelu. Jeden token je zhruba čtyři znaky pro typický anglický text.
Teplota	Řídí náhodnost. Snížení teploty znamená, že model vytváří více opakujících se a deterministických odpovědí. Zvýšení teploty vede k neočekávaným nebo kreativním reakcím. Zkuste upravit teplotu nebo nejvyšší pravděpodobnosti, ale ne obojí.
Hlavní pravděpodobnosti	Podobně jako teplota řídí náhodnost, ale používá jinou metodu. Snížení hodnoty Nejvyšší pravděpodobnosti zužuje výběr tokenu modelu na stejné tokeny. Zvýšení hodnoty umožňuje modelu vybírat z tokenů s vysokou i nízkou pravděpodobností. Zkuste upravit teplotu nebo nejvyšší pravděpodobnosti, ale ne obojí.
Sekvence zastavení	Ukončí odpověď modelu v požadovaném bodě. Odpověď modelu končí před zadanou sekvencí, takže neobsahuje text sekvence zastavení. V případě GPT-35-Turbo pomocí <|im_end|> příkazu zajistíte, že odpověď modelu nevygeneruje dotaz uživatele pro následnou odezvu. Můžete zahrnout až čtyři sekvence zastavení.
Penalizace četnosti	Snižuje pravděpodobnost opakování tokenu úměrně na základě toho, jak často se v textu zatím zobrazuje. Tato akce snižuje pravděpodobnost opakování stejného textu v odpovědi.
Trest přítomnosti	Snižuje pravděpodobnost opakování jakéhokoli tokenu, který se zatím zobrazuje v textu. Tím se zvyšuje pravděpodobnost zavedení nových témat v odpovědi.

Vyčištění prostředků

Po otestování chatovacího hřiště, pokud chcete prostředek OpenAI vyčistit a odebrat, můžete prostředek nebo skupinu prostředků odstranit. Odstraněním skupiny prostředků se odstraní také všechny ostatní prostředky, které jsou k ní přidružené. K vyčištění prostředků použijte následující postup:

1. Pokud chcete odstranit prostředky Azure OpenAI, přejděte na boční panel Azure Exploreru vlevo a vyhledejte položku Azure OpenAI.

2. Klikněte pravým tlačítkem na službu Azure OpenAI, kterou chcete odstranit, a pak vyberte Odstranit.

3. Pokud chcete odstranit skupinu prostředků, přejděte na web Azure Portal a ručně odstraňte prostředky v rámci vašeho předplatného.

Další kroky

Další informace najdete v tématu Informace o tom, jak pracovat s modely GPT-35-Turbo a GPT-4.

Další příklady najdete v úložišti GitHub s ukázkami Azure OpenAI.