Rövid útmutató: A GPT-35-Turbo és a GPT-4 használatának első lépései az Azure OpenAI Szolgáltatással az IntelliJ-ben

Ez a cikk bemutatja, hogyan kezdheti el az Azure OpenAI service-t az IntelliJ IDEA-ban. Bemutatja, hogyan használhat olyan csevegőmodelleket, mint a GPT-3.5-Turbo és a GPT-4 különböző paraméterekkel és adatforrásokkal való tesztelésére és kísérletezésére.

Előfeltételek

• Egy támogatott Java Development Kit (JDK). Az Azure-beli fejlesztés során használható JDK-kkal kapcsolatos további információkért lásd Java-támogatást az Azure-ban és az Azure Stack.

• IntelliJ IDEA, Ultimate vagy Community Edition.

• Az Azure Toolkit az IntelliJ számára. További információ: Az Azure Toolkit for IntelliJtelepítése. Az Azure Toolkit for IntelliJ-hez tartozó Azure-fiókjába is be kell jelentkeznie. További információért lásd: Bejelentkezési utasítások az Azure Toolkit for IntelliJ.

• Azure-előfizetés – Hozzon létre egyet ingyenesen.

• Hozzáférés az Azure OpenAI-hoz a kívánt Azure-előfizetésben.

  Jelenleg ehhez a szolgáltatáshoz csak jelentkezés útján lehet hozzáférni. Az Azure OpenAI-hoz való hozzáférés kérelmezéséhez töltse ki az űrlapot az Azure OpenAI szolgáltatáshoz való hozzáférés kérésekor.

• Egy Azure OpenAI-szolgáltatás erőforrása, amelyen a gpt-35-turbo vagy a gpt-4 modellek vannak telepítve. A modell üzembe helyezéséről további információt az Azure OpenAI-szolgáltatás erőforrásának létrehozása és üzembe helyezése című témakörben talál.

Telepítés és bejelentkezés

Az alábbi lépések végigvezetik az Azure bejelentkezési folyamatán az IntelliJ fejlesztői környezetben:

1. Ha nincs telepítve a beépülő modul, tekintse meg az IntelliJ-hez készült Azure Toolkitet.

2. Az Azure-fiókba való bejelentkezéshez lépjen a bal oldali Azure Explorer-oldalsávra, majd válassza az Azure Bejelentkezési ikont. Másik lehetőségként navigálhat az Eszközök elemre, kibonthatja az Azure-t, majd kiválaszthatja az Azure Bejelentkezés lehetőséget.

   

3. Az Azure Bejelentkezési ablakban válassza az OAuth 2.0 lehetőséget, majd válassza a Bejelentkezés lehetőséget. További bejelentkezési lehetőségekért tekintse meg az IntelliJ-hez készült Azure Toolkit bejelentkezési utasításait.

4. A böngészőben jelentkezzen be az OpenAI-erőforráshoz hozzáféréssel rendelkező fiókjával, majd térjen vissza az IntelliJ-hez. Az Előfizetések kiválasztása párbeszédpanelen válassza ki a használni kívánt előfizetést, majd válassza a Kiválasztás lehetőséget.

Azure OpenAI-szolgáltatáserőforrás létrehozása és üzembe helyezése

1. A bejelentkezési munkafolyamat után kattintson a jobb gombbal az Azure OpenAI elemre az Azure Explorerben, és válassza az Azure OpenAI szolgáltatás létrehozása lehetőséget.

2. Az Azure OpenAI szolgáltatás létrehozása párbeszédpanelen adja meg a következő adatokat, majd válassza az OK gombot:

   • Név: Az Azure OpenAI-szolgáltatás erőforrásának leíró neve, például MyOpenAIResource. Ez a név a végpont egyéni tartományneve is. Az erőforrás neve csak alfanumerikus karaktereket és kötőjeleket tartalmazhat, és nem indítható el vagy végződhet kötőjellel.
   • Régió: Az ön példányának helye. Bizonyos modellek csak bizonyos régiókban érhetők el. További információért lásd: Azure OpenAI szolgáltatási modellek.
   • Sku: A Standard Azure OpenAI-erőforrások számlázása tokenhasználat alapján történik. További információkért tekintse meg az Azure OpenAI szolgáltatás díjszabását.

3. Mielőtt használhatná a csevegési kiegészítéseket, üzembe kell helyeznie egy modellt. Kattintson a jobb gombbal az Azure OpenAI-példányra, és válassza az Új üzembe helyezés létrehozása lehetőséget. Az előugró Azure OpenAI-telepítés létrehozása párbeszédpanelen adja meg a következő információkat, majd válassza az OK gombot:

   • Üzembe helyezés neve: Válasszon nevet gondosan. Az üzembe helyezés neve arra szolgál, hogy a kódban az ügyfélkönyvtárak és a REST API-k használatával meghívja a modellt.
   • Modell: Válasszon ki egy modellt. A modellek elérhetősége régiónként változik. Az elérhető modellek régiónkénti listájáért tekintse meg az Azure OpenAI-szolgáltatásmodellekmodellösszesítő táblázatát és régiónkénti rendelkezésre állási szakaszát.

Az eszközkészlet állapotüzenetet jelenít meg, ha az üzembe helyezés befejeződött és használatra kész.

Az Azure OpenAI használata parancssorokkal és beállításokkal

1. Kattintson a jobb gombbal az Azure OpenAI-erőforrásra, majd válassza a Megnyitás az AI-játszótéren lehetőséget.

2. Az IntelliJ IDEA Azure OpenAI Studio Chat-játszóterén ismerkedhet meg az OpenAI képességeivel.

   

A befejezés aktiválásához beírhat néhány szöveget üzenetként. A modell létrehozza a befejezést, és megpróbálja egyezni a környezetével vagy a mintájával.

Csevegés indításához kövesse az alábbi lépéseket:

1. A csevegési munkamenet panelen a következőhöz hasonló egyszerű üzenettel kezdhet: "Szeretnék új Surface-t vásárolni". Miután beírta a kérést, válassza a Küldés lehetőséget. A következő példához hasonló választ kap:

   Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
   

   

2. Adjon meg egy következő kérdést, például: "Mely modellek támogatják a GPU-t?" és válassza a Küldés lehetőséget. A következő példához hasonló választ kap:

   Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
   

   

3. Most, hogy már rendelkezik egy alapszintű beszélgetéssel, válassza a Kód megtekintése lehetőséget a panelen, és az eddigi teljes beszélgetés mögött újra lejátszhatja a kódot. A csevegési munkamenetnek és a beállításoknak megfelelő Java SDK-, curl- és JSON-kódmintákat az alábbi képernyőképen látható módon tekintheti meg:

   

4. Ezután a Másolás lehetőséget választva felveheti ezt a kódot, és írhat egy alkalmazást, hogy elvégezze ugyanazt a feladatot, amit éppen a játszótéren végez.

Beállítások

A Konfiguráció lapra kattintva a következő paramétereket állíthatja be:

Név	Leírás
Maximális válasz	Korlátozza a modell által létrehozható tokenek számát. A küldhető tokenek (kérés + válasz) mennyisége az üzembe helyezett modelltől függ. • gpt-35-turbo-1106 / 0125 – akár 16 385 jel • gpt-35-turbo-16k-0613 – akár 16 385 tokenek • gpt-4-turbo-2024-04-09 – akár 128 000 jelkód • gpt-4o-2024-05-13 – akár 128 000 token A korlátozások teljes, up-todátumlistájáért tekintse meg a modell összefoglaló tábláját és a régió rendelkezésre állását. Mindig győződjön meg arról, hogy a kérés és a várt befejezés összege illeszkedik a modell környezeti ablakába.
Hőmérséklet	Szabályozza a véletlenszerűséget. A hőmérséklet csökkentése azt jelenti, hogy a modell több ismétlődő és determinisztikus választ ad. A hőmérséklet növelése váratlanabb vagy kreatívabb válaszokat eredményez. Próbálja meg beállítani a hőmérsékletet vagy a legnagyobb valószínűségeket, de mindkettőt nem.
Legnagyobb valószínűségek	A hőmérséklethez hasonlóan szabályozza a véletlenszerűséget, de más módszert használ. A Felső valószínűség értékének csökkentése a modell jogkivonat-kiválasztását a hasonlóbb jogkivonatokra szűkíti. Az érték növelésével a modell nagy és alacsony valószínűségű tokenek közül választhat. Próbálja meg beállítani a hőmérsékletet vagy a legnagyobb valószínűségeket, de mindkettőt nem.
Sorozatok leállítása	A modell a kívánt ponton véget vet a válaszának. A modell válasza a megadott sorrend előtt ér véget, így nem tartalmazza a leállítási sorrend szövegét. GPT-35-Turbo esetén a modell válaszának használatával <|im_end|> nem jön létre követő felhasználói lekérdezés. Akár négy leállási sorozatot is felvehet.
Gyakorisági büntetés	Csökkenti annak az esélyét, hogy egy elemet ismételten használjanak, arányosan azzal, hogy az eddig milyen gyakran fordult elő a szövegben. Ez a művelet csökkenti annak valószínűségét, hogy ugyanazt a szöveget ismételje meg egy válaszban.
Jelenléti büntetés	Csökkenti a szövegben eddig megjelenő tokenek ismétlődésének esélyét. Ez növeli az új témakörök válaszban való bevezetésének valószínűségét.

Erőforrások tisztítása

Miután végzett a csevegési játszótér tesztelésével, ha törölni és eltávolítani szeretne egy OpenAI-erőforrást, törölheti az erőforrást vagy az erőforráscsoportot. A forráscsoport törlése azt is eredményezi, hogy bármely hozzá tartozó egyéb erőforrás is törlésre kerül. Az erőforrások törléséhez kövesse az alábbi lépéseket:

1. Az Azure OpenAI-erőforrások törléséhez lépjen a bal oldali Azure Explorer oldalsávra, és keresse meg az Azure OpenAI-elemet .

2. Kattintson a jobb gombbal a törölni kívánt Azure OpenAI szolgáltatásra, majd válassza a Törlés lehetőséget.

3. Az erőforráscsoport törléséhez látogasson el az Azure Portalra , és manuálisan törölje az előfizetése alatt lévő erőforrásokat.

Következő lépések

További információt a GPT-35-Turbo és a GPT-4 modellek használatáról szóló cikkben talál.

További példákért tekintse meg az Azure OpenAI-minták GitHub-adattárát.