Rövid útmutató: A GPT-35-Turbo és a GPT-4 használatának első lépései az Azure OpenAI Szolgáltatással az IntelliJ-ben

Ez a cikk bemutatja, hogyan kezdheti el az Azure OpenAI service-t az IntelliJ IDEA-ban. Bemutatja, hogyan használhat olyan csevegőmodelleket, mint a GPT-3.5-Turbo és a GPT-4 különböző paraméterekkel és adatforrásokkal való tesztelésére és kísérletezésére.

Előfeltételek

• Egy támogatott Java fejlesztői készlet (JDK). Az Azure-beli fejlesztés során használható JDK-król további információt az Azure-ban és az Azure Stackben elérhető Java-támogatásban talál.

• IntelliJ IDEA, Ultimate vagy Community Edition.

• Az Azure Toolkit for IntelliJ. További információ: Az Azure Toolkit for IntelliJ telepítése. Az Azure Toolkit for IntelliJ-hez tartozó Azure-fiókjába is be kell jelentkeznie. További információ: Bejelentkezési utasítások az Azure Toolkit for IntelliJ-hez.

• Azure-előfizetés – Hozzon létre egyet ingyenesen.

• Hozzáférés az Azure OpenAI-hoz a kívánt Azure-előfizetésben.

  Ezen szolgáltatáshoz jelenleg csak alkalmazás útján kapható hozzáférés. Az Azure OpenAI-hoz való hozzáférés kérelmezéséhez töltse ki az űrlapot az Azure OpenAI szolgáltatáshoz való hozzáférés kérésekor.

• Egy Azure OpenAI-szolgáltatás erőforrása, amely az üzembe helyezett modelleket vagy gpt-4 azokat gpt-35-turbo tartalmazza. A modell üzembe helyezéséről további információt az Azure OpenAI-szolgáltatás erőforrásának létrehozása és üzembe helyezése című témakörben talál.

Telepítés és bejelentkezés

Az alábbi lépések végigvezetik az Azure bejelentkezési folyamatán az IntelliJ fejlesztői környezetben:

1. Ha nincs telepítve a beépülő modul, tekintse meg az IntelliJ-hez készült Azure Toolkitet.

2. Az Azure-fiókba való bejelentkezéshez lépjen a bal oldali Azure Explorer-oldalsávra , majd válassza az Azure Bejelentkezési ikont. Másik lehetőségként navigálhat az Eszközök elemre, kibonthatja az Azure-t, majd kiválaszthatja az Azure Bejelentkezés lehetőséget.

   

3. Az Azure Bejelentkezési ablakban válassza az OAuth 2.0 lehetőséget, majd válassza a Bejelentkezés lehetőséget. További bejelentkezési lehetőségekért tekintse meg az IntelliJ-hez készült Azure Toolkit bejelentkezési utasításait.

4. A böngészőben jelentkezzen be az OpenAI-erőforráshoz hozzáféréssel rendelkező fiókjával, majd térjen vissza az IntelliJ-hez. Az Előfizetések kiválasztása párbeszédpanelen válassza ki a használni kívánt előfizetést, majd válassza a Kiválasztás lehetőséget.

Azure OpenAI-szolgáltatáserőforrás létrehozása és üzembe helyezése

1. A bejelentkezési munkafolyamat után kattintson a jobb gombbal az Azure OpenAI elemre az Azure Explorerben, és válassza az Azure OpenAI szolgáltatás létrehozása lehetőséget.

2. Az Azure OpenAI szolgáltatás létrehozása párbeszédpanelen adja meg a következő adatokat, majd válassza az OK gombot:

   • Név: Az Azure OpenAI-szolgáltatás erőforrásának leíró neve, például MyOpenAIResource. Ez a név a végpont egyéni tartományneve is. Az erőforrás neve csak alfanumerikus karaktereket és kötőjeleket tartalmazhat, és nem indítható el vagy végződhet kötőjellel.
   • Régió: A példány helye. Bizonyos modellek csak bizonyos régiókban érhetők el. További információért lásd: Azure OpenAI szolgáltatási modellek.
   • Termékváltozat: A standard Azure OpenAI-erőforrások számlázása jogkivonat-használat alapján történt. További információkért tekintse meg az Azure OpenAI szolgáltatás díjszabását.

3. A csevegés befejezése előtt üzembe kell helyeznie egy modellt. Kattintson a jobb gombbal az Azure OpenAI-példányra, és válassza az Új üzembe helyezés létrehozása lehetőséget. Az előugró Azure OpenAI-telepítés létrehozása párbeszédpanelen adja meg a következő információkat, majd válassza az OK gombot:

   • Üzembe helyezés neve: Válasszon nevet gondosan. Az üzembe helyezés neve a kódban az ügyfélkódtárak és a REST API-k használatával hívja meg a modellt.
   • Modell: Válasszon ki egy modellt. A modellek elérhetősége régiónként változik. Az elérhető modellek régiónkénti listájáért tekintse meg az Azure OpenAI-szolgáltatásmodellek modellösszesítő táblázatát és régiónkénti rendelkezésre állási szakaszát.

Az eszközkészlet állapotüzenetet jelenít meg, ha az üzembe helyezés befejeződött és használatra kész.

Az Azure OpenAI használata parancssorokkal és beállításokkal

1. Kattintson a jobb gombbal az Azure OpenAI-erőforrásra, majd válassza a Megnyitás az AI-játszótéren lehetőséget.

2. Az IntelliJ IDEA Azure OpenAI Studio Chat-játszóterén ismerkedhet meg az OpenAI képességeivel.

   

A befejezés aktiválásához beírhat néhány szöveget üzenetként. A modell létrehozza a befejezést, és megpróbálja egyezni a környezetével vagy a mintájával.

Csevegés indításához kövesse az alábbi lépéseket:

1. A csevegési munkamenet panelen a következőhöz hasonló egyszerű üzenettel kezdhet: "Szeretnék új Surface-t vásárolni". Miután beírta a kérést, válassza a Küldés lehetőséget. A következő példához hasonló választ kap:

   Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
   

   

2. Adjon meg egy következő kérdést, például: "Mely modellek támogatják a GPU-t?" és válassza a Küldés lehetőséget. A következő példához hasonló választ kap:

   Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
   

   

3. Most, hogy már rendelkezik egy alapszintű beszélgetéssel, válassza a Kód megtekintése lehetőséget a panelen, és az eddigi teljes beszélgetés mögött újra lejátszhatja a kódot. A csevegési munkamenetnek és a beállításoknak megfelelő Java SDK-, curl- és JSON-kódmintákat az alábbi képernyőképen látható módon tekintheti meg:

   

4. Ezután a Másolás lehetőséget választva felveheti ezt a kódot, és írhat egy alkalmazást, hogy elvégezze ugyanazt a feladatot, amit éppen a játszótéren végez.

Beállítások

A Konfiguráció lapra kattintva a következő paramétereket állíthatja be:

Név	Leírás
Maximális válasz	A modellválaszonkénti jogkivonatok számának korlátját állítja be. Az API legfeljebb 4096 jogkivonatot támogat a parancssor (beleértve a rendszerüzeneteket, példákat, üzenetelőzményeket és felhasználói lekérdezéseket) és a modell válasza között. Az egyik jogkivonat nagyjából négy karakterből áll a tipikus angol szöveghez.
Hőmérséklet	Szabályozza a véletlenszerűséget. A hőmérséklet csökkentése azt jelenti, hogy a modell több ismétlődő és determinisztikus választ ad. A hőmérséklet növelése váratlanabb vagy kreatívabb válaszokat eredményez. Próbálja meg beállítani a hőmérsékletet vagy a legnagyobb valószínűségeket, de mindkettőt nem.
Legnagyobb valószínűségek	A hőmérséklethez hasonlóan szabályozza a véletlenszerűséget, de más módszert használ. A Felső valószínűség értékének csökkentése a modell jogkivonat-kiválasztását a hasonlóbb jogkivonatokra szűkíti. Az érték növelésével a modell nagy és alacsony valószínűségű tokenek közül választhat. Próbálja meg beállítani a hőmérsékletet vagy a legnagyobb valószínűségeket, de mindkettőt nem.
Sorozatok leállítása	A modell a kívánt ponton véget vet a válaszának. A modell válasza a megadott sorrend előtt ér véget, így nem tartalmazza a leállítási sorrend szövegét. GPT-35-Turbo esetén a modell válaszának használatával <|im_end|> nem jön létre követő felhasználói lekérdezés. Akár négy leállási sorozatot is felvehet.
Gyakorisági büntetés	Csökkenti annak az esélyét, hogy a jogkivonatot arányosan ismételje meg attól függően, hogy az milyen gyakran jelenik meg a szövegben. Ez a művelet csökkenti annak valószínűségét, hogy ugyanazt a szöveget ismételje meg egy válaszban.
Jelenléti büntetés	Csökkenti a szövegben eddig megjelenő tokenek ismétlődésének esélyét. Ez növeli az új témakörök válaszban való bevezetésének valószínűségét.

Az erőforrások eltávolítása

Miután végzett a csevegési játszótér tesztelésével, ha törölni és eltávolítani szeretne egy OpenAI-erőforrást, törölheti az erőforrást vagy az erőforráscsoportot. Az erőforráscsoport törlése a hozzá társított egyéb erőforrásokat is törli. Az erőforrások törléséhez kövesse az alábbi lépéseket:

1. Az Azure OpenAI-erőforrások törléséhez lépjen a bal oldali Azure Explorer oldalsávra, és keresse meg az Azure OpenAI-elemet .

2. Kattintson a jobb gombbal a törölni kívánt Azure OpenAI szolgáltatásra, majd válassza a Törlés lehetőséget.

3. Az erőforráscsoport törléséhez látogasson el az Azure Portalra , és manuálisan törölje az előfizetése alatt lévő erőforrásokat.

Következő lépések

További információt a GPT-35-Turbo és a GPT-4 modellek használatáról szóló cikkben talál.

További példákért tekintse meg az Azure OpenAI-minták GitHub-adattárát.