Az Azure OpenAI integrálása az alkalmazásba

10 perc

Az Azure OpenAI C# és Python SDK-kat is kínál, valamint egy REST API-t, amellyel a fejlesztők AI-funkciókat adhatnak az alkalmazásaikhoz. Az Azure OpenAI generatív AI-képességei modelleken keresztül érhetők el. Az Azure OpenAI szolgáltatásban elérhető modellek különböző családokhoz tartoznak, amelyek mindegyike saját fókuszú. Ezen modellek egyikének használatához az Azure OpenAI szolgáltatáson keresztül kell üzembe helyeznie.

Fontos

Az Azure OpenAI korlátozott hozzáféréssel lett elérhetővé, hogy támogassa a szolgáltatás felelősségteljes használatát. A felhasználóknak hozzáférést kell kérniük, és jóvá kell hagyniuk, mielőtt létrehoznának egy Azure OpenAI-erőforrást.

Azure OpenAI-erőforrás létrehozása

Az Azure OpenAI-erőforrások üzembe helyezhetők az Azure parancssori felületén (CLI) és az Azure Portalon keresztül is. Az Azure OpenAI-erőforrás Azure Portalon történő létrehozása hasonló az egyes Azure AI-szolgáltatások erőforrásainak üzembe helyezéséhez, és az Azure AI-szolgáltatások részét képezi.

Lépjen az Azure Portalra
Keresse meg az Azure OpenAI-t, jelölje ki, majd kattintson a Létrehozás gombra
Adja meg az üres mezők megfelelő értékeit, és hozza létre az erőforrást.

Az Azure OpenAI lehetséges régiói jelenleg korlátozottak. Válassza ki a fizikai helyéhez legközelebb eső régiót.

Az erőforrás létrehozása után kulcsokkal és az alkalmazásban használható végpontokkal fog rendelkezni.

Modell kiválasztása és üzembe helyezése

Minden modellcsalád különböző feladatokat végez, és a modellek különböző képességeket kínálnak az egyes családon belül. A modellcsaládok három fő családra oszlanak:

Generatív előre betanított transzformátor (GPT) – Olyan modellek, amelyek természetes nyelvet és kódokat ismernek és hoznak létre. Ezek a modellek az általános feladatok, beszélgetések és csevegési formátumok esetében a legjobbak.
Code (gpt-3 és korábbi) – A kódmodellek GPT-modellekre épülnek, és több millió sornyi kódra vannak betanítve. Ezek a modellek képesek megérteni és létrehozni a kódot, beleértve a megjegyzések vagy a természetes nyelv értelmezését a kód létrehozásához. gpt-35-turbo és a későbbi modellekben ez a kódfunkció külön kódmodell nélkül is elérhető.
Beágyazások – Ezek a modellek képesek megérteni és használni a beágyazásokat, amelyek a gépi tanulási modellek és algoritmusok által használható speciális adatformátumok.

Ez a modul az általános GPT-modellekre összpontosít, más modelleket pedig más modulok fednek le.

A régebbi modellek esetében a modellcsalád és a képesség az alapmodell nevében van feltüntetve, például text-davinci-003, amely azt határozza meg, hogy szöveges modell, szintképességgel és azonosítóval davinci3. A modellekről, a képességszintekről és az elnevezési konvenciókról az Azure OpenAI-modellek dokumentációs oldalán olvashat.

A legújabb modellek határozzák meg, hogy melyik gpt generációt, és ha azok a turbo verzió, például gpt-35-turbo a GPT 3.5 Turbo modellt képviselik.

A használni kívánt modell üzembe helyezéséhez lépjen az Azure OpenAI Studióba , és lépjen az Üzembe helyezés lapra . A modul későbbi részében található labor pontosan bemutatja, hogyan kell ezt elvégezni.

Az üzembe helyezett modell hitelesítése és specifikációja

Amikor üzembe helyez egy modellt az Azure OpenAI-ban, egy üzembe helyezési nevet kell megadnia. Az alkalmazás konfigurálásakor meg kell adnia az erőforrásvégpontot, a kulcsot és az üzembe helyezés nevét, hogy megadja, melyik üzembehelyezési modellnek küldi el a kérést. Ez lehetővé teszi, hogy különböző modelleket helyezzen üzembe ugyanabban az erőforrásban, és a tevékenységtől függően kéréseket küldjön a megfelelő modellnek.

Parancssori tervezés

A bemeneti kérés írása nagy szerepet játszik az AI-modell válaszában. Ha például a rendszer egy egyszerű kéréssel (például "Mi az Azure OpenAI") kéri, gyakran kap egy általános választ, amely hasonló a keresőmotorok használatához.

Ha azonban további részleteket ad meg arról, hogy mit szeretne a válaszában, pontosabb választ kap. Ha például a következő üzenet jelenik meg:

Classify the following news headline into 1 of the following categories: Business, Tech, Politics, Sport, Entertainment

Headline 1: Donna Steffensen Is Cooking Up a New Kind of Perfection. The Internet’s most beloved cooking guru has a buzzy new book and a fresh new perspective
Category: Entertainment

Headline 2: Major Retailer Announces Plans to Close Over 100 Stores
Category:

A "Category:" (Kategória: ) feliratot valószínűleg a "Business" (Üzlet) felirattal tölti ki a címsorban.

Az ehhez hasonló példák az Azure OpenAI Studio Playground-ban, a Példák legördülő menüben találhatók. Próbálja meg a lehető legspecifikusabbnak lenni azzal kapcsolatban, hogy mit szeretne a modell válaszában, és meglepődhet, hogy mennyire éleslátó lehet!

Feljegyzés

Soha nem lehet feltételezni, hogy egy AI-modell válaszai tényszerűek vagy helyesek. Az AI-rendszerek fejlesztésével és üzembe helyezésével foglalkozó csapatoknak vagy egyéneknek dolgozniuk kell a károk azonosításán, mérésén és enyhítésén. Az Ön felelőssége, hogy ellenőrizze az AI-modellek válaszait, és felelősségteljesen használja az AI-t. Az Azure OpenAI-modellek felelős használatára vonatkozó további útmutatásért tekintse meg a Microsoft Átláthatósági megjegyzéseit az Azure OpenAI-ról .

További részletek a Prompt mérnöki dokumentáció oldalán találhatók.

Elérhető végpontok

Az Azure OpenAI egy REST API-n vagy egy Pythonhoz és C#-hoz jelenleg elérhető SDK-n keresztül érhető el. Az üzembe helyezett modellekkel való interakcióhoz elérhető végpontok eltérően vannak használva, és egyes végpontok csak bizonyos modelleket használhatnak. Az elérhető végpontok a következők:

Befejezés – a modell egy bemeneti kérést kér, és létrehoz egy vagy több előrejelzett befejezést. Látni fogja ezt a játszóteret a stúdióban, de ebben a modulban nem foglalkozunk részletesen.
ChatCompletion – A modell csevegés formájában adja meg a bemenetet (ahol a szerepkörök meg vannak adva az általuk küldött üzenettel), és a következő csevegés befejezése létre lesz hozva.
Beágyazások – a modell bemenetet vesz fel, és a bemenet vektoros ábrázolását adja vissza.

A bemenet ChatCompletion például egy olyan beszélgetés, amely egyértelműen definiált szerepkörökkel rendelkezik az egyes üzenetekhez:

{"role": "system", "content": "You are a helpful assistant, teaching people about AI."},
{"role": "user", "content": "Does Azure OpenAI support multiple languages?"},
{"role": "assistant", "content": "Yes, Azure OpenAI supports several languages, and can translate between them."},
{"role": "user", "content": "Do other Azure AI Services support translation too?"}

Ha valódi beszélgetést ad az AI-modellnek, jobb választ hozhat létre pontosabb hangnem, kifejezés és kontextus használatával. A ChatCompletion végpont lehetővé teszi, hogy a ChatGPT-modell reálisabb beszélgetést folytassa a csevegés előzményeinek elküldésével a következő felhasználói üzenettel.

ChatCompletion emellett lehetővé teszi a nem csevegési forgatókönyveket is, például az összegzést vagy az entitások kinyerását. Ezt egy rövid beszélgetéssel, a rendszerinformációk és a kívánt adatok megadásával, valamint a felhasználói bemenettel teheti meg. Ha például egy feladatleírást szeretne létrehozni, adjon meg ChatCompletion valami hasonlót a következő beszélgetési bemenethez.

{"role": "system", "content": "You are an assistant designed to write intriguing job descriptions. "},
{"role": "user", "content": "Write a job description for the following job title: 'Business Intelligence Analyst'. It should include responsibilities, required qualifications, and highlight benefits like time off and flexible hours."}