Mi az Azure OpenAI az Azure AI Foundry-modellekben?

Az Azure OpenAI REST API-hozzáférést biztosít az OpenAI hatékony nyelvi modelljeihez, például o4-mini, o3, gpt-4.1, o3-mini, o1, o1-mini, GPT-4o, GPT-4o mini, GPT-4 Turbo with Vision, GPT-4, GPT-3.5-Turbo és Embeddings modellsorozatokhoz. Ezek a modellek könnyen adaptálhatók az adott feladathoz, beleértve a tartalomgenerálást, az összegzést, a képfelismerést, a szemantikai keresést és a természetes nyelvet a kódfordításhoz. A felhasználók REST API-kon, Python/C#/JS/Java/Go SDK-n keresztül érhetik el a szolgáltatást.

Funkciók áttekintése

Funkció	Azure OpenAI
Elérhető modellek	o4-mini &o3 gpt-4.1 számítógép-használat előzetes o3-mini &o1 o1-mini GPT-4o & GPT-4o mini GPT-4 sorozat (beleértve a GPT-4 Turbo with Vision) GPT-3.5-Turbo sorozat Beágyazási sorozat További információ a Modellek oldalon.
Finomhangolás	GPT-4o-mini (előzetes verzió) GPT-4 (előzetes verzió) GPT-3.5-Turbo (0613).
Ár	Itt érhető el A látásalapú csevegőmodellekkel kapcsolatos részletekért tekintse meg a speciális díjszabási információkat.
Virtuális hálózat támogatása és privát kapcsolat támogatása	Igen.
Felügyelt identitás	Igen, a Microsoft Entra-azonosítón keresztül
Felhasználói felület	Azure Portal fiók- és erőforrás-kezeléshez, Azure AI Foundry modellfeltáráshoz és finomhangoláshoz
Modell regionális rendelkezésre állása	Modell rendelkezésre állása
Tartalomszűrés	A kérések és kiegészítések kiértékelése a tartalomszabályzatunk alapján történik automatizált rendszerekkel. A nagy súlyosságú tartalom szűrve van.

Felelős mesterséges intelligencia

A Microsoftnál elkötelezettek vagyunk a mesterséges intelligencia fejlődése mellett, amelyet az emberek elé helyező alapelvek vezérelnek. Az Azure OpenAI-ban elérhető generatív modellek jelentős potenciális előnyökkel járnak, de gondos tervezés és átgondolt megoldások nélkül az ilyen modellek helytelen vagy akár káros tartalmakat is eredményezhetnek. A Microsoft jelentős beruházásokat hajtott végre a visszaélések és a nem szándékos károk elleni védelem érdekében, beleértve a Microsoft felelősségteljes MI-használatra vonatkozó alapelveinek beépítését, a szolgáltatás használatára vonatkozó magatartási kódex elfogadását, az ügyfeleket támogató tartalomszűrők kiépítését, valamint a felelős AI-információk és útmutatás biztosítását , amelyeket az ügyfeleknek figyelembe kell venniük az Azure OpenAI használata során.

Az Azure OpenAI használatának első lépései

Az Azure OpenAI használatának megkezdéséhez létre kell hoznia egy Azure OpenAI-erőforrást az Azure-előfizetésében.

Kezdje az Azure OpenAI-erőforrás-útmutató létrehozásával és üzembe helyezésével .

1. Erőforrást az Azure Portalon, az Azure CLI-vel vagy az Azure PowerShell-lel hozhat létre.

2. Ha rendelkezik Azure OpenAI-erőforrással, üzembe helyezhet egy olyan modellt, mint a GPT-4o.

3. Ha üzembe helyezett modellel rendelkezik, a következőt teheti:

   • Próbálja ki az Azure AI Foundry portálját , hogy megismerje a modellek képességeit.
   • A REST API-k vagy SDK-k használatával is elkezdhet API-hívásokat kezdeményezni a szolgáltatáshoz.

   Kipróbálhatja például a valós idejű hangot és az asszisztenseket a játszótereken, vagy kóddal.

Megjegyzés

Néhány Azure OpenAI-modell vagy szolgáltatás eléréséhez korlátozott hozzáférésű regisztrációs űrlap szükséges. További információ az Azure OpenAI Korlátozott hozzáférésű lapon.

Az Azure OpenAI és az OpenAI összehasonlítása

Az Azure OpenAI speciális nyelvi AI-t biztosít az ügyfeleknek az OpenAI GPT-4, GPT-3, Codex, GPT-image-1 (előzetes verzió), DALL-E, beszéd-szöveg és szöveg-beszédmodellekkel az Azure biztonsági és vállalati ígéretével. Az Azure OpenAI az OpenAI-val közösen fejleszti az API-kat, biztosítva a kompatibilitást és az egyikről a másikra való zökkenőmentes átmenetet.

Az Azure OpenAI-val az ügyfelek a Microsoft Azure biztonsági képességeit kapják, miközben ugyanazokat a modelleket futtatják, mint az OpenAI. Az Azure OpenAI privát hálózatkezelést, regionális rendelkezésre állást és felelős AI-tartalomszűrést kínál.

Fő fogalmak

Feladatok és befejezések

A befejezési végpont az API-szolgáltatás fő összetevője. Ez az API hozzáférést biztosít a modell szövegbeviteli, szövegkiírási felületéhez. A felhasználóknak egyszerűen meg kell adniuk az angol szöveg parancsot tartalmazó beviteli kérést , és a modell létrehoz egy szövegkiegészítést.

Íme egy példa egy egyszerű kérdésre és befejezésre:

Felkérés: """ count to 5 in a for loop """

Befejezés: for i in range(1, 6): print(i)

Tokenek

Szöveges tokenek

Az Azure OpenAI a jogkivonatokra lebontva dolgozza fel a szöveget. A tokenek lehetnek szavak vagy csak karaktersorozatok. A "hamburger" szó például "sonka", "bur" és "ger" tokenekre oszlik, míg egy rövid és gyakori szó, mint a "körte", egyetlen token. Számos kifejezés szóközzel kezdődik, például " hello" és " viszlát".

Az adott kérésben feldolgozott tokenek száma a bemenet, kimenet és kérelemparaméterek hosszától függ. A feldolgozott tokenek mennyisége hatással lesz a modellek válaszkésésére és átviteli sebességére.

Képtokenek

Az Azure OpenAI kép-feldolgozási képességei a GPT-4o, GPT-4o-mini és GPT-4 Turbo with Vision modellekkel a képfeldolgozási tokenizáció segítségével határozzák meg a képbemenetek által felhasznált tokenek teljes számát. A felhasznált tokenek számát két fő tényező alapján számítjuk ki: a kép részletességi szintje (alacsony vagy magas) és a kép mérete alapján. A tokenköltségek kiszámítása a következőképpen történik:

• Kis felbontású mód
  • Az alacsony részletesség lehetővé teszi, hogy az API gyorsabban válaszoljon olyan forgatókönyvekre, amelyekhez nincs szükség nagy képfelbontási elemzésre. Az alacsony részletességű képekhez felhasznált tokenek:
    • GPT-4o és GPT-4 Turbo a Vision használatával: Képenként 85 token átalánydíja, mérettől függetlenül.
    • GPT-4o mini: Képenként 2833 token átalánydíja, mérettől függetlenül.
  • Példa: 4096 x 8192 kép (alacsony részletességű): A költség fix 85 zseton a GPT-4o-val, mivel ez egy alacsony részletességű kép, és a költséget nem befolyásolja a méret ebben a módban.
• Nagy felbontású mód
  • A nagy részletesség lehetővé teszi, hogy az API részletesebben elemezze a képeket. A kép tokenjei a kép méretei alapján kerülnek kiszámításra. A számítás a következő lépéseket foglalja magában:
    1. Kép átméretezése: A rendszer úgy méretezi át a képet, hogy elférjen egy 2048 x 2048 képpontos négyzeten belül. Ha a legrövidebb oldal nagyobb, mint 768 képpont, a rendszer tovább átméretezi a képet, hogy a legrövidebb oldal 768 képpont hosszú legyen. Az átméretezés során az oldalarány megmarad.
    2. Csempeszámítás: Az átméretezés után a rendszer a képet 512 x 512 képpontos csempékre osztja. A részleges csempék teljes csempére vannak kerekítve. A csempék száma határozza meg a zsetonok teljes költségét.
    3. Jogkivonat számítása:
       • GPT-4o és GPT-4 Turbo vision: Minden 512 x 512 képpontos csempe 170 tokenbe kerül. A rendszer további 85 token ad hozzá az összeghez.
       • GPT-4o mini: Minden 512 x 512 képpontos csempe 5667 tokenbe kerül. A rendszer további 2833 alap tokenek ad hozzá az összeghez.
  • Példa: 2048 x 4096 kép (nagy részletességgel):
    1. A kép eredetileg 1024 x 2048 képpont méretűre van átméretezve, hogy elférjen a 2048 x 2048 képpontos négyzeten belül.
    2. A kép további átméretezése 768 x 1536 képpontra, hogy a legrövidebb oldal legfeljebb 768 képpont hosszú legyen.
    3. A kép 2 x 3 csempére van osztva, egyenként 512 x 512 képpontra.
    4. Végső számítás:
       • A GPT-4o és a GPT-4 Turbo Vision esetében a teljes tokenköltség 6 csempe x 170 token csempénként + 85 alap token = 1105 token.
       • A GPT-4o mini esetében a teljes tokenköltség 6 csempe x 5667 token csempénként + 2833 alap token = 36835 token.

Források

Az Azure OpenAI egy új termékajánlat az Azure-ban. Az Azure OpenAI használatbavétele ugyanúgy történik, mint bármely más Azure-termék, ahol erőforrást vagy szolgáltatáspéldányt hoz létre az Azure-előfizetésben. További információ az Azure erőforrás-kezelési tervéről.

Telepítések

Miután létrehozott egy Azure OpenAI-erőforrást, üzembe kell helyeznie egy modellt, mielőtt elkezdené az API-hívások indítását és a szöveg létrehozását. Ez a művelet az üzembehelyezési API-k használatával végezhető el. Ezek az API-k lehetővé teszik a használni kívánt modell megadását.

Promptfejlesztés

Az OpenAI GPT-3, GPT-3.5 és GPT-4 modelljei parancssori alapúak. A parancssor-alapú modellek esetében a felhasználó szöveges üzenetek beírásával kezeli a modellt, amely a szöveg kiegészítésével válaszol. Ezzel a kiegészítéssel a modell a bevitt szöveget folytatja.

Bár ezek a modellek hatékonyak, viselkedésük is érzékeny a kérdésre. Így a gyors tervezés fontos képesség a fejlesztéshez.

A gyors építés nehéz lehet. A gyakorlatban a kérés úgy működik, hogy a modell súlyait a kívánt feladat elvégzéséhez konfigurálja, de ez inkább művészet, mint tudomány, gyakran tapasztalatot és intuíciót igényel egy sikeres kérés létrehozásához.

Modellek

A szolgáltatás több különböző modellhez biztosít hozzáférést a felhasználóknak. Minden modell más-más képességet és árpontot biztosít.

A képgenerálási modellek (néhány előzetes verzióban, lásd a modelleket) képeket hoznak létre és szerkesztenek a felhasználó által biztosított szöveges kérésekből.

A hang API-modellek a beszéd szöveggé való átírására és fordítására használhatók. A jelenleg előzetes verzióban elérhető szöveg-beszédmodellek a szöveg beszédszintézisére használhatók.

További információ az egyes modellekről a modellek koncepcióoldalán.

Következő lépések

További információ az Azure OpenAI-t használó mögöttes modellekről.