Megosztás a következőn keresztül:

Azure OpenAI-modellek üzembe helyezése az Azure AI Studióval

  • Cikk

Fontos

A cikkben ismertetett funkciók némelyike csak előzetes verzióban érhető el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.

Ebből a cikkből megtudhatja, hogyan hozhat létre Azure OpenAI-modelltelepítéseket az Azure AI Studióban.

Az Azure OpenAI szolgáltatás különböző képességekkel és árpontokkal rendelkező modellek széles halmazát kínálja. Amikor Azure OpenAI-modelleket helyez üzembe az Azure AI Studióban, felhasználhatja az üzembe helyezéseket a parancssori folyamat vagy egy másik eszköz használatával. A modellek elérhetősége régiónként változik. Az egyes modellek részleteiről az Azure OpenAI szolgáltatásmodellek című témakörnél olvashat bővebben.

Egy Azure OpenAI-modell azure AI Studio-játszótéren való módosításához és használatához először üzembe kell helyeznie egy alapszintű Azure OpenAI-modellt a projektben. Miután a modell üzembe lett helyezve és elérhető a projektben, felhasználhatja a REST API-végpontját, vagy testre szabhatja a saját adataival és más összetevőivel (beágyazásokkal, indexekkel stb.).

Azure OpenAI-modell üzembe helyezése a modellkatalógusból

Kövesse az alábbi lépéseket egy Azure OpenAI-modell üzembe helyezéséhez, például gpt-4 egy valós idejű végponton az AI Studio modellkatalógusából:

  1. Jelentkezzen be az AI Studióba, és nyissa meg a kezdőlapot.

  2. Válassza a Modellkatalógus lehetőséget a bal oldali oldalsávon.

  3. A Gyűjtemények szűrőben válassza az Azure OpenAI lehetőséget.

    Képernyőkép az Azure OpenAI-modellek szerinti szűrésről a katalógusban.

  4. Válasszon ki egy modellt, például gpt-4 az Azure OpenAI-gyűjteményből.

  5. Válassza az Üzembe helyezés lehetőséget az üzembehelyezési ablak megnyitásához.

  6. Válassza ki azt a központot, ahová telepíteni szeretné a modellt. Ha nincs hubja, létrehozhat egyet.

  7. Adja meg az üzembe helyezés nevét, és módosítsa az egyéb alapértelmezett beállításokat a követelményektől függően.

  8. Válassza az Üzembe helyezés lehetőséget.

  9. Az üzembe helyezés részleteinek oldalára léphet. Válassza a Megnyitás a játszótéren lehetőséget.

  10. Válassza a Kód megtekintése lehetőséget az alkalmazásban üzembe helyezett modell felhasználásához használható kódminták beszerzéséhez.

Azure OpenAI-modell üzembe helyezése a projektből

Másik lehetőségként kezdeményezheti az üzembe helyezést a projektből kiindulva az AI Studióban.

  1. Nyissa meg a projektet az AI Studióban.
  2. Válassza ki az>Összetevők telepítések lehetőséget.
  3. Válassza az +Üzembe helyezés létrehozása lehetőséget.
  4. A Gyűjtemények szűrőben válassza az Azure OpenAI lehetőséget.
  5. Válasszon ki egy modellt, például gpt-4 az Azure OpenAI-gyűjteményből.
  6. Válassza a Megerősítés lehetőséget az üzembehelyezési ablak megnyitásához.
  7. Adja meg az üzembe helyezés nevét, és módosítsa az egyéb alapértelmezett beállításokat a követelményektől függően.
  8. Válassza az Üzembe helyezés lehetőséget.
  9. Az üzembe helyezés részleteinek oldalára léphet. Válassza a Megnyitás a játszótéren lehetőséget.
  10. Válassza a Kód megtekintése lehetőséget az alkalmazásban üzembe helyezett modell felhasználásához használható kódminták beszerzéséhez.

Az Azure OpenAI-modell következtetése

Az üzembe helyezett modellre vonatkozó következtetés végrehajtásához használhatja a játszóteret vagy a kódmintákat. A játszótér egy webes felület, amellyel valós időben kommunikálhat a modellel. A játszótér használatával különböző kérésekkel tesztelheti a modellt, és megtekintheti a modell válaszait.

Az üzembe helyezett modell alkalmazásbeli felhasználására további példákért tekintse meg az alábbi Azure OpenAI-gyorsútmutatókat:

A modell regionális rendelkezésre állási és kvótakorlátjai

Az Azure OpenAI-modellek esetében a modellek alapértelmezett kvótája modellenként és régiónként eltérő. Előfordulhat, hogy egyes modellek csak bizonyos régiókban érhetők el. A rendelkezésre állásról és a kvótakorlátokról további információt az Azure OpenAI szolgáltatás kvótái és korlátai című témakörben talál.

Modell üzembe helyezésének és következtetésének kvótája

Az Azure OpenAI-modellek esetében az üzembe helyezés és a következtetés az előfizetéshez régiónként, modellenkénti alapon hozzárendelt kvótát használja fel a Tokens-per-Minute (TPM) egységekben. Amikor regisztrál az Azure AI Studióra, a legtöbb elérhető modellhez alapértelmezett kvótát kap. Ezután minden üzembe helyezéshez hozzárendeli a TPM-et a létrehozásukkor, így a modellhez rendelkezésre álló kvótát a hozzárendelt mennyiséggel csökkenti. Továbbra is létrehozhat üzembe helyezéseket, és rendelhet hozzájuk TPM-eket, amíg el nem éri a kvótakorlátot.

Miután elérte a kvótakorlátot, a modell új üzembe helyezésének egyetlen módja a következő:

A kvótával kapcsolatos további információkért tekintse meg az Azure AI Studio kvótáit és az Azure OpenAI-szolgáltatáskvótát.

Kapcsolódó tartalom