Meta Llama-modellek finomhangolása az Azure AI Studióban

Fontos

A cikkben ismertetett funkciók némelyike csak előzetes verzióban érhető el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.

Az Azure AI Studio segítségével nagy nyelvi modelleket szabhat a személyes adathalmazokhoz egy úgynevezett finomhangolási folyamattal.

A finomhangolás jelentős értéket nyújt azáltal, hogy lehetővé teszi a testreszabást és az optimalizálást adott feladatokhoz és alkalmazásokhoz. Ez jobb teljesítményt, költséghatékonyságot, kisebb késést és testreszabott kimeneteket eredményez.

Ebből a cikkből megtudhatja, hogyan finomhangolhatja a Meta Llama-modelleket az Azure AI Studióban.

A Meta Llama nagy nyelvi modellek (LLM) -család előre betanított és finomhangolt generatív szöveges modellek gyűjteménye, amelyek 7 milliárdtól 70 milliárd paraméterig terjednek. A modellcsalád olyan finomhangolt verziókat is tartalmaz, amelyeket párbeszéd-használati esetekre optimalizáltak az Emberi visszajelzések megerősítése Tanulás (RLHF), úgynevezett Llama-2-chat használatával.

Modellek

Meta Llama 3

A Llama 3 modellek finomhangolása jelenleg nem támogatott.

Meta Láma 2

A következő modellek érhetők el az Azure Marketplace-en a Llama 2-hez, ha használatalapú fizetéses számlázással rendelkező szolgáltatásként finomhangolnak:

• Llama-2-70b (előzetes verzió)
• Llama-2-13b (előzetes verzió)
• Llama-2-7b (előzetes verzió)

A Llama 2 modellek finomhangolása jelenleg az USA 3. nyugati régiójában található projektekben támogatott.

Előfeltételek

Meta Llama 3

A Llama 3 modellek finomhangolása jelenleg nem támogatott.

Meta Láma 2

Érvényes fizetési móddal rendelkező Azure-előfizetés. Az ingyenes vagy próbaverziós Azure-előfizetések nem működnek. Ha nem rendelkezik Azure-előfizetéssel, hozzon létre egy fizetős Azure-fiókot .

• Egy AI Studio-központ.

  Fontos

  A Meta Llama 2 modellek esetében a használatalapú fizetéses modell finomhangoló ajánlata csak az USA 3 . nyugati régiójában létrehozott központokkal érhető el.

• AI Studio-projekt az Azure AI Studióban.

• Az Azure szerepköralapú hozzáférés-vezérlései (Azure RBAC) az Azure AI Studióban végzett műveletekhez való hozzáférést biztosítják. A jelen cikkben ismertetett lépések végrehajtásához a felhasználói fiókjához az Azure-előfizetés tulajdonosi vagy közreműködői szerepkört kell hozzárendelni. Másik lehetőségként a fiókhoz a következő engedélyekkel rendelkező egyéni szerepkör rendelhető hozzá:

  • Az Azure-előfizetésben – az AI Studio-projekt előfizetése az Azure Marketplace-ajánlatra, minden projekthez egyszer, ajánlatonként:

    • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
    • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
    • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.SaaS/register/action

  • Az erőforráscsoporton – az SaaS-erőforrás létrehozása és használata érdekében:

    • Microsoft.SaaS/resources/read
    • Microsoft.SaaS/resources/write

  • Az AI Studio-projektben – végpontok üzembe helyezéséhez (az Azure AI Fejlesztői szerepkör már tartalmazza ezeket az engedélyeket):

    • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
    • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

  Az engedélyekről további információt az Azure AI Studio szerepköralapú hozzáférés-vezérlésében talál.

Előfizetés-szolgáltató regisztrációja

Ellenőrizze, hogy az előfizetés regisztrálva van-e az Microsoft.Network erőforrás-szolgáltatóban.

1. Jelentkezzen be az Azure Portalra.

2. Válassza az Előfizetések lehetőséget a bal oldali menüből.

3. Válassza ki a használni kívánt előfizetést.

4. A bal oldali menüben válassza a Gépház-szolgáltatókat>.

5. Ellenőrizze, hogy a Microsoft.Network szerepel-e az erőforrás-szolgáltatók listájában. Egyéb esetben adja hozzá.

   

Adatok előkészítése

A modell finomhangolásához készítse elő a betanítási és érvényesítési adatokat. A képzési és validálási adathalmazok bemeneti és kimeneti példákból állnak, amelyek azt mutatják, hogy a modellt hogyan kell teljesíteni.

Győződjön meg arról, hogy az összes betanítási példa a következtetés várt formátumát követi. A modellek hatékony finomhangolásához biztosítsa a kiegyensúlyozott és változatos adatkészletet.

Ez magában foglalja az adategyensúly fenntartását, beleértve a különböző forgatókönyveket, valamint a betanítási adatok rendszeres finomítását a valós elvárásoknak megfelelően, ami végső soron pontosabb és kiegyensúlyozottabb modellválaszokhoz vezet.

A különböző modelltípusok eltérő betanítási adatokat igényelnek.

Csevegés befejezése

A használt betanítási és érvényesítési adatokat JSON Lines (JSONL) dokumentumként kell formázni. A Llama-3-80B-chat finomhangolási adatkészletet a Csevegés befejezése API által használt beszélgetési formátumban kell formázni.

Példa fájlformátumra

    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Is Xbox better than PlayStation?"}, {"role": "assistant", "content": "I apologize, but I cannot provide personal opinions. My primary job is to assist you with any issues related to your Xbox device. Do you have any Xbox-related issues that need addressing?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Can I play PC games on my Xbox?"}, {"role": "assistant", "content": "While Xbox consoles don't natively support PC games, they can play an array of Xbox games, many of which are also available on PC. Can I assist you with finding games compatible with your Xbox device?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "I'm having trouble connecting my Xbox to the Wi-Fi."}, {"role": "assistant", "content": "No worries, let's go through the network settings on your Xbox. Can you please tell me what happens when you try to connect it to the Wi-Fi?"}]}

A támogatott fájltípus a JSON-sorok. A fájlok feltöltése az alapértelmezett adattárba történik, és elérhetővé válik a projektben.

Szöveg létrehozása

A használt betanítási és érvényesítési adatokat JSON-sorok (JSONL) dokumentumként kell formázni, amelyben minden sor egyetlen parancssori kiegészítési párt jelöl.

Példa fájlformátumra

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

Íme néhány példa adathalmaz a Hugging Face-re, amelyekkel finomhangolhatja a modellt:

• dair-ai/emotion

  

• SetFit/mrpc

  

Az egyszöveges besoroláshoz a betanítási adatoknak legalább két mezőt kell tartalmazniuk, például text1 és label. A szövegpárok besorolásához a betanítási adatoknak legalább három mezőt kell tartalmazniuk, például text1: , text2és label.

A támogatott fájltípus a JSON-sorok. A fájlok feltöltése az alapértelmezett adattárba történik, és elérhetővé válik a projektben.

Meta Llama-modell finomhangolása

Meta Llama 3

A Llama 3 modellek finomhangolása jelenleg nem támogatott.

Meta Láma 2

A Llama 2-modell finomhangolható az Azure AI Studióban a modellkatalóguson vagy a meglévő projekten keresztül.

Egy Llama 2-modell finomhangolásához egy meglévő Azure AI Studio-projektben kövesse az alábbi lépéseket:

1. Jelentkezzen be az Azure AI Studióba.

2. Válassza ki azt a modellt, amelyet finomhangolni szeretne az Azure AI Studio modellkatalógusából.

3. A modell Részletek lapján válassza a finomhangolást.

4. Ha ez az első alkalom, hogy finomhangolta a modellt a projektben, regisztrálnia kell a projektet az adott ajánlatra az Azure Marketplace-en. Minden projektnek saját kapcsolata van a piactér ajánlatával, amely lehetővé teszi a projektenkénti kiadások szabályozását és monitorozását. Kattintson a Folytatás gombra a finomhangoláshoz.

   Feljegyzés

   Egy projektnek az Azure Marketplace-ről egy adott ajánlatra való előfizetéséhez közreműködői vagy tulajdonosi hozzáférésre van szükség a projekt létrehozásakor megadott előfizetési szinten.

   

5. Válasszon egy alapmodellt a finomhangoláshoz, és válassza a Megerősítés lehetőséget. A választás a modell teljesítményét és költségeit is befolyásolja.

   

6. Adja meg a finomhangolt modell nevét, valamint az opcionális címkéket és leírást.

7. A modell finomhangolásához válassza ki a betanítási adatokat. További információkért tekintse meg az adatelőkészítést .

   Győződjön meg arról, hogy az összes betanítási példa a következtetés várt formátumát követi. A modellek hatékony finomhangolásához biztosítsa a kiegyensúlyozott és változatos adatkészletet. Ez magában foglalja az adategyensúly fenntartását, beleértve a különböző forgatókönyveket, valamint a betanítási adatok rendszeres finomítását a valós elvárásoknak megfelelően, ami végső soron pontosabb és kiegyensúlyozottabb modellválaszokhoz vezet.

   • A betanításhoz használandó kötegméret. Ha -1 értékre van állítva, a batch_size a betanítási készlet példáinak 0,2%-a, a maximális érték pedig 256.
   • A tanulási sebesség finomhangolása az előtanításhoz használt eredeti tanulási arány, amely megszorozza ezt a szorzót. Javasoljuk, hogy kísérletezzen a 0,5 és 2 közötti értékekkel. Empirikusan azt találtuk, hogy a nagyobb tanulási arányok gyakran jobban teljesítenek a nagyobb kötegméretekkel. 0,0 és 5,0 között kell lennie.
   • A betanítási korszakok száma. A korszak egy teljes ciklusra utal az adathalmazon keresztül. Ha -1 értékre van állítva, a rendszer dinamikusan határozza meg a korszakok számát a bemeneti adatok alapján.

8. A feladatparaméterek választható lépések és speciális lehetőségek. A hiperparaméter finomhangolása elengedhetetlen a nagy nyelvi modellek (LLM-ek) valós alkalmazásokban való optimalizálásához. Jobb teljesítményt és hatékony erőforrás-használatot tesz lehetővé. Az alapértelmezett beállítások használhatók, vagy a haladó felhasználók testre szabhatják az olyan paramétereket, mint az alapidőszakok vagy a tanulási sebesség.

9. Tekintse át a kijelöléseket, és folytassa a modell betanítása.

A modell finomhangolása után üzembe helyezheti a modellt, és használhatja a saját alkalmazásában, a játszótéren vagy a parancssori folyamatban. További információ: Llama 2 nagy nyelvi modellcsalád üzembe helyezése az Azure AI Studióval.

A finomhangolt modellek tisztítása

A finomhangolt modellek törölhetők az Azure AI Studio finomhangolási modelllistájából vagy a modell részleteinek oldaláról. Válassza ki a finomhangolt modellt, amelyet törölni szeretne a finomhangolási lapról, majd a Törlés gombra kattintva törölje a finomhangolt modellt.

Feljegyzés

Ha már rendelkezik üzembe helyezéssel, nem törölhet egyéni modellt. Az egyéni modell törléséhez először törölnie kell a modell üzembe helyezését.

Költség és kvóták

Szolgáltatásként finomhangolt Meta Llama-modellek költség- és kvótaalapú szempontjai

A szolgáltatásként finomhangolt Meta Llama-modelleket a Meta az Azure Marketplace-en keresztül kínálja, és integrálva van az Azure AI Studióval használatra. A modellek üzembe helyezésekor vagy finomhangolásakor megtalálhatja az Azure Marketplace díjszabását.

Minden alkalommal, amikor egy projekt feliratkozik egy adott ajánlatra az Azure Marketplace-ről, egy új erőforrás jön létre a használathoz kapcsolódó költségek nyomon követéséhez. Ugyanez az erőforrás a következtetéssel és finomhangolással kapcsolatos költségek nyomon követésére szolgál; azonban több mérőeszköz is rendelkezésre áll az egyes forgatókönyvek egymástól függetlenül történő nyomon követéséhez.

A költségek nyomon követéséről további információt az Azure Marketplace-en kínált modellek költségeinek monitorozásával kapcsolatban talál.

Tartalomszűrés

A használatalapú fizetéses számlázással szolgáltatásként üzembe helyezett modelleket az Azure AI Content Széf ty védi. Ha valós idejű végpontokon van üzembe helyezve, kikapcsolhatja ezt a képességet. Ha az Azure AI-tartalombiztonság engedélyezve van, a kérés és a befejezés is olyan besorolási modellek együttesén megy keresztül, amelyek célja a káros tartalmak kimenetének észlelése és megakadályozása. A tartalomszűrési rendszer észleli és műveletet hajt végre a potenciálisan káros tartalmak meghatározott kategóriáiban mind a bemeneti kérésekben, mind a kimeneti befejezésekben. További információ az Azure AI Content Széf ty szolgáltatásról.

Következő lépések

• Mi az Az Azure AI Studio?
• További információ a Meta Llama-modellek üzembe helyezéséről
• Azure AI – gyakori kérdések – cikk