Az Azure OpenAI finomhangolásának integrálása a Weights & Biases szolgáltatással (előzetes verzió)

A Weights & Biases (W&B) egy hatékony AI-fejlesztői platform, amely lehetővé teszi a gépi tanulási szakemberek számára a modellek hatékony betanítása, finomhangolása és üzembe helyezése. Az Azure OpenAI finomhangolása integrálható a W&B-vel, így nyomon követheti a metrikákat, paramétereket, és megjelenítheti az Azure OpenAI finomhangolási betanítási futásait a W&B-projektekben. Ebben a cikkben végigvezetjük a Weights & Elfogultság integráció beállításán.

Előfeltételek

• Egy Azure OpenAI-erőforrás. További információ: Erőforrás létrehozása és modell üzembe helyezése az Azure OpenAI használatával. Az erőforrásnak olyan régióban kell lennie, amely támogatja a finomhangolást.
• Győződjön meg arról, hogy a modellek finomhangolásához szükséges összes csapattag rendelkezik a Cognitive Services OpenAI-közreműködői hozzáféréssel az új Azure OpenAI-erőforráshoz.
• Egy Weights & Biases-fiók és API-kulcs.
• Azure Key Vault. A kulcstartó létrehozásával kapcsolatos további információkért tekintse meg az Azure Key Vault gyorsútmutatót.

A rendszer által felügyelt identitás engedélyezése

Először engedélyezze a rendszer által felügyelt identitást az Azure OpenAI-erőforráshoz.

Súlyok és torzítás API-kulcs lekérése

Jelentkezzen be, https://wandb.ai és nyissa meg a felhasználói beállításokat.

Az API-kulcsok területen válassza a Felfedés lehetőséget a kulcs eléréséhez és a vágólapra másolásához.

Ha új kulcsot szeretne létrehozni, használja https://wandb.ai/authorizeés másolja a kulcsot, hogy később hozzáadja az integrációs konfigurációhoz.

Az Azure Key Vault konfigurálása

Ha biztonságosan szeretne adatokat küldeni az Azure OpenAI-ból a Weights &elfogult projektekbe, az Azure Key Vaultot kell használnia.

A Weights &biases API-kulcs hozzáadása titkos kulcsként az Azure Key Vaulthoz

1. Keresse meg a használni kívánt Azure Key Vaultot.

2. Ha titkos kulcsokat szeretne olvasni és írni az Azure Key Vaultba, explicit módon hozzá kell rendelnie a hozzáférést.

3. Nyissa meg a Beállítások>hozzáférés konfigurációját. Az Engedélymodell alatt azt javasoljuk, hogy válassza az Azure szerepköralapú hozzáférés-vezérlését, ha még nincs kiválasztva. További információ az Azure szerepköralapú hozzáférés-vezérléséről.

   

Key Vault titkos kulcsokért felelős tisztviselői szerepkör hozzárendelése

Most, hogy azure-beli szerepköralapú hozzáférés-vezérlésre állította be az engedélymodellt, átadhatja magának a Key Vault titkos kulcsait kezelő tisztviselői szerepkört.

1. Nyissa meg a Hozzáférés-vezérlést (IAM), majd a Szerepkör-hozzárendelés hozzáadása parancsot

   

2. Válassza a Key Vault titkos kulcsfelügyelőjét, adja hozzá a fiókját tagként, és válassza a véleményezés és hozzárendelés lehetőséget.

   

Titkos kulcsok létrehozása

1. A Key Vault-erőforrás Objektumai területén válassza a Titkos kulcsok> létrehozása/importálása lehetőséget.

   

2. Adjon nevet a titkos kódnak, és mentse a létrehozott Weights &Biases API-kulcsot a titkos értékre.

   

3. Ügyeljen arra, hogy rögzítse a titkos kód nevét és a kulcstartó URL-címét. A kulcstartó URL-címe lekérhető a kulcstartó Áttekintés szakaszából.

Key Vault-engedély megadása az Azure OpenAI-fiókban

Ha korábban tárolóelérési szabályzatot használt a titkos kulcsok olvasásához és az Azure Key Vaultba való írásához, akkor ezt ismét használnia kell. Ellenkező esetben továbbra is használja az Azure szerepköralapú hozzáférés-vezérlését. Az Azure szerepköralapú hozzáférés-vezérlését javasoljuk. Ha azonban nem működik, próbálja ki a Vault hozzáférési szabályzatát.

Az Azure OpenAI-erőforrásnak adja meg a Key Vault titkos kulcsfelügyelői szerepkörét.

Súlyok és torzítások összekapcsolása az Azure OpenAI-val

1. Lépjen az Azure AI Foundry portálra , és válassza ki az Azure OpenAI finomhangolási erőforrását.

   

2. Adja hozzá a kulcstartó URL-címét és titkos kódját. Ezután válassza a Frissítés lehetőséget.

   

3. Most, amikor új finomhangolási feladatokat hoz létre, lehetősége lesz adatokat naplózni a feladatból a Weights & Elfogultság fiókba.