Meta Llama-modellen verfijnen in Azure AI Studio

Belangrijk

Sommige van de functies die in dit artikel worden beschreven, zijn mogelijk alleen beschikbaar in de preview-versie. Deze preview wordt aangeboden zonder een service level agreement en we raden deze niet aan voor productieworkloads. Misschien worden bepaalde functies niet ondersteund of zijn de mogelijkheden ervan beperkt. Zie Aanvullende gebruiksvoorwaarden voor Microsoft Azure-previews voor meer informatie.

Met Azure AI Studio kunt u grote taalmodellen aanpassen aan uw persoonlijke gegevenssets met behulp van een proces dat bekend staat als afstemmen.

Fijn bewerken biedt een aanzienlijke waarde door aanpassing en optimalisatie in te schakelen voor specifieke taken en toepassingen. Dit leidt tot verbeterde prestaties, kostenefficiëntie, verminderde latentie en op maat gemaakte uitvoer.

In dit artikel leert u hoe u Meta Llama-modellen kunt verfijnen in Azure AI Studio.

De Meta Llama-familie van grote taalmodellen (LLM's) is een verzameling vooraf getrainde en verfijnde tekstmodellen, variërend van 7 miljard tot 70 miljard parameters. De modelfamilie bevat ook verfijnde versies die zijn geoptimaliseerd voor gebruiksvoorbeelden voor dialoog met Reinforcement Learning from Human Feedback (RLHF), genaamd Llama-2-chat.

Modellen

Meta Llama 3

Het afstemmen van Llama 3-modellen wordt momenteel niet ondersteund.

Meta Llama 2

De volgende modellen zijn beschikbaar in Azure Marketplace voor Llama 2 bij het afstemmen als een service met betalen per gebruik-facturering:

• Llama-2-70b (preview)
• Llama-2-13b (preview)
• Llama-2-7b (preview)

Het fijn bewerken van Llama 2-modellen wordt momenteel ondersteund in projecten in US - west 3.

Vereisten

Meta Llama 3

Het afstemmen van Llama 3-modellen wordt momenteel niet ondersteund.

Meta Llama 2

Een Azure-abonnement met een geldige betalingswijze. Gratis of proefversie van Azure-abonnementen werkt niet. Als u geen Azure-abonnement hebt, maakt u eerst een betaald Azure-account .

• Een AI Studio-hub.

  Belangrijk

  Voor Meta Llama 2-modellen is het model voor betalen per gebruik alleen beschikbaar met hubs die zijn gemaakt in de regio VS - west 3 .

• Een AI Studio-project in Azure AI Studio.

• Op rollen gebaseerd toegangsbeheer van Azure (Azure RBAC) wordt gebruikt om toegang te verlenen tot bewerkingen in Azure AI Studio. Als u de stappen in dit artikel wilt uitvoeren, moet aan uw gebruikersaccount de rol eigenaar of inzender voor het Azure-abonnement zijn toegewezen. U kunt ook een aangepaste rol aan uw account toewijzen met de volgende machtigingen:

  • In het Azure-abonnement: als u het AI Studio-project wilt abonneren op het Azure Marketplace-aanbod, één keer voor elk project, per aanbieding:

    • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
    • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
    • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.SaaS/register/action

  • In de resourcegroep—om de SaaS-resource te maken en te gebruiken:

    • Microsoft.SaaS/resources/read
    • Microsoft.SaaS/resources/write

  • In het AI Studio-project: als u eindpunten wilt implementeren (de Azure AI Developer-rol bevat deze machtigingen al):

    • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
    • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

  Zie Op rollen gebaseerd toegangsbeheer in Azure AI Studio voor meer informatie over machtigingen.

Registratie van abonnementsprovider

Controleer of het abonnement is geregistreerd bij de Microsoft.Network resourceprovider.

1. Meld u aan bij het Azure-portaal.

2. Selecteer Abonnementen in het linkermenu.

3. Selecteer het abonnement dat u wilt gebruiken.

4. Selecteer Instellingen> Resource-providers in het menu links.

5. Controleer of Microsoft.Network in de lijst met resourceproviders staat. Voeg het anders toe.

   

Gegevensvoorbereiding

Bereid uw trainings- en validatiegegevens voor om uw model fijn te bewerken. Uw trainingsgegevens en validatiegegevenssets bestaan uit voorbeelden van invoer en uitvoer voor hoe u het model wilt laten presteren.

Zorg ervoor dat al uw trainingsvoorbeelden de verwachte indeling voor deductie volgen. Om modellen effectief af te stemmen, zorgt u voor een evenwichtige en diverse gegevensset.

Dit omvat het onderhouden van gegevensbalans, waaronder verschillende scenario's, en het periodiek verfijnen van trainingsgegevens om te voldoen aan werkelijke verwachtingen, wat uiteindelijk leidt tot nauwkeurigere en evenwichtiger modelreacties.

Voor verschillende modeltypen is een andere indeling van trainingsgegevens vereist.

Chatvoltooiing

De trainings- en validatiegegevens die u gebruikt , moeten worden opgemaakt als een JSON Lines-document (JSONL). De Llama-3-80B-chat gegevensset voor het afstemmen van de gegevensset moet worden opgemaakt in de gespreksindeling die wordt gebruikt door de API voor voltooiing van chats.

Voorbeeld van bestandsindeling

    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Is Xbox better than PlayStation?"}, {"role": "assistant", "content": "I apologize, but I cannot provide personal opinions. My primary job is to assist you with any issues related to your Xbox device. Do you have any Xbox-related issues that need addressing?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Can I play PC games on my Xbox?"}, {"role": "assistant", "content": "While Xbox consoles don't natively support PC games, they can play an array of Xbox games, many of which are also available on PC. Can I assist you with finding games compatible with your Xbox device?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "I'm having trouble connecting my Xbox to the Wi-Fi."}, {"role": "assistant", "content": "No worries, let's go through the network settings on your Xbox. Can you please tell me what happens when you try to connect it to the Wi-Fi?"}]}

Het ondersteunde bestandstype is JSON-regels. Bestanden worden geüpload naar het standaardgegevensarchief en beschikbaar gemaakt in uw project.

Tekstgeneratie

De trainings- en validatiegegevens die u gebruikt , moeten worden opgemaakt als een JSON Lines-document (JSONL) waarin elke regel één paar promptvoltooiing vertegenwoordigt.

Voorbeeld van bestandsindeling

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

Hier volgen enkele voorbeeldgegevenssets op Hugging Face die u kunt gebruiken om uw model fijn te bewerken:

• dair-ai/emotion

  

• SetFit/mrpc

  

Voor de classificatie van één tekst moeten de trainingsgegevens ten minste twee velden bevatten, zoals text1 en label. Voor de classificatie van tekstpaar moeten de trainingsgegevens ten minste drie velden bevatten, zoals text1, text2en label.

Het ondersteunde bestandstype is JSON-regels. Bestanden worden geüpload naar het standaardgegevensarchief en beschikbaar gemaakt in uw project.

Een Meta Llama-model verfijnen

Meta Llama 3

Het afstemmen van Llama 3-modellen wordt momenteel niet ondersteund.

Meta Llama 2

U kunt een Llama 2-model in Azure AI Studio verfijnen via de modelcatalogus of vanuit uw bestaande project.

Volg deze stappen om een Llama 2-model in een bestaand Azure AI Studio-project af te stemmen:

1. Meld u aan bij Azure AI Studio.

2. Kies het model dat u wilt verfijnen in de Azure AI Studio-modelcatalogus.

3. Selecteer op de pagina Details van het model de optie Afstemmen.

4. Als dit de eerste keer is dat u het model in het project hebt afgestemd, moet u zich registreren voor het specifieke aanbod van Azure Marketplace. Elk project heeft een eigen verbinding met het marketplace-aanbod, waarmee u uitgaven per project kunt beheren en bewaken. Selecteer Doorgaan om af te stemmen.

   Notitie

   Voor het abonneren van een project op een bepaalde aanbieding van Azure Marketplace is inzender- of eigenaartoegang vereist op abonnementsniveau waar het project wordt gemaakt.

   

5. Kies een basismodel om af te stemmen en selecteer Bevestigen. Uw keuze beïnvloedt zowel de prestaties als de kosten van uw model.

   

6. Voer een naam in voor uw aangepaste model en de optionele tags en beschrijving.

7. Selecteer trainingsgegevens om uw model af te stemmen. Zie gegevensvoorbereiding voor meer informatie.

   Zorg ervoor dat al uw trainingsvoorbeelden de verwachte indeling voor deductie volgen. Om modellen effectief af te stemmen, zorgt u voor een evenwichtige en diverse gegevensset. Dit omvat het onderhouden van gegevensbalans, waaronder verschillende scenario's, en het periodiek verfijnen van trainingsgegevens om te voldoen aan werkelijke verwachtingen, wat uiteindelijk leidt tot nauwkeurigere en evenwichtiger modelreacties.

   • De batchgrootte die moet worden gebruikt voor training. Als deze waarde is ingesteld op -1, wordt batch_size berekend als 0,2% van de voorbeelden in de trainingsset en is het maximum 256.
   • Het afstemmen van het leerpercentage is het oorspronkelijke leerpercentage dat wordt gebruikt voor pretraining vermenigvuldigd met deze vermenigvuldiger. We raden u aan te experimenteren met waarden tussen 0,5 en 2. Empirisch gezien hebben we vastgesteld dat grotere leersnelheden vaak beter presteren met grotere batchgrootten. Moet tussen 0,0 en 5.0 zijn.
   • Aantal trainingstijdvakken. Een tijdsperiode verwijst naar één volledige cyclus door de gegevensset. Als dit is ingesteld op -1, wordt het aantal tijdvakken dynamisch bepaald op basis van de invoergegevens.

8. Taakparameters zijn een optionele stap en een geavanceerde optie: hyperparameter afstemmen is essentieel voor het optimaliseren van grote taalmodellen (LLM's) in echte toepassingen. Hierdoor kunnen de prestaties en het efficiënte resourcegebruik worden verbeterd. De standaardinstellingen kunnen worden gebruikt of geavanceerde gebruikers kunnen parameters zoals epochs of leersnelheid aanpassen.

9. Controleer uw selecties en ga verder met het trainen van uw model.

Zodra uw model is afgestemd, kunt u het model implementeren en gebruiken in uw eigen toepassing, in de speeltuin of in de promptstroom. Zie Llama 2-serie met grote taalmodellen implementeren met Azure AI Studio voor meer informatie.

Uw verfijnde modellen opschonen

U kunt een nauwkeurig afgestemd model verwijderen uit de lijst met verfijningsmodellen in Azure AI Studio of op de pagina met modeldetails. Selecteer het aangepaste model dat u wilt verwijderen van de pagina Afstemmen en selecteer vervolgens de knop Verwijderen om het aangepaste model te verwijderen.

Notitie

U kunt een aangepast model niet verwijderen als het een bestaande implementatie heeft. U moet eerst uw modelimplementatie verwijderen voordat u uw aangepaste model kunt verwijderen.

Kosten en quota

Kosten- en quotumoverwegingen voor Meta Llama-modellen die zijn afgestemd als een service

Meta Llama-modellen die zijn afgestemd als een service, worden aangeboden door Meta via De Azure Marketplace en geïntegreerd met Azure AI Studio voor gebruik. U vindt de prijzen van Azure Marketplace bij het implementeren of verfijnen van de modellen.

Telkens wanneer een project zich abonneert op een bepaalde aanbieding vanuit Azure Marketplace, wordt er een nieuwe resource gemaakt om de kosten bij te houden die zijn gekoppeld aan het verbruik. Dezelfde resource wordt gebruikt om kosten bij te houden die zijn gekoppeld aan deductie en afstemming; er zijn echter meerdere meters beschikbaar om elk scenario onafhankelijk bij te houden.

Zie voor meer informatie over het bijhouden van kosten de kosten voor modellen die in de Azure Marketplace worden aangeboden.

Inhoud filteren

Modellen die zijn geïmplementeerd als een service met betalen per gebruik-facturering, worden beveiligd door Azure AI Content Safety. Wanneer deze wordt geïmplementeerd op realtime-eindpunten, kunt u zich afmelden voor deze mogelijkheid. Als de veiligheid van Azure AI-inhoud is ingeschakeld, passeren zowel de prompt als de voltooiing een ensemble van classificatiemodellen die zijn gericht op het detecteren en voorkomen van de uitvoer van schadelijke inhoud. Het inhoudsfiltersysteem detecteert en onderneemt actie op specifieke categorieën van mogelijk schadelijke inhoud in zowel invoerprompts als uitvoervoltooiingen. Meer informatie over Azure AI Content Safety.

Volgende stappen

• Wat is Azure AI Studio?
• Meer informatie over het implementeren van Meta Llama-modellen
• Veelgestelde vragen over Azure AI