Azure AI Studio'da Meta Llama modellerinde ince ayar yapma

Önemli

Bu makalede açıklanan özelliklerden bazıları yalnızca önizleme aşamasında kullanılabilir. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri Ek Kullanım Koşulları.

Azure AI Studio, ince ayar olarak bilinen bir işlemi kullanarak büyük dil modellerini kişisel veri kümelerinize uyarlamanıza olanak tanır.

Hassas ayarlama, belirli görevler ve uygulamalar için özelleştirmeyi ve iyileştirmeyi etkinleştirerek önemli bir değer katar. Gelişmiş performans, maliyet verimliliği, düşük gecikme süresi ve özel çıkışlar sunar.

Bu makalede, Azure AI Studio'da Meta Llama modellerinde ince ayarlama yapmayı öğreneceksiniz.

Büyük dil modellerinden (LLM) oluşan Meta Llama ailesi, 7 milyar ila 70 milyar parametre arasında ölçeklendirilen önceden eğitilmiş ve ince ayarlı üretken metin modellerinden oluşan bir koleksiyondur. Model ailesi, Lama-2-sohbet olarak adlandırılan İnsan Geri Bildirimlerinden Pekiştirme Öğrenmesi (RLHF) ile diyalog kullanım örnekleri için en iyi duruma getirilmiş ince ayarlı sürümleri de içerir.

Modeller

Meta Lama 3

Lama 3 modellerinde ince ayar şu anda desteklenmiyor.

Meta Lama 2

Kullandıkça öde faturalaması ile hizmet olarak ince ayarlama yaparken llama 2 için Azure Market'de aşağıdaki modeller kullanılabilir:

• Llama-2-70b (Önizleme)
• Llama-2-13b (Önizleme)
• Llama-2-7b (Önizleme)

Lama 2 modellerinin hassas ayarı şu anda Batı ABD 3'te bulunan projeler tarafından desteklenmektedir.

Önkoşullar

Meta Lama 3

Lama 3 modellerinde ince ayar şu anda desteklenmiyor.

Meta Lama 2

Geçerli bir ödeme yöntemine sahip bir Azure aboneliği. Ücretsiz veya deneme Azure abonelikleri çalışmaz. Azure aboneliğiniz yoksa başlamak için ücretli bir Azure hesabı oluşturun.

• AI Studio hub'ı.

  Önemli

  Meta Llama 2 modellerinde kullandıkça öde modeli ince ayar teklifi yalnızca Batı ABD 3 bölgesinde oluşturulan merkezlerle kullanılabilir.

• Azure AI Studio'da bir AI Studio projesi.

• Azure rol tabanlı erişim denetimleri (Azure RBAC), Azure AI Studio'daki işlemlere erişim vermek için kullanılır. Bu makaledeki adımları gerçekleştirmek için kullanıcı hesabınıza Azure aboneliğinde sahip veya katkıda bulunan rolü atanmalıdır. Alternatif olarak, hesabınıza aşağıdaki izinlere sahip bir özel rol de atanabilir:

  • Azure aboneliğinde: AI Studio projesini her proje için bir kez teklif başına Azure Market teklifine abone olmak için:

    • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
    • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
    • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
    • Microsoft.SaaS/register/action

  • Kaynak grubunda - SaaS kaynağını oluşturmak ve kullanmak için:

    • Microsoft.SaaS/resources/read
    • Microsoft.SaaS/resources/write

  • Uç noktaları dağıtmak için AI Studio projesinde (Azure AI Geliştirici rolü şu izinleri zaten içerir):

    • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
    • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

  İzinler hakkında daha fazla bilgi için bkz . Azure AI Studio'da rol tabanlı erişim denetimi.

Abonelik sağlayıcısı kaydı

Aboneliğin kaynak sağlayıcısına Microsoft.Network kayıtlı olduğunu doğrulayın.

1. Azure Portal’ında oturum açın.

2. Soldaki menüden Abonelikler'i seçin.

3. Kullanmak istediğiniz aboneliği seçin.

4. Soldaki menüden Ayarlar> Kaynak sağlayıcıları'nı seçin.

5. Microsoft.Network'ün kaynak sağlayıcıları listesinde olduğunu onaylayın. Aksi takdirde ekleyin.

   

Veri hazırlama

Modelinize hassas ayar yapmak için eğitim ve doğrulama verilerinizi hazırlayın. Eğitim verileriniz ve doğrulama veri kümeleriniz, modelin nasıl performans göstermesini istediğinize ilişkin giriş ve çıkış örneklerinden oluşur.

Tüm eğitim örneklerinizin çıkarım için beklenen biçimi izlediğinden emin olun. Modelleri etkili bir şekilde ayarlamak için dengeli ve farklı bir veri kümesi olduğundan emin olun.

Bu, çeşitli senaryolar da dahil olmak üzere veri dengesini korumayı ve eğitim verilerini gerçek dünya beklentileriyle uyumlu olacak şekilde düzenli aralıklarla iyileştirmeyi ve sonuçta daha doğru ve dengeli model yanıtlarına yol açmayı içerir.

Farklı model türleri farklı bir eğitim verileri biçimi gerektirir.

Sohbet Tamamlama

Kullandığınız eğitim ve doğrulama verileri JSON Satırları (JSONL) belgesi olarak biçimlendirilmelidir . İnce Llama-3-80B-chat ayar veri kümesinin Sohbet tamamlama api'sinin kullandığı konuşma biçiminde biçimlendirilmesi gerekir.

Örnek dosya biçimi

    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Is Xbox better than PlayStation?"}, {"role": "assistant", "content": "I apologize, but I cannot provide personal opinions. My primary job is to assist you with any issues related to your Xbox device. Do you have any Xbox-related issues that need addressing?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Can I play PC games on my Xbox?"}, {"role": "assistant", "content": "While Xbox consoles don't natively support PC games, they can play an array of Xbox games, many of which are also available on PC. Can I assist you with finding games compatible with your Xbox device?"}]}
    {"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "I'm having trouble connecting my Xbox to the Wi-Fi."}, {"role": "assistant", "content": "No worries, let's go through the network settings on your Xbox. Can you please tell me what happens when you try to connect it to the Wi-Fi?"}]}

Desteklenen dosya türü JSON Satırları'dır. Dosyalar varsayılan veri deposuna yüklenir ve projenizde kullanılabilir hale getirilir.

Metin Oluşturma

Kullandığınız eğitim ve doğrulama verileri, her satırın tek bir istem tamamlama çiftini temsil ettiği bir JSON Çizgileri (JSONL) belgesi olarak biçimlendirilmelidir .

Örnek dosya biçimi

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}
{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

Aşağıda, Modelinizde hassas ayarlamalar yapmak için kullanabileceğiniz Hugging Face ile ilgili bazı örnek veri kümeleri yer almaktadır:

• dair-ai/emotion

  

• SetFit/mrpc

  

Tek metin sınıflandırması, eğitim verilerinin ve labelgibi text1 en az iki alan içermesini gerektirir. Metin çifti sınıflandırması, eğitim verilerinin , text2ve labelgibi text1en az üç alan içermesini gerektirir.

Desteklenen dosya türü JSON Satırları'dır. Dosyalar varsayılan veri deposuna yüklenir ve projenizde kullanılabilir hale getirilir.

Meta Llama modeline ince ayar yapma

Meta Lama 3

Lama 3 modellerinde ince ayar şu anda desteklenmiyor.

Meta Lama 2

Azure AI Studio'daki bir Llama 2 modeline model kataloğu aracılığıyla veya mevcut projenizden ince ayar yapabilirsiniz.

Mevcut bir Azure AI Studio projesinde Llama 2 modelinde ince ayar yapmak için şu adımları izleyin:

1. Azure AI Studio'da oturum açın.

2. Azure AI Studio model kataloğundan ince ayar yapmak istediğiniz modeli seçin.

3. Modelin Ayrıntılar sayfasında ince ayar'ı seçin.

4. Projede ilk kez modelde ince ayar yaparsanız, projenizi Azure Market belirli teklif için kaydolmanız gerekir. Her projenin marketin teklifiyle kendi bağlantısı vardır ve bu da proje başına harcamaları denetlemenize ve izlemenize olanak tanır. İnce ayar yapmak için Devam'ı seçin.

   Not

   bir projeyi Azure Market belirli bir teklife abone olmak için projenin oluşturulduğu abonelik düzeyinde Katkıda Bulunan veya Sahip erişimi gerekir.

   

5. İnce ayar yapmak için bir temel model seçin ve Onayla'yı seçin. Seçiminiz modelinizin hem performansını hem de maliyetini etkiler.

   

6. hassas ayarlı modeliniz için bir ad ve isteğe bağlı etiketler ile açıklama girin.

7. Modelinizde ince ayar yapmak için eğitim verilerini seçin. Daha fazla bilgi için bkz . veri hazırlama .

   Tüm eğitim örneklerinizin çıkarım için beklenen biçimi izlediğinden emin olun. Modelleri etkili bir şekilde ayarlamak için dengeli ve farklı bir veri kümesi olduğundan emin olun. Bu, çeşitli senaryolar da dahil olmak üzere veri dengesini korumayı ve eğitim verilerini gerçek dünya beklentileriyle uyumlu olacak şekilde düzenli aralıklarla iyileştirmeyi ve sonuçta daha doğru ve dengeli model yanıtlarına yol açmayı içerir.

   • Eğitim için kullanılacak toplu iş boyutu. -1 olarak ayarlandığında, batch_size eğitim kümesindeki örneklerin %0,2'sini ve en yüksek değer 256 olarak hesaplanır.
   • İnce ayar öğrenme hızı, bu çarpanla çarpılarak önceden eğitme için kullanılan özgün öğrenme oranıdır. 0,5 ile 2 arasındaki değerlerle denemeler yapmanızı öneririz. Ampirik olarak, daha büyük öğrenme oranlarının genellikle daha büyük toplu iş boyutlarıyla daha iyi performans sergilediğini tespit ettik. 0,0 ile 5,0 arasında olmalıdır.
   • Eğitim dönemlerinin sayısı. Dönem, veri kümesinde bir tam döngüye başvurur. -1 olarak ayarlanırsa, dönem sayısı giriş verilerine göre dinamik olarak belirlenir.

8. Görev parametreleri isteğe bağlı bir adımdır ve gelişmiş bir seçenektir: Hiper parametrenin ayarlanması, gerçek dünyadaki uygulamalarda büyük dil modellerini (LLM) iyileştirmek için gereklidir. Gelişmiş performans ve verimli kaynak kullanımı sağlar. Varsayılan ayarlar kullanılabilir veya ileri düzey kullanıcılar dönemler veya öğrenme oranı gibi parametreleri özelleştirebilir.

9. Seçimlerinizi gözden geçirin ve modelinizi eğitmeye devam edin.

Modeliniz hassas bir şekilde ayarlandıktan sonra modeli dağıtabilir ve kendi uygulamanızda, oyun alanında veya istem akışında kullanabilirsiniz. Daha fazla bilgi için bkz . Azure AI Studio ile 2 büyük dil modeli ailesi dağıtma.

Hassas ayarlı modellerinizi temizleme

Azure AI Studio'daki ince ayarlı model listesinden veya model ayrıntıları sayfasından ince ayarlı bir modeli silebilirsiniz. İnce ayar sayfasından silinecek ince ayarlı modeli seçin ve ardından sil düğmesini seçerek ince ayarlı modeli silin.

Not

Mevcut bir dağıtımı varsa özel modeli silemezsiniz. Özel modelinizi silebilmeniz için önce model dağıtımınızı silmeniz gerekir.

Maliyet ve kotalar

Hizmet olarak ince ayarlı Meta Llama modelleri için maliyet ve kota ile ilgili dikkat edilmesi gerekenler

Hizmet olarak ince ayarlı Meta Llama modelleri, Meta tarafından Azure Market aracılığıyla sunulur ve kullanım için Azure AI Studio ile tümleştirilir. Modelleri dağıtırken veya hassas ayarlar yaparken Azure Market fiyatlandırmasını bulabilirsiniz.

Proje Azure Market belirli bir teklife her abone olduğunda, tüketimiyle ilişkili maliyetleri izlemek için yeni bir kaynak oluşturulur. Aynı kaynak çıkarım ve ince ayarlama ile ilişkili maliyetleri izlemek için kullanılır; ancak, her senaryo bağımsız olarak izlemek için birden çok metre kullanılabilir.

Maliyetleri izleme hakkında daha fazla bilgi için bkz. Azure Market boyunca sunulan modellerin maliyetlerini izleme.

İçerik filtrelemesi

Kullandıkça öde faturalaması ile hizmet olarak dağıtılan modeller Azure AI İçeriği Kasa ty tarafından korunur. Gerçek zamanlı uç noktalara dağıtıldığında bu özelliği devre dışı bırakabilirsiniz. Azure AI içerik güvenliği etkinleştirildiğinde, hem istem hem de tamamlama, zararlı içeriğin çıkışını algılamayı ve önlemeyi hedefleyen sınıflandırma modellerinden oluşan bir topluluk aracılığıyla geçer. İçerik filtreleme sistemi, hem giriş istemlerinde hem de çıkış tamamlamalarında zararlı olabilecek belirli içerik kategorilerini algılar ve üzerinde işlem gerçekleştirir. Azure AI İçeriği Kasa ty hakkında daha fazla bilgi edinin.

Sonraki adımlar

• Azure AI Studio nedir?
• Meta Llama modellerini dağıtma hakkında daha fazla bilgi edinin
• Azure AI SSS makalesi