Azure AI Studio'da Meta Llama modellerinde ince ayar yapma
Önemli
Bu makalede işaretlenen (önizleme) öğeler şu anda genel önizleme aşamasındadır. Bu önizleme, hizmet düzeyi sözleşmesi olmadan sağlanır ve üretim iş yükleri için önerilmez. Bazı özellikler desteklenmiyor olabileceği gibi özellikleri sınırlandırılmış da olabilir. Daha fazla bilgi için bkz. Microsoft Azure Önizlemeleri Ek Kullanım Koşulları.
Azure AI Studio, ince ayar olarak bilinen bir işlemi kullanarak büyük dil modellerini kişisel veri kümelerinize uyarlamanıza olanak tanır.
Hassas ayarlama, belirli görevler ve uygulamalar için özelleştirmeyi ve iyileştirmeyi etkinleştirerek önemli bir değer katar. Gelişmiş performans, maliyet verimliliği, düşük gecikme süresi ve özel çıkışlar sunar.
Bu makalede, Azure AI Studio'da Meta Llama modellerinde ince ayarlama yapmayı öğreneceksiniz.
Büyük dil modellerinden (LLM) oluşan Meta Llama ailesi, 7 milyar ila 70 milyar parametre arasında ölçeklendirilen önceden eğitilmiş ve ince ayarlı üretken metin modellerinden oluşan bir koleksiyondur. Model ailesi ayrıca İnsan Geri Bildirimlerinden Pekiştirme Öğrenmesi (RLHF) ile diyalog kullanım örnekleri için en iyi duruma getirilmiş, Llama-Instruct adlı ince ayarlı sürümleri de içerir.
Önemli
Önizleme aşamasında olan modeller, model kataloğundaki model kartlarında önizleme olarak işaretlenir.
Modeller
Llama 3.1 için Azure Market'da kullandıkça öde faturalaması ile hizmet olarak ince ayarlama yapıldığında aşağıdaki modeller kullanılabilir:
Meta-Llama-3.1-70B-Instruct(Önizleme)Meta-LLama-3.1-8b-Instruct(Önizleme)
Lama 3.1 modellerinin ince ayarı şu anda Batı ABD 3'te bulunan projelerde desteklenmektedir.
Önemli
Şu anda Lama 3.1 için sıra uzunluğu 128K olan ince ayarlamalar yapamıyoruz.
Önkoşullar
Geçerli bir ödeme yöntemine sahip bir Azure aboneliği. Ücretsiz veya deneme Azure abonelikleri çalışmaz. Azure aboneliğiniz yoksa başlamak için ücretli bir Azure hesabı oluşturun.
Azure AI Studio hub'ı.
Önemli
Meta Llama 3.1 modellerinde kullandıkça öde modeli ince ayar teklifi yalnızca Batı ABD 3 bölgelerinde oluşturulan merkezlerle kullanılabilir.
Azure rol tabanlı erişim denetimleri (Azure RBAC), Azure AI Studio'daki işlemlere erişim vermek için kullanılır. Bu makaledeki adımları gerçekleştirmek için kullanıcı hesabınıza Azure aboneliğinde sahip veya katkıda bulunan rolü atanmalıdır. Alternatif olarak, hesabınıza aşağıdaki izinlere sahip bir özel rol de atanabilir:
Azure aboneliğinde: AI Studio projesini her proje için bir kez teklif başına Azure Market teklifine abone olmak için:
Microsoft.MarketplaceOrdering/agreements/offers/plans/readMicrosoft.MarketplaceOrdering/agreements/offers/plans/sign/actionMicrosoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/readMicrosoft.Marketplace/offerTypes/publishers/offers/plans/agreements/readMicrosoft.SaaS/register/action
Kaynak grubunda - SaaS kaynağını oluşturmak ve kullanmak için:
Microsoft.SaaS/resources/readMicrosoft.SaaS/resources/write
Uç noktaları dağıtmak için AI Studio projesinde (Azure AI Geliştirici rolü şu izinleri zaten içerir):
Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*
İzinler hakkında daha fazla bilgi için bkz . Azure AI Studio'da rol tabanlı erişim denetimi.
Abonelik sağlayıcısı kaydı
Aboneliğin kaynak sağlayıcısına Microsoft.Network kayıtlı olduğunu doğrulayın.
Azure Portal’ında oturum açın.
Soldaki menüden Abonelikler'i seçin.
Kullanmak istediğiniz aboneliği seçin.
Soldaki menüden Ayarlar>Kaynak sağlayıcıları'nı seçin.
Microsoft.Network'ün kaynak sağlayıcıları listesinde olduğunu onaylayın. Aksi takdirde ekleyin.
Veri hazırlama
Modelinize hassas ayar yapmak için eğitim ve doğrulama verilerinizi hazırlayın. Eğitim verileriniz ve doğrulama veri kümeleriniz, modelin nasıl performans göstermesini istediğinize ilişkin giriş ve çıkış örneklerinden oluşur.
Tüm eğitim örneklerinizin çıkarım için beklenen biçimi izlediğinden emin olun. Modelleri etkili bir şekilde ayarlamak için dengeli ve farklı bir veri kümesi olduğundan emin olun.
Bu, çeşitli senaryolar da dahil olmak üzere veri dengesini korumayı ve eğitim verilerini gerçek dünya beklentileriyle uyumlu olacak şekilde düzenli aralıklarla iyileştirmeyi ve sonuçta daha doğru ve dengeli model yanıtlarına yol açmayı içerir.
Farklı model türleri farklı bir eğitim verileri biçimi gerektirir.
Kullandığınız eğitim ve doğrulama verileri JSON Satırları (JSONL) belgesi olarak biçimlendirilmelidir . İnce Meta-Llama-3.1-70B-Instruct ayar veri kümesinin Sohbet tamamlama api'sinin kullandığı konuşma biçiminde biçimlendirilmesi gerekir.
Örnek dosya biçimi
{"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Is Xbox better than PlayStation?"}, {"role": "assistant", "content": "I apologize, but I cannot provide personal opinions. My primary job is to assist you with any issues related to your Xbox device. Do you have any Xbox-related issues that need addressing?"}]}
{"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "Can I play PC games on my Xbox?"}, {"role": "assistant", "content": "While Xbox consoles don't natively support PC games, they can play an array of Xbox games, many of which are also available on PC. Can I assist you with finding games compatible with your Xbox device?"}]}
{"messages": [{"role": "system", "content": "You are an Xbox customer support agent whose primary goal is to help users with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."}, {"role": "user", "content": "I'm having trouble connecting my Xbox to the Wi-Fi."}, {"role": "assistant", "content": "No worries, let's go through the network settings on your Xbox. Can you please tell me what happens when you try to connect it to the Wi-Fi?"}]}
Desteklenen dosya türü JSON Satırları'dır. Dosyalar varsayılan veri deposuna yüklenir ve projenizde kullanılabilir hale getirilir.
Meta Llama modeline ince ayar yapma
LLama 3.1 modeline ince ayar yapmak için:
Azure AI Studio model kataloğundan ince ayar yapmak istediğiniz modeli seçin.
Modelin Ayrıntılar sayfasında ince ayar'ı seçin.
Modellerinize ince ayar yapmak istediğiniz projeyi seçin. Kullandıkça öde modeli ince ayar teklifini kullanmak için çalışma alanınızın Batı ABD 3 bölgesine ait olması gerekir.
Kullanım koşulları hakkında daha fazla bilgi edinmek için ince ayar sihirbazında Azure Market Koşulları bağlantısını seçin. Seçilen modelin fiyatlandırması hakkında bilgi edinmek için Market teklifi ayrıntıları sekmesini de seçebilirsiniz.
Projedeki modelde ilk kez ince ayar yaparsanız, projenizi Azure Market'dan belirli teklif (örneğin, Meta-Llama-3.1-70B-Instruct) için abone olmanız gerekir. Bu adım, hesabınızın önkoşullarda listelenen Azure abonelik izinlerine ve kaynak grubu izinlerine sahip olmasını gerektirir. Her projenin, harcamaları denetlemenize ve izlemenize olanak tanıyan belirli Azure Market teklifine kendi aboneliği vardır. Abone ol'a tıklayın ve ince ayar yapın.
Not
Bir projeyi belirli bir Azure Market teklifine abone yapmak (bu örnekte Meta-Llama-3.1-70B-Instruct), hesabınızın projenin oluşturulduğu abonelik düzeyinde Katkıda Bulunan veya Sahip erişimine sahip olmasını gerektirir. Alternatif olarak, kullanıcı hesabınıza önkoşullarda listelenen Azure aboneliği izinlerine ve kaynak grubu izinlerine sahip özel bir rol atanabilir.
Belirli bir Azure Market teklifi için projeye kaydolduktan sonra, aynı projede aynı teklifin daha sonra ince ayarlanması için yeniden abone olunma gerekmez. Bu nedenle, sonraki ince ayar işleri için abonelik düzeyinde izinlere sahip olmanız gerekmez. Bu senaryo sizin için geçerliyse ince ayar yapmak için Devam'ı seçin.
hassas ayarlı modeliniz için bir ad ve isteğe bağlı etiketler ile açıklama girin.
Modelinizde ince ayar yapmak için eğitim verilerini seçin. Daha fazla bilgi için bkz . veri hazırlama .
Not
Eğitim/doğrulama dosyalarınız daha az bir kimlik bilgisi veri deposunda yer alırsa, MaaS daha az depolama alanıyla maaS ince ayarıyla devam etmek için çalışma alanı tarafından yönetilen kimliğin veri deposuna erişmesine izin vermeniz gerekir. "Veri deposu" sayfasında, "Kimlik doğrulamasını güncelleştir" > seçeneğine tıkladıktan sonra aşağıdaki seçeneği belirtin:
Tüm eğitim örneklerinizin çıkarım için beklenen biçimi izlediğinden emin olun. Modelleri etkili bir şekilde ayarlamak için dengeli ve farklı bir veri kümesi olduğundan emin olun. Bu, çeşitli senaryolar da dahil olmak üzere veri dengesini korumayı ve eğitim verilerini gerçek dünya beklentileriyle uyumlu olacak şekilde düzenli aralıklarla iyileştirmeyi ve sonuçta daha doğru ve dengeli model yanıtlarına yol açmayı içerir.
- Eğitim için kullanılacak toplu iş boyutu. -1 olarak ayarlandığında, batch_size eğitim kümesindeki örneklerin %0,2'sini ve en yüksek değer 256 olarak hesaplanır.
- İnce ayar öğrenme hızı, bu çarpanla çarpılarak önceden eğitme için kullanılan özgün öğrenme oranıdır. 0,5 ile 2 arasındaki değerlerle denemeler yapmanızı öneririz. Ampirik olarak, daha büyük öğrenme oranlarının genellikle daha büyük toplu iş boyutlarıyla daha iyi performans sergilediğini tespit ettik. 0,0 ile 5,0 arasında olmalıdır.
- Eğitim dönemlerinin sayısı. Dönem, veri kümesinde bir tam döngüye başvurur.
Görev parametreleri isteğe bağlı bir adımdır ve gelişmiş bir seçenektir: Hiper parametrenin ayarlanması, gerçek dünyadaki uygulamalarda büyük dil modellerini (LLM) iyileştirmek için gereklidir. Gelişmiş performans ve verimli kaynak kullanımı sağlar. Varsayılan ayarlar kullanılabilir veya ileri düzey kullanıcılar dönemler veya öğrenme oranı gibi parametreleri özelleştirebilir.
Seçimlerinizi gözden geçirin ve modelinizi eğitmeye devam edin.
Modeliniz hassas bir şekilde ayarlandıktan sonra modeli dağıtabilir ve kendi uygulamanızda, oyun alanında veya istem akışında kullanabilirsiniz. Daha fazla bilgi için bkz . Azure AI Studio ile Lama 3.1 ailesi büyük dil modellerini dağıtma.
Hassas ayarlı modellerinizi temizleme
Azure AI Studio'daki ince ayarlı model listesinden veya model ayrıntıları sayfasından ince ayarlı bir modeli silebilirsiniz. İnce ayar sayfasından silinecek ince ayarlı modeli seçin ve ardından sil düğmesini seçerek ince ayarlı modeli silin.
Not
Mevcut bir dağıtımı varsa özel modeli silemezsiniz. Özel modelinizi silebilmeniz için önce model dağıtımınızı silmeniz gerekir.
Maliyet ve kotalar
Hizmet olarak ince ayarlı Meta Llama modelleri için maliyet ve kota ile ilgili dikkat edilmesi gerekenler
Hizmet olarak ince ayarlı Meta Llama modelleri, Meta tarafından Azure Market aracılığıyla sunulur ve kullanım için Azure AI Studio ile tümleştirilir. Modelleri dağıtırken veya hassas ayarlar yaparken Azure Market fiyatlandırmasını bulabilirsiniz.
Bir proje Azure Market'ten belirli bir teklife her abone olduğunda tüketimiyle ilişkili maliyetleri izlemek için yeni bir kaynak oluşturulur. Çıkarımla veya ince ayar yapmayla ilişkili maliyetleri izlemek için aynı kaynak kullanılır ancak, her senaryoda bağımsız izleme için birden çok metre kullanılabilir.
Maliyetlerin nasıl izleneceği hakkında daha fazla bilgi için Azure Market aracılığıyla sunulan modellerin maliyetlerini izleme bölümüne bakın.
İçerik filtrelemesi
Kullandıkça öde faturalaması ile hizmet olarak dağıtılan modeller Azure AI İçerik Güvenliği tarafından korunur. Gerçek zamanlı uç noktalara dağıtıldığında bu özelliği devre dışı bırakabilirsiniz. Azure AI içerik güvenliği etkinleştirildiğinde, hem istem hem de tamamlama, zararlı içeriğin çıkışını algılamayı ve önlemeyi hedefleyen sınıflandırma modellerinden oluşan bir topluluk aracılığıyla geçer. İçerik filtreleme (önizleme) sistemi, hem giriş istemlerinde hem de çıkış tamamlamalarında zararlı olabilecek içeriğin belirli kategorilerini algılar ve bu kategoriler üzerinde işlem gerçekleştirir. Azure AI İçerik Güvenliği hakkında daha fazla bilgi edinin.