Jak używać modeli platformy Open Source wyselekcjonowanych przez usługę Azure Machine Edukacja
Z tego artykułu dowiesz się, jak dostosować, ocenić i wdrożyć modele podstawowe w katalogu modeli.
Możesz szybko przetestować dowolny wstępnie wytrenowany model przy użyciu formularza przykładowego wnioskowania na karcie modelu, podając własne przykładowe dane wejściowe do przetestowania wyniku. Ponadto karta modelu dla każdego modelu zawiera krótki opis modelu i linki do przykładów na potrzeby wnioskowania na podstawie kodu, dostrajania i oceny modelu.
Jak oceniać modele podstawowe przy użyciu własnych danych testowych
Możesz ocenić model foundation względem zestawu danych testowego przy użyciu formularza Evaluate UI (Ocena interfejsu użytkownika) lub przy użyciu przykładów opartych na kodzie połączonych z kartą modelu.
Ocenianie przy użyciu programu Studio
Formularz Ocena modelu można wywołać, wybierając przycisk Oceń na karcie modelu dla dowolnego modelu podstawowego.
Każdy model można ocenić pod kątem określonego zadania wnioskowania, dla którego będzie używany model.
Dane testowe:
- Przekaż dane testowe, których chcesz użyć do oceny modelu. Możesz przekazać plik lokalny (w formacie JSONL) lub wybrać istniejący zarejestrowany zestaw danych z obszaru roboczego.
- Po wybraniu zestawu danych należy zamapować kolumny z danych wejściowych na podstawie schematu potrzebnego do wykonania zadania. Na przykład zamapuj nazwy kolumn, które odpowiadają kluczom "zdanie" i "etykieta" dla klasyfikacji tekstu
Obliczenia:
Podaj klaster usługi Azure Machine Edukacja Compute, którego chcesz użyć do dostrajania modelu. Ocena musi być uruchamiana na obliczeniach procesora GPU. Upewnij się, że masz wystarczający limit przydziału zasobów obliczeniowych dla jednostek SKU obliczeniowych, których chcesz użyć.
Wybierz pozycję Zakończ w formularzu Ocena, aby przesłać zadanie oceny. Po zakończeniu zadania można wyświetlić metryki oceny dla modelu. Na podstawie metryk oceny możesz zdecydować, czy chcesz dostosować model przy użyciu własnych danych treningowych. Ponadto możesz zdecydować, czy chcesz zarejestrować model i wdrożyć go w punkcie końcowym.
Ocenianie przy użyciu przykładów opartych na kodzie
Aby umożliwić użytkownikom rozpoczęcie pracy z oceną modelu, opublikowaliśmy przykłady (zarówno notesy języka Python, jak i przykłady interfejsu wiersza polecenia) w repozytorium Git Przykłady oceny w repozytorium git azureml-examples. Każda karta modelu zawiera również linki do przykładów oceny dla odpowiednich zadań
Jak dostosować modele podstaw przy użyciu własnych danych treningowych
Aby zwiększyć wydajność modelu w obciążeniu, warto dostosować model podstawowy przy użyciu własnych danych treningowych. Możesz łatwo dostosować te modele podstawowe przy użyciu ustawień dostrojenia w studio lub przy użyciu przykładów opartych na kodzie połączonych z karty modelu.
Dostrajanie przy użyciu studia
Formularz ustawień dostrajania można wywołać, wybierając przycisk Dostosuj dopasuj na karcie modelu dla dowolnego modelu podstawowego.
Dostrajanie Ustawienia:
Dostrajanie typu zadania
- Każdy wstępnie wytrenowany model z wykazu modeli można dostosować do określonego zestawu zadań (na przykład: klasyfikacja tekstu, klasyfikacja tokenów, odpowiadanie na pytania). Wybierz zadanie, którego chcesz użyć z listy rozwijanej.
Dane szkoleniowe
Przekaż dane szkoleniowe, których chcesz użyć, aby dostosować model. Możesz przekazać plik lokalny (w formacie JSONL, CSV lub TSV) albo wybrać istniejący zarejestrowany zestaw danych z obszaru roboczego.
Po wybraniu zestawu danych należy zmapować kolumny z danych wejściowych na podstawie schematu potrzebnego do wykonania zadania. Na przykład: mapowanie nazw kolumn odpowiadających kluczom "zdanie" i "etykieta" dla klasyfikacji tekstu
- Dane weryfikacji: przekaż dane, których chcesz użyć do zweryfikowania modelu. Wybranie opcji Automatyczne dzielenie powoduje automatyczne podzielenie danych treningowych na potrzeby walidacji. Alternatywnie możesz podać inny zestaw danych weryfikacji.
- Dane testowe: przekaż dane testowe, których chcesz użyć, aby ocenić dostosowany model. Wybranie opcji Automatyczne dzielenie powoduje rezerwowanie automatycznego podziału danych treningowych na potrzeby testu.
- Obliczenia: podaj klaster usługi Azure Machine Edukacja Compute, którego chcesz użyć do dostrajania modelu. Dostrajanie musi być uruchamiane na obliczeniach procesora GPU. Zalecamy używanie jednostek SKU obliczeniowych z procesorami GPU A100/V100 podczas dostrajania. Upewnij się, że masz wystarczający limit przydziału zasobów obliczeniowych dla jednostek SKU obliczeniowych, których chcesz użyć.
- Wybierz pozycję Zakończ w formularzu dostrajania, aby przesłać zadanie dostrajania. Po zakończeniu zadania można wyświetlić metryki oceny dla dostosowanego modelu. Następnie możesz zarejestrować dostosowane dane wyjściowe modelu przez zadanie dostrajania i wdrożyć ten model w punkcie końcowym na potrzeby wnioskowania.
Dostosowywanie przy użyciu przykładów opartych na kodzie
Obecnie usługa Azure Machine Edukacja obsługuje dostrajanie modeli dla następujących zadań językowych:
- Klasyfikacja tekstu
- Klasyfikacja tokenów
- Odpowiadanie na pytania
- Podsumowanie
- Tłumaczenie
Aby umożliwić użytkownikom szybkie rozpoczęcie pracy z dostrajaniem, opublikowaliśmy przykłady (zarówno notesy języka Python, jak i przykłady interfejsu wiersza polecenia) dla każdego zadania w repozytorium git azureml-examples. Każda karta modelu zawiera również linki do przykładów dostrajania do obsługiwanych zadań dostrajania.
Wdrażanie modeli podstawowych w punktach końcowych na potrzeby wnioskowania
Modele podstawowe (zarówno wstępnie wytrenowane modele z katalogu modeli, jak i dostosowane modele, po zarejestrowaniu ich w obszarze roboczym) można wdrożyć w punkcie końcowym, który może być następnie używany do wnioskowania. Wdrażanie w punktach końcowych w czasie rzeczywistym i punktach końcowych wsadowych jest obsługiwane. Te modele można wdrożyć przy użyciu kreatora Wdrażanie interfejsu użytkownika lub przy użyciu przykładów opartych na kodzie połączonych z kartą modelu.
Wdrażanie przy użyciu programu Studio
Formularz Wdrażanie interfejsu użytkownika można wywołać, wybierając przycisk Wdróż na karcie modelu dla dowolnego modelu podstawowego i wybierając punkt końcowy w czasie rzeczywistym lub punkt końcowy usługi Batch
Ustawienia wdrażania
Ponieważ skrypt oceniania i środowisko są automatycznie dołączane do modelu podstawowego, wystarczy określić jednostkę SKU maszyny wirtualnej do użycia, liczbę wystąpień i nazwę punktu końcowego do użycia na potrzeby wdrożenia.
Przydział udostępniony
Jeśli wdrażasz model Llama-2, Phi, Nemotron, Mistral, Dolly lub Deci-DeciLM z katalogu modeli, ale nie masz wystarczającego limitu przydziału dla wdrożenia, usługa Azure Machine Edukacja umożliwia używanie limitu przydziału z udostępnionej puli przydziałów przez ograniczony czas. Aby uzyskać więcej informacji na temat przydziału współużytkowanego, zobacz Udostępniony limit przydziału Azure Machine Learning.
Wdrażanie przy użyciu przykładów opartych na kodzie
Aby umożliwić użytkownikom szybkie rozpoczęcie wdrażania i wnioskowania, opublikowaliśmy przykłady w przykładach wnioskowania w repozytorium git azureml-examples. Opublikowane przykłady obejmują notesy języka Python i przykłady interfejsu wiersza polecenia. Każda karta modelu łączy się również z przykładami wnioskowania w czasie rzeczywistym i wnioskowaniem w usłudze Batch.
Importowanie modeli podstawowych
Jeśli chcesz użyć modelu typu open source, który nie jest uwzględniony w wykazie modeli, możesz zaimportować model z funkcji Hugging Face do obszaru roboczego usługi Azure Machine Edukacja. Przytulanie twarzy to biblioteka typu open source do przetwarzania języka naturalnego (NLP), która udostępnia wstępnie wytrenowane modele dla popularnych zadań NLP. Obecnie importowanie modelu obsługuje importowanie modeli dla następujących zadań, o ile model spełnia wymagania wymienione w notesie importu modelu:
- maska wypełnienia
- klasyfikacja tokenów
- odpowiadanie na pytania
- Podsumowania
- generowanie tekstu
- klasyfikacja tekstu
- tłumaczenie
- klasyfikacja obrazów
- tekst do obrazu
Uwaga
Modele z funkcji Hugging Face podlegają postanowieniom licencyjnym innych firm dostępnym na stronie szczegółów modelu rozpoznawania twarzy Hugging. Użytkownik ponosi odpowiedzialność za przestrzeganie postanowień licencyjnych modelu.
Możesz wybrać przycisk Importuj w prawym górnym rogu wykazu modeli, aby użyć notesu importu modelu.
Notes importu modelu jest również zawarty w repozytorium git azureml-examples tutaj.
Aby zaimportować model, musisz przekazać MODEL_ID model, który chcesz zaimportować z funkcji Hugging Face. Przeglądaj modele w centrum hugging Face i zidentyfikuj model do zaimportowania. Upewnij się, że typ zadania modelu należy do obsługiwanych typów zadań. Skopiuj identyfikator modelu, który jest dostępny w identyfikatorze URI strony lub można skopiować przy użyciu ikony kopiowania obok nazwy modelu. Przypisz ją do zmiennej "MODEL_ID" w notesie importu modelu. Na przykład:
Aby można było uruchomić importowanie modelu, należy podać zasoby obliczeniowe. Uruchomienie importu modelu powoduje zaimportowanie określonego modelu z funkcji Hugging Face i zarejestrowanego w obszarze roboczym usługi Azure Machine Edukacja. Następnie można dostosować ten model lub wdrożyć go w punkcie końcowym na potrzeby wnioskowania.
Dowiedz się więcej
- Zapoznaj się z wykazem modeli w usłudze Azure Machine Edukacja Studio. Do eksplorowania katalogu potrzebujesz obszaru roboczego usługi Azure Machine Edukacja.
- Eksplorowanie wykazu modeli i kolekcji