Pojęcia dotyczące dostosowywania modelu

Dostrajenie jest procesem wzięcia wstępnie wytrenowanego modelu i dostosowania go, aby lepiej dopasować się do twoich danych. Ten proces może pomóc w jak najlepszym wykorzystaniu danych i poprawić wydajność modelu. W tym artykule poznasz podstawowe pojęcia dotyczące dostrajania oraz dowiesz się, kiedy dostrajanie modelu sztucznej inteligencji jest właściwe.

Wprowadzenie

Dostrajanie to potężna technika, która może pomóc w pełniejszym wykorzystaniu danych. Aby zrozumieć dostrajanie, ważne jest, aby zrozumieć koncepcję uczenia transferowego. Uczenie transferowe to technika uczenia maszynowego, w której model trenowany na jednym zadaniu jest ponownie stosowany w drugim powiązanym zadaniu. W tym celu należy stosować wstępnie wytrenowany model i dostosować go, aby lepiej dopasować nowe dane. Dostrajanie jest formą uczenia transferowego, w której wstępnie wytrenowany model jest dostosowywany w celu lepszego dopasowania do nowych danych.

Istnieje kilka kroków związanych z dostrajaniem modelu. Najpierw należy wybrać wstępnie wytrenowany model, który jest dobrze dopasowany do zadania. Następnie należy przygotować przykładowe dane i dostosować model na tych danych. Na koniec należy wykonać iterację modelu, aby zwiększyć jego wydajność.

Kiedy dopasować

Dostrajanie jest odpowiednie dla czasów, gdy masz niewielką ilość danych i chcesz poprawić wydajność modelu. Zaczynając od wstępnie wytrenowanego modelu, możesz wykorzystać wiedzę, że model już się nauczył i dostosować go, aby lepiej dopasować dane. Może to pomóc zwiększyć wydajność modelu i zmniejszyć ilość danych potrzebnych do jego wytrenowania.

Zwykle nie jest konieczne dostosowanie modelu w przypadku dużej ilości danych. W takim przypadku możesz wytrenować model od podstaw i osiągnąć dobrą wydajność bez precyzyjnego dostrajania. Jednak dostrajanie może być nadal przydatne w tym przypadku, jeśli chcesz jeszcze bardziej zwiększyć wydajność modelu. Możesz również dostosować model, jeśli masz określone zadanie, które różni się od zadania, na którym pierwotnie trenowano wstępnie wytrenowany model.

Możesz uniknąć kosztownego dostrajania modelu przy użyciu projektowania poleceń lub łączenia poleceń. Te techniki mogą pomóc w generowaniu tekstu wysokiej jakości bez konieczności dostrajania.

Wybierz wstępnie wytrenowany model

Należy wybrać wstępnie wytrenowany model, który jest dobrze dostosowany do wymagań zadania. Dostępnych jest wiele wstępnie wytrenowanych modeli, które zostały wytrenowane na wielu różnych zadaniach. Należy wybrać model, który został wytrenowany w ramach podobnego zadania do tego, nad którym pracujesz. Pomoże ci to wykorzystać wiedzę, że model już się nauczył i dostosuje go, aby lepiej dopasować dane.

HuggingFace modele są dobrym miejscem do rozpoczęcia wyszukiwania wstępnie wytrenowanych modeli. Modele HuggingFace są pogrupowane w kategorie na podstawie zadania, na podstawie którego zostały wytrenowane, co ułatwia znalezienie modelu, który jest odpowiedni dla danego zadania.

Te kategorie obejmują:

• Multimodalny
• Wizja komputerowa
• Przetwarzanie języka naturalnego
• Dźwięk
• Tablicowy
• Uczenie wzmacniania

Sprawdź zgodność modelu ze środowiskiem i używanymi narzędziami. Jeśli na przykład używasz Visual Studio Code, możesz użyć rozszerzenia Azure Machine Learning, aby dostosować model Visual Studio Code.

Sprawdź stan i licencję modelu. Niektóre wstępnie wytrenowane modele mogą być dostępne w ramach licencji typu open source, a inne mogą wymagać licencji komercyjnej lub osobistej na korzystanie z nich. Wszystkie modele w HuggingFace zawierają informacje o licencji. Przed dostrajaniem upewnij się, że masz niezbędne uprawnienia do używania modelu.

Przygotowywanie przykładowych danych

Przygotowanie przykładowych danych obejmuje czyszczenie i wstępne przetwarzanie danych w celu przygotowania ich do trenowania. Dane należy również podzielić na zbiory treningowe i walidacyjne, aby ocenić wydajność modelu. Format danych powinien być zgodny z formatem oczekiwanym przez wstępnie wytrenowany model, którego używasz. Te informacje można znaleźć w modelach na HuggingFace w sekcji formatu instrukcji w karcie modelu. Większość kart modelu będzie zawierać szablon do budowania promptu dla modelu oraz przykładowy pseudo-kod, który ułatwi rozpoczęcie pracy.

Iterowanie modelu

Po dostrojeniu modelu należy ocenić jego wydajność w zestawie weryfikacji. Możesz użyć metryk, takich jak dokładność, precyzja, kompletność i wynik F1, aby ocenić wydajność modelu. Jeśli wydajność modelu jest niezadowalająca, można iterować model, dostosowując hiperparametry, zmieniając architekturę lub dostrajając model na większej ilości danych. Możesz również sprawdzić jakość i różnorodność danych, aby sprawdzić, czy istnieją jakieś problemy, które należy rozwiązać. Ogólnie rzecz biorąc, mniejszy zestaw danych wysokiej jakości jest bardziej cenny niż większy zestaw danych o niskiej jakości.

Zobacz też

Aby dowiedzieć się więcej na temat dostrajania modeli sztucznej inteligencji, zapoznaj się z następującymi zasobami:

• Optymalizacja modelu Llama 2 w portalu usługi Azure AI Foundry
• Dostrojenie wstępnie wytrenowanego modelu na HuggingFace
• dostrajanie wstępnie wytrenowanego modelu za pomocą TensorFlow

Podczas korzystania z funkcji sztucznej inteligencji zalecamy przejrzenie: Opracowywanie odpowiedzialnych aplikacji i funkcji sztucznej inteligencji w systemie Windows.