Wprowadzenie
Tworzenie efektywnych aplikacji generacyjnych sztucznej inteligencji wymaga wybrania odpowiedniego modelu podstawowego dla konkretnego przypadku użycia. W przypadku tysięcy dostępnych modeli potrzebne jest ustrukturyzowane podejście do odnajdywania, porównywania, wdrażania i weryfikowania, czy model spełnia twoje wymagania.
Rozważmy scenariusz, w którym tworzysz czatbot pomocy technicznej klienta opartej na sztucznej inteligencji dla firmy zajmującej się sprzedażą detaliczną. Musisz wybrać model językowy, który może zrozumieć pytania klientów, zapewnić dokładne odpowiedzi i zachować odpowiednie standardy tonu i bezpieczeństwa. Ale jak wybrać z ogromnego katalogu dostępnych modeli? Jak sprawdzić, czy model działa dobrze dla konkretnych potrzeb? A po wdrożeniu jak zmierzyć i poprawić jego wydajność?
Portal Microsoft Foundry udostępnia kompleksową platformę dla całego przepływu pracy. Możesz eksplorować ponad 1900 modeli od dostawców, takich jak Microsoft, Anthropic, OpenAI, Meta i Hugging Face. Modele można porównać przy użyciu standardowych branżowych testów porównawczych pod kątem jakości, bezpieczeństwa, kosztów i wydajności. Po wybraniu modelu należy wdrożyć go w punkcie końcowym, w którym aplikacja może z niego korzystać. Na koniec oceniasz wydajność modelu przy użyciu zarówno zautomatyzowanych metryk, jak i testowania ręcznego, aby upewnić się, że spełnia ona wymagania dotyczące jakości i bezpieczeństwa.
W tym module dowiesz się, jak za pomocą portalu Microsoft Foundry wybierać, wdrażać i oceniać modele z katalogu modeli. Dowiesz się, jak podejmować świadome decyzje dotyczące wyboru modelu, poznać różne opcje wdrażania i ocenić wydajność modelu przy użyciu różnych metod oceny.
Po ukończeniu tego modułu będziesz wiedzieć, jak wykonać następujące czynności:
- Eksplorowanie i filtrowanie modeli w wykazie modeli
- Porównywanie modeli przy użyciu metryk porównawczych pod kątem jakości, bezpieczeństwa, kosztów i wydajności
- Wdrażanie modelu w punkcie końcowym i testowanie go na placu zabaw
- Ocena wydajności modelu przy użyciu metod ręcznych i zautomatyzowanych
- Omówienie różnych metryk oceny i ich używania
Uwaga / Notatka
Zdajemy sobie sprawę, że różni ludzie lubią uczyć się na różne sposoby. Możesz ukończyć ten moduł w formacie wideo lub przeczytać zawartość jako tekst i obrazy. Tekst zawiera więcej szczegółów niż filmy wideo, więc w niektórych przypadkach możesz chcieć odwoływać się do niego jako materiał uzupełniający do prezentacji wideo.