Uaktualnianie modeli GitHub do modeli Microsoft Foundry

W tym artykule dowiesz się, jak opracować generacyjną aplikację sztucznej inteligencji, zaczynając od GitHub Models, a następnie uaktualniając środowisko pracy, wdrażając zasób Narzędzi Foundry przy użyciu modeli Microsoft Foundry.

GitHub Models są przydatne, gdy chcesz znaleźć i eksperymentować z modelami sztucznej inteligencji bezpłatnie podczas tworzenia aplikacji generującej sztuczną inteligencję. Kiedy będziesz gotowy do przeniesienia aplikacji do środowiska produkcyjnego, ulepsz swoje doświadczenie, wdrażając zasób Foundry Tools w subskrypcji Azure i zacznij korzystać z modeli Foundry. Nie musisz zmieniać niczego innego w kodzie.

Użycie placu zabaw i bezpłatne korzystanie z interfejsu API dla modeli GitHub jest ograniczone przez żądania na minutę, żądania dziennie, tokeny na żądanie i jednoczesne żądania. Jeśli zostaniesz ograniczony limitami prędkości, musisz poczekać, aż limit zostanie zresetowany, zanim będziesz mógł wysyłać więcej żądań.

Wymagania wstępne

Potrzebujesz:

  • Konto GitHub z dostępem do GitHub Models.
  • Subskrypcja Azure z prawidłową formą płatności. Jeśli nie masz subskrypcji Azure, utwórz płatne konto Azure, aby rozpocząć. Alternatywnie możesz poczekać, aż wszystko będzie gotowe do wdrożenia modelu w środowisku produkcyjnym, w którym momencie zostanie wyświetlony monit o utworzenie lub zaktualizowanie konta Azure do konta standardowego.
  • Modele odlewni od partnerów i społeczności wymagają dostępu do Azure Marketplace. Upewnij się, że masz uprawnienia wymagane do subskrybowania ofert modeli. Foundry Models sprzedawane bezpośrednio przez firmę Azure nie mają tego wymagania.

Uaktualnianie do modeli odlewniczych

Limity szybkości dla środowiska zabaw i bezpłatnego użycia interfejsu API ułatwiają eksperymentowanie z modelami i opracowywanie aplikacji sztucznej inteligencji. Gdy wszystko będzie gotowe do przejścia aplikacji do środowiska produkcyjnego, użyj klucza i punktu końcowego z płatnego konta Azure. Nie musisz zmieniać niczego innego w kodzie.

Uwaga

GitHub Modele są bezpłatne z limitami szybkości. Po uaktualnieniu do modeli Foundry, użycie jest rozliczane w ramach twojej subskrypcji Azure na podstawie wybranego typu wdrożenia.

Aby uzyskać klucz i punkt końcowy:

  1. Przejdź do pozycji GitHub Models i wybierz model, aby wylądować na placu zabaw. W tym artykule użyto programu Mistral Medium 3 (25.05).

  2. Wpisz niektóre polecenia lub użyj niektórych sugerowanych poleceń, aby wejść w interakcję z modelem na platformie.

  3. Wybierz Użyj tego modelu ze środowiska testowego. Ta akcja powoduje otwarcie okna "Rozpoczynanie pracy z modelami w bazie kodu".

  4. W kroku "Konfigurowanie uwierzytelniania" wybierz pozycję Pobierz klucz Microsoft Foundry w sekcji "Azure AI".

    Zrzut ekranu przedstawiający sposób pobierania klucza produkcyjnego Azure AI ze środowiska testowego GitHub Model.

  5. Jeśli już zalogowałeś się do konta Azure, pomiń ten krok. Jeśli jednak nie masz konta Azure lub nie logujesz się do konta, wykonaj następujące kroki:

    1. Jeśli nie masz konta Azure, wybierz pozycję Utwórz moje konto i wykonaj kroki, aby je utworzyć.

    2. Alternatywnie, jeśli masz konto Azure, wybierz pozycję Przypij ponownie. Jeśli istniejące konto jest bezpłatnym kontem, najpierw musisz przeprowadzić uaktualnienie do planu standardowego.

    3. Wróć do placu zabaw dla modelu i ponownie wybierz pozycję Pobierz klucz Microsoft Foundry.

    4. Zaloguj się do konta Azure.

  6. Zostajesz przeniesiony do Foundry > GitHub i lądujesz na stronie głównej projektu Foundry.

    Wskazówka

    Jeśli przejdziesz do klasycznego środowiska Foundry, użyj przełącznika New Foundry w prawym górnym rogu, aby przełączyć się do nowego środowiska Foundry.

  7. Wykonaj kroki opisane w temacie Wdrażanie modelu , aby wdrożyć wybrany model, przetestować go na placu zabaw i wnioskować wdrożony model za pomocą kodu.

  8. Sprawdź, czy wdrożenie działa, wysyłając monit testowy na placu zabaw. Jeśli otrzymasz odpowiedź, model jest gotowy do użycia z kodu.

Ważne

W przeciwieństwie do modeli GitHub, w których wszystkie modele są już skonfigurowane, zasób narzędzi Foundry pozwala kontrolować, które modele są dostępne w punkcie końcowym i w której konfiguracji. Dodaj dowolną liczbę modeli, które mają być używane przed wskazaniem ich w parametrze model . Dowiedz się, jak dodać więcej modeli do zasobu.

Eksplorowanie dodatkowych funkcji

Modele Foundry obsługują funkcje, które nie są dostępne w Modelach GitHub.

  • Model catalog — przeglądanie, porównywanie i ocenianie modeli z Azure, partnerów i społeczności open source.
  • Uwierzytelnianie bezkluczowe — użyj Microsoft Entra ID do uwierzytelniania opartego na tokenach bez zarządzania kluczami interfejsu API.
  • Filtrowanie zawartości — konfigurowanie filtrów bezpieczeństwa zawartości dla wdrożeń.
  • Limitowanie przepustowości — ustaw niestandardowe limity przepustowości dla określonych modeli w danym zasobie.
  • Typy wdrożeń — wybierz spośród wielu typów SKU wdrożenia, takich jak płatność za token, zaprogramowane i wsadowe.

Rozwiązywanie typowych problemów

Kwestia Rozdzielczość
Model nie jest dostępny w Twoim regionie Sprawdź dostępność regionu modelu na stronie katalogu modeli i wybierz obsługiwany region.
Błąd uwierzytelniania po zamianie klucza Sprawdź, czy skopiowano prawidłowy klucz z portalu Foundry. Wybierz Ustawienia projektu>Klucze i punkty końcowe, aby wyświetlić klucze.
Błędy limitu szybkości po uaktualnieniu Limity szybkości modeli Foundry zależą od typu wdrożenia. Skaluj w górę lub wybierz wdrożenie o wyższej przepływności.

Powiązana zawartość

  • Last updated on