Tworzenie usług modelu i zarządzanie nimi

Ważna

Ta funkcja jest dostępna w wersji beta. Administratorzy kont mogą kontrolować dostęp do tej funkcji ze strony podglądów konsoli konta. Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.

Na tej stronie opisano, jak tworzyć, udostępniać i zarządzać usługami modelowymi w Unity Catalog.

Requirements

• Usługa Unity AI Gateway w wersji zapoznawczej jest włączona dla twojego konta. Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.
• Obszar roboczy Azure Databricks w regionie obsługiwanym przez Unity AI Gateway.
• Katalog Unity włączony dla obszaru roboczego. Zobacz Umożliwienie obszaru roboczego dla Unity Catalog.
• Aby utworzyć usługę modelową, musisz mieć:
  • USE CATALOG, USE SCHEMA i CREATE SERVICE w katalogu i schemacie, w którym tworzysz usługę modelu.
  • EXECUTE dla każdego modelu, do którego usługa modeli odwołuje się jako do miejsca docelowego.
  • EXECUTE, USE CATALOG oraz USE SCHEMA w każdej usłudze dostawcy modeli, do której odwołuje się usługa modelu jako do miejsca docelowego.
  • USE CATALOG, USE SCHEMA i CREATE TABLE w katalogu i schemacie, w których tworzona jest tabela inferencji, jeśli włączysz rejestrowanie inferencji.

Utwórz usługę modelu

Usługę modelu można utworzyć w interfejsie Unity AI Gateway lub w Catalog Explorer.

Usługi modeli i usługi dostawców modeli współdzielą wspólną przestrzeń nazw w schemacie Unity Catalog. Nie można użyć nazwy usługi modelowej, jeśli taka nazwa jest już używana przez usługę dostawcy modelu w schemacie, i odwrotnie.

Korzystanie z interfejsu użytkownika

1. Wykonaj jedną z następujących czynności:
   • Na pasku bocznym obszaru roboczego kliknij pozycję Brama sztucznej inteligencji, a następnie kliknij pozycję Utwórz.
   • W Eksploratorze wykazu przejdź do schematu, w którym chcesz utworzyć usługę modelową, a następnie kliknij Utwórz>Usługa>Usługa modelowa.
2. Wprowadź nazwę usługi modelu, a następnie wybierz katalog i schemat, w którym ma zostać utworzona. Jeśli zaczniesz od Eksploratora wykazu, Eksplorator wykazu wstępnie wypełnia wykaz i schemat.
3. Wybierz główne miejsce do obsługi. Miejscem docelowym może być model hostowany przez Databricks, do którego masz EXECUTE i który Unity AI Gateway może obsługiwać, albo usługa dostawcy modelu, do której masz EXECUTE, USE CATALOG i USE SCHEMA.
4. Kliknij pozycję Utwórz.

Po utworzeniu usługi modelu Azure Databricks otworzy stronę przeglądu, na której można rozpocząć lub skonfigurować dodatkowe funkcje, takie jak rejestrowanie wnioskowania.

Przyznaj dostęp do usługi modelowej

Aby umożliwić innym osobom wysyłanie zapytań do usługi modelu, przyznaj im uprawnienie EXECUTE na usłudze modelu oraz uprawnienia USE CATALOG i USE SCHEMA w jej katalogu i schemacie. Jeśli usługa modelu zapisuje logi w tabeli inferencji, przyznaj SELECT do tabeli, aby umożliwić odczytywanie zarejestrowanych żądań i odpowiedzi.

Aby nadać dostęp w Catalog Explorer:

1. W Catalog Explorer otwórz usługę modelową.
2. Na karcie Uprawnienia kliknij Udziel.
3. Wybierz użytkowników lub grupy, do których chcesz udzielić dostępu, wybierz EXECUTE uprawnienie, a następnie kliknij pozycję Udziel.

Upewnij się, że te same podmioty mają również USE CATALOG i USE SCHEMA do katalogu i schematu usługi modelu. Aby mogli odczytywać zarejestrowane żądania i odpowiedzi, przyznaj SELECT do tabeli inferencji z karty Permissions.

Więcej informacji na temat przyznawania i sprawdzania dostępu można znaleźć w artykule zarządzanie usługami modeli.

Skonfiguruj funkcje w usłudze modelu

Konfigurujesz ustawienia, takie jak limity szybkości, rejestrowanie inferencji i mechanizmy ochronne, w usłudze modelowej w interfejsie użytkownika Unity AI Gateway, tak samo jak na endpointcie Unity AI Gateway. Zobacz:

• Konfigurowanie limitów żądań dla usług AI przy użyciu Unity AI Gateway
• Monitorowanie usług modelu przy użyciu tabel wnioskowania

Logowanie wnioskowania

Po włączeniu rejestrowania inferencji usługa Azure Databricks utworzy nową, pustą tabelę Unity Catalog ze wstępnie zdefiniowanym schematem w lokalizacji, którą określisz. Należy zwrócić uwagę na następujące kwestie:

• Musisz mieć USE CATALOG, USE SCHEMA i CREATE TABLE w katalogu docelowym i schemacie.
• Twórcą usługi modelu jest właściciel tabeli wnioskowania. Żaden inny użytkownik nie ma dostępu, chyba że przyznasz mu dostęp.
• Jeśli tabela już istnieje w określonej lokalizacji, tworzenie usługi modelu zakończy się niepowodzeniem.
• Tabela inferencyjna ma cykl życia niezależny od usługi modelu. Jeśli usuniesz tabelę, usługa modelowa nadal działa, ale przestaje rejestrować.

Aby uzyskać więcej informacji na temat tabel wnioskowania, zobacz Monitorowanie usług modelu przy użyciu tabel wnioskowania.

Usuń usługę modelową

Aby usunąć usługę modelu, musisz mieć do niej co najmniej uprawnienie MANAGE. Właściciel ma nadzbiór MANAGE.

Aby usunąć usługę modelu, otwórz ją w Eksploratorze wykazu i wybierz pozycję Usuń z menu kebab.

Nie można usunąć usług modelu dostarczanych przez system w system.ai.

Następne kroki

• Usługi modelu
• Usługi modelu zapytań
• Odkrywanie i zarządzanie dostępem do usług modelowych
• Integracja z agentami kodowania