Szybki start: rozpoczynanie pracy z usługą GPT-35-Turbo i GPT-4 za pomocą usługi Azure OpenAI Service w środowisku IntelliJ

W tym artykule pokazano, jak rozpocząć pracę z usługą Azure OpenAI Service w środowisku IntelliJ IDEA. Pokazano w nim, jak używać modeli czatów, takich jak GPT-3.5-Turbo i GPT-4 do testowania i eksperymentowania z różnymi parametrami i źródłami danych.

Wymagania wstępne

• Obsługiwany zestaw Java Development Kit (JDK). Aby uzyskać więcej informacji na temat zestawów JDK dostępnych do użycia podczas tworzenia aplikacji na platformie Azure, zobacz Obsługa języka Java na platformie Azure i w usłudze Azure Stack.

• IntelliJ IDEA, Ultimate lub Community Edition.

• Zestaw narzędzi Azure Toolkit for IntelliJ. Aby uzyskać więcej informacji, zobacz Instalowanie zestawu narzędzi Azure Toolkit for IntelliJ. Musisz również zalogować się do swojego konta platformy Azure dla zestawu narzędzi Azure Toolkit for IntelliJ. Aby uzyskać więcej informacji, zobacz Instrukcje logowania dla zestawu narzędzi Azure Toolkit for IntelliJ.

• Subskrypcja platformy Azure — utwórz bezpłatnie.

• Dostęp udzielony usłudze Azure OpenAI w żądanej subskrypcji platformy Azure.

  Obecnie dostęp do tej usługi jest udzielany tylko przez aplikację. Aby uzyskać dostęp do usługi Azure OpenAI, możesz wykonać formularz na stronie Żądanie dostępu do usługi Azure OpenAI.

• Zasób usługi Azure OpenAI z wdrożonym modelem gpt-35-turbo lub gpt-4 . Aby uzyskać więcej informacji na temat wdrażania modelu, zobacz Tworzenie i wdrażanie zasobu usługi Azure OpenAI Service.

Instalowanie i logowanie

W poniższych krokach przedstawiono proces logowania platformy Azure w środowisku projektowym IntelliJ:

1. Jeśli nie masz zainstalowanej wtyczki, zobacz Zestaw narzędzi Azure Toolkit for IntelliJ.

2. Aby zalogować się do konta platformy Azure, przejdź do lewego paska bocznego programu Azure Explorer , a następnie wybierz ikonę Logowanie do platformy Azure. Alternatywnie możesz przejść do pozycji Narzędzia, rozwinąć pozycję Azure, a następnie wybrać pozycję Zaloguj się do platformy Azure.

   

3. W oknie Logowanie do platformy Azure wybierz pozycję OAuth 2.0, a następnie wybierz pozycję Zaloguj. Aby uzyskać inne opcje logowania, zobacz Instrukcje logowania dla zestawu narzędzi Azure Toolkit for IntelliJ.

4. W przeglądarce zaloguj się przy użyciu konta, które ma dostęp do zasobu OpenAI, a następnie wróć do środowiska IntelliJ. W oknie dialogowym Wybieranie subskrypcji wybierz subskrypcję, której chcesz użyć, a następnie wybierz pozycję Wybierz.

Tworzenie i wdrażanie zasobu usługi Azure OpenAI Service

1. Po przepływie pracy logowania kliknij prawym przyciskiem myszy element Azure OpenAI w usłudze Azure Explorer i wybierz polecenie Utwórz usługę Azure OpenAI.

2. W oknie dialogowym Tworzenie usługi Azure OpenAI określ następujące informacje, a następnie wybierz przycisk OK:

   • Nazwa: opisowa nazwa zasobu usługi Azure OpenAI Service, na przykład MyOpenAIResource. Ta nazwa jest również niestandardową nazwą domeny w punkcie końcowym. Nazwa zasobu może zawierać tylko znaki alfanumeryczne i łączniki oraz nie może rozpoczynać ani kończyć się łącznikiem.
   • Region: lokalizacja wystąpienia. Niektóre modele są dostępne tylko w określonych regionach. Aby uzyskać więcej informacji, zobacz Modele usługi Azure OpenAI Service.
   • Jednostka SKU: Standardowe zasoby usługi Azure OpenAI są rozliczane na podstawie użycia tokenu. Aby uzyskać więcej informacji, zobacz Cennik usługi Azure OpenAI Service.

3. Przed rozpoczęciem korzystania z uzupełniania czatów należy wdrożyć model. Kliknij prawym przyciskiem myszy wystąpienie usługi Azure OpenAI, a następnie wybierz pozycję Utwórz nowe wdrożenie. W oknie dialogowym Tworzenie wdrożenia usługi Azure OpenAI określ następujące informacje, a następnie wybierz przycisk OK:

   • Nazwa wdrożenia: starannie wybierz nazwę. Nazwa wdrożenia jest używana w kodzie do wywoływania modelu przy użyciu bibliotek klienckich i interfejsów API REST.
   • Model: wybierz model. Dostępność różni się w zależności od regionu Aby uzyskać listę dostępnych modeli na region, zobacz sekcję Tabela podsumowania modelu i dostępność regionów modeli usługi Azure OpenAI Service.

Zestaw narzędzi wyświetla komunikat o stanie po zakończeniu wdrażania i korzystaniu z niego.

Interakcja z usługą Azure OpenAI przy użyciu monitów i ustawień

1. Kliknij prawym przyciskiem myszy zasób usługi Azure OpenAI, a następnie wybierz polecenie Otwórz na placu zabaw dla sztucznej inteligencji.

2. Możesz rozpocząć eksplorowanie funkcji OpenAI za pośrednictwem placu zabaw azure OpenAI Studio Chat w środowisku IntelliJ IDEA.

   

Aby wyzwolić ukończenie, możesz wprowadzić jakiś tekst jako monit. Model generuje uzupełnianie i próbuje dopasować kontekst lub wzorzec.

Aby rozpocząć sesję czatu, wykonaj następujące kroki:

1. W okienku sesji czatu możesz zacząć od prostego monitu, takiego jak ten: "Interesuje mnie zakup nowego urządzenia Surface". Po wpisaniu monitu wybierz pozycję Wyślij. Otrzymasz odpowiedź podobną do następującego przykładu:

   Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
   

   

2. Wprowadź następujące pytanie: "Które modele obsługują procesor GPU?" i wybierz pozycję Wyślij. Otrzymasz odpowiedź podobną do następującego przykładu:

   Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
   

   

3. Teraz, gdy masz podstawową konwersację, wybierz pozycję Wyświetl kod w okienku i masz powtórkę kodu za całą konwersacją do tej pory. Przykłady kodu można zobaczyć na podstawie zestawu Java SDK, curl i JSON odpowiadającego sesji i ustawień czatu, jak pokazano na poniższym zrzucie ekranu:

   

4. Następnie możesz wybrać pozycję Kopiuj , aby pobrać ten kod i napisać aplikację, aby wykonać to samo zadanie, które obecnie wykonujesz z placem zabaw.

Ustawienia

Możesz wybrać kartę Konfiguracja , aby ustawić następujące parametry:

Nazwa/nazwisko	opis
Maksymalna odpowiedź	Ustawia limit liczby tokenów na odpowiedź modelu. Interfejs API obsługuje maksymalnie 4096 tokenów współużytkowanych między monitem (w tym komunikatem systemowym, przykładami, historią komunikatów i zapytaniem użytkownika) oraz odpowiedzią modelu. Jeden token ma mniej więcej cztery znaki dla typowego tekstu w języku angielskim.
Temperatura	Kontroluje losowość. Obniżenie temperatury oznacza, że model generuje bardziej powtarzające się i deterministyczne odpowiedzi. Zwiększenie temperatury powoduje zwiększenie liczby nieoczekiwanych lub kreatywnych odpowiedzi. Spróbuj dostosować temperaturę lub najwyższe prawdopodobieństwo, ale nie obie.
Najwyższe prawdopodobieństwa	Podobnie jak w przypadku temperatury, kontroluje losowość, ale używa innej metody. Obniżenie wartości Pierwszych prawdopodobieństwa spowoduje zawężenie wyboru tokenu modelu do porównań tokenów. Zwiększenie wartości umożliwia modelowi wybór tokenów z wysokim i niskim prawdopodobieństwem. Spróbuj dostosować temperaturę lub najwyższe prawdopodobieństwo, ale nie obie.
Zatrzymywanie sekwencji	Sprawia, że model kończy odpowiedź w żądanym momencie. Odpowiedź modelu kończy się przed określoną sekwencją, więc nie zawiera tekstu sekwencji zatrzymania. W przypadku biblioteki GPT-35-Turbo użycie <|im_end|> zapewnia, że odpowiedź modelu nie generuje monitu użytkownika. Można uwzględnić aż cztery sekwencje zatrzymania.
Kara częstotliwości	Zmniejsza prawdopodobieństwo powtórzenia tokenu proporcjonalnie na podstawie częstotliwości wyświetlania go w tekście do tej pory. Ta akcja zmniejsza prawdopodobieństwo powtórzenia dokładnie tego samego tekstu w odpowiedzi.
Kara obecności	Zmniejsza prawdopodobieństwo powtórzenia dowolnego tokenu wyświetlanego w tekście do tej pory. Zwiększa to prawdopodobieństwo wprowadzenia nowych tematów w odpowiedzi.

Czyszczenie zasobów

Po zakończeniu testowania placu zabaw czatu, jeśli chcesz wyczyścić i usunąć zasób OpenAI, możesz usunąć zasób lub grupę zasobów. Usunięcie grupy zasobów powoduje również usunięcie wszelkich innych skojarzonych z nią zasobów. Aby wyczyścić zasoby, wykonaj następujące czynności:

1. Aby usunąć zasoby usługi Azure OpenAI, przejdź do lewego paska bocznego usługi Azure Explorer i znajdź element Azure OpenAI .

2. Kliknij prawym przyciskiem myszy usługę Azure OpenAI, którą chcesz usunąć, a następnie wybierz polecenie Usuń.

3. Aby usunąć grupę zasobów, odwiedź witrynę Azure Portal i ręcznie usuń zasoby w ramach subskrypcji.

Następne kroki

Aby uzyskać więcej informacji, zobacz Learn how to work with the GPT-35-Turbo and GPT-4 models (Dowiedz się, jak pracować z modelami GPT-35-Turbo i GPT-4).

Aby uzyskać więcej przykładów, zapoznaj się z repozytorium GitHub przykładów usługi Azure OpenAI.