Краткое руководство. Начало работы с GPT-35-Turbo и GPT-4 со службой Azure OpenAI в IntelliJ

В этой статье показано, как приступить к работе со службой Azure OpenAI в IntelliJ IDEA. В нем показано, как использовать модели чата, такие как GPT-3.5-Turbo и GPT-4 для тестирования и экспериментов с различными параметрами и источниками данных.

Необходимые компоненты

• Поддерживаемая версия Java Development Kit (JDK). Дополнительные сведения о версиях JDK, доступных для разработки в Azure, см. в статье Поддержка Java в Azure и Azure Stack.

• IntelliJ IDEA, Ultimate или Community Edition.

• Набор средств Azure для IntelliJ. Дополнительные сведения см. в статье Установка набора средств Azure для IntelliJ. Вам также необходимо войти в учетную запись Azure для Набор средств Azure для IntelliJ. Дополнительные сведения см. в инструкциях по входу в Azure набор средств для IntelliJ.

• Подписка Azure — создайте бесплатную учетную запись.

• Доступ, предоставленный Azure OpenAI в требуемой подписке Azure.

  В настоящее время доступ к этой службе предоставляется только приложением. Вы можете подать заявку на доступ к Azure OpenAI, выполнив форму по запросу доступа к службе Azure OpenAI.

• Ресурс службы Azure OpenAI с gpt-35-turbo развернутыми моделями или gpt-4 моделями. Дополнительные сведения о развертывании модели см. в статье "Создание и развертывание ресурса Службы OpenAI Azure".

Установка и вход

Ниже описан процесс входа Azure в среде разработки IntelliJ:

1. Если у вас нет подключаемого модуля, см. набор средств Azure для IntelliJ.

2. Чтобы войти в учетную запись Azure, перейдите на боковую панель Azure Обозреватель слева, а затем щелкните значок входа Azure. Кроме того, вы можете перейти к сервису, развернуть Azure и выбрать команду "Войти в Azure".

   

3. В окне входа Azure выберите OAuth 2.0 и нажмите кнопку "Войти". Другие варианты входа см. в инструкциях по входу в Набор средств Azure для IntelliJ.

4. В браузере войдите с учетной записью, которая имеет доступ к ресурсу OpenAI, а затем вернитесь в IntelliJ. В диалоговом окне "Выбор подписок" выберите нужную подписку, а затем нажмите кнопку "Выбрать".

Создание и развертывание ресурса Службы OpenAI Azure

1. После рабочего процесса входа щелкните правой кнопкой мыши элемент Azure OpenAI в Azure Обозреватель и выберите "Создать службу Azure OpenAI".

2. В диалоговом окне "Создание службы OpenAI Azure" укажите следующие сведения и нажмите кнопку "ОК".

   • Имя: описательное имя ресурса Службы Azure OpenAI, например MyOpenAIResource. Это имя также является вашим личным доменным именем в конечной точке. Имя ресурса может включать только буквенно-цифровые символы и дефисы, и не может начинаться или заканчиваться дефисом.
   • Регион: расположение экземпляра. Некоторые модели доступны только в определенных регионах. Для получения дополнительной информации см. Модели Службы Azure OpenAI.
   • Sku. Плата за ресурсы Azure OpenAI уровня "Стандартный" взимается на основе использования маркеров. Дополнительные сведения см. в разделе о ценах на службу Azure OpenAI.

3. Прежде чем использовать завершение чата, необходимо развернуть модель. Щелкните правой кнопкой мыши экземпляр Azure OpenAI и выберите "Создать развертывание". Во всплывающем окне "Создание развертывания Azure OpenAI" укажите следующие сведения и нажмите кнопку "ОК".

   • Имя развертывания: тщательно выберите имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   • Модель: выберите модель. Доступность модели зависит от региона. Список доступных моделей для каждого региона см. в разделе "Сводная таблица модели" и "Доступность регионов" моделей службы Azure OpenAI.

Набор средств отображает сообщение о состоянии после завершения развертывания и готовности к использованию.

Взаимодействие с Azure OpenAI с помощью запросов и параметров

1. Щелкните правой кнопкой мыши ресурс Azure OpenAI, а затем выберите "Открыть" на игровой площадке ИИ.

2. Вы можете начать изучение возможностей OpenAI с помощью площадки чата Azure OpenAI Studio в IntelliJ IDEA.

   

Чтобы активировать завершение, можно ввести текст в виде запроса. Модель создает завершение и пытается сопоставить контекст или шаблон.

Чтобы начать сеанс чата, выполните следующие действия.

1. В области сеансов чата вы можете начать с простого запроса, подобного этому: "Я заинтересован в покупке нового Surface". После ввода запроса нажмите кнопку "Отправить". Вы получите ответ, аналогичный следующему примеру:

   Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.
   

   

2. Введите следующий вопрос: "Какие модели поддерживают GPU?" и нажмите кнопку "Отправить". Вы получите ответ, аналогичный следующему примеру:

   Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.
   

   

3. Теперь, когда у вас есть обычная беседа, выберите "Просмотреть код " на панели, и у вас есть воспроизведение кода за весь диалог до сих пор. Примеры кода можно просмотреть на основе пакета SDK для Java, curl и JSON, соответствующих сеансу чата и параметрам, как показано на следующем снимке экрана:

   

4. Затем можно выбрать "Копировать" , чтобы взять этот код и написать приложение, чтобы выполнить ту же задачу, которую вы выполняете с игровой площадкой.

Настройки

Перейдите на вкладку "Конфигурация", чтобы задать следующие параметры:

Имя	Описание
Максимальное число ответов	Задает ограничение на количество маркеров на ответ модели. API поддерживает не более 4096 маркеров, общих между запросом (включая системное сообщение, примеры, журнал сообщений и запрос пользователя) и ответ модели. Один маркер составляет примерно четыре символа для типичного английского текста.
Температура	Управляет случайностью. Снижение температуры означает, что модель создает более повторяющиеся и детерминированные ответы. Увеличение температуры приводит к более неожиданным или творческим откликам. Попробуйте настроить температуру или верхние вероятности, но не оба.
Лучшие вероятности	Аналогично температуре, управляет случайностью, но использует другой метод. Понижение значения вероятности верхнего уровня сужает выбор маркера модели на подобные маркеры. Увеличение значения позволяет модели выбирать маркеры с высокой и низкой вероятностью. Попробуйте настроить температуру или верхние вероятности, но не оба.
Стоп-последовательности	Делает модель завершающей ответ в нужной точке. Ответ модели заканчивается до указанной последовательности, поэтому он не содержит текст последовательности остановки. Для GPT-35-Turbo используется <|im_end|> обеспечение того, что ответ модели не создает последующий запрос пользователя. Можно включить до четырех стоп-последовательностей.
Частота штрафа	Уменьшает вероятность повторения маркера пропорционально на основе того, как часто он отображается в тексте до сих пор. Это действие уменьшает вероятность повторения одного и того же текста в ответе.
Штраф на наличие	Снижает вероятность повторения любого маркера, отображаемого в тексте на данный момент. Это повышает вероятность внедрения новых тем в ответ.

Очистка ресурсов

После завершения тестирования на игровой площадке чата, если вы хотите очистить и удалить ресурс OpenAI, можно удалить ресурс или группу ресурсов. При удалении группы ресурсов также удаляются все связанные с ней ресурсы. Чтобы очистить ресурсы, выполните следующие действия.

1. Чтобы удалить ресурсы Azure OpenAI, перейдите на боковую панель Azure Обозреватель слева и найдите элемент Azure OpenAI.

2. Щелкните правой кнопкой мыши службу Azure OpenAI, которую вы хотите удалить, и нажмите кнопку "Удалить".

3. Чтобы удалить группу ресурсов, посетите портал Azure и вручную удалите ресурсы в подписке.

Следующие шаги

Дополнительные сведения см. в статье о работе с моделями GPT-35-Turbo и GPT-4.

Дополнительные примеры проверка из репозитория GitHub в Azure OpenAI Samples.