Что такое Служба Azure OpenAI?

  • Статья

Служба Azure OpenAI предоставляет доступ к мощным языковым моделям OpenAI, включая GPT-4, GPT-4 Turbo с Vision, GPT-3.5-Turbo и серии моделей внедрения. Кроме того, новые серии моделей GPT-4 и GPT-3.5-Turbo теперь достигли общедоступной доступности. Эти модели можно легко адаптировать к конкретной задаче, включая, но не ограничивается созданием контента, сводные данные, понимание изображений, семантический поиск и естественный язык для перевода кода. Пользователи могут получить доступ к службе с помощью REST API, пакета SDK для Python или веб-интерфейса в Azure OpenAI Studio.

Обзор возможностей

Функция Azure OpenAI
Доступные модели Серия GPT-4 (включая GPT-4 Turbo с Vision)
Серия GPT-3.5-Turbo
Серия внедрения
Дополнительные сведения см. на странице Модели.
Тонкое настройка (предварительная версия) GPT-3.5-Turbo (0613)
babbage-002
davinci-002.
Цена, Доступно здесь
Дополнительные сведения о GPT-4 Turbo с Vision см . в специальных ценах.
Поддержка виртуальной сети и поддержка приватного канала Да, если в данных не используется Azure OpenAI.
Управляемое удостоверение Да, с помощью идентификатора Microsoft Entra
Взаимодействие с пользовательским интерфейсом портал Azure для управления учетными записями и ресурсами,
Azure OpenAI Service Studio для изучения моделей и точной настройки
Доступность региональных моделей Доступность модели
Фильтрация содержимого Запросы и завершения оцениваются на соответствие нашей политике содержимого с помощью автоматизированных систем. Содержимое с высоким уровнем серьезности будет отфильтровано.

Ответственное применение ИИ

В корпорации Майкрософт мы стремимся к развитию ИИ на основе принципов, которые ставят на первое место человека. Созданные модели, такие как те, которые доступны в Azure OpenAI, имеют значительные потенциальные преимущества, но без тщательного проектирования и тщательного устранения рисков, такие модели могут создавать неправильное или даже вредное содержимое. Корпорация Майкрософт предприняла значительные усилия для защиты от злоупотреблений и непреднамеренного вреда. В число таких мер защиты входят требование к заявителям по демонстрации четко определенных вариантов использования, учитывающих принципы ответственного использования ИИ Майкрософт, создание фильтров содержимого для поддержки клиентов и предоставление подключенным клиентам инструкций по реализации ИИ с учетом принципов ответственного использования ИИ.

Как получить доступ к Azure OpenAI?

Как получить доступ к Azure OpenAI?

Сейчас доступ ограничен, так как мы учитываем высокий спрос, предстоящие улучшения продукта и обязательства корпорации Майкрософт по ответственному использованию ИИ. Сейчас мы работаем с клиентами, у которых есть существующее партнерство с корпорацией Майкрософт, с клиентами, которые применяют варианты использования с более низким риском, и с клиентами, которые внедряют методы устранения рисков.

Более конкретные сведения включаются в форму приложения. Мы ценим ваше терпение, так как мы работаем над тем, чтобы обеспечить более широкий доступ к Azure OpenAI.

Примените здесь для доступа:

Применить сейчас

Сравнение Azure OpenAI и OpenAI

Служба Azure OpenAI предоставляет клиентам расширенный язык ИИ с помощью OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper и текстовых моделей речи с обещанием Azure безопасности и предприятия. Azure OpenAI совместно разрабатывает API с OpenAI, обеспечивая совместимость и плавное переход с одного на другое.

С помощью Azure OpenAI клиенты получают возможности безопасности Microsoft Azure, выполняя те же модели, что и OpenAI. Azure OpenAI предлагает частные сети, региональную доступность и фильтрацию содержимого ИИ.

Основные понятия

Запросы и завершения

Конечная точка завершения является основным компонентом службы API. Этот API предоставляет доступ к интерфейсу ввода и вывода текста модели. Пользователям просто нужно предоставить входной запрос, содержащий текстовую команду на английском языке, и модель создаст завершение текста.

Ниже приведен пример простого запроса и завершения:

Запрос: """ count to 5 in a for loop """

Завершение: for i in range(1, 6): print(i)

Токены

Текстовые маркеры

Azure OpenAI обрабатывает текст, разбив его на маркеры. Маркеры могут представлять собой слова или просто группы символов. Например, слово "гамбургер" разбивается на маркеры "гам", "бур" и "гер", а короткое и распространенное слово, например, "груша" является одним маркером. Многие маркеры начинаются с пробела, например " привет" и " пока".

Общее количество маркеров, обработанных в отдельном запросе, зависит от длины входных, выходных данных и параметров запроса. Количество обрабатываемых маркеров также повлияет на задержку ответа и пропускную способность моделей.

Маркеры изображений (GPT-4 Turbo с Vision)

Стоимость маркера входного изображения зависит от двух основных факторов: размера изображения и параметра детализации (низкий или высокий), используемый для каждого изображения. Ниже приведена разбивка по принципу работы:

  • Подробные сведения: режим низкого разрешения

    • Низкая детализация позволяет API возвращать более быстрые ответы и использовать меньше маркеров ввода для вариантов использования, которые не требуют высокой детализации.
    • Эти изображения стоят 85 токенов, независимо от размера изображения.
    • Пример: изображение 4096 x 8192 (низкая детализация) — это фиксированный 85 маркеров, так как это низкий уровень детализации, а размер не влияет на стоимость в этом режиме.

  • Подробные сведения: режим высокого разрешения

    • Высокая детализация позволяет API просматривать изображение более подробно, обрезая его на меньшие квадраты. Каждый квадрат использует больше маркеров для создания текста.
    • Стоимость токена вычисляется рядом шагов масштабирования:
      1. Изображение сначала масштабируется в пределах квадрата 2048 x 2048 при сохранении его пропорции.
      2. Затем изображение масштабируется, чтобы самая кратчайшее изображение было длиной 768 пикселей.
      3. Изображение делится на 512-пиксельные квадратные плитки, а количество этих плиток (округление для частичных плиток) определяет окончательную стоимость. Каждая плитка стоит 170 токенов.
      4. К общей стоимости добавляются дополнительные 85 маркеров.
    • Пример: изображение 2048 x 4096 (высокая детализация)
      1. Первоначально измените размер до 1024 x 2048, чтобы поместиться в квадрат 2048 года.
      2. Дополнительно измените размер до 768 x 1536.
      3. Требуется шесть плиток 512px для покрытия.
      4. Общая стоимость — 170 × 6 + 85 = 1105 это токены.

Ресурсы

Azure OpenAI — это новое предложение продукта в Azure. Вы можете приступить к работе с Azure OpenAI так же, как и любой другой продукт Azure, в котором вы создаете ресурс или экземпляр службы в подписке Azure. Дополнительные сведения о проектировании управления ресурсами Azure см. в этой статье.

Развертывания

После создания ресурса Azure OpenAI необходимо развернуть модель, прежде чем приступить к вызовам API и созданию текста. Это действие можно выполнить с помощью API развертывания. Эти API позволяют указать модель, которую вы хотите использовать.

Техника подсказок

Модели GPT-3, GPT-3.5 и GPT-4 из OpenAI основаны на запросах. С моделями на основе подсказок пользователь взаимодействует, вводя текстовый запрос, на который модель отвечает путем подстановки текста. Подставляя текст таким образом, модель дополняет текст, который вводится пользователем.

Хотя эти модели очень мощные, их поведение также очень зависит от подсказок. Это делает проектирование запроса важным навыком для разработки.

Создание запроса может быть сложной задачей. На практике запрос действует для настройки весов модели для выполнения требуемой задачи, но это больше искусства, чем наука, часто требующая опыта и интуиции для создания успешного запроса.

Модели

Служба предоставляет пользователям доступ к нескольким различным моделям. Модели обладают разными возможностями и имеют различные расценки.

Модели DALL-E (некоторые в предварительной версии; см . модели) создают изображения из текстовых запросов, которые предоставляет пользователь.

Модели Whisper можно использовать для транскрибирования и перевода речи в текст.

Текст для моделей речи, в настоящее время в предварительной версии, можно использовать для синтеза текста в речь.

Дополнительные сведения о каждой модели см. на странице концепции моделей.

Следующие шаги

Ознакомьтесь с дополнительными сведениями о базовых моделях, лежащих в основе Azure OpenAI.