Служба и функции Azure OpenAI в Azure для государственных организаций
Статья
В этой статье рассматриваются различия при использовании Azure OpenAI в Azure для государственных организаций по сравнению с предложением коммерческого облака. Дополнительные сведения о самой службе Azure OpenAI см. в документации по Службе OpenAI Azure.
Модели Azure OpenAI
Узнайте больше о различных возможностях каждой модели в моделях Службы OpenAI Azure. Для клиентов с рекомендациями по непрерывности бизнес-процессов и аварийному восстановлению (BCDR) обратите внимание на типы развертывания, регионы и доступность модели ниже, так как не все сочетания моделей и типов доступны в обоих регионах.
В следующих разделах показаны доступность модели по регионам и типу развертывания.
Доступность модели развертывания уровня "Стандартный"
Регион
gpt-35-turbo, 1106
gpt-35-turbo, 0125
gpt-4, 1106-Preview
gpt-4o, 2024-05-13
text-embedding-ada-002
usgovarizona
-
✅
✅
✅
✅
usgovvirginia
✅
✅
✅
-
✅
Чтобы запросить увеличение квоты для модели потребления с оплатой по мере использования, примените по адресу https://aka.ms/AOAIGovQuota
Доступность подготовленной модели развертывания
Регион
gpt-35-turbo, 1106
gpt-35-turbo, 0125
gpt-4, 1106-Preview
gpt-4o, 2024-05-13
usgovarizona
-
✅
-
✅
usgovvirginia
-
✅
✅
✅
Примечание
Подготовленные единицы пропускной способности (PTUS) отличаются от стандартной квоты в Azure OpenAI и по умолчанию недоступны в Azure для государственных организаций. Чтобы узнать больше об этом предложении, обратитесь к группе учетных записей Майкрософт.
Функции Azure OpenAI
Возможность
Description
Подключите свои данные
Доступно в USGovVirginia и USGovArizona. Поддерживаются виртуальные сети и частные каналы. Развертывание в веб-приложении или copilot в Copilot Studio не поддерживается.
Управляемое удостоверение
Да, с помощью идентификатора Microsoft Entra
Поддержка виртуальной сети и поддержка приватного канала
Да.
Взаимодействие с пользовательским интерфейсом
портал Azure для управления учетными записями и ресурсами Azure OpenAI Studio для изучения моделей
Мониторинг злоупотреблений
Не все функции мониторинга злоупотреблений включены для Azure OpenAI в Azure для государственных организаций. Вы несете ответственность за реализацию разумных технических и операционных мер для обнаружения и устранения любого использования службы в нарушение условий продукта. Автоматическая классификация контента и фильтрация по умолчанию включены для Azure для государственных организаций. Если требуются измененные фильтры содержимого, примените его по адресу https://aka.ms/AOAIGovModifyContentFilter
Хранилище данных
В Azure для государственных организаций функции Azure OpenAI в настоящее время не включены, которые хранят неактивные данные клиента. Однако управляемые клиентом ключи (CMK) по-прежнему можно включить в Azure для государственных организаций для поддержки использования таких же политик в Azure для государственных организаций, что и в общедоступном облаке. Обратите внимание, что если функции Azure OpenAI, в которых хранятся данные клиентов, включены в Azure для государственных организаций в будущем, все существующие развертывания CMK будут применены к этим данным в то время. Дополнительные сведения см. в azure OpenAI Data Privacy.
Подготовленные развертывания в Azure для государственных организаций
В следующем руководстве описано, как настроить подготовленное развертывание с помощью ресурса Службы Azure OpenAI в Azure для государственных организаций.
Необходимые компоненты
Подписка Azure для государственных организаций
Ресурс Azure OpenAI
Утвержденная квота для подготовленного развертывания и приобрела обязательство
Управление подготовленными обязательствами по пропускной способности
Для Azure OpenAI в Azure для государственных организаций подготовленные развертывания пропускной способности требуют предварительно подготовленных обязательств, созданных и управляемых из представления "Управление обязательствами" в Azure OpenAI Studio. Вы можете перейти к этому представлению, выбрав "Управление обязательствами " на панели "Квота".
В представлении "Управление обязательствами" можно выполнить несколько действий.
Приобретите новые обязательства или измените существующие обязательства.
Отслеживайте все обязательства в подписке.
Определите и примите меры по обязательствам, которые могут вызвать непредвиденные выставления счетов.
Параметр
Примечания.
Выбор ресурса
Выберите ресурс, в котором создается подготовленное развертывание. После приобретения обязательства вы не сможете использовать квоту на другой ресурс до истечения срока действия текущего обязательства.
Количество ПТП, доступных в настоящее время для фиксации этого ресурса.
Сумма фиксации (PTU)
Выберите количество ПТП, к которые вы фиксируете. Это число может быть увеличено в течение срока обязательств, но не может быть уменьшено. Введите значения приращения 50 для типа обязательства Provisioned.
Уровень обязательств за текущий период
Срок обязательств равен одному месяцу.
Параметры продления
Автоматическое обновление в текущих PTUs Авторенеть на более низких ПТУ Не перенастройте автоматическое обновление
Важно!
За весь срок выставляется счет за новое обязательство. Если для параметров продления задано автоматическое продление, вы будете выставлены счета снова по каждой дате продления на основе параметров продления.
Важно!
При добавлении PTUS в обязательство они будут выставляться немедленно по тарифу с текущей даты до конца существующего срока обязательства. Добавление PTUs не сбрасывает срок обязательства.
Изменение параметров продления
Параметры продления обязательств можно изменить в любое время до истечения срока действия вашего обязательства.
Важно!
Если вы разрешаете истечение срока действия или уменьшение размера, чтобы развертывания в ресурсе требовали больше PTUS, чем у вас есть в обязательстве по ресурсам, вы получите почасовую плату за превышение ПТУ. Например, ресурс с развертываниями, в общей сложности 500 ПТП и обязательство по 300 ПТУ будет создавать почасовые расходы за 200 ПТП.
Распространенные сценарии управления обязательствами
Прекращение использования подготовленной пропускной способности
Чтобы завершить использование подготовленной пропускной способности и предотвратить почасовую оплату по истечении срока действия обязательства, необходимо выполнить два шага.
Задайте политику продления для всех обязательств, чтобы не выполнять автоматическое восстановление.
Удалите подготовленные развертывания с помощью квоты.
Перемещение обязательства или развертывания в новый ресурс в той же подписке или регионе
В Azure OpenAI Studio невозможно переместить развертывание или обязательство в новый ресурс напрямую. Вместо этого необходимо создать новое развертывание на целевом ресурсе и трафике, перемещенном в него. Для этого процесса требуется новая покупка обязательств на новом ресурсе. Поскольку обязательства взимается заранее за 30-дневный период, необходимо время этого шага с истечением срока действия первоначальной обязательства, чтобы свести к минимуму перекрытие с новым обязательством и "двойным выставлением счетов" во время перекрытия.
Существует два подхода, которые можно использовать для реализации этого перехода.
Вариант 1. Переключение без перекрытия
Этот параметр требует некоторого простоя, но не требует дополнительной квоты и не создает дополнительных затрат.
Шаги
Примечания.
Задайте политику продления для существующего обязательства, срок действия которого истекает
Это действие предотвращает продление и создание дополнительных расходов обязательства
Перед истечением срока действия существующего обязательства удалите его развертывание
Время простоя начинается с этого момента и будет длиться до создания нового развертывания и перемещения трафика. Вы можете свести к минимуму длительность, указав время, когда удаление произойдет как можно ближе к дате и времени окончания срока действия.
После истечения срока действия существующего обязательства создайте обязательство по новому ресурсу.
Свести к минимуму время простоя, выполнив этот шаг и следующий шаг как можно скорее после истечения срока действия.
Создайте развертывание на новом ресурсе и переместите трафик на него
Вариант 2. Перекрытие переключения
Этот параметр не имеет времени простоя, имея как существующие, так и новые развертывания одновременно. Этот метод также требует наличия квоты для создания нового развертывания и создания дополнительных затрат во время перекрывающихся развертываний.
Шаги
Примечания.
Задайте политику продления для существующего обязательства, срок действия которого истекает
Это позволяет предотвратить продление и создание дополнительных расходов.
До истечения срока действия существующего обязательства: 1. Создайте обязательство по новому ресурсу. 2. Создайте новое развертывание. 3. Переключение трафика 4. Удаление существующего развертывания
Убедитесь, что вы оставьте достаточно времени для всех шагов до истечения срока действия существующего обязательства, в противном случае плата за превышение расходов будет создана (см. следующий раздел) для параметров.
Продемонстрировать основные понятия ИИ, связанные с разработкой программного обеспечения и служб Microsoft Azure для создания решений искусственного интеллекта.