Динамические сеансы в Контейнеры приложений Azure

Контейнеры приложений Azure динамические сеансы обеспечивают быстрый доступ к защищенным изолированным средам, которые идеально подходят для выполнения кода или приложений, требующих строгой изоляции от других рабочих нагрузок.

Динамические сеансы предлагают предварительно подготовленные среды через пулы сеансов, которые запускают контейнер в миллисекундах, масштабируются по требованию и поддерживают строгую изоляцию. Это делает их идеальными для интерактивных рабочих нагрузок, запускаемых скриптов LLM и безопасного выполнения пользовательского кода.

Преимущества

С помощью сеансов вы получаете следующие сведения:

  • Secure isolation: изоляция Hyper-V и опциональные сетевые управления защищают вашу среду. Сеансы изолированы друг от друга и от хост-окружения, обеспечивая корпоративный уровень безопасности и изоляции.
  • Изолированные среды: каждый сеанс выполняется в отдельной изолированной среде, гарантируя, что рабочие нагрузки не вмешиваются друг в друга.
  • Мгновенный запуск: предварительно подготовленные пулы обеспечивают запуск за доли секунды для интерактивных рабочих нагрузок. Новые сессии предоставляются за миллисекунды благодаря пулам готовых, но нераспределённых сессий.
  • Масштабируемый по замыслу: позволяя обрабатывать сотни или тысячи одновременных сеансов без ручного вмешательства.
  • Управляемый жизненный цикл. Сеансы автоматически удаляются после использования или после настраиваемого периода охлаждения, обеспечивая эффективное использование ресурсов.

Распространенные сценарии

Динамические сеансы полезны в различных ситуациях, в том числе:

  • Рабочие процессы AI/LLM. Безопасное выполнение кода, созданного ИИ, в изолированных средах без риска для рабочих систем.
  • Интерактивная разработка. Предоставление разработчикам быстрых и одноразовых сред для тестирования скриптов или прототипов без подготовки полных приложений.
  • Безопасное выполнение кода: выполнение ненадежного или пользовательского кода в изолированной среде с строгой изоляцией.
  • Пользовательские вычислительные задачи. Выполнение коротких заданий, требующих пользовательских зависимостей или сред выполнения без длительного времени запуска.
  • Всплески рабочих нагрузок: Управляйте непредсказуемыми пиками спроса, автоматически масштабируя сеансы в обе стороны.

Основные понятия

  • Пул сеансов: Пул сеансов является основой для динамических сеансов. Он содержит набор предварительно подготовленных и готовых к использованию сеансов, которые обеспечивают практически мгновенный запуск. При появлении запроса система выделяет сеанс из пула, а не создает его с нуля, что значительно снижает задержку.

  • Сеанс. Сеанс — это фактическая среда выполнения, в которой выполняется код или контейнер. Сеансы являются временными и изолированными, предназначенными для краткосрочных задач. При создании сеанса он выделяется из пула сеансов, обеспечивая быстрый запуск. После завершения задачи или истечения периода охлаждения сеанс удаляется, а ресурсы очищаются.

  • Жизненный цикл сеанса. Когда приложение отправляет запрос с идентификатором сеанса, пул сеансов автоматически выделяет сеанс. Сеанс остается активным до тех пор, пока запросы продолжаются. После истечения срока охлаждения без действия сеанс удаляется и его ресурсы удаляются автоматически. Вы также можете программно запрашивать состояние сеанса и перечислять все сеансы в пуле для мониторинга работоспособности и реализации пользовательских рабочих процессов управления.

  • Маршрутизация запросов и идентификаторы. Доступ к сеансам проходит через конечную точку управления пулом сеансов. Запросы содержат identifier параметр запроса, и пул перенаправляет запрос в существующий сеанс или выделяет новый при необходимости. Путь запроса после переадресации конечной точки управления в контейнер сеанса.

  • Типы пула сеансов

    • Пулы сеансов интерпретатора кода: используются встроенные контейнеры платформы, предоставляющие предварительно настроенные среды для выполнения кода, включая созданные ИИ скрипты. Идеально подходит для таких сценариев, как рабочие процессы на основе LLM или безопасное выполнение кода.
    • Настраиваемые пулы сеансов контейнеров: создание собственного контейнера для пользовательских рабочих нагрузок, требующих определенных зависимостей или сред выполнения.

Сравнение типов пула сеансов

Пул сеансов интерпретатора кода Настраиваемый пул сеансов контейнеров
лучше всего подходит для Выполнение кода, созданного ИИ, отправленных пользователем скриптов или быстрое безопасное выполнение кода без управления средой выполнения. Рабочие нагрузки, требующие настраиваемой среды выполнения, библиотек, двоичных файлов или специализированных средств, не поддерживаемых встроенными интерпретаторами.
Окружающая среда Предварительно настроено с общими средами выполнения и инструментами; сборка контейнера или публикация изображений не требуется. Полностью настраиваемый образ контейнера с собственными зависимостями, пакетами и конфигурацией.
Когда выбрать Выберите это для простоты, самого быстрого запуска и минимальной настройки. Выберите это, если вам нужен полный контроль над средой выполнения или использование пользовательских зависимостей.
Идеальные варианты использования Рабочие процессы LLM, интерпретация кода, сценарии обучения и песочницы, безопасное выполнение пользовательского кода. Пользовательские вычислительные задачи, собственные интерпретаторы, специализированные среды или рабочие нагрузки с определенными требованиями к ОС или библиотеке.
Язык и протокол Ограничен встроенными средами выполнения и областью REST API, предоставляемой интерпретатором кода. Любой язык или стек, поддерживаемый контейнером, с любым протоколом TCP, который вы хотите предоставить.
Требование к изображению Нет — использует встроенные в платформу среды интерпретатора. Обязательный — укажите собственный URI образа контейнера.

Дополнительные сведения см. в разделе "Использование".

Поддерживаемые регионы

Динамические сеансы доступны в следующих регионах. Интерпретатор кода и пользовательские сеансы контейнеров поддерживаются во всех перечисленных регионах.

Американский континент Европа Азиатско-Тихоокеанский регион Ближний Восток и Африка
Бразилия (Юг) Центральная Франция Восточная Австралия Север Южной Африки
Canada Central Франция (юг) Australia Southeast Северная часть ОАЭ;
Восточная Канада Центрально-Западная Германия Центральная Индия
Central US Северная Италия Восточная Азия
Восточная часть США Северная Европа Восточная Япония
Восток США 2 Восточная Норвегия Западная Япония
Центрально-северная часть США Центральная Польша Джио Индия Запад
Южно-Центральный регион США Spain Central Центральная Корея
Центрально-западная часть США Центральная Швеция Южная Индия
Западная часть США Северная Швейцария Юго-Восточная Азия
западная часть США 2 Switzerland West
Западная часть США 3 Юг Соединённого Королевства
UK West
Западная Европа

Замечание

Региональная доступность может измениться. Чтобы проверить текущую доступность, проверьте раскрывающийся список Location при создании пула сеансов на портале Azure.

Безопасность

Динамические сеансы предназначены для запуска ненадежного кода в изолированных средах. Сведения о защите сеансов см. в разделе "Безопасность".

Выставление счетов

Плата за пользовательские сеансы в контейнерах выставляется на основе ресурсов, используемых пулом сеансов. Дополнительные сведения см. в разделе Контейнеры приложений Azure биллинг.

Связанный контент

  • Last updated on