Быстрый запуск AI Runtime Notebook

Important

Эта функция доступна в общедоступной предварительной версии.

Используйте AI Runtime, чтобы за несколько кликов перейти от пустого блокнота к PyTorch на видеокарте. Подключите ноутбук к Serverless GPU без необходимости настраивать кластер и получите мониторинг GPU, терминал на GPU-узле и встроенный Genie Code.

Перед тем как начать

В вашем рабочем пространстве должен быть включён AI Runtime, и оно должно находиться в поддерживаемом регионе. См. Требования.

Шаг 1: Подключите блокнот к видеокарте

1. Создайте или откройте записную книжку.
2. В выпадающем меню вычислений в верхней части ноутбука выберите Serverless GPU.
3. В поле Accelerator выберите 1xA10.
4. Нажмите «Применить», а затем «Подтвердить».

Tip

Начните с 1xA10 для разработки и небольших рабочих нагрузок. Переходите на 1xH100 или 8xH100, когда вам нужно больше GPU-памяти или распределённое обучение на нескольких GPU. См. Опции железа.

Шаг 2: Запустите первый код GPU

Стандартная среда ИИ Databricks оснащена заранее установленными пакетами PyTorch, Transformers, vLLM, panda и множеством других пакетов. Полный список приведен в среде Databricks AI.

Запустите следующий блокнот, чтобы убедиться, что GPU подключена, и выполните один обучающий этап:

Блокнот с кратким руководством по началу работы со средой выполнения ИИ

Получите ноутбук

Теперь вы проходите обучение с использованием бессерверных GPU-вычислений.

Ознакомьтесь с ноутбуком с GPU

В ноутбуке есть инструменты для работы с видеокартой. Вы можете переключаться между базовыми средами, отслеживать использование GPU, открывать терминал на узле GPU и использовать Genie Code для написания и отладки кода.

Переключить среды

Нажмите «Окружение » в правой панели, чтобы выбрать другую базовую среду или акселератор. См. статью "Настройка среды".

Отслеживать использование графического процессора

Нажмите на ресурсы GPU в правой панели, чтобы увидеть реальное использование GPU и память во время запуска кода. См. Ресурсы мониторинга GPU.

Откройте терминал на узле GPU

Нажмите «Терминал» в правом нижнем углу, чтобы открыть оболочку командной строки на узле с GPU. Запускайте nvidia-smi, проверяйте файлы или отлаждайте процессы напрямую. См. Выполнение команд оболочки в веб-терминале Azure Databricks.

Позвольте Genie Code писать и отладить за вас

Нажмите Genie Code в правой панели и опишите, что вам нужно. Агент может писать обучающий код, исправлять конфликты зависимостей и отлаживать сбои GPU. См. «Использование кода Genie со средой выполнения ИИ».

Дальнейшие действия

• Клонируйте сквозной блокнот из AI Runtime.
• Масштабируйте обучение на несколько GPU с помощью распределённого обучения в ноутбуках.