Развертывание моделей для пакетного вывода и прогнозирования

В этой статье описывается, что Databricks рекомендует для пакетного вывода предсказаний.

Для предоставления моделей в режиме реального времени в Azure Databricks см. раздел Развертывание моделей с использованием Mosaic AI для обслуживания моделей.

функции ИИ для пакетного предсказания

Внимание

Эта функция предоставляется в режиме общедоступной предварительной версии.

Функции ИИ — это встроенные функции, которые можно использовать для применения ИИ к данным, хранящимся в Databricks. Вы можете выполнить пакетный вывод с помощью функций ИИ для конкретной задачи или функции общего назначения. ai_query

Ниже приведен пример пакетного вывода с помощью функции ai_translateИИ для конкретной задачи. Если вы хотите выполнить пакетное прогнозирование для всей таблицы, вы можете удалить limit 500 из запроса.

SELECT
writer_summary,
  ai_translate(writer_summary, "cn") as cn_translation
from user.batch.news_summaries
limit 500
;

Кроме того, можно использовать универсальную функцию ai_query для выполнения пакетного вывода данных.

• Узнайте, какие типы моделей и связанные моделиai_query поддерживаются.
• См. Развертывание конвейеров пакетного вывода.

Пакетный инференс с использованием DataFrame в Spark

См. руководство по пакетному выводу предсказаний с использованием DataFrame в Spark для пошагового руководства по рабочему процессу вывода модели с использованием Spark.

Примеры вывода модели глубокого обучения см. в следующих статьях:

• Вывод модели с помощью TensorFlow и TensorRT
• Вывод модели с помощью PyTorch