Как обучить модель пользовательской классификации текстов
Обучение — это процесс, в ходе которого модель обучается по вашим данным с метками. Выполнив обучение, вы сможете просмотреть метрики производительности модели, чтобы определить, нуждается ли модель в усовершенствовании.
Чтобы обучить модель, запустите задание обучения. Только успешно завершенные задания создают пригодную для использования модель. Срок действия заданий обучения истекает через семь дней. По истечении этого периода вы не сможете получить сведения о задании. Если задание обучения было завершено успешно и создало модель, срок действия этого задания не применяется к созданной модели. Вы можете выполнять только одно задание обучения и не можете запускать одновременно с ним другие задания в том же проекте.
Время обучения может составлять от нескольких минут (если число документов невелико) до нескольких часов в зависимости от размера набора данных и сложности схемы.
Необходимые компоненты
Перед началом обучения модели вам потребуется:
- Успешно создать проект с настроенной учетной записью хранилища BLOB-объектов Azure,
- Текстовые данные, отправленные в учетную запись хранения.
- Помеченные данные
Дополнительные сведения см. в статье о жизненном цикле разработки проекта.
Разделение данных
Перед началом процесса обучения предоставленные в проекте документы с метками делятся на обучающий набор и тестовый набор. Каждый из них выполняет свою роль. Обучающий набор используется при обучении модели, то есть по нему модель изучает класс или классы, назначенные каждому документу. Тестовый набор сохраняется в тайне от модели на период обучения, а применяется только во время оценки. После успешного обучения полученная модель используется для прогнозирования документов в тестовом наборе. На основе этих прогнозов для модели будут вычислены метрики оценки. Важно убедиться, что в обучающем и тестовом наборах хорошо представлены все существующие классы.
Пользовательская классификация текстов поддерживает следующие два метода разделения данных.
- Автоматическое отделение тестового набора от обучающих данных: система разделит данные с метками на обучающий и тестовый наборы в указанной вами пропорции. Система попытается получить представление всех классов в обучаемом наборе. Мы рекомендуем использовать 80 % набора данных для обучения и 20 % для тестирования.
Примечание.
Если вы выберете вариант Автоматическое выделение тестового набора из обучающих данных, выбранные процентные доли будут применяться только для разделения данных в обучающем наборе.
- Разделение обучающих и тестовых данных вручную: этот метод позволяет самостоятельно определить, какие документы с метками должны входить в оба набора. Этот шаг включается только в том случае, если вы добавили документы в тестовый набор на этапе маркировки данных.
Обучение модели
Чтобы начать обучение модели в студии службы "Язык", сделайте следующее:
Выберите элемент Задания обучения в меню слева.
В верхнем меню выберите Запустить задание на обучение.
Щелкните Train a new model (Обучить новую модель) и введите имя модели в текстовое поле. Можно также перезаписать существующую модель. Для этого выберите соответствующий параметр и укажите модель, которую требуется перезаписать, в раскрывающемся меню. Перезапись обученной модели необратима, но это не повлияет на развернутые модели до тех пор, пока вы не развернете новую модель.
Выберите метод разделения данных. Вы можете выбрать вариант Automatically splitting the testing set from training data (Автоматическое выделение тестового набора из обучающих данных), при котором система разделит данные с метками на обучающий и тестовый наборы в указанной вами пропорции. Кроме того, можно использовать разделение данных обучения и тестирования вручную. Этот параметр включается только в том случае, если вы добавили документы в набор тестирования во время маркировки данных. Дополнительные сведения о разделении данных см. в разделе Обучение модели.
Нажмите кнопку Обучить.
Если выбрать идентификатор задания обучения из списка, на боковой панели появится область, где можно проверить ход обучения, состояние задания и другие сведения для этого задания.
Примечание.
- Модели будут создаваться только с помощью успешно завершенных заданий обучения.
- Время обучения модели может занять от нескольких минут до нескольких часов на основе размера помеченных данных.
- В каждый момент времени может выполняться только одно задание на обучение. Нельзя запустить другое задание обучения в том же проекте до тех пор, пока не будет завершено выполнение задания.
Отмена задания обучения
Чтобы отменить задание обучения в Language Studio, перейдите на страницу Training jobs (Задания обучения). Выберите задание обучения, которое вы хотите отменить, и выберите "Отмена " в верхнем меню.
Следующие шаги
После завершения обучения вы сможете просмотреть производительность модели, чтобы при необходимости улучшить модель. Когда вы будете удовлетворены моделью, ее можно развернуть, сделав ее доступной для классификации текста.