Entraîner votre modèle de compréhension du langage courant

  • Article

Une fois que vous avez terminé l’étiquetage de vos énoncés, vous pouvez vous lancer dans l’entraînement d’un modèle. L’apprentissage est le processus par lequel le modèle apprend à partir de vos énoncés étiquetés.

Pour effectuer l’apprentissage d’un modèle, démarrez un travail d’apprentissage. Seuls les travaux terminés avec succès créent un modèle. Un travail d’apprentissage expire au bout de sept jours. Passé ce délai, il est impossible de récupérer les détails de ce travail. Si votre travail d’apprentissage s’est terminé avec succès et qu’un modèle a été créé, il ne sera pas affecté par l’expiration du travail. Vous ne pouvez exécuter qu’un seul travail d’apprentissage à la fois. Vous ne pouvez pas non plus lancer d’autres travaux au sein du même projet.

Les durées de formation peuvent être comprises entre quelques secondes, pour des projets simples, et quelques heures, lorsque vous atteignez la limite maximale des énoncés.

L’évaluation du modèle est déclenchée automatiquement une fois l’entraînement effectué. Le processus d’évaluation commence par utiliser le modèle formé pour exécuter des prédictions sur les énoncés du jeu de tests et compare les résultats prédits avec les étiquettes fournies (qui établit une base de référence de vérité).

Prérequis

Équilibrer les données d’apprentissage

Concernant les données d’apprentissage, vous devez essayer de garder votre schéma bien équilibré. L’inclusion de grandes quantités d’une intention, et très peu d’autres, entraîne un modèle fortement biaisé vers des intentions particulières.

Pour résoudre ce problème, vous pouvez avoir besoin de sous-échantillonner votre jeu d’apprentissage ou de l’élargir. Le sous-échantillonnage peut être effectué par différentes méthodes :

  • Se débarrasser d’un certain pourcentage des données d’apprentissage de manière aléatoire.
  • De manière plus systématique en analysant le jeu de données et en supprimant les entrées en double surreprésentées.

Vous pouvez également élargir le jeu d’apprentissage en sélectionnant Suggérer des énoncés dans l’onglet Étiquetage des données de Language Studio. La compréhension du langage courant envoie un appel à Azure OpenAI pour générer des énoncés similaires.

Capture d’écran montrant une suggestion d’énoncé dans Language Studio.

Vous pouvez également rechercher des « modèles » involontaires dans le jeu d’apprentissage. Par exemple, si le jeu d’apprentissage d’une intention particulière est en minuscules ou commence par une expression particulière. Dans ce cas, le modèle que vous entraînez peut apprendre ces biais involontaires dans le jeu d’apprentissage au lieu de pouvoir généraliser.

Nous vous recommandons d’introduire la diversité de la casse et de la ponctuation dans le jeu d’apprentissage. Si votre modèle est censé gérer les variations, veillez à disposer d’un jeu d’apprentissage qui reflète également cette diversité. Par exemple, incluez certains énoncés dans une casse appropriée, et d’autres entièrement en minuscules.

Fractionnement des données

Avant d’entamer le processus d’apprentissage, les énoncés étiquetés de votre projet sont divisés en deux jeux : un jeu d’apprentissage et un jeu de test. Chacun d’eux a une fonction différente. Le jeu d’apprentissage est utilisé dans l’apprentissage du modèle. Il s’agit de l’ensemble à partir duquel le modèle apprend les énoncés étiquetés. Le jeu de test est un jeu témoin qui n’est pas présenté au modèle pendant l’apprentissage, mais uniquement lors de l’évaluation.

Après l’apprentissage du modèle, il est utilisé pour effectuer des prédictions à partir des énoncés du jeu de tests. Ces prédictions sont utilisées pour calculer les métriques d’évaluation. Nous vous recommandons de vérifier que toutes vos intentions et entités sont correctement représentées dans les jeux d’entraînement et de test.

La compréhension du langage courant prend en charge deux méthodes de fractionnement des données :

  • Fractionnement automatique du jeu de test à partir des données d’apprentissage : le système fractionne les données étiquetées en un jeu d’apprentissage et un jeu de test, selon les pourcentages que vous avez choisis. Le pourcentage recommandé pour le fractionnement est de 80 % pour l’apprentissage et de 20 % pour les tests.

Notes

Si vous choisissez l’option Fractionnement automatique du jeu de test à partir des données d’apprentissage, seules les données attribuées au jeu d’apprentissage sont fractionnées selon les pourcentages fournis.

  • Utiliser un fractionnement manuel des données d’apprentissage et de test : cette méthode permet aux utilisateurs de définir quels énoncés doivent appartenir à quel jeu. Cette étape est activée uniquement si vous avez ajouté des énoncés à votre jeu de test lors de l’étiquetage.

Modes d’entraînement

CLU prend en charge deux modes d’entraînement de modèles

  • L’entraînement standard utilise des algorithmes de Machine Learning rapides qui permettent d’entraîner vos modèles de manière relativement rapide. Cette option n’est actuellement disponible que pour l’anglais et est désactivée pour les projets qui n’utilisent pas l’Anglais (États-Unis) ou l’Anglais (Royaume-Uni) comme langue principale. Cette option d’entraînement est gratuite. L’entraînement standard vous permet d’ajouter des énoncés et de les tester rapidement sans frais. Les scores d’évaluation affichés doivent vous guider quant aux modifications à apporter à votre projet et aux énoncés supplémentaires à ajouter. Une fois que vous avez itéré plusieurs fois et apporté des améliorations incrémentielles, vous pouvez envisager d’utiliser l’entraînement avancé pour entraîner une autre version de votre modèle.

  • L’entraînement avancé utilise la dernière technologie de Machine Learning pour personnaliser les modèles avec vos données. Il est censé afficher de meilleurs scores de performances pour vos modèles et vous permet aussi d’utiliser les capacités multilingues de CLU. L’entraînement avancé est facturé différemment. Pour plus d’informations, consultez les informations tarifaires.

Servez-vous des scores d’évaluation pour guider vos décisions. Il peut arriver qu’un exemple spécifique soit prédit de manière incorrecte dans l’entraînement avancé, ce qui n’était pas le cas quand vous utilisiez le mode d’entraînement standard. Cependant, si les résultats globaux de l’évaluation sont meilleurs avec le mode avancé, il est recommandé d’utiliser votre modèle final. Si ce n’est pas le cas et que vous n’envisagez pas d’utiliser de capacités multilingues, vous pouvez continuer à utiliser le modèle entraîné avec le mode standard.

Notes

Attendez-vous à voir une différence de comportement dans les scores de confiance envers les intentions entre les modes d’entraînement, car chaque algorithme étalonne leurs scores différemment.

Effectuer l'apprentissage du modèle

Pour commencer à effectuer l’apprentissage de votre modèle à partir de Language Studio :

  1. Dans le menu de gauche, sélectionnez Effectuer l’apprentissage du modèle.

  2. Sélectionnez Démarrer un travail de formation dans le menu supérieur.

  3. Sélectionnez Entraîner un nouveau modèle, puis entrez le nom d’un nouveau modèle dans la zone de texte. Sinon, pour remplacer un modèle existant par un modèle entraîné sur les nouvelles données, sélectionnez Remplacer un modèle existant, puis sélectionnez un modèle existant. La remplacement d’un modèle entraîné est irréversible. Toutefois, cela n’affecte pas vos modèles déployés tant que vous ne déployez pas le nouveau modèle.

  4. Sélectionnez le mode d’entraînement. Vous pouvez choisir l’Entraînement standard pour un entraînement plus rapide, mais il n’est disponible que pour l’anglais. Vous pouvez aussi opter pour l’Entraînement avancé, qui est pris en charge pour d’autres langues et les projets multilingues, mais les temps d’entraînement sont plus longs. Apprenez-en davantage sur les modes d’apprentissage.

  5. Sélectionnez une méthode de fractionnement des données. Vous pouvez choisir l’option Fractionnement automatique du jeu de test à partir des données d’entraînement. Dans ce cas, le système fractionne vos énoncés en jeux d’apprentissage et de test, selon les pourcentages spécifiés. Vous pouvez aussi Utiliser un fractionnement manuel des données d’entraînement et de test. Cette option est activée uniquement si vous avez ajouté des énoncés à votre jeu de test pendant l’étiquetage de vos énoncés.

  6. Sélectionner le bouton Train (Entraîner).

    Capture d’écran montrant la page d’entraînement dans Language Studio.

  7. Sélectionnez l’ID du travail d’entraînement dans la liste. Un volet latéral s’affichera, dans lequel vous pourrez consulter la progression de l’entraînement, l’état du travail et d’autres détails concernant ce travail.

    Notes

    • Seuls les emplois de formation achevés avec succès génèrent des modèles.
    • L’entraînement peut prendre entre quelques minutes et quelques heures, selon le nombre d’énoncés.
    • Vous ne pouvez avoir qu’un seul travail d’entraînement en cours d’exécution à la fois. Vous ne pouvez pas lancer d’autres travaux d’entraînement dans le même projet tant que le travail en cours d’exécution n’est pas terminé.
    • Le machine learning utilisé pour entraîner les modèles est régulièrement mis à jour. Pour effectuer l’apprentissage sur une version de configuration précédente, sélectionnez Cliquez ici pour modifier à partir de la page Démarrer un travail d’apprentissage, puis choisissez une version précédente.

Annuler un travail d’apprentissage

Pour annuler un travail d’entraînement dans Language Studio

  1. Dans la page Entraîner un modèle, sélectionnez le travail d’entraînement à annuler, puis sélectionnez Annuler dans le menu supérieur.

Étapes suivantes