Lire en anglais

Partager via

Incorporations dans .NET

  • Article

Les embeddings sont la manière dont les LLMs capturent la signification sémantique. Il s’agit de représentations numériques de données non numériques qu’un LLM peut utiliser pour déterminer les relations entre les concepts. Vous pouvez utiliser des incorporations pour aider un modèle IA à comprendre la signification des entrées afin qu’il puisse effectuer des comparaisons et des transformations, telles que la synthèse du texte ou la création d’images à partir de descriptions de texte. Les LLM peuvent utiliser des incorporations immédiatement, et vous pouvez stocker ces dernières dans des bases de données vectorielles pour fournir une mémoire sémantique aux LLM en fonction des besoins.

Cas d’usage pour les intégrations

Cette section répertorie les principaux cas d’usage des incorporations.

Utiliser vos propres données pour améliorer la pertinence de la complétion

Utilisez vos propres bases de données pour générer des incorporations pour vos données et les intégrer à un LLM afin de les rendre disponibles pour les complétions. Cette utilisation des incorporations est un composant important de la génération augmentée par la récupération.

Augmenter la quantité de texte que vous pouvez insérer dans une invite

Utilisez des embeddings pour augmenter le volume de contexte que vous pouvez intégrer dans une invite sans augmenter le nombre de jetons requis.

Par exemple, supposons que vous souhaitiez inclure 500 pages de texte dans une invite. Le nombre de jetons pour un texte aussi brut dépasse la limite de jetons d’entrée, ce qui le rend impossible à inclure directement dans une invite. Vous pouvez utiliser des incorporations pour résumer et décomposer de grandes quantités de ce texte en morceaux suffisamment petits pour s’adapter à une entrée, puis évaluer la similarité de chaque morceau à l’intégralité du texte brut. Vous pouvez alors choisir l’élément qui préserve le mieux le sens sémantique du texte brut et l’utiliser dans votre message sans dépasser la limite de jetons.

Effectuer une classification de texte, une synthèse ou une traduction

Utilisez des incorporations pour aider un modèle à comprendre la signification et le contexte du texte, puis à classifier, résumer ou traduire ce texte. Par exemple, vous pouvez utiliser des incorporations pour aider les modèles à classer les textes comme positifs ou négatifs, courrier indésirable ou non, ou actualités ou opinions.

Générer et transcrire l’audio

Utilisez des incorporations audio pour traiter des fichiers audio ou des entrées dans votre application.

Par exemple, Azure AI Speech prend en charge une gamme d’incorporations audio, notamment la reconnaissance vocale et la synthèse vocale. Vous pouvez traiter l’audio en temps réel ou en lots.

Transformer du texte en images ou images en texte

Le traitement d’images sémantiques nécessite des incorporations d’images, que la plupart des machines llms ne peuvent pas générer. Utilisez un modèle d’incorporation d’images tel que ViT pour créer des incorporations vectorielles pour les images. Vous pouvez ensuite utiliser ces incorporations avec un modèle de génération d’image pour créer ou modifier des images à l’aide de texte ou inversement. Par exemple, vous pouvez utiliser DALL· Modèle E pour générer des images telles que des logos, des visages, des animaux et des paysages.

Générer ou documenter du code

Utilisez des incorporations pour aider un modèle à créer du code à partir de texte ou inversement, en convertissant différents codes ou expressions de texte en représentation commune. Par exemple, vous pouvez utiliser des incorporations pour aider un modèle à générer ou à documenter du code en C# ou Python.

Choisir un modèle d’incorporation

Vous générez des incorporations pour vos données brutes à l’aide d’un modèle d’incorporation IA, qui peut encoder des données non numériques dans un vecteur (un long tableau de nombres). Le modèle peut également décoder une incorporation dans des données non numériques qui ont la même signification ou similaire que les données brutes d’origine. Il existe de nombreux modèles d’incorporation disponibles pour vous permettre d’utiliser, avec le modèle text-embedding-ada-002 OpenAI étant l’un des modèles courants utilisés. Pour plus d’exemples, consultez la liste des modèles d’incorporation disponibles sur Azure OpenAI.

Stocker et traiter des incorporations dans une base de données vectorielle

Après avoir généré des incorporations, vous aurez besoin d’un moyen de les stocker afin de pouvoir les récupérer ultérieurement avec des appels à un LLM. Les bases de données vectorielles sont conçues pour stocker et traiter des vecteurs, de sorte qu’elles constituent un foyer naturel pour les incorporations. Différentes bases de données vectorielles offrent différentes fonctionnalités de traitement. Vous devez donc en choisir une en fonction de vos données brutes et de vos objectifs. Pour plus d’informations sur vos options, consultez solutions de base de données vectorielles disponibles.

Utilisation d’incorporations dans votre solution LLM

Lors de la création d’applications basées sur LLM, vous pouvez utiliser le noyau sémantique pour intégrer des modèles et des magasins vectoriels, afin de pouvoir extraire rapidement des données texte et générer et stocker des incorporations. Cela vous permet d’utiliser une solution de base de données vectorielle pour stocker et récupérer des mémoires sémantiques.

Contenu connexe