Quel LLM utiliser pour un moteur d'IA qui traiterait les mails entrants sur le serveur de mails sur notre tenant Office 365 ?

Question

Nous souhaitons développer une IA privative qui traiterait les mails entrants afin de proposer une réponse, en fonction de l'équipement du client, de documentation et des mails précédents. Quel moteur LLM fourni par Microsoft pourrait-il être utilisé afin de rester souverain, sur notre tenant privatif azur ?

Answer 1

Bonjour @THE YOUNG Yann,

Vous trouverez ci-dessous les étapes pour construire un moteur d'IA pour le traitement des e-mails dans Office 365 :

Choisir le LLM pour le traitement des e-mails

• Utilisez Azure OpenAI Service avec GPT-4 Turbo ou GPT-3.5 Turbo pour analyser et générer des réponses aux e-mails.
• Assurez-vous que le déploiement se fait dans votre tenant Azure privé afin de garantir la souveraineté des données.

Récupérer les e-mails d’Office 365

• Utilisez Microsoft Graph API pour récupérer les e-mails entrants depuis Exchange Online.
• Stockez les métadonnées et le contenu des e-mails pour traitement.

Mettre en place le workflow de traitement des e-mails

• Déployez une Azure Function (calcul serverless) pour déclencher le traitement par l'IA à l’arrivée d’un nouvel e-mail.
• Envoyez le contenu de l’e-mail à Azure OpenAI pour générer une réponse.
• Récupérez le contexte pertinent à partir de l’historique client, de la documentation et des interactions précédentes.

Améliorer l’IA avec des services Azure supplémentaires

• Azure Document Intelligence API : extrait le texte des pièces jointes des e-mails (factures, manuels, PDFs, etc.).
• Azure Cognitive Search : indexe et récupère les interactions passées pour des réponses plus pertinentes.
• Azure CosmosDB : stocke les données client et l’historique des e-mails pour référence par l’IA.

Mettre en place une sécurité réseau avancée (VNET & Private Endpoints)

• Déployez tous les services dans un Azure Virtual Network (VNET) pour éviter l’exposition à Internet.
• Utilisez des Private Endpoints pour Azure OpenAI, CosmosDB, Document Intelligence et Azure Functions.
• Pour un environnement de développement, autorisez l’accès via Service Endpoints ; pour la production, appliquez une politique de Zero Trust Security.
• Sécurisez les identifiants à l’aide d’Azure Key Vault.

Surveiller et optimiser les performances

• Activez Azure Monitor et Log Analytics pour suivre les performances, les erreurs et les journaux de sécurité.
• Appliquez le contrôle d’accès basé sur les rôles (RBAC) pour limiter l’accès en fonction des autorisations utilisateur.

Automatiser le déploiement et l’évolutivité

• Utilisez Azure DevOps ou des modèles Bicep pour automatiser le déploiement de l’infrastructure.
• Configurez l’autoscaling pour les Azure Functions afin de gérer la fluctuation du volume des e-mails.

Améliorer la qualité des réponses générées par l’IA

• Entraînez l’IA avec des données spécifiques à votre organisation ou appliquez des techniques d’apprentissage par quelques exemples (few-shot learning) pour améliorer la pertinence des réponses.
• Affinez continuellement les instructions et la logique de traitement de l’IA en fonction des retours d’expérience.

Documents de référence pour l’IA Multimodale Azure + Traitement LLM

• Azure Multimodal AI + LLM Processing Accelerator
• Créer votre assistant e-mail personnel basé sur l’IA
• Déployer un modèle de langage GPT-2 sur Azure avec Power Automate – Guide étape par étape
• Le moteur de traitement IA Multimodale Azure + LLM – Accélérateur de solution

Je traduis mes réponses depuis l’anglais, je vous prie donc de m’excuser pour d’éventuelles erreurs grammaticales.

Si cette réponse vous a été utile, n’oubliez pas de cliquer sur "Accepter la réponse" et "Oui" afin qu’elle puisse bénéficier à d’autres membres de la communauté.

Si vous avez d’autres questions, n’hésitez pas à laisser un commentaire, je serai ravi de vous aider !