Partager via

Intégrer l’interface utilisateur Open Web à Foundry Local

Important

  • Foundry Local est disponible en préversion. Les versions en préversion publique fournissent un accès anticipé aux fonctionnalités qui sont en cours de déploiement actif.
  • Les fonctionnalités, les approches et les processus peuvent changer ou avoir des fonctionnalités limitées avant la mise en disponibilité générale.

Ce tutoriel vous montre comment créer une application de chat à l’aide de Foundry Local et de Open Web UI. Lorsque vous avez terminé, vous disposez d’une interface de conversation opérationnelle s’exécutant entièrement sur votre appareil local.

Conditions préalables

Avant de commencer ce tutoriel, vous avez besoin des éléments suivants :

Configurer l’interface utilisateur Open Web pour la conversation

  1. Installez Open Web UI en suivant les instructions du dépôt GitHub d’interface utilisateur Web Open.

  2. Lancez Open Web UI avec cette commande dans votre terminal :

    open-webui serve

  3. Ouvrez votre navigateur Web et allez sur http://localhost:8080.

  4. Connectez l’interface utilisateur Open Web à Foundry Local :

    1. Sélectionner Paramètres dans le menu de navigation
    2. Sélectionnez Connexions
    3. Sélectionner Gérer les connexions directes
    4. Sélectionnez l’icône + pour ajouter une connexion
    5. Pour l’URL, entrez http://localhost:PORT/v1 où PORT est remplacé par le port du point de terminaison local Foundry, que vous pouvez trouver en utilisant la commande CLI foundry service status. Notez que Foundry Local affecte dynamiquement un port, de sorte qu’il n’est pas toujours le même.
    6. Tapez n’importe quelle valeur (par exemple test) pour la clé API, car elle ne peut pas être vide.
    7. Enregistrer votre connexion

  5. Commencez à discuter avec votre modèle :

    1. Vos modèles chargés apparaissent dans la liste déroulante en haut
    2. Sélectionnez n’importe quel modèle dans la liste
    3. Tapez votre message dans la zone d’entrée en bas

C’est tout ! Vous discutez maintenant avec un modèle IA s’exécutant entièrement sur votre appareil local.

Étapes suivantes