Partilhar via

Integre a interface do usuário da Web aberta com o Foundry Local

Importante

  • O Foundry Local está disponível em pré-visualização. As versões de visualização pública fornecem acesso antecipado aos recursos que estão em implantação ativa.
  • Recursos, abordagens e processos podem mudar ou ter recursos limitados, antes da Disponibilidade Geral (GA).

Este tutorial mostra como criar um aplicativo de bate-papo usando o Foundry Local e Open Web UI. Quando terminar, você terá uma interface de bate-papo funcionando inteiramente em seu dispositivo local.

Pré-requisitos

Antes de iniciar este tutorial, você precisa:

Configurar a UI Web Aberta para conversação

  1. Instale o Open Web UI seguindo as instruções do repositório GitHub Open Web UI.

  2. Inicie o Open Web UI com este comando no seu terminal:

    open-webui serve

  3. Abra o navegador da Web e vá para http://localhost:8080.

  4. Conecte a UI da Web Aberta ao Foundry Local

    1. Selecione Configurações no menu de navegação
    2. Selecionar conexões
    3. Selecione Gerenciar conexões diretas
    4. Selecione o + ícone para adicionar uma conexão
    5. Para a URL, insira http://localhost:PORT/v1 onde PORT é substituído pela porta do ponto de extremidade Foundry Local, que você pode encontrar usando o comando foundry service statusCLI . Observe que o Foundry Local atribui dinamicamente uma porta, portanto, nem sempre é a mesma.
    6. Digite qualquer valor (como test) para a chave de API, pois ela não pode estar vazia.
    7. Guarde a sua ligação

  5. Comece a conversar com o seu modelo:

    1. Os modelos carregados aparecem na lista suspensa na parte superior
    2. Selecione qualquer modelo da lista
    3. Digite sua mensagem na caixa de entrada na parte inferior

É isso! Agora você está conversando com um modelo de IA executado inteiramente em seu dispositivo local.

Próximos passos