Biblioteca de IA do Teams

A biblioteca de IA do Teams é uma interface centrada no Teams para modelos de linguagem comum baseados em GPT e mecanismos de intenção de usuário que, moderam a necessidade de você assumir tarefas complexas e caras de escrever e manter a lógica de bot de conversação para se integrar a grandes modelos de linguagem (LLMs).

A biblioteca de IA fornece uma abordagem simples orientada a recursos e ajuda você a criar aplicativos inteligentes de forma rápida e fácil com snippets de código pré-construídos e reutilizáveis para que você possa se concentrar na criação da lógica de negócios em vez de aprender a semântica dos aplicativos de conversação do Teams.

Por que usar a biblioteca de IA do Teams?

A Biblioteca de IA é uma interface centrada no Teams para Modelos de Linguagem Grande. Seus aplicativos podem usar LLMs para facilitar interações conversacionais mais naturais com os usuários, orientando essa conversa sobre suas habilidades de aplicativos.

Você pode se concentrar em escrever sua lógica de negócios e permitir que o Teams lide com as complexidades dos bots de conversa para que você possa extrair e utilizar facilmente a intenção do usuário em seus aplicativos.

• A Biblioteca de IA é uma interface centrada no Teams para Modelos de Linguagem Grande. Use modelos predefinidos para adicionar recursos de aplicativo do Teams.

• Use técnicas como engenharia de prompt para adicionar ChatGPT como experiências de conversa ao bot e recursos de segurança internos, como moderação, ajudar a garantir que seu bot sempre responda de maneira apropriada.

• A biblioteca inclui um mecanismo de planejamento que permite que o modelo identifique a intenção do usuário e mapeie essa intenção para ações implementadas.

• Você pode adicionar facilmente suporte para qualquer LLM de sua escolha sem alterar a lógica do bot.

A Biblioteca de IA do Teams está disponível em idiomas JavaScript e C#, permitindo que você aproveite o poder da IA e crie aplicativos inteligentes e amigáveis para o Microsoft Teams usando as linguagens de programação com as quais eles estão mais confortáveis. Estamos comprometidos com uma mentalidade em que você cria produtos de IA com as ferramentas e linguagens desejadas para tornar as melhores experiências possíveis para seus clientes no Teams.

Veja a seguir alguns dos recursos de main disponíveis por meio da biblioteca de IA do Teams:

Scaffolding de componentes centrado no Teams simples

A biblioteca de IA do Teams simplifica o modelo de aplicativo do Teams para se concentrar na extensão necessária em relação ao protocolo necessário. Você pode usar modelos predefinidos e adicionar sua lógica de negócios a esse scaffold para adicionar módulos como bots, extensões de mensagem, Cartões Adaptáveis ou desenrolamento de link.

Modelagem de linguagem natural

A biblioteca de IA do Teams é criada com modelos de linguagem alimentados por GPT, para que você não precise gastar tempo para escrever sua lógica de conversa e identificar as intenções do usuário. Criar aplicativos do Teams movidos a IA é mais fácil, compatível e consistentemente utilizável do que nunca.

Os bots podem executar no contexto e ajudar quando o bot reconhece uma intenção do usuário que mapeia para uma das ações do bot. Isso aumenta a conversa sem exigir que os usuários conversem explicitamente com o bot usando um pequeno conjunto de ações registradas.

Engenharia de prompt

A engenharia de prompt ajuda você a criar prompts considerando a intenção do usuário, o contexto da conversa e a personalidade do bot. Os bots podem ser personalizados e personalizados para atender às necessidades do usuário.

Histórico de sessão de conversa

A biblioteca de IA do Teams lembra o contexto entre mensagens e ajuda a melhorar o desempenho do bot analisando padrões no comportamento do usuário.

Localização

Como a biblioteca de IA do Teams usa o modelo de GPT do OpenAI, a localização está disponível. Quando um usuário entra em qualquer idioma, a entrada é consistentemente traduzida para intenções, entidades e ações resultantes que o aplicativo entende sem a necessidade de criar e manter registros de localização.

Modularidade LLM

O LLM (modelo de linguagem grande) é um modelo de linguagem avançado que utiliza variáveis latentes para gerar texto e estilo de linguagem natural coerentes e diversos.

Embora a biblioteca de IA do Teams seja criada para usar o modelo de GPT do Open AI, você tem a flexibilidade de trocar por qualquer LLM de sua escolha sem alterar a lógica do bot. Isso significa que você pode optar por manter o conteúdo do aplicativo fora do domínio público e confinado ao modelo de LLM preferido.

IA responsável

A biblioteca de IA do Teams permite que você crie aplicativos de conversa éticos e responsáveis por:

• Ganchos de moderação: para regular as respostas do bot em relação a qualquer API de moderação.
• Varredura de conversas: para monitorar conversas e intervir quando a conversa se desvia por meio da detecção e correção proativas.
• Loops de comentários: para avaliar o desempenho do bot para conversas de alta qualidade e aprimorar a experiência do usuário.

A biblioteca de IA do Teams oferece suporte de baixo código a cenários complexos. A biblioteca estende recursos com builds de IA para criar modelagem de linguagem natural, intenção de usuário específica do cenário, personalização e conversas automatizadas com reconhecimento de contexto.

Mecanismo preditivo para intenções de mapeamento para ações

Uma interface simples para ações e previsões permite que os bots reajam quando o bot tem confiança para tomar medidas. A presença ambiente permite que os bots aprendam a intenção, usem prompts com base na lógica de negócios e gerem respostas. Por exemplo, se um usuário estava fora do escritório e precisa resumir rapidamente um thread, a biblioteca:

1. Entende a intenção como resumo.
2. Permite que os prompts façam resumos durante um período de tempo focados no gerenciador do usuário.
3. Fornece ações para resumir o conteúdo do chat para os usuários consumirem.

Ação Planner

O Planner de ação é o componente main que chama seu LLM (Modelo de Linguagem Grande) e inclui vários recursos para aprimorar e personalizar seu modelo. Os plug-ins de modelo simplificam a configuração da LLM selecionada para o planejador e envia com um OpenAIModel que dá suporte a LLMs OpenAI e Azure OpenAI. Plug-ins adicionais para outros modelos como o Llama-2 podem ser adicionados facilmente, dando a você a flexibilidade de escolher qual modelo é melhor para o caso de uso. Um loop de comentários interno aumenta a confiabilidade corrigindo as respostas de subpar da LLM.

Gerenciamento de prompt

O gerenciamento de prompt dinâmico é um recurso do sistema de IA que permite ajustar o tamanho e o conteúdo do prompt que é enviado para o modelo de idioma, com base no orçamento de token disponível e nas fontes de dados ou aumentos. Ele pode melhorar a eficiência e a precisão do modelo, garantindo que o prompt não exceda a janela de contexto ou inclua informações irrelevantes.

Aumento

Aprimore e direcione com eficiência as respostas do modelo de IA com o Aumento. Usando diferentes modos de aumento, você pode adaptar seu modelo às suas necessidades, aumentando sua precisão e resultados desejados.

• Rag (Geração Aumentada de Recuperação): incorpora automaticamente fontes de dados externas em tempo real, dinâmicas e especificadas nas respostas do modelo, habilitando resultados atualizados e contextualmente precisos sem ajustar ou treinar novamente seu modelo. Responda a perguntas sobre os números de vendas de hoje ou personalize para os dados de um usuário específico; com RAG, seu modelo não está mais preso no passado.

• Monólogo: Create agentes no estilo AutoGPT capazes de executar ações em várias etapas de forma independente e confiabilidade com validação completa de esquema e reparo automático incluídos.

• Sequência: habilite o assistente de IA para retornar uma sequência de ações para execução com a validação de esquema aumentando a confiabilidade.

• Funções: produza respostas estruturadas do modelo empregando Funções definidas pelo usuário. Essas funções são personalizáveis usando esquemas JSON para definir os parâmetros e seu formato. O ActionPlanner avalia as respostas do modelo em relação ao esquema, fazendo reparos conforme necessário, aumentando a confiabilidade e a consistência da resposta.

Fontes de dados de vetor

Os bancos de dados vetores são um novo tipo de banco de dados projetado para armazenar vetores e habilitar uma pesquisa eficiente sobre eles. Eles retornam os resultados mais relevantes para a consulta de um usuário. O recurso de pesquisa de vetor em um banco de dados vetor permite que a geração aumentada de recuperação use LLMs e dados personalizados ou informações específicas do domínio. Isso envolve extrair informações relevantes de uma fonte de dados personalizada e integrá-la à solicitação de modelo por meio da engenharia de prompt. Antes de enviar uma solicitação para o LLM, a entrada, consulta ou solicitação do usuário é transformada em uma inserção e as técnicas de pesquisa de vetor são usadas para encontrar as inserções mais semelhantes no banco de dados.

Raciocínio aprimorado

A Biblioteca de IA do Teams oferece um sistema integrado de verificação de fatos para combater alucinações de bot. Quando um usuário interage com seu assistente de IA, o sistema solicita que o bot se envolva em um processo de auto-reflexão avaliando criticamente suas respostas potenciais antes de enviar. A introspecção permite que o bot identifique imprecisões e corrija suas respostas, o que melhora a precisão, a qualidade e a relevância contextual. O raciocínio avançado garante que seu assistente de IA se torne uma fonte confiável de informações e julgamentos, criando confiança em seu produto e atraindo os usuários de volta todos os dias.

Retroalimentação

O loop de comentários permite que o bot valide e corrija a saída do modelo de idioma. Ele verifica a estrutura e os parâmetros do plano ou monólogo que o modelo retorna e fornece comentários sobre erros ou informações ausentes. Em seguida, o modelo tenta corrigir seus erros e retorna uma saída válida. O loop de comentários pode melhorar a confiabilidade e a precisão do sistema de IA e reduzir as chances de alucinação ou ações inválidas.

A tabela a seguir lista as atualizações para a biblioteca de IA do Teams:

Tipo	Descrição	.NET	JavaScript	Python
OpenAIModel	A classe OpenAIModel permite que você chame OAI e OAI do Azure com um único componente. Novos modelos podem ser definidos para outros tipos de modelo, como LLaMA2.	✔️	✔️	✔️
Embeddings	A classe OpenAIEmbeddings permite gerar inserções usando o OAI ou o OAI do Azure. Novas inserções podem ser definidas para coisas como OSS Embeddings.	❌	✔️	✔️
Solicita	Um novo sistema de prompt baseado em objeto permite um melhor gerenciamento de token e reduz a probabilidade de estouro da janela de contexto do modelo.	✔️	✔️	✔️
Aumento	Os aumentos simplificam as tarefas de engenharia de prompt permitindo que o desenvolvedor adicione aumentos nomeados ao prompt. Há suporte apenas functionspara , sequencee monologue há suporte para aumentos de estilo.	✔️	✔️	✔️
Fontes de dados	Um novo plug-in do DataSource facilita a adição de RAG a qualquer prompt. Você pode registrar uma fonte de dados nomeada com o planejador e especificar o nome das fontes de dados que desejam aumentar o prompt.	❌	✔️	✔️

Exemplos de código

Nome do exemplo	Descrição	.NET	Node.js	Python
Bot echo	Este exemplo mostra como incorporar um fluxo de conversa básico em um aplicativo do Microsoft Teams usando o Bot Framework e a biblioteca de IA do Teams.	View	View	View
Pesquisa extensão de mensagem de comando	Este exemplo mostra como incorporar um aplicativo básico de Extensão de Mensagem em um aplicativo do Microsoft Teams usando o Bot Framework e a biblioteca de IA do Teams.	View	View
Bot Typeahead	Este exemplo mostra como incorporar a funcionalidade de pesquisa typeahead em Cartões Adaptáveis em um aplicativo do Microsoft Teams usando o Bot Framework e a biblioteca de IA do Teams.	View	View
Bot de conversa com IA: chef do Teams	Este exemplo mostra como incorporar um comportamento básico de bot de conversa no Microsoft Teams. O bot foi criado para permitir que o GPT facilite a conversa em seu nome, usando apenas um arquivo de prompt de linguagem natural para guiá-lo.	View	Exibir
Extensões de mensagem: GPT-ME	Este exemplo é uma ME (extensão de mensagem) para o Microsoft Teams que usa o modelo text-davinci-003 para ajudar os usuários a gerar e atualizar postagens.	View	View	Exibir
Bot light	Este exemplo ilustra um comportamento de bot de conversa mais complexo no Microsoft Teams. O bot é criado para permitir que o GPT facilite a conversa em seu nome e as respostas definidas manualmente e mapeie as intenções do usuário para ações definidas pelo usuário.	View	View	Exibir
Listar bot	Este exemplo mostra como incorporar um comportamento básico de bot de conversa no Microsoft Teams. O bot aproveita o poder da IA para simplificar seu fluxo de trabalho e trazer ordem para suas tarefas diárias e mostra os recursos de encadeamento de ações.	View	Exibir
Bot DevOps	Este exemplo mostra como incorporar um comportamento básico de bot de conversa no Microsoft Teams. O bot usa o modelo gpt-3.5 turbo para conversar com usuários do Teams e executar ações do DevOps, como criar, atualizar, triagem e resumir itens de trabalho.	View	Exibir
Vinte perguntas	Este exemplo mostra as incríveis funcionalidades dos modelos de linguagem e o conceito de intenção do usuário. Desafie suas habilidades como jogador humano e tente adivinhar um segredo dentro de 20 perguntas, enquanto o bot alimentado por IA responde às suas consultas sobre o segredo.	View	Exibir
Professor de matemática assistente	Este exemplo mostra como criar uma experiência conversacional básica usando APIs assistentes do OpenAI. Ele usa a ferramenta Intérprete de Código do OpenAI para criar um assistente que é um especialista em matemática.	View	Exibir
Pedido de alimentos assistente	Este exemplo mostra como criar uma assistente de conversa que usa ferramentas para chamar ações no código de bots. É um pedido de comida assistente para um restaurante fictício chamado The Pub e é capaz de interações complexas com o usuário à medida que toma seu pedido.	View	Exibir

Próxima etapa

Recursos da biblioteca de IA do Teams