O que é o Serviço Azure OpenAI?

O Serviço OpenAI do Azure fornece acesso à API REST aos poderosos modelos de linguagem da OpenAI, incluindo as séries de modelos GPT-4, GPT-4 Turbo com Visão, GPT-3.5-Turbo e Embeddings. Além disso, as novas séries de modelos GPT-4 e GPT-3.5-Turbo já atingiram disponibilidade geral. Esses modelos podem ser facilmente adaptados à sua tarefa específica, incluindo, entre outros, geração de conteúdo, sumarização, compreensão de imagens, pesquisa semântica e tradução de linguagem natural para código. Os usuários podem acessar o serviço por meio de APIs REST, Python SDK ou nossa interface baseada na Web no Azure OpenAI Studio.

Descrição geral das funcionalidades

Caraterística	Azure OpenAI
Modelos disponíveis	Série GPT-4 (incluindo GPT-4 Turbo com Visão) Série GPT-3.5-Turbo Série de incorporações Saiba mais na nossa página Modelos .
Ajuste fino (visualização)	GPT-3.5-Turbo (0613) babbage-002 davinci-002.
Preço	Disponível aqui Para obter detalhes sobre o GPT-4 Turbo com Vision, consulte as informações de preços especiais.
Suporte de rede virtual ou suporte de link privado	Sim, a menos que use o Azure OpenAI em seus dados.
Identidade Gerida	Sim, através do Microsoft Entra ID
Experiência de interface do usuário	Portal do Azure para gerenciamento de conta e recursos, Azure OpenAI Service Studio para exploração e ajuste fino de modelos
Modelo de disponibilidade regional	Disponibilidade do modelo
Filtragem de conteúdos	Os prompts e as conclusões são avaliados em relação à nossa política de conteúdo com sistemas automatizados. O conteúdo de alta severidade será filtrado.

IA responsável

Na Microsoft, estamos comprometidos com o avanço da IA impulsionada por princípios que colocam as pessoas em primeiro lugar. Modelos generativos como os disponíveis no Azure OpenAI têm benefícios potenciais significativos, mas sem um design cuidadoso e mitigações cuidadosas, esses modelos têm o potencial de gerar conteúdo incorreto ou até mesmo prejudicial. A Microsoft fez investimentos significativos para ajudar a proteger contra abusos e danos não intencionais, o que inclui exigir que os candidatos mostrem casos de uso bem definidos, incorporar os princípios da Microsoft para uso responsável de IA, criar filtros de conteúdo para dar suporte aos clientes e fornecer orientação responsável de implementação de IA para clientes integrados.

Como faço para obter acesso ao Azure OpenAI?

Como faço para obter acesso ao Azure OpenAI?

Atualmente, o acesso é limitado à medida que navegamos pela alta demanda, pelas próximas melhorias de produtos e pelo compromisso da Microsoft com a IA responsável. Por enquanto, estamos a trabalhar com clientes que têm uma parceria existente com a Microsoft, casos de utilização de menor risco e aqueles que se comprometeram a incorporar mitigações.

O formulário de pedido inclui informações mais específicas. Agradecemos a sua paciência enquanto trabalhamos para permitir de forma responsável um acesso mais amplo ao Azure OpenAI.

Inscreva-se aqui para acesso:

Candidate-se agora

Comparando o Azure OpenAI e o OpenAI

O Serviço OpenAI do Azure oferece aos clientes IA de linguagem avançada com OpenAI GPT-4, GPT-3, Codex, DALL-E, Whisper e modelos de texto para fala com a segurança e a promessa empresarial do Azure. O Azure OpenAI codesenvolve as APIs com o OpenAI, garantindo compatibilidade e uma transição suave de um para o outro.

Com o Azure OpenAI, os clientes obtêm os recursos de segurança do Microsoft Azure enquanto executam os mesmos modelos do OpenAI. O Azure OpenAI oferece rede privada, disponibilidade regional e filtragem responsável de conteúdo de IA.

Conceitos-chave

Prompts & conclusãos

O ponto de extremidade de conclusão é o componente principal do serviço de API. Esta API fornece acesso à interface text-in, text-out do modelo. Os usuários simplesmente precisam fornecer um prompt de entrada contendo o comando de texto em inglês, e o modelo gerará uma conclusão de texto.

Aqui está um exemplo de um prompt simples e conclusão:

Prompt: """ count to 5 in a for loop """

Conclusão: for i in range(1, 6): print(i)

Tokens

Fichas de texto

O Azure OpenAI processa texto dividindo-o em tokens. Os tokens podem ser palavras ou apenas segmentos de carateres. Por exemplo, a palavra "hambúrguer" é dividida nos tokens "ham", "bur" e "ger", enquanto uma palavra curta e comum como "pera" é um único token. Muitos tokens começam com um espaço em branco, por exemplo, "olá" e "tchau".

O número total de tokens processados em uma determinada solicitação depende do comprimento dos parâmetros de entrada, saída e solicitação. A quantidade de tokens que estão sendo processados também afetará sua latência de resposta e taxa de transferência para os modelos.

Tokens de imagem (GPT-4 Turbo com Visão)

O custo do token de uma imagem de entrada depende de dois fatores principais: o tamanho da imagem e a configuração de detalhes (baixa ou alta) usada para cada imagem. Aqui está um detalhamento de como funciona:

• Detalhe: Modo de baixa resolução

  • Baixo detalhe permite que a API retorne respostas mais rápidas e consuma menos tokens de entrada para casos de uso que não exigem alto detalhe.
  • Essas imagens custam 85 tokens cada, independentemente do tamanho da imagem.
  • Exemplo: imagem 4096 x 8192 (detalhe baixo): O custo é de 85 tokens fixos, porque é uma imagem de baixo detalhe, e o tamanho não afeta o custo neste modo.

• Detalhe: Modo de alta resolução

  • O alto detalhe permite que a API veja a imagem com mais detalhes, cortando-a em quadrados menores. Cada quadrado usa mais tokens para gerar texto.
  • O custo do token é calculado por uma série de etapas de dimensionamento:
    1. A imagem é primeiramente dimensionada para caber dentro de um quadrado de 2048 x 2048, mantendo sua proporção.
    2. A imagem é então reduzida para que o lado mais curto tenha 768 pixels de comprimento.
    3. A imagem é dividida em blocos quadrados de 512 pixels, e o número desses blocos (arredondamento para cima para blocos parciais) determina o custo final. Cada bloco custa 170 tokens.
    4. Mais 85 tokens são adicionados ao custo total.
  • Exemplo: imagem 2048 x 4096 (alto detalhe)
    1. Inicialmente redimensionado para 1024 x 2048 para caber no quadrado 2048.
    2. Mais redimensionado para 768 x 1536.
    3. Requer seis telhas de 512px para cobrir.
    4. O custo total é 170 × 6 + 85 = 1105 de tokens.

Recursos

O Azure OpenAI é uma nova oferta de produto no Azure. Pode começar a utilizar o Azure OpenAI da mesma forma que qualquer outro produto do Azure em que cria um recurso, ou instância do serviço, na sua Subscrição do Azure. Você pode ler mais sobre o design de gerenciamento de recursos do Azure.

Implementações

Depois de criar um recurso do Azure OpenAI, você deve implantar um modelo antes de começar a fazer chamadas de API e gerar texto. Essa ação pode ser feita usando as APIs de implantação. Essas APIs permitem que você especifique o modelo que deseja usar.

Engenharia de pedidos

Os modelos GPT-3, GPT-3.5 e GPT-4 da OpenAI são baseados em prompt. Com os modelos baseados em pedidos, o utilizador interage com o modelo ao introduzir um pedido de texto, ao qual o modelo responde com uma conclusão de texto. Esta conclusão é o prolongamento do modelo do texto de entrada.

Embora estes modelos sejam extremamente eficientes, o respetivo comportamento é também muito sensível ao pedido. Isso torna a engenharia imediata uma habilidade importante a ser desenvolvida.

A construção rápida pode ser difícil. Na prática, o prompt age para configurar os pesos do modelo para concluir a tarefa desejada, mas é mais uma arte do que uma ciência, muitas vezes exigindo experiência e intuição para criar um prompt bem-sucedido.

Modelos

O serviço fornece aos usuários acesso a vários modelos diferentes. Cada modelo fornece uma capacidade e um preço diferentes.

Os modelos DALL-E (alguns em pré-visualização; ver modelos) geram imagens a partir de prompts de texto que o usuário fornece.

Os modelos Whisper podem ser usados para transcrever e traduzir fala para texto.

Os modelos de texto para fala, atualmente em visualização, podem ser usados para sintetizar texto para fala.

Saiba mais sobre cada modelo na nossa página de conceito de modelos.

Próximos passos

Saiba mais sobre os modelos subjacentes que alimentam o Azure OpenAI.