Perguntas frequentes sobre o Serviço OpenAI do Azure

O OpenAI do Azure não usa dados do cliente para retreinar modelos. Para obter mais informações, confira o Guia de dados, privacidade e segurança do OpenAI do Azure.

O Azure OpenAI é compatível com a versão mais recente da biblioteca do OpenAI Python (versão>=1.0). No entanto, é importante observar a migração da base de código usando openai migrate não tem suporte e não funcionará com código direcionado ao Azure OpenAI.

GPT-4 Turbo Preview é o modelogpt-4 (1106-preview). Para implantar esse modelo, em Implantações, selecione o modelo gpt-4. Para a Versão do modelo, selecione 1106-preview. Para verificar quais regiões esse modelo está disponível, consulte a página de modelos.

O OpenAI do Azure dá suporte aos modelos GPT-4 mais recentes. Dá suporte a GPT-4 e GPT-4-32K.

O Serviço OpenAI do Azure fornece aos clientes IA de linguagem avançada com os modelos GPT-3, Codex e DALL-E do OpenAI com a promessa empresarial e de segurança do Azure. O OpenAI do Azure co-desenvolve as APIs com o OpenAI, garantindo compatibilidade e uma transição uniforme de uma para a outra.

Com o OpenAI do Azure, os clientes obtêm os recursos de segurança do Microsoft Azure enquanto executam os mesmos modelos que o OpenAI.

Sim, como parte dos serviços de IA do Azure, o Azure OpenAI oferece suporte a VNETs e Pontos de Extremidade Privados. Para saber mais, consulte Diretrizes de rede virtual dos serviços de IA do Azure

Não, o GPT-4 foi projetado pelo OpenAI para ser multimodal, mas atualmente há suporte apenas para entrada e saída de texto.

Anteriormente, o processo para adicionar novos casos de uso exigia que os clientes se inscrevessem novamente no serviço. Agora, estamos lançando um novo processo que permite adicionar rapidamente novos casos de uso ao uso do serviço. Esse processo segue o processo de Acesso Limitado estabelecido nos serviços de IA do Azure. Os clientes existentes podem atestar todos os novos casos de uso aqui. Observe que isso é necessário sempre que você quiser usar o serviço para um novo caso de uso para o qual não se inscreveu originalmente.

Esse erro normalmente ocorre quando você tenta enviar um lote de texto para inserir em uma única solicitação de API como uma matriz. Atualmente, o Azure OpenAI só oferece suporte a matrizes de inserções com várias entradas para o modelo text-embedding-ada-002 versão 2. Essa versão do modelo é compatível com uma matriz que consiste em até 16 entradas por solicitação de API. A matriz pode ter até 8.191 tokens de comprimento ao usar o modelo text-embedding-ada-002 (Versão 2).

Confira nossa introdução á engenharia de solicitação. Embora esses modelos sejam poderosos, seu comportamento também é muito sensível ás solicitações que recebem do usuário. Isso torna a construção de prompt uma habilidade importante para desenvolver. Depois de concluir a introdução, confira nosso artigo sobre técnicas avançadas de engenharia de solicitação .

Esse é o comportamento esperado ao usar a experiência de entrada padrão para o Azure OpenAI Studio.

Para acessar o Azure OpenAI Studio de uma conta de convidado à qual foi concedido acesso a um recurso do Azure OpenAI:

1. Abra uma sessão privada do navegador e navegue até https://oai.azure.com.
2. Em vez de inserir imediatamente as credenciais de sua conta de convidado, selecione Sign-in options
3. Agora, selecione Entrar em uma organização
4. Insira o nome de domínio da organização que concedeu à sua conta de convidado acesso ao recurso do Azure OpenAI.
5. Agora, entre com as credenciais de sua conta de convidado.

Agora você deve conseguir acessar o recurso por meio do Azure OpenAI Studio.

Como alternativa, se você estiver conectado ao Portal do Azure no painel de Visão geral do recurso do Azure OpenAI, poderá selecionar Ir para o Azure OpenAI Studio para entrar automaticamente com o contexto organizacional apropriado.

Os modelos do OpenAI do Azure (incluindo GPT-4) não conseguem identificar corretamente qual modelo que está sendo executado é o comportamento esperado.

Por que isso acontece?

Por fim, o modelo está executando a próxima previsão de token em resposta à sua pergunta. O modelo não tem nenhuma capacidade nativa de consultar qual versão do modelo está sendo executada no momento para responder à sua pergunta. Para responder a essa pergunta, você sempre pode ir para Estúdio do OpenAI do Azure>Gerenciamento>Implantações> e consulte a coluna de nome do modelo para confirmar qual modelo está atualmente associado a um determinado nome de implantação.

As perguntas "Qual modelo você está executando?" ou "Qual é o modelo mais recente do OpenAI?" produzem resultados de qualidade semelhantes ao perguntar ao modelo qual será o tempo hoje. Ele pode retornar o resultado correto, mas puramente por acaso. Por si só, o modelo não tem nenhuma informação do mundo real além da que fazia parte de seu treinamento/dados de treinamento. No caso do GPT-4, a partir de agosto de 2023, os dados de treinamento subjacentes só vão até setembro de 2021. O GPT-4 não foi tinha sido lançado até março de 2023, portanto, a menos que o OpenAI lance uma nova versão com dados de treinamento atualizados, ou uma nova versão que seja ajustada para responder a essas perguntas específicas, é esperado que o GPT-4 responda que o GPT-3 é o lançamento mais recente do modelo do OpenAI.

Se você quisesse ajudar um modelo baseado em GPT a responder com precisão à pergunta "qual modelo você está executando?", você precisaria fornecer essas informações ao modelo por meio de técnicas como engenharia de prompt da mensagem do sistema do modelo, RAG (Geração Aumentada Recuperada), que é a técnica usada pelo OpenAI do Azure em seus dados em que informações atualizadas são injetadas na mensagem do sistema no momento da consulta, ou por meio de ajuste em que você poderia ajustar versões específicas do modelo para responder a essa pergunta de uma certa maneira com base na versão do modelo.

Para saber mais sobre como os modelos de GPT são treinados e funcionam, recomendamos assistir à palestra de Andrej Karpathy no Build 2023 sobre o estado do GPT.

Este comportamento é esperado. Os modelos não são capazes de responder perguntas sobre si mesmos. Se você quiser saber quando é o corte de conhecimento para os dados de treinamento do modelo, consulte a página de modelos.

Este comportamento é esperado. Primeiro, não há garantia de que todos os eventos recentes façam parte dos dados de treinamento do modelo. E mesmo quando as informações fazem parte dos dados de treinamento, sem usar técnicas adicionais como a Recuperação de Geração Aumentada (RAG) para ajudar a aterrar as respostas do modelo, há sempre uma chance de respostas não em primeiro plano ocorrerem. O usa seu recurso de dados e o Bing Chat do OpenAI do Azure usam modelos do OpenAI do Azure combinados com a Geração Aumentada de Recuperação para ajudar a obter mais respostas do modelo de base.

A frequência que uma determinada informação apareceu nos dados de treinamento também pode afetar a probabilidade de que o modelo responda de uma determinada maneira.

Perguntar ao modelo mais recente do GPT-4 Turbo Preview sobre algo que mudou mais recentemente como "Quem é o primeiro-ministro da Nova Zelândia?", provavelmente resultará na resposta fabricada Jacinda Ardern. No entanto, perguntar ao modelo "Quando Jacinda Ardern renunciou ao cargo de primeiro-ministro?" Tende a produzir uma resposta precisa que demonstra o conhecimento de dados de treinamento que vai até pelo menos janeiro de 2023.

Portanto, embora seja possível investigar o modelo com perguntas para adivinhar seu corte de conhecimento de dados de treinamento, a página do modelo é o melhor lugar para verificar o corte de conhecimento de um modelo.

Informações de preços herdadas estão disponíveis por meio de um arquivo PDF para download. Para todos os outros modelos, consulte a página de preços oficial.

Você pode minimizar a ocorrência desses erros reduzindo a temperatura das solicitações para menos de 1 e garantindo que você esteja usando um cliente com lógica de repetição. Tentar realizar a solicitação novamente geralmente resulta em uma resposta bem-sucedida.

Se o serviço executar o processamento, você será cobrado mesmo se o código de status não for bem-sucedido (não 200). São exemplos comuns disso: um erro de 400 devido a um filtro de conteúdo ou limite de entrada ou um erro 408 devido a um tempo limite. Os encargos também ocorrerão quando um status 200 for recebido com um finish_reason de content_filter. Nesse caso, o prompt não teve problemas, mas a conclusão gerada pelo modelo foi detectada para violar as regras de filtragem de conteúdo, o que resulta na filtragem da conclusão. Caso o serviço não execute o processamento, você não será cobrado. Por exemplo, um erro 401 devido à autenticação ou um erro 429 por exceder o Limite de taxa.

No momento, o acesso é limitado devido à alta demanda de aprimoramentos futuros do produto e ao compromisso da Microsoft com a IA responsável. Por enquanto, estamos trabalhando com clientes com uma parceria existente com a Microsoft, casos de uso de baixo risco e aqueles comprometidos em incorporar mitigações. Aplique aqui para acesso inicial: Aplicar agora

No momento, não oferecemos uma linha do tempo para aprovação de acesso.

Para obter atualizações mensais, confira a página de novidades.

Confira o curso de treinamento de introdução ao OpenAI do Azure.

• Recomendamos a postagem de perguntas no Microsoft Q&A.
• Como alternativa, você pode postar perguntas no Stack Overflow.

A OpenAI do Azure faz parte dos serviços de IA do Azure. Você pode saber mais sobre todas as opções de suporte para os serviços de IA do Azure no guia de opções de suporte e ajuda.

Confira o guia de disponibilidade de modelo do OpenAI do Azure.

Consulte o guia de disponibilidade do modelo do OpenAI do Azure para ver a disponibilidade de região.

Para acessar o ajuste fino com sucesso, é necessário ter o Colaborador de OpenAI de Serviços Cognitivos atribuído. Mesmo alguém com permissões de Administrador de Serviços de alto nível ainda precisaria dessa conta definida explicitamente para acessar o ajuste fino. Para obter mais informações, analise as diretrizes sobre controle de acesso baseado em função.

Um modelo base é aquele que não foi personalizado nem ajustado para um caso de uso específico. Os modelos ajustados são versões personalizadas de modelos base em que os pesos de um modelo são treinados em um conjunto exclusivo de prompts. Os modelos ajustados permitem obter melhores resultados em um número maior de tarefas sem a necessidade de fornecer exemplos detalhados de aprendizado no contexto como parte do prompt de conclusão. Para saber mais, examine o guia de ajuste fino.

100

Não temos um SLA (Contrato de Nível de Serviço) de tempo de resposta da API definido no momento. Para obter mais informações sobre o SLA para Serviço OpenAI do Azure, consulte a Página de Contratos de Nível de Serviço (SLA) para Serviços Online.

Se um modelo personalizado (ajustado) for implantado por mais de 15 dias durante os quais nenhuma conclusão for feita por chamada ou chat para isso, a implantação será automaticamente excluída (e nenhuma cobrança de hospedagem adicional será incorrida para essa implantação). O modelo personalizado subjacente permanece disponível e pode ser reimplantado a qualquer momento. Para saber mais, confira o artigo de instruções.

Atualmente, há duas APIs REST diferentes que permitem a implantação do modelo. Para obter os recursos mais recentes de implantação de modelos, como a capacidade de especificar uma versão do modelo durante a implantação de modelos como text-embedding-ada-002 Versão 2, use a chamada da API REST para Implantações - Criar Ou Atualizar.

Não, a alocação de tokens de cota por minuto (TPM) não está relacionada ao limite máximo de token de entrada de um modelo. Os limites de token de entrada do modelo são definidos na tabela de modelos e não são afetados pelas alterações feitas no TPM.

Não, não oferecemos suporte ao ajuste fino dos recursos de imagem do GPT-4 no momento.

Não, você pode usar dall-e-3 para gerar imagens e gpt-4-visual-preview para reconhecer as imagens.

Atualmente, oferecemos suporte para PNG (.png), JPEG (.jpeg e .jpg), WEBP (.webp) e GIF não animado (.gif).

Sim, restringimos os uploads de imagem a 20 MB por imagem.

Não, excluiremos a imagem para você automaticamente depois que ela for processada pelo modelo.

Processamos imagens no nível do token, portanto, cada imagem que processamos conta para o limite de seus tokens por minuto (TPM). Consulte a seção Tokens de imagem da Visão Geral para obter detalhes sobre a fórmula usada para determinar a contagem de tokens por imagem.

Não, o modelo não recebe metadados de imagem.

Se uma imagem for ambígua ou não estiver clara, o modelo fará o possível para interpretá-la. No entanto, os resultados podem ser menos precisos. Uma boa regra geral é que, se a média de seres humanos não consegue ver as informações em uma imagem nas resoluções usadas no modo de resolução baixa/alta, então o modelo também não consegue.

Consulte a seção de limitações do guia de conceitos do GPT-4 Turbo com Vision.

Por padrão, o GPT-4 vision-preview e o GPT-4 turbo-2024-04-09 têm um valor de max_tokens de 16. Dependendo da sua solicitação, esse valor costuma ser muito baixo e pode resultar em respostas truncadas. Para resolver esse problema, aprove um valor de max_tokens como parte das solicitações de APIs de preenchimentos do seu chat. O GPT-4o usa como padrão um max_tokens de 4.096.

Sim. Ao contrário da API de Conclusões de Chat, os Assistentes OpenAI do Azure são uma API com estado, o que significa que ela retém dados. Há dois tipos de dados armazenados na API de Assistentes:

• Entidades com estado: Threads, mensagens e execuções criadas durante o uso de Assistentes.
• Arquivos: carregados durante a instalação dos Assistentes ou como parte de uma mensagem.

Os dados são armazenados em uma conta de armazenamento segura e gerenciada pela Microsoft que é separada logicamente.

Todos os dados usados persistem nesse sistema, a menos que você exclua explicitamente esses dados. Use a função deletar com a ID do thread que você deseja excluir. Limpar a execução no Playground de Assistentes não exclui threads, no entanto, excluí-los usando a função de exclusão não os listará na página de thread.

Não. Atualmente, os Assistentes dão suporte apenas a arquivos locais carregados no armazenamento gerenciado por Assistentes. Você não pode usar sua conta de armazenamento privada com assistentes.

Hoje, damos suporte a CMKs para Threads e Arquivos em Assistentes. Confira a página de Novidades das regiões disponíveis para esse recurso.

Não. Os dados não são usados para a Microsoft não usados para modelos de treinamento. Consulte a documentação de IA responsável para obter mais informações.

Os pontos de extremidade dos Assistentes OpenAI do Azure são regionais e os dados são armazenados na mesma região que o ponto de extremidade. Para obter mais informações, consulte a documentação de residência de dados do Azure.

• Custo de inferência (entrada e saída) do modelo base que você está usando para cada Assistente (por exemplo, gpt-4-0125). Se você tiver criado vários Assistentes, será cobrado pelo modelo base anexado a cada Assistente.
• Se você habilitou a ferramenta Interpretador de Código. Por exemplo, se o assistente chamar o Interpretador de Código simultaneamente em dois threads diferentes, isso criará duas sessões de Interpretador de Código, cada uma delas será cobrada. Cada sessão está ativa por padrão por uma hora, o que significa que você só pagaria essa taxa uma vez se o usuário continuar dando instruções ao Interpretador de Código no mesmo thread por até uma hora.
• A pesquisa de arquivos não é cobrada no momento.

Para saber mais, confira a página de preço.

Não. Todas as cotas se aplicam ao uso de modelos com Assistentes.

A API de assistentes só dá suporte a modelos do Azure OpenAI.

A API de Assistentes está atualmente em versão prévia pública. Mantenha-se informado sobre nossas atualizações de produtos mais recentes visitando regularmente nossa página Novidades.

Consulte os artigos de Conceitual, início rápido, instruções para obter informações sobre como começar e usar assistentes. Você também pode conferir exemplos de código dos Assistentes OpenAI do Azure no GitHub.

Você pode personalizar seu aplicativo web publicado no portal do Azure. O código-fonte do aplicativo web publicado está disponível no GitHub, onde você pode encontrar informações sobre como alterar o front-end do aplicativo, bem como instruções para compilar e implantar o aplicativo.

O código do aplicativo não será substituído quando você atualizar o aplicativo. O aplicativo será atualizado para usar o recurso do Azure OpenAI, o índice de Busca da IA do Azure (se você estiver usando o Azure OpenAI em seus dados) e as configurações de modelo selecionadas no Azure OpenAI Studio sem nenhuma alteração na aparência ou funcionalidade.

O OpenAI do Azure nos seus dados é um recurso dos Serviços OpenAI do Azure que ajuda as organizações a gerar insights personalizados, conteúdos e pesquisas usando as fontes de dados designadas. O serviço funciona com os recursos dos modelos OpenAI no OpenAI do Azure para fornecer respostas mais precisas e relevantes às consultas dos usuários em linguagem natural. O OpenAI do Azure nos seus dados pode ser integrado aos aplicativos e fluxos de trabalho existentes do cliente, oferece insights sobre os principais indicadores de desempenho e pode interagir com os usuários sem problemas.

Todos os clientes do OpenAI do Azure podem usar o OpenAI do Azure nos seus dados por meio do Estúdio de IA do Azure e da API REST.

O OpenAI do Azure nos seus dados dá suporte à ingestão a partir do Busca com IA do Azure, Armazenamento de Blobs do Azure e carregamento de arquivos locais. Você pode saber mais sobre o OpenAI do Azure nos seus dados lendo o artigo conceitual e o início rápido.

Na utilização do OpenAI do Azure nos seus dados, você terá custos ao usar a Busca com IA do Azure, o Armazenamento de Blobs do Azure, o Serviço de Aplicativo Web do Azure, a pesquisa semântica e os modelos OpenAI. Não há nenhum custo adicional para usar o recurso "seus dados" no Estúdio de IA do Azure.

Você pode preparar o índice por conta própria usando um script fornecido no GitHub. O uso desse script criará um índice do Azure AI Search com todas as informações necessárias para usar melhor seus dados, com seus documentos divididos em partes gerenciáveis. Consulte o arquivo README com o código de preparação de dados para obter detalhes sobre como executá-lo.

Você pode agendar uma atualização de índice automática ou carregar mais dados no seu contêiner de blobs do Azure e usá-los como a fonte de dados ao criar um índice. O novo índice incluirá todos os dados no seu contêiner.

Confira Usando seus dados para mais informações sobre tipos de arquivo compatíveis.

Sim, o OpenAI do Azure em seus dados faz parte do Serviço OpenAI do Azure e funciona com os modelos disponíveis no OpenAI do Azure. Os recursos de filtragem de conteúdo e monitoramento de abuso do OpenAI do Azure ainda se aplicam. Para obter mais informações, consulte a visão geral das práticas de IA Responsável para modelos de OpenAI do Azure e a Nota de Transparência para o OpenAI do Azure para obter diretrizes adicionais sobre como usar o OpenAI do Azure nos seus dados com responsabilidade.

Sim, o limite de tokens na mensagem do sistema é 400. Se a mensagem do sistema for superior a 400 tokens, o restante dos tokens além dos primeiros 400 será ignorado. Essa limitação só se aplica ao Azure OpenAI em seu recurso de dados.

Atualmente, o OpenAI do Azure nos seus dados não dá suporte à chamada de função.

Você deve enviar consultas no mesmo idioma dos seus dados. Seus dados podem estar em qualquer um dos idiomas compatíveis com a Busca da IA do Azure.

Quando você seleciona "Busca da IA do Azure" como a fonte de dados, pode optar por aplicar a pesquisa semântica. Se você selecionar "Contêiner de Blobs do Azure" ou "Carregar arquivos" como fonte de dados, poderá criar o índice normalmente. Posteriormente, você re-inserção dos dados usando a opção "Azure AI Search" para selecionar o mesmo índice e aplicar a Pesquisa Semântica. Assim, você estará pronto para conversar sobre seus dados com a pesquisa semântica aplicada.

Ao selecionar "Contêiner de Blobs do Azure", "Busca da IA do Azure" ou "Carregar arquivos" como a fonte de dados, você também pode selecionar uma implantação de modelo de inserção do Ada a ser usada ao ingerir seus dados. Isso criará um índice do Busca da IA do Azure com inserções de vetor.

A criação de índice pode falhar ao adicionar inserções ao índice se o limite de taxa na implantação do modelo de inserção do Ada for muito baixo ou se você tiver um conjunto muito grande de documentos. Você pode usar esse script fornecido no GitHub para criar o índice com inserções manualmente.

O Compromisso de Direitos Autorais do Cliente é uma provisão a ser incluída em 1º de dezembro de 2023, Termos do Produto da Microsoft que descreve a obrigação da Microsoft de defender clientes contra determinadas declarações de propriedade intelectual de terceiros relacionadas ao Conteúdo de Saída. Se o assunto da declaração for o Conteúdo de Saída gerado pelo Serviço OpenAI do Azure (ou qualquer outro Produto Coberto que permita aos clientes configurar os sistemas de segurança), para receber cobertura, o cliente deverá ter implementado todas as mitigações exigidas pela documentação do Serviço OpenAI do Azure na oferta que entregou o Conteúdo de Saída. As mitigações necessárias são documentadas aqui e atualizadas continuamente. Para novos serviços, recursos, modelos ou casos de uso, novos requisitos de CCC serão postados e entrarão em vigor no ou após o lançamento desse serviço, recurso, modelo ou caso de uso. Caso contrário, os clientes terão seis meses a partir do momento da publicação para implementar novas mitigações para manter a cobertura no CCC. Se um cliente apresentar uma declaração, o cliente será obrigado a demonstrar a conformidade com os requisitos relevantes. Essas mitigações são necessárias para os Produtos Cobertos que permitem que os clientes configurem os sistemas de segurança, incluindo o Serviço OpenAI do Azure; elas não afetam a cobertura para clientes que usam outros Produtos Cobertos.

Próximas etapas

• Cotas e limites do OpenAI do Azure
• Novidades do OpenAI do Azure
• Guia de início rápido do OpenAI do Azure