Recursos e Serviço OpenAI do Azure no Microsoft Azure Governamental
Esse artigo destaca as diferenças ao usar o Azure OpenAI no Microsoft Azure Governamental em comparação com a oferta de nuvem comercial. Saiba mais sobre o próprio Azure OpenAI Service na documentação do Serviço OpenAI do Azure.
Modelos do OpenAI do Azure
Saiba mais sobre os diferentes recursos de cada modelo em Modelos do Serviço OpenAI do Azure. Para clientes com considerações de BCDR (Continuidade dos Negócios e Recuperação de Desastres), anote cuidadosamente os tipos de implantação, as regiões e a disponibilidade do modelo abaixo, pois nem todas as combinações de modelo/tipo estão disponíveis em ambas as regiões.
As seções a seguir mostram a disponibilidade do modelo por região e tipo de implantação.
Disponibilidade do modelo de implantação padrão
Região | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 | gpt-4, 1106-Preview | gpt-4o, 2024-05-13 | text-embedding-ada-002 |
---|---|---|---|---|---|
usgovarizona | - | ✅ | ✅ | ✅ | ✅ |
usgovvirginia | ✅ | ✅ | ✅ | - | ✅ |
Para solicitar aumento de cota para o modelo de consumo por parcelamento, faça o requerimento em https://aka.ms/AOAIGovQuota
Disponibilidade do modelo de implantação provisionada
Região | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 | gpt-4, 1106-Preview | gpt-4o, 2024-05-13 |
---|---|---|---|---|
usgovarizona | - | ✅ | - | ✅ |
usgovvirginia | - | ✅ | ✅ | ✅ |
Observação
As Unidades de Taxa de Transferência Provisionadas (PTUs) são diferentes da cota padrão no Azure OpenAI e não estão disponíveis por padrão no Microsoft Azure Governamental. Para saber mais sobre essa oferta, entre em contato com a Equipe de Conta da Microsoft.
Recursos do Azure OpenAI
Recurso | Descrição |
---|---|
Conectar os dados | Disponível em USGovVirginia e USGovArizona. Rede virtual e links privados são suportados. A implantação em um aplicativo web ou em um copiloto no Copilot Studio não é suportada. |
Identidade Gerenciada | Sim, via ID do Microsoft Entra |
Suporte à rede virtual e suporte ao link privado | Sim. |
Experiência de interface do usuário | portal do Azure para gerenciamento de contas e recursos Azure OpenAI Studio para exploração de modelos |
Monitoramento de Abuso | Nem todos os recursos do Abuse Monitoring estão habilitados para o Azure OpenAI no Microsoft Azure Governamental. Você é responsável por implementar medidas técnicas e operacionais razoáveis para detectar e mitigar qualquer uso do serviço que viole os Termos do Produto. A Classificação e Filtragem Automatizadas de Conteúdo permanece habilitada por padrão para o Microsoft Azure Governamental. Se forem necessários filtros de conteúdo modificados, aplique em https://aka.ms/AOAIGovModifyContentFilter |
Armazenamento de Dados | No Microsoft Azure Governamental, não há recursos do Azure OpenAI habilitados atualmente que armazenem dados inativos do cliente. No entanto, as Chaves Gerenciadas pelo Cliente (CMK) ainda podem ser habilitadas no Microsoft Azure Governamental para dar suporte ao uso das mesmas políticas no Azure Government e na nuvem pública. Observe também que, se os recursos do Azure OpenAI que armazenam dados do cliente forem habilitados no Microsoft Azure Governamental no futuro, qualquer implantação de CMK existente será aplicada a esses dados naquele momento. Saiba mais em Privacidade de dados do Azure OpenAI. |
Conformidade | Veja o status atual da conformidade do Azure OpenAI no Microsoft Azure Governamental em Escopo de auditoria dos serviços governamentais do Azure |
Pontos de Extremidade de Serviço | openai.azure.us |
Portais Chave |
|
Implantações provisionadas no Microsoft Azure Governamental
O guia a seguir explica como configurar uma implantação provisionada com seu recurso do Serviço OpenAI do Azure no Microsoft Azure Governamental.
Pré-requisitos
- Uma assinatura do Microsoft Azure Governamental
- Um recurso OpenAI do Azure
- Uma cota aprovada para uma implantação provisionada e um compromisso adquirido
Gerenciando compromissos de taxa de transferência provisionados
Para o Azure OpenAI no Microsoft Azure Governamental, as implantações de taxa de transferência provisionadas exigem compromissos pré-adquiridos, criados e gerenciados na exibição Gerenciar Compromissos no Azure OpenAI Studio. Você pode navegar até essa visualização selecionando Gerenciar Compromissos no painel Cota.
A partir da visualização Gerenciar Compromissos, você pode fazer várias coisas:
- Comprar novos compromissos ou editar compromissos existentes.
- Monitorar todos os compromissos em sua assinatura.
- Identificar e tomar ações sobre compromissos que podem causar cobrança inesperada.
Configuração | Observações |
---|---|
Selecionar um recurso | Escolha o recurso onde você cria a implantação provisionada. Depois de adquirir o compromisso, você não poderá usar a cota em outro recurso até que o compromisso atual expire. |
Selecione um tipo de compromisso | Selecione Provisionado. (Provisionado é equivalente a Gerenciado provisionado) |
Cota provisionada não confirmada atual | O número de PTUs atualmente disponíveis para você se comprometer com esse recurso. |
Quantidade a ser confirmada (PTU) | Escolha o número de PTUs que você está se confirmando. Esse número pode ser aumentado durante o termo de compromisso, mas não pode ser reduzido. Insira valores em incrementos de 50 para o tipo de compromisso Provisionado. |
Camada de compromisso para o período atual | O período de compromisso é definido como um mês. |
Configurações de renovação | Renovação automática em PTUs atuais Renovação automática em PTUs inferiores Não renovar automaticamente |
Importante
Um novo compromisso é cobrado antecipadamente por todo o período. Se as configurações de renovação estiverem definidas como renovação automática, você será cobrado novamente em cada data de renovação, com base nas configurações de renovação.
Importante
Ao adicionar as PTUs a um compromisso, elas serão cobradas imediatamente, em um valor proporcional da data atual até o final do termo de compromisso existente. Adicionar as PTUs não redefine o termo de compromisso.
Alterar as configurações de renovação
As configurações de renovação de compromisso podem ser alteradas a qualquer momento antes da data de validade do compromisso.
Importante
Caso permita que um compromisso expire ou diminua de tamanho de modo que as implantações no recurso exijam mais PTUs do que você tem em seu compromisso de recurso, você receberá encargos excedentes por hora para quaisquer PTUs em excesso. Por exemplo, um recurso que tem implantações que totalizam 500 PTUs e um compromisso para 300 PTUs gerará encargos excedentes por hora para 200 PTUs.
Cenários comuns de gerenciamento de compromissos
Descontinuar o uso da taxa de transferência provisionada
Para encerrar o uso da taxa de transferência provisionado e evitar cobranças por excedente por hora após o término do compromisso, duas etapas devem ser seguidas:
- Defina a política de renovação em todos os compromissos como Não renovar automaticamente.
- Exclua as implantações provisionadas usando a cota.
Mover um compromisso/implantação para um novo recurso na mesma assinatura/região
Não é possível no Estúdio do OpenAI do Azure mover diretamente uma implantação ou um compromisso para um novo recurso. Em vez disso, é necessário criar uma nova implantação no recurso de destino e mover o tráfego para ele. Esse processo requer uma nova compra de compromisso no novo recurso. Como os compromissos são cobrados antecipadamente por um período de 30 dias, é necessário cronometrar essa ação com a validade do compromisso original para minimizar o tempo de sobreposição com o novo compromisso e a "cobrança dupla" durante a sobreposição.
Há duas abordagens que podem ser tomadas para implementar essa transição.
Opção 1: substituição sem sobreposição
Essa opção exige algum tempo de inatividade, mas não necessita de cota extra e nem gera custos extras.
Etapas | Observações |
---|---|
Definir a política de renovação no compromisso existente para expirar | Essa ação impede que o compromisso seja renovado e gere novos encargos |
Antes da expiração do compromisso existente, exclua sua implantação | O tempo de inatividade começa nesse ponto e durará até que a nova implantação seja criada e o tráfego seja movido. Você pode minimizar a duração programando a exclusão para que ela ocorra o mais próximo possível da data/hora de expiração. |
Após o compromisso existente expirar, crie o compromisso no novo recurso | Minimize o tempo de inatividade executando essa etapa e a próxima o mais rápido possível após a expiração. |
Criar a implantação no novo recurso e mover o tráfego para ele |
Opção 2: substituição com sobreposição
Essa opção não tem tempo de inatividade por ter implantações existentes e novas ativas ao mesmo tempo. Esse método também exige cota disponível para criar a nova implantação e gera custos extras durante as implantações sobrepostas.
Etapas | Observações |
---|---|
Definir a política de renovação no compromisso existente para expirar | Fazer isso impede que o compromisso seja renovado e gere mais cobranças. |
Antes da expiração do compromisso existente: 1. Crie o compromisso no novo recurso. 2. Crie a nova implantação. 3. Alterne o tráfego 4. Exclua a implantação existente |
Verifique se deixou tempo suficiente para todas as etapas antes do compromisso existente expirar, caso contrário, cobranças excedentes serão geradas (consulte a próxima seção) para obter opções. |