Perguntas frequentes sobre a utilização dos Serviços de IA do Azure para startups.
Como Começar
Qual é a melhor forma de começar a usar o Azure OpenAI Service para a minha startup?
Vê o curso Generative AI para iniciantes no GitHub. É um conjunto de instruções de 18 lições que introduz todas as principais funcionalidades do Azure OpenAI e mostra como construir aplicações com elas.
Como posso testar rapidamente as capacidades de IA do Azure com uma abordagem low/no-code?
Use o portal Azure AI Foundry para testar várias capacidades de IA, incluindo implementação de modelos Azure OpenAI e aplicando serviços de moderação de conteúdos.
Disponibilidade regional e residência de dados
Em que regiões do Azure está disponível o serviço OpenAI?
Diferentes modelos Azure OpenAI estão restritos a diferentes regiões. Consulte a tabela de disponibilidade do modelo para obter uma lista completa.
Como é que a seleção de regiões afeta a latência e o desempenho dos serviços OpenAI do Azure?
O impacto é mínimo, a menos que você esteja usando o recurso de streaming. A latência da própria resposta do modelo tem um efeito muito maior na latência do que as diferenças de região.
A escolha de usar um servidor dedicado Azure OpenAI em vez de um plano pay-as-you-go também tem um impacto maior no desempenho.
Limites de taxa e gestão de recursos
Como posso garantir que a minha aplicação consegue escalar a sua quota Azure OpenAI?
Consulte Gerencie Azure OpenAI Service quota para perceber como funcionam os limites das quotas e como os gerir.
Quais são os limites de taxa para o Azure OpenAI Service e como posso geri-los?
Para clientes que utilizam o modelo pay-as-you-go (o mais comum), consulte a página Gerenciar Azure OpenAI Service quota. Para clientes que utilizam um servidor dedicado da Azure OpenAI, consulte a secção quota do guia relacionado.
Como é que lido com as restrições de tokens por minuto no Azure OpenAI Service?
Considere combinando múltiplas implementações Azure OpenAI numa arquitetura avançada para construir um sistema que entregue mais tokens por minuto a mais utilizadores.
Quando devo usar um servidor Azure OpenAI (PTU) dedicado em vez do modelo pay-as-you-go?
Você deve considerar mudar de pagamento conforme o uso para taxa de transferência provisionada quando tiver requisitos de taxa de transferência bem definidos e previsíveis. Normalmente, esse é o caso quando o aplicativo está pronto para produção ou já foi implantado em produção e há um entendimento do tráfego esperado. Isso permite que os usuários prevejam com precisão a capacidade necessária e evitem cobranças inesperadas.
Balanceamento de carga e dimensionamento
Como posso gerir um elevado tráfego e garantir que a minha aplicação Azure OpenAI se mantém responsiva?
Crie um balanceador de carga para seu aplicativo.
Consulte o exemplo de balanceamento de carga se estiver a usar o modelo de pagamento por uso. Se estiveres a usar um servidor dedicado Azure OpenAI, consulta o guia PTU para informações sobre balanceamento de carga.
Desenvolvimento e testes
Como posso configurar um ambiente de desenvolvimento para testar aplicações Azure OpenAI?
Crie uma implementação online utilizando "prompt flow" no portal Azure AI Foundry. Em seguida, teste-o inserindo valores no editor de formulários ou no editor JSON.
Monitoramento e métricas
Como posso acompanhar e avaliar as métricas de uso do meu aplicativo de IA?
Consulte o Guia de métricas de avaliação e monitoramento para obter informações sobre o rastreamento de métricas de risco e segurança, bem como várias métricas de qualidade de resposta.
Que ferramentas posso usar para monitorizar o desempenho dos meus endpoints Azure OpenAI?
Usa a funcionalidade monitorização do Azure OpenAI Studio. Ele fornece painéis que acompanham as métricas de desempenho de seus modelos ao longo do tempo.
Implementação da produção e melhores práticas
Quais são algumas das melhores práticas para implementar aplicações de IA de produção no Azure?
Consulte a arquitetura de referência de chat Baseline do Microsoft Foundry para as melhores práticas na implementação de uma aplicação de chat.
Pode fornecer exemplos ou estudos de caso de implementações bem-sucedidas do Azure OpenAI Service?
Consulte o fórum da comunidade tecnológica Artificial Intelligence and Machine Learning.
Conteúdo relacionado
Para saber mais, consulte Microsoft for Startups.