Introdução
Construir aplicações eficazes de IA generativa exige selecionar o modelo de base certo para o seu caso de uso específico. Com milhares de modelos disponíveis, precisa de uma abordagem estruturada para descobrir, comparar, implementar e validar que um modelo cumpre os seus requisitos.
Considere um cenário em que está a construir um chatbot de apoio ao cliente alimentado por IA para uma empresa de retalho. Deve escolher um modelo de linguagem que compreenda as perguntas dos clientes, forneça respostas precisas e mantenha o tom adequado e padrões de segurança. Mas como escolher entre o vasto catálogo de modelos disponíveis? Como saber se um modelo funciona bem para as suas necessidades específicas? E, uma vez implementado, como mede e melhora o seu desempenho?
O portal Microsoft Foundry oferece uma plataforma abrangente para todo este fluxo de trabalho. Pode explorar mais de 1.900 modelos de fornecedores como Microsoft, Anthropic, OpenAI, Meta e Hugging Face. Pode comparar modelos usando benchmarks padrão da indústria para qualidade, segurança, custo e desempenho. Depois de selecionar um modelo, implementa-o num endpoint onde a sua aplicação pode consumi-lo. Por fim, avalia o desempenho do modelo utilizando métricas automatizadas e testes manuais para garantir que cumpre os seus requisitos de qualidade e segurança.
Neste módulo, explora como usar o portal Microsoft Foundry para selecionar, implementar e avaliar modelos do catálogo de modelos. Aprende a tomar decisões informadas sobre a seleção do modelo, compreender diferentes opções de implementação e avaliar o desempenho do modelo usando várias abordagens de avaliação.
No final deste módulo, saberá como:
- Explorar e filtrar modelos no catálogo de modelos
- Compare modelos usando métricas de referência para qualidade, segurança, custo e desempenho
- Implemente um modelo num endpoint e teste-o no playground
- Avaliar o desempenho do modelo usando abordagens manuais e automatizadas
- Compreenda diferentes métricas de avaliação e quando as deve usar