Acessar os modelos generativos de IA e LLM do Catálogo do Unity

Importante

Esse recurso está em uma versão prévia.

O Azure Databricks inclui uma seleção de modelos de IA gerativa e LLM foundation de alta qualidade no Catálogo do Unity. Este artigo descreve como você pode usar esses modelos e incorporá-los em seus fluxos de trabalho de inferência. Esses modelos permitem que você acesse recursos de IA de última geração, economizando tempo e despesas para criar seus próprios modelos personalizados.

Para obter informações sobre como usar seus próprios modelos personalizados com o Catálogo do Unity, consulte Gerenciar o ciclo de vida do modelo no Catálogo do Unity.

Localizar modelos de base no Catálogo do Unity

Em regiões habilitadas para o Mosaic AI Model Serving, o Azure Databricks instalou previamente uma seleção de modelos de base de última geração. Esses modelos têm licenças permissivas e foram otimizados para serviço com APIs de modelo de base com taxa de transferência provisionada. Consulte as licenças e os termos do desenvolvedor do modelo aplicável.

O Databricks recomenda usar as versões base desses modelos para tarefas de ajuste fino e usar as versões de instrução para implantação e modelagem.

Esses modelos estão disponíveis diretamente no Explorador do Catálogo, no catálogo system no esquema ai (system.ai).

Você pode disponibilizar esses modelos com um único clique e, em seguida, incorporar os endpoints de serviço do modelo diretamente em seus fluxos de trabalho de inferência em lote. Para servir um modelo, clique no nome do modelo no Catálogo para abrir a página do modelo e clique em Servir esse modelo. Para obter mais informações sobre o Model Serving, consulte Implantar modelos usando o Mosaic AI Model Serving. Para obter uma lista de regiões compatíveis com o Serviço de Modelo, consulte Disponibilidade de região.

Os modelos no system.ai estão disponíveis para todos os usuários da conta por padrão. Os administradores do metastore do Catálogo do Unity podem limitar o acesso a esses modelos. Confira Privilégios e objetos protegíveis do Catálogo do Unity.