OpenAI vektörleştiricisi Azure

Not

Azure Yapay Zeka Arama Azure portalı, REST API'leri ve Azure SDK’ları aracılığıyla kullanılabilir. Ayrıca kuruluş içeriğini Microsoft Foundry portalındaki aracılar için yeniden kullanılabilir, izin kullanan bilgi bankalarına dönüştüren yönetilen bilgi katmanı Foundry IQ'yu temel alır.

Azure OpenAI vektörleştiricisi, sorgu sırasında gömme değerleri oluşturmak için Azure OpenAI in Foundry Models kaynağınıza veya Microsoft Foundry projenize dağıtılan bir gömme modeline bağlanır. Verileriniz, modelinizin dağıtıldığı Coğrafi bölgede işlenir.

Vektörleştiriciler sorgu zamanında kullanılasa da, bunları dizin tanımlarında belirtir ve vektör alanlarında bir vektör profili aracılığıyla başvurursunuz. Daha fazla bilgi için bkz. Arama dizininde vektörleştirici yapılandırma.

Azure OpenAI vektörleştiricisi, REST API'de AzureOpenAIVectorizer olarak adlandırılır. Indexes - Create (REST API) veya özelliği sağlayan bir Azure SDK paketinin en son kararlı sürümünü kullanın.

Not

Bu vektörleştirici Azure OpenAI'ye bağlıdır ve Azure OpenAI Standart fiyat üzerinden ücretlendirilir.

Önkoşullar

  • Döküm Modellerinde Azure OpenAI kaynağı veya Foundry projesi.

    • Azure OpenAI kaynağınızın özel alt etki alanı olmalıdır, örneğin https://<resource-name>.openai.azure.com. Bu uç noktayı Azure portalındaki Keys ve Endpoint sayfasında bulabilir ve bu becerideki resourceUri özelliği için kullanabilirsiniz.

    • Foundry projenizin üst kaynağı, , https://<resource-name>.openai.azure.comve https://<resource-name>.services.ai.azure.comgibi https://<resource-name>.cognitiveservices.azure.combirden çok uç noktaya erişim sağlar. Bu uç noktaları Azure portalındaki Keys ve Endpoint sayfasında bulabilir ve bunlardan herhangi birini bu becerideki resourceUri özelliği için kullanabilirsiniz.

  • Kaynağınıza veya projenize dağıtılan bir Azure OpenAI ekleme modeli. Desteklenen modeller için sonraki bölüme bakın.

Vektörleştirici parametreleri

Parametreler büyük veya küçük harfe duyarlıdır.

Parametre adı Açıklama
resourceUri (Gerekli) Model sağlayıcısının URI'sini. Desteklenen etki alanları şunlardır:

  • openai.azure.com
  • services.ai.azure.com
  • cognitiveservices.azure.com

Azure API Management uç noktaları da, API Management özel etki alanları dışında, desteklenir. Kurulum için, kimlik doğrulama, RBAC ve isteğe bağlı özel bağlantı dahil, bkz. Azure OpenAI becerileri ve vektörleştiricileriyle Azure API Management kullanma.
apiKey Modele erişmek için kullanılan gizli anahtar. Anahtar sağlarsanız, authIdentity öğesini boş bırakın. Hem apiKey hem de authIdentity ayarlarsanız, apiKey bağlantı üzerinde kullanılır.
deploymentId (Gerekli) Dağıtılan Azure OpenAI ekleme modelinin kimliği. Bu, modeli dağıtırken belirttiğiniz dağıtım adıdır.
authIdentity Bağlantı için arama hizmeti tarafından kullanılan kullanıcı tarafından yönetilen kimlik. Sistem veya kullanıcı tarafından yönetilen bir kimlik kullanabilirsiniz. Sistem tarafından yönetilen bir kimlik kullanmak için apiKey ve authIdentity alanlarını boş bırakın. Sistem tarafından yönetilen kimlik otomatik olarak kullanılır. Yönetilen kimliğin Azure OpenAI'ye metin göndermek için Cognitive Services OpenAI Kullanıcısı izinleri olmalıdır.
modelName (Gerekli) Belirtilen deploymentId dağıtılan Azure OpenAI modelinin adı. Desteklenen değerler şunlardır:

  • text-embedding-ada-002
  • text-embedding-3-large
  • text-embedding-3-small

Desteklenen vektör sorgu türleri

Azure OpenAI vektörleştiricisi yalnızca text vektör sorgularını destekler.

Beklenen alan boyutları

Azure OpenAI vektörleştiricisi ile yapılandırılmış bir alanın beklenen alan boyutları, yapılandırılan modelName'a bağlıdır.

modelName Minimum boyutlar Maksimum boyutlar
metin ekleme-ada-002 1536 1536
metin ekleme-3-büyük 1 3072
metin ekleme-3-küçük 1 1536

Örnek tanım

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

En iyi yöntemler

Bu vektörleştiriciyi kullanırken göz önünde bulundurmanız gereken bazı en iyi yöntemler şunlardır:

  • Eğer Azure OpenAI TPM (Dakikada Token) sınırına ulaşıyorsanız, kota sınırları tavsiyesi dikkate alın ki buna göre çözüm bulabilesiniz. Azure OpenAI örnek performansınız hakkında daha fazla bilgi için Azure OpenAI izleme belgelerine bakın.

  • Bu vektörleyici için kullandığınız Azure OpenAI yerleştirme modeli dağıtımı, yerleştirme becerisi gibi diğer kullanım örnekleri için kullanılan dağıtımdan ideal olarak ayrı olmalıdır. Bu, her dağıtımın kendi kullanım senaryosuna göre uyarlanmasına yardımcı olur; performansın optimize edilmesine ve indeksleyici ile indeks gömü çağrılarından gelen trafiği kolayca tespit etmenize yol açar.

  • Azure OpenAI örneğiniz, AI Arama hizmetinizin barındırıldığı bölgeyle aynı bölgede veya en azından coğrafi olarak yakın bir yerde olmalıdır. Bu, gecikme süresini azaltır ve hizmetler arasındaki veri aktarımının hızını artırır.

  • Sık sık 429 hata koduyla karşılaşmamak için, birden çok Azure OpenAI ekleme modeli dağıtımının önünde [/azure/architecture/ai-ml/guide/azure-openai-gateway-multi-backend] ağ geçidi uygulayarak API Management aracılığıyla yük dengeleme uygulamayı göz önünde bulundurun.

  • kota ve sınırlar belgelerinde yayımlandığı şekliyle, varsayılan Azure OpenAI TPM (dakika başına belirteçler) sınırından daha büyükse, Azure Yapay Zeka Arama ekibiyle iletişim kurarak bir destek talebi açın, böylece bu uygun şekilde ayarlanabilir. Bu, daha yüksek sınırlarınız varsa dizin oluşturma işleminizin belgelenen varsayılan TPM sınırı tarafından gereksiz yere yavaşlamamasını sağlar.

Ayrıca bkz.

  • Last updated on