Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
ai_query, desteklenen yapay zeka modellerini doğrudan SQL'den veya Python sorgulamanızı sağlayan genel amaçlı bir AI İşlevidir. Amaca özel olarak oluşturulmuş ve tek bir görev için iyileştirilmiş olan göreve özgü Yapay Zeka İşlevlerinden farklı olarak model ai_query , istem ve parametreler üzerinde tam denetim sağlar.
Tam söz dizimi ve parametre başvurusu için bkz: işlev ai_query.
Gereksinimler
- Bu fonksiyon Classic SQL depolarında mevcut değildir.
- Databricks Runtime 15.4 LTS veya üzeri gereklidir. Databricks Runtime 18.2 veya üzeri en iyi performans ve en son özelliklere erişim için önerilir.
Ne zaman kullanılır? ai_query
Databricks, hedefinizle eşleştiğinde göreve özgü yapay zeka işleviyle başlamanızı önerir. Göreve özgü bir işlev gereksinimlerinizi karşılamadığında kullanın ai_query . Örneğin, şunları yapmanız gerektiğinde:
- İstemi, model parametrelerini veya çıkış biçimini daha hassas bir şekilde denetleme
- Özel bir modeli, ince ayarlı bir modeli veya dış bir modeli sorgula
- Aktarım hızı veya kalite için daha fazla iyileştirme yapmak için esneklik gerekiyor
En iyi uygulamalar
- Databricks tarafından barındırılan modelleri kullanın. Sağlanmış veri verimli uç noktalar yerine model hizmetleri kullanın
system.ai. Bu model hizmetler tamamen yönetilir ve sağlanma veya yapılandırma olmadan otomatik olarak ölçeklenir. - Toplu çıkarım için iyileştirilmiş bir model seçin. Databricks, yüksek aktarım hızı toplu iş yükleri için belirli modelleri iyileştirir. İyileştirilmiş olmayan bir model kullanmak aktarım hızının azalmasına ve işin tamamlanma sürelerinin daha uzun olmasına neden olabilir. Toplu iş için iyileştirilmiş modellerin tam listesi için Desteklenen modeller sayfasına bakın.
- Tam veri kümenizi tek bir sorguda gönderin. Yapay Zeka İşlevleri paralelleştirmeyi, yeniden denemeleri ve ölçeklendirmeyi otomatik olarak işler. Verileri el ile küçük gruplara bölmek aktarım hızını azaltabilir.
- Büyük iş yükleri için
failOnErrorayarınıfalseolarak yapın. Bu, işin başarısız satırlar için hata iletilerini tamamlayıp döndürmesine olanak tanır, böylece veri kümesinin tamamını yeniden işlemeden başarılı sonuçları korursunuz.
Unity Gateway yönetimi
ai_query Model hizmetlerine system.ai yönelik talepler (örneğin, system.ai.gpt-5-4) otomatik olarak Unity Gateway üzerinden yönlendirilir. Unity Gateway'de oluşturduğunuz model hizmetleri henüz desteklenmiyor. Yönlendirilen istekler için yalnızca Unity Gateway özelliklerinin bir alt kümesi geçerlidir:
- Desteklenen: kullanım takibi, bütçe entegrasyonu (sabit harcama sınırları dahil) ve model hizmetinde izin kontrolleri.
- Desteklenmeyenler: koruma korkulukları (hizmet politikaları), çıkarım tabloları, takip tabloları, oran sınırları, yedek önlemler ve harici model sağlayıcılar.
Ayrıntılar için ai_query ile uç noktaları sorgulama bölümüne bakın.
Desteklenen modeller
ai_query Databricks tarafından barındırılan modelleri, sağlanan aktarım hızı modellerini, özel modelleri ve dış modelleri destekler.
Aşağıdaki tabloda desteklenen model türleri, ilişkili modeller ve her biri için uç nokta yapılandırma gereksinimlerini sunan model özetlenmektedir.
| Türü | Açıklama | Desteklenen modeller | Gereksinimler |
|---|---|---|---|
| Databricks tarafından barındırılan modeller | Azure Databricks bu temel modelleri barındırır ve ai_query kullanarak sorgulayabileceğiniz system.ai model hizmetleri sunar. Her bir Model Serving özelliği için hangi modellerin desteklendiğini ve bunların hangi bölgelerde kullanılabildiğini görmek için Model Serving'de desteklenen temel modellere bakın. |
Model Sunma'da desteklenen temel modellerin tam listesi için bkz. Model Sunma'da desteklenen temel modeller. Bu modeller toplu çıkarım ve üretim iş akışlarını kullanmaya başlamak için desteklenir ve iyileştirilmiştir:
OpenAI ve Google Gemini modelleri yalnızca Databricks tarafından sağlanan ADI Hizmetleri aracılığıyla kullanılabilir. bu modellere Azure Databricks ortamınızda erişmek için bkz. ADI Services. Azure Databricks barındırılan diğer modeller AI İşlevleri ile kullanılabilir, ancak büyük ölçekte toplu çıkarım üretim iş akışları için önerilmez. Bu diğer modeller, belirteç başına ödeme Foundation Model API'leri kullanılarak gerçek zamanlı çıkarım için kullanılabilir hale getiriliyor. |
Bu işlevselliği kullanmak için Databricks Runtime 15.4 LTS veya üzeri gereklidir. Uç nokta sağlama veya yapılandırma gerektirmez. Bu modelleri kullanımınız Geçerli model koşullarına ve AI İşlevleri bölge kullanılabilirliğine tabidir. |
| Sağlanan aktarım hızı modelleri | Yapay Zeka İşlevleri, Model Sunma'da dağıtılan ayrılmış aktarım hızı modelleriyle çalışır. |
|
|
| Özel modeller ve dış modeller | Kendi özel veya dış modellerinizi getirebilir ve yapay zeka işlevlerini kullanarak bunları sorgulayabilirsiniz. Yapay Zeka İşlevleri, gerçek zamanlı çıkarım veya toplu çıkarım senaryoları için modelleri sorgulayabileceğiniz esneklik sunar. |
|
|
Temel modelleri ai_query ile kullanın
Aşağıdaki örnekte, Azure Databricks tarafından barındırılan bir temel modelle ai_query nasıl kullanılacağı gösterilmektedir.
- Sözdizimi ayrıntıları ve parametreler için fonksiyona bakın
ai_query. - Çok modüllü giriş sorgusu örnekleri için bkz. Çok modüllü girişler.
- Aşağıdakiler gibi gelişmiş kullanım örnekleri için parametreleri yapılandırma yönergeleri için gelişmiş senaryo örneklerine bakın:
-
Hataları
failOnErrorkullanarak işleyin - Sorgu yanıtlarınız için yapılandırılmış çıkışı nasıl belirteceğinize dair Azure Databricks üzerindeki yapılandırılmış çıkışlar.
-
Hataları
SQL
SELECT text, ai_query(
"system.ai.gpt-oss-120b",
"Summarize the given text comprehensively, covering key points and main ideas concisely while retaining relevant details and examples. Ensure clarity and accuracy without unnecessary repetition or omissions: " || text
) AS summary
FROM uc_catalog.schema.table;
Python
df_out = df.selectExpr(
"ai_query('system.ai.gpt-oss-120b', CONCAT('Please provide a summary of the following text: ', text), modelParameters => named_struct('max_tokens', 100, 'temperature', 0.7)) as summary"
)
df_out.write.mode("overwrite").saveAsTable('output_table')
Örnek not defteri: Toplu çıkarım ve yapılandırılmış veri ayıklama
Aşağıdaki örnek not defteri, ham, yapılandırılmamış verileri otomatik ayıklama teknikleri aracılığıyla düzenli ve kullanılabilir bilgilere dönüştürmek için kullanarak ai_query kullanarak temel yapılandırılmış veri ayıklama işleminin nasıl gerçekleştirilmesini gösterir. Bu not defteri ayrıca, temel doğruluk verilerini kullanarak doğruluğu değerlendirmek için Aracı Değerlendirmesi'nin nasıl kullandırılaını da gösterir.
Toplu çıkarım ve yapılandırılmış veri ayıklama not defteri
Geleneksel ML modelleriyle kullanın ai_query
ai_query, tamamen özel olanlar dahil olmak üzere geleneksel ML modellerini destekler. Bu modellerin Model Sunma uç noktalarına dağıtılması gerekir. Söz dizimi ayrıntıları ve parametreleri için bkz ai_query . işlev.
SELECT text, ai_query(
endpoint => "spam-classification",
request => named_struct(
"timestamp", timestamp,
"sender", from_number,
"text", text),
returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages
LIMIT 10
Örnek not defteri: Adlandırılmış varlık tanıma için BERT kullanan toplu çıkarım
Aşağıdaki not defterinde BERT kullanan geleneksel ml modeli toplu çıkarım örneği gösterilmektedir.