Unity Kataloğu'nda model hizmetleri

Important

Bu özellik Beta sürümündedir. Hesap yöneticileri bu özelliğe erişimi hesap konsolu Önizlemeler sayfasından denetleyebilir. Bkz. Azure Databricks önizlemelerini yönetme.

Note

Unity AI Gateway, Azure Kamu'da desteklenmez.

Model hizmeti, yönetilen bir LLM uç noktasını temsil eden bir Unity Kataloğu güvenliği sağlanabilir nesnesidir. Model hizmetleri, verilerinizin yanı sıra ve çalışma alanı sınırları boyunca LLM'lere erişimi Unity Kataloğu'nda merkezi olarak tanımlamanıza, paylaşmanıza ve yönetmenize olanak tanır.

Beta sırasında model hizmetleri aşağıdakileri destekler:

  • Databricks tarafından barındırılan kullandıkça ödemeli temel modeller, system.ai içinde sistem tarafından sağlanan hizmetler olarak ve sizin oluşturduğunuz hizmetler olarak.
  • Unity AI Gateway kullanıcı arabirimi, Katalog Gezgini ve Unity Kataloğu REST API'siyle model hizmetleri oluşturma ve yönetme.
  • Çalışma alanları arasında, Azure Databricks içinden ve dışından model hizmetlerini sorgulama.

Model hizmeti nedir?

Bir model hizmeti, bir Unity Catalog şemasında yer alır ve hedef olarak bir veya daha fazla sunulan modeli referans alır; bunlar arasında yönlendirme ve yedek devreye alma yapılabilir. Arayanlar model hizmetini tam adıyla çağırır ve Unity AI Gateway her isteği bir hedef modele yönlendirir.

Bir model hizmeti, Unity Catalog tarafından güvence altına alınabilen bir nesne olduğundan şunları yapabilir:

  • Çalışma alanı bağlamaları gibi şema ayarlarını devraldığı bir katalog ve şemada bulunur.
  • Ad, sahip, açıklama ve etiketler gibi standart Unity Kataloğu meta verilerini taşır.
  • Unity Catalog yetkilerine tabidir; bu nedenle erişim iznini, tablolar, işlevler ve modeller için kullandığınız aynı GRANT ve REVOKE ifadelerini kullanarak verirsiniz.
  • Unity Kataloğu varlıklarınızın geri kalanıyla birlikte Katalog Gezgini'nde bulunabilir.

Aynı model hizmeti unity AI Gateway kullanıcı arabiriminde de bir uç nokta olarak görünür ve burada yapay zeka ekipleri hız sınırları, çıkarım tabloları ve korkuluklar gibi özellikleri yapılandırabilir. Bu özellikler hakkında daha fazla bilgi için bkz. Unity AI Gateway ile yapay zeka idaresi.

Unity Kataloğu'nda LLM'ler neden yönetilsin?

Çalışma alanında oluşturulan Unity AI Gateway uç noktalarının kapsamı bu çalışma alanıyla belirlenir. Bir uç noktayı çalışma alanları arasında paylaşmak için her çalışma alanında çoğaltmanız ve her kopyayı ayrı ayrı yönetmeniz gerekir.

Model hizmetleri idareyi Unity Kataloğuna taşıdığından şunları yapabilirsiniz:

  • LlM uç noktasını bir kez tanımlayın ve aynı meta veri deposuna bağlı herhangi bir çalışma alanından kullanın.
  • Çalışma alanı başına izinler yerine Unity Kataloğu ayrıcalıklarını kullanarak erişimi merkezi olarak idare edin.
  • Çalışma alanlarında kullanabileceğiniz modelleri tek bir konumdan keşfedin.
  • Unity Kataloğu sistem tablolarında model hizmetlerinin kullanımını ve maliyetini izleyin.

Sistem tarafından sağlanan model hizmetleri

Azure Databricks, system.ai gibi Databricks tarafından barındırılan her temel model için system.ai.databricks-claude-opus-4-6 şemasında kullanıma hazır bir model hizmeti sağlar. Azure Databricks, yeni temel modeller kullanıma sunuldukçe yeni sistem modeli hizmetleri ekler.

Sistem tarafından sağlanan model hizmetleri aşağıdaki özelliklere sahiptir:

  • Varsayılan olarak, tüm hesap kullanıcılarının ayrıcalığı EXECUTE vardır, bu nedenle bunları ek kurulum olmadan sorgulayabilirsiniz.
  • Bunların sahibi bir sistem kullanıcısıdır ve bunları silemezsiniz.
  • Varsayılan olarak, bunları yalnızca meta veri deposu yöneticileri değiştirebilir. Meta veri deposu yöneticisi, MANAGE ayrıcalığını vererek yönetimi devredebilir.

Sistem tarafından sağlanan model hizmetlerine erişimi kısıtlamak için bkz. model hizmetlerini idare etme.

Privileges

Model hizmetleri standart Unity Kataloğu ayrıcalık modelini kullanır. Aşağıdaki ayrıcalıklar geçerlidir:

Privilege Description
USE CATALOG, USE SCHEMA Model hizmetini içeren kataloğa ve şemaya erişin. Tüm işlemler için gereklidir.
CREATE SERVICE Bir şemada model hizmetleri oluşturun. Katalogda veya şemada verilir.
EXECUTE Bir model hizmetini sorgulayın.
MANAGE Model hizmetini değiştirin veya silin ve bu hizmetin onaylarını yönetin. Sahibi, MANAGE'nin bir üst kümesine sahiptir.

Bir kullanıcı bir model hizmetini sorguladığında, Azure Databricks sahibin başvurulan modeller üzerinde EXECUTE iznine sahip olup olmadığını denetler (tanımlayanın hakları). Çağıranın temel alınan modellere doğrudan erişmesi gerekmez.

Limitations

Beta sırasında aşağıdaki özellikler kullanılamaz:

  • Sağlanan aktarım hızı modelleri ve dış model sağlayıcıları.
  • Terraform veya SQL ile model hizmetleri oluşturma ve yönetme.
  • Yalnızca BROWSE ayrıcalığıyla model hizmetlerini keşfetme.
  • Model hizmetleri için soy bilgisi ve genel arama.

Sonraki Adımlar

  • Last updated on