API kullanarak uç noktaları sunan modelde çıkarım tablolarını etkinleştirme

Important

Bu belge kullanımdan kaldırılmıştır ve güncelleştirilmeyebilir. Bu içerikte belirtilen ürünler, hizmetler veya teknolojiler artık desteklenmemektedir.

Databricks, özel model, temel model ve temsilci sunum uç noktalarında kullanılabilirliği için AI Gateway özellikli çıkarım tablolarını önerir. AI Gateway özellikli çıkarım tablolarına geçiş yönergeleri için bkz. AI Gateway çıkarım tablolarına geçiş.

Bu makalede, uç noktasunan bir modeli için çıkarım tablolarını etkinleştirmek üzere Databricks API'sinin nasıl kullanılacağı açıklanmaktadır. Databricks kullanıcı arabirimini kullanarak bunların nasıl etkinleştirileceği de dahil olmak üzere çıkarım tablolarını kullanma hakkında genel bilgi için bkz.izleme ve hata ayıklama modelleri için çıkarım tablolarını .

Yeni bir uç nokta oluşturduğunuzda veya mevcut bir uç noktada çıkarım tablolarını etkinleştirebilirsiniz. Databricks, uç noktayı oluşturan kullanıcı çalışma alanından kaldırılırsa çıkarım tablosunun etkilenmemesi için uç noktayı bir hizmet sorumlusuyla oluşturmanızı önerir.

Çıkarım tablolarının sahibi, uç noktayı oluşturan kullanıcıdır. Tablodaki tüm erişim denetim listeleri (ACL' ler) standart Unity Kataloğu izinlerini izler ve tablo sahibi tarafından değiştirilebilir.

Gereksinimler

  • Çalışma alanınızda Unity Kataloğu etkinleştirilmiş olmalıdır.
  • Hem uç nokta oluşturucusunun hem de değiştiricinin uç nokta üzerinde Yönetebilir izni olmalıdır. Bkz. Erişim denetim listeleri.
  • Hem uç noktanın oluşturucusu hem de değiştirici, Unity Kataloğu'nda aşağıdaki izinlerine sahip olmalıdır:
    • Belirtilen katalogda USE CATALOG izinlerini ayarlayın.
    • Belirtilen şemadaki USE SCHEMA izinleri.
    • Şemadaki CREATE TABLE izinleri.

API kullanarak uç nokta oluşturma sırasında çıkarım tablolarını etkinleştirme

API kullanarak uç nokta oluşturma sırasında uç nokta için çıkarım tablolarını etkinleştirebilirsiniz. Uç nokta oluşturma yönergeleri için bkz. Uç noktaları sunan özel model oluşturma.

API'de, istek gövdesinin şunları belirtmesi için auto_capture_config içermesi gerekir.

  • Unity Kataloğu: tabloyu depolamak için kullanılan kataloğu temsil eden string
  • Unity Kataloğu şeması: tabloyu depolamak için şemayı temsil eden dize
  • (isteğe bağlı) tablo ön eki: çıkarım tablosu adı için ön ek olarak kullanılan dize. Bu belirtilmezse uç nokta adı kullanılır.
  • (isteğe bağlı) etkin: Çıkarım tablolarını etkinleştirmek veya devre dışı bırakmak için kullanılan boole değeri. Varsayılan olarak bu doğrudur.

Katalog, şema ve isteğe bağlı olarak tablo ön eki belirtildikten sonra, <catalog>.<schema>.<table_prefix>_payload'de bir tablo oluşturulur. Bu tablo otomatik olarak bir Unity Kataloğu yönetilen tablosu oluşturur. Tablonun sahibi, uç noktayı oluşturan kullanıcıdır.

Note

Çıkarım tablosu her zaman uç nokta oluşturma veya uç nokta güncelleştirmelerinde otomatik olarak oluşturulduğundan mevcut bir tablo belirtilmesi desteklenmez.

Warning

Aşağıdakilerden birini yaparsanız çıkarım tablosu bozulabilir:

  • Tablo şemasını değiştirin.
  • Tablo adını değiştirin.
  • Tabloyu silin.
  • Unity Kataloğu kataloğuna veya şemasına yönelik izinleri kaybedersiniz.

Bu durumda uç nokta durumundaki auto_capture_config, yük tablosu için FAILED durumunu gösterdiğini belirtir. Böyle bir durumda çıkarım tablolarını kullanmaya devam etmek için yeni bir uç nokta oluşturmanız gerekir.

Aşağıdaki örnekte, uç nokta oluşturma sırasında çıkarım tablolarının nasıl etkinleştirileceği gösterilmektedir.

POST /api/2.0/serving-endpoints

{
  "name": "feed-ads",
  "config":
  {
    "served_entities": [
      {
       "entity_name": "ads1",
       "entity_version": "1",
       "workload_size": "Small",
       "scale_to_zero_enabled": true
      }
    ],
    "auto_capture_config":
    {
       "catalog_name": "ml",
       "schema_name": "ads",
       "table_name_prefix": "feed-ads-prod"
    }
  }
}

Yanıt şöyle görünür:

{
  "name": "feed-ads",
  "creator": "customer@example.com",
  "creation_timestamp": 1666829055000,
  "last_updated_timestamp": 1666829055000,
  "state": {
    "ready": "NOT_READY",
    "config_update": "IN_PROGRESS"
  },
  "pending_config": {
    "start_time": 1666718879000,
    "served_entities": [
      {
        "name": "ads1-1",
        "entity_name": "ads1",
        "entity_version": "1",
        "workload_size": "Small",
        "scale_to_zero_enabled": true,
        "state": {
          "deployment": "DEPLOYMENT_CREATING",
          "deployment_state_message": "Creating"
        },
        "creator": "customer@example.com",
        "creation_timestamp": 1666829055000
      }
    ],
    "config_version": 1,
    "traffic_config": {
      "routes": [
        {
          "served_model_name": "ads1-1",
          "traffic_percentage": 100
        }
      ]
    },
    "auto_capture_config": {
      "catalog_name": "ml",
      "schema_name": "ads",
      "table_name_prefix": "feed-ads-prod",
      "state": {
        "payload_table": {
          "name": "feed-ads-prod_payload"
        }
      },
      "enabled": true
    }
  },
  "id": "xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx",
  "permission_level": "CAN_MANAGE"
}

Çıkarım tablolarına kayıt alma etkinleştirildikten sonra, uç noktanız hazır olana kadar bekleyin. Sonra aramaya başlayabilirsiniz.

Çıkarım tablosu oluşturduktan sonra şema evrimi ve veri ekleme işlemlerinin sistem tarafından işlenmesi gerekir.

Aşağıdaki işlemler tablonun bütünlüğünü etkilemez:

  • tabloda OPTIMIZE, ANALYZE ve VACUUM çalıştırma.
  • Eski kullanılmayan veriler siliniyor.

belirtmezseniz auto_capture_config, varsayılan olarak önceki yapılandırma sürümündeki ayarlar yapılandırması yeniden kullanılır. Örneğin, çıkarım tabloları zaten etkinleştirildiyse, bir sonraki uç nokta güncelleştirmesinde aynı ayarlar kullanılır veya çıkarım tabloları devre dışı bırakıldıysa devre dışı bırakılmaya devam eder.

{
  "served_entities": [
    {
      "name": "current",
      "entity_name": "model-A",
      "entity_version": "1",
      "workload_size": "Small",
      "scale_to_zero_enabled": true
    }
  ],
  "auto_capture_config": {
    "enabled": false
  }
}

API kullanarak var olan bir uç noktada çıkarım tablolarını etkinleştirme

Ayrıca, API'yi kullanarak var olan bir uç noktada çıkarım tablolarını etkinleştirebilirsiniz. Çıkarım tabloları etkinleştirildikten sonra çıkarım tablolarını kullanmaya devam etmek için gelecekteki güncelleştirme uç noktası API çağrılarında aynı auto_capture_config gövdesini belirtmeye devam edin.

Note

Çıkarım tabloları etkinleştirildikten sonra tablo konumunun değiştirilmesi desteklenmez.

PUT /api/2.0/serving-endpoints/{name}/config

{
  "served_entities": [
    {
      "name":"current",
      "entity_name":"model-A",
      "entity_version":"1",
      "workload_size":"Small",
      "scale_to_zero_enabled":true
    },
    {
      "name":"challenger",
      "entity_name":"model-B",
      "entity_version":"1",
      "workload_size":"Small",
      "scale_to_zero_enabled":true
    }
  ],
  "traffic_config":{
    "routes": [
      {
        "served_model_name":"current",
        "traffic_percentage":"50"
      },
      {
        "served_model_name":"challenger",
        "traffic_percentage":"50"
      }
    ]
  },
  "auto_capture_config":{
   "catalog_name": "catalog",
   "schema_name": "schema",
   "table_name_prefix": "my-endpoint"
  }
}

Çıkarım tablolarını devre dışı bırakma

Çıkarım tablolarını devre dışı bırakırken katalog, şema veya tablo ön eki belirtmeniz gerekmez. Gereken tek alan' dır enabled: false.

POST /api/2.0/serving-endpoints

{
  "name": "feed-ads",
  "config":{
    "served_entities": [
      {
       "entity_name": "ads1",
       "entity_version": "1",
       "workload_size": "Small",
       "scale_to_zero_enabled": true
      }
    ],
    "auto_capture_config":{
       "enabled": false
    }
  }
}

Devre dışı bırakılmış bir çıkarım tablosunu yeniden etkinleştirmek için Var olan bir uç noktada çıkarım tablolarını etkinleştirme başlığındaki yönergeleri izleyin. Aynı tabloyu kullanabilir veya yeni bir tablo belirtebilirsiniz.

Sonraki Adımlar

Çıkarım tablolarını etkinleştirdikten sonra, veri profili oluşturma ile uç noktaya hizmet veren modelinizde sunulan modelleri izleyebilirsiniz. Ayrıntılar için bkz . İş akışı: Çıkarım tablolarını kullanarak model performansını izleme.

  • Last updated on