Menambahkan sumber daya eksperimen MLflow ke aplikasi Databricks

Tambahkan eksperimen MLflow sebagai sumber daya Databricks Apps untuk mengaktifkan pelacakan eksperimen pembelajaran mesin dalam aplikasi Anda. Eksperimen MLflow menyediakan cara terstruktur untuk mengatur dan mencatat eksekusi pelatihan, melacak parameter, metrik, dan artefak di seluruh siklus hidup pengembangan model.

Saat Anda menambahkan eksperimen MLflow sebagai sumber daya, aplikasi Anda dapat:

• Mencatat proses pelatihan dengan parameter dan metrik
• Mengambil data eksperimen dan membandingkan performa model
• Mengakses metadata eksperimen dan menjalankan riwayat
• Mengelola siklus hidup ML secara terprogram

Menambahkan sumber daya eksperimen MLflow

Sebelum Anda menambahkan eksperimen MLflow sebagai sumber daya, tinjau prasyarat sumber daya aplikasi.

1. Saat Anda membuat atau mengedit aplikasi, navigasikan ke langkah Konfigurasikan .
2. Di bagian Sumber daya aplikasi , klik + Tambahkan sumber daya.
3. Pilih eksperimen MLflow sebagai jenis sumber daya.
4. Pilih eksperimen MLflow dari daftar eksperimen yang tersedia di ruang kerja Anda.
5. Pilih tingkat izin yang sesuai untuk aplikasi Anda:
   • Dapat membaca: Memberikan izin aplikasi untuk melihat metadata eksperimen, eksekusi, parameter, dan metrik. Gunakan untuk aplikasi yang menampilkan hasil eksperimen.
   • Dapat mengedit: Memberikan izin aplikasi untuk mengubah pengaturan eksperimen dan metadata.
   • Dapat mengelola: Memberikan akses administratif penuh aplikasi ke eksperimen.
6. (Opsional) Tentukan kunci sumber daya kustom, yang merupakan cara Anda mereferensikan eksperimen dalam konfigurasi aplikasi Anda. Kunci defaultnya adalah experiment.

Saat Anda menambahkan sumber daya eksperimen MLflow:

• Azure Databricks memberikan service principal aplikasi Anda izin yang ditentukan pada eksperimen yang dipilih.
• Aplikasi ini dapat mencatat eksekusi pelatihan dan mengakses data eksperimen melalui MLflow Tracking API.
• Akses dibatasi hanya untuk eksperimen yang dipilih. Aplikasi Anda tidak dapat mengakses eksperimen lain kecuali Anda menambahkannya sebagai sumber daya terpisah.

Variabel lingkungan

Saat Anda menerapkan aplikasi dengan sumber daya eksperimen MLflow, Azure Databricks mengekspos ID eksperimen melalui variabel lingkungan yang dapat Anda referensikan dengan menggunakan bidang valueFrom dalam konfigurasi app.yaml Anda.

Konfigurasi contoh:

env:
  - name: MLFLOW_EXPERIMENT_ID
    valueFrom: experiment # Use your custom resource key if different

Menggunakan ID eksperimen di aplikasi Anda:

import os
import mlflow

# Access the experiment using the injected environment variable
experiment_id = os.getenv("MLFLOW_EXPERIMENT_ID")

# Set the experiment for tracking
mlflow.set_experiment(experiment_id=experiment_id)

# Log parameters and metrics
with mlflow.start_run():
    mlflow.log_param("learning_rate", 0.01)
    mlflow.log_metric("accuracy", 0.95)
    mlflow.log_artifact("model.pkl")

Untuk informasi selengkapnya, lihat Mengakses variabel lingkungan dari sumber daya.

Menghapus sumber daya Eksperimen MLflow

Saat Anda menghapus sumber daya Eksperimen MLflow dari aplikasi, perwakilan layanan aplikasi kehilangan akses ke eksperimen. Eksperimen itu sendiri tetap tidak berubah dan terus tersedia untuk pengguna dan aplikasi lain yang memiliki izin yang sesuai.

Praktik terbaik

Ikuti praktik terbaik ini saat Anda bekerja dengan sumber daya eksperimen MLflow:

• Atur eksperimen secara logis menurut jenis proyek atau model untuk meningkatkan penemuan.
• Gunakan konvensi penamaan yang konsisten untuk eksekusi dan parameter di seluruh organisasi Anda.
• Pertimbangkan kebijakan retensi eksperimen dan manajemen penyimpanan untuk proyek yang berjalan lama.