Bagikan melalui

Mulai menggunakan alur perintah

Artikel ini memancarkan Anda melalui perjalanan pengguna utama menggunakan alur perintah di studio Azure Pembelajaran Mesin. Anda mempelajari cara mengaktifkan alur perintah di ruang kerja Azure Machine Learning Anda, membuat dan mengembangkan alur perintah, menguji dan mengevaluasi alur, lalu menyebarkannya ke produksi.

Prasyarat

Menyiapkan sambungan

Koneksi membantu menyimpan dan mengelola kunci rahasia dengan aman atau kredensial sensitif lainnya yang diperlukan untuk berinteraksi dengan Model Bahasa Besar (LLM) dan alat eksternal lainnya seperti Azure Content Safety. Sumber daya koneksi dibagikan dengan semua anggota di ruang kerja.

  1. Untuk memeriksa apakah Anda sudah memiliki koneksi Azure OpenAI, pilih Alur perintah dari menu kiri studio Azure Machine Learning lalu pilih tab Koneksi di layar Alur perintah .

    Cuplikan layar tab koneksi dengan buat disorot.

    Jika Anda sudah melihat koneksi yang penyedianya adalah AzureOpenAI, Anda dapat melewati sisa proses penyiapan ini. Perhatikan bahwa koneksi ini harus memiliki penyebaran untuk dapat menjalankan simpul LLM dalam alur contoh. Untuk informasi selengkapnya, lihat Menyebarkan model.

  2. Jika Anda tidak memiliki koneksi Azure OpenAI, pilih Buat lalu pilih AzureOpenAI dari menu dropdown.

  3. Di panel Tambahkan koneksi Azure OpenAI , berikan nama untuk koneksi, pilih ID Langganan dan Nama Akun Azure OpenAI Anda, dan berikan informasi Mode Autentikasi dan API.

    Alur prompt mendukung autentikasi API Key atau Microsoft Entra ID untuk sumber daya Azure OpenAI. Untuk tutorial ini, pilih kunci API di bawah Mode Autentikasi.

    Cuplikan layar koneksi Azure OpenAI.

    Untuk mendapatkan informasi API, buka Playground Obrolan di portal Azure OpenAI dan pilih nama sumber daya Azure OpenAI Anda. Salin Kunci dan tempelkan ke bidang kunci API dalam formulir Tambahkan koneksi Azure OpenAI , dan salin Titik Akhir dan tempelkan ke bidang dasar API dalam formulir.

    Cuplikan layar dari platform obrolan yang menampilkan Kunci dan Titik Akhir untuk sumber daya Azure OpenAI.

    Untuk informasi tentang autentikasi ID Microsoft Entra, lihat Cara mengonfigurasi Azure OpenAI di Model Azure AI Foundry dengan autentikasi ID Microsoft Entra.

  4. Setelah Anda mengisi semua bidang, pilih Simpan untuk membuat koneksi.

  5. Koneksi harus dikaitkan dengan penyebaran sebelum Anda dapat menjalankan simpul LLM dalam alur contoh. Untuk membuat penerapan, lihat Menyebarkan model.

Membuat dan mengembangkan alur prompt Anda

Di tab Alur dari halaman beranda Alur perintah , pilih Buat untuk membuat alur perintah. Halaman Buat alur baru memperlihatkan jenis alur yang dapat Anda buat, sampel bawaan yang dapat Anda kloning untuk membuat alur, dan cara mengimpor alur.

Mengkloning dari sampel

Di galeri Jelajahi, Anda dapat menelusuri sampel bawaan dan memilih Lihat detail pada petak mana pun untuk mempratinjau apakah itu cocok untuk skenario Anda.

Tutorial ini menggunakan sampel Klasifikasi Web untuk menelusuri perjalanan pengguna utama. Klasifikasi Web adalah sebuah alur yang menunjukkan klasifikasi multikelas dengan LLM. Diberikan sebuah URL, alur mengklasifikasikan URL ke dalam kategori web hanya dengan beberapa percobaan, ringkasan sederhana, dan petunjuk klasifikasi. Misalnya, dengan diberi URL https://www.imdb.com, URL tersebut diklasifikasikan ke dalam Movie.

Untuk mengkloning sampel, pilih Kloning pada petak Klasifikasi Web .

Cuplikan layar buat dari galley yang menyoroti klasifikasi web.

Panel Alur kloning memperlihatkan lokasi untuk menyimpan alur Anda di dalam penyimpanan berbagi file ruang kerja Anda. Anda dapat mengkustomisasi folder jika anda mau. Lalu pilih Klon.

Alur yang dikloning terbuka di antarmuka pengguna penulis. Anda dapat memilih ikon Edit pensil untuk mengedit detail alur seperti nama, deskripsi, dan tag.

Memulai sesi komputasi

Sesi komputasi diperlukan untuk eksekusi alur. Sesi komputasi mengelola sumber daya komputasi yang diperlukan agar aplikasi berjalan, termasuk gambar Docker yang berisi semua paket dependensi yang diperlukan.

Pada halaman penulisan alur, mulai sesi komputasi dengan memilih Mulai sesi komputasi.

Cuplikan layar memulai sesi mulai komputasi.

Memeriksa halaman perancang alur

Sesi komputasi dapat memakan waktu beberapa menit untuk memulai. Saat sesi komputasi dimulai, lihat bagian halaman penulisan alur.

  • Tampilan Alur atau rata di sisi kiri halaman adalah area kerja utama, tempat Anda dapat menulis alur dengan menambahkan atau menghapus simpul, mengedit dan menjalankan simpul sebaris, atau mengedit perintah. Di bagian Input dan Output , Anda dapat melihat, menambahkan atau menghapus, dan mengedit input dan output.

    Saat Anda mengkloning sampel Klasifikasi Web saat ini, input dan output sudah diatur. Skema input untuk alur adalah name: url; type: string, URL jenis string. Anda dapat mengubah nilai input prasetel ke nilai lain seperti https://www.imdb.com secara manual.

  • Files di kanan atas menunjukkan struktur folder dan file dari alur. Setiap folder alur berisi file flow.dag.yaml , file kode sumber, dan folder sistem. Anda dapat membuat, mengunggah, atau mengunduh file untuk pengujian, penyebaran, atau kolaborasi.

  • Tampilan Grafik di kanan bawah adalah untuk memvisualisasikan seperti apa alurnya. Anda dapat memperbesar atau memperkecil, atau menggunakan tata letak otomatis.

Anda dapat mengedit file sebaris dalam tampilan Alur atau ratakan, atau Anda dapat mengaktifkan tombol Mode file mentah dan memilih file dari File untuk membuka file di tab untuk pengeditan.

Cuplikan layar tab edit file di bawah mode file mentah.

Untuk sampel ini, input adalah URL untuk diklasifikasikan. Alur menggunakan skrip Python untuk mengambil konten teks dari URL, menggunakan LLM untuk meringkas konten teks dalam 100 kata, dan mengklasifikasikan berdasarkan URL dan meringkas konten teks. Skrip Python kemudian mengonversi output LLM menjadi kamus. Simpul prepare_examples menyalurkan beberapa contoh bidikan ke prompt node klasifikasi.

Menyiapkan simpul LLM

Untuk setiap simpul LLM, Anda perlu memilih Koneksi untuk mengatur kunci LLM API. Pilih koneksi Azure OpenAI Anda.

Bergantung pada jenis koneksi, Anda harus memilih deployment_name atau model dari daftar dropdown. Untuk koneksi Azure OpenAI, pilih penyebaran. Jika Anda tidak memiliki penyebaran, buat satu penyebaran di portal Azure OpenAI dengan mengikuti instruksi di Menyebarkan model.

Nota

Jika Anda menggunakan koneksi OpenAI alih-alih koneksi Azure OpenAI, Anda perlu memilih model, bukan penyebaran, di bidang Koneksi.

Untuk contoh ini, pastikan jenis API adalah obrolan, karena contoh prompt yang disediakan adalah untuk API obrolan. Untuk informasi selengkapnya tentang perbedaan antara API obrolan dan penyelesaian, lihat Mengembangkan alur.

Tangkapan layar klasifikasi Web memperlihatkan dropdown koneksi.

Siapkan koneksi untuk kedua node LLM dalam alur, summarize_text_content dan classify_with_llm.

Menjalankan satu simpul

Untuk menguji dan men-debug satu simpul, pilih ikon Jalankan di bagian atas simpul dalam tampilan Alur . Anda dapat memperluas Input dan mengubah URL input alur untuk menguji perilaku node untuk URL yang berbeda.

Status berjalan muncul di bagian atas simpul. Setelah eksekusi selesai, output muncul di bagian Output.

Cuplikan layar klasifikasi Web memperlihatkan terlebih dahulu Anda menjalankan simpul python lalu memeriksa output, selanjutnya Anda menjalankan simpul LLM lalu memeriksa outputnya.

Tampilan Grafik juga memperlihatkan status simpul run tunggal.

Jalankan fetch_text_content_from_url lalu jalankan summarize_text_content untuk memeriksa apakah alur berhasil mengambil konten dari web dan meringkas konten web.

Menjalankan seluruh alur

Untuk menguji dan men-debug seluruh alur, pilih Jalankan di bagian atas layar. Anda dapat mengubah URL input alur untuk menguji perilaku alur untuk URL yang berbeda.

Cuplikan layar klasifikasi Web memperlihatkan seluruh eksekusi dan menyoroti tombol jalankan.

Periksa status eksekusi dan output setiap simpul.

Melihat keluaran alur

Anda juga dapat mengatur output alur untuk memeriksa output beberapa simpul di satu tempat. Hasil keluaran alur membantu Anda.

  • Periksa hasil pengujian massal dalam satu tabel.
  • Tentukan pemetaan antarmuka evaluasi.
  • Tetapkan skema respons penyebaran.

Dalam sampel yang dikloning, output aliran kategori dan bukti sudah ditetapkan.

  1. Pilih Tampilkan output di banner atas atau bilah menu atas untuk melihat informasi input, output, eksekusi aliran, dan orkestrasi terperinci.

    Cuplikan layar tombol tampilkan output di dua lokasi.

  2. Pada tab Output dari layar Output , perhatikan bahwa alur memprediksi URL input dengan kategori dan bukti.

    Cuplikan layar menampilkan output di halaman Output.

  3. Pilih tab Lacak pada layar Output lalu pilih alur di bawah nama simpul untuk melihat informasi gambaran umum alur terperinci di panel kanan. Perluas alur dan pilih langkah apa pun untuk melihat informasi terperinci untuk langkah tersebut.

    Cuplikan layar dari layar Pelacakan alur.

Menguji dan mengevaluasi

Setelah alur berhasil berjalan dengan satu baris data, uji apakah alur berfungsi dengan baik dengan sekumpulan data yang besar. Anda dapat menjalankan pengujian massal dan secara opsional menambahkan alur evaluasi, lalu memeriksa hasilnya.

Anda perlu menyiapkan data pengujian terlebih dahulu. Azure Machine Learning mendukung format file CSV, TSV, dan JSONL untuk data.

  • Buka GitHub dan unduh data.csv, himpunan data emas untuk sampel Klasifikasi Web.

Gunakan wizard Jalankan & Evaluasi Batch untuk mengonfigurasi dan mengirimkan pemrosesan batch dan, jika diinginkan, metode evaluasi. Metode evaluasi juga merupakan alur, yang menggunakan Python atau LLM untuk menghitung metrik seperti akurasi dan skor relevansi.

  1. Pilih Evaluasi dari menu atas halaman penulisan alur Anda.

  2. Pada layar Pengaturan dasar , ubah Nama tampilan Eksekusi jika diinginkan, tambahkan deskripsi Eksekusi dan Tag opsional, lalu pilih Berikutnya.

  3. Pada layar Pengaturan eksekusi Batch , pilih Tambahkan data baru. Pada layar Tambahkan data , berikan Nama untuk himpunan data, pilih Telusuri untuk mengunggah file data.csv yang Anda unduh, lalu pilih Tambahkan.

    Setelah Anda mengunggah data, atau jika ruang kerja Anda memiliki himpunan data lain yang ingin Anda gunakan, cari dan pilih himpunan data dari daftar dropdown untuk mempratinjau lima baris pertama.

    Fitur Pemetaan input mendukung pemetaan input alur Anda ke kolom data apa pun di himpunan data Anda, meskipun nama kolom tidak cocok.

    Cuplikan layar eksekusi dan evaluasi Batch, menyoroti unggahan data baru.

  4. Pilih Berikutnya untuk memilih satu atau beberapa metode evaluasi secara opsional. Halaman Pilih evaluasi memperlihatkan alur evaluasi bawaan dan yang dikustomisasi. Untuk melihat bagaimana metrik ditentukan untuk metode evaluasi bawaan, Anda dapat memilih Detail selengkapnya tentang petak metode.

    Klasifikasi Web adalah skenario klasifikasi, jadi pilih Evaluasi Akurasi Klasifikasi yang akan digunakan untuk evaluasi, lalu pilih Berikutnya.

    Cuplikan layar klasifikasi Web memperlihatkan batch yang dijalankan dan dievaluasi pada metode evaluasi.

  5. Pada layar Konfigurasi evaluasi, atur Pemetaan input evaluasi untuk memetakan groundtruth ke input aliran ${data.category} dan memetakan prediksi ke keluaran aliran ${run.outputs.category}.

    Cuplikan layar klasifikasi Web memperlihatkan batch yang dijalankan dan dievaluasi pada pengaturan evaluasi.

  6. Pilih Tinjau + kirim lalu pilih Kirim untuk mengirimkan eksekusi batch dan metode evaluasi yang dipilih.

Memeriksa hasil

Saat eksekusi Anda berhasil dikirimkan, pilih Tampilkan daftar eksekusi untuk melihat status eksekusi pada halaman Eksekusi alur perintah. Proses batch mungkin perlu waktu cukup lama untuk diselesaikan. Anda dapat memilih Refresh untuk memuat status terbaru.

Setelah pemrosesan batch selesai, pilih kotak centang di samping pemrosesan tersebut lalu pilih Lihat output untuk melihat hasil pemrosesan batch Anda.

Cuplikan layar memilih Visualisasikan output pada halaman Jalankan.

Pada layar Visualisasikan output, aktifkan ikon mata di sebelah "child run" untuk menambahkan hasil evaluasi ke tabel hasil eksekusi batch. Anda dapat melihat jumlah token total dan akurasi keseluruhan. Tabel Output memperlihatkan hasil untuk setiap baris data: input, output alur, metrik sistem, dan hasil evaluasi Benar atau Salah.

Cuplikan layar halaman detail eksekusi batch klasifikasi Web untuk melihat output.

Dalam tabel Output , Anda dapat:

  • Sesuaikan lebar kolom, sembunyikan atau munculkan kolom, atau ubah urutan kolom.
  • Pilih Ekspor untuk Mengunduh halaman saat ini sebagai file CSV atau Unduh skrip ekspor data sebagai file notebook Jupyter yang dapat Anda jalankan untuk mengunduh output secara lokal.
  • Pilih ikon Tampilkan detail di samping baris mana pun untuk membuka tampilan Jejak yang memperlihatkan detail lengkap untuk baris tersebut.

Akurasi bukan satu-satunya metrik yang dapat mengevaluasi tugas klasifikasi. Misalnya, Anda juga dapat menggunakan ingatan untuk mengevaluasi. Untuk menjalankan evaluasi lain, pilih Evaluasi di samping Visualisasikan output pada halaman Jalankan , dan pilih metode evaluasi lainnya.

Menyebarkan sebagai titik akhir

Setelah membuat dan menguji alur, Anda dapat menyebarkannya sebagai titik akhir sehingga Anda dapat memanggil titik akhir untuk inferensi real-time.

Mengonfigurasi titik akhir

  1. Pada halaman Eksekusi batch, pilih tautan nama eksekusi, dan pada halaman detail eksekusi, pilih Sebarkan di bilah menu atas untuk membuka wizard penyebaran.

  2. Pada halaman Pengaturan dasar , tentukan Nama titik akhir dan Nama penyebaran dan pilih Jenis komputer virtual dan Jumlah instans.

  3. Anda dapat memilih Berikutnya untuk mengonfigurasi pengaturan Titik Akhir, Penyebaran, dan Output & koneksi tingkat lanjut. Untuk contoh ini, gunakan pengaturan default.

  4. Pilih Tinjau + Buat lalu pilih Buat untuk memulai penyebaran.

Menguji titik akhir

Anda dapat membuka halaman detail titik akhir dari pemberitahuan, atau dengan memilih Titik Akhir di navigasi kiri studio dan memilih titik akhir Anda dari tab Titik Akhir Waktu Nyata. Proses ini memerlukan beberapa menit untuk menyebarkan titik akhir. Setelah titik akhir berhasil disebarkan, Anda dapat mengujinya di tab Uji .

Letakkan URL yang ingin Anda uji di kotak input, dan pilih Uji. Anda melihat hasil yang diprediksi oleh endpoint Anda.

Membersihkan sumber daya

Untuk menghemat sumber daya dan biaya komputasi, Anda dapat menghentikan sesi komputasi jika Anda selesai menggunakannya untuk saat ini. Pilih sesi yang sedang berjalan lalu pilih Hentikan sesi komputasi.

Anda juga dapat menghentikan instans komputasi dengan memilih Komputasi dari navigasi kiri studio, memilih instans komputasi Anda di daftar Instans komputasi , dan memilih Hentikan.

Jika Anda tidak berencana untuk menggunakan salah satu sumber daya yang Anda buat dalam tutorial ini, Anda dapat menghapusnya sehingga tidak dikenakan biaya. Di portal Azure, cari dan pilih Grup sumber daya. Dari daftar, pilih grup sumber daya yang berisi sumber daya yang Anda buat, lalu pilih Hapus grup sumber daya dari menu atas di halaman grup sumber daya.

Konten terkait