Bagikan melalui

Alat LLM untuk alur di Azure AI Studio

  • Artikel

Penting

Beberapa fitur yang dijelaskan dalam artikel ini mungkin hanya tersedia dalam pratinjau. Pratinjau ini disediakan tanpa perjanjian tingkat layanan, dan kami tidak merekomendasikannya untuk beban kerja produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk mengetahui informasi selengkapnya, lihat Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure.

Untuk menggunakan model bahasa besar (LLM) untuk pemrosesan bahasa alami, Anda menggunakan alat LLM alur perintah.

Catatan

Untuk penyematan untuk mengonversi teks menjadi representasi vektor padat untuk berbagai tugas pemrosesan bahasa alami, lihat Alat penyematan.

Prasyarat

Siapkan perintah seperti yang dijelaskan dalam dokumentasi alat Prompt. Alat LLM dan alat Prompt keduanya mendukung templat Jinja . Untuk informasi selengkapnya dan praktik terbaik, lihat Teknik rekayasa prompt.

Membangun dengan alat LLM

  1. Membuat atau membuka alur di Azure AI Studio. Untuk informasi selengkapnya, lihat Membuat alur.

  2. Pilih + LLM untuk menambahkan alat LLM ke alur Anda.

    Cuplikan layar yang memperlihatkan alat LLM ditambahkan ke alur di Azure AI Studio.

  3. Pilih koneksi ke salah satu sumber daya yang disediakan. Misalnya, pilih Default_AzureOpenAI.

  4. Dari daftar dropdown Api , pilih obrolan atau penyelesaian.

  5. Masukkan nilai untuk parameter input alat LLM yang dijelaskan dalam tabel Input penyelesaian teks. Jika Anda memilih API obrolan, lihat tabel Input obrolan. Jika Anda memilih API penyelesaian , lihat tabel Input penyelesaian teks. Untuk informasi tentang cara menyiapkan input perintah, lihat Prasyarat.

  6. Tambahkan lebih banyak alat ke alur Anda, sesuai kebutuhan. Atau pilih Jalankan untuk menjalankan alur.

  7. Output dijelaskan dalam tabel Output.

Input

Parameter input berikut tersedia.

Input penyelesaian teks

Nama Tipe Deskripsi Wajib diisi
perintah string Perintah teks untuk model bahasa. Ya
model, deployment_name string Model bahasa yang akan digunakan. Ya
max_tokens Integer Jumlah maksimum token yang akan dihasilkan dalam penyelesaian. Defaultnya adalah 16. No
suhu float Keacakan teks yang dihasilkan. Defaultnya adalah 1. No
stop list Urutan penghentian untuk teks yang dihasilkan. Defaultnya adalah null. No
Akhiran string Teks ditambahkan ke akhir penyelesaian. No
top_p float Probabilitas menggunakan pilihan teratas dari token yang dihasilkan. Defaultnya adalah 1. No
logprobs Integer Jumlah probabilitas log yang akan dihasilkan. Defaultnya adalah null. No
echo Boolean Nilai yang menunjukkan apakah akan menggemakan kembali perintah dalam respons. Defaultnya adalah false. No
presence_penalty float Nilai yang mengontrol perilaku model mengenai frasa berulang. Defaultnya adalah 0. No
frequency_penalty float Nilai yang mengontrol perilaku model mengenai menghasilkan frasa langka. Defaultnya adalah 0. No
best_of Integer Jumlah penyelesaian terbaik yang akan dihasilkan. Defaultnya adalah 1. No
logit_bias dictionary Bias logit untuk model bahasa. Defaultnya adalah kamus kosong. No

Input obrolan

Nama Tipe Deskripsi Wajib diisi
perintah string Perintah teks yang harus di balas oleh model bahasa. Ya
model, deployment_name string Model bahasa yang akan digunakan. Ya
max_tokens Integer Jumlah maksimum token yang dihasilkan dalam respons. Defaultnya adalah inf. No
suhu float Keacakan teks yang dihasilkan. Defaultnya adalah 1. No
stop list Urutan penghentian untuk teks yang dihasilkan. Defaultnya adalah null. No
top_p float Probabilitas menggunakan pilihan teratas dari token yang dihasilkan. Defaultnya adalah 1. No
presence_penalty float Nilai yang mengontrol perilaku model mengenai frasa berulang. Defaultnya adalah 0. No
frequency_penalty float Nilai yang mengontrol perilaku model mengenai menghasilkan frasa langka. Defaultnya adalah 0. No
logit_bias dictionary Bias logit untuk model bahasa. Defaultnya adalah kamus kosong. No

Output

Output bervariasi tergantung pada API yang Anda pilih untuk input.

API Tipe hasil Deskripsi
Penyelesaian string Teks dari satu prediksi penyelesaian.
Obrolan string Teks dari satu respons percakapan.

Langkah berikutnya