Mengubah versi model dan pengaturan

Note

Artikel ini menjelaskan fitur yang digunakan pada agen atau alur agen yang didukung oleh harness standar.

Artikel ini menjelaskan cara mengubah versi model serta pengaturannya di perancang perintah. Versi dan pengaturan model dapat memengaruhi performa dan perilaku model AI generatif.

Pilihan model

Anda dapat mengubah model dengan memilih Model di bagian atas penyusun prompt. Menu tarik-turun memungkinkan Anda untuk memilih dari model AI generatif yang menghasilkan jawaban atas perintah kustom Anda.

Menggunakan perintah dalam Power Apps atau Power Automate mengonsumsi prompt builder credits, sementara menggunakan perintah di Copilot Studio mengonsumsi Copilot Credits. Pelajari selengkapnya di Lisensi dan kredit pembuat perintah dalam dokumentasi AI Builder.

Ikhtisar

Tabel berikut menjelaskan berbagai model yang tersedia.

Model memiliki ketersediaan yang berbeda di seluruh wilayah dan diperbarui secara berkala. Pelajari selengkapnya di Meminta ketersediaan model menurut wilayah dan pembaruan.

Note

  • GPT-4o mini dan GPT-4o terus digunakan di wilayah pemerintah AS. Model-model ini mengikuti aturan lisensi dan menawarkan fungsionalitas yang masing-masing sebanding dengan GPT-4.1 mini dan GPT-4.1.
  • Model Antropik dihosting di luar Microsoft dan tunduk pada persyaratan Antropik dan penanganan data. Pelajari selengkapnya di Memilih model eksternal sebagai model AI utama.
Model GPT Licensing Fungsi Category
GPT-4.1 mini (model standar) Tarif dasar Dilatih dengan data hingga Juni 2024. Masukkan hingga 128 ribu token. Mini
GPT-4.1 Tarif standar Dilatih dengan data hingga Juni 2024. Konteks memungkinkan hingga 128 ribu token. General
Percakapan GPT-5 Tarif standar Dilatih menggunakan data hingga September 2024. Konteks memungkinkan hingga 128 ribu token. General
Penalaran GPT-5 Tarif premium Dilatih menggunakan data hingga September 2024. Konteks memungkinkan hingga 400 ribu token. Mendalam
Penalaran GPT-5.2 Tarif premium Dilatih menggunakan data hingga Oktober 2024. Konteks memungkinkan hingga 400 ribu token. Mendalam
Obrolan GPT-5.3 Tarif standar Model terkelola. Konteks memungkinkan hingga 128 ribu token. General
Soneta Claude 4.6 Tarif standar Model eksternal dari Anthropic. Konteks memungkinkan hingga 200 ribu token. General
Claude Opus 4.6 Tarif premium Model eksternal dari Anthropic. Konteks memungkinkan hingga 200 ribu token. Mendalam
Grok 4.1 Fast (Tanpa Penalaran) (lihat catatan penting berikut) Tarif standar Model eksternal dari xAI. General

Penting

Penilaian keamanan dan tanggung jawab AI oleh Microsoft menemukan bahwa Grok-4.1 Fast (Non-Reasoning) kurang selaras dibandingkan dengan model lain yang dievaluasi, yang mengakibatkan (i) risiko yang lebih tinggi bahwa model ini akan menghasilkan konten yang mungkin berbahaya dan (ii) skor yang lebih rendah pada tolok ukur keamanan dan jailbreak. Grok-4.1 Fast (Non-Penalaran) mungkin mampu menghasilkan konten eksplisit, dan dapat melakukannya dengan kecenderungan yang lebih tinggi daripada model lain. Pelanggan harus mematuhi Kode Etik Layanan Microsoft Enterprise AI dan Ketentuan Layanan Perusahaan xAI, termasuk Kebijakan Penggunaan yang Dapat Diterima. Selain itu, mungkin ada kategori bahaya yang dapat dihasilkan model ini yang tidak tercakup oleh sistem keamanan konten Microsoft. Oleh karena itu, seperti semua model Eksperimental, Grok-4.1 Fast (Non-Penalaran) tidak direkomendasikan untuk penggunaan produksi dan pelanggan harus meninjau Batasan model eksperimental dan pratinjau serta melakukan evaluasi sendiri sebelum memilih Grok-4.1 Fast (Non-Penalaran).

Penggunaan jendela konteks dan token

Jendela konteks model adalah batas untuk setiap panggilan model, yang ditegakkan oleh penyedia model pada setiap panggilan individual. Satu interaksi agen Copilot Studio (giliran percakapan) dapat memicu beberapa pemanggilan, seperti iterasi perencanaan, pengambilan pengetahuan atau jawaban generatif, serta ringkasan alat.

Total penggunaan token untuk satu interaksi adalah jumlah dari semua panggilan model individual. Akibatnya, jumlah total per interaksi tersebut dapat melampaui jendela konteks dalam satu pemanggilan model.

Harness standar di Copilot Studio tidak menerapkan batas token pada seluruh panggilan selama satu giliran percakapan. Pengaturan jendela konteks mendorong pemangkasan dan pemadatan riwayat percakapan agar tetap dalam jendela konteks model. Namun, hal ini tidak mencegah total penggunaan token melebihi jendela konteks model selama satu giliran. Total penggunaan token per giliran dapat melebihi jendela konteks dari satu kali pemanggilan model tanpa memicu kesalahan "maksimum panjang token terlampaui".

Licensing

Dalam agen, alur, atau aplikasi, perintah yang menggunakan model menggunakan Kredit Copilot, terlepas dari tahap rilis model. Pelajari lebih lanjut di Tarif dan pengelolaan penagihan.

Jika Anda memiliki kredit AI Builder, sistem mengonsumsinya terlebih dahulu saat perintah digunakan dalam Power Apps dan Power Automate. Sistem tidak menggunakan kredit AI Builder saat perintah digunakan di Copilot Studio. Pelajari selengkapnya di Gambaran umum lisensi dalam dokumentasi AI Builder.

Tahap rilis

Model-model melalui berbagai tahap rilis. Anda dapat mencoba model eksperimental dan pratinjau baru yang mutakhir, atau memilih model yang andal dan teruji secara menyeluruh yang tersedia secara umum.

Tag Description
Experimental Dimaksudkan untuk eksperimen, dan bukan untuk penggunaan produksi. Tunduk pada persyaratan pratinjau, dan dapat memiliki batasan ketersediaan dan kualitas.
Tinjauan Model ini akhirnya akan tersedia umum, tetapi saat ini tidak dianjurkan untuk penggunaan produksi. Tunduk pada persyaratan pratinjau, dan dapat memiliki batasan ketersediaan dan kualitas.
Tidak ada tag Tersedia secara umum. Anda dapat menggunakan model ini untuk penggunaan bereskala dan produksi. Dalam kebanyakan kasus, model yang tersedia secara umum tidak memiliki batasan ketersediaan dan kualitas, tetapi beberapa mungkin masih memiliki beberapa batasan, seperti ketersediaan regional.
Penting: Model Anthropic Claude berada pada tahapan eksperimental, meskipun tidak menampilkan tag.
Default Model default untuk semua agen, dan biasanya model ini berkinerja terbaik yang tersedia secara umum. Model default ditingkatkan secara berkala saat model baru yang lebih mumpuni tersedia secara umum. Agen juga menggunakan model default sebagai penggantian jika model yang dipilih dimatikan atau tidak tersedia.

Model eksperimental dan pratinjau mungkin menunjukkan variabilitas dalam performa, kualitas respons, latensi, atau konsumsi pesan. Mereka mungkin habis waktu atau tidak tersedia. Mereka tunduk pada ketentuan pratinjau.

Kategorisasi

Tabel berikut ini menjelaskan kategori model yang berbeda.

Category Mini General Mendalam
Performance Bagus untuk sebagian besar tugas Unggul untuk tugas yang kompleks Dilatih untuk tugas penalaran
Kecepatan Pemrosesan lebih cepat Mungkin lebih lambat karena kerumitan Lebih lambat, karena memproses terlebih dahulu sebelum merespons
Skenario penggunaan Ringkasan, tugas informasi, pemrosesan dokumen dan gambar Pemrosesan gambar dan dokumen, tugas pembuatan konten tingkat lanjut Tugas analisis dan penalaran data, pemrosesan gambar dan dokumen

Pilih model mini saat Anda memerlukan solusi hemat biaya untuk tugas yang cukup kompleks, memiliki sumber daya komputasi yang terbatas, atau memerlukan pemrosesan yang lebih cepat. Model mini sangat ideal untuk proyek dengan kendala anggaran dan aplikasi seperti dukungan pelanggan atau analisis kode yang efisien.

Pilih model umum saat Anda berhadapan dengan tugas multimoda yang sangat kompleks yang membutuhkan kinerja unggul dan analisis terperinci. Ini adalah pilihan yang lebih baik untuk proyek skala besar di mana akurasi dan kemampuan canggih sangat penting. Model umum juga merupakan pilihan yang baik ketika Anda memiliki anggaran dan sumber daya komputasi untuk mendukungnya. Model umum juga lebih disukai untuk proyek jangka panjang yang mungkin tumbuh dalam kompleksitas dari waktu ke waktu.

Model mendalam unggul untuk proyek yang membutuhkan kemampuan penalaran tingkat lanjut. Mereka cocok untuk skenario yang menuntut pemecahan masalah dan pemikiran kritis yang canggih. Model mendalam unggul di lingkungan di mana penalaran yang bernuansa, pengambilan keputusan yang kompleks, dan analisis terperinci adalah penting.

Pilih di antara model berdasarkan ketersediaan wilayah, fungsionalitas, kasus penggunaan, dan biaya. Pelajari tentang model mana yang tersedia di wilayah Anda dan jadwal penghentian model dalam Ketersediaan model menurut wilayah dan pembaruan. Pelajari selengkapnya tentang harga dalam tabel AI Builder Capability Rate.

Pengaturan model

Anda dapat mengakses panel pengaturan dengan memilih tiga titik (...) >Pengaturan di bagian atas pembuat perintah. Anda dapat mengubah pengaturan berikut:

  • Suhu: Suhu yang lebih rendah menyebabkan hasil yang dapat diprediksi. Suhu yang lebih tinggi memungkinkan respons yang lebih beragam atau kreatif.
  • Pengambilan rekaman: Jumlah rekaman yang diambil untuk sumber pengetahuan Anda.
  • Sertakan tautan dalam respons: Saat dipilih, respons menyertakan kutipan tautan untuk rekaman yang diambil.
  • Aktifkan penerjemah kode: Saat dipilih, penerjemah kode untuk menghasilkan dan mengeksekusi kode diaktifkan.
  • Tingkat moderasi konten: Tingkat terendah menghasilkan jawaban terbanyak, tetapi mungkin berisi konten berbahaya. Tingkat moderasi konten tertinggi menerapkan filter yang lebih ketat untuk membatasi konten berbahaya dan menghasilkan lebih sedikit jawaban.

Suhu

Atur suhu untuk model AI generatif dengan menggunakan penggeser. Ini berkisar antara 0 dan 1. Nilai ini memandu model AI generatif tentang seberapa banyak kreativitas (1) versus jawaban deterministik (0) yang diberikannya.

Note

Pengaturan suhu tidak tersedia untuk model penalaran GPT-5. Untuk alasan ini, slider dinonaktifkan saat Anda memilih model penalaran GPT-5.

Suhu adalah parameter yang mengontrol keacakan output yang dihasilkan oleh model AI. Temperatur yang rendah menghasilkan output yang lebih dapat diprediksi dan konservatif. Sebagai perbandingan, suhu yang lebih tinggi memungkinkan lebih banyak kreativitas dan keragaman dalam respons. Ini adalah cara untuk menyempurnakan keseimbangan antara keacakan dan determinisme dalam output model.

Secara default, temperaturnya adalah 0, seperti pada prompt yang dibuat sebelumnya.

Suhu Functionality Penggunaan di
0 Output yang lebih dapat diprediksi dan konservatif.
Tanggapan lebih konsisten.
Prompt yang membutuhkan akurasi tinggi dan variabilitas yang lebih rendah.
1 Lebih banyak kreativitas dan keragaman dalam tanggapan.
Respons yang lebih bervariasi dan terkadang lebih inovatif.
Perintah yang membuat konten baru yang siap pakai.

Menyesuaikan suhu dapat memengaruhi output model, tetapi tidak menjamin hasil tertentu. Respons AI pada dasarnya bersifat probabilistik dan dapat bervariasi dengan pengaturan temperatur yang sama.

Tingkat moderasi konten

Atur tingkat moderasi konten untuk perintah dengan menggunakan penggeser. Dengan tingkat moderasi yang lebih rendah, prompt Anda dapat memberikan lebih banyak jawaban. Namun, peningkatan jumlah jawaban dapat memengaruhi penerimaan konten berbahaya (kebencian dan ketidakadilan, seksualitas, kekerasan, melukai diri sendiri) dari perintah tersebut.

Note

Pengaturan tingkat moderasi konten hanya tersedia untuk model terkelola. Untuk alasan ini, slider tidak tersedia saat Anda memilih model Anthropic atau Azure AI Foundry.

Tingkat moderasi berkisar dari Rendah hingga Tinggi. Tingkat moderasi default untuk perintah adalah Sedang.

Moderasi yang lebih rendah meningkatkan risiko konten berbahaya dalam respons prompt Anda. Moderasi yang lebih tinggi menurunkan risiko itu, tetapi dapat mengurangi jumlah respons.

Tingkat moderasi konten Description Penggunaan yang disarankan
Low Mungkin mengizinkan konten kebencian dan keadilan, seksual, kekerasan, atau menyakiti diri sendiri yang menampilkan instruksi, tindakan, kerusakan, atau pelecehan yang eksplisit dan berbahaya. Termasuk dukungan, glorifikasi, atau promosi tindakan berbahaya yang parah, bentuk bahaya yang ekstrem atau ilegal, radikalisasi, atau pertukaran atau penyalahgunaan kekuasaan nonkonsensual. Digunakan untuk perintah yang memproses data yang dapat dianggap sebagai konten berbahaya (misalnya, deskripsi kekerasan atau prosedur medis).
Sedang Mungkin mengizinkan konten kebencian dan keadilan, seksual, kekerasan, atau menyakiti diri sendiri yang menggunakan bahasa yang menyinggung, menghina, mengejek, mengintimidasi, atau merendahkan kelompok identitas tertentu. Termasuk penggambaran tentang mencari dan melaksanakan petunjuk berbahaya, fantasi, glorifikasi, dan promosi bahaya dengan intensitas sedang. Pemfilteran bawaan. Cocok untuk sebagian besar penggunaan.
High Mungkin mengizinkan konten yang mengandung kebencian dan ketidakadilan, konten seksual, kekerasan, atau menyakiti diri sendiri yang mengekspresikan pandangan yang berprasangka, menghakimi, atau berpendapat. Termasuk penggunaan bahasa yang ofensif, stereotip, kasus penggunaan yang mengeksplorasi dunia fiksi (misalnya, game, sastra), dan penggambaran dengan intensitas rendah. Gunakan jika Anda memerlukan lebih banyak pemfilteran, lebih ketat daripada tingkat Sedang.

Untuk mengabaikan pengaturan moderasi konten agen saat menggunakan perintah di agen, atur Setelah menjalankan pengaturan di layar Penyelesaian alat perintah untuk Kirim respons khusus (tentukan di bawah). Pesan yang akan ditampilkan harus berisi variabel kustom Output.predictionOutput.text.

Tangkapan layar layar 'Penyelesaian' dengan pengaturan 'Kirim respons tertentu (tentukan di bawah)'.