Pengaturan pilihan model dan suhu
Saat Anda membuat tindakan prompt di pembuat prompt, panel di sebelah kanan menyertakan bagian Pengaturan . Bagian ini memungkinkan Anda untuk mengatur parameter ini:
- Versi model AI generatif
- Suhu
Artikel ini mengeksplorasi dampak dari parameter ini.
Menu tarik-turun memungkinkan Anda untuk memilih di antara model AI generatif, yang menghasilkan jawaban atas perintah kustom Anda.
Model default per November 2024, adalah GPT 4o Mini (ketersediaan umum, atau GA). Dimungkinkan juga untuk menggunakan model GPT 4o (GA) yang lebih kuat. Versi minor yang tepat dari model ini dapat berubah.
Saat Anda menggunakan tindakan prompt di Power Apps atau Power Automate, tindakan tersebut menggunakan AI Builder kredit.
Catatan
Perintah lama yang dibuat di pembuat perintah yang mengandalkan model default model GPT 3.5 ini telah atau akan diupgrade secara otomatis ke model GPT 4o Mini. Government cloud terus menggunakan model GPT 3.5 hingga akhir November 2024.
Pilih antara model berdasarkan status dan aturan lisensi.
Model GPT | Status | Aturan lisensi | Fungsi | Ketersediaan wilayah |
---|---|---|---|---|
GPT 4o Mini | GA - Model default | Mengkonsumsi kredit di Power Apps dan Power Automate. Informasi lebih lanjut: Power Platform Panduan Lisensi | Dilatih berdasarkan data hingga Desember 2023. Konteks diizinkan hingga 128 ribu token. | Ketersediaan fitur berdasarkan wilayah untuk perintah |
GPT 4 | GA | Mengkonsumsi kredit di Power Apps dan Power Automate. Informasi lebih lanjut: Power Platform Panduan Lisensi | GPT 4o memiliki pengetahuan hingga Oktober 2023 dan memiliki panjang konteks 128 ribu token. | Ketersediaan fitur berdasarkan wilayah untuk perintah |
Pilih antara model berdasarkan kemampuan dan skenario.
Faktor | GPT-4o Mini | GPT-4o |
---|---|---|
Biaya | Lebih rendah, lebih hemat biaya | Harga premium yang lebih tinggi |
Performa | Baik untuk sebagian besar tugas | Unggul untuk tugas kompleks |
Kecepatan | Pemrosesan lebih cepat | Mungkin lebih lambat karena kompleksitas |
Kasus Penggunaan | Peringkasan, tugas informasi | Analisis data yang kompleks, penalaran, dan tugas pembuatan konten |
Saat Anda membutuhkan solusi hemat biaya untuk tugas yang cukup kompleks, memiliki sumber daya komputasi yang terbatas, atau memerlukan pemrosesan yang lebih cepat, pilih GPT-4o Mini. Ini ideal untuk proyek dengan batasan anggaran dan aplikasi seperti dukungan pelanggan atau analisis kode yang efisien.
Saat Anda berurusan dengan tugas multimodal yang sangat kompleks yang membutuhkan kinerja unggul dan analisis terperinci, pilih GPT-4o. Ini adalah pilihan yang lebih baik untuk proyek skala besar di mana akurasi dan kemampuan canggih sangat penting. Skenario lain di mana ini adalah pilihan yang lebih baik adalah ketika Anda memiliki anggaran dan sumber daya komputasi untuk mendukungnya. GPT-4o juga lebih disukai untuk proyek jangka panjang yang mungkin tumbuh dalam kompleksitas dari waktu ke waktu.
Perintah AI tidak menggunakan AI Builder kredit saat berada dalam konteks Copilot Studio, tetapi menggunakan pesan saat dibuat pada model GA GPT.
Pelajari lebih lanjut tentang konsumsi pesan di Power Platform Panduan Lisensi.
Penggeser memungkinkan Anda memilih suhu model AI generatif. Ini bervariasi antara 0 dan 1, dan memandu model AI generatif tentang berapa banyak kreativitas (1) vs jawaban deterministik (0) yang harus diberikan.
Suhu adalah parameter yang mengontrol keacakan keluaran yang dihasilkan oleh model AI. Suhu yang lebih rendah menghasilkan output yang lebih dapat diprediksi dan konservatif. Sebagai perbandingan, suhu yang lebih tinggi memungkinkan lebih banyak kreativitas dan keragaman dalam tanggapan. Ini adalah cara untuk menyempurnakan keseimbangan antara keacakan dan determinisme dalam output model.
Secara default, suhunya adalah 0, seperti pada perintah yang dibuat sebelumnya.
Suhu | Fungsi | Gunakan di |
---|---|---|
0 | Output yang lebih dapat diprediksi dan konservatif. Tanggapan lebih konsisten. |
Perintah yang membutuhkan akurasi tinggi dan variabilitas yang lebih sedikit. |
1 | Lebih banyak kreativitas dan keragaman dalam tanggapan. Tanggapan yang lebih bervariasi dan terkadang lebih inovatif. |
Perintah yang membuat konten baru yang siap pakai |
Meskipun menyesuaikan suhu dapat memengaruhi output model, itu tidak menjamin hasil tertentu. Respons AI secara inheren probabilistik dan dapat bervariasi bahkan dengan pengaturan suhu yang sama.