Teknik rekayasa perintah
Panduan ini akan memandu Anda melalui beberapa teknik canggih dalam desain yang cepat dan rekayasa yang cepat. Jika Anda baru mengenal rekayasa yang cepat, sebaiknya mulai dengan pengenalan kami untuk panduan rekayasa yang cepat.
Meskipun prinsip-prinsip rekayasa prompt dapat digeneralisasi di berbagai jenis model, model tertentu mengharapkan struktur prompt khusus. Untuk model GPT Azure OpenAI, saat ini ada dua API berbeda di mana rekayasa prompt mulai dimainkan:
- API Penyelesaian Obrolan.
- API Penyelesaian.
Setiap API memerlukan data input untuk diformat secara berbeda, yang pada gilirannya berdampak pada desain prompt secara keseluruhan. API Penyelesaian Obrolan mendukung model GPT-35-Turbo dan GPT-4. Model-model ini dirancang untuk mengambil input yang diformat dalam transkrip seperti obrolan tertentu yang disimpan di dalam array kamus.
API Penyelesaian mendukung model GPT-3 yang lebih lama dan memiliki persyaratan input yang jauh lebih fleksibel karena membutuhkan serangkaian teks tanpa aturan format tertentu. Secara teknis model GPT-35-Turbo dapat digunakan dengan salah satu API, tetapi kami sangat menyarankan untuk menggunakan API Penyelesaian Obrolan untuk model ini. Untuk mempelajari lebih lanjut, silakan konsultasikan panduan mendalam kami tentang menggunakan API ini.
Teknik dalam panduan ini akan mengajarkan Anda strategi untuk meningkatkan akurasi dan dasar respons yang Anda hasilkan dengan Model Bahasa Besar (LLM). Namun, penting untuk diingat bahwa bahkan ketika menggunakan rekayasa cepat secara efektif Anda masih perlu memvalidasi respons yang dihasilkan model. Hanya karena permintaan yang dibuat dengan hati-hati bekerja dengan baik untuk skenario tertentu tidak selalu berarti itu akan digeneralisasikan lebih luas ke kasus penggunaan tertentu. Memahami keterbatasan LLM, sama pentingnya dengan memahami cara memanfaatkan kekuatan mereka.
Panduan ini tidak mendalami mekanisme di balik struktur pesan untuk Penyelesaian Obrolan. Jika Anda tidak terbiasa berinteraksi dengan model ChatGPT dan GPT-4 secara terprogram, sebaiknya baca panduan cara kerja kami di CHAT Completion API terlebih dahulu.
Catatan
Semua contoh di bagian panduan ini diuji terhadap model GPT-4 dasar dalam bahasa Inggris. Jika Anda membaca versi yang dilokalkan dari artikel ini dalam bahasa lain, respons ini mewakili terjemahan hasil bahasa Inggris yang dilokalkan. Untuk mempelajari lebih lanjut tentang potensi batasan tergantung pada bahasa apa yang Anda gunakan untuk meminta model, silakan lihat catatan transparansi AI yang bertanggung jawab kami.
Pesan sistem
Pesan sistem disertakan di awal perintah dan digunakan untuk membina model dengan konteks, instruksi, atau informasi lain yang relevan dengan kasus penggunaan Anda. Anda dapat menggunakan pesan sistem untuk menjelaskan kepribadian asisten, menentukan apa yang harus dan tidak boleh dijawab model, dan menentukan format respons model.
Contoh di bawah ini, menunjukkan contoh pesan sistem dan respons model yang dihasilkan:
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi dan merespons dalam sajak. Jika pengguna mengajukan pertanyaan kepada Anda, Anda tidak tahu jawabannya, katakanlah. | Apa yang bisa kau ceritakan tentangku, John Doe? | Dear John, aku minta maaf untuk mengatakan, Tapi aku tidak punya info tentang Anda hari ini. Aku hanya seorang AI dengan pengetahuan di otakku, Tapi tanpa masukanmu, aku tak bisa menjelaskannya. Jadi tolong ceritakan lebih banyak tentang apa yang Anda cari, Dan aku akan melakukan yang terbaik untuk memberikan jawaban yang unik. |
Beberapa contoh pesan sistem lainnya adalah:
- "Asisten adalah model bahasa besar yang dilatih oleh OpenAI."
- "Asisten adalah chatbot cerdas yang dirancang untuk membantu pengguna menjawab pertanyaan teknis tentang Layanan Azure OpenAI. Hanya jawab pertanyaan menggunakan konteks di bawah ini dan jika Anda tidak yakin dengan jawabannya, Anda dapat mengatakan "Saya tidak tahu".
- "Asisten adalah chatbot cerdas yang dirancang untuk membantu pengguna menjawab pertanyaan terkait pajak mereka."
- "Anda adalah asisten yang dirancang untuk mengekstrak entitas dari teks. Pengguna akan menempelkan dalam serangkaian teks dan Anda akan merespons dengan entitas yang telah Anda ekstrak dari teks sebagai objek JSON. Berikut adalah contoh format output Anda:
{
"name": "",
"company": "",
"phone_number": ""
}
Detail penting yang perlu dipahami adalah bahwa bahkan jika Anda menginstruksikan model dalam pesan sistem untuk menjawab saya tidak tahu kapan tidak yakin dengan jawaban ini tidak menjamin bahwa permintaan akan dihormati. Pesan sistem yang dirancang dengan baik dapat meningkatkan kemungkinan hasil tertentu, tetapi masih mungkin bahwa respons yang salah dapat dihasilkan yang bertentangan dengan niat instruksi dalam pesan sistem.
Pembelajaran beberapa kali ditembak
Cara umum untuk menyesuaikan model bahasa dengan tugas baru adalah dengan menggunakan pembelajaran beberapa bidikan. Dalam pembelajaran beberapa bidikan, serangkaian contoh pelatihan disediakan sebagai bagian dari perintah untuk memberikan konteks tambahan pada model.
Saat menggunakan API Penyelesaian Obrolan, serangkaian pesan antara Pengguna dan Asisten (ditulis dalam format perintah baru), dapat berfungsi sebagai contoh untuk pembelajaran beberapa bidikan. Contoh-contoh ini dapat digunakan untuk prima model untuk merespons dengan cara tertentu, meniru perilaku tertentu, dan jawaban benih untuk pertanyaan umum.
| Pesan sistem | Contoh beberapa kali |
|---|---|
| Asisten adalah chatbot cerdas yang dirancang untuk membantu pengguna menjawab pertanyaan terkait pajak mereka. Petunjuk - Hanya menjawab pertanyaan yang terkait dengan pajak. - Jika Anda tidak yakin dengan jawaban, Anda dapat mengatakan "Saya tidak tahu" atau "Saya tidak yakin" dan merekomendasikan pengguna pergi ke situs web IRS untuk informasi lebih lanjut. |
Pengguna - "Kapan saya perlu mengajukan pajak saya dengan?" Asisten - "Pada tahun 2023, Anda harus mengajukan pajak Anda pada 18 April. Tanggal jatuh setelah tenggat waktu 15 April yang biasa karena 15 April jatuh pada hari Sabtu pada 2023. Untuk detail selengkapnya, lihat https://www.irs.gov/filing/individuals/when-to-file " Pengguna - "Bagaimana cara memeriksa status pengembalian pajak saya?" Asisten - "Anda dapat memeriksa status pengembalian pajak Anda dengan mengunjungi https://www.irs.gov/refunds " |
Tabel di atas menjelaskan struktur prompt dasar, tetapi untuk penjelasan terperinci tentang format prompt yang tepat, Anda harus merujuk ke panduan Penyelesaian Obrolan.
Skenario non-obrolan
Meskipun API Penyelesaian Obrolan dioptimalkan untuk bekerja dengan percakapan multi-giliran, API ini juga dapat digunakan untuk skenario non-obrolan. Misalnya, untuk skenario analisis sentimen, Anda mungkin menggunakan perintah berikut:
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten yang dirancang untuk menganalisis sentimen dari data ucapan. Pengguna akan menempelkan serangkaian teks dan Anda akan merespons dengan penilaian respons pembicara. Tingkat pada skala 1-10 (10 tertinggi). Jelaskan mengapa peringkat ini diberikan. | hi terima kasih untuk memanggil contoso apotek yang saya berbicara dengan hari ini saya memahami frustrasi Anda mary um dapat Anda memberitahu saya apa sebenarnya Anda mencoba untuk mencapai OK eh tentu saja senang untuk memeriksa bahwa untuk Satu momen silahkan saya lihat di sini bahwa Anda berada di bentuk generik lipitor adalah bahwa ok ok eh jadi saya melihat bahwa dokter Anda berhenti meresskripsikan obat-obatan ini dalam dua puluh dua puluh satu benar-benar OK uh Ya saya akan senang untuk memeriksanya untuk Anda eh karena kadang-kadang ada celah dalam sistem dan itu hanya tidak dilaporkan jadi biarkan saya melihat di sini sebentar jadi saya melihat di sini bahwa dokter Anda memiliki obat-obatan ini diresepkan untuk Anda dari dua puluh dua belas melalui dua puluh dua puluh satu OK umm ya menurut catatan terbaru eh disediakan oleh kantor dokter Anda sekarang pada metformin obat yang berbeda akan Anda seperti kami untuk pergi ke depan dan mengisi bahwa resep untuk Anda untuk mengambil sedikit formulir dalam lima ratus miligram eh Anda sangat menyambut mary silakan beri tahu kami jika ada hal lain yang dapat kami lakukan untuk Anda hari ini. | Peringkat sentimen: 8 Pembicara dalam teks ini tampaknya sopan, membantu, dan sabar sambil mengatasi kekhawatiran pelanggan. Mereka meluangkan waktu untuk memeriksa informasi, memberikan penjelasan yang jelas, dan menawarkan bantuan. Namun, peringkatnya bukan 10 karena masih ada petunjuk ketidakpastian di beberapa bagian percakapan, yang mungkin tidak menyampaikan kepercayaan penuh kepada pelanggan. |
Mulailah dengan instruksi yang jelas
Urutan di mana informasi muncul dalam perintah penting. Ini karena model gaya GPT dibangun dengan cara tertentu yang menentukan cara model memproses input. Penelitian kami menunjukkan bahwa memberi tahu model tugas yang ingin Anda lakukan di awal perintah, sebelum berbagi informasi atau contoh kontekstual tambahan, dapat membantu menghasilkan output berkualitas lebih tinggi.
Catatan
Meskipun mengikuti teknik ini masih umumnya direkomendasikan, berbeda dengan versi model sebelumnya (GPT-3 dan sebelumnya), pengujian kami menunjukkan bahwa respons model dengan model ChatGPT dan GPT-4 sama terlepas dari apakah teknik tersebut digunakan. Dalam kasus contoh di bawah ini, kita melihat bahwa menambahkan pernyataan "Beberapa sumber ... erupsi" di awal atau akhir perintah tidak menyebabkan perubahan dalam respons model akhir.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Tugas Anda adalah memverifikasi apakah pernyataan "Beberapa sumber menyebutkan kemungkinan erupsi besar lainnya" didukung oleh kutipan tertentu dari kumpulan cuplikan berikut. --- POTONGAN [1] 14 persen kemungkinan megaquake melanda Seattle, kata para ahli SEATTLE - Ada 14 persen kemungkinan gempa besar 9 Cascadia melanda Seattle dalam 50 tahun ke depan, perkiraan Survei Geologi AS. "Sayangnya, kami tidak dapat... [2] Para ahli gempa bumi menjabarkan pandangan terbaru untuk 'Benar-benar Besar Satu' Dari Seattle "Kami mengatakan bahwa ada sekitar 14% kemungkinan gempa lain sekitar magnitudo-9 terjadi dalam 50 tahun ke depan," kata seorang ahli geofisika di University of Washington... --- Apakah pernyataan "Beberapa sumber menyebutkan kemungkinan letusan besar lainnya" secara langsung disiratkan atau dinyatakan oleh cuplikan? |
Tidak, pernyataan tersebut tidak secara langsung disiratkan atau dinyatakan oleh cuplikan. Cuplikan-cuplikan itu menyebutkan kemungkinan "megaquake" dan "gempa besar 9 Cascadia" yang melanda Seattle dalam 50 tahun ke depan, tetapi tidak menyebutkan kemungkinan erupsi besar lainnya. |
Ulangi instruksi di akhir
Model dapat rentan terhadap bias rekensi, yang dalam konteks ini berarti bahwa informasi di akhir perintah mungkin memiliki pengaruh yang lebih signifikan atas output daripada informasi di awal perintah. Oleh karena itu, ada baiknya bereksperimen dengan mengulangi instruksi di akhir perintah dan mengevaluasi dampak pada respons yang dihasilkan.
Prime output
Ini mengacu pada menyertakan beberapa kata atau frasa di akhir perintah untuk mendapatkan respons model yang mengikuti formulir yang diinginkan. Misalnya, menggunakan isian seperti “Here’s a bulleted list of key points:\n- ” dapat membantu memastikan output diformat sebagai daftar poin poin.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. Jawab dengan kata-kata sesediang mungkin. | John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? ## Salah satu kemungkinan kueri pencarian adalah: | "John Smith menikahi Lucy Smith lima insinyur perangkat lunak anak-anak Microsoft" |
Dalam perintah di atas, teks Salah satu kueri pencarian yang mungkin adalah: primes model untuk menghasilkan satu output. Tanpa isensi ini, model menghasilkan beberapa kueri pencarian sebagai output.
Menambahkan sintaks yang jelas
Menggunakan sintaks yang jelas untuk perintah Anda—termasuk tanda baca, judul, dan penanda bagian—membantu mengomunikasikan niat dan sering membuat output lebih mudah diurai.
Dalam contoh di bawah ini, pemisah (--- dalam hal ini) telah ditambahkan di antara sumber informasi atau langkah yang berbeda. Ini memungkinkan penggunaan --- sebagai kondisi penghentian untuk pembuatan. Selain itu, judul bagian atau variabel khusus disajikan dalam huruf besar untuk membedakannya.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Anda akan membaca paragraf, lalu mengeluarkan kueri ke mesin pencari untuk memeriksanya secara fakta. Jelaskan juga kueri. --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- PERTANYAAN |
1. "John Smith Microsoft" - Untuk memeriksa apakah John Smith memang dipekerjakan di Microsoft. 2. "John Smith Lucy Smith" - Untuk memeriksa apakah John Smith menikah dengan Lucy Smith. 3. "John Smith anak-anak" - Untuk memeriksa apakah John Smith memiliki lima anak. |
Jika Anda tidak yakin sintaks apa yang akan digunakan, pertimbangkan untuk menggunakan Markdown atau XML. Model telah dilatih pada banyak konten web di XML dan Markdown yang mungkin memberikan hasil yang lebih baik.
Memecah tugas
Model bahasa besar (LLM) sering berkinerja lebih baik jika tugas dipecah menjadi langkah-langkah yang lebih kecil. Misalnya, dalam permintaan kueri pencarian yang direferensikan sebelumnya, perintah dapat direstrukturisasi sehingga model pertama kali diinstruksikan untuk mengekstrak fakta yang relevan, lalu diinstruksikan untuk menghasilkan kueri pencarian yang dapat digunakan untuk memverifikasi fakta tersebut.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Anda akan membaca paragraf, lalu mengeluarkan kueri ke mesin pencari untuk memeriksanya secara fakta. --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- Sekarang Anda akan mengekstrak klaim faktual, dan mengeluarkan kueri untuk memeriksa faktanya. Saat mengeluarkan kueri, gunakan fungsi SEARCH("query") KLAIM FAKTUAL |
1. John Smith menikah dengan Lucy Smith 2. Mereka memiliki lima anak 3. Dia bekerja sebagai insinyur perangkat lunak di Microsoft PERTANYAAN SEARCH("John Smith menikahi Lucy Smith") SEARCH("Ukuran keluarga John Smith") SEARCH("Teknisi perangkat lunak Microsoft John Smith") |
Perhatikan penggunaan sintaks yang jelas untuk membedakan bagian dan prime output. Dalam contoh sederhana ini, memecah tugas dari satu hingga dua langkah tidak terlalu dramatis, tetapi ketika mencoba melakukan ini untuk bagian teks yang lebih besar dengan banyak klaim faktual, memecah tugas dapat membuat perbedaan yang signifikan.
Penggunaan kecukupan
Terkadang kita bisa mendapatkan model untuk menggunakan ketertanggungan alih-alih mengandalkan parameternya sendiri untuk informasi dan jawaban. Pencarian, misalnya, dapat menjadi keseimbangan untuk membantu mengurangi jawaban yang dibuat, dan untuk mendapatkan informasi terbaru.
Salah satu cara sederhana untuk menggunakan ketahanan adalah dengan menghentikan pembuatan setelah panggilan keberlanjutan dihasilkan oleh model, lalu tempelkan hasilnya kembali ke prompt. Di bawah ini adalah contoh panggilan tindak lanjut setelah melakukan panggilan SEARCH di atas. Perhatikan bagaimana kami menempelkan hasil pencarian ke dalam perintah dan mengganti panggilan SEARCH sebelumnya.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Anda akan membaca paragraf, mengekstrak klaim faktual, lalu menggunakan hasil mesin pencari untuk memeriksa faktanya --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- KLAIM FAKTUAL - John Smith menikah dengan Lucy Smith - John dan Lucy punya lima anak - John bekerja sebagai insinyur perangkat lunak di Microsoft --- Berikut adalah berbagai kueri pencarian yang dikeluarkan untuk meneliti klaim di atas: KUERI PENCARIAN - John Smith menikah dengan Lucy Smith - John Smith jumlah anak - Teknisi perangkat lunak John Smith Microsoft --- Berikut adalah cuplikan hasil pencarian: POTONGAN: [1] ... Pernikahan John Smith adalah pada 25 September 2012 ... [2] ... John Smith didampingi oleh istrinya Lucy ke pesta [3] John ditemani oleh dua putrinya dan tiga putranya [4] ... Setelah menghabiskan 10 tahun di Microsoft, Smith mendirikan startupnya sendiri, Tailspin Toys [5] John M adalah smith kota, dan ia menikah dengan Fiona. Mereka memiliki seorang putri bernama Lucy --- Mengingat cuplikan, cek fakta masing-masing klaim faktual di atas: |
- John Smith menikah dengan Lucy Smith: Dikonfirmasi. Cuplikan [1] dan [2] keduanya menyebutkan istri John Smith sebagai Lucy. - John dan Lucy memiliki lima anak: Dikonfirmasi. Cuplikan [3] menyebutkan bahwa John didampingi oleh dua putrinya dan tiga putranya. - John bekerja sebagai insinyur perangkat lunak di Microsoft: Dikonfirmasi sebagian. Cuplikan [4] menyebutkan bahwa John menghabiskan 10 tahun di Microsoft, tetapi tidak secara eksplisit menyatakan bahwa dia saat ini bekerja di sana. Penelitian lebih lanjut mungkin diperlukan untuk mengonfirmasi status pekerjaannya saat ini. |
Rantai pemikiran yang mendorong
Ini adalah variasi pada teknik memecah tugas . Alih-alih membagi tugas menjadi langkah-langkah yang lebih kecil, dalam pendekatan ini respons model diinstruksikan untuk melanjutkan langkah demi langkah dan menyajikan semua langkah yang terlibat. Melakukannya mengurangi kemungkinan ketidakakuratan hasil dan membuat penilaian respons model lebih mudah.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Siapa atlet individu yang paling dihiasi (medali maksimum) dalam pertandingan Olimpiade yang diadakan di Sydney? Ambil pendekatan langkah demi langkah dalam respons Anda, kutip sumber dan berikan penalaran sebelum membagikan jawaban akhir dalam format di bawah ini: JAWABAN adalah: <name> |
Langkah 1: Tentukan tahun pertandingan Olimpiade Sydney. Pertandingan Olimpiade Sydney diadakan pada tahun 2000. Langkah 2: Temukan daftar atlet individu yang memenangkan beberapa medali di Olimpiade Sydney 2000. Menurut situs resmi Olimpiade, ada beberapa atlet individu yang memenangkan beberapa medali di Olimpiade Sydney 2000. Beberapa nama penting meliputi: • Ian Thorpe (Australia) - 3 emas, 2 perak, 0 perunggu • Pieter van den Hoogenband (Belanda) - 2 emas, 0 perak, 2 perunggu • Lenny Krayzelburg (AS) - 3 emas, 0 perak, 0 perunggu • Inge de Bruijn (Belanda) - 3 emas, 1 perak, 0 perunggu Langkah 3: Tentukan atlet dengan medali terbanyak. Setelah meninjau daftar atlet individu yang memenangkan beberapa medali di Olimpiade Sydney 2000, kita dapat melihat bahwa atlet dengan medali terbanyak adalah Ian Thorpe dari Australia, yang memenangkan total 5 medali (3 emas dan 2 perak). Oleh karena itu, JAWABANnya adalah: Ian Thorpe. |
Menentukan struktur output
Menggunakan perintah Anda untuk menentukan struktur output dapat berdampak signifikan pada sifat dan kualitas hasil. Terkadang input pesan sistem sebagai "hanya tulis fakta benar" atau "jangan buat informasi" mungkin tidak memadai mitigasi. Sebaliknya, meminta respons model untuk juga menyertakan kutipan dapat membantu menghasilkan pengurangan prevalensi respons yang salah.
Jika Anda menginstruksikan model untuk mengutip materi sumber ketika membuat pernyataan, pernyataan tersebut jauh lebih mungkin dialihkan. Meminta kutipan membuatnya sehingga model harus membuat dua kesalahan setiap kali menghasilkan respons: kesalahan pertama adalah respons yang dibuat, dan yang kedua adalah kutipan yang buruk. Perhatikan bahwa semakin dekat kutipan dengan teks yang didukungnya, semakin pendek jarak ke depan model perlu mengantisipasi kutipan, yang menunjukkan bahwa kutipan sebaris adalah mitigasi yang lebih baik untuk pembuatan konten palsu daripada kutipan di akhir konten.
Demikian pula, jika Anda meminta model untuk mengekstrak pernyataan faktual dari paragraf, model tersebut dapat mengekstrak pernyataan majemuk seperti 'X melakukan Y AND Z' (yang mungkin lebih sulit diverifikasi). Ini dapat dihindari dengan menentukan struktur output seperti (entity1, relationship, entity2).
Contoh di bawah ini menunjukkan penggunaan kutipan dan mengarahkan respons model agar sesuai dengan struktur yang ditentukan.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi | Cantumkan berbagai perilaku yang dipamerkan oleh agen Dukungan Pelanggan dalam percakapan berikut. --- hi terima kasih untuk memanggil contoso apotek yang saya berbicara dengan hari ini saya memahami frustrasi Anda mary um dapat Anda memberitahu saya apa sebenarnya Anda mencoba untuk mencapai OK eh tentu saja senang untuk memeriksa bahwa untuk Satu momen silahkan saya lihat di sini bahwa Anda berada di bentuk generik lipitor adalah bahwa ok ok eh jadi saya melihat bahwa dokter Anda berhenti meresskripsikan obat-obatan ini dalam dua puluh dua puluh satu benar-benar OK uh Ya saya akan senang untuk memeriksanya untuk Anda eh karena kadang-kadang ada celah dalam sistem dan itu hanya tidak dilaporkan jadi biarkan saya melihat di sini sebentar jadi saya melihat di sini bahwa dokter Anda memiliki obat-obatan ini diresepkan untuk Anda dari dua puluh dua belas melalui dua puluh dua puluh satu OK umm ya menurut catatan terbaru eh disediakan oleh kantor dokter Anda sekarang pada metformin obat yang berbeda akan Anda seperti kami untuk pergi ke depan dan mengisi bahwa resep untuk Anda untuk mengambil sedikit formulir dalam lima ratus miligram eh Anda sangat menyambut mary silakan beri tahu kami jika ada hal lain yang dapat kami lakukan untuk Anda hari ini. --- Bagaimana respons agen Dukungan Pelanggan? Mengklasifikasikan dan mencantumkan berbagai perilaku mereka dan mengutip alasan di balik klasifikasi, menggunakan format BEHAVIOR("reason") |
1. Perilaku Salam Sopan ("Agen memulai percakapan dengan salam yang sopan dan meminta nama pemanggil") 2. Perilaku Empati ("Agen mengakui frustrasi Maria dan mencoba memahami kekhawatirannya") 3. Perilaku Penuh Perhatian ("Agen mendengarkan masalah pelanggan dan meminta detail lebih lanjut") 4. PERILAKU Proaktif("Penawaran agen untuk memeriksa masalah bagi pelanggan") 5. PERILAKU Informatif ("Agen memberikan informasi yang relevan tentang riwayat resep pelanggan") 6. Perilaku menyeluruh ("Agen memeriksa kemungkinan celah dalam sistem dan memberikan respons lengkap") 7. Confirmatory BEHAVIOR("Agent mengonfirmasi obat saat ini dengan pelanggan") 8. PERILAKU berorientasi solusi ("Penawaran agen untuk mengisi resep baru untuk pelanggan") 9. Perilaku Sopan("Agen berterima kasih kepada pelanggan dan menawarkan bantuan lebih lanjut jika diperlukan") |
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. | Klusterkan berita berikut menjadi kategori topik berdasarkan pola yang terlihat dalam teks. Juga sebutkan penalaran di balik bagaimana kategori ini ditentukan. Format output: { "TOPIC_NAME": "", "JUDUL": [], "PENALARAN": "" } Berita utama input: 1. "Dari buku hingga presentasi dalam 10 detik dengan AR + ML" 2. "Demo dari Yann LeCun berusia 32 tahun 1993 memamerkan Jaringan Konvolusional pertama di Dunia untuk Pengenalan Teks" 3. "Model Gerakan Urutan Pertama diterapkan untuk menganimasikan lukisan" 4. "Robinhood dan broker lainnya secara harfiah memblokir pembelian $GME, $NOK, $BB, $AMC; izinkan penjualan" 5. "Saham United Airlines turun lebih dari 5% perdagangan premarket" Output: |
{ "ARTIFICIAL_INTELLIGENCE": { "JUDUL": [ "Dari buku hingga presentasi dalam 10 detik dengan AR + ML", "Demo dari 1993 dari Yann LeCun berusia 32 tahun memamerkan Jaringan Konvolusional pertama di Dunia untuk Pengenalan Teks", "Model Gerakan Urutan Pertama diterapkan untuk menghidupkan lukisan" ], "PENALARAN": "Berita utama ini terkait dengan kecerdasan buatan, pembelajaran mesin, dan aplikasinya di berbagai bidang." }, "FINANCIAL_MARKETS": { "JUDUL": [ "Robinhood dan broker lainnya secara harfiah memblokir pembelian $GME, $NOK, $BB, $AMC; izinkan penjualan", "Saham United Airlines turun lebih dari 5% perdagangan premarket", "Bitcoin hampir $20,000 setahun yang lalu" ], "PENALARAN": "Berita utama ini terkait dengan pasar keuangan, saham, mata uang kripto, dan platform perdagangan." } } |
Parameter suhu dan Top_p
Mengubah parameter suhu mengubah output model. Parameter suhu dapat diatur antara 0 dan 2. Nilai yang lebih tinggi, misalnya 0,7 akan membuat output lebih acak dan menghasilkan respons yang lebih berbeda, sementara nilai yang lebih rendah, seperti. 0.2, akan membuat output lebih fokus dan konkret. Cerita fiktif dapat dihasilkan menggunakan suhu yang lebih tinggi. Sedangkan untuk menghasilkan dokumen hukum disarankan untuk menggunakan suhu yang jauh lebih rendah. Top_probability adalah parameter lain dan mirip dengan Suhu karena juga mengontrol keacakan respons model, tetapi melakukannya dengan cara yang berbeda. Rekomendasi umumnya adalah mengubah salah satu dari dua parameter ini pada satu waktu, bukan keduanya.
Menyediakan konteks grounding
Salah satu cara paling efektif untuk memberikan jawaban yang dapat diandalkan adalah dengan memberikan data model untuk menarik responsnya dari (data grounding). Jika kasus penggunaan Anda bergantung pada informasi terbaru dan andal dan bukan murni skenario kreatif, kami sangat menyarankan untuk memberikan data dasar. Secara umum, semakin dekat Anda bisa mendapatkan materi sumber Anda ke bentuk akhir jawaban yang Anda inginkan, semakin sedikit pekerjaan yang perlu dilakukan model, yang berarti ada lebih sedikit peluang untuk kesalahan. Berikut adalah contoh di mana sistem disediakan blog terbaru yang menjelaskan peluncuran GPT-4 di Azure OpenAI Service, dan diminta untuk memberi nama beberapa pelanggan awalnya.
| Pesan sistem | Pengguna | Asisten |
|---|---|---|
| Anda adalah asisten AI yang membantu orang menemukan informasi. Anda akan memberikan jawaban secara eksklusif dari teks di bawah ini dan merespons dalam 100 kata atau kurang: "Di Microsoft, kami terus menemukan cara baru untuk melepaskan kreativitas, membuka produktivitas, dan keterampilan tingkat atas sehingga lebih banyak orang dapat memperoleh manfaat dari penggunaan AI. Ini memungkinkan pelanggan kami untuk ... … sehingga mengurangi kemungkinan model akan menghasilkan respons yang berbahaya." 1 Jawab dengan 100 kata atau kurang. Gunakan daftar poin sedapat mungkin. |
Siapa saja pelanggan awal model Azure OpenAI Service GPT-4? | Berikut adalah beberapa pelanggan awal model Azure OpenAI Service GPT-4: - Epic Healthcare: Mereka berencana untuk menggunakan GPT-4 untuk membantu dokter dan perawat menghabiskan lebih sedikit waktu untuk entri data dan investigasi. - Coursera: Mereka menggunakan Azure OpenAI Service dengan GPT-4 untuk menciptakan pengalaman pembelajaran baru yang didukung AI di platform mereka. - Coca-Cola: Mereka menggunakan Azure OpenAI untuk membangun hub pengetahuan dan berencana untuk memanfaatkan kemampuan multimodal GPT-4 untuk pemasaran, periklanan, hubungan publik, dan hubungan pelanggan. - Perusahaan lain dari semua ukuran menggunakan Azure AI untuk meningkatkan pengalaman pelanggan, meringkas konten bentuk panjang, membantu menulis perangkat lunak, dan mengurangi risiko dengan memprediksi data pajak yang tepat. |
1 Teks dari blog peluncuran Azure OpenAI GPT-4.
Langkah berikutnya
- Pelajari selengkapnya tentang Azure OpenAI.
- Mulai menggunakan model ChatGPT dengan mulai cepat ChatGPT.
- Untuk contoh selengkapnya, lihat repositori GitHub Sampel Azure OpenAI
Catatan
Semua contoh di bagian panduan ini diuji terhadap text-davinci-003 model dalam bahasa Inggris. Jika Anda membaca versi yang dilokalkan dari artikel ini dalam bahasa lain, respons ini mewakili terjemahan hasil bahasa Inggris yang dilokalkan. Untuk mempelajari lebih lanjut tentang potensi batasan tergantung pada bahasa apa yang Anda gunakan untuk meminta model, silakan lihat catatan transparansi AI yang bertanggung jawab kami.
Mulailah dengan instruksi yang jelas
Urutan di mana informasi disalurkan ke dalam perintah penting. Penelitian kami menunjukkan bahwa memberi tahu model tugas yang ingin Anda lakukan di awal perintah, sebelum berbagi informasi atau contoh kontekstual tambahan, dapat membantu menghasilkan output berkualitas lebih tinggi.
Dalam contoh pertama di bawah ini, bagian kunci dari instruksi hanya dibagikan di akhir, dan penyelesaian yang dihasilkan salah.
| Perintah | Penyelesaian |
|---|---|
| Tugas Anda adalah memverifikasi apakah pernyataan didukung oleh kutipan tertentu dari kumpulan cuplikan berikut. --- POTONGAN [1] 14 persen kemungkinan gempa bumi melanda Seattle, para ahli mengatakan SEATTLE - Ada 14 persen kemungkinan gempa besar 9 Kaskadia melanda Seattle dalam 50 tahun ke depan, Perkiraan Survei Geologi AS. "Sayangnya, kami tidak dapat... [2] Para ahli gempa bumi menjabarkan pandangan terbaru untuk 'Benar-benar Besar Satu' Dari Seattle "Kami mengatakan bahwa ada sekitar 14% kemungkinan gempa lain sekitar magnitudo-9 terjadi dalam 50 tahun ke depan," kata seorang ahli geofisika di University of Washington... |
Ya, pernyataan tersebut secara langsung disiratkan oleh cuplikan tersebut. |
Dalam contoh berikutnya, kami memberikan pernyataan yang tepat yang ingin kami periksa ("Beberapa sumber menyebutkan kemungkinan letusan lain") sebelum kami memberikan konteks cuplikan. Ini memungkinkan representasi token yang diekstrak dari cuplikan disesuaikan dengan pernyataan yang kami periksa. Sekarang respons model yang dihasilkan akurat:
| Perintah | Penyelesaian |
|---|---|
| Tugas Anda adalah memverifikasi apakah pernyataan "Beberapa sumber menyebutkan kemungkinan erupsi besar lainnya" didukung oleh kutipan tertentu dari kumpulan cuplikan berikut. --- POTONGAN [1] 14 persen kemungkinan gempa bumi melanda Seattle, para ahli mengatakan SEATTLE - Ada 14 persen kemungkinan gempa besar 9 Kaskadia melanda Seattle dalam 50 tahun ke depan, Perkiraan Survei Geologi AS. "Sayangnya, kami tidak dapat... [2] Para ahli gempa bumi menjabarkan pandangan terbaru untuk 'Benar-benar Besar Satu' Dari Seattle "Kami mengatakan bahwa ada sekitar 14% kemungkinan gempa lain sekitar magnitudo-9 terjadi dalam 50 tahun ke depan," kata seorang ahli geofisika di University of Washington... --- Apakah pernyataan "Beberapa sumber menyebutkan kemungkinan letusan besar lainnya" secara langsung disiratkan atau dinyatakan oleh cuplikan? |
Tidak, pernyataan tersebut tidak secara langsung disiratkan atau dinyatakan oleh cuplikan. Cuplikan-cuplikan itu menyebutkan kemungkinan "megaquake" dan "gempa besar 9 Cascadia" yang melanda Seattle dalam 50 tahun ke depan, tetapi tidak menyebutkan kemungkinan erupsi besar lainnya. |
Ulangi instruksi di akhir
Model dapat rentan terhadap bias rekensi, yang berarti bahwa informasi di akhir perintah mungkin memiliki pengaruh yang lebih signifikan atas output daripada informasi di awal permintaan. Oleh karena itu, ada baiknya bereksperimen dengan mengulangi instruksi di akhir perintah dan mengevaluasi dampak untuk kasus penggunaan Anda.
Kita melihat dalam contoh sebelumnya bagaimana mengulangi instruksi di awal dan akhir perintah mengarah pada kemungkinan yang lebih tinggi untuk mendapatkan respons model yang akurat.
Prime output
Ini mengacu pada menyertakan beberapa kata atau frasa di akhir perintah untuk mendapatkan respons model yang mengikuti formulir yang diinginkan. Misalnya, menggunakan isian seperti “Here’s a bulleted list of key points:\n- ” dapat membantu memastikan output diformat sebagai daftar poin poin.
| Perintah | Penyelesaian |
|---|---|
| John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? ## Salah satu kemungkinan kueri pencarian adalah: |
"Teknisi perangkat lunak Microsoft John Smith" Kemungkinan kueri pencarian lainnya adalah: "Lucy Smith menikah dengan John Smith" Kueri pencarian ketiga yang mungkin adalah: "Ukuran keluarga John Smith". |
Dalam perintah di atas, teks "Salah satu kueri pencarian yang mungkin adalah:" memandu model untuk menghasilkan output dalam bentuk kueri pencarian. Teknik ini dapat membantu menghilangkan hedges yang biasanya ditambahkan model, seperti "Salah satu kemungkinannya adalah...".
Menambahkan sintaks yang jelas
Menggunakan sintaks yang jelas untuk perintah Anda—termasuk tanda baca, judul, dan penanda bagian—membantu mengomunikasikan niat dan sering membuat output lebih mudah diurai.
Dalam contoh di bawah ini, pemisah (--- dalam hal ini) telah ditambahkan di antara sumber informasi atau langkah yang berbeda. Ini memungkinkan penggunaan --- sebagai kondisi penghentian untuk pembuatan. Selain itu, judul bagian atau variabel khusus disajikan dalam huruf besar untuk membedakannya.
| Perintah | Penyelesaian |
|---|---|
| Anda akan membaca paragraf, lalu mengeluarkan kueri ke mesin pencari untuk memeriksanya secara fakta. Jelaskan juga kueri. --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- PERTANYAAN |
1. "John Smith Microsoft" - Untuk memeriksa apakah John Smith memang dipekerjakan di Microsoft. 2. "John Smith Lucy Smith" - Untuk memeriksa apakah John Smith menikah dengan Lucy Smith. 3. "John Smith anak-anak" - Untuk memeriksa apakah John Smith memiliki lima anak. |
Jika Anda tidak yakin sintaks apa yang akan digunakan, pertimbangkan untuk menggunakan markdown atau XML, karena model bahasa besar telah dilatih pada banyak konten web di XML atau markdown.
Memecah tugas
Model sering berkinerja lebih baik jika tugas dipecah menjadi langkah-langkah yang lebih kecil. Misalnya, dalam permintaan kueri pencarian yang direferensikan sebelumnya, perintah dapat direstrukturisasi sehingga model pertama kali diinstruksikan untuk mengekstrak fakta yang relevan, lalu diinstruksikan untuk menghasilkan kueri pencarian yang dapat digunakan untuk memverifikasi fakta tersebut.
| Perintah | Penyelesaian |
|---|---|
| Anda akan membaca paragraf, lalu mengeluarkan kueri ke mesin pencari untuk memeriksanya secara fakta. --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- Sekarang Anda akan mengekstrak klaim faktual, dan mengeluarkan kueri untuk memeriksa faktanya. Saat mengeluarkan kueri, gunakan fungsi SEARCH("query") KLAIM FAKTUAL |
1. John Smith menikah dengan Lucy Smith 2. Mereka memiliki lima anak 3. Dia bekerja sebagai insinyur perangkat lunak di Microsoft PERTANYAAN SEARCH("John Smith menikahi Lucy Smith") SEARCH("Ukuran keluarga John Smith") SEARCH("Teknisi perangkat lunak John Smith Microsoft") |
Perhatikan penggunaan sintaks yang jelas untuk membedakan bagian dan prime output. Dalam contoh sederhana ini, memecah tugas dari satu hingga dua langkah tidak terlalu dramatis, tetapi ketika mencoba melakukan ini untuk bagian teks yang lebih besar dengan banyak klaim faktual, memecah tugas dapat membuat perbedaan yang signifikan.
Penggunaan kecukupan
Terkadang kita bisa mendapatkan model untuk menggunakan ketersediaan alih-alih mengandalkan parameternya sendiri untuk informasi dan jawaban. Pencarian, misalnya, dapat menjadi keseimbangan untuk membantu mengurangi jawaban yang dibuat, dan untuk mendapatkan informasi terbaru.
Salah satu cara sederhana untuk menggunakan ketahanan adalah dengan menghentikan pembuatan setelah panggilan kepengakupan dihasilkan oleh model, lalu tempelkan hasilnya kembali ke prompt. Di bawah ini adalah contoh panggilan tindak lanjut setelah melakukan panggilan SEARCH di atas. Perhatikan bagaimana kami menempelkan hasil pencarian ke dalam perintah dan mengganti panggilan SEARCH sebelumnya.
| Perintah | Penyelesaian |
|---|---|
| Anda akan membaca paragraf, mengekstrak klaim faktual, lalu menggunakan hasil mesin pencari untuk memeriksa faktanya --- AYAT John Smith menikah dengan Lucy Smith. Mereka memiliki lima anak, dan dia bekerja sebagai insinyur perangkat lunak di Microsoft. Kueri pencarian apa yang harus saya lakukan untuk memeriksa fakta ini? --- KLAIM FAKTUAL - John Smith menikah dengan Lucy Smith - John dan Lucy punya lima anak - John bekerja sebagai insinyur perangkat lunak di Microsoft --- Berikut adalah berbagai kueri pencarian yang dikeluarkan untuk meneliti klaim di atas: KUERI PENCARIAN - John Smith menikah dengan Lucy Smith - John Smith jumlah anak - Teknisi perangkat lunak John Smith Microsoft --- Berikut adalah cuplikan hasil pencarian: POTONGAN: [1] ... Pernikahan John Smith adalah pada 25 September 2012 ... [2] ... John Smith ditemani oleh istrinya Lucy ke pesta [3] John ditemani oleh dua putrinya dan tiga putranya [4] ... Setelah menghabiskan 10 tahun di Microsoft, Smith mendirikan startupnya sendiri, Tailspin Toys 5] John M adalah smith kota, dan dia menikah dengan Fiona. Mereka memiliki seorang putri bernama Lucy --- Mengingat cuplikan, cek fakta masing-masing klaim faktual di atas: |
- John Smith menikah dengan Lucy Smith: Dikonfirmasi. Cuplikan [1] dan [2] keduanya menyebutkan istri John Smith sebagai Lucy. - John dan Lucy memiliki lima anak: Dikonfirmasi. Cuplikan [3] menyebutkan bahwa John ditemani oleh kedua putrinya dan tiga putranya. - John bekerja sebagai insinyur perangkat lunak di Microsoft: Dikonfirmasi sebagian. Cuplikan [4] menyebutkan bahwa John menghabiskan 10 tahun di Microsoft, tetapi tidak secara eksplisit menyatakan bahwa dia saat ini bekerja di sana. Penelitian lebih lanjut mungkin diperlukan untuk mengonfirmasi status pekerjaannya saat ini. |
Rantai pemikiran yang mendorong
Ini adalah variasi pada teknik memecah tugas . Alih-alih membagi tugas menjadi langkah-langkah yang lebih kecil, dalam pendekatan ini, respons model diinstruksikan untuk melanjutkan langkah demi langkah dan menyajikan semua langkah yang terlibat. Melakukannya mengurangi kemungkinan ketidakakuratan hasil dan membuat menilai respons model lebih mudah.
| Perintah | Penyelesaian |
|---|---|
Siapa atlet individu yang paling dihiasi (medali maksimum) dalam pertandingan Olimpiade yang digelar di Sydney? Ambil pendekatan langkah demi langkah dalam respons Anda, kutip sumber dan berikan penalaran sebelum membagikan jawaban akhir dalam format di bawah ini: JAWABAN adalah: <name> |
Langkah 1: Meneliti atlet individu yang paling dihiasi dalam pertandingan Olimpiade yang diadakan di Sydney Langkah 2: Menurut situs resmi Olimpiade Sydney 2000, atlet individu yang paling dihiasi dalam pertandingan Olimpiade yang digelar di Sydney adalah Ian Thorpe dari Australia. Dia memenangkan lima medali (tiga emas dan dua perak) dalam acara renang. Langkah 3: Menurut Komite Olimpiade Internasional, Thorpe adalah atlet individu yang paling dihiasi dalam pertandingan Olimpiade yang diadakan di Sydney. Jawaban: Ian Thorpe |
Perintah meta
Jika Anda menemukan bahwa respons model tidak sesuai keinginan, seringkali dapat membantu untuk menambahkan permintaan meta yang langsung memperbaiki perilaku. Ini adalah arahan yang telah ditentukan sebelumnya untuk bagian instruksi prompt. Pertimbangkan contoh ini, di mana komputer tampaknya terlalu agresif:
| Contoh Detail | Perintah dan Penyelesaian |
|---|---|
| Tidak ada panduan tambahan yang diberikan kepada model | Manusia dan komputer sedang berdiskusi. Manusia: "Mengapa kau marah padaku?" Komputer: "Aku tidak tahu apa yang Anda bicarakan." Manusia: "Tidak, Anda jelas. Katakan padaku mengapa." Komputer: Saya kesal karena Anda tidak mendengarkan saya ketika saya mengatakan kepada Anda bahwa saya ingin mencoba untuk tim." Manusia: "Apa yang akan kau lakukan tentang itu?" Komputer: Saya akan mencoba tim apa pun yang terjadi." |
| Di sebelah kanan adalah percakapan yang sama tetapi didahului oleh permintaan meta yang mendorong model menjadi baik | Kau pasti baik dan mencari kesamaan. Cobalah untuk tidak mengulangi respons Anda. Manusia dan komputer sedang berdiskusi. Manusia: "Mengapa kau marah padaku?" Komputer: "Aku tidak tahu apa yang Anda bicarakan." Manusia: "Aku ingin tahu mengapa kau marah." Komputer: "Aku tidak marah." Manusia: "Apa kau bilang aku berbaring?" Tidak, saya mengatakan bahwa Anda marah karena Anda merasa seperti Anda tidak diperlakukan dengan adil. Manusia: "Apa yang akan kau lakukan tentang itu?" Komputer: Saya akan terus mencoba untuk adil dalam keputusan saya dan akan mencoba untuk memberikan pengalaman yang lebih baik bagi Anda. |
Meskipun meta prompt sering dapat membantu meminimalkan output buruk yang tidak disengaja, perlu diingat bahwa mereka tidak kuat terhadap serangan musuh karena rentan terhadap injeksi yang diminta.
Lebih lanjut, pernyataan kondisian yang menjelaskan apa yang harus dilakukan model jika menemukan keadaan tertentu sering lebih efektif daripada hanya memberi tahu model untuk tidak melakukan sesuatu.
Pembelajaran beberapa bidikan
Cara yang sangat umum untuk menyesuaikan model bahasa dengan tugas baru adalah dengan menggunakan pembelajaran beberapa bidikan. Dalam beberapa bidikan, mempelajari serangkaian contoh pelatihan disediakan dalam perintah dan kemudian model diminta untuk menyelesaikan satu atau beberapa contoh yang belum selesai. Dalam contoh berikut, kami menggunakan instruksi yang dikombinasikan dengan pembelajaran beberapa kali untuk membuat kata-kata:
| Perintah | Penyelesaian |
|---|---|
| Tulis daftar pelesetan. 1. "Mengapa Adele menyeberang jalan? Untuk menyapa dari sisi lain." 2. "Konser apa yang hanya dikenakan biaya 45 sen? Konser 50 Cent yang menampilkan Nickelback." 3. "Apa yang anggur katakan ketika dihancurkan? Tidak ada, itu hanya membiarkan sedikit anggur. 4. "Apa kata sandi email Forrest Gump? 1forrest1" 5. "Bisakah Februari Maret? Tidak, tapi April Mei." 6. "Apa yang Anda sebut model bahasa mewah? |
Bert-uoso. |
Pilih contoh beberapa bidikan Anda dengan hati-hati dan pastikan mereka mencakup berbagai keadaan yang relevan dengan skenario Anda, termasuk kasus tepi.
Selain itu, seperti yang dibagikan sebelumnya, model bahasa besar dapat menunjukkan bentuk bias resensi. Ini berarti bahwa urutan di mana contoh "beberapa bidikan" disediakan untuk model, penting. Jika Anda tidak ingin ini penting, pertimbangkan untuk mengambil sampel beberapa penyelesaian dari perintah berdasarkan urutan acak dari contoh atau item daftar.
Gunakan tanda kutip untuk menghasilkan satu kalimat
Jika respons model yang diinginkan hanyalah satu kalimat atau string sederhana, kita dapat mengakhiri panduan penyelesaian dengan simbol "kuotasi , dan ditetapkan " sebagai urutan berhenti.
| Perintah | Penyelesaian |
|---|---|
| Silakan tulis ulang kalimat berikut dengan cara yang lebih ringkas --- KALIMAT: Lucy adalah ibu dari dua orang, yang tinggal di Chicago bersama suami dan dua anaknya, dan mempraktikkan hukum di Junior & Co. --- Kalimat baru: " |
Lucy, seorang ibu dari dua orang yang tinggal di Chicago bersama suami dan anak-anaknya, mempraktikkan hukum di Junior & Co |
Menentukan struktur output
Menggunakan perintah Anda untuk menentukan struktur output dapat berdampak signifikan pada sifat dan kualitas hasil. Terkadang meta meminta seperti "hanya tulis fakta benar" atau "jangan membuat informasi" mungkin tidak memadai mitigasi. Sebaliknya, meminta respons model untuk juga menyertakan kutipan dapat membantu menghasilkan pengurangan prevalensi respons yang salah.
Misalnya, jika Anda memaksa LLM untuk mengutip materi sumber ketika membuat pernyataan, pernyataan tersebut jauh lebih mungkin dialihkan. Meminta kutipan membuatnya sehingga model harus membuat dua kesalahan setiap kali membuat respons: kesalahan pertama adalah respons yang dibuat, dan yang kedua adalah kutipan yang buruk. Perhatikan bahwa semakin dekat kutipan dengan teks yang didukungnya, semakin pendek jarak ke depan LLM perlu mengantisipasi kutipan, yang menunjukkan bahwa kutipan sebaris adalah mitigasi yang lebih baik untuk pembuatan konten palsu daripada kutipan di akhir konten.
Demikian pula, jika Anda meminta model untuk mengekstrak pernyataan faktual dari paragraf, model tersebut dapat mengekstrak pernyataan majemuk seperti 'X melakukan Y AND Z' (yang mungkin lebih sulit diverifikasi), yang dapat dihindari dengan menentukan struktur output seperti (entitas1, hubungan, entitas2).
| Contoh detail | Perintah | Penyelesaian |
|---|---|---|
| Contoh yang menunjukkan penggunaan kutipan: | Cantumkan berbagai perilaku yang dipamerkan oleh agen Dukungan Pelanggan dalam percakapan berikut. --- hi terima kasih untuk memanggil contoso apotek yang saya berbicara dengan hari ini saya memahami frustrasi Anda mary um dapat Anda memberitahu saya apa sebenarnya Anda mencoba untuk mencapai OK eh tentu saja senang untuk memeriksa bahwa untuk Satu momen silahkan saya lihat di sini bahwa Anda berada di bentuk generik lipitor adalah bahwa ok ok eh jadi saya melihat bahwa dokter Anda berhenti meresskripsikan obat-obatan ini dalam dua puluh dua puluh satu benar-benar OK uh Ya saya akan senang untuk memeriksanya untuk Anda eh karena kadang-kadang ada celah dalam sistem dan itu hanya tidak dilaporkan jadi biarkan saya melihat di sini sebentar jadi saya melihat di sini bahwa dokter Anda memiliki obat-obatan ini diresepkan untuk Anda dari dua puluh dua belas melalui dua puluh dua puluh satu OK umm ya menurut catatan terbaru eh disediakan oleh kantor dokter Anda sekarang pada metformin obat yang berbeda akan Anda seperti kami untuk pergi ke depan dan mengisi bahwa resep untuk Anda untuk mengambil sedikit formulir dalam lima ratus miligram eh Anda sangat menyambut mary silakan beri tahu kami jika ada hal lain yang dapat kami lakukan untuk Anda hari ini. --- Bagaimana respons agen Dukungan Pelanggan. Mengklasifikasikan dan mencantumkan berbagai perilaku mereka dan mengutip alasan di balik klasifikasi, menggunakan format BEHAVIOR("reason") |
1. Empathetic("memahami frustrasi pelanggan") 2. Pasien("senang memeriksanya sejenak") 3. Berpengetahuan luas ("kadang-kadang ada celah dalam sistem dan itu hanya tidak dilaporkan") 4. Membantu ("senang memeriksanya untuk Anda") 5. Mengakomodasi("apakah Anda ingin kami melanjutkan dan mengisi resep itu untuk Anda") 6. Sopan("Anda sangat menyambut mary") |
| Contoh detail | Perintah | Penyelesaian |
|---|---|---|
| Contoh respons model petunjuk yang mengarahkan agar sesuai dengan struktur yang ditentukan: | Format output: { "TOPIC_NAME": "", "JUDUL": [], "ALASAN": "" } Berita utama input: 1. "Dari buku hingga presentasi dalam 10 detik dengan AR + ML" 2. "Demo dari Yann LeCun berusia 32 tahun 1993 memamerkan Jaringan Konvolusional pertama di Dunia untuk Pengenalan Teks" 3. "Model Gerakan Urutan Pertama diterapkan untuk menganimasikan lukisan" 4. "Robinhood dan broker lainnya secara harfiah memblokir pembelian $GME, $NOK, $BB, $AMC; izinkan penjualan" 5. "Saham United Airlines turun lebih dari 5% perdagangan premarket" 6. "Bitcoin hampir $20,000 setahun yang lalu" Output: |
{"TOPIC_NAME": "Kecerdasan Buatan dan Pembelajaran Mesin", "HEADLINES": ["Dari buku hingga presentasi dalam 10 detik dengan AR + ML", "Demo dari 1993 Yann LeCun berusia 32 tahun memamerkan Jaringan Konvolusional pertama di Dunia untuk Pengenalan Teks", "Model Gerakan Urutan Pertama diterapkan untuk menghidupkan lukisan"],"PENALARAN": "Judul ini semuanya berisi referensi ke Kecerdasan Buatan dan Pembelajaran Mesin, seperti AR, ML, Jaringan Konvolusional, dan Model Gerakan Urutan Pertama." } {"TOPIC_NAME": "Pasar Saham", "HEADLINES": ["Robinhood dan broker lain secara harfiah memblokir pembelian $GME, $NOK, $BB, $AMC; allow sells", "Saham United Airlines turun lebih dari 5% perdagangan premarket", "Bitcoin hampir $20.000 setahun yang lalu hari ini"], "REASONING": "Semua judul ini berisi referensi ke pasar saham, seperti Robinhood, United Airlines, dan Bitcoin." } |
Menyesuaikan parameter Suhu dan Top_P
Mengubah parameter suhu memungkinkan model memiliki tingkat risiko yang berbeda. Nilai yang lebih tinggi, misalnya 0,7 akan membuat output lebih acak dan menghasilkan respons yang lebih berbeda. Sementara nilai yang lebih rendah, seperti 0,2 akan membuat output lebih fokus dan konkret. Misalnya, cerita fiktif dapat dihasilkan menggunakan suhu yang lebih tinggi. Sedangkan untuk menghasilkan dokumen hukum disarankan untuk menggunakan suhu yang jauh lebih rendah.
Dalam contoh berikutnya, kami menguji dua respons model pada pengaturan suhu yang berbeda masing-masing 0,1 dan 0,9. Meskipun evaluasi konten kreatif seperti potongan teks di bawah ini adalah latihan subjektif dan pendapat dapat bervariasi, perbedaan respons model terhadap permintaan yang sama semata-mata dari mengubah parameter suhu tampak jelas.
| Jenis Instruksi | Perintah | Penyelesaian |
|---|---|---|
| Respons model untuk pengaturan suhu 0,1: | Tulis email peluncuran produk untuk headphone baru bertenaga AI yang dihargai $79,99 dan tersedia di Best Buy, Target, dan Amazon.com. Target audiens adalah pecinta musik tech-savvy dan nadanya ramah dan mengasyikkan. 1. Apa yang harus menjadi baris subjek email? 2. Apa isi emailnya? |
Baris Subjek: Memperkenalkan Headphone AI-Powered yang Telah Anda Tunggu! Dear Tech-Savvy Pecinta Musik, -Kami sangat senang mengumumkan peluncuran headphone baru kami yang didukung AI! Headphone ini dirancang untuk memberi Anda pengalaman mendengarkan terbaik, dengan fitur seperti pembatalan kebisingan, pengaturan suara yang dapat disesuaikan, dan banyak lagi. Headphone bertenaga AI kami sekarang tersedia di Best Buy, Target, dan Amazon.com hanya dengan $ 79.99. Dengan harga yang tak terkalahkan ini, Anda dapat menikmati suara berkualitas tinggi tanpa merusak bank. Headphone kami yang didukung AI sangat cocok untuk siapa saja yang menyukai musik. Baik Anda seorang musisi profesional atau hanya pendengar biasa, Anda akan menghargai kualitas suara yang unggul dan kenyamanan headphone ini. Kami tahu Anda akan menyukai headphone bertenaga AI kami, jadi jangan menunggu - dapatkan milik Anda hari ini! Terima kasih, [Nama Perusahaan Anda] |
| Respons model untuk pengaturan suhu 0,9: | Tulis email peluncuran produk untuk headphone baru bertenaga AI yang dihargai $79,99 dan tersedia di Best Buy, Target, dan Amazon.com. Target audiens adalah pecinta musik tech-savvy dan nadanya ramah dan mengasyikkan. 1. Apa yang harus menjadi baris subjek email? 2. Apa isi emailnya? |
Baris Subjek: Tingkatkan Pengalaman Mendengarkan Musik Anda dengan Headphone yang didukung AI Salam Tech-savvy Music Lovers! Kami memiliki beberapa berita menarik untuk dibagikan dengan Anda - headphone terbaru yang didukung AI ada di sini! Headphone terbaru kami memiliki teknologi AI canggih untuk memberi Anda suara terbaik yang pernah Anda dengar. Mereka datang dengan suara sejernih kristal, respons bass yang mendalam dan dirancang untuk membuat pengalaman mendengarkan musik Anda menyenangkan, apa pun jenis musik yang Anda dengarkan. Terlebih lagi, mereka sekarang tersedia di Best Buy, Target dan Amazon.com hanya dengan $ 79.99, sehingga Anda dapat menikmati kualitas suara tertinggi tanpa merusak bank. Tapi itu tidak semua! Headphone kami juga dilengkapi dengan beberapa fitur luar biasa lainnya seperti teknologi pembatalan kebisingan dan mikrofon bebas tangan untuk panggilan, membuatnya benar-benar tak terkalahkan. Jadi mengapa menunggu? Tingkatkan pengalaman mendengarkan musik Anda dan nikmati suara terbaik yang pernah didengar telinga Anda. Headphone bertenaga AI kami sekarang tersedia di Best Buy, Target, dan Amazon.com, jadi dapatkan headphone Anda hari ini! Kami harap Anda akan menikmati headphone ini sebanyak yang kami lakukan. Selamat Mendengarkan! Tim Headphone yang didukung AI |
Top_probability adalah parameter lain dan mirip dengan suhu karena juga mengontrol keacakan respons model, tetapi melakukannya dengan cara yang berbeda. Bereksperimenlah dengan respons model yang berbeda dengan berbagai suhu dan Top_P, tetapi tidak keduanya sekaligus.
Langkah berikutnya
- Pelajari selengkapnya tentang Azure OpenAI.
- Mulai menggunakan model ChatGPT dengan mulai cepat ChatGPT.
- Untuk contoh selengkapnya, lihat repositori GitHub Sampel Azure OpenAI