Nota
Capaian ke halaman ini memerlukan kebenaran. Anda boleh cuba mendaftar masuk atau menukar direktori.
Capaian ke halaman ini memerlukan kebenaran. Anda boleh cuba menukar direktori.
Model gesaan tidak beroperasi pada perkataan atau aksara sebagai unit teks, tetapi sebaliknya menggunakan sesuatu di antaranya: token.
- Token boleh menjadi satu aksara, pecahan perkataan atau keseluruhan perkataan.
- Banyak perkataan biasa diwakili oleh satu token.
- Perkataan yang kurang biasa diwakili oleh berbilang token.
- Apabila imej atau dokumen disertakan dalam arahan segera, imej atau dokumen diterjemahkan kepada token mengikut peraturan penukaran.
Token digunakan oleh gesaan
Apabila anda membuat arahan gesaan dan menjalankannya, perkara berikut berlaku:
- Arahan gesaan akan didekonstruksi kepada jujukan token yang dipanggil token input.
- Model ini menjana jawapan sebagai urutan token yang dipanggil token output.
Token input ialah jumlah token yang datang daripada:
- Metaprompt sistem daripada Microsoft. Gesaan sistem ini tidak kelihatan dan penting untuk keselamatan tindak balas segera anda. Ia mewakili beberapa ratus token.
- Arahan segera.
- Jika ada, nilai input.
- Jika ada, data pengetahuan diperoleh semula.
Token output ialah token yang datang daripada respons model.
Bagaimana token memberi kesan kepada pelesenan
Gabungan token input, token output dan versi model membolehkan anda mengira kos larian gesaan anda. Ketahui lebih lanjut dalam AI Builder bahagian kad kadar dalam Microsoft Power Platform fail PDF yang boleh dimuat turun Panduan Pelesenan.
Apabila anda membina penyelesaian yang menyertakan gesaan, adalah penting bagi anda untuk menilai kos purata gesaan. Dua kemungkinan untuk mencapai matlamat itu dijelaskan dalam bahagian berikut.
Kredit dikira dalam pembina prompt
Apabila anda menguji gesaan dalam AI Hub dalam Power Automate Power Apps atau portal, anda boleh memaparkan kredit yang digunakan oleh gesaan anda. Ujian adalah percuma, jadi ia adalah nilai unjuran.
Kiraan token daripada Power Automate aliran
Apabila anda memanggil tindakan gesaan dalam aliran, anda boleh mendapatkan input dan token yang berkaitan menggunakan formula.
Token input
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/promptTokens']
Token keluaran
outputs('Create_text_with_GPT_using_a_prompt')?['body/responsev2/predictionOutput/completionTokens']
Bagaimana imej atau dokumen diterjemahkan kepada token
Apabila anda menghantar imej kepada gesaan, ia akan ditukar kepada token.
Apabila anda menghantar dokumen PDF ke dalam gesaan, ia mula-mula ditukar kepada imej pada satu imej setiap halaman, dan kemudian kepada token.
Penukaran token-ke-imej menggunakan logik OpenAI Azuresepenuhnya.
Kami menggunakan tetapan automatik apabila menghantar imej kepada Azure OpenAI. Ini bermakna kos token imej bergantung pada resolusi awalnya.
Imej resolusi rendah
Imej dengan resolusi lebih rendah daripada 512 x 512 piksel mempunyai kadar penukaran rata sebanyak 85 token setiap imej, tanpa mengira saiz.
Imej resolusi tinggi
Untuk imej dengan resolusi lebih tinggi daripada 512 x 512 piksel, penukaran token berlaku dalam dua langkah. Langkah-langkah diterangkan dalam jadual berikut.
| Langkah | Description | Proses penukaran |
|---|---|---|
| 1 | Ubah saiz imej | Imej diubah saiznya agar sesuai dalam segi empat sama 2048 x 2048 piksel. Jika bahagian terpendek lebih besar daripada 768 piksel, imej diubah saiznya supaya bahagian terpendek ialah 768 piksel panjang. Nisbah aspek dikekalkan semasa saiz semula. |
| 2 | Penukaran token | Imej yang diubah saiznya dibahagikan kepada jubin 512 x 512 piksel. Mana-mana jubin separa dibundarkan kepada jubin penuh. Bilangan jubin menentukan jumlah kos token: Setiap jubin 512 x 512 piksel berharga 170 token. Tambahan 85 token asas ditambah kepada jumlah keseluruhan. |