Bagikan melalui

Mulai Cepat: Mulai menggunakan GPT-35-Turbo dan GPT-4 dengan Azure OpenAI Service di IntelliJ

  • Artikel

Artikel ini memperlihatkan kepada Anda cara memulai Azure OpenAI Service di IntelliJ IDEA. Ini menunjukkan kepada Anda cara menggunakan model obrolan seperti GPT-3.5-Turbo dan GPT-4 untuk menguji dan bereksperimen dengan parameter dan sumber data yang berbeda.

Prasyarat

Menginstal dan masuk

Langkah-langkah berikut memandu Anda melalui proses masuk Azure di lingkungan pengembangan IntelliJ Anda:

  1. Jika Anda belum menginstal plugin, lihat Azure Toolkit untuk IntelliJ.

  2. Untuk masuk ke akun Azure Anda, buka bilah samping kiri Azure Explorer, lalu pilih ikon Azure Sign In. Atau, Anda dapat menavigasi ke Tools, perluas Azure, lalu pilih Azure Sign in.

    Cuplikan layar IntelliJ IDEA dengan tombol Masuk Azure disorot.

  3. Di jendela Masuk Azure , pilih OAuth 2.0 , lalu pilih Masuk. Untuk pilihan masuk lainnya, lihat Instruksi Masuk untuk Azure Toolkit for IntelliJ.

  4. Di browser, masuk dengan akun Anda yang memiliki akses ke sumber daya OpenAI Anda lalu kembali ke IntelliJ. Dalam kotak dialog Pilih Langganan, pilih langganan yang ingin Anda gunakan, lalu pilih Pilih.

Membuat dan menyebarkan sumber daya Azure OpenAI Service

  1. Setelah alur kerja masuk, klik kanan item Azure OpenAI di Azure Explorer dan pilih Buat Layanan Azure OpenAI.

  2. Dalam kotak dialog Buat Layanan Azure OpenAI , tentukan informasi berikut lalu pilih OK:

    • Nama: Nama deskriptif untuk sumber daya Azure OpenAI Service Anda, seperti MyOpenAIResource. Nama ini juga merupakan nama domain kustom Anda di titik akhir Anda. Nama sumber daya Anda hanya dapat menyertakan karakter alfanumerik dan tanda hubung, dan tidak dapat memulai atau mengakhiri dengan tanda hubung.
    • Wilayah: Lokasi instans Anda. Model tertentu hanya tersedia di wilayah tertentu. Untuk informasi selengkapnya, lihat model Azure OpenAI Service.
    • Sku: Sumber daya Azure OpenAI standar ditagih berdasarkan penggunaan token. Untuk informasi selengkapnya, lihat harga Azure OpenAI Service di .

  3. Sebelum dapat menggunakan penyelesaian obrolan, Anda perlu mengimplementasikan model. Klik kanan instans Azure OpenAI Anda, dan pilih Buat Penyebaran Baru. Dalam kotak dialog Buat Penyebaran Azure OpenAI, tentukan informasi berikut lalu pilih OK:

    • Nama Penyebaran: Pilih nama dengan hati-hati. Nama penyebaran digunakan dalam kode Anda untuk memanggil model dengan menggunakan pustaka klien dan REST API.
    • Model: Pilih model. Ketersediaan model bervariasi menurut wilayah. Untuk daftar model yang tersedia per wilayah, lihat bagian tabel ringkasan model dan ketersediaan wilayah model Azure OpenAI Service.

Toolkit menampilkan pesan status ketika penyebaran selesai dan siap digunakan.

Berinteraksi dengan Azure OpenAI menggunakan perintah dan pengaturan

  1. Klik kanan pada sumber daya Azure OpenAI Anda lalu pilih Buka di AI Playground.

  2. Anda dapat mulai menjelajahi kemampuan OpenAI melalui taman bermain Azure OpenAI Studio Chat di IntelliJ IDEA.

    Cuplikan layar IntelliJ IDEA yang memperlihatkan jendela gambaran umum chat playground.

Untuk memicu penyelesaian, Anda dapat memasukkan beberapa teks sebagai perintah. Model menghasilkan penyelesaian dan berusaha untuk mencocokkan dengan konteks atau pola Anda.

Untuk memulai sesi obrolan, ikuti langkah-langkah berikut:

  1. Di panel sesi obrolan, Anda dapat memulai dengan perintah sederhana seperti ini: "Saya tertarik untuk membeli Surface baru." Setelah Anda mengetik perintah, pilih Kirim. Anda menerima respons yang mirip dengan contoh berikut:

    Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.

    Cuplikan layar IntelliJ IDEA yang memperlihatkan jendela taman bermain dengan pertanyaan dan jawaban pertama.

  2. Masukkan pertanyaan tindak lanjut seperti: "Model mana yang mendukung GPU?" dan pilih Kirim. Anda menerima respons yang mirip dengan contoh berikut:

    Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.

    Cuplikan layar IntelliJ IDEA yang menunjukkan jendela taman bermain dengan pertanyaan dan jawaban pertama dan kedua.

  3. Sekarang setelah Anda memiliki percakapan dasar, pilih Tampilkan kode dari panel, dan Anda bisa melihat ulang kode yang mendasari seluruh percakapan sejauh ini. Anda dapat melihat sampel kode berdasarkan Java SDK, curl, dan JSON yang sesuai dengan sesi dan pengaturan obrolan Anda, seperti yang ditunjukkan pada cuplikan layar berikut:

    Cuplikan layar IntelliJ IDEA yang memperlihatkan jendela Kode Sampel.

  4. Anda kemudian dapat memilih Salin untuk mengambil kode ini dan menulis aplikasi untuk menyelesaikan tugas yang sama dengan yang sedang Anda lakukan dengan taman bermain.

Pengaturan

Anda dapat memilih tab Konfigurasi untuk mengatur parameter berikut:

Nama Deskripsi
Respons maksimum Menetapkan batas jumlah token per respons model. API mendukung maksimum 4096 token yang dibagikan antara perintah (termasuk pesan sistem, contoh, riwayat pesan, dan kueri pengguna) dan respons model. Satu token kira-kira empat karakter untuk teks bahasa Inggris biasa.
Suhu Mengontrol keacakan. Menurunkan suhu berarti model menghasilkan respons yang lebih berulang dan deterministik. Meningkatkan suhu menghasilkan respons yang lebih tidak terduga atau kreatif. Coba sesuaikan suhu atau probabilitas tertinggi, tetapi tidak keduanya.
Probabilitas teratas Mirip dengan suhu, mengontrol keacakan tetapi menggunakan metode yang berbeda. Menurunkan nilai Probabilitas teratas mempersempit pilihan token model ke token yang lebih mungkin. Meningkatkan nilai memungkinkan model memilih dari token dengan kemungkinan tinggi dan rendah. Coba sesuaikan suhu atau probabilitas tertinggi, tetapi jangan keduanya.
Hentikan urutan Membuat model mengakhiri responsnya pada titik yang diinginkan. Respons model berakhir sebelum urutan yang ditentukan, sehingga tidak berisi teks urutan berhenti. Untuk GPT-35-Turbo, menggunakan <|im_end|> memastikan bahwa respons model tidak menghasilkan pertanyaan lanjutan dari pengguna. Anda dapat menyertakan hingga empat urutan berhenti.
Penalti frekuensi Mengurangi kemungkinan mengulangi token secara proporsional berdasarkan seberapa sering token muncul dalam teks sejauh ini. Tindakan ini mengurangi kemungkinan mengulangi teks yang sama persis dalam respons.
Penalti atas kehadiran Mengurangi kemungkinan mengulangi token apa pun yang muncul di teks sejauh ini. Ini meningkatkan kemungkinan memperkenalkan topik baru sebagai respons.

Membersihkan sumber daya

Setelah selesai menguji taman bermain obrolan, jika Anda ingin membersihkan dan menghapus sumber daya OpenAI, Anda dapat menghapus sumber daya atau grup sumber daya. Menghapus grup sumber daya juga menghapus sumber daya lain yang terkait dengannya. Gunakan langkah-langkah berikut untuk membersihkan sumber daya:

  1. Untuk menghapus sumber daya Azure OpenAI Anda, navigasikan ke bilah samping Azure Explorer sebelah kiri dan temukan item Azure OpenAI .

  2. Klik kanan layanan Azure OpenAI yang ingin Anda hapus lalu pilih Hapus.

  3. Untuk menghapus grup sumber daya Anda, kunjungi portal Microsoft Azure dan hapus sumber daya secara manual di bawah langganan Anda.

Langkah berikutnya

Untuk informasi selengkapnya, lihat Pelajari cara bekerja dengan model GPT-35-Turbo dan GPT-4.

Untuk contoh selengkapnya, lihat repositori GitHub Sampel Azure OpenAI.