Bagikan melalui

Mulai Cepat: Mulai menggunakan GPT-35-Turbo dan GPT-4 dengan Azure OpenAI Service di IntelliJ

  • Artikel

Artikel ini memperlihatkan kepada Anda cara memulai Azure OpenAI Service di IntelliJ IDEA. Ini menunjukkan kepada Anda cara menggunakan model obrolan seperti GPT-3.5-Turbo dan GPT-4 untuk menguji dan bereksperimen dengan parameter dan sumber data yang berbeda.

Prasyarat

Menginstal dan masuk

Langkah-langkah berikut memanah Anda melalui proses masuk Azure di lingkungan pengembangan IntelliJ Anda:

  1. Jika Anda tidak menginstal plugin, lihat Azure Toolkit untuk IntelliJ.

  2. Untuk masuk ke akun Azure Anda, navigasikan ke bar samping Azure Explorer sebelah kiri, lalu pilih ikon Masuk Azure. Atau, Anda dapat menavigasi ke Alat, memperluas Azure, lalu memilih Masuk Azure.

    Screenshot of the IntelliJ IDEA with the Azure Sign In button highlighted.

  3. Di jendela Masuk Azure, pilih OAuth 2.0, lalu pilih Masuk. Untuk opsi masuk lainnya, lihat Petunjuk masuk untuk Azure Toolkit for IntelliJ.

  4. Di browser, masuk dengan akun Anda yang memiliki akses ke sumber daya OpenAI Anda lalu kembali ke IntelliJ. Dalam kotak dialog Pilih Langganan , pilih langganan yang ingin Anda gunakan, lalu pilih Pilih.

Membuat dan menyebarkan sumber daya Azure OpenAI Service

  1. Setelah alur kerja masuk, klik kanan item Azure OpenAI di Azure Explorer dan pilih Buat Layanan Azure OpenAI.

  2. Dalam kotak dialog Buat Layanan Azure OpenAI, tentukan informasi berikut lalu pilih OK:

    • Nama: Nama deskriptif untuk sumber daya Layanan Azure OpenAI Anda, seperti MyOpenAIResource. Nama ini juga merupakan nama domain kustom Anda di titik akhir Anda. Nama sumber daya Anda hanya dapat menyertakan karakter alfanumerik dan tanda hubung, dan tidak dapat memulai atau mengakhiri dengan tanda hubung.
    • Wilayah: Lokasi instans Anda. Model tertentu hanya tersedia di wilayah tertentu. Untuk informasi lebih lanjut, lihat Model Azure OpenAI Service.
    • Sku: Sumber daya Azure OpenAI standar ditagih berdasarkan penggunaan token. Untuk informasi selengkapnya, lihat Harga Layanan Azure OpenAI.

  3. Sebelum dapat menggunakan penyelesaian obrolan, Anda perlu menyebarkan model. Klik kanan instans Azure OpenAI Anda, dan pilih Buat Penyebaran Baru. Dalam kotak dialog Buat Penyebaran Azure OpenAI pop-up, tentukan informasi berikut lalu pilih OK:

    • Nama Penyebaran: Pilih nama dengan hati-hati. Nama penyebaran digunakan dalam kode Anda untuk memanggil model dengan menggunakan pustaka klien dan REST API.
    • Model: Pilih model. Ketersediaan model bervariasi menurut region. Untuk daftar model yang tersedia per wilayah, lihat bagian Tabel ringkasan model dan ketersediaan wilayah dari model Azure OpenAI Service.

Toolkit menampilkan pesan status ketika penyebaran selesai dan siap digunakan.

Berinteraksi dengan Azure OpenAI menggunakan perintah dan pengaturan

  1. Klik kanan sumber daya Azure OpenAI Anda lalu pilih Buka di AI Playground.

  2. Anda dapat mulai menjelajahi kemampuan OpenAI melalui taman bermain Azure OpenAI Studio Chat di IntelliJ IDEA.

    Screenshot of the IntelliJ IDEA that shows the Chat playground overview window.

Untuk memicu penyelesaian, Anda dapat memasukkan beberapa teks sebagai perintah. Model menghasilkan penyelesaian dan upaya untuk mencocokkan konteks atau pola Anda.

Untuk memulai sesi obrolan, ikuti langkah-langkah berikut:

  1. Di panel sesi obrolan, Anda dapat memulai dengan perintah sederhana seperti ini: "Saya tertarik untuk membeli Surface baru." Setelah Anda mengetik perintah, pilih Kirim. Anda menerima respons yang mirip dengan contoh berikut:

    Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.

    Screenshot of the IntelliJ IDEA that shows the playground window with a first question and answer.

  2. Masukkan pertanyaan tindak lanjut seperti: "Model mana yang mendukung GPU?" dan pilih Kirim. Anda menerima respons yang mirip dengan contoh berikut:

    Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.

    Screenshot of the IntelliJ IDEA that shows the playground window with a first and second question and answer.

  3. Sekarang setelah Anda memiliki percakapan dasar, pilih Tampilkan kode dari panel, dan Anda memiliki pemutaran ulang kode di belakang seluruh percakapan sejauh ini. Anda dapat melihat sampel kode berdasarkan Java SDK, curl, dan JSON yang sesuai dengan sesi dan pengaturan obrolan Anda, seperti yang ditunjukkan pada cuplikan layar berikut:

    Screenshot of the IntelliJ IDEA that shows the Sample Code window.

  4. Anda kemudian dapat memilih Salin untuk mengambil kode ini dan menulis aplikasi untuk menyelesaikan tugas yang sama dengan yang sedang Anda lakukan dengan taman bermain.

Pengaturan

Anda dapat memilih tab Konfigurasi untuk mengatur parameter berikut:

Nama Deskripsi
Respons maks Menetapkan batas jumlah token per respons model. API mendukung maksimum 4096 token yang dibagikan antara perintah (termasuk pesan sistem, contoh, riwayat pesan, dan kueri pengguna) dan respons model. Satu token kira-kira empat karakter untuk teks bahasa Inggris biasa.
Suhu Mengontrol keacakan. Menurunkan suhu berarti model menghasilkan respons yang lebih berulang dan deterministik. Meningkatkan suhu menghasilkan respons yang lebih tidak terduga atau kreatif. Coba sesuaikan suhu atau Probabilitas teratas, tetapi tidak keduanya.
Probabilitas teratas Mirip dengan suhu, mengontrol keacakan tetapi menggunakan metode yang berbeda. Menurunkan nilai Probabilitas teratas mempersempit pilihan token model ke token yang lebih mungkin. Meningkatkan nilai memungkinkan model memilih dari token dengan kemungkinan tinggi dan rendah. Coba sesuaikan suhu atau Probabilitas teratas, tetapi tidak keduanya.
Hentikan urutan Membuat model mengakhiri responsnya pada titik yang diinginkan. Respons model berakhir sebelum urutan yang ditentukan, sehingga tidak berisi teks urutan berhenti. Untuk GPT-35-Turbo, menggunakan <|im_end|> memastikan bahwa respons model tidak menghasilkan kueri pengguna tindak lanjut. Anda dapat menyertakan sebanyak empat urutan berhenti.
Penalti frekuensi Mengurangi kemungkinan mengulangi token secara proporsional berdasarkan seberapa sering token muncul dalam teks sejauh ini. Tindakan ini mengurangi kemungkinan mengulangi teks yang sama persis dalam respons.
Penalti kehadiran Mengurangi kemungkinan mengulangi token apa pun yang muncul di teks sejauh ini. Ini meningkatkan kemungkinan memperkenalkan topik baru sebagai respons.

Membersihkan sumber daya

Setelah selesai menguji taman bermain obrolan, jika Anda ingin membersihkan dan menghapus sumber daya OpenAI, Anda dapat menghapus sumber daya atau grup sumber daya. Menghapus grup sumber daya juga menghapus sumber daya apa pun yang terkait dengannya. Gunakan langkah-langkah berikut untuk membersihkan sumber daya:

  1. Untuk menghapus sumber daya Azure OpenAI Anda, navigasikan ke bilah samping Azure Explorer sebelah kiri dan temukan item Azure OpenAI.

  2. Klik kanan layanan Azure OpenAI yang ingin Anda hapus lalu pilih Hapus.

  3. Untuk menghapus grup sumber daya Anda, kunjungi portal Azure dan hapus sumber daya secara manual di bawah langganan Anda.

Langkah berikutnya

Untuk informasi selengkapnya, lihat Mempelajari cara bekerja dengan model GPT-35-Turbo dan GPT-4.

Untuk contoh selengkapnya, lihat repositori GitHub Sampel Azure OpenAI.