Bagikan melalui


AI: Membuat Sumber Daya Azure OpenAI dan Menyebarkan Model

Untuk mulai menggunakan Azure OpenAI di aplikasi Anda, Anda perlu membuat Layanan Azure OpenAI dan menyebarkan model yang dapat digunakan untuk melakukan tugas seperti mengonversi bahasa alami ke SQL, menghasilkan konten pesan email/SMS, dan banyak lagi.

Dalam latihan ini Anda akan:

  • Buat sumber daya Azure OpenAI Service.
  • Menyebarkan model.
  • Perbarui file .env dengan nilai dari sumber daya layanan Azure OpenAI Anda.

Gambaran umum skenario Microsoft Cloud

Membuat Sumber Daya Layanan Azure OpenAI

  1. Kunjungi portal Microsoft Azure di browser Anda dan masuk.

  2. Masukkan openai di bilah pencarian di bagian atas halaman portal dan pilih Azure OpenAI dari opsi yang muncul.

    Layanan Azure OpenAI di portal Microsoft Azure

  3. Pilih Buat di toolbar.

    Nota

    Meskipun tutorial ini berfokus pada Azure OpenAI, jika Anda memiliki kunci OPENAI API dan ingin menggunakannya, Anda dapat melewati bagian ini dan langsung masuk ke bagian Perbarui File .env Proyek di bawah ini. Tetapkan kunci OpenAI API Anda ke OPENAI_API_KEY dalam file .env (Anda dapat mengabaikan instruksi lain .env yang terkait dengan OpenAI).

  4. Model Azure OpenAI tersedia di wilayah tertentu. Kunjungi dokumen ketersediaan model Azure OpenAI untuk mempelajari wilayah mana yang mendukung model gpt-4o yang digunakan dalam tutorial ini.

  5. Lakukan tugas-tugas berikut:

    • Pilih langganan Azure Anda.
    • Pilih grup sumber daya yang akan digunakan (buat yang baru jika diperlukan).
    • Pilih wilayah tempat model gpt-4o didukung berdasarkan dokumen yang Anda lihat sebelumnya.
    • Masukkan nama sumber daya. Nilainya harus unik.
    • Pilih tingkat harga S0 Standar .
  6. Pilih Berikutnya hingga Anda masuk ke layar Tinjau + kirim . Pilih Buat.

  7. Setelah sumber daya Azure OpenAI Anda dibuat, navigasikan ke sumber daya dan pilih Manajemen Sumber Daya -->Kunci dan Titik Akhir .

  8. Temukan nilai KEY 1 dan Titik Akhir . Anda akan menggunakan kedua nilai di bagian berikutnya sehingga menyalinnya ke file lokal.

    Kunci dan Titik Akhir OpenAI

  9. Pilih Manajemen Sumber Daya -->Penyebaran model.

  10. Pilih tombol Kelola Penyebaran untuk masuk ke Azure OpenAI Studio.

  11. Pilih Sebarkan model -->Sebarkan model dasar di toolbar.

    Model dasar Penyebaran Azure OpenAI

  12. Pilih gpt-4o dari daftar model dan pilih Konfirmasi.

    Nota

    Azure OpenAI mendukung beberapa jenis model yang berbeda. Setiap model dapat digunakan untuk menangani skenario yang berbeda.

  13. Dialog berikut akan ditampilkan. Luangkan waktu sejenak untuk memeriksa nilai default yang disediakan.

    Penyebaran Model Buat Azure OpenAI

  14. Ubah nilai Token per Batas Tarif Menit (ribuan) menjadi 100 ribu. Ini akan memungkinkan Anda untuk membuat lebih banyak permintaan ke model dan menghindari mencapai batas tarif saat Anda melakukan langkah-langkah berikut.

  15. Pilih Sebarkan.

  16. Setelah model disebarkan, pilih Playgrounds -->Chat.

  17. Dropdown Penyebaran harus menampilkan model gpt-4o .

    Azure OpenAI Chat Playground

  18. Luangkan waktu sejenak untuk membaca teks pesan Sistem yang disediakan. Ini memberi tahu model cara bertindak saat pengguna berinteraksi dengannya.

  19. Temukan kotak teks di area obrolan dan masukkan Ringkas apa itu AI Generatif dan cara penggunaannya. Pilih Enter untuk mengirim pesan ke model dan membuatnya menghasilkan respons.

  20. Bereksperimenlah dengan perintah dan respons lainnya. Misalnya, masukkan Berikan riwayat singkat tentang ibu kota Prancis dan perhatikan respons yang dihasilkan.

Memperbarui File Proyek .env

  1. Kembali ke Visual Studio Code dan buka .env file di akar proyek.

  2. Salin nilai KEY 1 dari sumber daya Azure OpenAI Anda dan tetapkan ke OPENAI_API_KEY dalam file .env yang terletak di akar folder openai-acs-msgraph :

    OPENAI_API_KEY=<KEY_1_VALUE>
    
  3. Salin *Nilai titik akhir dan tetapkan ke OPENAI_ENDPOINT dalam file .env . / Hapus karakter dari akhir nilai jika ada.

    OPENAI_ENDPOINT=<ENDPOINT_VALUE>
    

    Nota

    Anda akan melihat bahwa nilai untuk OPENAI_MODEL dan OPENAI_API_VERSION sudah diatur dalam file .env . Nilai model diatur ke gpt-4o yang cocok dengan nama penyebaran model yang Anda buat sebelumnya dalam latihan ini. Versi API diatur ke nilai yang didukung yang ditentukan dalam dokumentasi referensi Azure OpenAI.

  4. Simpan file .env .

Memulai Layanan Aplikasi

Saatnya untuk memulai layanan aplikasi Anda termasuk database, server API, dan server web.

  1. Dalam langkah-langkah berikut, Anda akan membuat tiga jendela terminal di Visual Studio Code.

    Tiga jendela terminal di Visual Studio Code

  2. Klik kanan pada file .env di daftar file Visual Studio Code dan pilih Buka di Terminal Terintegrasi. Pastikan terminal Anda berada di akar proyek - openai-acs-msgraph - sebelum melanjutkan.

  3. Pilih dari salah satu opsi berikut untuk memulai database PostgreSQL:

    • Jika Anda telah menginstal dan menjalankan Docker Desktop , jalankan docker-compose up di jendela terminal dan tekan Enter.

    • Jika Anda memiliki Podman dengan podman-compose yang terinstal dan berjalan, jalankan podman-compose up di jendela terminal dan tekan Enter.

    • Untuk menjalankan kontainer PostgreSQL secara langsung menggunakan Docker Desktop, Podman, nerdctl, atau runtime kontainer lain yang telah Anda instal, jalankan perintah berikut di jendela terminal:

      • Mac, Linux, atau Subsistem Windows untuk Linux (WSL):

        [docker | podman | nerdctl] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v $(pwd)/data:/var/lib/postgresql/data -p 5432:5432 postgres
        
      • Windows dengan PowerShell:

        [docker | podman] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v ${PWD}/data:/var/lib/postgresql/data -p 5432:5432 postgres
        
  4. Setelah kontainer database dimulai, tekan + ikon di toolbar Terminal Visual Studio Code untuk membuat jendela terminal kedua.

    Ikon Visual Studio Code + di toolbar terminal.

  5. cd ke folder server/typescript dan jalankan perintah berikut untuk menginstal dependensi dan memulai api server.

    • npm install
    • npm start
  6. + Tekan ikon lagi di toolbar Terminal Visual Studio Code untuk membuat jendela terminal ketiga.

  7. cd ke folder klien dan jalankan perintah berikut untuk menginstal dependensi dan memulai server web.

    • npm install
    • npm start
  8. Browser akan diluncurkan dan Anda akan dibawa ke http://localhost:4200.

    Cuplikan layar aplikasi dengan Azure OpenAI diaktifkan

Langkah Berikutnya