Mengonfigurasi model kustom di Visual Studio Code untuk lingkungan yang dibatasi jaringan

Anda dapat menggunakan model kustom dengan modernisasi GitHub Copilot di Visual Studio Code saat Anda bekerja di lingkungan yang dibatasi jaringan. Instal ekstensi dan AppCAT secara manual, lalu konfigurasikan Visual Studio Code untuk menggunakan titik akhir model yang dapat dijangkau lingkungan Anda.

Anda tidak perlu masuk ke GitHub Copilot untuk alur kerja ini.

Warning

Kode sumber dan konteks penilaian Anda dikirim ke titik akhir model yang Anda konfigurasikan. Model kustom tidak menjamin isolasi jaringan penuh, dan beberapa kemampuan modernisasi masih memerlukan akses jaringan. Anda bertanggung jawab atas status keamanan dan kepatuhan penyedia model.

Prerequisites

  • Visual Studio Code.
  • Komputer dengan akses jaringan yang dapat Anda gunakan untuk mengunduh ekstensi dan paket AppCAT.
  • Cara untuk mentransfer paket yang diunduh ke komputer dengan akses jaringan terbatas.
  • Endpoint model kustom yang dapat dijangkau oleh komputer dengan akses jaringan terbatas.
  • URL titik akhir, nama model atau deployment, dan kunci API jika titik akhir memerlukan autentikasi.

Menginstal ekstensi dari VSIX

Unduh paket ekstensi pada komputer yang tersambung, lalu instal pada komputer dengan akses jaringan terbatas.

  1. Pada komputer yang tersambung, buka tampilan Ekstensi di Visual Studio Code.

  2. Temukan ekstensi modernisasi aplikasi GitHub Copilot.

  3. Buka menu konteks ekstensi, lalu pilih Unduh VSIX.

    Cuplikan layar yang memperlihatkan tampilan Extensions Visual Studio Code dengan Unduh VSIX dipilih untuk ekstensi modernisasi aplikasi GitHub Copilot.

  4. Transfer file VSIX ke komputer yang dibatasi jaringan.

  5. Pada komputer dengan jaringan terbatas, buka tampilan Extensions.

  6. Pilih Views and More Actions (...), lalu pilih Instal dari VSIX....

    Cuplikan layar yang memperlihatkan tampilan Ekstensi Visual Studio Code dengan Instal dari VSIX dipilih.

  7. Pilih file VSIX yang ditransfer.

Instal AppCAT secara manual

Ekstensi tidak dapat mengunduh AppCAT secara otomatis tanpa akses ke jaringan publik. Instalasi AppCAT sebelum Anda melakukan penilaian.

  1. Di komputer yang terhubung, buka Instal AppCAT, dan unduh paket aplikasi.

  2. Pindahkan paket ke komputer dengan akses jaringan terbatas.

  3. Ekstrak paket ke ~/.appcat.

  4. Verifikasi bahwa AppCAT yang dapat dieksekusi berada di salah satu lokasi berikut:

    • Windows: ~/.appcat/appcat.exe
    • Linux atau macOS: ~/.appcat/appcat
  5. Tambahkan ~/.appcat ke sistem PATH.

  6. Hidupkan ulang Visual Studio Code.

Note

Jika versi AppCAT yang diinstal tidak cocok dengan versi yang diharapkan ekstensi, ekstensi mencoba mengunduh versi lain. Tanpa akses jaringan, pengunduhan gagal dan penilaian mungkin tampak berjalan tanpa batas waktu. Instal paket AppCAT terbaru secara manual untuk mengatasi masalah tersebut.

Menambahkan model bahasa kustom

  1. Tekan Ctrl+Shift+P untuk membuka Palet Perintah.

  2. Jalankan Chat: Mengelola Model Bahasa.

    Cuplikan layar yang memperlihatkan Palet Perintah Visual Studio Code dengan Obrolan: Kelola Model Bahasa dipilih.

  3. Dalam dialog Model Bahasa , pilih Tambahkan Model....

  4. Pilih penyedia yang cocok dengan endpoint Anda. Misalnya, pilih Azure, OpenAI, Kompatibel OpenAI, atau Endpoint Kustom.

  5. Masukkan detail koneksi yang diperlukan penyedia, termasuk nama model, kunci API, dan titik akhir.

  6. Verifikasi bahwa model muncul di bawah Model Bahasa.

Pilih dan uji model kustom

  1. Buka Chat di Visual Studio Code.

  2. Pilih model kustom dari daftar Pilih Model .

    Cuplikan layar yang memperlihatkan pemilih model obrolan Visual Studio Code dengan model Ollama kustom dipilih.

  3. Kirim pesan pengujian, dan verifikasi bahwa model merespons.

    Cuplikan layar yang memperlihatkan Visual Studio Code Chat dengan respons dari model kustom yang dipilih.

Mengonfigurasi model utilitas

GitHub Copilot pemodernan menggunakan pengaturan model utilitas Visual Studio Code untuk alur utilitas bawaan.

  1. Buka Pengaturan.

  2. Cari chat.utility.

  3. Atur Obrolan: Model Utilitas ke model kustom.

  4. Atur Obrolan: Model Kecil Utilitas ke model kustom.

    Cuplikan layar yang memperlihatkan Settings Visual Studio Code dengan model kustom yang dipilih untuk Chat Utility Model dan Chat Utility Small Model.

Jalankan penilaian dan buat rencana

  1. Buka modernisasi GitHub Copilot.
  2. Pilih Mulai Penilaian atau Buka Dasbor Penilaian.
  3. Jalankan penilaian, lalu buka laporan penilaian.
  4. Pilih temuan modernisasi yang ingin Anda atasi.
  5. Pilih Buat Rencana.

Ekstensi mengirimkan temuan penilaian yang dipilih ke Chat dan memanggil agen modernisasi, alat, dan keterampilan dengan model yang dikonfigurasi.

Batasan dan masalah yang diketahui

  • Domain penilaian Keamanan memerlukan akses jaringan dan tidak tersedia di lingkungan yang dibatasi jaringan.
  • Pindai & Atasi Masalah Keamanan memerlukan akses jaringan.
  • Ketidakcocokan versi AppCAT dapat memicu unduhan otomatis yang gagal tanpa akses jaringan publik.
  • Hasil bergantung pada kemampuan model kustom. Model yang tidak mendukung alat atau konteks yang diperlukan mungkin tidak menyelesaikan alur kerja.
  • Mengonfigurasi model kustom tidak memberikan isolasi jaringan penuh. Gunakan kontrol jaringan untuk menegakkan persyaratan lalu lintas keluar organisasi Anda.