Gambaran umum Microsoft Foundry Toolkit untuk Visual Studio Code

Microsoft Foundry Toolkit untuk Visual Studio Code adalah ekstensi untuk membangun, menguji, menyebarkan, mengevaluasi, dan memantau aplikasi dan agen AI. Gunakan secara lokal atau sambungkan ke Microsoft Foundry untuk mengelola alur kerja pengembangan AI Anda tanpa meninggalkan Visual Studio Code.

Foundry Toolkit adalah nama baru untuk AI Toolkit. Ini juga mencakup kemampuan yang sebelumnya disediakan oleh ekstensi Microsoft Foundry terpisah, sehingga Anda dapat bekerja dengan sumber daya lokal dan sumber daya Foundry dalam satu ekstensi.

Siapa yang harus menggunakan Foundry Toolkit

Foundry Toolkit mendukung berbagai peran dan tingkat pengalaman pengembangan AI:

  • Pengembang aplikasi dapat menambahkan fitur AI generatif ke aplikasi web, desktop, dan seluler.
  • AI dan teknisi pembelajaran mesin dapat membandingkan, menyesuaikan, mengoptimalkan, dan menyebarkan model dan agen.
  • Ilmuwan dan peneliti data dapat bereksperimen dengan permintaan, model, himpunan data, dan kriteria evaluasi.
  • Pendidik dan siswa dapat menjelajahi konsep AI generatif melalui taman bermain interaktif dan model lokal.

Bagaimana ruang kerja Toolkit diatur

Foundry Toolkit memisahkan sumber daya yang Anda miliki dari tindakan yang dapat Anda ambil. Ekstensi ini memiliki tiga bagian utama.

Cuplikan layar Foundry Toolkit di Visual Studio Code dengan bagian Sumber Daya, Alat Pengembang, dan Bantuan dan Umpan Balik Saya.

Section Kegunaan
Sumber Daya Saya Lihat model, agen, alat, sumber pengetahuan, evaluasi, sumber daya terbaru, sumber daya lokal, dan sumber daya dalam proyek Foundry Anda.
Alat Pengembang Temukan model dan alat. Membangun, men-debug, menyebarkan, menguji, mengevaluasi, dan memantau aplikasi dan agen AI.
Bantuan dan Umpan Balik Tanyakan kepada Copilot, mulai, buka dokumentasi dan informasi rilis, laporkan masalah, atau bergabung dengan komunitas.

Alat dan jenis sumber daya yang tepat dapat berubah seiring berkembangnya ekstensi. Gunakan tampilan Toolkit untuk melihat fitur dalam versi yang diinstal.

Bekerja dengan model

Foundry Toolkit menyediakan alur kerja pengembangan model end-to-end:

  • Gunakan Katalog Model untuk menemukan model dari Foundry dan penyedia eksternal, atau gunakan model lokal melalui ONNX, Ollama, dan Foundry Local.
  • Bandingkan model dan perintah pengujian, parameter, gambar, dan lampiran di Model Playground.
  • Konversi, kuantisasi, optimalkan, dan evaluasi model yang didukung untuk penyebaran Windows lokal.
  • Sesuaikan model yang didukung secara lokal dengan GPU atau dari jarak jauh dengan Azure Container Apps.
  • Buat profil penggunaan CPU, GPU, dan NPU untuk beban kerja pembelajaran mesin yang didukung di Windows.

Membangun dan mengoperasikan agen

Foundry Toolkit mendukung agen prompt dan agen terhosting berbasis kode:

  • Gunakan Agent Builder untuk mengonfigurasi instruksi, model, variabel, output terstruktur, dan alat tanpa membuat proyek kode agen.
  • Gunakan Katalog Alat untuk menemukan alat Foundry, server Protokol Konteks Model (MCP), dan kotak alat, lalu tambahkan ke agen.
  • Siapkan struktur awal proyek agen terhosting jika Anda memerlukan kode kustom, kerangka kerja, atau logika orkestrasi.
  • Gunakan Pemeriksa Agen untuk men-debug agen lokal, memeriksa respons streaming dan panggilan alat, dan memvisualisasikan eksekusi alur kerja.
  • Sebarkan agen yang dihosting ke Foundry Agent Service dari kode sumber atau gambar kontainer.
  • Uji agen yang diterapkan di Hosted Agent Playground, periksa log dan trace, dan kelola versi.
  • Mengevaluasi model, perintah, dan agen dengan himpunan data, evaluator bawaan, atau kriteria kustom.

Beberapa fitur Toolkit masih dalam pratinjau. Tinjau catatan perubahan Foundry Toolkit untuk mengetahui detail rilis.

Mengelola Sumber Daya Foundry

Masuk ke Azure dan atur proyek Foundry untuk mengelola sumber daya cloud dari Visual Studio Code. Kamu bisa:

  • Telusuri proyek Foundry dan sumber daya yang tersedia untuk akun Anda.
  • Temukan dan sebarkan model dari katalog model Foundry.
  • Lihat titik akhir model dan informasi autentikasi.
  • Buat, terapkan, uji, dan kelola versi agen prompt, alur kerja, dan agen yang dihosting.
  • Telusuri alat dan sumber pengetahuan yang digunakan oleh agen Anda.
  • Buka evaluasi, percakapan, log, dan jejak selama pengembangan.

Untuk administrasi sumber daya yang lebih luas, gunakan portal Foundry. Untuk mengotomatiskan alur kerja dalam kode aplikasi, gunakan SDK Microsoft Foundry.