Kelola siklus hidup model AI untuk agen Copilot Studio

Copilot Studio menawarkan berbagai jenis model. Jenis model ini didasarkan pada tujuan penggunaan dan ketersediaannya. Pemilihan model AI bukanlah keputusan desain sekali saja. Model-model diperkenalkan, diperbarui, tersedia secara umum, dipilih sebagai default, dan akhirnya dipensiunkan. Agen yang bekerja dengan baik dengan satu model dapat berperilaku sangat berbeda dengan model lain, bahkan model dalam keluarga model yang sama.

Perlakukan manajemen siklus hidup model sebagai praktik operasi berkelanjutan untuk setiap agen produksi Copilot Studio. Buat proses yang dapat diulang untuk menemukan perubahan model, mengevaluasi model kandidat, mempersiapkan pensiun, memigrasikan agen yang terdampak, dan memantau kualitas setelah penerapan.

Mengubah model yang digunakan agen jarang hanya sekadar perubahan seleksi model. Model yang lebih baru dapat menafsirkan instruksi secara lebih harfiah, memilih alat secara berbeda, menghasilkan panjang dan format respons yang berbeda, serta mengubah latensi. Rencanakan setiap perubahan model sebagai migrasi yang mencakup evaluasi, penyempurnaan instruksi dan alat, persetujuan, serta pemantauan pasca-deployment.

Prinsip utamanya adalah merancang sistem yang fleksibel, beroperasi secara konservatif, dan mewajibkan evaluasi untuk setiap peningkatan. Upgrade ke setiap model baru berisiko mengalami regresi diam-diam. Menghindari semua perubahan model menjamin keadaan darurat saat pensiun tiba.

Terapkan siklus hidup berikut pada agen produksi:

  1. Temukan model baru, yang diperbarui, default, dan yang akan dipensiunkan.
  2. Inventaris agen, lingkungan, pemilik, dan proses bisnis yang bergantung pada setiap model.
  3. Evaluasilah calon model pengganti terhadap tolok ukur yang telah ditetapkan.
  4. Setujui migrasi dengan menggunakan kriteria kualitas dan operasional yang terdokumentasi.
  5. Terapkan melalui proses Manajemen Siklus Hidup Aplikasi (ALM) organisasi.
  6. Pantau hasil produksi dan tambahkan skenario baru yang ditemukan ke rangkaian pengujian regresi.
  7. Ulangi proses ini seiring perkembangan model dan kebutuhan agen.

Artikel ini membahas penemuan dan inventaris. Seri ini berlanjut dengan:

Manajemen siklus hidup model membutuhkan koordinasi antara pemilik agen, pembuat, administrator platform, penguji, tim keamanan dan kepatuhan, serta penyetuju rilis. Tetapkan kepemilikan sebelum perubahan model menyebabkan migrasi mendesak.

Pahami lanskap model

Sebelum Anda dapat merencanakan perubahan model, Anda perlu mengetahui bagaimana Copilot Studio mengklasifikasikan model, model mana yang benar-benar dapat digunakan organisasi Anda, dan agen mana yang bergantung pada masing-masing.

Memahami jenis rilis model

Copilot Studio mengidentifikasi model berdasarkan klasifikasi rilis dan ketersediaan. Klasifikasi ini membantu menentukan cara mengatur sebuah model dan di mana menggunakannya. Nama model, tahap rilis, ketersediaan regional, dan status pensiun berubah seiring waktu. Selalu periksa ketersediaan model berdasarkan wilayah untuk informasi terkini daripada mengandalkan daftar model statis.

Agen yang menggunakan model default akan berpindah ke model baru setiap kali default di-upgrade, baik Anda merencanakannya maupun tidak. Untuk agen berisiko tinggi dan bervolume tinggi, pilih model tertentu alih-alih mengikuti model default, sehingga setiap perubahan model melalui proses migrasi Anda.

Warning

Model eksperimental dan pratinjau dapat memiliki ketersediaan terbatas, kualitas respons yang bervariasi, latensi atau konsumsi pesan yang berbeda, timeout, dan pertimbangan pemrosesan data regional. Copilot Studio tidak merekomendasikan mereka untuk agen produksi. Jika Anda mempublikasikan agen yang menggunakan model pratinjau atau eksperimental dan pengguna berinteraksi dengannya, penggunaan tersebut tetap ditagih pada tarif yang telah ditetapkan.

Cocokkan kategori penggunaan model dengan tujuan agen

Copilot Studio menandai setiap model dengan kategori penggunaan yang menjelaskan untuk apa model tersebut dioptimalkan. Memilih kategori yang tepat untuk beban kerja agen memengaruhi kualitas, latensi, dan konsumsi kredit.

  • Deep: Dioptimalkan untuk penalaran yang matang, multilangkah, serta alur kerja dengan dukungan alat. Terbaik untuk analitik kompleks, analisis kebijakan, dan sintesis dokumen. Membawa latensi dan konsumsi kredit tertinggi.
  • Auto: Mencakup beban kerja campuran dengan mengarahkan kueri secara dinamis. Terbaik untuk agen helpdesk dan karyawan dengan kompleksitas kueri yang tidak dapat diprediksi atau beragam. Latensi dan biaya bervariasi per giliran.
  • Umum: Dioptimalkan untuk kecepatan dan biaya pada obrolan sehari-hari serta grounding sederhana. Terbaik untuk penyusunan draf, meringkas, jawaban bergaya FAQ, dan otomatisasi tindakan sederhana. Latensi dan konsumsi kredit terendah.

Pelajari lebih lanjut di kategori penggunaan Model.

Important

Kesalahan upgrade yang paling umum adalah ketidaksesuaian kategori penggunaan, seperti memindahkan agen FAQ volume tinggi dari model umum ke model dalam karena model dalam mendapat skor lebih baik. Kualitas jawaban dapat meningkat sedikit sementara latensi dan konsumsi kredit meningkat tajam. Perubahan ini merupakan regresi bersih dalam pengalaman pengguna dan biaya.

Memahami model eksternal dan kontrol administrator

Anda dapat menggunakan model dari penyedia eksternal seperti Anthropic, xAI, dan Mistral sebagai model utama agen. Pelajari selengkapnya di Memilih model eksternal sebagai model AI utama.

Pengaturan administrator mengontrol model mana yang dapat dipilih pembuat dalam suatu lingkungan. Model yang terdokumentasi tersedia mungkin tetap tidak tersedia bagi agen yang Anda migrasikan jika pengaturan yang diperlukan tidak diaktifkan.

Pengaturan administrator Dampak pada ketersediaan model
Pratinjau dan model AI eksperimen Aktifkan sebelum pembuat dapat memilih model pratinjau atau eksperimental dalam sebuah lingkungan.
Pindahkan data antar wilayah Diperlukan untuk model lintas geo. Administrator penyewa mengelola pengaturan tingkat lingkungan ini di pusat admin Power Platform.
Model eksternal Mengaktifkan penyedia eksternal untuk lingkungan atau grup lingkungan. Anda juga harus mengizinkan akses ke setiap penyedia secara terpisah di pusat admin Microsoft 365. Persyaratan ini menjadikan model eksternal sebagai satu kelas yang membutuhkan dua tindakan administrator independen.

Note

Model pratinjau dan eksperimental serta model eksternal diatur oleh pengaturan terpisah. Mengaktifkan satu tipe tidak mengaktifkan yang lain. Administrator dapat mengizinkan model pratinjau dan eksperimental sambil memblokir model eksternal, atau sebaliknya.

Sebelum merencanakan migrasi, pastikan model kandidat tersedia bagi pembuat di lingkungan target. Daftar model di Copilot Studio mencerminkan pengaturan administrator Anda dan merupakan kebenaran dasar tentang apa yang dapat digunakan oleh agen tertentu. Pelajari lebih lanjut di Kontrol Admin untuk pemilihan model AI.

Tinjau ketersediaan model secara berkala

Tinjau model AI utama untuk agen Anda secara berkala. Ini adalah sumber otoritatif untuk daftar model saat ini. Model baru muncul saat diperkenalkan, dan model yang sudah ada akan diperbarui saat tersedia secara umum, menjadi default, atau sudah pensiun.

Gunakan sumber-sumber berikut secara bersama-sama:

Source Description
Pilih model AI utama untuk agen Anda Sumber utama untuk ketersediaan model dan peluncuran model baru: nama model, tag kategori penggunaan, tag rilis, ketersediaan per wilayah, penanda lintas geo, status pensiun, ketersediaan cloud pemerintah AS, dan kontrol administrator.
Daftar model di Copilot Studio, di halaman Ikhtisar agen di bagian Model Apa yang sebenarnya tersedia untuk agen tertentu di lingkungan Anda, berdasarkan pengaturan administrator Anda.
Lanjutkan menggunakan model AI yang sudah pensiun Bagaimana jendela kompatibilitas model yang dihentikan bekerja dan cara mengaktifkannya.
Pusat pesan Microsoft 365 dan notifikasi admin Power Platform Pengumuman perubahan dan penghentian yang ditujukan untuk penyewa.
Rencana rilis Copilot Studio dan Apa yang Baru di Copilot Studio Model dan peta jalan kapabilitas yang berwawasan ke depan.
Lingkungan siklus rilis awal Lanjutkan validasi perubahan platform dan model sebelum mencapai lingkungan bisnis yang kritis.
Kelola kredit dan kapasitas Copilot Studio Apa yang digunakan penyewa Anda, dan berapa tingkat konsumsinya, per model.
Panduan pemutakhiran penyedia model Perubahan perilaku antara pembuatan model dan perubahan pada perintah untuk mengatasinya.

Juga memicu peninjauan ketika:

  • Model yang relevan tersedia dalam pratinjau atau tersedia secara umum.
  • Model default berubah.
  • Penghentian model atau pemutakhiran otomatis diumumkan.
  • Sebuah model menjadi tersedia di wilayah organisasi.
  • Organisasi ini memungkinkan pemrosesan lintas wilayah geografis, model eksternal, serta model pratinjau dan eksperimental.
  • Pemantauan produksi mengidentifikasi kekhawatiran kualitas, latensi, keandalan, atau konsumsi yang mungkin diatasi oleh model lain.

Pelihara inventaris model dan agen

Gunakan inventaris agen yang disediakan di pusat admin Power Platform, Power Platform CLI, atau Power Platform API untuk mengidentifikasi agen yang menggunakan model tertentu. Gunakan informasi ini untuk memulai komunikasi siklus hidup model dengan pemilik bisnis dan teknis yang terdampak.

Gunakan salah satu tampilan berikut di pusat admin Power Platform:

Tampilan pusat admin Power Platform Cara menggunakannya
Kolom Kelola>Copilot Studio>Model Tinjau agen di seluruh tenant dan identifikasi model yang dikonfigurasikan untuk setiap agen. Filter atau ekspor hasilnya untuk menemukan agen yang menggunakan model yang akan dihentikan.
Lisensi>Copilot Studio>Lingkungan>Detail konsumsi pesan>Model LLM kolom Pilih lingkungan dan tinjau konsumsi pesan berdasarkan model LLM. Gunakan tampilan ini untuk mengidentifikasi lingkungan, agen, dan konsumsi terbaru yang terkait dengan model yang dihentikan.

Gunakan API inventaris untuk mencari agen berdasarkan model

Tampilan pusat admin Power Platform efektif untuk meninjau dan mengekspor hasil secara manual. Query API inventaris sebagai gantinya saat Anda ingin mengumpulkan informasi yang sama secara programatik, sehingga enumerasi agen dapat diskrip, dijadwalkan, dan diulang di seluruh tenant, bukan mengunduh laporan secara manual. Organisasi dengan aset agen besar dapat menggunakan pendekatan ini untuk memperbarui daftar agen yang terdampak sesuai permintaan selama migrasi pensiun dan menjaga agar tetap terkini di antara peristiwa siklus hidup.

API inventaris mengembalikan nama agen, nama tampilan, lingkungan, dan model yang dikonfigurasi dalam satu kueri di seluruh tenant, sehingga tidak perlu dikorelasikan dengan sumber data lain.

Sebelum Anda menjalankan kueri:

  • Masuk dengan akun yang memiliki peran administrator Power Platform atau administrator Dynamics 365.
  • Dapatkan token akses untuk sumber daya tersebut https://api.powerplatform.com/ .
  • Pastikan inventaris agen diaktifkan untuk penyewa.

Kirim permintaan POST ke endpoint kueri sumber daya, filter berdasarkan jenis sumber daya microsoft.copilotstudio/agents, dan proyeksikan bidang yang Anda perlukan, termasuk properties.model:

POST https://api.powerplatform.com/resourcequery/resources/query?api-version=2024-10-01
Authorization: Bearer <access-token>
Content-Type: application/json

{
  "TableName": "PowerPlatformResources",
  "Clauses": [
    {
      "$type": "where",
      "FieldName": "type",
      "Operator": "in~",
      "Values": ["'microsoft.copilotstudio/agents'"]
    },
    {
      "$type": "project",
      "FieldList": [
        "name",
        "properties.displayName",
        "properties.model",
        "environmentId = tostring(properties.environmentId)"
      ]
    }
  ],
  "Options": { "Top": 200 }
}

Respons mengembalikan satu catatan per agen. Nama bidang dalam respons mengganti titik dengan garis bawah, sehingga properties.model dikembalikan sebagai properties_model:

{
  "totalRecords": 158,
  "count": 200,
  "data": [
    {
      "name": "00000000-0000-0000-0000-000000000000",
      "properties_displayName": "Sample Agent",
      "properties_model": "GPT-5 Auto",
      "environmentId": "00000000-0000-0000-0000-000000000000"
    }
  ]
}

Respons ini mencakup totalRecords dan, ketika hasilnya terpotong, skipToken bernilai. Masukkan kembali Options.SkipToken nilai tersebut dan ulangi permintaan hingga semua catatan diambil.

Kelompokkan catatan yang dikumpulkan berdasarkan properties_model untuk melihat di mana setiap model digunakan di seluruh tenant. Contoh berikut menunjukkan jumlah agen per model untuk tenant, tidak termasuk agen yang menggunakan model default Copilot Studio atau dijalankan dalam pengalaman Microsoft 365 Copilot:

Model                  Count
-----                  -----
Claude Sonnet 4.6         24
GPT-5 Chat                22
GPT-5.5 Chat               5
GPT-5 Auto                 4
Claude Sonnet 4.5          3
Claude Opus 4.6            2
Claude Opus 4.7            1
Claude Opus 5              1
Claude Sonnet 5            1
GPT-4o                     1
GPT-5.6 Reasoning          1

Saat penghentian diumumkan, filter kumpulan hasil yang sama berdasarkan model yang akan dihentikan untuk menghasilkan daftar agen yang terdampak, lingkungannya, dan ID agennya. Gunakan nilai environmentId untuk memetakan setiap agen ke lingkungan yang dinamai, dan mengarahkan hasilnya kepada pemilik lingkungan tersebut. Pelajari lebih lanjut dalam Menanggapi penghentian model untuk panduan lengkap dalam menanggapi penghentian model.

Pelajari lebih lanjut di:

Gunakan Power Platform CLI untuk detail dalam cakupan lingkungan

Gunakan pac copilot list saat Anda membutuhkan agen dan konteks solusi untuk satu lingkungan, misalnya saat Anda menyiapkan migrasi dalam satu lingkungan:

pac copilot list --environment <environment-id-or-url>

Perintah mengembalikan nama agen, ID Copilot, status komponen, status terkelola, ID solusi, kode status, dan kode status. Output ini tidak mencakup model, jadi gunakan API inventaris untuk mengidentifikasi agen per model. Gunakan pac admin list untuk mengambil nama dan ID lingkungan.

Apa yang harus dicatat untuk setiap agen

Model saja tidak cukup untuk merencanakan migrasi. Catat hal-hal berikut untuk setiap agen, sehingga saat pensiun diumumkan, Anda sudah tahu siapa yang harus dihubungi dan pekerjaan apa yang dibutuhkan setiap agen:

  • Nama agen, ID agen, lingkungan, dan tipe lingkungan, seperti pengembangan, pengujian, atau produksi.
  • Kritikalitas bisnis.
  • Pemilik bisnis, pemilik teknis, penguji, dan penyetuju pelepasan.
  • Model yang dikonfigurasi dan tag rilisnya.
  • Apakah agen menggunakan model default atau model tertentu yang dipilih.
  • Persyaratan pemrosesan lintas geo dan kendala regional.
  • Baik agen tersebut didukung oleh harness standar maupun harness GitHub Copilot, yang menentukan metode pengujian evaluasi yang tersedia untuknya. Pelajari selengkapnya tentang harness Copilot Studio.
  • Lokasi test set regresi dan tanggal eksekusi baseline terakhir.
  • Apakah jendela model yang dihentikan sedang digunakan, kapan kedaluwarsanya, dan siapa yang menyetujuinya.

Langkah selanjutnya

Dengan lanskap model yang sudah dipahami dan inventaris agen Anda sudah siap, gunakan kriteria keputusan untuk menentukan apakah peningkatan diperlukan.

Tentukan kapan harus meningkatkan model AI

  • Last updated on