Kelola siklus hidup model AI untuk agen Copilot Studio

Copilot Studio menawarkan berbagai jenis model. Jenis model ini didasarkan pada tujuan penggunaan dan ketersediaannya. Pemilihan model AI bukanlah keputusan desain sekali saja. Model-model diperkenalkan, diperbarui, tersedia secara umum, dipilih sebagai default, dan akhirnya dipensiunkan. Agen yang bekerja dengan baik dengan satu model dapat berperilaku sangat berbeda dengan model lain, bahkan model dalam keluarga model yang sama.

Perlakukan manajemen siklus hidup model sebagai praktik operasi berkelanjutan untuk setiap agen produksi Copilot Studio. Buat proses yang dapat diulang untuk menemukan perubahan model, mengevaluasi model kandidat, mempersiapkan pensiun, memigrasikan agen yang terdampak, dan memantau kualitas setelah penerapan.

Mengubah model yang digunakan agen jarang hanya sekadar perubahan seleksi model. Model yang lebih baru dapat menafsirkan instruksi secara lebih harfiah, memilih alat secara berbeda, menghasilkan panjang dan format respons yang berbeda, serta mengubah latensi. Rencanakan setiap perubahan model sebagai migrasi yang mencakup evaluasi, penyempurnaan instruksi dan alat, persetujuan, serta pemantauan pasca-deployment.

Prinsip utamanya adalah merancang fleksibilitas, beroperasi secara konservatif, dan membatasi setiap pembaruan dengan evaluasi. Upgrade ke setiap model baru berisiko mengalami regresi diam-diam. Menghindari semua perubahan model menjamin keadaan darurat saat pensiun tiba.

Terapkan siklus hidup berikut pada agen produksi:

  1. Temukan model baru, yang diperbarui, default, dan yang akan dipensiunkan.
  2. Inventarisasi agen, lingkungan, pemilik, dan proses bisnis yang bergantung pada setiap model.
  3. Evaluasi model pengganti kandidat terhadap baseline yang sudah mapan.
  4. Setujui migrasi dengan menggunakan kriteria kualitas dan operasional yang terdokumentasi.
  5. Terapkan melalui proses Application Lifecycle Management (ALM) organisasi.
  6. Pantau hasil produksi dan tambahkan skenario yang baru ditemukan ke suite regresi.
  7. Ulangi proses ini seiring perkembangan model dan kebutuhan agen.

Artikel ini membahas penemuan dan inventaris. Seri ini berlanjut dengan:

Manajemen siklus hidup model membutuhkan koordinasi antara pemilik agen, pembuat, administrator platform, penguji, tim keamanan dan kepatuhan, serta penyetuju rilis. Tetapkan kepemilikan sebelum perubahan model menyebabkan migrasi mendesak.

Pahami lanskap model

Sebelum Anda dapat merencanakan perubahan model, Anda perlu mengetahui bagaimana Copilot Studio mengklasifikasikan model, model mana yang benar-benar dapat digunakan organisasi Anda, dan agen mana yang bergantung pada masing-masing.

Memahami jenis rilis model

Copilot Studio mengidentifikasi model berdasarkan klasifikasi rilis dan ketersediaan. Klasifikasi ini membantu menentukan cara mengatur sebuah model dan di mana menggunakannya. Nama model, tahap rilis, ketersediaan regional, dan status pensiun berubah seiring waktu. Selalu periksa ketersediaan model berdasarkan wilayah untuk informasi terkini daripada mengandalkan daftar model statis.

Agen yang menggunakan model default akan berpindah ke model baru setiap kali default di-upgrade, baik Anda merencanakannya maupun tidak. Untuk agen berisiko tinggi dan volume tinggi, pilih model tertentu daripada melacak default, sehingga setiap perubahan model melewati proses migrasi Anda.

Peringatan

Model eksperimental dan pratinjau dapat memiliki ketersediaan terbatas, kualitas respons yang bervariasi, latensi atau konsumsi pesan yang berbeda, timeout, dan pertimbangan pemrosesan data regional. Copilot Studio tidak merekomendasikan mereka untuk agen produksi. Jika Anda mempublikasikan agen yang menggunakan model pratinjau atau eksperimental dan pengguna berinteraksi dengannya, penggunaan tersebut tetap ditagih pada tarif yang telah ditetapkan.

Cocokkan kategori penggunaan model dengan tujuan agen

Copilot Studio menandai setiap model dengan kategori penggunaan yang menjelaskan untuk apa model tersebut dioptimalkan. Memilih kategori yang tepat untuk beban kerja agen memengaruhi kualitas, latensi, dan konsumsi kredit.

  • Deep: Dioptimalkan untuk penalaran yang sengaja dan bertahap serta alur kerja yang didukung alat. Terbaik untuk analitik kompleks, analisis kebijakan, dan sintesis dokumen. Membawa latensi dan konsumsi kredit tertinggi.
  • Auto: Mencakup beban kerja campuran dengan mengarahkan kueri secara dinamis. Terbaik untuk agen helpdesk dan karyawan dengan kompleksitas kueri yang tidak dapat diprediksi atau beragam. Latensi dan biaya bervariasi per giliran.
  • Umum: Dioptimalkan untuk kecepatan dan biaya pada chat sehari-hari serta grounding ringan. Terbaik untuk drafting, ringkasan, jawaban ala FAQ, dan otomatisasi aksi sederhana. Latensi dan konsumsi kredit terendah.

Pelajari lebih lanjut di kategori penggunaan Model.

Important

Kesalahan upgrade yang paling umum adalah ketidaksesuaian kategori penggunaan, seperti memindahkan agen FAQ volume tinggi dari model umum ke model dalam karena model dalam mendapat skor lebih baik. Kualitas jawaban dapat meningkat sedikit sementara latensi dan konsumsi kredit meningkat tajam. Perubahan ini merupakan regresi bersih dalam pengalaman pengguna dan biaya.

Memahami model eksternal dan kontrol administrator

Anda dapat menggunakan model dari penyedia eksternal seperti Anthropic, xAI, dan Mistral sebagai model utama agen. Pelajari selengkapnya di Memilih model eksternal sebagai model AI utama.

Pengaturan administrator mengontrol model mana yang dapat dipilih pembuat dalam suatu lingkungan. Model yang terdokumentasi tersedia mungkin tetap tidak tersedia bagi agen yang Anda migrasikan jika pengaturan yang diperlukan tidak diaktifkan.

Pengaturan administrator Dampak pada ketersediaan model
Pratinjau dan model AI eksperimen Aktifkan sebelum pembuat dapat memilih model pratinjau atau eksperimental dalam sebuah lingkungan.
Pindahkan data antar wilayah Diperlukan untuk model cross-geo. Administrator penyewa mengelola pengaturan tingkat lingkungan ini di pusat admin Power Platform.
Model eksternal Mengaktifkan penyedia eksternal untuk lingkungan atau grup lingkungan. Anda juga harus mengizinkan akses ke setiap penyedia secara terpisah di pusat admin Microsoft 365. Persyaratan ini menjadikan model eksternal sebagai satu kelas yang membutuhkan dua tindakan administrator independen.

Note

Model pratinjau dan eksperimental serta model eksternal diatur oleh pengaturan terpisah. Mengaktifkan satu tipe tidak mengaktifkan yang lain. Administrator dapat mengizinkan model pratinjau dan eksperimental sambil memblokir model eksternal, atau sebaliknya.

Sebelum merencanakan migrasi, pastikan model kandidat tersedia bagi pembuat di lingkungan target. Daftar model di Copilot Studio mencerminkan pengaturan administrator Anda dan merupakan kebenaran dasar tentang apa yang dapat digunakan oleh agen tertentu. Pelajari lebih lanjut di Kontrol Admin untuk pemilihan model AI.

Tinjau ketersediaan model secara berkala

Tinjau model AI utama untuk agen Anda secara berkala. Ini adalah sumber otoritatif untuk daftar model saat ini. Model baru muncul saat diperkenalkan, dan model yang sudah ada akan diperbarui saat tersedia secara umum, menjadi default, atau sudah pensiun.

Gunakan sumber-sumber berikut secara bersama-sama:

Sumber Deskripsi
Pilih model AI utama untuk agen Anda Sumber utama untuk ketersediaan model dan pengenalan model baru: nama model, tag kategori penggunaan, tag rilis, ketersediaan per wilayah, bendera lintas geo, status pensiun, ketersediaan cloud Pemerintah AS, dan kontrol administrator.
Daftar model di Copilot Studio, pada halaman Ikhtisar agen di bawah Model Apa yang sebenarnya tersedia untuk agen tertentu di lingkungan Anda, berdasarkan pengaturan administrator Anda.
Lanjutkan menggunakan model AI yang sudah pensiun Bagaimana jendela kompatibilitas model pensiun bekerja dan cara mengaktifkannya.
Notifikasi Pusat Pesan Microsoft 365 dan admin Power Platform Pengumuman perubahan dan pensiun yang ditargetkan oleh penyewa.
Rencana rilis Copilot Studio dan Apa yang Baru di Copilot Studio Model dan peta jalan kapabilitas yang berwawasan ke depan.
Lingkungan siklus rilis awal Lanjutkan validasi perubahan platform dan model sebelum mencapai lingkungan bisnis yang kritis.
Kelola kredit dan kapasitas Copilot Studio Apa yang digunakan penyewa Anda, dan pada konsumsi berapa, berdasarkan model.
Panduan peningkatan penyedia model Perubahan perilaku antar generasi model, dan perubahan prompt yang mengatasinya.

Juga memicu peninjauan ketika:

  • Model yang relevan tersedia dalam pratinjau atau tersedia secara umum.
  • Model default berubah.
  • Model pensiun atau upgrade otomatis diumumkan.
  • Model tersedia di wilayah organisasi.
  • Organisasi ini memungkinkan pemrosesan lintas geo, model eksternal, atau model pratinjau dan eksperimental.
  • Pemantauan produksi mengidentifikasi kekhawatiran kualitas, latensi, keandalan, atau konsumsi yang mungkin diatasi oleh model lain.

Jaga inventaris model dan agen

Gunakan inventaris agen yang disediakan di pusat admin Power Platform, Power Platform CLI, atau Power Platform API untuk mengidentifikasi agen yang menggunakan model tertentu. Gunakan informasi ini untuk memulai komunikasi siklus hidup model dengan pemilik bisnis dan teknis yang terdampak.

Gunakan salah satu tampilan berikut di pusat admin Power Platform:

Tampilan pusat admin Power Platform Cara menggunakannya
Kelola>Kolom ModelCopilot Studio> Tinjau agen di seluruh tenant dan identifikasi model yang dikonfigurasi untuk setiap agen. Saring atau ekspor hasil untuk menemukan agen yang menggunakan model yang dijadwalkan untuk pensiun.
Lisensi>Detail konsumsi pesanLingkungan>Copilot Studio> Kolom >Model LLM Pilih lingkungan dan tinjau konsumsi pesan berdasarkan model LLM. Gunakan tampilan ini untuk mengidentifikasi lingkungan, agen, dan konsumsi terbaru yang terkait dengan model pensiun.

Query API inventaris untuk menemukan agen berdasarkan model

Tampilan pusat admin Power Platform efektif untuk meninjau dan mengekspor hasil secara manual. Query API inventaris sebagai gantinya saat Anda ingin mengumpulkan informasi yang sama secara programatik, sehingga enumerasi agen dapat diskrip, dijadwalkan, dan diulang di seluruh tenant, bukan mengunduh laporan secara manual. Organisasi dengan aset agen besar dapat menggunakan pendekatan ini untuk memperbarui daftar agen yang terdampak sesuai permintaan selama migrasi pensiun dan menjaga agar tetap terkini di antara peristiwa siklus hidup.

API inventaris mengembalikan nama agen, nama tampilan, lingkungan, dan model yang dikonfigurasi dalam satu query penyewa, sehingga tidak diperlukan korelasi dengan sumber data lain.

Sebelum Anda menjalankan kueri:

  • Masuk dengan akun yang memiliki peran administrator Power Platform atau administrator Dynamics 365.
  • Dapatkan token akses untuk sumber daya tersebut https://api.powerplatform.com/ .
  • Pastikan inventaris agen diaktifkan untuk penyewa.

Kirim permintaan POST ke endpoint query sumber daya, filter berdasarkan tipe microsoft.copilotstudio/agents sumber daya, dan proyeksikan field yang Anda butuhkan, termasuk properties.model:

POST https://api.powerplatform.com/resourcequery/resources/query?api-version=2024-10-01
Authorization: Bearer <access-token>
Content-Type: application/json

{
  "TableName": "PowerPlatformResources",
  "Clauses": [
    {
      "$type": "where",
      "FieldName": "type",
      "Operator": "in~",
      "Values": ["'microsoft.copilotstudio/agents'"]
    },
    {
      "$type": "project",
      "FieldList": [
        "name",
        "properties.displayName",
        "properties.model",
        "environmentId = tostring(properties.environmentId)"
      ]
    }
  ],
  "Options": { "Top": 200 }
}

Respons mengembalikan satu catatan per agen. Nama bidang dalam respons mengganti titik dengan garis bawah, sehingga properties.model dikembalikan sebagai properties_model:

{
  "totalRecords": 158,
  "count": 200,
  "data": [
    {
      "name": "00000000-0000-0000-0000-000000000000",
      "properties_displayName": "Sample Agent",
      "properties_model": "GPT-5 Auto",
      "environmentId": "00000000-0000-0000-0000-000000000000"
    }
  ]
}

Respons tersebut mencakup totalRecords dan, ketika hasilnya dipangkas, sebuah skipToken nilai. Masukkan kembali Options.SkipToken nilai tersebut dan ulangi permintaan hingga semua catatan diambil.

Kelompokkan catatan yang dikumpulkan berdasarkan properties_model untuk melihat di mana setiap model digunakan di seluruh tenant. Contoh berikut menunjukkan jumlah agen per model untuk tenant, tidak termasuk agen yang menggunakan model default Copilot Studio atau dijalankan dalam pengalaman Microsoft 365 Copilot:

Model                  Count
-----                  -----
Claude Sonnet 4.6         24
GPT-5 Chat                22
GPT-5.5 Chat               5
GPT-5 Auto                 4
Claude Sonnet 4.5          3
Claude Opus 4.6            2
Claude Opus 4.7            1
Claude Opus 5              1
Claude Sonnet 5            1
GPT-4o                     1
GPT-5.6 Reasoning          1

Saat pensiun diumumkan, filter hasil yang sama pada model pensiun untuk menghasilkan daftar agen yang terdampak, lingkungan mereka, dan ID agen mereka. Gunakan nilai tersebut environmentId untuk memetakan setiap agen ke lingkungan bernama, dan mengarahkan hasilnya ke pemilik lingkungan tersebut. Pelajari lebih lanjut di Tanggapi model pensiun untuk respons pensiun penuh.

Pelajari lebih lanjut di:

Gunakan Power Platform CLI untuk detail lingkungan

Gunakan pac copilot list saat Anda membutuhkan agen dan konteks solusi untuk satu lingkungan, misalnya saat Anda menyiapkan migrasi dalam satu lingkungan:

pac copilot list --environment <environment-id-or-url>

Perintah mengembalikan nama agen, ID Copilot, status komponen, status terkelola, ID solusi, kode status, dan kode status. Output ini tidak mencakup model, jadi gunakan API inventaris untuk mengidentifikasi agen per model. Gunakan pac admin list untuk mengambil nama dan ID lingkungan.

Apa yang harus dicatat untuk setiap agen

Model saja tidak cukup untuk merencanakan migrasi. Catat hal-hal berikut untuk setiap agen, sehingga saat pensiun diumumkan, Anda sudah tahu siapa yang harus dihubungi dan pekerjaan apa yang dibutuhkan setiap agen:

  • Nama agen, ID agen, lingkungan, dan tipe lingkungan, seperti pengembangan, pengujian, atau produksi.
  • Kritikalitas bisnis.
  • Pemilik bisnis, pemilik teknis, penguji, dan penyetuju pelepasan.
  • Model yang dikonfigurasi dan tag rilisnya.
  • Apakah agen menggunakan model default atau model tertentu yang dipilih.
  • Persyaratan pemrosesan lintas geo dan kendala regional.
  • Apakah agen tersebut menggunakan harness standar atau harness GitHub Copilot, yang menentukan metode pengujian evaluasi yang tersedia untuknya. Pelajari lebih lanjut di Choose a harness.
  • Lokasi set tes regresi dan tanggal run baseline terakhir.
  • Apakah jendela model pensiun sedang digunakan, kapan kedaluwarsaannya, dan siapa yang menyetujuinya.

Langkah selanjutnya

Dengan lanskap model yang sudah dipahami dan inventaris agen Anda sudah siap, gunakan kriteria keputusan untuk menentukan apakah peningkatan diperlukan.

Tentukan kapan harus meningkatkan model AI

  • Last updated on