Microsoft AI dan produk pembelajaran mesin

Microsoft menawarkan beberapa platform untuk AI dan pembelajaran mesin. Setiap platform menargetkan kombinasi audiens, beban kerja, fondasi data, dan model penyebaran yang berbeda. Artikel ini membantu arsitek solusi, insinyur pembelajaran mesin, ilmuwan data, dan pengembang aplikasi memilih platform awal, memahami bagaimana platform berbeda, dan mempelajari cara menggabungkannya dalam arsitektur dunia nyata. Cakupan mencakup pembelajaran mesin klasik, pembelajaran mesin terintegrasi analitik, dan beban kerja AI generatif di Azure, Microsoft Fabric, dan Microsoft Foundry. Artikel ini berfokus pada solusi yang disediakan Microsoft.

Gunakan artikel ini untuk membandingkan opsi dan merancang solusi end-to-end.

Note

Artikel ini berfokus pada AI kustom dan platform pembelajaran mesin, bukan asisten perangkat lunak sebagai layanan (SaaS), alat penulisan SaaS kode rendah, atau pengalaman pengguna akhir dalam produk.

Skenario beban kerja utama

Mulailah dengan fitur AI atau pembelajaran mesin yang perlu Anda tambahkan ke beban kerja Anda. Tabel berikut memetakan skenario fitur umum ke platform awal yang direkomendasikan untuk kemampuan AI kustom dan pembelajaran mesin. Gunakan sebagai orientasi awal sebelum Anda meninjau kemampuan platform dan menelusuri pohon keputusan.

Skenario utama Titik awal yang direkomendasikan Alasan
Membangun aplikasi AI generatif atau agen AI Microsoft Foundry Menyediakan penemuan model, penyempurnaan, retrieval-augmented generation (RAG), orkestrasi agen, evaluasi, dan alat keselamatan dalam satu platform.
Menambahkan fitur AI melalui API bawaan untuk keamanan visi, ucapan, bahasa, pencarian, atau konten Peralatan Pengecoran Menawarkan API yang telah dilatih sebelumnya yang tidak memerlukan pelatihan kustom. Gunakan sebelum membangun model kustom.
Melatih, menyebarkan, dan mengelola model pembelajaran mesin atau pembelajaran mendalam kustom Azure Machine Learning Mencakup siklus hidup pembelajaran mesin lengkap, termasuk MLOps, titik akhir online dan batch, dan alat AI yang bertanggung jawab.
Menjalankan pembelajaran mesin terintegrasi analitik pada platform data terpadu dan kecerdasan bisnis (BI) Microsoft Fabric Menyediakan platform analitik SaaS yang mendukung notebook Apache Spark, AutoML, dan Microsoft integrasi yang didukung OneLake dengan Power BI.
Menjalankan pembelajaran mesin pada Spark, data lakehouse, atau pekerjaan pelatihan terdistribusi besar Azure Databricks atau Apache Spark di Azure HDInsight Azure Databricks: Mendukung Spark skala lakehouse dengan integrasi MLflow dan Unity Catalog asli.

Azure HDInsight: Mendukung kluster Spark yang dikelola Azure dengan penyimpanan asli dan integrasi keamanan.
Menyimpan pembelajaran mesin di dalam database SQL, di perangkat edge, atau di aplikasi desktop Aplikasi cerdas SQL dan AI, Azure SQL Managed Instance Pembelajaran Mesin Services, SQL Server Pembelajaran Mesin Services, atau alat machine learning lokal Menyediakan cara untuk menyimpan data dan menambahkan prediksi dalam database, pengambilan vektor, atau integrasi titik akhir AI.

Membandingkan kemampuan platform

Matriks berikut meringkas di mana setiap platform adalah kecocokan utama, di mana matriks menawarkan dukungan pelengkap, dan di mana kemampuannya bukan fokus. Matriks menggunakan ikon ini:

  • ✅ Kemampuan utama
  • ⚠️ Kemampuan yang didukung atau pelengkap
  • ❌ Bukan fokus
Capability Microsoft Foundry Azure Machine Learning Microsoft Fabric Azure Databricks Alat Pengecoran Pembelajaran mesin SQL Azure Stack Edge atau pembelajaran mesin lokal
AI dan agen generatif ✅ ⚠️ (Bukan platform utama) ❌ ⚠️ (Cakupan Lakehouse) ⚠️ (Hanya blok bangunan) ❌ ⚠️ (Hanya di perangkat)
Penemuan dan evaluasi model fondasi ✅ ⚠️ (Bukan platform utama) ❌ ⚠️ (Cakupan Lakehouse) ❌ ❌ ❌
Pelatihan model kustom (pembelajaran klasik atau mendalam) ⚠️ (Hanya penyetelan halus) ✅ ⚠️ (Cakupan analitik) ✅ ❌ ⚠️ (Cakupan database) ⚠️ (Khusus lokal)
Komputasi pelatihan berskala besar atau terdistribusi ❌ ✅ ⚠️ (Skala yang lebih kecil) ✅ ❌ ❌ ❌
AutoML (Otomatisasi Pembelajaran Mesin) ❌ ✅ ✅ ✅ ❌ ❌ ⚠️ (hanya .NET)
Siklus hidup MLOps (registri, alur, integrasi berkelanjutan dan pengiriman berkelanjutan (CI/CD)) ⚠️ (Melalui Azure Machine Learning) ✅ ⚠️ (Melalui Azure Machine Learning) ✅ ❌ ❌ ❌
Inferensi real time (online) ✅ ✅ ⚠️ (Titik akhir model dalam pratinjau) ✅ ✅ ⚠️ (Hanya dalam database) ✅
Inferensi batch (offline) ⚠️ (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠️ (Khusus lokal)
Penyebaran lokal atau offline ⚠️ (Hanya subset Edge) ⚠️ (Melalui Azure Arc) ❌ ❌ ⚠️ (Hanya kontainer) ✅ ✅
Peralatan tata kelola dan keamanan ✅ ✅ ⚠️ (Tata kelola model terbatas) ✅ ⚠️ (Cakupan layanan) ⚠️ (Cakupan database) ❌

Catatan berikut mengklarifikasi peringkat tertentu dalam matriks:

  • Foundry Tools dinilai sebagai pelengkap untuk AI dan agen generatif karena layanan seperti Pencarian Azure AI, Keamanan Konten di Foundry Control Plane, dan Azure Kecerdasan Dokumen di Foundry Tools adalah blok penyusun umum untuk solusi RAG dan agen. Platform utama untuk pengembangan AI generatif adalah Microsoft Foundry.

  • tata kelola Microsoft Foundry terutama berasal dari Foundry Control Plane, yang menyediakan pengamatan, kontrol runtime, integrasi keamanan, dan manajemen armada untuk agen dan aplikasi.

  • Azure Machine Learning mendukung AI generatif melalui akses ke Model Foundry, titik akhir terkelola, kemampuan evaluasi, dan penyempurnaan untuk model fondasi yang didukung. Ini bukan platform utama untuk pengembangan AI generatif.

  • Azure Databricks mendapatkan peringkat utama untuk tata kelola karena Unity Catalog menyediakan data terpadu dan tata kelola model dengan kontrol akses berbasis peran (RBAC) dan OpenSharing.

  • Microsoft Fabric dinilai sebagai pelengkap untuk tata kelola karena OneLake, integrasi Microsoft Purview, label sensitivitas, dan kontrol berbasis domain mencakup aset data dengan baik. Microsoft Fabric menyertakan registri model berbasis MLflow bawaan untuk menyimpan dan melacak model. Microsoft Fabric juga memiliki tampilan silsilah data bawaan untuk model dan eksperimen pembelajaran mesin, termasuk hubungan dengan lakehouse dan item kode. Tetapi Microsoft Fabric tidak menyertakan dasbor AI yang bertanggung jawab. Untuk tata kelola siklus hidup model yang lebih luas, pasangkan Microsoft Fabric dengan Azure Machine Learning.

  • Microsoft Fabric dinilai sebagai pelengkap untuk inferensi real time karena Microsoft Fabric Real-Time Intelligence mencakup analitik streaming, dan Microsoft Fabric titik akhir model pembelajaran mesin menyediakan titik akhir REST online terkelola untuk prediksi real time. Titik akhir model dalam pratinjau dan mendukung serangkaian ragam model terbatas. Untuk penyajian online produksi yang luas, Anda juga dapat memasangkan Microsoft Fabric dengan titik akhir online terkelola Azure Machine Learning atau Microsoft Foundry.

  • Foundry Local memperluas Microsoft Foundry ke inferensi perangkat untuk skenario tepi dan offline.

  • Azure Arc memperluas Azure Machine Learning ke kluster Kubernetes lokal untuk pelatihan atau penilaian hibrid.

  • Microsoft Fabric Data Science mencakup pengalaman AutoML kode rendah. AutoML pertama kode tersedia melalui API AutoML Cepat dan Ringan (FLAML) di buku catatan Microsoft Fabric. Untuk status saat ini, periksa dokumentasi Microsoft Fabric.

Persempit pilihan platform Anda

Gunakan pohon keputusan berikut untuk mempersempit pilihan platform awal Anda. Pohon ini membantu Anda memilih platform utama untuk beban kerja. Sebagian besar solusi produksi menggabungkan lebih dari satu platform, jadi gunakan bagian khusus produk dalam artikel ini untuk menyempurnakan pilihan Anda. Pertimbangkan juga untuk menggunakan pola arsitektur campuran. Untuk informasi selengkapnya, lihat Menggabungkan platform.

Pohon keputusan untuk AI Microsoft utama atau platform pembelajaran mesin berdasarkan skenario, profil pengembang, dan lokasi pelatihan dan inferensi.

Unduh file Visio pohon keputusan ini.

Panduan langkah demi langkah

Gunakan langkah-langkah berikut untuk menelusuri pohon keputusan. Saat Anda mencapai pilihan platform, lewati langkah-langkah yang tersisa.

  1. Identifikasi skenario fitur.

    Buat pilihan platform di tingkat fitur dalam beban kerja Anda. Setiap fitur dapat memiliki persyaratan fungsional dan nonfungsi unik yang dapat dilayani oleh satu atau beberapa teknologi. Saat Anda menggunakan diagram alur ini, pertimbangkan persyaratan kasus penggunaan spesifik yang ingin Anda selesaikan.

    • Jika fitur AI bawaan seperti visi, ucapan, bahasa, pencarian, pemahaman dokumen, atau keamanan konten memenuhi kebutuhan beban kerja Anda, gunakan Foundry Tools. Banyak layanan di Foundry Tools mendukung kustomisasi, seperti klasifikasi teks kustom dalam bahasa Azure atau model kustom dalam Azure Kecerdasan Dokumen. Pertimbangkan layanan ini sebelum Anda berkomitmen untuk melakukan pelatihan kustom penuh atau pendekatan yang lebih luas seperti menggunakan model bahasa untuk mensimulasikan layanan khusus. Untuk dokumentasi khusus layanan, lihat artikel berikut ini:
    • Jika beban kerja Anda memerlukan AI generatif atau agen AI kustom untuk menambahkan perilaku nondeterministik, lanjutkan ke langkah 2.
    • Jika fitur ini memerlukan kemampuan pembelajaran mesin kustom atau pembelajaran mendalam, seperti pembelajaran mesin klasik, visi komputer, prakiraan, atau penyempurnaan model Anda sendiri, lanjutkan ke langkah 3.
    • Jika Anda perlu mengintegrasikan pembelajaran mesin ke dalam data dan alur kerja BI yang lebih luas, lanjutkan ke langkah 4.

  2. Untuk AI dan agen generatif, pilih platform Microsoft yang cocok dengan profil pengembang Anda.

    • Akses API model bahasa besar langsung (LLM): Gunakan Azure OpenAI di Microsoft Foundry.

    • Agen code-first atau pengembangan multi-agen: Gunakan Microsoft Agent Framework SDK yang dipasangkan dengan Foundry Agent Service untuk hosting dan orkestrasi.

    • Platform AI generatif penuh (Model Foundry, penyempurnaan, evaluasi, keamanan, pengamatan, dan tata kelola): Gunakan Microsoft Foundry.

  3. Untuk pembelajaran mesin kustom dan pembelajaran mendalam, dasarkan keputusan Anda tentang di mana pelatihan dan inferensi harus berjalan.

  4. Untuk pembelajaran mesin terintegrasi analitik, pilih solusi yang cocok dengan data dan pola BI Anda.

  5. Untuk komputasi berbasis Spark atau terdistribusi, dasarkan keputusan Anda tentang apakah Anda menggunakan lakehouse atau kluster Spark terkelola.

    • Lakehouse dengan tata kelola MLflow dan Unity Catalog: Gunakan Azure Databricks. Anda masih dapat menerbitkan model melalui titik akhir terkelola Azure Machine Learning untuk penyajian dan tata kelola.

    • Kluster Spark terkelola pada Azure dengan penyimpanan asli dan integrasi keamanan: Gunakan Apache Spark di Azure HDInsight.

Note

Untuk arsitektur yang mencakup lingkungan cloud dan lokal, lampirkan kluster Kubernetes lokal atau multicloud ke ruang kerja Azure Machine Learning melalui Azure Arc. Penyiapan ini menyimpan data lokal saat mengatur pelatihan dan inferensi melalui Azure. Untuk informasi selengkapnya, lihat Mengonfigurasi kluster Kubernetes untuk Azure Machine Learning.

Azure Machine Learning

Azure Machine Learning adalah layanan cloud yang dikelola sepenuhnya untuk melatih, menyebarkan, dan mengelola model pembelajaran mesin dalam skala besar. Ini mendukung puluhan ribu paket Python sumber terbuka, termasuk TensorFlow, PyTorch, dan scikit-learn. Ini menyediakan alat untuk siklus hidup pembelajaran mesin lengkap, dari persiapan data melalui penyebaran, MLOps, dan AI yang bertanggung jawab.

Gunakan Azure Machine Learning saat Anda memerlukan kemampuan berikut:

  • Pelatihan kustom. Anda menggunakan pelatihan model kustom untuk pembelajaran mesin klasik, pembelajaran mendalam, atau penyempurnaan LLM sumber terbuka.

  • MLOps Produksi. Anda menggunakan siklus hidup MLOps produksi yang mencakup pelacakan eksperimen, penerapan versi model, registri yang diatur, alur CI/CD, dan pemantauan produksi.

  • Titik akhir terkelola. Anda menggunakan titik akhir inferensi online atau batch terkelola yang dihosting di lingkungan yang menyediakan autoscaling, identitas terkelola, dan pemantauan.

  • Komputasi hibrid. Anda menggunakan pelatihan hibrid atau inferensi pada kluster Kubernetes yang diaktifkan Azure Arc.

Tabel berikut ini meringkas kemampuan platform yang Azure Machine Learning sediakan di seluruh siklus hidup pembelajaran mesin.

Capability Deskripsi
Ruang kerja dan penyimpanan data Sumber daya pusat untuk mengatur eksperimen, komputasi, himpunan data, model, dan koneksi ke penyimpanan data eksternal. Aset dan riwayat eksekusi diberi versi untuk reproduksi.
Menghitung kluster dan instans Komputasi CPU dan GPU yang disediakan untuk pelatihan terdistribusi (kluster komputasi) dan pengembangan notebook interaktif (instans komputasi).
Komputasi tanpa server Komputasi terkelola sesuai permintaan yang Azure Machine Learning membuat dan menskalakan secara otomatis untuk pekerjaan pelatihan.
Pembelajaran mesin otomatis Pembuatan model, alur, penyetelan hiperparameter, dan rekayasa fitur untuk klasifikasi, regresi, prakiraan, visi komputer, dan pemrosesan bahasa alami.
Alur dan perancang Orkestrasi berbasis kode dan seret dan letakkan untuk persiapan, pelatihan, evaluasi, dan penyebaran data. Terintegrasi dengan alat CI/CD.
Akses Model Foundry Platform untuk menemukan, mengevaluasi, menyempurnakan, dan menyebarkan model fondasi yang didukung dari Microsoft, OpenAI, Meta, Hugging Face, dan penyedia lainnya melalui Model Foundry di Azure Machine Learning.
Pelacakan eksperimen MLflow dan manajemen model Pelacakan eksperimen, eksekusi, metrik, parameter, artefak, dan model dengan menggunakan API yang kompatibel dengan MLflow dengan ruang kerja Azure Machine Learning.
Titik akhir online dan batch Titik akhir REST terkelola untuk inferensi real-time dan titik akhir yang dapat dipanggil untuk penilaian batch, dengan penskalaan otomatis dan dukungan identitas terkelola.
Alat AI yang bertanggung jawab Dasbor kewajaran, penjelasan, dan analisis kesalahan.
Dukungan keamanan dan hibrid Integrasi dengan Microsoft Azure Virtual Network, Azure Key Vault, Azure Container Registry, RBAC, identitas terkelola, dan Azure Arc.

Tabel berikut ini meringkas detail adopsi inti untuk Azure Machine Learning.

Aspek Rincian
Type Platform pembelajaran mesin berbasis cloud.
Bahasa yang didukung Python dan R. Antarmuka baris perintah (CLI) dan REST API juga didukung.
Fase pembelajaran mesin Persiapan data, pelatihan, penyebaran, MLOps, dan AI yang bertanggung jawab.
Manfaat utama Alur kerja SDK dan CLI yang mengutamakan kode. Penulisan berbasis studio. Manajemen pusat skrip, eksperimen, dan riwayat eksekusi. Pelatihan dan penyebaran yang dapat diskalakan. Opsi hibrid melalui Azure Arc.
Considerations Beberapa keakraban dengan ruang kerja dan model aset sangat membantu sebelum mengadopsi MLOps penuh.

Azure Machine Learning tidak paling cocok dalam situasi berikut:

  • Anda hanya perlu menggunakan API yang telah dilatih sebelumnya untuk visi, ucapan, atau bahasa. Dalam hal ini, gunakan Foundry Tools.

  • Pembelajaran mesin adalah ekstensi kecil dari beban kerja analitik. Dalam hal ini, Microsoft Fabric atau Azure Databricks mungkin merupakan titik awal yang lebih baik.

  • Beban kerja Anda adalah AI generatif end-to-end (pemilihan model, orkestrasi agen, evaluasi, penyebaran, dan pemantauan). Selain itu, Anda tidak memerlukan pelatihan pembelajaran mesin klasik atau model aset, eksekusi, dan MLflow Azure Machine Learning. Dalam hal ini, Microsoft Foundry saja bisa cukup. Ruang kerja Azure Machine Learning diperlukan hanya ketika Anda memerlukan komputasi pelatihan Azure Machine Learning, siklus hidup MLOps, atau titik akhir online atau batch terkelola untuk model kustom.

Microsoft Foundry

Microsoft Foundry adalah platform Azure terpadu untuk membangun, mengoptimalkan, dan mengatur aplikasi AI generatif dan agen AI. Microsoft Foundry menggabungkan katalog model Foundry, layanan agen dan orkestrasi, alat evaluasi dan keselamatan, dan sarana kontrol untuk tata kelola runtime. Untuk pengembangan agen code-first, Microsoft Foundry dipasangkan dengan Microsoft Agent Framework, SDK Microsoft terpadu yang menggantikan pemisahan sebelumnya antara Kernel Semantik dan AutoGen.

Gunakan Microsoft Foundry saat Anda memerlukan kemampuan berikut:

  • AI atau agen generatif. Anda membangun AI generatif atau solusi berbasis agen, seperti chatbot multimodel atau alur kerja LLM yang diorkestrasi.

  • Penemuan dan evaluasi model. Anda harus dapat menemukan, membandingkan, dan mengevaluasi model fondasi dari beberapa penyedia.

  • Kustomisasi dan tata kelola model. Anda ingin menyempurnakan, mengevaluasi, dan menyebarkan model fondasi di lingkungan terkelola yang menyediakan pengamatan bawaan, keamanan konten, dan kontrol runtime.

Tabel berikut ini meringkas kemampuan Microsoft Foundry yang mendukung aplikasi AI generatif dan pengembangan agen.

Capability Deskripsi
Model Cetakan Katalog model yang telah dilatih sebelumnya dari penyedia seperti Azure OpenAI, Hugging Face, dan Meta, ditambah Microsoft keluarga model bahasa kecil Phi, dengan tolok ukur dan opsi penyebaran.
Kustomisasi model Kemampuan untuk menyempurnakan atau menyesuaikan model fondasi yang didukung pada data Anda sendiri. Opsi penyebaran bergantung pada model dan menyertakan jenis standar dan yang disediakan jika tersedia.
Layanan Agen Foundry Platform untuk menghosting dan mengatur agen AI yang mengotomatiskan proses bisnis multistep. Dipasangkan dengan Microsoft Agent Framework SDK untuk pengembangan agen code-first. Menerapkan API Respons yang kompatibel dengan OpenAI untuk dukungan SDK klien yang luas.
Foundry IQ Lapisan pengetahuan terkelola yang membumikan agen pada data perusahaan. Membangun pangkalan pengetahuan multisource dan menggunakan pengambilan agenik untuk mengembalikan jawaban sadar izin dengan kutipan. Dibangun di atas Pencarian Azure AI. Sumber pengetahuan mencakup sumber terindeks (seperti indeks Pencarian Azure AI yang ada, Azure Blob Storage, file yang diunggah langsung, OneLake, Azure SQL, dan SharePoint terindeks) dan sumber jarak jauh yang dikueri saat runtime (seperti SharePoint jarak jauh, Microsoft Fabric ontologi, Work IQ, data web Microsoft Bing, server Model Context Protocol (MCP), dan agen data Microsoft Fabric). Beberapa konektor ini saat ini dalam pratinjau. Untuk status pratinjau saat ini dan konektor yang didukung, lihat sumber pengetahuan agenik di Pencarian Azure AI. Untuk opsi penyimpanan data, lihat Memilih layanan Azure untuk pencarian vektor.
Pesawat Pengendali Foundry Antarmuka yang menyediakan pengamatan, kontrol runtime, integrasi keamanan, dan manajemen armada di Microsoft agen dan aplikasi Foundry.
Keamanan Konten Layanan AI yang mendeteksi konten yang dihasilkan pengguna dan buatan AI yang berbahaya. Lihat Keamanan Konten.
Pengecoran Lokal Solusi untuk inferensi AI pada perangkat untuk skenario tepi dan offline di mana performa, privasi, atau biaya penting.

Foundry Toolkit untuk Visual Studio Code

Foundry Toolkit untuk Visual Studio Code adalah pengalaman pengembang utama untuk Microsoft Foundry. Gunakan saat Anda menginginkan alur kerja lokal-pertama untuk aplikasi dan agen AI generatif. Toolkit mendukung penemuan model, eksekusi model lokal, pengembangan prompt dan agent, integrasi alat, penelusuran kesalahan, pelacakan, evaluasi, penyempurnaan, dan penyebaran ke Microsoft Foundry dari Visual Studio Code.

Mulai di Foundry Toolkit ketika solusi membutuhkan kode, kontrol sumber, iterasi lokal, inspeksi agen, integrasi alat MCP, atau pengujian model sebelum penyebaran. Gunakan portal Foundry untuk eksplorasi bukti konsep, penyiapan proyek, tinjauan sumber daya, tinjauan evaluasi, dan visibilitas operasional setelah aplikasi dan agen berjalan.

Portal foundry dan Studio Azure Machine Learning

Portal Foundry dan Studio Azure Machine Learning adalah pengalaman web pelengkap. Gunakan untuk prototipe, manajemen proyek dan sumber daya, tinjauan evaluasi, dan visibilitas operasional.

Kategori Portal Pengecoran Studio Azure Machine Learning
Beban kerja yang paling cocok Bukti konsep, eksplorasi model, tinjauan agen, tinjauan evaluasi, dan visibilitas operasional untuk aplikasi dan agen AI generatif. Pembelajaran mesin kustom, pembelajaran mesin klasik, pembelajaran mendalam, dan alur kerja platform pembelajaran mesin yang lebih luas.
Penanganan data Fungsionalitas untuk menghubungkan sumber daya proyek dan sumber data yang didukung, termasuk Blob Storage, OneLake, dan Azure Data Lake Storage. Penyimpanan ruang kerja, aset data, dan akun penyimpanan Azure yang terhubung.
Pengalaman penulisan Prototipe berbasis portal, taman bermain, eksplorasi model, tinjauan evaluasi, dan manajemen sumber daya proyek. Notebook, perancang, AutoML, manajemen model, dan alur kerja SDK dan CLI.
Bahasa dan SDK yang didukung SDK Python, C#, JavaScript, dan Java. REST API. Python, R, dan Azure CLI. REST API.
Kekuatan pelatihan inti Evaluasi model dan penyempurnaan yang didukung. AutoML dan pelatihan kustom di seluruh pembelajaran mesin klasik, pembelajaran mendalam, dan penyempurnaan LLM.
Komputasi dan penyebaran Komputasi terkelola dan API tanpa server untuk model fondasi yang didukung. Komputasi terkelola, komputasi tanpa server, titik akhir online, titik akhir batch, dan opsi Azure Arc.
Permukaan AI generatif Permukaan web untuk eksplorasi, tinjauan evaluasi, pengamatan, dan alat keamanan Model Foundry. Foundry Models mengakses, titik akhir terkelola, evaluasi, dan penyempurnaan untuk model fondasi yang didukung di dalam platform Azure Machine Learning.
Governance Foundry Control Plane untuk tata kelola agen dan aplikasi. Dasbor AI yang bertanggung jawab, silsilah data, manajemen model, dan kontrol MLOps.

Tabel berikut ini meringkas detail adopsi inti untuk Microsoft Foundry.

Aspek Rincian
Type Platform terpadu untuk model dasar, agen, dan aplikasi AI generatif.
Bahasa yang didukung SDK Python, C#, JavaScript, dan Java. REST API.
Fase pembelajaran mesin Penemuan dan evaluasi model, pengembangan aplikasi dan agen, penyempurnaan model, penyebaran, pemantauan, dan keamanan yang didukung.
Manfaat utama Katalog model Foundry terkonsolidasi. Evaluasi, keamanan, dan pengamatan terintegrasi. Dukungan Agen dan RAG. kolaborasi berbasis Project.

Microsoft Foundry bukan yang paling cocok dalam situasi berikut:

  • Anda menggunakan kemampuan AI bawaan seperti pengenalan karakter optik (OCR), transkripsi ucapan ke teks, terjemahan, atau moderasi konten melalui API, dan Anda tidak memerlukan pemilihan model, orkestrasi, atau agen. Dalam hal ini, gunakan Foundry Tools.

  • Solusi Anda memerlukan pelatihan model kustom, untuk pembelajaran mesin klasik atau pembelajaran mendalam, dan kemampuan MLOps penuh. Dalam hal ini, gunakan Azure Machine Learning. Microsoft Foundry tidak menawarkan komputasi pelatihan yang disediakan secara luas atau AutoML untuk data tabular.

  • Solusi Anda memerlukan rekayasa data skala Spark. Dalam hal ini, gunakan Azure Databricks atau Microsoft Fabric.

Alat Pengecoran

Foundry Tools, sebelumnya Layanan Azure AI dan Cognitive Services, adalah keluarga kemampuan AI yang telah dilatih sebelumnya yang Anda konsumsi melalui REST API dan SDK. Setiap alat menargetkan kemampuan tertentu, sehingga Anda dapat menambahkan fitur cerdas ke aplikasi tanpa membangun atau melatih model kustom. Untuk bantuan dalam memutuskan layanan mana yang akan digunakan, lihat Memilih teknologi layanan AI.

Tip

Foundry Tools menyediakan API yang telah dilatih sebelumnya untuk tugas probabilistik umum. Untuk model, agen, dan orkestrasi AI generatif, bekerja di Microsoft Foundry alih-alih menggunakan Foundry Tools secara langsung. Banyak layanan di Foundry Tools berbagi jenis sumber daya Azure yang mendasar yang sama denganMicrosoft.CognitiveServices/accounts Microsoft Foundry, tetapi merupakan produk yang berbeda.

Gunakan Foundry Tools dalam situasi berikut:

  • API yang telah dilatih sebelumnya mencakup skenario, jadi Anda tidak perlu melatih model kustom.

  • Anda memerlukan API terkelola standar dan integrasi berbasis API dengan aplikasi yang ada.

Grup tabel berikut ini biasanya menggunakan layanan berdasarkan area kemampuan. Model, agen, dan orkestrasi AI generatif adalah bagian dari Microsoft Foundry dan tercantum secara terpisah untuk referensi.

Bidang kapabilitas Layanan perwakilan
Visual Azure Visi dan Wajah Azure di Foundry Tools.
Pemahaman dokumen dan konten Azure Kecerdasan Dokumen dan Pemahaman Konten Azure.
Speech Azure Ucapan untuk transkripsi ucapan ke teks, pembuatan suara teks ke ucapan, dan pengenalan pembicara.
Bahasa Azure Bahasa untuk pengenalan entitas bernama, deteksi data pribadi, dan deteksi bahasa. Azure Translator di Foundry Tools untuk terjemahan.
Pencarian dan pengetahuan Pencarian Azure AI untuk pencarian yang didukung AI dan pengambilan RAG.
Keamanan Konten Keamanan Konten untuk deteksi konten berbahaya dalam konten yang dihasilkan pengguna dan buatan AI.
Rekaman video Azure AI Video Indexer untuk analisis dan pengindeksan video.
Model dan agen AI generatif Microsoft Foundry. Termasuk Foundry Agent Service dan Foundry Models.

Untuk membandingkan layanan dalam area kemampuan dan memilihnya, lihat panduan pemilihan terperinci berikut ini:

Tabel berikut ini meringkas detail adopsi inti untuk Foundry Tools.

Aspek Rincian
Type API yang telah dilatih sebelumnya untuk membangun aplikasi cerdas.
Bahasa yang didukung SDK C#, Java, JavaScript, dan Python tergantung pada layanan. REST API.
Fase pembelajaran mesin Konsumsi melalui API. Beberapa layanan mendukung kustomisasi.
Manfaat utama Kemampuan untuk menambahkan kemampuan AI bawaan melalui API. Keahlian ilmu data minimal yang diperlukan. Penskalakan terkelola.

Foundry Tools tidak paling cocok dalam situasi berikut: Skenario Anda memerlukan arsitektur model kustom atau data pelatihan di luar opsi penyesuaian yang didukung. Dalam kasus ini, gunakan Azure Machine Learning untuk model pembelajaran klasik atau mendalam, atau gunakan Microsoft Foundry untuk penyempurnaan AI generatif.

Microsoft Fabric

Microsoft Fabric adalah platform analitik terpadu berbasis SaaS. Ini mengintegrasikan rekayasa data, ilmu data, pergudangan data, kecerdasan real time, dan Power BI pada fondasi data OneLake bersama. Teknisi data, ilmuwan data, dan analis bisnis yang menggunakan Microsoft Fabric berkolaborasi dalam lingkungan terkelola yang sama.

Beban kerja Microsoft Fabric Data Science adalah bagian yang paling relevan dengan pembelajaran mesin. Ini menyediakan notebook Spark, AutoML, pengalaman MLflow bawaan untuk pelacakan eksperimen, dan registri model. Untuk informasi mendetail, lihat Apa itu Data Science di Microsoft Fabric?.

Gunakan Microsoft Fabric saat Anda memerlukan kemampuan berikut:

  • Pembelajaran mesin terintegrasi analitik. Pembelajaran mesin adalah bagian dari alur kerja analitik yang lebih luas dalam solusi Anda, seperti membangun model pada data di lakehouse dan melayani prediksi untuk Power BI.

  • SaaS yang dikelola sepenuhnya. Anda ingin pengalaman SaaS yang dikelola sepenuhnya dengan infrastruktur minimal untuk dikelola.

  • Fondasi data bersama. Tim Anda bekerja di seluruh rekayasa data, ilmu data, dan BI pada fondasi OneLake yang sama.

Tabel berikut ini meringkas kemampuan Microsoft Fabric yang paling relevan dengan pembelajaran mesin terintegrasi analitik.

Capability Deskripsi
Fondasi OneLake Data lake logis tunggal yang dibagikan oleh beban kerja Microsoft Fabric, termasuk Rekayasa Data, Ilmu Data, Data Warehouse, dan Power BI.
Beban kerja ilmu data Runtime Spark terkelola dengan notebook untuk Python, R, SQL, dan Scala untuk analisis dan pelatihan model. Mencakup pengalaman MLflow bawaan untuk pelacakan eksperimen dan registri model. Anda juga dapat mencatat eksperimen dan model MLflow di seluruh ruang kerja dan platform, termasuk ke dalam Microsoft Fabric dari ruang kerja Azure Machine Learning.
AutoML (Otomatisasi Pembelajaran Mesin) AutoML kode rendah untuk klasifikasi, regresi, dan prakiraan. AutoML code-first tersedia melalui API FLAML di buku catatan Microsoft Fabric.
Kecerdasan Real-Time dan Aktivator Fabric Analitik streaming dan deteksi peristiwa tanpa kode yang dapat memicu Microsoft Fabric alur, notebook, atau tindakan hilir.
Titik akhir model pembelajaran mesin Titik akhir REST online terkelola yang melayani prediksi real-time dari model Microsoft Fabric terdaftar. Fungsionalitas ini dalam pratinjau dan terbatas pada sekumpulan ragam model, tetapi model terlatih AutoML didukung. Untuk informasi terperinci, lihat Menyajikan prediksi real-time dengan titik akhir model pembelajaran mesin.
integrasi Power BI Sarana untuk mengekspos output pembelajaran mesin ke Power BI melalui model dan laporan semantik, termasuk Direct Lake saat Microsoft Fabric data tetap berada di OneLake, dan pola impor atau DirectQuery saat diperlukan. Gunakan integrasi ini untuk menggabungkan prediksi, skor anomali, dan metrik prakiraan di dasbor bisnis dan alur kerja keputusan.
Integrasi Microsoft Foundry Cara untuk memberi umpan Microsoft Fabric data atau output model ke aplikasi atau agen berbasis Microsoft Foundry, seperti salinan dasar, alur kerja ringkasan, atau pengalaman RAG. Dalam praktiknya, Microsoft Foundry dapat terhubung ke data Microsoft Fabric melalui agen data Microsoft Fabric atau koneksi data lain yang didukung. Kemudian Microsoft Foundry dapat menggunakan konteks tersebut saat menghasilkan respons agen. Jika beban kerja Anda hanya memerlukan pembelajaran mesin klasik di dalam Microsoft Fabric dan tidak memerlukan LLM atau agen, integrasi ini biasanya tidak perlu.

Tabel berikut ini meringkas detail adopsi inti untuk Microsoft Fabric.

Aspek Rincian
Type Platform analitik SaaS terpadu.
Bahasa yang didukung Python, R, SQL, dan Scala.
Fase pembelajaran mesin Persiapan data, pelatihan, pendaftaran, penilaian batch, penyajian real time (pratinjau), analitik real time, dan konsumsi BI.
Manfaat utama Yayasan OneLake bersama. Overhead operasional rendah. Integrasi dengan Power BI dan data estate Microsoft yang lebih luas.

Microsoft Fabric bukan yang paling cocok dalam situasi berikut: Anda memerlukan pembelajaran mendalam dalam skala besar, MLOps komprehensif dengan registri yang diatur, atau kontrol komputasi yang halus. Dalam kasus ini, melengkapi Microsoft Fabric dengan Azure Machine Learning atau Azure Databricks. Microsoft Fabric mencakup pembelajaran mesin terintegrasi analitik dengan baik, tetapi ini bukan pengganti platform pembelajaran mesin khusus.

Note

Microsoft Fabric adalah platform yang direkomendasikan untuk investasi pembelajaran mesin terintegrasi analitik baru. Untuk investasi yang ada di Azure Synapse Analytics, lihat Pembelajaran mesin di Azure Synapse Analytics. Untuk migrasi kumpulan SQL khusus ke Microsoft Fabric Data Warehouse, lihat Fabric Migration Assistant untuk Data Warehouse.

Azure Databricks

Azure Databricks adalah platform analitik terbuka terpadu untuk membangun, menyebarkan, berbagi, dan memelihara solusi data, analitik, dan AI. Ini menggabungkan kemampuan pergudangan data dan data lake dalam arsitektur lakehouse dan terintegrasi dengan penyimpanan dan keamanan Azure.

Gunakan Azure Databricks saat Anda memerlukan kemampuan berikut:

  • Pembelajaran mesin skala Spark. Anda perlu menjalankan pembelajaran mesin pada himpunan data yang sangat besar atau kluster Spark terdistribusi.

  • Alur kerja lakehouse terpadu. Anda menggabungkan rekayasa data, rekayasa fitur, eksperimen, dan pengembangan model dalam satu alur kerja lakehouse.

  • Operasi pembelajaran mesin produksi. Anda ingin menyebarkan, mengelola, dan memantau solusi pembelajaran mesin dalam produksi dengan menggunakan titik akhir penyajian terkelola, alur kerja otomatis, dan alur MLOps.

  • Tata kelola Unity Catalog. Anda ingin mengatur data, fitur, model, dan fungsi di Unity Catalog, yang menyediakan kontrol akses terpusat dan silsilah data.

  • AI dan agen generatif. Anda membangun beban kerja agen AI dan AI generatif di Azure Databricks, termasuk skenario model kustom dan fondasi.

Tabel berikut ini mencantumkan kemampuan Azure Databricks penting:

Capability Deskripsi
Integrasi terkelola dengan proyek sumber terbuka Termasuk Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Structured Streaming, dan Unity Catalog.
Azure Databricks Runtime untuk Pembelajaran Mesin Menawarkan pustaka yang telah diinstal sebelumnya untuk pembelajaran mesin klasik dan pembelajaran mendalam, termasuk Hugging Face Transformers.
Pelacakan dan model MLflow di Unity Catalog Mendukung pelacakan eksperimen, manajemen siklus hidup model, dan penemuan model yang diatur.
Rekayasa fitur dan pola penyajian fitur Mendukung fitur pelatihan dan inferensi yang dapat digunakan kembali.
Azure Databricks Model Melayani Menawarkan titik akhir inferensi real-time terkelola dengan penskalaan otomatis, penyebaran versi, kontrol lalu lintas, dan pemantauan produksi.
AI Gateway Menyediakan tata kelola akses model, pelacakan penggunaan, dan pengelogan payload di seluruh model yang dilayani dan eksternal. Mendukung pengembangan, evaluasi, dan penyajian model kustom atau terbuka di lingkungan lakehouse.
Fungsi AI dalam SQL Menyediakan cara bagi analis untuk memanggil LLM dari alur data.
API model fondasi Mengintegrasikan model eksternal dan menyediakan pola akses terpadu di seluruh penyedia model.
Tata kelola Katalog Unity Menyediakan tata kelola terpadu data, fitur, model, dan fungsi melalui kemampuan seperti RBAC dan OpenSharing.
Analitik streaming Menawarkan analitik real time dan streaming melalui Streaming Terstruktur dan Delta Lake.
Pekerjaan lakeflow dan MLOps Menyediakan pekerjaan dan alur kerja untuk pelatihan otomatis, evaluasi, penyebaran, dan pelatihan ulang alur.

Tabel berikut ini meringkas detail adopsi inti untuk Azure Databricks.

Aspek Rincian
Type Platform lakehouse dibangun di atas Spark.
Bahasa yang didukung Python, R, Scala, dan SQL.
Fase pembelajaran mesin Persiapan data, pelatihan, penyempurnaan, evaluasi, penyajian model, dan tata kelola.
Manfaat utama Siklus hidup pembelajaran mesin end-to-end di lakehouse. Integrasi MLflow asli. Layanan dan operasi terkelola. Tata kelola Unity Catalog. Pembelajaran mesin skala Spark dan dukungan AI generatif.
Considerations Penyajian Model Tanpa Server dapat mengurangi overhead infrastruktur inferensi, tetapi biaya persiapan data berbasis Spark, rekayasa fitur, dan pelatihan model tetap menjadi pertimbangan penting. Untuk beban kerja non-Spark, Azure Machine Learning atau Foundry Tools mungkin lebih mudah.

Azure Databricks tidak paling cocok dalam situasi berikut:

  • Tim Anda tidak memerlukan pemrosesan skala Spark. Dalam hal ini, overhead kluster mungkin tidak dibenarkan.

  • Skenario Anda menggunakan AI berbasis API murni. Dalam hal ini, Foundry Tools atau Microsoft Foundry menawarkan jalur yang lebih langsung.

  • Anda memerlukan kontrol tata kelola khusus Azure Machine Learning, kemampuan titik akhir, atau lapisan titik akhir standar di seluruh tim. Dalam kasus ini, gunakan Azure Machine Learning titik akhir terkelola dalam desain hibrid.

Aplikasi cerdas SQL dan pembelajaran mesin

AI dalam database SQL menyimpan data relasional yang diatur di mana data tersebut sudah berada dan menambahkan prediksi, pengambilan vektor, dan integrasi titik akhir AI langsung di Transact-SQL (T-SQL).

Gunakan AI dalam database SQL dalam situasi berikut:

  • Data harus tetap berada di dalam database relasional Anda untuk alasan keamanan, privasi, latensi, atau peraturan.

  • Anda memerlukan penilaian latensi rendah yang mendekati transaksi, seperti pemeriksaan penipuan atau keputusan tindakan terbaik berikutnya.

  • Anda ingin pencarian dan pengambilan vektor langsung dalam database untuk RAG dan pola pencocokan semantik.

  • Anda memerlukan pemanggilan database asli titik akhir AI eksternal dari T-SQL untuk orkestrasi atau alur kerja yang dapat dipanggil agen.

Tabel berikut ini mencantumkan platform dan alat saat ini:

Capability Peran dalam arsitektur
PREDICT dalam T-SQL Melakukan penilaian dalam database asli untuk model yang didukung, termasuk pola runtime berbasis ONNX jika tersedia.
Jenis data vektor dan fungsi vektor Menyimpan penyematan dan melakukan operasi kesamaan vektor di dalam mesin relasional.
sp_invoke_external_rest_endpoint Memanggil titik akhir AI eksternal dari T-SQL dengan info masuk, header, opsi coba lagi, dan kontrol keluar yang diatur.
Fungsi AI (Transact-SQL), termasuk AI_GENERATE_EMBEDDINGS Menambahkan operasi AI asli database untuk memotong, menyematkan pembuatan, dan alur kerja SQL AI terkait.
Layanan Azure SQL Managed Instance Pembelajaran Mesin Mendukung eksekusi kode Python dan R dalam database untuk beban kerja bergaya Layanan Pembelajaran Mesin yang ada.

Tabel berikut ini meringkas detail adopsi inti untuk pembelajaran mesin Azure SQL.

Aspek Rincian
Type Kemampuan AI dalam database relasional untuk prediksi, pengambilan vektor, dan integrasi titik akhir AI.
Bahasa yang didukung T-SQL terlebih dahulu. Python dan R tersedia melalui Layanan Azure SQL Managed Instance Pembelajaran Mesin.
Fase pembelajaran mesin Persiapan data dalam database, pelatihan, inferensi, pengambilan vektor, dan orkestrasi titik akhir.
Manfaat utama Menjaga data transaksi yang diatur tetap diberlakukan. Mengurangi pergerakan data. Memungkinkan pengayaan AI latensi rendah dalam alur kerja SQL yang ada.
Considerations Ketersediaan kemampuan bervariasi menurut platform dan versi SQL. Pelatihan model skala besar dan pembelajaran mendalam terdistribusi biasanya ditangani dengan lebih baik dalam Azure Machine Learning, Azure Databricks, atau Microsoft Fabric.

Gabungkan pembelajaran mesin Azure SQL dengan platform lain saat Anda ingin mengambil pendekatan berikut:

  • Latih secara eksternal, skor di SQL. Untuk pelatihan pembelajaran skala besar atau mendalam, gunakan Azure Machine Learning, Azure Databricks, atau Microsoft Fabric untuk pelatihan. Kemudian bawa artefak inferensi kembali ke SQL untuk penilaian dalam database.

  • Cloud-train, database-deploy, SQL-predict. Latih secara eksternal, ekspor artefak penilaian yang didukung oleh platform SQL target, lalu gunakan PREDICT untuk menjalankan prediksi di SQL dekat dengan data transaksional.

  • Buat penyematan di SQL, panggil titik akhir untuk pembuatan. Untuk skenario RAG dan agen, hasilkan penyematan dan pengambilan vektor di SQL. Kemudian, jika Anda memerlukan pembuatan respons, gunakan sp_invoke_external_rest_endpoint untuk memanggil titik akhir model eksternal dari SQL.

Pembelajaran mesin Edge, lokal, dan lokal

Untuk pembelajaran mesin yang berjalan di luar cloud, pada perangkat lokal, di lingkungan offline, disematkan dalam aplikasi, atau di dalam infrastruktur lokal, Microsoft menyediakan beberapa opsi.

Gunakan pembelajaran mesin edge, lokal, dan lokal saat Anda memerlukan kemampuan berikut:

  • Inferensi lokal. Untuk memenuhi persyaratan latensi, operasi offline, atau privasi data, skenario Anda memerlukan inferensi untuk berjalan secara lokal. Misalnya, solusi pemeliharaan prediktif di lingkungan dengan konektivitas terputus-putus memerlukan inferensi lokal.

  • Kemampuan untuk menyematkan pembelajaran mesin dalam aplikasi. Anda membangun aplikasi desktop atau seluler yang membutuhkan kemampuan pembelajaran mesin yang disematkan.

  • Eksekusi lokal. Skenario Anda memerlukan eksekusi pembelajaran mesin untuk tetap berada di dalam lingkungan lokal, seperti penyebaran SQL Server lokal.

Microsoft menyediakan opsi berikut:

  • Microsoft Foundry di Windows mencakup ML Windows untuk inferensi lokal pada perangkat Windows dengan akselerasi perangkat keras di seluruh CPU, GPU, dan NPU. Gunakan Windows ML untuk beban kerja inferensi aplikasi dan perangkat Windows baru.

  • ML.NET adalah kerangka kerja pembelajaran mesin lintas platform sumber terbuka untuk pengembang .NET. Ini mendukung pemuatan data, pelatihan (termasuk AutoML untuk .NET), dan inferensi lokal. Gunakan ML.NET saat aplikasi memerlukan pelatihan atau inferensi model asli .NET, termasuk integrasi model ONNX.

  • SQL Server Pembelajaran Mesin Services mendukung pelatihan dan penilaian di dalam SQL Server lokal ketika data harus tetap berada di tingkat data lokal.

  • Foundry Local adalah solusi inferensi AI di perangkat yang memperluas Microsoft Foundry ke skenario tepi dan offline.

  • Azure Local menyediakan infrastruktur yang dikelola Azure untuk komputer virtual (VM) dan kontainer lokal. Gunakan untuk menghosting komponen AI tepi yang dekat dengan data, seperti beban kerja Foundry Local, komponen pengambilan RAG, atau model ONNX yang diekspor dari Azure Machine Learning.

  • Komputasi Kubernetes untuk Azure Machine Learning melampirkan kluster Kube yang diaktifkan Azure Arc ke ruang kerja Azure Machine Learning sehingga kluster lokal atau multicloud menjalankan pelatihan dan inferensi saat orkestrasi tetap berada di Azure.

  • Azure IoT Edge menyebarkan model pembelajaran mesin dalam kontainer ke perangkat edge sehingga inferensi berjalan secara lokal.

  • Azure Stack Edge menyediakan appliance edge yang dikelola Microsoft yang dapat Anda gunakan untuk pembelajaran mesin yang dipercepat perangkat keras dan VM atau beban kerja dalam kontainer. Perangkat hanya tersedia untuk beban kerja mitra yang divalidasi atau penyebaran setidaknya 100 simpul.

Pola umum melatih model yang dapat diekspor di cloud dengan menggunakan Azure Machine Learning atau Azure Databricks. Model kemudian dikonversi ke ONNX ketika model dan runtime target mendukung format tersebut. Akhirnya, model disebarkan untuk inferensi tepi melalui Windows ML, ML.NET, modul Azure IoT Edge, Foundry Local, atau infrastruktur Azure Local.

Menggabungkan platform

Solusi produksi dapat menggabungkan lebih dari satu platform. Diagram alur sebelumnya dalam artikel ini membantu Anda memilih platform awal utama . Gunakan tabel berikut untuk merencanakan arsitektur gabungan dan mengidentifikasi komponen Microsoft pendukung yang biasanya diperlukan setiap skenario.

Skenario gabungan Platform utama Mendukung komponen Microsoft Pattern
ENTERPRISE RAG atau chat-with-your-data Microsoft Foundry Pencarian Azure AI (dan Foundry IQ untuk grounding), Azure Kecerdasan Dokumen (penyerapan), Microsoft Fabric atau Azure Cosmos DB (penyimpanan data), Keamanan Konten Menyerap konten perusahaan, mengindeksnya untuk pengambilan vektor dan hibrid, dan membumikan agen yang dihosting Microsoft Foundry atau aplikasi LLM terhadapnya. Untuk opsi penyimpanan data, lihat Memilih layanan Azure untuk pencarian vektor.
AI generatif di atas analitik yang diatur Microsoft Fabric Microsoft Foundry (agen, model), Power BI (konsumsi), Pencarian Azure AI Gunakan Microsoft Fabric untuk menyerap dan menyimpan data yang diatur di OneLake. Kemudian bangun agen atau aplikasi RAG di Microsoft Foundry melalui data tersebut. Menampilkan hasil dalam Power BI.
Pembelajaran mesin kustom diperkaya dengan fitur AI bawaan Azure Machine Learning Azure Visi, Azure Kecerdasan Dokumen, Ucapan Azure, Bahasa Azure, Pencarian Azure AI Gunakan Foundry Tools untuk pra-pemrosesan, ekstraksi fitur, atau pengambilan, dan gunakan Azure Machine Learning untuk melatih, menyebarkan, dan mengatur model kustom yang dibangun pada fitur tersebut.
Pelatihan skala Spark dengan layanan terkelola Azure Databricks Azure Databricks Model Melayani, MLflow, Unity Catalog, Azure Machine Learning opsional (tata kelola atau standarisasi titik akhir) Jalankan rekayasa fitur dan pelatihan terdistribusi di Azure Databricks. Kemudian gunakan model Azure Databricks Melayani untuk menyebarkan dan melayani model terlatih. Tambahkan Azure Machine Learning titik akhir terkelola saat Anda memerlukan tata kelola atau standarisasi titik akhir khusus Azure Machine Learning di seluruh tim.
Cloud-train, edge-deploy Azure Machine Learning atau Azure Databricks ONNX (pertukaran model), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Local, Azure Stack Edge Latih model yang dapat diekspor di cloud, konversikan ke ONNX saat didukung, dan sebarkan ke perangkat, gateway lokal, atau appliance edge yang dipercepat perangkat keras untuk inferensi latensi offline atau rendah.
Pembelajaran mesin lokal dan cloud hibrid Azure Machine Learning di Azure Arc Azure Arc-mengaktifkan kluster Kube, ruang kerja Azure Machine Learning, Container Registry, Key Vault Jaga data tetap lokal saat menggunakan ruang kerja Azure Machine Learning yang terpasang pada Kube yang didukung Azure Arc untuk mengatur pelatihan dan inferensi.
Penilaian dalam database dengan model terlatih cloud Pembelajaran mesin SQL Azure Machine Learning atau Azure Databricks (pelatihan), ONNX, SQL Managed Instance, atau SQL Server Latih di cloud, ekspor ke ONNX, dan gunakan fungsi SQL PREDICT untuk penilaian latensi rendah dalam database di samping data operasional.
Otomatisasi multi-agen Microsoft Agent Framework dan Foundry Agent Service Model Foundry, Foundry IQ, Pencarian Azure AI, Azure Functions, atau Azure Logic Apps (alat), Azure API Management Buat alur kerja multi-agen dalam kode dengan menggunakan Microsoft Agent Framework, gunakan Foundry Agent Service untuk menghosting dan mengaturnya, dan mengintegrasikan alat dan API perusahaan.

Platform dan alat pengembangan

Sebagian besar tim menggunakan alat pengembangan lintas pemotongan dan layanan pendukung bersama platform yang mereka pilih sebagai yang utama. Alat-alat ini memengaruhi tempat kerja AI dan pembelajaran mesin dikembangkan, diuji, dan dikemas sebelum dijalankan. Layanan pendukung memengaruhi di mana inferensi dihosting atau di mana komputasi melekat pada data yang tidak dapat berpindah ke platform cloud terkelola.

Bagian ini memisahkan alat pengembang utama, yang merupakan platform pengembangan dan operasional sehari-hari, dari layanan pendukung yang berdekatan yang menghosting inferensi yang dikelola sendiri, mempercepat pembelajaran mesin berbasis Spark, atau memperluas pelatihan dan penilaian ke infrastruktur lokal.

Alat berikut mendukung pengembangan di seluruh platform cloud dan lokal.

Alat Deskripsi
Foundry Toolkit untuk Visual Studio Code Pengalaman pengembang di VISUAL Code untuk membangun, menguji, men-debug, mengevaluasi, dan menyebarkan aplikasi dan agen AI generatif. Mendukung model lokal, katalog model, pengembangan agen, integrasi alat, pelacakan, dan evaluasi.
Portal foundry Lingkungan web untuk pekerjaan bukti konsep, eksplorasi model, manajemen sumber daya proyek, tinjauan evaluasi, dan visibilitas operasional di seluruh aplikasi dan agen Foundry Microsoft.
Studio Azure Machine Learning Antarmuka pengguna web untuk platform Azure Machine Learning. Termasuk notebook, perancang alur, AutoML, manajemen model, dan pelabelan data.
Azure Data Science Virtual Machine Gambar VM yang telah dikonfigurasi sebelumnya dengan alat ilmu data seperti Jupyter, R, dan Python telah diinstal sebelumnya.
ML.NET Kerangka kerja pembelajaran mesin lintas platform sumber terbuka untuk aplikasi .NET.
Microsoft Foundry di Windows Windows ML untuk inferensi model lokal yang dipercepat perangkat keras pada perangkat Windows.
SynapseML Kerangka kerja pembelajaran mesin dan layanan mikro terdistribusi sumber terbuka untuk Spark.

Layanan pendukung yang berdekatan membantu eksperimen, hosting inferensi yang dikelola sendiri, pembelajaran mesin berbasis Spark, atau operasi hibrid, tetapi mereka bukan pilihan platform utama dalam alur keputusan.

Service Peran dalam pembelajaran mesin dan ekosistem AI
Azure Kubernetes Service (AKS) dan Azure Container Apps Solusi untuk menghosting kontainer inferensi yang dikelola sendiri di Azure. Gunakan Container Apps untuk hosting kontainer terkelola yang lebih mudah, atau AKS saat Anda memerlukan kontrol lebih besar atas runtime penyajian dan lingkungan kluster. Contoh umum termasuk tumpukan penyajian sumber terbuka seperti vLLM, Triton Inference Server, atau BentoML.
SynapseML Kerangka kerja pembelajaran mesin dan layanan mikro sumber terbuka yang terdistribusi untuk Spark. Berfungsi pada Azure Databricks, Microsoft Fabric, dan kluster Spark lainnya.
pembelajaran mesin dengan dukungan Azure Arc Solusi untuk melampirkan kluster Kubernetes lokal atau multicloud ke ruang kerja Azure Machine Learning untuk pelatihan dan inferensi hibrid.

Kontributor

Microsoft mempertahankan artikel ini. Kontributor berikut menulis artikel ini.

Penulis utama:

Untuk melihat profil LinkedIn nonpublik, masuk ke LinkedIn.

Langkah berikutnya

  • Last updated on