Mulai menggunakan desain arsitektur AI

AI memungkinkan mesin menganalisis data, menghasilkan konten, mensintesis ucapan, membuat prediksi, dan mendukung pengambilan keputusan di seluruh industri. Saat kemampuan AI diperluas melalui model generatif, model bahasa, dan arsitektur berbasis agen, organisasi memerlukan panduan arsitektur untuk merancang beban kerja AI yang andal, aman, hemat biaya, dan stabil secara operasional.

Artikel ini membantu Anda mulai menggunakan AI di Azure. Ini memperkenalkan layanan AI, arsitektur referensi, praktik terbaik, dan sumber daya pembelajaran sehingga Anda dapat merancang dan membangun solusi AI yang memenuhi persyaratan beban kerja Anda.

layanan Azure untuk AI

Azure menyediakan berbagai layanan untuk membangun, menyebarkan, dan mengelola beban kerja AI. Layanan ini mencakup platform pengembangan, kemampuan AI bawaan, platform data, dan alat untuk membuat model kustom. Gunakan layanan berikut untuk mengintegrasikan AI ke dalam desain beban kerja Anda.

Platform pengembangan AI

• Microsoft Foundry: Platform terpadu sebagai layanan (PaaS) untuk mengembangkan dan menyebarkan aplikasi dan agen AI generatif. Microsoft Foundry menyediakan akses ke katalog model, hosting agen melalui Foundry Agent Service, penyempurnaan, alat evaluasi, dan kemampuan AI yang bertanggung jawab. Gunakan portal Foundry untuk bereksperimen, membangun, dan menyebarkan model dan agen AI.

• Azure Machine Learning: Layanan cloud untuk membangun, melatih, dan menyebarkan model pembelajaran mesin dalam skala besar. Azure Machine Learning mendukung kerangka kerja sumber terbuka seperti PyTorch, TensorFlow, dan scikit-learn. Ini juga menyediakan kemampuan untuk AutoML, penyetelan hyperparameter, pelatihan terdistribusi, operasi pembelajaran mesin, dan AI yang bertanggung jawab.

• Microsoft Copilot Studio: Platform kode rendah untuk membangun, menyesuaikan, dan menyebarkan agen yang didukung AI. Gunakan Microsoft Copilot Studio untuk membuat agen percakapan untuk skenario internal dan eksternal dan untuk memperluas Microsoft 365 Copilot dengan data perusahaan dan alur kerja kustom.

Layanan AI bawaan

• Foundry Tools: Serangkaian API dan model bawaan dan dapat disesuaikan untuk menambahkan fitur cerdas ke aplikasi. Alat Foundry mencakup kemampuan untuk ucapan, terjemahan, pemahaman bahasa, kecerdasan dokumen, pemahaman konten, visi, keamanan konten, dan pencarian.

• Azure OpenAI: Menyediakan akses ke model OpenAI, termasuk GPT dan DALL-E, melalui infrastruktur yang dikelola Azure dengan keamanan perusahaan, jaringan, dan kontrol AI yang bertanggung jawab.

Platform data untuk AI

• Microsoft Fabric: Platform analitik dan data menyeluruh yang mencakup ingesti data, transformasi, perutean peristiwa secara real-time, dan pelaporan. Microsoft Fabric menyediakan OneLake sebagai data lake terpadu dan mencakup kemampuan AI yang disematkan, fitur Microsoft Copilot, dan integrasi dengan Foundry Tools.

• Azure Databricks: Platform analitik berbasis Spark untuk rekayasa data, ilmu data, dan pembelajaran mesin. Azure Databricks menyediakan Databricks Runtime untuk Azure Machine Learning, integrasi MLflow, AutoML, penyempurnaan model fondasi, dan Pencarian Vektor Mosaic AI untuk pengambilan berbasis embedding.

• Azure HDInsight: Layanan Apache Spark terkelola untuk pemrosesan dan analitik big data. Azure HDInsight kluster Spark mendukung beban kerja pembelajaran mesin melalui MLlib, kompatibel dengan Azure Storage dan Azure Data Lake Storage, dan mendukung SynapseML untuk pembelajaran mendalam.

• Azure Data Lake Storage: Repositori terpusat yang dapat diskalakan untuk menyimpan data terstruktur dan tidak terstruktur. Azure Data Lake Storage menyediakan semantik sistem file, keamanan tingkat file, dan penyimpanan berjenjang yang dibangun di atas Azure Blob Storage.

Lapisan Kecerdasan Perusahaan

Arsitektur AI di Microsoft memperkenalkan tiga lapisan kecerdasan pelengkap atau IQ yang mewakili sumber konteks utama untuk sistem AI:

• Work IQ menangkap kecerdasan tentang bagaimana pekerjaan terjadi di dalam organisasi. Ini menggunakan sinyal dari Microsoft 365 seperti email, obrolan, rapat, dokumen, dan pola kolaborasi.

  Lapisan ini sangat penting untuk membumikan AI dalam aktivitas manusia dan perilaku organisasi daripada memperlakukan interaksi sebagai perintah terisolasi.

• Fabric IQ menyediakan kecerdasan yang berasal dari data perusahaan terstruktur yang dikelola dalam Microsoft Fabric, termasuk model analitik, indikator performa utama (KPI), dan entitas bisnis.

  Fabric IQ memungkinkan AI menjawab pertanyaan analitik yang kompleks dan menafsirkan hasil dalam konteks operasi bisnis.

• Foundry IQ menyediakan lapisan pengetahuan terpadu multi-sumber yang memungkinkan agen AI mengambil dan mendasarkan respons pada data perusahaan.

  Lapisan ini sangat penting untuk menerapkan pola seperti retrieval-augmented generation (RAG) untuk membantu memastikan bahwa output AI akurat, terkini, dan sesuai.

Architecture

Diagram berikut menunjukkan arsitektur chat end-to-end dasar yang menggunakan Microsoft Foundry. Arsitektur referensi ini menunjukkan bagaimana layanan AI terdiri dari solusi siap produksi pada Azure. Ini termasuk lapisan identitas, jaringan, pemantauan, dan tata kelola.

Diagram menyajikan arsitektur Azure terperinci untuk menyebarkan solusi AI. Di sisi kiri, seorang pengguna terhubung melalui gerbang aplikasi dengan firewall aplikasi web (WAF), yang menjadi bagian dari jaringan virtual. Gateway ini menautkan ke zona Sistem Nama Domain (DNS) privat. Azure DDoS Protection melindungi gateway. Di bawah gateway, titik akhir privat terhubung ke layanan seperti Azure App Service, Azure Key Vault, dan Azure Storage, yang digunakan untuk penyebaran aplikasi klien. Azure App Service dikelola dengan identitas dan mencakup tiga zona. Application Insights dan Azure Monitor menyediakan pemantauan, dan Microsoft Entra ID menangani autentikasi. Di sebelah kanan, jaringan virtual memiliki beberapa subnet: integrasi App Service, titik akhir privat, integrasi Microsoft Foundry, integrasi agen AI Azure, Azure Bastion, jump box, agen build, dan Azure Firewall. Setiap subnet menghosting titik akhir atau layanan tertentu, seperti penyimpanan, Microsoft Foundry, Pencarian Azure AI, Azure Cosmos DB, dan penyimpanan pengetahuan, yang terhubung melalui titik akhir privat. Lalu lintas keluar dari jaringan melewati Azure Firewall untuk menjangkau sumber internet. Di ujung kanan, kotak terpisah mewakili Microsoft Foundry, yang menyertakan akun dan proyek. Identitas terkelola menghubungkan Foundry Agent Service ke proyek Microsoft Foundry, yang pada gilirannya mengakses Azure OpenAI. Diagram menggunakan lingkaran bernomor untuk menunjukkan alur logis, yang menunjukkan bagaimana permintaan pengguna melintasi jaringan, berinteraksi dengan titik akhir yang berbeda, dan menyambungkan ke Foundry Tools dan penyimpanan.

Unduh file Visio dari arsitektur ini.

Diagram sebelumnya menunjukkan implementasi AI garis besar yang khas. Untuk solusi dunia nyata yang dapat Anda bangun di Azure, lihat Arsitektur AI.

Menjelajahi arsitektur dan panduan AI

Artikel di bagian ini mencakup panduan dan arsitektur yang sepenuhnya dikembangkan yang dapat Anda sebarkan dalam Azure dan memperluas ke solusi tingkat produksi. Ide solusi menunjukkan pola dan kemungkinan implementasi untuk dipertimbangkan saat Anda merencanakan pengembangan AI proof-of-concept (POC). Artikel ini dapat membantu Anda memutuskan cara menggunakan teknologi AI dalam Azure.

Panduan AI

Artikel berikut membantu Anda mengevaluasi dan memilih teknologi AI terbaik untuk persyaratan beban kerja Anda:

• Opsi pembelajaran mesin: Membandingkan Azure Machine Learning produk dan teknologi untuk membantu Anda memilih platform yang tepat untuk pelatihan dan penyebaran model.

Desain agen AI

• Pola orkestrasi agen AI: Menjelaskan pola desain untuk mengatur agen AI dalam skenario kompleks.

Pengembangan dan evaluasi solusi RAG

• Merancang solusi RAG: Memberikan gambaran umum tentang cara merancang dan mengevaluasi solusi RAG.

• Fase persiapan: Mencakup persiapan data untuk implementasi RAG.

• Tahap chunking: Menjelaskan strategi untuk melakukan chunking pada konten dalam pipeline RAG.

• Tahap pengayaan potongan: Mencakup teknik pengayaan yang diterapkan pada potongan konten.

• Tahap embedding: Menjelaskan cara menghasilkan embedding untuk proses temu kembali RAG.

• Fase pengambilan informasi: Mencakup strategi pengambilan informasi dalam arsitektur RAG.

• Fase evaluasi model end-to-end: Menjelaskan cara mengevaluasi model RAG secara menyeluruh.

Solusi RAG multipenyewa

• Merancang solusi inferensi RAG multipenyewa yang aman: Menyediakan panduan untuk mengamankan solusi RAG di lingkungan multipenyewa.

Operasi pembelajaran mesin

• Operasi pembelajaran mesin v2: Menjelaskan pendekatan operasi pembelajaran mesin v2 untuk mengoperasionalkan alur kerja pembelajaran mesin.

• Operasi AI generatif dengan operasi pembelajaran mesin: Memperluas praktik operasi pembelajaran mesin ke beban kerja AI generatif.

• Model kematangan operasi pembelajaran mesin: Menentukan tingkat kematangan untuk adopsi operasi pembelajaran mesin.

Model Proksi AI Generatif

• Menggunakan gateway di depan model generatif: Menjelaskan manfaat dan arsitektur menempatkan gateway di depan titik akhir model AI generatif.

• Gunakan gateway di depan beberapa model: Memperluas pola gateway untuk merutekan permintaan ke beberapa backend model.

• Menyediakan autentikasi kustom ke model melalui gateway: Menerapkan alur autentikasi kustom untuk akses model melalui gateway.

• Menerapkan pemantauan model tingkat lanjut melalui gateway: Menambahkan pemantauan dan pengamatan ke lalu lintas model AI generatif melalui gateway.

Siklus hidup model fondasi

• Desain untuk mendukung siklus hidup model fondasi: Menyediakan panduan untuk mengelola pembaruan model fondasi, penghentian, dan transisi.

Arsitektur AI

Arsitektur siap produksi berikut menunjukkan solusi AI end-to-end yang dapat Anda sebarkan dan sesuaikan.

Berinteraksi dengan data

• Arsitektur referensi obrolan Dasar Microsoft Foundry: Arsitektur obrolan RAG dasar yang menggunakan Microsoft Foundry dan Azure OpenAI.

• Arsitektur referensi chat dasar Microsoft Foundry: Arsitektur chat menyeluruh yang siap untuk produksi dan menggunakan Microsoft Foundry dengan keamanan, jaringan, dan pemantauan tingkat perusahaan.

• Arsitektur chat dasar Microsoft Foundry di landing zone Azure: Menyebarkan arsitektur chat dasar Microsoft Foundry di landing zone Azure untuk tata kelola skala perusahaan.

Inferensi pembelajaran mesin

• Arsitektur referensi inferensi Azure Machine Learning garis besar: Menjelaskan desain inferensi Azure Machine Learning privat yang berfokus pada produksi dengan hosting AKS, isolasi lingkungan, dan promosi model terkontrol.

Pemrosesan dokumen

• Mengotomatiskan klasifikasi dokumen: Menggunakan Durable Functions untuk mengotomatiskan alur kerja klasifikasi dokumen.

• Mengotomatiskan pemrosesan formulir PDF: Mengotomatiskan ekstraksi dan pemrosesan data dari formulir PDF.

• Membangun model pemrosesan dokumen kustom: Membangun dan menyebarkan model kustom untuk skenario pemrosesan dokumen.

• Beberapa pengindeks dengan Pencarian Azure AI: Menggunakan beberapa pengindeks untuk memproses dan mengindeks metadata blob dengan menggunakan Pencarian Azure AI.

Klasifikasi video dan gambar

• Mengotomatiskan analisis video: Menganalisis konten video dengan menggunakan visi komputer dan pembelajaran mesin.

Pemrosesan audio

• Mengekstrak dan menganalisis data pusat panggilan: Mengekstrak dan menganalisis percakapan pusat panggilan dengan menggunakan Azure OpenAI.

Persyaratan peraturan

• Penelitian aman untuk data yang diatur: Menyediakan lingkungan komputasi yang aman untuk beban kerja penelitian yang menangani data yang diatur.

Ide solusi AI

Ide solusi AI berikut menunjukkan pola dan kemungkinan implementasi untuk dijelajahi.

Pemrosesan audio

• Membuka wawasan dari data percakapan: Mengekstrak wawasan yang dapat ditindakkan dari data audio percakapan.

Pemrosesan gambar

• Klasifikasi gambar: Mengklasifikasikan gambar dengan menggunakan pola aplikasi cerdas.

Analitik prediktif

• Prakiraan pesanan pelanggan: Memprediksi pesanan pelanggan di masa mendatang dengan menggunakan pembelajaran mesin.

Operasi pembelajaran mesin

• Gunakan Azure Databricks untuk mengatur operasi pembelajaran mesin: Mengatur operasi pembelajaran mesin dengan menggunakan Azure Databricks.

• Banyak model dengan Pembelajaran Mesin: Melatih dan mengelola banyak model dalam skala besar dengan menggunakan Azure Machine Learning.

Pemrosesan dan pengayaan dokumen

• Mengekstrak dan memetakan informasi dari konten yang tidak terstruktur: Mengekstrak dan memetakan informasi dari konten multimodal yang tidak terstruktur.

• Membuat dokumen dari data Anda: Menghasilkan dokumen terstruktur dari sumber data.

• Gunakan pengayaan AI dengan Pencarian Azure AI: Memperkaya konten dengan menggunakan set keterampilan AI dalam alur pengindeksan Pencarian Azure AI.

• Ekstrak teks dengan menggunakan Power Automate: Mengekstrak teks dari objek dengan menggunakan kemampuan Power Automate dan AI.

Otomatisasi alur kerja

• Buat solusi otomatisasi alur kerja multi-agen dengan menggunakan Kernel Semantik: Mengotomatiskan alur kerja dengan menggunakan beberapa agen AI yang diatur melalui Kernel Semantik.

• Gambaran umum teknologi AI: Memberikan gambaran umum konsep AI, platform pengembangan, dan pola arsitektur untuk membantu Anda merancang beban kerja AI pada Azure.

Pilih layanan AI

Artikel berikut membantu Anda mengevaluasi dan memilih teknologi AI terbaik untuk persyaratan beban kerja Anda:

• Pilih teknologi layanan AI: Membandingkan layanan AI dan solusi pembelajaran mesin untuk membantu Anda memilih layanan atau model yang tepat untuk kasus penggunaan Anda.

• Pilih Azure teknologi pemrosesan bahasa yang ditargetkan AI: Membandingkan layanan Azure untuk tugas pemrosesan bahasa yang ditargetkan seperti terjemahan, pengenalan entitas, dan analitik teks.

• Pilih teknologi Azure untuk pengenalan dan sintesis ucapan: Membandingkan layanan Azure untuk skenario ucapan ke teks, teks ke ucapan, dan terjemahan ucapan.

• Pilih Azure teknologi pemrosesan dan pembuatan gambar dan video AI: Membandingkan layanan Azure untuk analisis, pembuatan, dan pemrosesan gambar dan video.

• Pilih teknologi pemrosesan bahasa alami: Membandingkan Azure teknologi pemrosesan bahasa alami untuk membantu Anda memilih platform yang tepat untuk pemahaman teks dan tugas pembuatan.

• Microsoft AI dan produk pembelajaran mesin: Membandingkan Microsoft produk pembelajaran mesin untuk membantu Anda memilih platform untuk membangun, menyebarkan, dan mengelola aplikasi AI, agen, dan model pembelajaran mesin.

• Pilih model AI yang tepat untuk beban kerja Anda: Menjelaskan strategi untuk memilih model AI yang tepat dari banyak opsi penyebaran yang tersedia.

Ide solusi AI

Ide solusi AI berikut menunjukkan pola dan kemungkinan implementasi untuk dijelajahi.

Ide solusi pemrosesan audio

• Membangun solusi penambangan pengetahuan percakapan dengan menggunakan Foundry Tools: Mengekstrak wawasan yang dapat ditindaklanjuti dari data audio percakapan.

Pemrosesan gambar

• Klasifikasi gambar pada Azure: Mengklasifikasikan gambar dengan menggunakan pola aplikasi cerdas.

Analitik prediktif

• Gunakan AI untuk memperkirakan pesanan pelanggan: Memprediksi pesanan pelanggan di masa mendatang dengan menggunakan pembelajaran mesin.

Ide solusi MLOps

• Gunakan Azure Databricks untuk mengatur MLOps: Mengatur operasi pembelajaran mesin dengan menggunakan Azure Databricks.

• Gunakan pendekatan arsitektur banyak model untuk menskalakan model pembelajaran mesin: Melatih dan mengelola banyak model dalam skala besar dengan menggunakan Azure Machine Learning.

Pemrosesan dan pengayaan dokumen

• Mengekstrak dan memetakan informasi dari konten yang tidak terstruktur: Mengekstrak dan memetakan informasi dari konten multimodal yang tidak terstruktur.

• Membuat dokumen dari data Anda: Menghasilkan dokumen terstruktur dari sumber data.

• Gunakan pengayaan AI dengan pemrosesan gambar dan teks: Memperkaya konten dengan menggunakan set keterampilan AI dalam alur pengindeksan Pencarian Azure AI.

Otomatisasi alur kerja

• Bangun solusi otomatisasi alur kerja beberapa agen dengan menggunakan Microsoft Agent Framework: Mengotomatiskan alur kerja dengan menggunakan beberapa agen AI yang diorkestrasi melalui Microsoft Agent Framework.

Arsitektur AI

Arsitektur siap produksi berikut menunjukkan solusi AI end-to-end yang dapat Anda sebarkan dan sesuaikan.

• Inferensi AI dengan Silk virtual SAN: Menggunakan salinan Silk Echo dari basis data produksi untuk mengisolasi inferensi AI waktu nyata dari beban kerja transaksional di Azure IaaS.

Berinteraksi dengan data

• Arsitektur referensi obrolan Dasar Microsoft Foundry: Arsitektur obrolan RAG dasar yang menggunakan Microsoft Foundry dan Azure OpenAI.

• Arsitektur referensi chat dasar Microsoft Foundry: Arsitektur chat menyeluruh yang siap untuk produksi dan menggunakan Microsoft Foundry dengan keamanan, jaringan, dan pemantauan tingkat perusahaan.

• Arsitektur referensi obrolan garis besar Microsoft Foundry di zona pendaratan Azure: Menyebarkan arsitektur obrolan garis besar Microsoft Foundry dalam zona pendaratan Azure untuk tata kelola skala perusahaan.

Inferensi pembelajaran mesin

• Arsitektur referensi inferensi Azure Machine Learning garis besar: Pelajari cara membangun platform inferensi Azure Machine Learning privat yang siap produksi dengan AKS, isolasi lingkungan, dan promosi model terkontrol.

Pemrosesan dokumen

• Mengotomatiskan klasifikasi dokumen di Azure: Menggunakan Durable Functions untuk mengotomatiskan alur kerja klasifikasi dokumen.

• Mengotomatiskan pemrosesan formulir PDF: Mengotomatiskan ekstraksi dan pemrosesan data dari formulir PDF.

• Membangun dan menyebarkan model pemrosesan dokumen kustom di Azure: Membangun dan menyebarkan model kustom untuk skenario pemrosesan dokumen.

• Mengekstrak teks dari objek menggunakan Power Automate dan AI Builder: Mengekstrak teks dari objek dengan menggunakan kemampuan Power Automate dan AI.

• Membuat indeks Pencarian Azure AI berdasarkan konten file dan metadata: Menggunakan beberapa pengindeks untuk memproses dan mengindeks metadata blob dengan menggunakan Pencarian Azure AI.

Klasifikasi video dan gambar

• Mengotomatiskan analisis video dengan menggunakan Azure Machine Learning dan Azure Vision di Foundry Tools: Menganalisis konten video dengan menggunakan visi komputer dan pembelajaran mesin.

Arsitektur pemrosesan audio

• Mengekstrak dan menganalisis data pusat panggilan: Mengekstrak dan menganalisis percakapan pusat panggilan dengan menggunakan Azure OpenAI.

Regulatory

• Merancang lingkungan penelitian yang aman untuk data yang diatur: Menyediakan lingkungan komputasi yang aman untuk beban kerja penelitian yang menangani data yang diatur.

Panduan AI

• Agen AI dinamis dalam pola skala: Menjelaskan cara memilih dan mengatur agen AI secara dinamis dari kumpulan dengan menggunakan Microsoft Foundry, Pencarian Azure AI, dan Azure OpenAI untuk membangun sistem multiagen.

• Microsoft AI dan produk pembelajaran mesin: Membandingkan Microsoft produk pembelajaran mesin untuk membantu Anda memilih platform untuk membangun, menyebarkan, dan mengelola aplikasi AI, agen, dan model pembelajaran mesin.

• Pola orkestrasi agen AI: Menjelaskan pola desain untuk mengatur agen AI dalam skenario kompleks.

• Merancang solusi inferensi RAG multipenyewa yang aman: Menyediakan panduan untuk mengamankan solusi RAG di lingkungan multipenyewa.

• Desain untuk mendukung siklus hidup model fondasi: Menyediakan panduan untuk mengelola pembaruan model fondasi, penghentian, dan transisi.

Mengembangkan dan mengevaluasi solusi RAG

• Merancang dan mengembangkan solusi RAG: Memberikan gambaran umum tentang cara merancang dan mengevaluasi solusi RAG.

• Fase persiapan RAG: Mencakup persiapan data untuk implementasi RAG.

• Fase pemenggalan RAG: Menjelaskan strategi pemenggalan konten dalam alur RAG.

• Fase pengayaan gugus RAG: Mencakup teknik pengayaan yang diterapkan pada potongan konten.

• Fase pembuatan embedding RAG: Menjelaskan cara membuat embedding untuk proses retrieval RAG.

• Pengambilan informasi: Mencakup strategi pengambilan informasi dalam arsitektur RAG.

• Rekayasa prompt RAG: Menjelaskan cara merancang prompt yang efektif untuk solusi RAG, mencakup struktur prompt, teknik grounding, dan manajemen konteks.

• Evaluasi end-to-end model bahasa besar: Menjelaskan cara mengevaluasi model RAG dari ujung ke ujung.

• Mengembangkan solusi RAG agenik: Menjelaskan cara beralih dari alur RAG standar ke arsitektur RAG agenik untuk perencanaan kueri dinamis dan penalaran multistep.

Panduan MLOps

• Operasi pembelajaran mesin: Menjelaskan pendekatan operasi pembelajaran mesin v2 untuk mengoperasionalkan alur kerja pembelajaran mesin.

• Operasi AI generatif untuk organisasi dengan investasi MLOps: Memperluas praktik operasi pembelajaran mesin ke beban kerja AI generatif.

• Model kematangan MLOps: Menentukan tingkat kematangan untuk adopsi operasi pembelajaran mesin.

Model Proksi AI Generatif

• Mengakses Model Foundry dan model bahasa lain melalui gateway: Menjelaskan manfaat dan arsitektur menempatkan gateway di depan titik akhir model AI generatif.

• Gunakan gateway di depan beberapa penerapan atau instans model: Memperluas pola gateway untuk merutekan permintaan ke beberapa backend model.

• Menyediakan autentikasi kustom ke Model Foundry melalui gateway: Menerapkan alur autentikasi kustom untuk akses model melalui gateway.

• Terapkan pemantauan lanjutan untuk Foundry Models melalui gateway: Menambahkan pemantauan dan observabilitas pada lalu lintas model AI generatif melalui gateway.

Kesiapan organisasi

Organisasi di awal proses adopsi cloud dapat menggunakan Cloud Adoption Framework untuk Azure untuk mengakses panduan yang terbukti yang mempercepat adopsi cloud.

Untuk panduan adopsi khusus AI, lihat sumber daya Cloud Adoption Framework berikut:

• Adopsi AI: Menyediakan proses terstruktur untuk mengadopsi solusi AI dalam Azure, termasuk strategi, perencanaan, kesiapan, tata kelola, keamanan, dan manajemen.

• Siapkan AI: Menguraikan proses organisasi untuk membangun beban kerja AI di Azure, termasuk organisasi sumber daya, jaringan, keandalan, dan tata kelola.

Untuk membantu memastikan kualitas solusi AI Anda pada Azure, ikuti panduan dalam Azure Well-Architected Framework. Well-Architected Framework menyediakan panduan preskriptif untuk organisasi yang mencari keunggulan arsitektur dan menjelaskan cara merancang, menyediakan, dan memantau solusi Azure yang dioptimalkan biaya.

Untuk panduan khusus AI, lihat sumber daya Well-Architected Framework berikut ini:

• Beban kerja AI pada Azure: Mengatasi tantangan arsitektur dalam merancang beban kerja AI, termasuk fungsionalitas nondeterministik, desain data dan aplikasi, dan operasi di lima pilar Well-Architected Framework.

Untuk panduan layanan Well-Architected Framework terkait AI, lihat:

• Azure Machine Learning
• Azure Databricks

Praktik terbaik

Ikuti praktik terbaik ini untuk meningkatkan keandalan, keamanan, efektivitas biaya, kualitas operasional, dan performa beban kerja AI Anda pada Azure:

• Merancang dan mengembangkan solusi RAG: Ikuti pendekatan fase demi fase terstruktur untuk merancang solusi RAG, termasuk penggugusan, penyematan, pengambilan informasi, dan evaluasi end-to-end.

• Pilih layanan Azure untuk pencarian vektor: Evaluasi layanan Azure yang mendukung pencarian vektor untuk menemukan yang paling cocok untuk persyaratan pencarian pengambilan dan kesamaan Anda.

• Pola orkestrasi agen AI: Pelajari pola orkestrasi yang telah terbukti efektif untuk arsitektur yang menggunakan beberapa agen, termasuk pola berurutan, konkuren, percakapan grup, alih tugas, dan magentic. Tinjau pertimbangan implementasi untuk keandalan, keamanan, biaya, dan pengamatan.

• Menggunakan gateway di depan model AI generatif: Menerapkan pola gateway untuk memproksi, menyeimbangkan beban, dan memantau titik akhir model generatif.

• Operasi pembelajaran mesin v2: Menerapkan panduan siklus hidup operasi pembelajaran mesin end-to-end untuk pelatihan, penyebaran, dan pengelolaan model pembelajaran mesin dalam skala besar.

• Operasi AI generatif dengan operasi pembelajaran mesin: Memperluas praktik operasi pembelajaran mesin ke beban kerja AI generatif, termasuk manajemen, evaluasi, dan penyebaran yang cepat.

• Merancang solusi inferensi RAG multipenyewa yang aman: Terapkan pola multitenansi untuk solusi RAG yang memberlakukan isolasi data dan inferensi aman di seluruh penyewa.

• Desain untuk mendukung siklus hidup model fondasi: Mengelola penerapan versi model, penghentian, dan rotasi untuk menjaga beban kerja AI tetap terkini dan tangguh.

• Opsi pembelajaran mesin: Bandingkan opsi pelatihan dan penyebaran pembelajaran mesin di Azure untuk memilih layanan yang tepat untuk beban kerja Anda.

• Panduan Apache Spark: Tinjau panduan untuk menjalankan, memantau, men-debug, dan mengoptimalkan pekerjaan Apache Spark di Azure HDInsight.

Tetap terkini dengan AI

Layanan Azure AI berkembang untuk mengatasi tantangan data modern. Tetap mendapatkan informasi tentang pembaruan dan fitur terbaru.

Untuk tetap terkini dengan layanan AI utama, lihat artikel berikut ini:

• Apa yang baru dalam Azure OpenAI di Foundry Models: Menyediakan ringkasan rilis terbaru dan pembaruan dokumentasi untuk Azure OpenAI, termasuk ketersediaan model baru, versi API, dan pengumuman fitur.

• Apa yang baru dalam Microsoft Foundry: Menyoroti artikel utama dan pembaruan produk di Microsoft Foundry, termasuk tata kelola agen, fitur pengamatan, dan kemampuan baru.

• Apa yang baru dalam Pencarian Azure AI: Mencakup pembaruan terbaru untuk fungsionalitas Pencarian Azure AI, termasuk versi API baru, fitur pengambilan agenik, dan kemampuan pengindeksan.

• Apa yang baru dalam bahasa Azure di Foundry Tools: Mencakup pembaruan untuk kemampuan Azure Language in Foundry Tools, termasuk versi SDK baru, alur kerja orkestrasi, dan integrasi Microsoft Foundry.

• Apa yang baru dalam Microsoft Fabric: Mencakup pembaruan di seluruh kemampuan Microsoft Fabric, termasuk ilmu data, integrasi MLflow, agen data, dan fitur analitik.

• Catatan rilis Azure Machine Learning CLI dan SDK: Menyediakan catatan rilis untuk Azure Machine Learning CLI (v2) dan SDK Python, termasuk fitur baru, perbaikan bug, dan perubahan yang menyebabkan inkompatibilitas.

• Catatan rilis platform Azure Databricks: Mencakup pembaruan untuk platform Azure Databricks, termasuk versi runtime, fitur ruang kerja, dan kemampuan integrasi.

• Apa yang baru dalam Microsoft Copilot Studio: Menyoroti fitur dan pembaruan baru untuk Microsoft Copilot Studio, termasuk kemampuan membangun agen dan pembaruan konektor.

• Apa yang baru dalam Azure Kecerdasan Dokumen di Foundry Tools: Mencakup pembaruan untuk Azure Kecerdasan Dokumen di Foundry Tools, termasuk model bawaan baru, versi API, dan kemampuan ekstraksi.

• Apa yang baru dalam Azure Content Understanding di Foundry Tools: Mencakup pembaruan untuk Azure Content Understanding di Foundry Tools, termasuk fitur analisis konten baru dan integrasi Microsoft Foundry.

Profesional Amazon Web Services (AWS) atau Google Cloud

Untuk membantu Anda meningkatkan dengan cepat, artikel berikut membandingkan opsi AI Azure dengan layanan cloud lainnya:

• Data dan AI: Membandingkan data AWS dan layanan AI, termasuk pembelajaran mesin, AI generatif, dan layanan platform AI, dengan mitra Azure mereka.

• AI dan pembelajaran mesin: Membandingkan Google Cloud AI dan layanan pembelajaran mesin, termasuk Vertex AI, Dialogflow, dan Gemini, dengan mitra Azure mereka.