Microsoft Cloud for Sovereignty 中的 AI 及 LLM 設定概觀 (預覽版)
重要
這是預覽功能。 此資訊涉及預先發行功能，可能會在正式發行前大幅修改。 對於此處提供的資訊，Microsoft 不做任何明示或默許的擔保。
公共部門組織可以利用公用雲端中最新的 AI 創新，同時根據當地政策和法規需求，在 Microsoft Cloud for Sovereignty 的協助下管理其資料。
Microsoft Cloud for Sovereignty 提供敏捷性、可擴縮性和靈活性、進階網路安全性功能，並可讓您存取最新創新 (例如 Azure OpenAI)，以加速數位轉型和基本公共服務交付。 這可讓客戶對 Microsoft Cloud 中的工作負載進行建置和數位轉型，同時有助於滿足他們特定的合規性、安全性和原則需求。
Azure OpenAI 服務可讓您存取 OpenAI 強大的語言模型，包括 GPT-4、GPT-3.5 (ChatGPT)、Codex 和 Embeddings 模型系列。 這些基礎語言模型根據大量資料進行預先訓練，以執行內容產生、摘要、語意搜尋和自然語言程式碼轉譯等工作。 您可以使用 Azure OpenAI 服務存取預訓練模型，並在投入最少工作量的情況下加快建置支援 AI 的應用程式，同時將 Microsoft Cloud for Sovereignty 與企業級主權控制和雲端架構搭配用於強制執行合規性、安全性和原則需求。
福利
您可以對您的資料使用 Azure OpenAI 服務來達成下列目的：
減少在組織集體知識庫中尋找關鍵資訊所需的時間，以提高員工生產力。
簡化複雜的法規或計劃需求以提高選民滿意度。
範例使用案例
主權使用案例最好以主權登陸區域 (SLZ) 為基礎進行實作。 SLZ 由管理群組階層與通用平台資源組成，可促進網路、記錄和受管理的服務身分識別。 下圖顯示主權 AI 和 LLM 設定的參考架構。
SLZ 的根管理群組通常稱為登陸區域或企業級登陸區域。 位於父管理群組底下其中一個子管理群組的個別訂閱通常稱為應用程式登陸區域或工作負荷登陸區域。 可以將應用程式工作負載部署到四個預設登陸區域之一的 SLZ 環境中：
公司 (公司) - 非網際網路對向的非機密工作負載
線上 - 網際網路對向的非機密工作負載
機密公司 - 非網際網路對向的機密工作負載 (僅允許使用機密計算資源)
機密線上 - 網際網路對向的機密工作負載 (僅允許使用機密計算資源)
公司與線上管理群組之間的主要區別在於其處理公用端點的方式。 線上環境允許使用公用端點，而公司環境則不允許。 深入了解 SLZ 的架構。
在 SLZ 環境中，您最好在公司或線上管理群組階層中，將基於 LLM 的解決方案部署為自己訂閱中的專用工作負載。
建議使用公司環境做為實作 LLM RAG 型應用程式 (例如副手) 的安全標準模式，供內部組織使用。 您需要以 ExpressRoute 或 VPN 為基礎的連線來存取前端 API 或使用者介面 (這些會連接至 Azure AI 服務並向終端使用者或消費者提供 LLM 功能)。
若要向公眾提供以 LLM 或 RAG 為基礎的應用程式，請使用線上管理群組階層中的 工作負荷登陸區域。 不過，您必須透過虛擬網路中的私人端點安全地存取實作所需的所有服務。 僅透過公用端點向終端使用者或消費者提供 API 或前端 Web 應用程式。
在這種情況下，您應使用 Web 應用程式防火牆保護公用端點。 您還必須套用並設定適當的 DDoS 及其他安全性服務。 視您的喜好設定而定，此設定可能會集中在中樞虛擬網路中出現，或分散在工作負載的虛擬網路中。
如果需要將機密登陸區域的資料與基於 LLM 的工作負載整合，則必須在機密登陸區域中執行轉換程序，以便在 Azure AI 服務 (例如 Azure AI 搜尋或 Azure OpenAI) 等服務中處理和儲存資料。 此外，這些程序也必須主動篩選和管理資料，以防止傳送機密資料 (用於非機密服務和工作負載時必須加密)。 您需要根據個別情況在自訂商務規則中實作此篩選功能。
如果需要由基於 LLM 的工作負載擷取、轉換和使用資料，建議您部署與資料網域一致的資料登陸區域。 資料登陸區域有多個層鈒，可為服務資料整合以及其中包含的資料產品提供敏捷性。
您可以使用一組標準服務部署新的資料登陸區域，讓資料登陸區域開始擷取和分析資料。 您可以透過虛擬網路對等互連，將資料登陸區域連接至 LLM 資料登陸區域及所有其他資料登陸區域。 此機制可讓您透過 Azure 內部網路安全共用資料，同時達成比透過中樞共用更低的延遲和更高的輸送量。
有些實作可能需要使用敏感性或機密性資料，這些資料必須在使用時加密，而機密計算可提供此功能。 對於此案例，您可在機密管理群組下的登陸區域中執行以虛擬機器為基礎的資料解決方案。 部分 PaaS 資料服務可能無法在機密虛擬機中執行。