建立和管理 Azure AI Studio 中提示流程計算工作階段

發行項
09/04/2024

重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。可能不支援特定功能，或可能已經限制功能。如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

您需要計算工作階段來執行提示流程。使用 Azure AI Studio 建立和管理提示流程計算工作階段。

提示流程計算工作階段能提供執行應用程式所需的計算資源，包括包含所有必要相依性套件的 Docker 映像。除了流程執行之外，Azure AI Studio 也會使用計算工作階段，以確保當您更新提示或程式碼內容時，流程內併入的工具的精確度和功能。

必要條件

登入 Azure AI Studio 並選擇提示流程。

建立計算資源庫

當您啟動計算工作階段時，您可以使用預設設定或自訂進階設定。

使用預設設定啟動計算工作階段

根據預設，計算工作階段會使用流程資料夾中flow.dag.yaml所定義的環境。這會在虛擬機器 (VM) 大小進行無伺服器計算，您可在此在工作區中有足夠的配額。

移至您在 Azure AI Studio 中的專案。
從左窗格中，選取「流程」，然後選取您想要執行的流程。
從提示流程的頂端工具列中，選取「開始計算會話」。

使用進階設定啟動計算工作階段

在進階設定中，您可以選取計算類型。您在無伺服器計算和計算執行個體之間選擇。

移至您在 Azure AI Studio 中的專案。
從左窗格中，選取「流程」，然後選取您想要執行的流程。
從提示流程的頂端工具列中，選取「開始計算工作階段」按鈕右側的下拉式箭頭按鈕。選取「開始使用進階設定」來自訂計算會話。

您在無伺服器計算和計算執行個體之間選擇。
- 如果您選擇無伺服器計算，您可以設定下列設定：
  - 自訂計算工作階段使用的 VM 大小。
  - 自訂閒置時間，如果計算工作階段不在使用中，則會自動刪除計算工作階段以儲存程式碼。
  - 設定使用者指派的受控識別。計算工作階段會使用此識別來提取基礎映像和安裝套件。確定使用者指派的受控識別具有 Azure Container Registry 提取權限。
  如果您未設定使用者指派的身分識別，提示流程依預設會運用使用者身分識別。深入了解如何為工作區建立和更新使用者指派的身分識別。
- 如果您選擇計算執行個體，則只能設定閒置關機時間。
  - 由於其是在現有的計算執行個體上執行，因此 VM 大小已經固定，且無法從工作階段端加以變更。
  - 此工作階段所使用的身分識別也會在計算執行個體中定義，其預設會使用使用者身分識別。深入了解如何將身分識別指派給計算執行個體
  - 閒置關機時間可用來定義計算工作階段的生命週期。若計算工作階段在您設定的時間處於閒置狀態，便會自動刪除。如果您已在計算執行個體上啟用閒置關機，則會關閉但不會刪除。
選取「下一步」以指定基底映射設定。使用預設基礎映像或提供自訂基礎映像。若您選擇自訂基礎映像，請提供映像 URL 和映像標籤。僅支援公用 Docker 登錄或 Azure Container Registry (ACR) 中的映像。如果您在 ACR 中指定映像，請確定您 (或使用者指派的管理身分識別) 具有 ACR 提取權限。
選取「下一步」以檢閱您的設定。
選取「套用並啟動計算工作階段」以啟動計算工作階段。

建立計算工作階段

若要管理計算工作階段，請選取流程頁面頂端工具列上的計算工作階段執行中：

變更計算工作階段設定會開啟計算工作階段組態頁面，您可以在其中定義 VM 端和計算工作階段的空閒時間。
從 requirements.txt 安裝套件 會在提示流程使用者介面中開啟 requirements.txt，因此您可以新增套件。
檢視已安裝的套件會顯示已在計算工作階段中安裝的套件。這包含製作至流程資料夾 requirements.txt 檔案中指定的基礎映像和套件的套件。
重設計算工作階段 會刪除目前的計算工作階段，並建立具有相同環境的新工作階段。如果您遇到套件衝突，可以嘗試此選項。
停止計算工作階段 會刪除目前的計算工作階段。如果基礎無伺服器計算上沒有啟用中的計算工作階段，也會刪除計算資源。如果計算工作階段位於計算執行個體上，停止工作細項將允許執行個體變成閒置。

您也可以在流程資料夾的 requirements.txt 檔案中新增套件，以自訂用來執行此流程的環境。在此檔案中新增更多套件之後，請選擇下列任一選項：

[儲存並安裝] 會在流程資料夾中觸發 pip install -r requirements.txt。程序可能需要幾分鐘的時間，視您安裝的套件而定。
[僅儲存] 只會儲存 requirements.txt 檔案。您稍後可以自行安裝套件。

注意

您可以變更 requirements.txt 的位置，甚至是檔名，但務必同時在流程資料夾中的 flow.dag.yaml 檔案中進行變更。

由於請勿在 requirements.txt 中釘選 promptflow 和 promptflow-tools 的版本，因此我們已將其列入計算工作階段基礎映像中。

在 Azure DevOps 的私人摘要中新增套件

如果您想要在 Azure DevOps 中使用私人摘要，請遵循下列步驟：

建立使用者指派的受控識別，並在 Azure DevOps 組織中新增此身分識別。若要深入了解，請參閱使用服務主體和受控識別。

注意

如果看不到 [新增使用者] 按鈕，您可能沒有執行此動作的必要權限。
將使用者指派的身分識別新增或更新至專案。
將 {private} 新增至您的私人摘要 URL。例如，如果您想要在 Azure DevOps 中從 test_feed 安裝 test_package，請在 requirements.txt 中新增 -i https://{private}@{test_feed_url_in_azure_devops}：
```
-i https://{private}@{test_feed_url_in_azure_devops}
test_package
```
如果計算階段未執行，請在「從進階設定開始」指定使用者指派的受控識別；如果計算工作階段正在執行，請使用「編輯」按鈕。

變更基底映像

根據預設，我們會使用最新的提示流程映像作為基礎映像。如果您想要使用不同的基礎映像，您需要建置自己的基礎映像。此 Docker 映像應該從 mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version> 的提示流程基礎映像建立。如果可能的話，請使用最新版的基礎映像。

開始提示流程。
在頂端工具列上選取「原始檔案模式」，以在檔案編輯器中啟用編輯。
開啟「檔案」區段，然後選取 flow.dag.yaml。
在 flow.dag.yaml 檔案的「environment」區段中指定您的映像。例如，若要使用映像 <your-custom-image>，請新增下列程式碼：
```
environment:
    image: <your-custom-image>
    python_requirements_txt: requirements.txt
```

升級計算執行個體執行階段

若您先前建立計算執行個體執行階段，請使用下列步驟將其切換為計算工作階段：

準備流程資料夾中的 requirements.txt 檔案。如需詳細資訊，請參閱管理計算工作階段。
若您建立自訂環境，請取得環境詳細頁面映像，並在流程資料夾的 flow.dag.yaml 檔案中予以指定。若要深入瞭解，請參閱變更基礎映像。確定您有映像的 acr pull 權限。
如果您想要手動管理生命週期，便可以繼續使用現有的計算執行個體。

共用方式為

建立和管理 Azure AI Studio 中提示流程計算工作階段

必要條件