共用方式為

開始使用提示流程

本文會逐步引導您完成在 Azure Machine Learning 工作室中使用提示流程的主要使用者旅程圖。 您將瞭解如何在 Azure Machine Learning 工作區中啟用提示流程、建立及開發提示流程、測試及評估流程，然後將流程部署到生產環境。

必要條件

設定連線

聯機有助於安全地儲存及管理與大型語言模型 （LLM） 和其他外部工具互動所需的秘密密鑰或其他敏感性認證，例如 Azure 內容安全性。 聯機資源會與工作區中的所有成員共用。

  1. 若要檢查您是否已經有 Azure OpenAI 連線，請從 Azure Machine Learning Studio 左側功能表中選取 [提示流程]，然後選取 [提示流程] 畫面上的 [連線] 索引卷標。

    已醒目提示 [建立] 的 [連線] 索引標籤螢幕擷取畫面。

    如果您已經看到提供者為 AzureOpenAI 的連線，您可以略過此設定程式的其餘部分。 請注意，此連接需要已部署的設置，才能在範例流程中執行 LLM 節點。 如需詳細資訊，請參閱 部署模型。

  2. 如果您沒有 Azure OpenAI 連線，請選取 [ 建立 ]，然後從下拉功能表中選取 [AzureOpenAI ]。

  3. 在 [ 新增 Azure OpenAI 連線 ] 窗格中，提供連線的名稱、選取您的訂用帳戶 標識碼 和 Azure OpenAI 帳戶名稱，並提供 驗證模式 和 API 資訊。

    伺服流程支援 Azure OpenAI 資源的 API 金鑰 或 Microsoft Entra ID 身份驗證。 在本教學課程中，選取 [驗證模式] 下的 [API 金鑰]。

    Azure OpenAI 連線畫面的螢幕快照。

    若要取得 API 資訊，請移至 Azure OpenAI 入口網站中的 Chat 遊樂場 ，然後選取您的 Azure OpenAI 資源名稱。 複製 [金鑰]，並將其貼到 [新增 Azure OpenAI 連線] 表單中的 [API 金鑰] 字段中，然後複製 [端點]，並將其貼到表單中的 [API 基底] 字段。

    聊天遊樂場的螢幕快照，其中顯示 Azure OpenAI 資源的密鑰和端點。

    如需Microsoft Entra ID 驗證的相關信息，請參閱 如何使用 Microsoft Entra ID 驗證在 Azure AI Foundry 模型中設定 Azure OpenAI。

  4. 填寫所有欄位之後，請選取 [ 儲存 ] 以建立連線。

  5. 連線必須與部署建立關聯，才能在範例流程中運行 LLM 節點。 若要建立部署，請參閱 部署模型。

建立及開發您的提示流程

在 [提示流程] 首頁的 [流程] 索引標籤中，選取 [建立] 以建立提示流程。 [ 建立新的流程] 頁面會顯示您可以建立的流程類型、您可以複製的內建範例來建立流程，以及匯入流程的方式。

從範例複製

在 探索圖庫中，您可以瀏覽內建範例，並在任何磚上選取 檢視詳細 以預覽它是否適合您的情境。

本教學課程使用 Web 分類 範例來引導主要用戶體驗。 使用 LLM 示範多類別分類的流程稱為網頁分類。 給定一個 URL，此流程只需少量嘗試，使用簡單的摘要和分類提示，即可將 URL 分類到一個網頁類別。 例如，假設有 URL https://www.imdb.com，它會將 URL 分類為 Movie。

若要複製範例，請選取 複製 在 Web 分類 圖格上。

螢幕快照顯示來自排版頁面的 Web 分類。

[ 複製流程 ] 窗格顯示您在工作區檔案共用儲存空間中儲存流程的位置。 如有需要，您可以自定義資料夾。 然後選取克隆。

複製的流程會在編輯介面中開啟。 您可以選取 [編輯 鉛筆] 圖示來編輯流程詳細數據，例如名稱、描述和標記。

啟動計算會話

需要計算會話才能執行流程。 計算會話會管理應用程式執行所需的計算資源，包括包含所有必要的相依性套件的 Docker 映像。

在流程撰寫頁面上，選取 [ 啟動計算會話] 來啟動計算會話。

啟動 start-compute-session 的螢幕擷取畫面。

檢查流程撰寫頁面

計算會話可能需要幾分鐘的時間才能啟動。 在計算會話開始時，查看流程撰寫頁面的各個部分。

  • 頁面左側的 Flow 或 扁平 化檢視是主要工作區，您可以在其中新增或移除節點、編輯和執行節點內嵌，或編輯提示來撰寫流程。 在 [輸入和輸出] 區段中，您可以檢視、新增或移除，以及編輯輸入和輸出。

    當您複製目前的 Web 分類範例時，已設定輸入和輸出。 流程的輸入架構為 ，是 name: url; type: string字串類型的URL。 您可以將預設輸入值變更為另一個值，例如 https://www.imdb.com 手動。

  • 右上方的檔案會顯示流程的資料夾和檔案結構。 每個流程資料夾都包含 flow.dag.yaml 檔案、原始碼檔案和系統資料夾。 您可以建立、上傳或下載檔，以進行測試、部署或共同作業。

  • 右下角的 [圖形 ] 檢視是用來可視化流程的外觀。 您可以放大或縮小，或使用自動佈局。

您可以在 Flow 或扁平化視圖中內嵌編輯檔案，也可以開啟 原始檔案模式 切換，然後從 檔案 中選取檔案，以在標籤頁中開啟檔案進行編輯。

原始檔案模式下檔案編輯索引標籤的螢幕擷取畫面。

在此範例中，輸入的是一個要進行分類的URL。 流程會使用 Python 腳本從 URL 擷取文字內容、使用 LLM 來摘要 100 個單字的文字內容，並根據 URL 和摘要文字內容進行分類。 然後 Python 腳本會將 LLM 輸出轉換成字典。 prepare_examples節點會向分類節點的提示提供一些範例快照。

設定 LLM 節點

針對每個 LLM 節點，您必須選取 [ 連線 ] 來設定 LLM API 金鑰。 選取您的 Azure OpenAI 連線。

根據連線類型，您必須從下拉式清單中選取 deployment_name 或模型。 若要建立 Azure OpenAI 連線，請選擇一個部署方案。 如果您沒有部署，請遵循部署模型的指示，在 Azure OpenAI 入口網站中 建立一個。

備註

如果您使用 OpenAI 連線，而不是 Azure OpenAI 連線，您必須在 [ 連線 ] 字段中選取模型，而不是部署。

在此範例中，請確定 API 類型為 聊天，因為提供的提示範例適用於聊天 API。 如需聊天和完成 API 之間差異的詳細資訊，請參閱 開發流程。

顯示連線下拉式選單的網站分類螢幕截圖。

設定流程中兩個 LLM 節點的連線， summarize_text_content 和 classify_with_llm。

執行單一節點

要測試和偵錯單一節點，請在流程檢視中選取節點頂端的 [執行] 圖示。 您可以展開 [輸入] ，並變更流程輸入 URL，以測試不同 URL 的節點行為。

執行狀態會出現在節點頂端。 執行完成之後，執行輸出會出現在節點 [ 輸出 ] 區段中。

Web 分類的螢幕擷取畫面，其中顯示您首先執行 Python 節點，然後檢查輸出，接著執行 LLM 節點，然後檢查其輸出。

圖形檢視也會顯示單一執行節點狀態。

執行 fetch_text_content_from_url ，然後執行 summarize_text_content ，檢查流程是否可以成功從Web擷取內容並摘要Web內容。

執行整個流程

若要測試和偵錯整個流程，請選取畫面頂端的 [ 執行 ]。 您可以變更流程輸入 URL，以測試流程對不同 URL 的行為。

Web 分類的螢幕擷取畫面，其中顯示整個執行，並醒目提示 [執行] 按鈕。

檢查每個節點的執行狀態和輸出。

檢視流程輸出

您也可以設定流程輸出，以檢查單一位置中多個節點的輸出。 流程輸出可協助您：

  • 檢查單一數據表中的大量測試結果。
  • 定義評估介面對應。
  • 設定部署回應架構。

在複製的範例中，已設定 類別 和 辨識項 流程輸出。

  1. 選取頂端橫幅或頂端功能表欄中的 [ 檢視輸出 ]，以檢視詳細的輸入、輸出、流程執行和協調流程資訊。

    在兩個位置中檢視輸出按鈕的螢幕快照。

  2. 請注意，在 [ 輸出] 畫面的 [ 輸出 ] 索引標籤上，流程會預測具有 類別 和 辨識項的輸入 URL。

    在 [輸出] 頁面中檢視輸出的螢幕快照。

  3. 選取 [輸出] 畫面上的 [追蹤] 索引標籤，然後選取節點名稱下的流程，以查看右窗格中的詳細流程概觀資訊。 展開 流程 並選取任何步驟，以查看該步驟的詳細資訊。

    流程追蹤畫面的螢幕快照。

測試和評估

在流程成功運行單列資料後，測試它在大量資料集上是否運行良好。 您可以執行大量測試，並選擇性地新增評估流程，然後檢查結果。

您必須先準備測試資料。 Azure Machine Learning 支持數據的 CSV、TSV 和 JSONL 檔格式。

  • 移至 GitHub 並下載 data.csv，這是 Web 分類範例的黃金數據集。

使用 批次執行和評估 精靈來設定和提交批次執行，以及選擇性地提交評估方法。 評估方法也是流程，其使用 Python 或 LLM 來計算精確度和相關性分數等計量。

  1. 從流程撰寫頁面的頂端功能表中選取 [ 評估 ]。

  2. 在 [ 基本設定 ] 畫面上，視需要變更 [ 執行顯示名稱 ]，新增選擇性的 [ 執行描述 ] 和 [ 捲標]，然後選取 [ 下一步]。

  3. 在 [批次執行設定 ] 畫面上，選取 [新增數據]。 在 新增資料 畫面上，輸入資料集的名稱，選取瀏覽以上傳您下載的data.csv檔案，然後選取新增。

    上傳數據之後，或如果您的工作區有另一個您想要使用的資料集，請從下拉式清單中搜尋並選擇數據集，以預覽前五個數據列。

    輸入對應功能支援將流程輸入對應至數據集中的任何數據行，即使數據行名稱不相符也一樣。

    批次執行和評估的螢幕擷取畫面，其中醒目提示 [上傳新資料]。

  4. 選取 [下一步 ] 以選擇性地選取一或多個評估方法。 [ 選取評估 ] 頁面會顯示內建和自定義的評估流程。 若要查看如何為內建評估方法定義計量，您可以選取方法圖格上的 [更多詳細數據 ]。

    Web 分類是分類案例，因此請選取 [ 分類精確度評估 ] 以用於評估，然後選取 [ 下一步]。

    Web 分類的螢幕擷取畫面，其中顯示批次執行和根據評估方法進行評估。

  5. 在 設定評估 畫面上，將 評估輸入對應 設定為將 真實值 對應至流程輸入 ${data.category}，並將 預測 對應至流程輸出 ${run.outputs.category}。

    Web 分類的螢幕擷取畫面，其中顯示批次執行和根據評估設定進行評估。

  6. 選取 [檢閱 + 提交 ]，然後選取 [ 提交 ] 以提交批次執行和選取的評估方法。

檢查結果

當您的執行成功提交時，請選取 [ 檢視執行清單 ] 以在提示流程 [ 執行 ] 頁面上檢視執行狀態。 批次執行可能需要一些時間才能完成。 您可以選取 重新整理 以載入最新狀態。

批次執行完成後，選取執行旁的核取方塊，然後選取 [ 可視化輸出 ] 以查看批次執行的結果。

在 [執行] 頁面上選取 [可視化輸出] 的螢幕快照。

在可視化輸出畫面上，啟用子執行緒旁的眼睛圖示，將評估結果附加至批次執行結果的表格中。 您可以看到標記數量的總計和整體的準確性。 [ 輸出 ] 資料表會顯示每個數據列的結果：輸入、流程輸出、系統計量，以及 正確 或 不正確的評估結果。

Web 分類批次執行詳細資料頁面 (用來檢視輸出) 的螢幕擷取畫面。

在 [輸出 ] 資料表中，您可以：

  • 調整欄寬、隱藏或取消隱藏資料行，或變更數據行順序。
  • 選擇匯出以下載當前頁面作為 CSV 檔案，或下載數據匯出腳本作為 Jupyter Notebook 檔案，以便在本地下載輸出。
  • 選取任何數據列旁的 [ 檢視詳細數據 ] 圖示，以開啟顯示該數據列完整詳細數據的 追蹤檢視 。

精確度不是唯一可以評估分類工作的計量。 例如，您也可以使用召回率來進行評估。 若要執行其他評估，請在 [執行] 頁面上選取 [可視化輸出] 旁的 [評估]，然後選取其他評估方法。

設置為端點

建置並測試流程之後，您可以將它部署為端點，以便叫用端點進行即時推斷。

設定端點

  1. 在批次執行頁面上，選取執行名稱連結，然後在執行詳細頁面上，選取頂端功能表欄上的部署以開啟部署嚮導。

  2. 在 [ 基本設定 ] 頁面上，指定 [端點名稱 ] 和 [ 部署名稱 ]，然後選取 [虛擬機 類型] 和 [ 實例計數]。

  3. 您可以選取 [ 下一步 ] 來設定進階 端點、 部署和 輸出和連線 設定。 在此範例中，請使用預設設定。

  4. 選取 [檢閱 + 建立 ]，然後選取 [ 建立] 以開始部署。

測試端點

您可以從通知移至您的端點詳細數據頁面，或在 Studio 左側導覽中選取 [ 端點 ]，然後從 [ 即時端點] 索引 卷標中選取您的端點。部署端點需要幾分鐘的時間。 成功部署端點之後，您可以在 [測試] 索引標籤中測試端點。

將您想要測試的 URL 放在輸入方塊中，然後選取 [ 測試]。 您會看到由您的端點預測的結果。

清除資源

為了節省計算資源和成本，如果您目前已不再使用計算會話，您可以停止計算會話。 選取執行中的會話，然後選取 [停止計算會話]。

您也可以從 Studio 左側導覽中選取 [計算]、在 [計算實例] 清單中選取計算實例，然後選取 [停止] 來停止計算實例。

如果您不打算使用您在本教學課程中建立的任何資源，您可以將其刪除，以免產生費用。 在 Azure 入口網站中，搜尋並選取 [資源群組]。 從清單中，選取包含您所建立資源的資源群組，然後從資源群組頁面的頂端功能表中選取 [ 刪除資源群組 ]。

相關內容