共用方式為


教學課程:在 Azure AI Studio 中建置和部署具有提示流程的問答副手

重要

本文所述的部分功能可能僅適用於預覽版。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款

在此 Azure AI Studio 教學課程中,您將使用生成式 AI 和提示流程,針對名為 Contoso 的零售公司建置、設定及部署副手。 您的零售公司專門銷售戶外露營裝備和服裝。

該副手應該會回答您的產品和服務相關問題。 其應該也會回答您的客戶相關問題。 例如,該副手可以回答諸如「TrailWalker 登山健行鞋多少錢?」和「Daniel Wilson 買了多少雙登山健行鞋?」等問題。

本教學課程中的步驟如下:

  1. 將資料新增至聊天遊樂場。
  2. 從遊樂場建立提示流程。
  3. 使用多個資料來源自訂提示流程。
  4. 使用問答評估資料集評估流程。
  5. 部署流程以供取用。

必要條件

新增您的資料並再次試用聊天模型

AI Studio 遊樂場快速入門 (這是本教學課程的先決條件) 中,您可以觀察模型在沒有您資料的情況下會如何回應。 現在,您要將資料新增至模型中,以協助其回答有關您產品的問題。

若要完成本節,您需要產品資料的本機複本。 GitHub 上的 Azure-Samples/aistudio-python-quickstart-sample 存放庫 (英文) 包含與此教學課程案例相關的範例零售客戶和產品資訊。 複製存放庫,或複製 3-product-info 中的檔案。

重要

Azure AI Studio 遊樂場中的 [新增您的資料] 功能不支援在下列資源上使用虛擬網路或私人端點:

  • Azure AI 搜尋服務
  • Azure OpenAI
  • 儲存體資源

遵循下列步驟,將資料新增至聊天遊樂場,以協助助理回答有關您產品的問題。 您不會變更已部署的模型本身。 您的資料會單獨且安全地儲存在您的 Azure 訂用帳戶中。

  1. 移至 Azure AI Studio 中的專案。

  2. 從左窗格中選取 [遊樂場]>[聊天]

  3. 從 [部署] 下拉式清單中,選取已部署的聊天模型。

    聊天遊樂場的螢幕擷取畫面,其中已選取聊天模式和模型。

  4. 在聊天遊樂場左側,選取 [新增您的資料]>[+ 新增資料來源]

    聊天遊樂場的螢幕擷取畫面,其中可見新增資料來源的選項。

  5. 在 [資料來源] 下拉式清單中,選取 [上傳檔案]

    資料來源選取選項的螢幕擷取畫面。

  6. 選取 [上傳]>[上傳檔案] 以瀏覽您的本機檔案。

  7. 選取您要上傳的檔案。 選取您稍早下載或建立的產品資訊檔案 (3-product-info)。 立即新增所有檔案。 您稍後將無法在相同遊樂場工作階段中新增更多檔案。

  8. 選取 [上傳],以將檔案上傳至您的 Azure Blob 儲存體帳戶。 然後選取下一步

    螢幕擷取畫面:選取和上傳檔案的對話框。

  9. 選取 Azure AI 搜尋服務。 在此範例中,我們會從 [選取 Azure AI 搜尋服務] 下拉式清單中選取 [連線其他 Azure AI 搜尋資源]。 如果您沒有搜尋資源,可以選取 [建立新的 Azure AI 搜尋資源] 來建立一個資源。 然後返回此步驟以連線並加以選取。

    搜尋資源選取選項的螢幕擷取畫面。

  10. 瀏覽您的 Azure AI 搜尋服務,然後選取 [新增連線]

    螢幕擷取畫面:新增搜尋服務連線的頁面。

  11. 針對 [索引名稱],輸入 product-info,然後選取 [下一步]

  12. 在 [向量設定] 下的 [搜尋設定] 頁面上,取消選取 [將向量搜尋新增至此搜尋資源] 核取方塊。 此設定有助於判斷模型如何回應要求。 然後選取下一步

    注意

    如果您新增向量搜尋,此處會提供更多選項,但需要額外付費。

  13. 檢閱設定並選取 [建立]

  14. 在遊樂場中,您可以看到資料擷取正在進行中。 此程序可能需要幾分鐘的時間。 請等到您看見資料來源和索引名稱 (而非狀態) 之後再繼續。

    聊天遊樂場的螢幕擷取畫面,檢視中包含資料擷取的狀態。

  15. 輸入遊樂場設定的名稱,然後選取 [儲存]>[儲存設定]。 預設會儲存所有設定項目。 專案包括部署、系統訊息、安全訊息、參數、新增的數據、範例和變數。 儲存名稱相同的設定將會儲存覆蓋舊版。

    遊樂場設定名稱和 [儲存] 按鈕的螢幕擷取畫面。

  16. 您現在可以與模型聊天,詢問與之前相同的問題 (「TrailWalker 登山健行鞋多少錢」),這次其會使用來自您資料的資訊來建構回應。 您可以展開 [參考] 按鈕,以查看所使用的資料。

從遊樂場建立提示流程

現在您可能會問:「如何進一步自訂此 Copilot?」建議您新增多個資料來源、比較不同的提示或多個模型的效能。 提示流程會作為可執行的工作流程,簡化 LLM 型 AI 應用程式的開發。 其提供管理應用程式內資料流程和處理的完整架構。 您可以使用提示流程,將傳送至副手聊天模型的訊息最佳化。

在本節中,您將了解如何從遊樂場轉換至提示流程。 您可以匯出遊樂場聊天環境,包括與您新增之資料的連線。 在此教學課程稍後,您將評估流程,然後部署流程以供取用

注意

提示流程中所做的變更不會向後套用來更新遊樂場環境。

您可以遵循下列步驟,從遊樂場建立提示流程:

  1. 移至您在 AI Studio 中的專案。

  2. 從左窗格中選取 [遊樂場]>[聊天]

  3. 因為我們使用自己的數據,因此您必須選取 [ 新增您的數據]。 您應該已經有一 個名為 product-info 的索引,您先前在聊天遊樂場中建立。 從 [ 選取可用的專案索引] 下拉式清單中選取它。 否則, 請先使用您的產品數據 建立索引,然後返回此步驟。

  4. 從聊天會話窗格上方的功能表中選取 [提示流程 ]。

  5. 輸入提示流程的資料夾名稱。 然後選取 [開啟]。 AI Studio 會導出遊樂場聊天環境以提示流程。 匯出包含您新增之數據的連線。

    螢幕擷取畫面:在提示流程對話方塊中開啟。

在流程中,節點會佔據舞台中心,代表具有獨特功能的特定工具。 這些節點會使用輸入和輸出來處理資料處理、工作執行和演算法作業。 藉由連線節點,您可以建立順暢的作業鏈結,以引導應用程式的資料流程。 如需詳細資訊,請參閱提示流程工具

為了輔助節點設定和微調,會透過 DAG (有向非循環圖) 圖表提供工作流程結構的視覺表示法。 此圖表會展示節點之間的連線能力和相依性,並提供整個工作流程的清楚概觀。 此處所示圖表中的節點代表您匯出至提示流程的遊樂場聊天體驗。

螢幕擷取畫面:從遊樂場匯出到提示流程的預設圖表。

在提示流程中,您也應該會看到:

  • 儲存 按鈕:您可以從頂端功能表中選取 [儲存 ],隨時儲存提示流程。 當您在此教學課程中進行變更時,請務必定期儲存提示流程。
  • 啟動計算工作階段 按鈕:您必須啟動計算工作階段以執行提示流程。 您可以在稍後的教學課程中啟動工作階段。 執行計算實例時會產生成本。 如需詳細資訊,請參閱 如何建立計算會話

流程中儲存和啟動會話按鈕的螢幕快照。

您可以從左側功能表中的 [工具] 選取 [提示流程],隨時返回提示流程 然後選取您先前建立的提示流程資料夾。

提示流程清單的螢幕擷取畫面。

使用多個資料來源自訂提示流程

先前在 AI Studio 聊天遊樂場中,您已新增數據,以建立一個包含 Contoso copilot 產品數據的搜尋索引。 到目前為止,使用者只能針對諸如「TrailWalker 登山健行鞋多少錢?」等問題來詢問產品。 但他們無法得到諸如「Daniel Wilson 買了多少雙 TrailWalker 登山健行鞋?」等問題的答案。為了實現此案例,我們要將另一個具有客戶資訊的索引新增至流程。

建立客戶資訊索引

若要繼續,您需要範例客戶資訊的本地副本。 如需詳細資訊和範例資料的連結,請參閱必要條件

請遵循這些指示,瞭解如何建立新的索引。 您稍後會回到本教學課程中的提示流程,將客戶資訊新增至流程。 您可以在瀏覽器中開啟新的索引標籤,以遵循這些指示,然後返回您的提示流程。

  1. 移至您在 AI Studio 中的專案。

  2. 從左側功能表中選取 [索引]。 請注意,您已經有一 個名為 product-info 的索引,您先前在聊天遊樂場中建立。

    索引頁面的螢幕擷取畫面,其中包含用來建立新索引的按鈕。

  3. 選取 [+ 新增索引]。 系統會帶您前往 [建立索引] 精靈。

  4. 在 [來源資料] 頁面上,從 [資料來源] 下拉式清單中選取 [上傳檔案]。 然後選取 [上傳>上傳檔案] 以瀏覽您的本機檔案。

  5. 選取您先前下載或建立的客戶資訊檔案。 請參閱必要條件。 然後選取下一步

    客戶資料來源選取選項的螢幕擷取畫面。

  6. 選取您用於產品資訊索引的相同 Azure AI 搜尋服務 連線contosooutdooraisearch)。 然後選取下一步

  7. 針對索引名稱輸入 customer-info

    Azure AI 搜尋服務和索引名稱的螢幕擷取畫面。

  8. 選取要執行編製索引作業的虛擬機器。 預設選項為 [自動選取]。 然後選取下一步

  9. 在 [向量設定] 下的 [搜尋設定] 頁面上,取消選取 [將向量搜尋新增至此搜尋資源] 核取方塊。 此設定有助於判斷模型如何回應要求。 然後選取下一步

    注意

    如果您新增向量搜尋,此處會提供更多選項,但需要額外付費。

  10. 檢閱您輸入的詳細資料,然後選取 [建立]

    檢閱和完成索引建立頁面的螢幕擷取畫面。

    注意

    在此教學課程稍後的提示流程中,您會使用 customer-info 索引和針對 Azure AI 搜尋服務資源的 contoso-outdoor-search 連線。 如果您輸入的名稱與此處指定的名稱不同,請務必在教學課程的其餘部分使用您輸入的名稱。

  11. 系統會帶您前往索引詳細資料頁面,您可以在其中查看您索引建立的狀態。

    客戶資訊索引詳細資料的螢幕擷取畫面。

如需如何建立索引的詳細資訊,請參閱建立索引

建立提示流程所需的計算會話

建立索引之後,請返回提示流程並啟動計算會話。 提示流程需要計算會話才能執行。

  1. 移至您的專案。
  2. 左側選單中的 [工具] 選取 [提示流程]。 然後選取您先前建立的提示流程資料夾。
  3. 從頂端功能表中選取 [ 啟動計算會話 ]。

若要建立計算實例和計算會話,您也可以遵循如何建立計算會話的步驟

若要完成本教學課程的其餘部分,請確定您的計算會話正在執行中。

重要

計算執行個體在執行時,會向您收取費用。 若要避免產生不必要的 Azure 費用,在您未主動於提示流程中運作時暫停計算執行個體。 如需詳細資訊,請參閱如何啟動和停止計算

將客戶資訊新增至流程

完成建立索引之後,返回提示流程,並遵循下列步驟來將客戶資訊新增至流程:

  1. 請確定您有執行中的計算工作階段。 如果您沒有計算會話,請參閱 上一節中的建立計算會話

  2. 從頂端功能表中選取 [+ 更多工具 ],然後從工具清單中選取 [索引查閱 ]。

    在提示流程中選取索引查閱工具的螢幕快照。

  3. 將新的節點 查詢命名為CustomerIndex ,然後選取 [ 新增]。

  4. 選取 queryCustomerIndex 節點中的 [mlindex_content] 文字框。

    索引查閱節點中 [mlindex_content] 文字框的螢幕快照。

    [ 產生] 對話框隨即開啟。 您可以使用此對話框來設定 queryCustomerIndex 節點,以連線到您的客戶 資訊 索引。

  5. 針對 [index_type] 值,選取 [Azure AI 搜尋]。

  6. 選取或輸入下列值:

    名稱
    acs_index_connection Azure AI 搜尋服務 連線的名稱(例如 contosooutdooraisearch
    acs_index_name customer-info
    acs_content_field 內容
    acs_metadata_field meta_json_string
    semantic_configuration azuremldefault
    embedding_type None
  7. 選取 [儲存] 以儲存您的設定。

  8. 選取或輸入下列 queryCustomerIndex 節點的值

    名稱
    查詢 ${extractSearchIntent.output}
    query_type 關鍵字
    topK 5

    您可以看到 queryCustomerIndex 節點已連線到 圖形中的 extractSearchIntent 節點。

    螢幕擷取畫面:用於擷取產品資訊的提示流程節點。

  9. 從頂端功能表中選取 [儲存],以儲存變更。 請記得在進行變更時定期儲存您的提示流程。

將客戶資訊 連線 流程

在下一節中,您會匯總產品和客戶資訊,以大型語言模型可以使用的格式輸出。 但首先,您需要將客戶資訊連線到流程。

  1. 選取 [+ 更多工具] 旁的省略號圖示,然後選取 [源檔模式] 以切換至源檔模式。 此模式可讓您在圖形中複製和貼上節點。

    提示流程中源檔模式選項的螢幕快照。

  2. 將 querySearchResource 的所有實例取代為圖形中的 queryProductIndex 我們會重新命名節點,以更清楚地反映它擷取產品資訊,並與您新增至流程的 queryCustomerIndex 節點形成對比。

  3. 將 chunkDocuments 的所有實例重新命名並取代為圖形中的 chunkProductDocuments

  4. 將 selectChunks 的所有實例重新命名並取代為圖形中的 selectProductChunks

  5. 複製並貼上 chunkProductDocuments ,然後 選取 [ProductChunks ] 節點,為客戶資訊建立類似的節點。 重新命名新的節點 區塊CustomerDocuments ,然後 分別選取 [CustomerChunks ]。

  6. 在 chunkCustomerDocuments 節點內,將${queryProductIndex.output}輸入取代為 ${queryCustomerIndex.output}

  7. 在 selectCustomerChunks 節點內,將${chunkProductDocuments.output}輸入取代為 ${chunkCustomerDocuments.output}

  8. 從頂端功能表中選取 [儲存],以儲存變更。

    在源檔模式中儲存 yaml 檔案的選項螢幕快照。

    現在, flow.dag.yaml 檔案應該包含類似下列範例的節點 (以及其他) 節點:

    - name: chunkProductDocuments
      type: python
      source:
        type: code
        path: chunkProductDocuments.py
      inputs:
        data_source: Azure AI Search
        max_tokens: 1050
        queries: ${extractSearchIntent.output}
        query_type: Keyword
        results: ${queryProductIndex.output}
        top_k: 5
      use_variants: false
    - name: selectProductChunks
      type: python
      source:
        type: code
        path: filterChunks.py
      inputs:
        min_score: 0.3
        results: ${chunkProductDocuments.output}
        top_k: 5
      use_variants: false
    - name: chunkCustomerDocuments
      type: python
      source:
        type: code
        path: chunkCustomerDocuments.py
      inputs:
        data_source: Azure AI Search
        max_tokens: 1050
        queries: ${extractSearchIntent.output}
        query_type: Keyword
        results: ${queryCustomerIndex.output}
        top_k: 5
      use_variants: false
    - name: selectCustomerChunks
      type: python
      source:
        type: code
        path: filterChunks.py
      inputs:
        min_score: 0.3
        results: ${chunkCustomerDocuments.output}
        top_k: 5
      use_variants: false
    

匯總產品和客戶資訊

此時,提示流程只會使用產品資訊。

  • extractSearchIntent 會從用戶的問題中擷取搜尋意圖。
  • queryProductIndex 會從產品資訊索引擷 取產品資訊
  • LLM 工具(適用於大型語言模型)會透過 chunkProductDocuments selectProductChunks>>formatGeneratedReplyInputs 節點接收格式化的回復。

您必須連線並匯總產品和客戶資訊,以 LLM 工具可以使用的格式輸出產品與客戶資訊。 請遵循下列步驟來匯總產品和客戶資訊:

  1. 從工具清單中選取 [Python ]。

  2. 將工具 命名為 aggregateChunks, 然後選取 [ 新增]。

  3. 複製並貼上下列 Python 程式代碼,以取代 aggregateChunks 程式代碼區塊中的所有內容。

    from promptflow import tool
    from typing import List
    
    @tool
    def aggregate_chunks(input1: List, input2: List) -> str:
        interleaved_list = []
        for i in range(max(len(input1), len(input2))):
            if i < len(input1):
                interleaved_list.append(input1[i])
            if i < len(input2):
                interleaved_list.append(input2[i])
        return interleaved_list
    
  4. 選取 [驗證並剖析輸入] 按鈕,以驗證 aggregateChunks 節點的輸入。 如果輸入有效,提示流程就會剖析輸入,並建立必要的變數,讓您可在程式碼中使用。

    用於匯總產品和客戶資訊的提示流程節點螢幕快照。

  5. 編輯 aggregateChunks 節點以連接產品和客戶資訊。 將 輸入 設定為下列值:

    名稱 類型
    input1 清單 ${selectProductChunks.output}
    input2 清單 ${selectCustomerChunks.output}

    在匯總區塊節點中編輯之輸入的螢幕快照。

  6. 從圖形中選取 shouldGenerateReply 節點。 選取或輸入${aggregateChunks.output}區塊輸入。

  7. 從圖形中 選取 formatGenerateReplyInputs 節點。 選取或輸入${aggregateChunks.output}區塊輸入。

  8. 從圖表中選取 outputs 節點。 選取或輸入${aggregateChunks.output}區塊輸入。

  9. 從頂端功能表中選取 [儲存],以儲存變更。 請記得在進行變更時定期儲存您的提示流程。

現在您可以在 圖表中看到 aggregateChunks 節點。 節點會連接產品和客戶資訊,以 LLM 工具可以使用的格式輸出產品與客戶資訊。

圖表中匯總區塊節點輸入和輸出的螢幕快照。

在具有產品和客戶資訊的提示流程中聊天

現在,您在提示流程中同時擁有產品和客戶資訊。 您可以在提示流程中與模型聊天,並獲得諸如「Daniel Wilson 買了多少雙 TrailWalker 登山健行鞋?」等問題的答案。在繼續進行更正式的評估之前,您可以選擇性地與模型聊天,以查看其如何回應您的問題。

  1. 從上一節繼續進行, 並選取輸出 節點。 請確定 回復 輸出已選取 [ 聊天輸出] 單選按鈕。 否則,系統會傳回完整的檔集,以回應聊天中的問題。

  2. 從提示流程的頂端功能表中選取 [聊天],以嘗試聊天。

  3. 輸入「Daniel Wilson 買了多少雙 TrailWalker 登山健行鞋?」,然後選取向右箭號圖示進行傳送。

    注意

    模型可能需要幾秒鐘的時間才能回應。 當您使用已部署的流程時,可以預期回應時間會更快。

  4. 此回應是您預期的回應。 此模型使用客戶資訊來回答問題。

    螢幕擷取畫面:包含產品和客戶基礎資料的助理回覆。

使用問答評估資料集評估流程

AI Studio 中,您想要先評估流程,再部署流程以供取用

在本節中,您將使用內建評估來評估具有問答評估資料集的流程。 內建評估使用 AI 輔助的計量來評估流程:根據性、相關性和擷取分數。 如需詳細資訊,請參閱內建評估計量

建立評估

您需要包含與案例相關之問題和答案的問答評估資料集。 在本機建立名為 qa-evaluation.jsonl 的新檔案。 複製下列問題和答案 ("truth") 並貼入檔案中。

{"question": "What color is the CozyNights Sleeping Bag?", "truth": "Red", "chat_history": [], }
{"question": "When did Daniel Wilson order the BaseCamp Folding Table?", "truth": "May 7th, 2023", "chat_history": [] }
{"question": "How much does TrailWalker Hiking Shoes cost? ", "truth": "$110", "chat_history": [] }
{"question": "What kind of tent did Sarah Lee buy?", "truth": "SkyView 2 person tent", "chat_history": [] }
{"question": "What is Melissa Davis's phone number?", "truth": "555-333-4444", "chat_history": [] }
{"question": "What is the proper care for trailwalker hiking shoes?", "truth": "After each use, remove any dirt or debris by brushing or wiping the shoes with a damp cloth.", "chat_history": [] }
{"question": "Does TrailMaster Tent come with a warranty?", "truth": "2 years", "chat_history": [] }
{"question": "How much did David Kim spend on the TrailLite Daypack?", "truth": "$240", "chat_history": [] }
{"question": "What items did Amanda Perez purchase?", "truth": "TrailMaster X4 Tent, TrekReady Hiking Boots (quantity 3), CozyNights Sleeping Bag, TrailBlaze Hiking Pants, RainGuard Hiking Jacket, and CompactCook Camping Stove", "chat_history": [] }
{"question": "What is the Brand for TrekReady Hiking Boots", "truth": "TrekReady", "chat_history": [] }
{"question": "How many items did Karen Williams buy?", "truth": "three items of the Summit Breeze Jacket", "chat_history": [] }
{"question": "France is in Europe", "truth": "Sorry, I can only truth questions related to outdoor/camping gear and equipment", "chat_history": [] }

現在您已擁有評估資料集,您可以遵循下列步驟來評估流程:

  1. 從提示流程的頂端功能表中,選取 [評估]>[內建評估]

    螢幕擷取畫面:從提示流程建立內建評估的選項。

    系統會帶您前往 [建立新的評估] 精靈。

  2. 輸入評估的名稱,並選取計算工作階段。

  3. 從案例選項中選取 [沒有內容 的問題和答案]。

  4. 選取要評估的流程。 在此範例中,選取 [Contoso 戶外流程] 或任何您命名的流程。 然後選取下一步

    選取評估案例的螢幕擷取畫面。

  5. 選取 [設定測試數據] 頁面上的 [新增數據集]。

    螢幕擷取畫面:使用新資料集或現有資料集的選項。

  6. 選取 [上傳檔案]、瀏覽檔案,然後選取 您先前建立的 qa-evaluation.jsonl 檔案。

  7. 上傳檔案之後,您必須設定數據行,以符合提示流程所需的輸入,以執行產生評估輸出的批次執行。 針對提示流程的每個數據集對應,輸入或選取下列值。

    提示流程評估數據集對應的螢幕快照。

    名稱 描述 類型 資料來源
    chat_history 聊天記錄 清單 ${data.chat_history}
    query 此查詢 string ${data.question}
  8. 選取 [下一步]。

  9. 選取您要用來評估流程的計量。 在此範例中,選取 [一致性]、[流暢度]、[GPT 相似度] 和 [F1 分數]。

  10. 選取要用於評估的連線和模型。 在此範例中,選取 [gpt-35-turbo-16k]。 然後選取下一步

    選取評估計量的螢幕擷取畫面。

    注意

    使用 AI 輔助的計量進行評估時,必須呼叫另一個 GPT 模型來執行計算。 為了獲得最佳效能,請使用至少支援 16k 語彙基元 (Token) 的模型,例如 gpt-4-32k 或 gpt-35-turbo-16k 模型。 如果您先前未部署這類模型,您可以遵循 AI Studio 聊天遊樂場快速入門中的步驟來部署另一個模型。 然後返回此步驟,並選取您部署的模型。

  11. 您必須設定數據行,以符合產生評估計量所需的輸入。 輸入下列值,將數據集對應至評估屬性:

    名稱 描述 類型 資料來源
    問題 搜尋特定信息的查詢。 字串 ${data.question}
    回答 模型所產生的問題回應作為答案。 字串 ${run.outputs.reply}
    文件 字串,其中包含所擷取文件的內容。 字串 ${run.outputs.documents}
  12. 選取 [下一步]。

  13. 檢閱評估詳細資料,然後選取 [提交]。 系統會帶您前往 [計量評估] 頁面。

檢視評估狀態和結果

現在您可以遵循下列步驟來檢視評估狀態和結果:

  1. 建立 評估之後,如果您還沒有移至 評估版。 在 [計量評估] 頁面上,您可以看到評估狀態和選取的計量。 您可能需要在幾分鐘後選取 [重新整理],才能看到 [已完成] 狀態。

    計量評估頁面的螢幕擷取畫面。

  2. 在提示流程中停止計算會話。 移至您的提示流程,然後從頂端功能表中選取 [停止計算會話] 的 [計算會話>]。

    在提示流程中停止計算會話的按鈕螢幕快照。

    提示

    評估處於 [已完成 ] 狀態之後,您就不需要計算會話來完成本教學課程的其餘部分。 您可以停止計算執行個體,以避免產生不必要的 Azure 費用。 如需詳細資訊,請參閱如何啟動和停止計算

  3. 選取評估的名稱(例如 evaluation_evaluate_from_flow_variant_0),以查看評估計量。

    詳細計量結果頁面的螢幕擷取畫面。

如需詳細資訊,請參閱檢視評估結果

部署流程

既然您已建置流程並完成計量型評估,就可以建立線上端點進行即時推斷。 那表示您可以使用已部署的流程,即時回答問題。

請遵循下列步驟,從 AI Studio 將提示流程部署為在線端點。

  1. 備妥提示流程以進行部署。 如果您沒有提示流程,請參閱前幾節或 如何建置提示流程

  2. 選擇性:選取 [聊天],以測試流程是否正常運作。 建議的最佳做法是先測試流程再進行部署。

  3. 在流程編輯器上,選取 [部署]

    提示流程編輯器中 [部署] 按鈕的螢幕擷取畫面。

  4. 在部署精靈的 [基本設定] 頁面上,提供要求的資訊。 選取 [下一步] 以繼續進行進階設定頁面。

    部署精靈中基本設定頁面的螢幕擷取畫面。

  5. 在 [進階設定 - 端點] 頁面上,保留預設設定,然後選取 [下一步]

  6. 在 [進階設定 - 部署] 頁面上,保留預設設定,然後選取 [下一步]

  7. 在 [進階設定 - 輸出和連線] 頁面上,確定已選取 [包含於端點回應中] 底下的所有輸出。

    螢幕擷取畫面:部署精靈中的進階設定頁面。

  8. 選取 [檢閱 + 建立],以檢閱設定並建立部署。

  9. 選取 [建立],以部署提示流程。

    螢幕擷取畫面:檢閱提示流程部署的設定頁面。

如需詳細資訊,請參閱如何部署流程

使用已部署的流程

您的副手應用程式可以使用已部署的提示流程,即時回答問題。 您可以使用 REST 端點或 SDK 來使用已部署的流程。

  1. 若要在 AI Studio 中檢視部署的狀態,請從左側導覽中選取 [部署]。

    螢幕擷取畫面:狀態為進行中的提示流程部署。

    成功建立部署之後,您可以選取部署來檢視詳細資料。

    注意

    如果您看到訊息指出「此端點目前沒有部署」,或 [狀態] 仍為 [正在更新],您可能需要在幾分鐘後選取 [重新整理],才能看到部署。

  2. 或者,詳細資料頁面是您可以變更驗證類型或啟用監視的位置。

    螢幕擷取畫面:提示流程部署的詳細資料頁面。

  3. 選取 [取用] 索引標籤。您可以查看副手應用程式的程式碼範例和 REST 端點,以使用已部署的流程。

    螢幕擷取畫面:提示流程部署端點和程式碼範例。

清除資源

為了避免產生不必要的 Azure 費用,如果您不再需要在本教學課程中建立的資源,則應加以刪除。 若要管理資源,您可以使用 Azure 入口網站

您也可以視需要在 AI Studio停止或刪除計算實例。

下一步