Azure AI Studio 中的提示流程
注意
Azure AI Studio 目前為公開預覽狀態。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。
提示流程是一種開發工具，旨在簡化由大型語言模型 (LLM) 提供之 AI 應用程式的整個開發週期。 提示流程提供了全方位的解決方案，可簡化原型設計、實驗、反覆執行和部署 AI 應用程式的流程。
提示流程可在 GitHub 上獨立做為開放原始碼專案使用，並有自己的 SDK 和 VS Code 延伸模組。 提示流程也可供使用，並建議使用做為 Azure AI Studio 和 Azure Machine Learning 工作室中的功能。 此文件集合著重於 Azure AI Studio 中的提示流程。
定義：
- 提示流程是可以用來產生、自訂或執行流程的功能。
- 流程是可執行的指令集，可以實作 AI 邏輯。流程可以透過多個工具建立或執行，例如預先建置的畫布、LangChain 等。 流程的反覆項目可儲存為資產；部署流程之後，即會變成 API。 並非所有流程都是提示流程；相反地，提示流程是建立流程的一種方式。
- 提示是傳送至模型的輸入套件，其中包含使用者輸入、系統訊息和任何範例。 使用者輸入是在聊天視窗中提交的文字。 系統訊息是模型的一組指示，會界定其行為和功能範圍。
- 範例流程是簡單的預先建置協調流程，可示範流程的運作方式，並可加以自訂。
- 範例提示是特定案例的已定義提示，可從程式庫複製，並在提示設計中依現狀使用或修改。
提示流程的優點
在 Azure AI Studio 中使用提示流程，您可以：
- 透過視覺化圖表，使用 LLM、提示和 Python 工具協調可執行流程。
- 透過小組共同作業輕鬆偵錯、共用和逐一查看您的流程。
- 建立提示變數並比較其效能。
提示工程靈活度
- 互動式撰寫體驗：提示流程提供流程結構的視覺表示法，讓您可以輕鬆地了解和瀏覽專案。
- 提示調整的變體：您可以建立和比較多個提示變體，有助於反覆式精簡程序。
- 評估：內建評估流程可讓您評估其提示和流程的品質和有效性。
- 完整資源：提示流程包含內建工具、範例和範本的程式庫，可做為開發起點、激發創意並加速程序。
企業整備
- 共同作業：提示流程支援小組共同作業，讓多個使用者共同處理提示工程專案、共用知識及維護版本控制。
- 全方位平台：提示流程可簡化整個提示工程程序，從開發和評估到部署和監視。 您可以毫不費力地將其流程部署為 Azure AI 端點，並即時監視其效能，以確保最佳的作業和持續改善。
- 企業整備解決方案：提示流程會套用強固的 Azure AI 企業整備解決方案，為流程的開發、實驗和部署提供安全、可調整且可靠的基礎。
透過 Azure AI Studio 中的提示流程，您可以釋放提示工程靈活度、有效地共同作業，以及套用企業級解決方案以成功開發及部署 LLM 型應用程式。
流程開發生命週期
提示流程提供定義完善的程序，可促進 AI 應用程式的順暢開發。 您可以使用該流程，有效地完成開發、測試、微調和部署流程的階段，最終建立完善的 AI 應用程式。
生命週期包含下列階段：
- 初始化：識別商務使用案例、收集範例資料、了解如何建置基本提示，以及開發可擴充其功能的流程。
- 實驗：針對範例資料執行流程、評估提示的效能，並視需要逐一查看流程。 持續實驗，直到滿意結果為止。
- 評估與精簡：針對較大的資料集執行以評估流程的效能、評估提示的有效性，並視需要進行精簡。 如果結果符合所需的準則，請繼續進行下一個階段。
- 生產：最佳化流程以提高效率和有效性、部署流程、監視在實際執行環境中的效能，以及收集使用量資料和意見反應。 使用這項資訊來改善流程，並為進一步反覆運算提供先前階段的貢獻。
藉由遵守此結構化和條理式方法，提示流程可讓您自信地開發、嚴格測試、微調及部署流程，進而建立強固且複雜的 AI 應用程式。
流量類型
在 Azure AI Studio 中，您可以從資源庫選取流程類型或範本來啟動新的流程。
以下是流程類型的一些範例：
- 標準流程：專為一般應用程式開發而設計，標準流程可讓您使用各種內建工具來建立流程，以開發 LLM 型應用程式。 提供彈性和多樣性，可跨不同網域開發應用程式。
- 聊天流程：針對對話式應用程式開發量身打造，以標準流程的功能為基礎建置聊天流程，來強化對聊天輸入/輸出和聊天歷程記錄管理的支援。 透過原生交談模式和內建功能，您可以在交談內容中順暢地開發和偵錯其應用程式。
- 評估流程：專為評估案例所設計，評估流程可讓您建立流程，以接受先前流程執行的輸出作為輸入。 此流程類型可讓您評估先前執行結果的效能，並輸出相關計量，促進其模型或應用程式的評估和改善。
流程
提示流程中的流程做為可執行工作流程，簡化 LLM 型 AI 應用程式的開發。 其提供管理應用程式內資料流程和處理的完整架構。
在流程中，節點會佔據舞台中心，代表具有獨特功能的特定工具。 這些節點會使用輸入和輸出來處理資料處理、工作執行和演算法作業。 藉由連線節點，您可以建立順暢的作業鏈結，以引導應用程式的資料流程。
為了輔助節點設定和微調，即會透過 DAG (有向非循環圖) 圖表來提供工作流程結構的視覺表示法。 此圖表會展示節點之間的連線能力和相依性，並提供整個工作流程的清楚概觀。
透過提示流程中的流程功能，您可以設計、自訂和最佳化 AI 應用程式的邏輯。 節點的凝聚力排列可確保有效率的資料處理和有效的流程管理，讓您能夠建立強固且進階的應用程式。
提示流程工具
工具是流程的基礎建置區塊。
在 Azure AI Studio 中，工具選項包括 LLM 工具、提示工具、Python 工具等等。
每項工具都是具有特定函式的簡單可執行單位。 您可以結合不同的工具，建立可達成各種目標的流程。 例如，您可以使用 LLM 工具來產生文字或摘要文章，並使用 Python 工具來處理文字，以通知下一個流程元件或結果。
提示流程工具的主要優點之一，是其與第三方 API 和 Python 開放原始碼套件的無縫整合。 這不僅能改善大型語言模型的功能，還能讓開發程序對開發人員而言更有效率。
如果 Azure AI Studio 中的提示流程工具不符合您的需求，您可以遵循本指南來開發自己的自訂工具，並將其設為工具套件。 若要探索更多由開放原始碼社群所開發的自訂工具，請造訪此頁面。