共用方式為


Azure AI Studio 中的提示流程

重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款

提示流程是一種開發工具,旨在簡化由大型語言模型 (LLM) 提供之 AI 應用程式的整個開發週期。 提示流程提供了全方位的解決方案,可簡化原型設計、實驗、反覆執行和部署 AI 應用程式的流程。

提示流程可在 GitHub 上獨立做為開放原始碼專案使用,並有自己的 SDK 和 VS Code 延伸模組。 提示流程也可供使用,並建議使用做為 Azure AI StudioAzure Machine Learning 工作室中的功能。 此文件集合著重於 Azure AI Studio 中的提示流程。

定義:

  • 提示流程是可以用來產生、自訂或執行流程的功能。
  • 流程是可執行的指令集,可以實作 AI 邏輯。​流程可以透過多個工具建立或執行,例如預先建置的畫布、LangChain 等。 流程的反覆項目可儲存為資產;部署流程之後,即會變成 API。 並非所有流程都是提示流程;相反地,提示流程是建立流程的一種方式。
  • 提示是傳送至模型的輸入套件,其中包含使用者輸入、系統訊息和任何範例。 使用者輸入是在聊天視窗中提交的文字。 系統訊息是模型的一組指示,會界定其行為和功能範圍。
  • 範例流程是簡單的預先建置協調流程,可示範流程的運作方式,並可加以自訂。
  • 範例提示是特定案例的已定義提示,可從程式庫複製,並在提示設計中依現狀使用或修改。

提示流程的優點

在 Azure AI Studio 中使用提示流程,您可以:

  • 透過視覺化圖表,使用 LLM、提示和 Python 工具協調可執行流程。
  • 透過小組共同作業輕鬆偵錯、共用和逐一查看您的流程。
  • 建立提示變數並比較其效能。

提示工程靈活度

  • 互動式撰寫體驗:提示流程提供流程結構的視覺表示法,讓您可以輕鬆地了解和瀏覽專案。
  • 提示調整的變體:您可以建立和比較多個提示變體,有助於反覆式精簡程序。
  • 評估:內建評估流程可讓您評估其提示和流程的品質和有效性。
  • 完整資源:提示流程包含內建工具、範例和範本的程式庫,可做為開發起點、激發創意並加速程序。

企業整備

  • 共同作業:提示流程支援小組共同作業,讓多個使用者共同處理提示工程專案、共用知識及維護版本控制。
  • 全方位平台:提示流程可簡化整個提示工程程序,從開發和評估到部署和監視。 您可以毫不費力地將其流程部署為 Azure AI 端點,並即時監視其效能,以確保最佳的作業和持續改善。
  • 企業整備解決方案:提示流程會套用強固的 Azure AI 企業整備解決方案,為流程的開發、實驗和部署提供安全、可調整且可靠的基礎。

透過 Azure AI Studio 中的提示流程,您可以釋放提示工程靈活度、有效地共同作業,以及套用企業級解決方案以成功開發及部署 LLM 型應用程式。

流程開發生命週期

提示流程提供定義完善的程序,可促進 AI 應用程式的順暢開發。 您可以使用該流程,有效地完成開發、測試、微調和部署流程的階段,最終建立完善的 AI 應用程式。

生命週期包含下列階段:

  • 初始化:識別商務使用案例、收集範例資料、了解如何建置基本提示,以及開發可擴充其功能的流程。
  • 實驗:針對範例資料執行流程、評估提示的效能,並視需要逐一查看流程。 持續實驗,直到滿意結果為止。
  • 評估與精簡:針對較大的資料集執行以評估流程的效能、評估提示的有效性,並視需要進行精簡。 如果結果符合所需的準則,請繼續進行下一個階段。
  • 生產:最佳化流程以提高效率和有效性、部署流程、監視在實際執行環境中的效能,以及收集使用量資料和意見反應。 使用這項資訊來改善流程,並為進一步反覆運算提供先前階段的貢獻。

藉由遵守此結構化和條理式方法,提示流程可讓您自信地開發、嚴格測試、微調及部署流程,進而建立強固且複雜的 AI 應用程式。

流量類型

在 Azure AI Studio 中,您可以從資源庫選取流程類型或範本來啟動新的流程。

螢幕擷取畫面:資源庫的範例流程類型和範本。

以下是流程類型的一些範例:

  • 標準流程:專為一般應用程式開發而設計,標準流程可讓您使用各種內建工具來建立流程,以開發 LLM 型應用程式。 提供彈性和多樣性,可跨不同網域開發應用程式。
  • 聊天流程:針對對話式應用程式開發量身打造,以標準流程的功能為基礎建置聊天流程,來強化對聊天輸入/輸出和聊天歷程記錄管理的支援。 透過原生交談模式和內建功能,您可以在交談內容中順暢地開發和偵錯其應用程式。
  • 評估流程:專為評估案例所設計,評估流程可讓您建立流程,以接受先前流程執行的輸出作為輸入。 此流程類型可讓您評估先前執行結果的效能,並輸出相關計量,促進其模型或應用程式的評估和改善。

流程

提示流程中的流程做為可執行工作流程,簡化 LLM 型 AI 應用程式的開發。 其提供管理應用程式內資料流程和處理的完整架構。

在流程中,節點會佔據舞台中心,代表具有獨特功能的特定工具。 這些節點會使用輸入和輸出來處理資料處理、工作執行和演算法作業。 藉由連線節點,您可以建立順暢的作業鏈結,以引導應用程式的資料流程。

為了輔助節點設定和微調,即會透過 DAG (有向非循環圖) 圖表來提供工作流程結構的視覺表示法。 此圖表會展示節點之間的連線能力和相依性,並提供整個工作流程的清楚概觀。

螢幕擷取畫面:提示流程編輯器中的有向非循環圖範例。

透過提示流程中的流程功能,您可以設計、自訂和最佳化 AI 應用程式的邏輯。 節點的凝聚力排列可確保有效率的資料處理和有效的流程管理,讓您能夠建立強固且進階的應用程式。

提示流程工具

工具是流程的基礎建置區塊。

在 Azure AI Studio 中,工具選項包括 LLM 工具提示工具Python 工具等等。

螢幕擷取畫面:提示流程編輯器中的工具選項。

每項工具都是具有特定函式的簡單可執行單位。 您可以結合不同的工具,建立可達成各種目標的流程。 例如,您可以使用 LLM 工具來產生文字或摘要文章,並使用 Python 工具來處理文字,以通知下一個流程元件或結果。

提示流程工具的主要優點之一,是其與第三方 API 和 Python 開放原始碼套件的無縫整合。 這不僅能改善大型語言模型的功能,還能讓開發程序對開發人員而言更有效率。

如果 Azure AI Studio 中的提示流程工具不符合您的需求,您可以遵循本指南來開發自己的自訂工具,並將其設為工具套件。 若要探索更多由開放原始碼社群所開發的自訂工具,請造訪此頁面

下一步