.NET 中的提示工程

在本文中，您將探索基本的提示工程概念。 許多 AI 模型都是以提示 (提示) 為基礎，這表示它們會回應使用者輸入的文字，透過預測演算法產生的內容 (完成) 來加以回應。 較新的模型通常還支援聊天形式的回覆，並透過根據角色（系統、使用者、助理）和聊天歷史記錄的訊息來保留對話。

與提示合作

請考慮下列文字產生範例，其中「提示」為使用者輸入，而「完成」為模型輸出：

提示：「任期最短的總統是」

完成：「Pedro Lascurain」。

完成看起來是正確的，但如果您的應用程式是為了幫助學習美國歷史的學生呢？ Pedro Lascurain 的 45 分鐘任期是所有總統中任期最短的，但他曾擔任過墨西哥總統。 學習美國歷史的學生可能正在尋找有關 "William Henry Harrison" 的資料。 很顯然的，如果您能為應用程式提供某些內容，其對目標使用者來說可能就更實用。

提示工程會藉由提供指示、範例和提示來為提示添加上下文，以幫助模型生成更好的完成答案。

支援文字生成的模型通常不需要任何的特定格式，但您應該組織您的提示，以便模型能清楚什麼是指示、什麼是範例。 支援基於聊天的應用程式的模型會使用三個角色來組織回應：控制聊天的系統角色、代表使用者輸入的使用者角色，以及用於回應使用者的助理角色。 將您的提示分成適於每個角色的訊息：

• 系統訊息可為模型提供助理相關指示。 提示只能有一個系統訊息，而且必須是第一個訊息。
• 使用者訊息包含來自使用者的提示並且會顯示範例、歷史提示或包含給助理的指示。 聊天完成範例至少必須有一個使用者訊息。
• 助理訊息會顯示範例或歷史完成結果，並且必須包含對先前使用者訊息的回應。 助理訊息並非必要，但如果您包含一個助理訊息，就必須將其與使用者訊息配對，才能形成範例。

利用指示來提升完成度

指示是告訴模型如何回應的文字。 指示可以是指示詞或命令式：

• 「指示詞」告訴模型如何表現，但不是簡單的命令；想像對於即興演員的角色設定：「您正在協助學生了解美國歷史，除非學生特別詢問其他國家，否則就是談論美國」。
• 「命令語」是模型要遵循的明確指令。 「翻譯成他加祿語：」

指令比命令更開放且更具彈性：

• 您可以在一個指令中合併數個指令。
• 當您將指示與範例搭配使用時，效果通常更好。 不過，由於命令式是明確的命令，因此，模型不需要範例即可了解它們 (雖然您可能會使用範例來對模型表示如何將回應格式化)。 由於指示詞不會確切地告訴模型該怎麼做，因此，每個範例都有助於讓模型運作得更好。
• 通常最好將一個困難的指示分解成一系列步驟，而您可以使用一連串指示詞來完成這些步驟。 您也應該告訴模型輸出每個步驟的結果，如此就能輕鬆地進行細微的調整。 雖然您可自行將指示分解成數個步驟，但直接告訴模型執行該指示並輸出每個步驟的結果會比較容易。 此方法稱為「思維鏈提示」。

主要和輔助內容提供了上下文背景

您可以提供內容來將更多的上下文新增至指示中。

「主要內容」是您想要模型使用指示來處理的文字。 無論指示採取何種動作，模型都將在主要內容上執行該動作以完成任務。

「支援內容」是您在指示中參考的文字，但其不是指示的目標。 模型會使用支援內容來完成指示，這表示支援內容也會出現在完成中，通常會以某種結構 (例如標題或資料行標籤) 顯示。

將標籤與您的指示內容搭配使用，以協助模型了解如何將之與指示搭配使用。 不要太過擔心精確度：標籤不必與指示完全相符，因為模型將會處理字組形式和大小寫之類的內容。

假設您使用「摘要說明美國總統的成就」指示來產生清單。 模型可能會以多種方式進行組織及排序。 但是，如果您希望清單依一組特定類別來將成就分組，該怎麼做？ 使用支援內容，將該資訊新增至指示。

調整指示，讓模型依類別分組，並附加指定那些類別的支援內容：

prompt = """
Instructions: Summarize US Presidential accomplishments, grouped by category.
Categories: Domestic Policy, US Economy, Foreign Affairs, Space Exploration.
Accomplishments: 'George Washington
- First president of the United States.
- First president to have been a military veteran.
- First president to be elected to a second term in office.
- Received votes from every presidential elector in an election.
- Filled the entire body of the United States federal judges; including the Supreme Court.
- First president to be declared an honorary citizen of a foreign country, and an honorary citizen of France.
John Adams ...' ///Text truncated
""";

使用範例來引導模型

範例是對模型表示如何透過提供樣本使用者輸入和模型輸出來回應的文字。 模型使用範例來推斷要在完成中包含的內容。 範例可以出現在工程提示中的指示之前或之後，但這兩者不應混用。

範例會以提示開頭且可選擇性地包含完成內容。 範例中的完成不需包含逐字回應，其可能僅包含一個格式化的字組、未排序清單中的第一個項目符號，或者指出每個完成應如何開始之類的內容。

範例會根據其是否包含逐字完成來分類為「零樣本學習」或「少樣本學習」。

• 零樣本學習範例包含不含逐字完成的提示。 此方法會測試模型的回應，而不需為它提供範例資料輸出。 零樣本提示可以產生包含指引的結果，例如，透過在結果中加入"1."，指出模型應該輸出已排序的清單。
• 少樣本學習範例包含數個提示與逐字完成的配對。 少樣本學習可以透過增強模型的現有知識來改變其行為。

了解提示

指引是傳達所需輸出結構或格式的文字。 像指示一樣，模型不會將提示處理成使用者輸入。 如同範例，指引會對模型表示您所需的內容，而不是告訴模型該怎麼做。 您可以隨意新增多個提示，這樣您就可以反覆調整以獲得您想要的結果。 指引可與指示或範例搭配使用，而且應位於提示結尾。

假設您使用指示來告訴模型依類別產生總統成就清單，以及告訴模型要使用哪些類別的支援內容。 您決定要模型產生一個巢狀清單，其中類別以全大寫顯示，而且在每個類別下，各位總統的成就將依時間順序排列，列出每位總統的名字和成就於一行。 在您的指示和支援內容之後，您可以新增三個指引，以對模型表示如何建構及格式化清單：

prompt = """
Instructions: Summarize US Presidential accomplishments, grouped by category.
Categories: Domestic Policy, US Economy, Foreign Affairs, Space Exploration.
Accomplishments: George Washington
First president of the United States.
First president to have been a military veteran.
First president to be elected to a second term in office.
First president to receive votes from every presidential elector in an election.
First president to fill the entire body of the United States federal judges; including the Supreme Court.
First president to be declared an honorary citizen of a foreign country, and an honorary citizen of France.
John Adams ...  /// Text truncated

DOMESTIC POLICY
- George Washington: 
- John Adams:
""";

• DOMESTIC POLICY 會對模型表示您希望其以此全大寫類別開始每個群組。
• - George Washington：示範如何在每個區段開始時，以一行列出 George Washington 的成就。
• - John Adams：對模型表示，其應該依時間順序列出其餘的總統。

使用 .NET 的範例提示

.NET 提供各種工具來提示和與不同的 AI 模型聊天。 使用語意核心來連線到各種不同的 AI 模型和服務以及其他 SDK，例如官方 OpenAI .NET 程式庫。 語義核心包括用於建立具有不同角色的提示和維護聊天歷史記錄的工具，以及許多其他功能。

請思考下列程式碼範例：

using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.ChatCompletion;

// Create a kernel with OpenAI chat completion
#pragma warning disable SKEXP0010
Kernel kernel = Kernel.CreateBuilder()
                    .AddOpenAIChatCompletion(
                        modelId: "phi3:mini",
                        endpoint: new Uri("http://localhost:11434"),
                        apiKey: "")
                    .Build();

var aiChatService = kernel.GetRequiredService<IChatCompletionService>();
var chatHistory = new ChatHistory();
chatHistory.Add(
    new ChatMessageContent(AuthorRole.System, "You are a helpful AI Assistant."));

while (true)
{
    // Get user prompt and add to chat history
    Console.WriteLine("Your prompt:");
    chatHistory.Add(new ChatMessageContent(AuthorRole.User, Console.ReadLine()));

    // Stream the AI response and add to chat history
    Console.WriteLine("AI Response:");
    var response = "";
    await foreach (var item in
        aiChatService.GetStreamingChatMessageContentsAsync(chatHistory))
    {
        Console.Write(item.Content);
        response += item.Content;
    }
    chatHistory.Add(new ChatMessageContent(AuthorRole.Assistant, response));
    Console.WriteLine();
}

前面的程式碼提供了以下概念的範例：

• 建立一個聊天記錄服務，以觸發 AI 模型基於作者角色生成內容。
• 使用 AuthorRole.System 訊息配置 AI。
• 接受使用者輸入以允許在 AuthorRole.User 的上下文中使用不同類型的提示。
• 以非同步的方式串流傳輸 AI 的完成答案，以提供動態的聊天體驗。

擴展您的提示工程方法技巧

您也可以使用更進階的提示工程技術來增強您的提示的能力，這些技術在其自己的文章中進行了深入介紹。

• LLM 有詞元輸入限制，會限制您在提示中可以容納的文字量。 使用內嵌和向量資料庫解決方案來減少代表指定文字片段所需的標記數目。
• LLM 不會使用您的資料進行訓練，除非您自行訓練，但這很昂貴又耗時。 使用檢索增強生成 (RAG) 來讓您的資料可供 LLM 使用，而無需對其進行訓練。

相關內容

• 生成提示工程技術
• 在語意核心中設定提示