共用方式為


使用 Azure AI 聊天應用程式搭配 .NET 摘要文字

藉由建立簡單的 .NET 8 主控台聊天應用程式,開始使用 Semantic Kernel。 應用程式會在本機執行,並使用部署至 Azure OpenAI 帳戶的 OpenAI gpt-35-turbo 模型。 請遵循下列步驟來佈建 Azure OpenAI,並了解如何使用語意核心。

建立簡單的 .NET 8.0 主控台聊天應用程式,以開始使用 .NET Azure OpenAI SDK。 應用程式會在本機執行,並使用部署至 Azure OpenAI 帳戶的 OpenAI gpt-35-turbo 模型。 請遵循下列步驟來佈建 Azure OpenAI,並了解如何使用 .NET Azure OpenAI SDK。

必要條件

部署 Azure 資源

請確定您遵循必要條件來存取 Azure OpenAI 服務以及 Azure Developer CLI,然後遵循下列指南來設定開始使用範例應用程式。

  1. 複製存放庫:dotnet/ai-samples

  2. 從終端機或命令提示字元,瀏覽至快速入門目錄。

  3. 這會佈建 Azure OpenAI 資源。 建立 Azure OpenAI 服務並部署模型可能需要幾分鐘的時間。

    azd up
    

注意

如果您已經有可用的 Azure OpenAI 服務,就可以跳過部署,並在 Program.cs 中使用該值 (最好來自 IConfiguration)。

疑難排解

在 Windows 上,執行 azd up 之後,您可能會收到下列錯誤訊息:

postprovision.ps1 未以數位方式簽署。 指令碼不會在系統上執行

執行指令碼 postprovision.ps1 以設定應用程式中使用的 .NET 使用者密碼。 若要避免此錯誤,請執行下列 PowerShell 命令:

Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass

然後重新執行 azd up 命令。

另一個可能的錯誤:

'pwsh' 並未經辨識為內部或外部命令、可執行程式或批次檔案。 警告:'postprovision' 攔截失敗,結束代碼為:'1',路徑:'.\infra\post-script\postprovision.ps1'。 :結束代碼:1 會繼續執行,因為 ContinueOnError 已設定為 true。

執行指令碼 postprovision.ps1 以設定應用程式中使用的 .NET 使用者密碼。 若要避免此錯誤,請使用下列 PowerShell 命令手動執行指令碼:

.\infra\post-script\postprovision.ps1

.NET AI 應用程式現在已設定使用者祕密,而且可以進行測試。

嘗試健行優點摘要範例

  1. 從終端機或命令提示字元中,瀏覽至 semantic-kernel\01-HikeBenefitsSummary 目錄。
  1. 從終端機或命令提示字元中,瀏覽至 azure-openai-sdk\01-HikeBenefitsSummary 目錄。
  1. 現在是嘗試使用主控台應用程式的好時機。 輸入下列命令以執行應用程式:

    dotnet run
    

    如果您收到錯誤訊息,Azure OpenAI 資源可能尚未完成部署。 請稍候幾分鐘再試一次。

了解程式碼

我們的應用程式使用 NuGet 上提供的 Microsoft.SemanticKernel 套件,向 Azure 中部署的 Azure OpenAI 服務傳送和接收要求。

整個應用程式都包含在 Program.cs 檔案中。 前幾行程式碼會載入應用程式佈建期間在 dotnet user-secrets 中設定的秘密和組態值。

// == Retrieve the local secrets saved during the Azure deployment ==========
var config = new ConfigurationBuilder()
    .AddUserSecrets<Program>()
    .Build();
string endpoint = config["AZURE_OPENAI_ENDPOINT"];
string deployment = config["AZURE_OPENAI_GPT_NAME"];
string key = config["AZURE_OPENAI_KEY"];

// Create a Kernel containing the Azure OpenAI Chat Completion Service
Kernel kernel = Kernel.CreateBuilder()
    .AddAzureOpenAIChatCompletion(deployment, endpoint, key)
    .Build();

Kernel 類別在 AddAzureOpenAIChatCompletion 服務的幫助下促進要求和回應。

Kernel kernel = Kernel.CreateBuilder()
    .AddAzureOpenAIChatCompletion(deployment, endpoint, key)
    .Build();

建立 Kernel 後,我們會讀取檔案 benefits.md 的內容並建立 prompt,以要求模型摘要該文字。

// Create and print out the prompt
string prompt = $"""
    Please summarize the the following text in 20 words or less:
    {File.ReadAllText("benefits.md")}
    """;
Console.WriteLine($"user >>> {prompt}");

若要讓模型根據 prompt 產生回應,請使用 InvokePromptAsync 函式。

// Submit the prompt and print out the response
string response = await kernel.InvokePromptAsync<string>(prompt, new(new OpenAIPromptExecutionSettings() { MaxTokens = 400 }));
Console.WriteLine($"assistant >>> {response}");

自訂檔案的文字內容或摘要的長度,以查看回應的差異。

了解程式碼

我們的應用程式使用 NuGet 上提供的 Azure.AI.OpenAI 用戶端 SDK,向 Azure 中部署的 Azure OpenAI 服務傳送和接收要求。

整個應用程式都包含在 Program.cs 檔案中。 前幾行程式碼會載入應用程式佈建期間在 dotnet user-secrets 中設定的秘密和組態值。

// == Retrieve the local secrets saved during the Azure deployment ==========
var config = new ConfigurationBuilder()
    .AddUserSecrets<Program>()
    .Build();

string openAIEndpoint = config["AZURE_OPENAI_ENDPOINT"];
string openAIDeploymentName = config["AZURE_OPENAI_GPT_NAME"];
string openAiKey = config["AZURE_OPENAI_KEY"];

// == Creating the AIClient ==========
var endpoint = new Uri(openAIEndpoint);
var credentials = new AzureKeyCredential(openAiKey);

OpenAIClient 類別促進要求和回應。 ChatCompletionOptions 指定模型將回應參數的方式。

var openAIClient = new OpenAIClient(endpoint, credentials);

var completionOptions = new ChatCompletionsOptions
{
    MaxTokens = 400,
    Temperature = 1f,
    FrequencyPenalty = 0.0f,
    PresencePenalty = 0.0f,
    NucleusSamplingFactor = 0.95f, // Top P
    DeploymentName = openAIDeploymentName
};

建立 OpenAIClient 用戶端後,我們會讀取檔案 benefits.md 的內容。 然後使用 ChatRequestUserMessage 類別,我們可將要求新增至模型,以摘要該文字。

string userRequest = """
Please summarize the the following text in 20 words or less:
""" + markdown;

completionOptions.Messages.Add(new ChatRequestUserMessage(userRequest));
Console.WriteLine($"\n\nUser >>> {userRequest}");

若要讓模型根據使用者要求產生回應,請使用 GetChatCompletionsAsync 函式。

ChatCompletions response = await openAIClient.GetChatCompletionsAsync(completionOptions);
ChatResponseMessage assistantResponse = response.Choices[0].Message;
Console.WriteLine($"\n\nAssistant >>> {assistantResponse.Content}");

自訂檔案的文字內容或摘要的長度,以查看回應的差異。

清除資源

當您不再需要範例應用程式或資源時,請移除對應的部署和所有資源。

azd down

下一步