共用方式為

快速入門：開始使用 GPT-35-Turbo 和 GPT-4 搭配 IntelliJ 中的 Azure OpenAI 服務

  • 發行項

本文說明如何在 IntelliJ IDEA 中開始使用 Azure OpenAI 服務。 它示範如何使用 GPT-3.5-Turbo 和 GPT-4 等聊天模型來測試及實驗不同的參數和數據源。

必要條件

  • 支援的 Java 開發工具套件 （JDK）。 如需在 Azure 上開發時可用的 JDK 詳細資訊，請參閱 Azure 和 Azure Stack 上的 Java 支援。

  • IntelliJ IDEA、Ultimate 或 Community Edition。

  • 適用於 IntelliJ 的 Azure 工具組。 如需詳細資訊，請參閱 安裝適用於 IntelliJ 的 Azure 工具組。 您也需要登入 Azure Toolkit for IntelliJ 的 Azure 帳戶。 如需詳細資訊，請參閱 適用於 IntelliJ 的 Azure 工具組登入指示。

  • Azure 訂用帳戶 - 免費建立一個訂用帳戶。

  • 在所需的 Azure 訂用帳戶中授與 Azure OpenAI 的存取權。

    目前只有應用程式會授予此服務的存取權。 您可以在要求存取 Azure OpenAI 服務時完成表單，以申請存取 Azure OpenAI。

  • 已部署 或 gpt-4 模型的 Azure OpenAI 服務資源gpt-35-turbo。 如需模型部署的詳細資訊，請參閱 建立和部署 Azure OpenAI 服務資源。

安裝並登入

下列步驟會逐步引導您在 IntelliJ 開發環境中完成 Azure 登入程式：

  1. 如果您沒有安裝外掛程式，請參閱 適用於 IntelliJ 的 Azure 工具組。

  2. 若要登入您的 Azure 帳戶，請瀏覽至左側 Azure Explorer 提要字段，然後選取 [Azure 登入 ] 圖示。 或者，您可以流覽至 [工具]、展開 [Azure]，然後選取 [Azure 登入]。

    Screenshot of the IntelliJ IDEA with the Azure Sign In button highlighted.

  3. 在 [ Azure 登入 ] 視窗中，選取 [OAuth 2.0]，然後選取 [ 登入]。 如需其他登入選項，請參閱 適用於 IntelliJ 的 Azure 工具組登入指示。

  4. 在瀏覽器中，使用可存取 OpenAI 資源的帳戶登入，然後返回 IntelliJ。 在 [選取訂用帳戶] 對話框中，選取您想要使用的訂用帳戶，然後選取 [選取]。

建立及部署 Azure OpenAI 服務資源

  1. 登入工作流程之後，以滑鼠右鍵按兩下 Azure Explorer 中的 [Azure OpenAI] 專案，然後選取 [ 建立 Azure OpenAI 服務]。

  2. 在 [ 建立 Azure OpenAI 服務 ] 對話框中，指定下列資訊，然後選取 [ 確定]：

    • 名稱：Azure OpenAI 服務資源的描述性名稱，例如 MyOpenAIResource。 此名稱也是端點中的自定義功能變數名稱。 您的資源名稱只能包含英數位元和連字元，而且不能以連字元開頭或結尾。
    • 區域：實例的位置。 特定模型僅適用於特定區域。 如需詳細資訊，請參閱 Azure OpenAI 服務模型。
    • Sku：標準 Azure OpenAI 資源會根據令牌使用量計費。 如需詳細資訊，請參閱 Azure OpenAI 服務定價。

  3. 您必須先部署模型，才能使用聊天完成。 以滑鼠右鍵按兩下您的 Azure OpenAI 實例，然後選取 [ 建立新部署]。 在快顯 [建立 Azure OpenAI 部署 ] 對話框中，指定下列資訊，然後選取 [ 確定]：

工具組會在部署完成且可供使用時顯示狀態消息。

使用提示和設定與 Azure OpenAI 互動

  1. 以滑鼠右鍵按兩下您的 Azure OpenAI 資源，然後選取 [在 AI 遊樂場中開啟]。

  2. 您可以透過 IntelliJ IDEA 中的 Azure OpenAI Studio Chat 遊樂場開始探索 OpenAI 功能。

    Screenshot of the IntelliJ IDEA that shows the Chat playground overview window.

若要觸發完成，您可以輸入一些文字作為提示。 模型會產生完成，並嘗試符合您的內容或模式。

若要啟動聊天會話，請遵循下列步驟：

  1. 在 [聊天會話] 窗格中，您可以從像這樣一個簡單的提示開始：“我有興趣購買新的 Surface。輸入提示之後，請選取 [ 傳送]。 您會收到類似下列範例的回應：

    Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.

    Screenshot of the IntelliJ IDEA that shows the playground window with a first question and answer.

  2. 輸入後續問題，例如：「哪些模型支援 GPU？」，然後選取 [ 傳送]。 您會收到類似下列範例的回應：

    Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.

    Screenshot of the IntelliJ IDEA that shows the playground window with a first and second question and answer.

  3. 現在您已擁有基本交談，請從窗格中選取 [檢視程序代碼 ]，而且到目前為止，您已有整個交談背後的程式代碼重新執行。 您可以根據對應至聊天會話和設定的 Java SDK、curl 和 JSON 來查看程式代碼範例，如下列螢幕快照所示：

    Screenshot of the IntelliJ IDEA that shows the Sample Code window.

  4. 然後，您可以選取 [ 複製 ] 以採用此程式碼並撰寫應用程式，以完成您目前使用遊樂場執行的相同工作。

設定

您可以選擇 [ 組態 ] 索引標籤來設定下列參數：

名稱 描述
最大回應 設定每個模型回應的令牌數目限制。 API 最多支援在提示之間共用的 4096 個令牌（包括系統訊息、範例、訊息歷程記錄和用戶查詢），以及模型的回應。 每個語彙基元大約是一般英文文字的四個字元。
溫度 控制隨機性。 降低溫度表示模型會產生更多重複的確定性回應。 提升溫度會產生更多非預期或令人意外的回應。 請嘗試調整溫度或最高機率，但不要同時調整兩者。
最高機率 類似於溫度，會控制隨機性，但使用不同的方法。 降低 Top 機率值會將模型的標記選取範圍縮小為類似標記。 增加值可讓模型從具有高和低可能性的令牌中選擇。 請嘗試調整溫度或最高機率，但不要同時調整兩者。
停止序列 讓模型在想要的點結束其回應。 模型回應會在指定的序列之前結束，因此它不包含停止序列文字。 針對 GPT-35-Turbo，使用 <|im_end|> 可確保模型回應不會產生後續用戶查詢。 您可以包含多達四個停止序列。
頻率懲罰 根據到目前為止文字中出現的頻率，減少按比例重複令牌的機會。 此動作可降低在回應中重複完全相同文字的可能性。
存在懲罰 減少到目前為止，重複任何出現在文字中的令牌的機會。 這麼做會增加在回應中產生新主題的可能性。

清除資源

測試聊天遊樂場之後，如果您想要清除並移除 OpenAI 資源，您可以刪除資源或資源群組。 刪除資源群組也會刪除與其相關聯的任何其他資源。 使用下列步驟清除資源：

  1. 若要刪除您的 Azure OpenAI 資源，請流覽至左側 Azure Explorer 提要字段，並找出 Azure OpenAI 專案。

  2. 以滑鼠右鍵按下您想要刪除的 Azure OpenAI 服務，然後選取 [ 刪除]。

  3. 若要刪除您的資源群組，請流覽 Azure 入口網站，並手動刪除訂用帳戶底下的資源。

下一步

如需詳細資訊，請參閱 瞭解如何使用 GPT-35-Turbo 和 GPT-4 模型。

如需更多範例，請參閱 Azure OpenAI 範例 GitHub 存放 庫。