本文說明如何在 IntelliJ IDEA 中開始使用 Azure OpenAI 服務。 它示範如何使用 GPT-3.5-Turbo 和 GPT-4 等聊天模型來測試及實驗不同的參數和數據源。
先決條件
支援的 Java 開發工具套件 (JDK)。 如需了解在 Azure 上開發時可用的 JDK 的更多資訊,請參閱 Azure 和 Azure Stack 上的 Java 支援 。
IntelliJ IDEA,Ultimate 或 Community Edition。
適用於 IntelliJ 的 Azure 工具組。 如需詳細資訊,請參閱 安裝 Azure Toolkit for IntelliJ。 您也需要登入 Azure Toolkit for IntelliJ 的 Azure 帳戶。 如需詳細資訊,請參閱 Azure Toolkit for IntelliJ的
登入指示。 Azure 訂用帳戶 - 建立免費帳戶。
在所需的 Azure 訂用帳戶中授與 Azure OpenAI 的存取權。
目前,只有應用程式會授與此服務的存取權。 您可以在 要求存取 Azure OpenAI 服務時完成表單,以申請存取 Azure OpenAI。
已部署
gpt-35-turbo或gpt-4模型的 Azure OpenAI 服務資源。 如需模型部署的詳細資訊,請參閱 建立和部署 Azure OpenAI 服務資源。
安裝並登入
下列步驟會逐步引導您在 IntelliJ 開發環境中完成 Azure 登入程式:
如果您沒有安裝外掛程式,請參閱 適用於 IntelliJ 的 Azure 工具組。
若要登入您的 Azure 帳戶,請瀏覽至左側 Azure Explorer 提要字段,然後選取 [Azure 登入 ] 圖示。 或者,您可以流覽至 [工具]、展開 [Azure],然後選取 [Azure 登入]。
在 [Azure 登入] 視窗中,選取 [OAuth 2.0],然後選取 [登入]。 如需其他登入選項,請參閱 Azure Toolkit for IntelliJ 登入指示。
在瀏覽器中,使用可存取 OpenAI 資源的帳戶登入,然後返回 IntelliJ。 在 [ 選取訂用帳戶 ] 對話框中,選取您想要使用的訂用帳戶,然後選取 [ 選取]。
建立和部署 Azure OpenAI 服務資源
登入工作流程之後,以滑鼠右鍵按兩下 Azure Explorer 中的 [Azure OpenAI] 專案,然後選取 [ 建立 Azure OpenAI 服務]。
在 [ 建立 Azure OpenAI 服務 ] 對話框中,指定下列資訊,然後選取 [ 確定]:
- 名稱:Azure OpenAI 服務資源的描述性名稱,例如 MyOpenAIResource。 此名稱也是您在端點中的自訂域名。 您的資源名稱只能包含英數位元和連字元,而且不能以連字元開頭或結尾。
- 區域:實例的位置。 特定模型僅適用於特定區域。 如需詳細資訊,請參閱 Azure OpenAI 服務模型。
- Sku:標準 Azure OpenAI 資源會根據令牌使用量計費。 如需詳細資訊,請參閱 Azure OpenAI 服務定價。
您必須先部署模型,才能使用聊天功能。 以滑鼠右鍵按兩下您的 Azure OpenAI 實例,然後選取 [ 建立新部署]。 在快顯 [ 建立 Azure OpenAI 部署 ] 對話框中,指定下列資訊,然後選取 [ 確定]:
- 部署名稱:仔細選擇名稱。 您的程式碼中會使用部署名稱,以透過用戶端程式庫和 REST API 來呼叫模型。
- 模型:選取模型。 模型供應情形因區域而異 如需每個區域可用的模型清單,請參閱 Azure OpenAI 服務模型的模型摘要數據表和區域可用性一節。
工具組會在部署完成且可供使用時顯示狀態消息。
使用提示和設定與 Azure OpenAI 互動
以滑鼠右鍵按兩下您的 Azure OpenAI 資源,然後選取 [在 AI 遊樂場中開啟]。
您可以透過 IntelliJ IDEA 中的 Azure OpenAI Studio Chat 遊樂場開始探索 OpenAI 功能。
若要觸發完成,您可以輸入一些文字作為提示。 模型會產生完成,並嘗試符合您的內容或模式。
若要啟動聊天會話,請遵循下列步驟:
在 [聊天會話] 窗格中,您可以從像這樣一個簡單的提示開始:“我有興趣購買新的 Surface。輸入提示之後,請選取 [ 傳送]。 您會收到類似下列範例的回應:
Great! Which Surface model are you interested in? There are several options available such as the Surface Pro, Surface Laptop, Surface Book, Surface Go, and Surface Studio. Each one has its own unique features and specifications, so it's important to choose the one that best fits your needs.輸入後續問題,例如:「哪些模型支援 GPU?」,然後選取 [ 傳送]。 您會收到類似下列範例的回應:
Most Surface models come with an integrated GPU (Graphics Processing Unit), which is sufficient for basic graphics tasks such as video playback and casual gaming. However, if you're looking for more powerful graphics performance, the Surface Book 3 and the Surface Studio 2 come with dedicated GPUs. The Surface Book 3 has an NVIDIA GeForce GTX GPU, while the Surface Studio 2 has an NVIDIA GeForce GTX 1060 or 1070 GPU, depending on the configuration.現在,您已擁有基礎對話,請從窗格中選取 [ 檢視程式碼 ],便可以查看到目前為止整個對話的程式碼重播。 您可以根據對應至聊天會話和設定的 Java SDK、curl 和 JSON 來查看程式代碼範例,如下列螢幕快照所示:
然後,您可以選取 [ 複製 ] 以採用此程式碼並撰寫應用程式,以完成您目前使用遊樂場執行的相同工作。
設定
您可以選擇 [ 組態 ] 索引標籤來設定下列參數:
| 名稱 | 說明 |
|---|---|
| 最大值回應 | 設定模型可產生之令牌數目的限制。 您可傳送的總令牌數(提示 + 回應),取決於您所部署的模型。 • gpt-35-turbo-1106 / 0125 – 最多 16 385 個令牌 • gpt-35-turbo-16k-0613 – 最多 16 385 個令牌 • gpt-4-turbo-2024-04-09 – 最多 128 000 個令牌 • gpt-4o-2024-05-13 – 最多 128 000 個令牌 如需完整的 up-to限制日期清單,請參閱 模型摘要數據表和區域可用性。 請務必確定您的提示和預期的完成總和符合模型的內容視窗。 |
| 溫度 | 控制隨機性。 降低溫度表示模型會產生更多重複的確定性回應。 提升溫度會產生更多非預期或令人意外的回應。 請嘗試調整溫度或最高機率,但不要同時調整兩者。 |
| 最高機率 | 類似於溫度,會控制隨機性,但使用不同的方法。 降低 Top 機率值會將模型的標記選取範圍縮小為類似標記。 增加值可讓模型從具有高和低可能性的令牌中選擇。 請嘗試調整溫度或最高機率,但不要同時調整兩者。 |
| 停止序列 | 讓模型在想要的點結束其回應。 模型回應會在指定的序列之前結束,因此它不包含停止序列文字。 針對 GPT-35-Turbo,使用 <|im_end|> 可確保模型回應不會產生後續的使用者查詢。 您可以包括多達四個停止序列。 |
| 頻率懲罰 | 根據文字中到目前為止出現的頻率按比例減少重複標記的機會。 此動作可降低在回應中重複完全相同文字的可能性。 |
| 目前狀態罰則 | 減少目前已在文本中出現的任何令牌重複的機會。 這會增加在響應中引進新主題的可能性。 |
清理資源
測試聊天遊樂場之後,如果您想要清除並移除 OpenAI 資源,您可以刪除資源或資源群組。 刪除資源群組也會刪除與其相關聯的任何其他資源。 使用下列步驟清除資源:
若要刪除您的 Azure OpenAI 資源,請流覽至左側 Azure Explorer 提要字段,並找出 Azure OpenAI 專案。
以滑鼠右鍵按下您想要刪除的 Azure OpenAI 服務,然後選取 [ 刪除]。
若要刪除您的資源群組,請流覽 Azure 入口網站 ,並手動刪除訂用帳戶底下的資源。
後續步驟
如需詳細資訊,請參閱 瞭解如何使用 GPT-35-Turbo 和 GPT-4 模型。
如需更多範例,請參閱 Azure OpenAI 範例 GitHub 存放庫 (英文)。