Azure OpenAI 提供 OpenAI 強大語言模型的 REST API 存取權,包括 o4-mini、o3、gpt-4.1、o3-mini、o1、o1-mini、GPT-4o、GPT-4o mini、GPT-4 Turbo with Vision、GPT-4、GPT-3.5-Turbo 和 Embeddings 模型系列。 這些模型可以輕鬆地適應您的特定工作,包括但不限於內容產生、摘要、影像理解、語意搜尋,以及自然語言至程式碼轉譯。 用戶可以透過 REST API、 Python/C#/JS/Java/Go SDK 來存取服務。
功能概觀
功能 | Azure OpenAI |
---|---|
可用的模型 | o4-mini & o3 gpt-4.1 電腦使用預覽 o3-mini & o1 o1-mini GPT-4o + GPT-4o 迷你 GPT-4 系列(包括 GPT-4 Turbo with Vision) GPT-3.5-Turbo 系列 內嵌系列 在我們的 [模型] 頁面中深入瞭解。 |
微調 | GPT-4o-mini (預覽) GPT-4 (預覽) GPT-3.5-Turbo (0613). |
價格 | 這裡提供 如需啟用視覺的聊天模型詳細資訊,請參閱 特殊定價資訊。 |
虛擬網路支援與私人連結支援 | 是。 |
受控識別 | 是,透過 Microsoft Entra ID |
UI 體驗 | 帳戶與資源管理的 Azure 入口網站, 適用於模型探索和微調的「Azure AI Foundry」 |
模型區域可用性 | 模型可用性 |
內容篩選 | 使用自動化系統,根據我們的內容原則評估提示和完成。 已篩選高嚴重性內容。 |
負責任的 AI
Microsoft 承諾 AI 的進展,由以人為先的原則所驅動。 Azure OpenAI 中可用的生產力模型具有顯著的潛在優點,但是若沒有仔細設計和謹慎的緩和措施,這類模型可能會產生不正確或甚至是有害的內容。 Microsoft已進行大量投資,以協助防範濫用和意外傷害,其中包括納入Microsoft 負責任 AI 使用的原則,並採用客戶在使用 Azure OpenAI 時應考慮的 規範 。
開始使用 Azure OpenAI
若要開始使用 Azure OpenAI,您必須在 Azure 訂用帳戶中建立 Azure OpenAI 資源。
從 建立和部署 Azure OpenAI 資源 指南開始。
您可以透過 Azure 入口網站、Azure CLI 或 Azure PowerShell 建立資源。
當您有 Azure OpenAI 資源時,您可以部署 GPT-4o 之類的模型。
當您有已部署的模型時,您可以:
- 試用 Azure AI Foundry 入口網站 遊樂場,以探索模型的功能。
- 您也可以使用 REST API 或 SDK 開始對服務進行 API 呼叫。
附註
存取某些 Azure OpenAI 模型或功能需要有限存取註冊表單。 在 Azure OpenAI 有限存取頁面上深入瞭解。
比較 Azure OpenAI 和 OpenAI
Azure OpenAI 為客戶提供具備 OpenAI GPT-4、GPT-3、Codex、GPT-image-1(預覽)、DALL-E、語音轉文字及文字轉語音模型的先進語言 AI,並具備 Azure 提供的安全性和企業保障。 Azure OpenAI 會使用 OpenAI 共同開發 API,以確保相容性,並且能夠兩個 API 之間順暢轉換。
透過 Azure OpenAI,客戶可享有 Microsoft Azure 的安全性功能,同時執行與 OpenAI 相同的模型。 Azure OpenAI 提供私人網路、區域可用性,以及負責任 AI 內容篩選。
重要概念
提示與完成
完成端點是 API 服務的核心元件。 此 API 可讓您存取模型的文字輸入和文字輸出介面。 使用者只需要提供包含英文文字命令的輸入提示,模型就會產生文字完成。
以下是簡單的提示和完成範例:
提示:
""" count to 5 in a for loop """
完成:
for i in range(1, 6): print(i)
權杖
文字權杖
Azure OpenAI 會藉由將文字分解成語彙基元來處理文字。 語彙基元可以是字組或字元區塊。 例如,“hamburger” 一詞會分成 “ham”、“bur” 和 “ger” 的語彙基元,而 “pear” 之類的簡短常用字組則是單一語彙基元。 許多語彙基元都會以空白字元開頭,例如 “ hello” 和 “ bye”。
指定要求中處理的語彙基元總數取決於您的輸入、輸出和要求參數長度。 正在處理的語彙基元數量也會影響模型的回應延遲和輸送量。
影像輸入標記
使用 GPT-4o、GPT-4o-mini 和 GPT-4 Turbo 搭配視覺模型的 Azure OpenAI 影像處理功能,會使用影像令牌化來判斷影像輸入所耗用的令牌總數。 取用的語彙基元數目是根據兩個主要因素來計算:影像詳細資料層級 (低或高) 以及影像的維度。 以下是計算語彙基元成本的方式:
- 低解析度模式
- 低詳細資料可讓 API 針對不需要高影像解析度分析的案例,傳回更快的回應。 針對低詳細資料影像所取用的語彙基元如下:
- GPT-4o 和包含視覺功能的 GPT-4 Turbo:每個影像 85 個權杖的固定費率,不論大小為何。
- GPT-4o mini:每個影像 2833 個權杖的固定費率,不論大小為何。
- 範例:4096 x 8192 影像(低細節):成本是使用 GPT-4o 時固定為 85 個 token,因為這是低細節影像,且在此模式下大小不會影響成本。
- 低詳細資料可讓 API 針對不需要高影像解析度分析的案例,傳回更快的回應。 針對低詳細資料影像所取用的語彙基元如下:
- 高解析度模式
- 高詳細資料可讓 API 更詳細地分析影像。 影像語彙基元會根據影像的維度來計算。 計算牽涉到下列步驟:
- 影像調整大小:影像會調整大小以符合 2048 x 2048 像素的正方形。 如果最短的一邊大於 768 像素,影像會進一步重設大小,讓最短一邊的長度成為 768 像素。 重設大小期間會保留外觀比例。
- 圖塊計算:調整大小後,影像會分成 512 x 512 像素的圖塊。 任何部分圖格會四捨五入為完整圖格。 圖格數目會決定語彙基元總成本。
- 代幣計算:
- GPT-4o 和 GPT-4 Turbo with Vision:每張 512 x 512 像素磚的成本 為 170 個令牌。 額外的 85個基底令牌 會新增至總計。
- GPT-4o mini:每個 512 x 512 像素圖格成本為 5667 個權杖。 額外的 2833個基底令牌 會新增至總計。
- 範例:2048 x 4096 影像(高詳細數據):
- 影像一開始會重設大小為 1024 x 2048 像素,以符合 2048 x 2048 像素平方。
- 影像會進一步調整為 768 x 1536 像素,以確保最短一邊的長度上限為 768 像素。
- 影像分成 2 x 3 個圖格,每個 512 x 512 像素。
- 最終計算:
- 對於 GPT-4o 和包含視覺功能的 GPT-4 Turbo,語彙基元總成本是 6 個圖格 x 每個圖格 170 個語彙基元 + 85 個基本語彙基元 = 1105 個語彙基元。
- 針對 GPT-4o mini,語彙基元總成本是 6 個圖格 x 每個圖格 5667 個語彙基元 + 2833 個基底語彙基元 = 36835 個語彙基元。
- 高詳細資料可讓 API 更詳細地分析影像。 影像語彙基元會根據影像的維度來計算。 計算牽涉到下列步驟:
影像生成代幣
GPT-image-1 會先產生特殊化影像語彙基元來產生影像。 延遲和最終成本都與轉譯影像所需的令牌數目成正比。 產生的令牌數目取決於影像維度和品質:
品質 | 正方形(1024×1024) | 肖像 (1024×1536) | 景觀 (1536×1024) |
---|---|---|---|
低 | 272 個令牌 | 408 個令牌 | 400 個令牌 |
中等 | 1056 個令牌 | 1584 個令牌 | 1568 個令牌 |
高 | 4160 個令牌 | 6240 個令牌 | 6208 個令牌 |
資源
Azure OpenAI 服務是 Azure 上的新產品供應項目。 您可以使用與在 Azure 訂用帳戶中 建立資源或服務實例的任何其他 Azure 產品相同的方式開始使用 Azure OpenAI。 您可以深入瞭解 Azure 的資源管理設計。
部署
建立 Azure OpenAI 資源之後,您必須先部署模型,才能開始進行 API 呼叫並產生文字。 您可以使用部署 API 來完成此動作。 這些 API 可讓您指定要使用的模型。
提示工程
OpenAI 提供的 GPT-3、GPT-3.5 和 GPT-4 模型是以提示為基礎。 使用提示型模型時,使用者要輸入文字提示來與模型進行互動,而模型會使用文字完成對文字提示進行回應。 此完成是模型的輸入文字接續。
雖然這些模型很強大,但其的行為也會對提示很敏感。 這可讓提示工程成為開發的重要技能。
提示建構可能很困難。 在實務上,提示會設定模型權數以完成所需的工作,但比起科學,這更像一門藝術,通常需要體驗和直覺來製作成功的提示。
模型
此服務可讓使用者存取數個不同的模型。 每個模型都提供不同的功能和價格點。
影像產生模型(部分處於預覽狀態;請參閱 模型)從使用者提供的文字提示產生和編輯影像。
音訊 API 模型可用來將語音轉錄成文字並進行翻譯。 文字轉換語音模型 (目前為預覽版) 可用於合成文字轉換語音。
在 模型概念頁面上深入瞭解每個模型。
後續步驟
深入瞭解 Power Azure OpenAI 的基礎模型。