分享方式:


Fabric 中的 Copilot 使用量

此頁面包含 Fabric Copilot 使用量如何計費和報告的資訊。 Copilot 使用量會以已處理的權杖數目來測量。 權杖可以視為單字片段。 大約 1,000 個權杖約是 750 個字。 價格是以每 1,000 個權杖計算,而輸入和輸出權杖會以不同的費率取用。

注意

Copilot for Fabric 計費將於 2024 年 3 月 1 日生效,作為您現有 Power BI Premium 或 Fabric 容量的一部分。

使用量費率

Copilot 取用 Fabric 容量單位的要求。 此資料表會定義使用 Copilot 時會取用的容量單位 (CU) 數。 例如,當使用者使用 Copilot for Power BICopilot for Data FactoryCopilotfor Data Science and Data Engineering 時。

計量應用程式中的作業 描述 作業測量單位 使用量費率
Fabric 中的 Copilot 輸入提示 每 1,000 個權杖 400 CU 秒
Fabric 中的 Copilot 輸出完成 每 1,000 個權杖 1,200 CU 秒

監視使用量

Fabric 容量計量應用程式會以「Copilot in Fabric」名稱顯示 Copilot 作業的總容量使用量。此外,Copilot 使用者能夠在發票項目「Copilot in Fabric」下檢視其 Copilot 使用量的賬單費用摘要。

Fabric 容量計量的螢幕擷取畫面。

容量使用率類型

網狀架構 Copilot 會分類為「背景作業」,作為容量使用率類型,以在尖峰時段處理較高數量 Copilot 的要求。

Fabric 的設計目的是讓作業存取比配置給容量更多的 CU (容量單位) 資源,以提供快如閃電的效能。 Fabric 在至少 5 分鐘內對「互動式作業」的 CU 使用量進行平滑或平均處理,在 24 小時內對「背景作業」的 CU 使用量進行平滑或平均處理。 根據 Fabric 節流原則,當容量在未來 10 分鐘內取用其所有可用 CU 資源時,就會開始節流的第一個階段。

例如,假設每個 Copilot 要求都有 2,000 個輸入權杖和 500 個輸出權杖。 一個 Copilot 要求的價格 = (2,000 * 400+500 * 1,200)/1,000 = 1,400 CU 秒 = 23.33 CU 分鐘。

Copilot 是背景工作,每個 Copilot 要求 (~24 CU 分鐘工作) 只會取用容量每小時的一個 CU 分鐘。 對於一天中有 64 * 24 個 CU 時數 (1,536) 且每個 Copilot 工作取用 (24 CU 分鐘/ 60 分鐘) = 0.4 CU 時數的 F64 客戶。 客戶可以在耗盡容量之前執行超過 3.8k 個要求,但之後一切都會關閉。

地區對應

Fabric Copilot 是由 Azure OpenAI 大型語言模型所提供,目前已部署至有限的資料中心。 不過,客戶可以在 Azure OpenAI 服務可用的另一個區域中處理其數據,讓跨地理位置進程租使用者設定 能夠使用 Copilots。 此區域可能不在使用者的地理區域、合規性界限或國家雲端執行個體範圍內。 在執行區域對應時,我們會優先考慮資料落地,並儘可能嘗試對應至相同地理區域內的區域。

Fabric 容量單位的成本可能會因區域而異。 不論使用 GPU 容量的使用量區域為何,客戶都會根據其計費區域中的 Fabric 容量單位定價來計費。 例如,如果客戶的要求是從 region 1 對應至 region 2,而 region 1 作為計費區域且 region 2 為取用區域,則會根據 region 1 中的定價向客戶收費。

Copilot in Fabric 使用量費率的變更

使用量費率隨時可能會變更。 Microsoft 會經合理的努力,透過電子郵件或產品內通知提供通知。 變更應在 Microsoft 的版本資訊或 Microsoft Fabric 部落格中所述的日期生效。 如果 Copilot in Fabric 使用量費率有任何變更,會大幅增加使用 Copilot in Fabric 所需的容量單位 (CU),客戶可以使用所選付款方式可用的取消選項。