分享方式:


延展性和效能

重要

從 2023 年 9 月 20 日起,您將無法建立新的個人化工具資源。 個人化工具服務將於 2026 年 10 月 1 日淘汰。

高效能且高流量的網站和應用程式有兩個考慮使用個人化工具以獲得延展性和效能的主要因素:

  • 進行排名 API 呼叫時保持低延遲
  • 確定訓練輸送量能跟上事件輸入的速度

個人化將大多數的呼叫持續時間投注於透過 REST API 通訊,因此可快速地傳回排名。 Azure 會自動調整能力,以快速回應要求。

低延遲案例

傳回排名時,有些應用程式需要低延遲。 需要低延遲:

  • 讓使用者在顯示已排名的內容之前,不需等候很久的時間。
  • 協助遇到大量流量的伺服器避免受限於不足的計算時間和網路連線。

延展性和訓練輸送量

個人化工具的運作方式是在排名和獎勵 API 之後,根據個人化工具以非同步方式傳送的訊息,更新已重新定型的模型。 這些訊息會使用應用程式的 Azure 事件中樞進行傳送。

大部分的應用程式不太可能都會觸達個人化工具的最大聯結和定型輸送量。 觸達此最大值並不會讓應用程式變慢,這意味著內部填滿事件中樞佇列的速度比清除的速度還要快。

如何估計您的輸送量需求

  • 預估每個排名事件的平均位元組數,並將內容和動作 JSON 文件的長度相加。
  • 20 MB/秒除以此估計平均位元組數。

例如,如果您的平均承載有 500 項功能,而每一項都估計有 20 個字元,則每個事件大約為 10 kb。 使用這些估計值,20,000,000 / 10,000 = 2,000 個事件/秒,即每天大約 1.73 億事件。

如果您已觸達這些限制,請連絡我們的支援小組以取得結構建議。

下一步

建立和設定個人化工具