Azure AI Studio 遊樂場中的測試模型

已完成

遊樂場是 Azure AI Studio 中實用的介面,可讓您用來實驗已部署的模型,而不需要開發您自己的用戶端應用程式。 Azure AI Studio 提供多個具有不同參數微調選項的遊樂場。

完成遊樂場

完成遊樂場可讓您透過文字輸入、文字輸出介面和調整參數,呼叫已部署的模型。 您必須在 [部署] 底下選取模型的部署名稱。 或者,您也可以從提供的範例著手,再輸入自己的提示。

完成遊樂場參數

您可以調整許多參數來變更模型的效能:

  • 溫度:控制隨機性。 降低溫度表示模型會產生更多重複的確定性回應。 提升溫度會產生更多非預期或令人意外的回應。 您可試著調整溫度或 Top P,但不可同時調整兩者。
  • 最大長度 (語彙基元):設定每個模型回應的語彙基元數目上限。 API 支援在提示和模型回應之間共用最多 4,000 個語彙基元,系統訊息、範例、訊息歷程記錄和使用者查詢都屬於提示的範圍。 每個語彙基元大約是一般英文文字的四個字元。
  • 停止序列:讓回應停止在特定點上,例如句子或清單的結尾。 您可指定最多四個序列,讓模型停止在回應中產生更多語彙基元。 傳回的文字不會包含停止序列。
  • 最高機率 (Top P) :這項設定跟溫度類似,也能控制隨機性,但是透過不同的方法。 降低 Top P 會將模型的語彙基元選取範圍縮小至可能性較高的內容。 增加 Top P 會讓模型從所有可能性的語彙基元中進行挑選。 您可試著調整溫度或 Top P,但不可同時調整兩者。
  • 頻率狀態罰則:根據目前文字中出現的頻率,按比例減少重複語彙基元的機會。 這麼做會降低在回應中重複完全相同文字的可能性。
  • 目前狀態罰則:直接減少目前文字中已經出現過語彙基元的重複機會。 這麼做會增加在回應中產生新主題的可能性。
  • 預先回應文字:在使用者輸入後和模型回應前插入文字。 這麼做能幫助模型準備回應。
  • 回應後的文字:在模型產生的回應後插入文字,鼓勵使用者進一步輸入,適用於建立交談模型等狀況。

聊天遊樂場

聊天遊樂場是以輸入交談、傳出訊息介面為基礎。 您可使用系統訊息初始化工作階段,藉此設定聊天內容。

在聊天遊樂場中,您可以新增小樣本範例。 小樣本一詞是指提供一些範例,讓模型了解需要執行的動作。 您可以用零樣本做為對比,零樣本是指不提供任何範例。

在 [助理設定] 中,您可以提供使用者輸入可能內容和助理應答的小樣本範例。 助理會嘗試模仿您在系統訊息中定義的回應,包括語調、規則和格式。

Azure AI Studio 入口網站的聊天遊樂場螢幕快照。

聊天遊樂場參數

Chat 遊樂場,例如 Completions 遊樂場,也包含自定義模型行為的參數。 聊天遊樂場也支援完成遊樂場不提供的其他參數。 包括:

  • 回應數目上限:設定每個模型回應的語彙基元數目上限。 API 支援在提示和模型回應之間共用最多 4,000 個語彙基元,系統訊息、範例、訊息歷程記錄和使用者查詢都屬於提示的範圍。 每個語彙基元大約是一般英文文字的四個字元。
  • 包含過往訊息:選取要包含在每個新 API 要求中的過往訊息數目。 包含過往訊息能為新的使用者查詢提供模型內容。 將此值設定為 10,會包含五個使用者查詢和五個系統回應。

目前語彙基元計數可從聊天遊樂場檢視。 由於 API 呼叫是以語彙基元計價,而且可以設定回應語彙基元數目上限,因此建議您留意目前的語彙基元計數,確保輸入交談不超過回應語彙基元計數上限。