這些常見問題集 (FAQ) 說明 Copilot Studio 深度推理功能對 AI 的影響。
什麼是深度推理?
深度推理模型是專為解決複雜問題所設計的進階大型語言模型。 它們會審慎考量每個問題,在回應使用者之前,先產生詳細的內部思考鏈。
如何在 Copilot Studio 中使用深度推理模型?
Copilot Studio 中的深度推理模型提供強大的功能,可用於建立精密的 Agent。 Azure OpenAI o3 等模型會使用深度推理,強化 Agent 的決策能力,並傳回更準確的回應。
建立 Agent 時,您可以新增定義 Agent 任務及其如何完成這些任務的指令。 這些任務可以從簡單到非常複雜,需要徹底的分析。
製作者可以在 Agent 指示的特定步驟中套用推理模型,強化 Agent 執行進階推理的能力,並提供更準確、更具洞察力的結果。 對於需要科學研究、複雜問題,以及深入分析非結構化資料的工作,您可以新增深度推理模型。 這些模型可提供超越較簡單模型能力的深入見解。
若要使用推理模型,請在 Agent 指示的特定步驟中,新增關鍵字 reason。 例如:Use reason to determine the next item in a mathematical series, such as 2, 5, 10, 17. 這會在 Agent 執行階段中,針對該特定步驟觸發推理模型。 Copilot Studio 目前使用 Azure OpenAI o3 模型,提供進階推理功能。
深度推理模型的預期用途為何?
深度推理模型專為處理需要邏輯推理、解決問題及逐步分析的複雜工作而設計。 例如,您可以使用深度推理模型來:
評估市場趨勢並建議最佳投資機會。 深度推理模型可以將市場資料分解為更小、更易於管理的步驟;分析趨勢;並推薦最佳的投資機會。 他們可以考慮歷史資料、目前市場狀況和未來預測等各種因素,以提供明智的投資建議。
分析增加的需求並建議管理庫存的策略。 模型可以分析需求和供應模式,預測未來的庫存需求,並建議有效管理庫存的策略。 透過考慮季節性趨勢、市場波動和供應鏈動態等因素,深度推理模型可以幫助企業最佳化庫存管理。
解決微分方程並提供逐步解釋。 模型可以解決複雜的數學問題,例如微分方程,並提供解決方案的逐步解釋。 透過將問題分解為更小的步驟並套用邏輯推理,深度推理模型可以為數學挑戰提供清晰而詳細的解決方案。
深度推理模型是如何評估的?使用哪些指標來衡量效能?
Copilot Studio 中使用的深度推理模型,會針對根據性、負責任 AI 及準確度進行評估。 根基性是確保模型只傳回基於特定的現實世界背景的內容。 負責任 AI 檢查是否能防範越獄攻擊、跨域提示注入攻擊和有害內容等危害。
為了衡量這些維度,需要根據多種情境對模型進行測試,並根據每個維度進行評分。 所有深度推理模型在發行前都會經過評估。
深度推理模型有哪些限制? 製作者該如何將這些限制的影響降到最低?
使用推理模型:只有在 Agent 設定中開啟深度推理模型功能時,Agent 才能使用深度推理模型。
回應時間:由於分析需要花費時間,推理模型的回應速度往往比其他非深度推理語言模型慢。
為了最大限度地減少這些限制的影響,您可以:
請確保只有需要的 Agent,才會開啟深度推理模型功能。
只在能從深度推理模型獲益的步驟中,於 Agent 指示中使用關鍵字 reason。
針對可容許較長回應時間的工作使用深度推理模型。 如果有必要,請讓使用者知道某些 Agent 的回應可能需要更長時間。
哪些操作因素和設定允許有效且負責任地使用深度推理模型?
深度推理模型包括各種保護措施,以確保管理員、製作者和使用者享受安全、合規的體驗: