追蹤與資料處理

Foundry 追蹤是 Microsoft Foundry 中的一項可觀察性功能,能從 AI 代理手中擷取客戶資料。 它幫助開發者與操作員理解系統行為、除錯問題並優化效能。

追蹤會記錄下列資訊:

  • 使用者輸入與提示
  • 代理人與模型的輸入與輸出
  • 工具呼叫與中間步驟
  • 執行元資料(時間戳記、延遲、令牌使用、錯誤等)

這些資料可能包括使用者產生的內容和操作遙測數據。

這些資料用來提供客服人員運作的可視化,促進跨客服工作流程的故障排除與效能提升。 Foundry 採用 OpenTelemetry 標準,並將追蹤資料儲存在連接的遙測系統中,Azure 監視器 Application Insights。

Important

當你為專案啟用 AppInsights 時,AppInsights 會記錄追蹤,以協助監控和評估使用者層級與客服人員的互動。 在 AppInsights 中擔任 Log Analytics Reader 角色的 Project 成員可以查看追蹤資料,這些資料可能包含個人資料和客戶內容。 若底層的 Log Analytics 資料表受到保護(其保護等級設為受保護),成員需使用特權監控資料讀取器角色來查看該追蹤資料。 檢視收集了哪些追蹤資料,以及誰可以查看和使用這些資料。 更多資訊請見下一節。

預設狀態:

  • 追蹤預設是關閉的。
  • 除非由 Foundry 帳戶擁有者或 Foundry 擁有者明確啟用,否則不會收集或儲存任何追蹤資料。

可能需支付額外的Azure 監視器 App Insights 定價費用。

這確保客戶能掌控何時開始資料收集。

啟用追蹤

當專案連接到 Azure 監視器 Application Insights 資源時,追蹤會啟用。 常見的賦能流程包括:

  • 在專案建立時建立或連結應用程式洞察資源。
  • 為尚未連結 Application Insights 資源的現有專案建立或連結 Application Insights 資源。

啟用追蹤功能時:

  • 專案中所有代理人的追蹤資料開始被收集與儲存。
  • 要在 Foundry 追蹤介面中查看追蹤,使用者需存取 Foundry 專案,並在連接的應用程式洞察(Application Insights)或 Log Analytics 工作空間中取得讀取權限。 例如,在 Application Insights 資源、Log Analytics 工作區或適當的父系範圍中,Log Analytics 讀取者、監控讀取者或讀取者等角色都可以授與此存取權限。 若底層的 Log Analytics 資料表受到保護,受派者也需要特權監控資料讀取器角色來讀取該資料。

關閉追蹤

透過以下方式停用追蹤:

  • 斷開或移除 Application Insights 資源。

關閉追蹤後:

  • 該專案中不會收集任何新的代理人痕跡資料。
  • 先前收集的資料仍受應用洞察的保存政策約束。

Note

如何關閉追蹤的具體步驟取決於 UI 或 SDK 表面,且應該與產品文件相符。

資料存放地點

資料共享考量

  • 追蹤資料可能可供在已連線的遙測資源上具有適當權限的使用者存取。
  • 根據設定,同一專案或租戶內的使用者可能會看到資料。
  • 要在 Foundry 追蹤介面中查看追蹤,使用者需存取 Foundry 專案,並在連接的應用程式洞察(Application Insights)或 Log Analytics 工作空間中取得讀取權限。 例如,在 Application Insights 資源、Log Analytics 工作區或適當的父系範圍中,Log Analytics 讀取者、監控讀取者或讀取者等角色都可以授與此存取權限。 若底層的 Log Analytics 資料表受到保護,受派者也需要特權監控資料讀取器角色來讀取該資料。
  • 關於託管代理的額外考量及重要資訊,請參閱 託管代理 及其 平台注入的環境變數。

客戶負責配置存取控制並確保遵守其組織政策。

隱私權

追蹤功能可能收集的個人資料包括:

  • 使用者提示與回應
  • 應用專屬內容

最佳做法

  • 避免記錄秘密、憑證或令牌。
  • 在個人資料被記錄前,請刪除或減少。
  • 套用存取控制與保留政策來追蹤資料。

資料保護控制

  • 個人資料遮蔽:刪除個人資料,如電子郵件地址和電話號碼。
  • 透過謹慎管理哪些使用者被授予 RBAC Log Analytics Reader 角色,限制追蹤資料的存取。 當底層的 Log Analytics 資料表受到保護時,也要管理誰擁有特權監控資料讀取器的角色,因為它會授予對受保護資料表的讀取權限。
  • 可配置政策:控制哪些資料被擷取並顯示。

這些控管有助於你管理風險並遵守隱私要求。

客戶責任

啟用追蹤時,你將負責:

  • 告知最終使用者有關資料收集的資訊,包括所收集的資料類型、目的、誰有透明度、他們的選擇,以及其他有助於他們做出合理選擇所需的資訊(如適用)。
  • 確保符合隱私、法律及法規要求。
  • 配置適當的存取控制與資料保留政策。

總結

Foundry Tracing 是一項強大的可觀察性功能,能協助除錯、監控及優化 AI 代理。 它如下:

  • 默認為關閉。
  • 透過連接遙測資源明確啟用。
  • 設計時即讓客戶掌控資料蒐集與處理。