이러한 FAQ(질문과 대답)는 Copilot Studio의 심층 추론 기능의 AI 영향에 대해 설명합니다.
심층 추론이란 무엇입니까?
심층 추론 모델은 복잡한 문제를 해결하도록 설계된 고급 거대 언어 모델입니다. 그들은 각 질문을 신중하게 고려하여 사용자에게 응답을 제공하기 전에 상세한 내부 사고 체인을 생성합니다.
Copilot Studio에서 심층 추론 모델을 어떻게 사용할 수 있습니까?
Copilot Studio의 심층 추론 모델은 정교한 에이전트를 만들기 위한 강력한 기능을 제공합니다. Azure OpenAI o3와 같은 모델은 심층 추론을 사용하여 에이전트 의사 결정을 향상시키고 보다 정확한 응답을 반환합니다.
에이전트를 빌드할 때 에이전트의 작업을 정의하는 지침과 에이전트 작업을 수행하는 방법을 추가할 수 있습니다. 이러한 작업은 간단한 것부터 매우 복잡한 것까지 다양할 수 있으므로 철저한 분석이 필요합니다.
제작자는 에이전트 지침의 특정 단계에 추론 모델을 적용하여 고급 추론을 수행하고 보다 정확하고 통찰력 있는 결과를 제공하는 에이전트의 능력을 향상시킬 수 있습니다. 과학적 연구, 복잡한 질문 및 구조화되지 않은 데이터에 대한 심층 분석이 필요한 작업에 대한 심층 추론 모델을 추가할 수 있습니다. 이러한 모델은 단순한 모델의 기능 이상의 인사이트를 제공합니다.
추론 모델을 사용하려면 에이전트 지침의 특정 단계에 reason 키워드를 추가합니다. 예: 2, 5, 10, 17과 같은 수학 계열의 다음 항목을 결정하는 데 이유를 사용합니다. 이렇게 하면 해당 특정 단계에 대한 에이전트 런타임 중에 추론 모델이 트리거됩니다. Copilot Studio는 현재 고급 추론 기능을 위해 Azure OpenAI o3 모델을 사용합니다.
심층 추론 모델의 의도된 용도는 무엇입니까?
심층 추론 모델은 논리적 추론, 문제 해결 및 단계별 분석이 필요한 복잡한 작업을 처리하도록 설계되었습니다. 예를 들어 심층 추론 모델을 사용하여 다음을 수행할 수 있습니다.
시장 동향을 평가하고 최고의 투자 기회를 추천합니다. 심층 추론 모델은 시장 데이터를 더 작고 관리 가능한 단계로 나눌 수 있고, 추세를 분석하고, 최고의 투자 기회를 추천합니다. 그들은 과거 데이터, 현재 시장 상황 및 미래 예측과 같은 다양한 요소를 고려하여 정보에 입각한 투자 권장 사항을 제공할 수 있습니다.
증가된 수요를 분석하고 재고 관리 전략을 권장합니다. 모델은 수요와 공급의 패턴을 분석하고, 미래의 재고 수요를 예측하고, 재고를 효과적으로 관리하기 위한 전략을 권장할 수 있습니다. 계절적 추세, 시장 변동 및 공급망 역학과 같은 요소를 고려함으로써 심층 추론 모델은 기업이 재고 관리를 최적화하는 데 도움이 될 수 있습니다.
미분 방정식을 풀고 단계별 설명을 제공합니다. 모델은 미분 방정식과 같은 복잡한 수학 문제를 풀고 솔루션에 대한 단계별 설명을 제공할 수 있습니다. 문제를 더 작은 단계로 나누고 논리적 추론을 적용함으로써 심층 추론 모델은 수학적 문제에 대한 명확하고 상세한 솔루션을 제공할 수 있습니다.
심층 추론 모델은 어떻게 평가되었으며 성능을 측정하는 데 사용되는 메트릭은 무엇입니까?
Copilot Studio에서 사용되는 심층 추론 모델은 타당성, 책임 있는 AI 및 정확성에 대해 평가됩니다. 근거는 모델이 특정 실제 컨텍스트에 기반한 콘텐츠만 반환하도록 하는 것입니다. 책임 있는 AI는 탈옥 공격, 도메인 간 프롬프트 주입 공격 및 유해한 콘텐츠와 같은 피해로부터 보호를 확인합니다.
이러한 차원에 대해 측정하기 위해 모델은 다양한 시나리오 집합에 대해 테스트되고 이러한 각 차원에 따라 점수가 매겨집니다. 모든 심층 추론 모델은 출시되기 전에 평가됩니다.
심층 추론 모델의 한계는 무엇입니까? 제조업체는 이러한 제한 사항의 영향을 최소화할 수 있는 방법
추론 모델 사용: 에이전트 의 설정에서 심층 추론 모델 기능이 켜져 있는 경우에만 에이전트가 심층 추론 모델을 사용할 수 있습니다.
응답 시간: 분석에 필요한 시간으로 인해 추론 모델의 응답은 다른 심층적이지 않은 추론 언어 모델에 비해 느린 경향이 있습니다.
이러한 제한 사항의 영향을 최소화하려면 다음을 수행할 수 있습니다.
심층 추론 모델 기능이 필요한 에이전트에 대해서만 켜져 있는지 확인합니다.
심층 추론 모델의 이점을 활용하는 단계에 대해서만 에이전트 지침에서 키워드 이유를 사용합니다.
응답 시간을 더 길게 할 수 있는 작업에 대해 심층 추론 모델을 사용합니다. 필요한 경우 일부 에이전트 응답이 더 오래 걸릴 수 있음을 사용자에게 알릴 수 있습니다.
심층 추론 모델을 효과적이고 책임감 있게 사용할 수 있도록 하는 운영 요인 및 설정은 무엇입니까?
심층 추론 모델에는 관리자, 제작자 및 사용자가 안전하고 규정을 준수하는 환경을 즐길 수 있도록 하는 다양한 보호 기능이 포함되어 있습니다.
복잡한 추론 단계가 필요한 에이전트에 대해서만 심층 추론 모델을 허용합니다. 이렇게 하면 모델이 가장 많은 값을 제공할 수 있는 위치에 적용됩니다.
모든 작업에 복잡한 추론이 필요하지 않을 수도 있지만, 특정 작업을 위해 런타임에 모델을 트리거하려면 지침에 키워드 reason을 포함합니다.
에이전트를 철저히 테스트하여 심층 추론 모델에서 제공하는 출력의 정확성과 신뢰성을 확인합니다. 또한 테스트는 잠재적인 문제를 식별하고 모델이 예상대로 수행되는지 확인하는 데 도움이 됩니다.
활동 맵을 사용하여 에이전트가 세션에서 심층 추론 모델을 사용하는 위치를 검토합니다. 맵에서 심층 추론 노드를 확장하여 모델이 수행한 단계와 모델의 출력을 검토합니다. 이렇게 하면 추론 모델이 의도한 기능을 제공하는지 여부를 확인할 수 있습니다.
심층 추론 모델을 사용하는 경우와 사용하지 않는 경우의 출력을 비교하려면 테스트 중에 지침을 업데이트합니다.