플랫폼 카드: Microsoft 검색

이 플랫폼 카드는 Discovery에서 의도한 용도, 기능, 제한 사항 및 책임 있는 배포 및 사용에 대한 모범 사례를 Microsoft 설명합니다.

애플리케이션 또는 플랫폼 카드란?

Microsoft의 애플리케이션 및 플랫폼 카드는 AI 기술이 어떻게 작동하는지 이해하는 데 도움을 줍니다. 애플리케이션 소유자가 내리는 선택이 애플리케이션 성능과 동작에 영향을 미친다는 점을 설명합니다. 또한 기술, 사람, 환경을 포함한 전체 응용 분야를 고려하는 것의 중요성을 강조합니다. 애플리케이션 카드는 AI 애플리케이션을 위해 만들어지고, 플랫폼 카드는 AI 플랫폼 서비스를 위해 만들어집니다. 이러한 자원은 여러분의 애플리케이션 개발이나 배포를 지원할 수 있습니다. 애플리케이션에 영향을 받는 사용자나 이해관계자와 공유할 수 있습니다.

책임 있는 AI에 대한 노력의 일환으로 Microsoft는 공정성, 안정성 및 안전, 개인 정보 보호 및 보안, 포용성, 투명성 및 책임의 6가지 핵심 원칙을 준수합니다. 책임 있는 AI 표준은 이러한 원칙을 내재화합니다. 이 표준은 팀이 AI 애플리케이션을 설계, 구축, 테스트하는 데 지침을 제공합니다. 애플리케이션 및 플랫폼 카드는 기능, 의도된 사용 및 제한 사항에 대한 투명성을 제공하여 이러한 원칙을 운영하는 데 핵심적인 역할을 합니다. 더 많은 인사이트를 원하시면 Microsoft의 책임 있는 AI 투명성 보고서와 행동 강령을 참고하세요. 이들은 기업 고객과 개인이 AI와 책임감 있게 소통하는 방법을 설명합니다.

Overview

Microsoft Discovery는 현재 일부 고객에게 제공되고 있습니다. Microsoft 검색의 사용은 고객 자격 요구 사항 및 제품 약관 및 사용자 행동 강령의 동의에 따라 달라질 수 있습니다. 면허가 필요하며 제한된 지역에서만 제공됩니다. 우리의 목표는 시스템이 기능을 계속 발전시킬 때 모든 사용자에게 안전하고 안정적이며 유익한 상태를 유지하도록 하는 것입니다.

배포 모드

Microsoft Discovery는 두 가지 배포 모드로 제공됩니다:

클라우드 배포: Azure AI Foundry를 통한 Azure OpenAI Service를 모델에 접근하고, Azure 인프라를 통해 컴퓨트, 네트워킹, 보안을 지원하는 완전 관리형 Azure 호스팅 플랫폼입니다.
로컬 애플리케이션: 귀하의 컴퓨터에서 실행되며 모델 접근을 위해 GitHub Copilot SDK를 사용하는 데스크톱 애플리케이션입니다. 이 모드는 Azure 인프라 없이도 Discovery의 에이전트 AI 기능을 가볍고 로컬 환경에서 활용하고자 하는 개별 연구자와 개발자를 위해 설계되었습니다.

두 배포 모드 모두 동일한 핵심 디스커버리 엔진, 다중 에이전트 아키텍처, 지식 추론 기능을 공유합니다. 다음 섹션에서는 두 모드 간 행동, 능력 또는 책임이 어디서 다른지 설명합니다.

Microsoft Discovery 앱 미리 보기 릴리스(Microsoft Discovery & the Microsoft Discovery app | Microsoft Learn)는 아직 평가되지 않았습니다.

소개

Microsoft Discovery는 과학 연구와 개발을 지원하기 위해 설계된 엔터프라이즈 에이전트 AI 플랫폼입니다. 조직에서 도메인 지식, 데이터, 모델 및 계산을 결합하여 복잡한 문제를 추론하고, 가설을 생성 및 구체화하고, 실험을 설계하고, 결과를 분석할 수 있습니다. 과학적 방법을 단일 환경에서 종합 단위로 지원함으로써, Microsoft Discovery는 현대 연구개발(R&D) 노력을 자주 지연시키는 단편화와 인지 오버헤드를 해결합니다. D.

이 플랫폼은 그래프 기반 지식 엔진을 활용한 에이전트 AI 아키텍처를 사용하여 향상된 속도, 규모, 정확성으로 연구개발(R&D) 결과를 이끌어냅니다. 자연어 인터페이스를 통해 사용자는 목표 또는 질문을 설명할 수 있으며, 시스템은 이를 사용 가능한 도구, 모델 및 워크플로를 그리는 구조화된 계획으로 변환할 수 있습니다. Microsoft Discovery는 결과 및 피드백을 후속 추론에 통합하는 검색 엔진을 운영하여 사용자를 제어하면서 적응형, 설명 가능 및 반복 가능한 연구 실행을 가능하게 합니다.

의도한 사용자

Microsoft Discovery는 생명 과학, 재료, 반도체, 에너지, 제조 및 첨단 공학을 포함한 산업 분야에서 연구 및 개발 조직에 속한 과학자, 엔지니어 및 개발자를 위한 것입니다. 클라우드 배포 시 이 플랫폼은 Azure를 기반으로 확장되고 안전하도록 설계되어 조직이 자체 데이터, 모델, 도구를 통합하여 통합 AI 기반 환경을 구축할 수 있습니다. 이 로컬 애플리케이션은 GitHub Copilot SDK를 사용해 자신의 컴퓨터에서 Discovery의 기능을 활용하고자 하는 개별 연구자들에게 대안을 제공합니다. Microsoft Discovery는 인간의 전문 지식을 대체하는 대신 이를 보강하여 팀이 복잡성을 관리하고 연구 프로세스 전반에 걸쳐 인사이트를 확장할 수 있도록 지원합니다.

주요 용어

다음 표에서는 검색과 관련된 주요 용어집을 제공합니다.

용어	Definition
분류자	데이터를 레이블이 지정된 클래스 또는 정보 범주로 정렬하는 기계 학습 모델입니다.
검색 엔진	Discovery 내의 기능은 야심 찬 장기 작업에서 작업할 때 대화하고, 위임하고, 협조적으로 계획하고, 작업을 넘겨줄 수 있는 동료처럼 행동하고 동작합니다. 수행하려는 작업의 목적은 검색 엔진을 구성하고 구동합니다. Discovery의 나머지 부분을 리소스로 활용해 작업을 수행합니다.
GitHub Copilot SDK	GitHub Copilot을 통해 대형 언어 모델에 접근할 수 있는 소프트웨어 개발 키트입니다. 로컬 애플리케이션 배포 모드에서는 Discovery가 Azure OpenAI Service 대신 GitHub Copilot SDK를 모델 제공자로 사용합니다.
접지	응답은 고객이 제공한 데이터, 내부 기술 자료 및 해당하는 외부 콘텐츠와 같은 신뢰할 수 있는 관련 원본에 고정됩니다. 원본은 사용 가능한 경우 인용 또는 추적 기능을 제공합니다.
대규모 언어 모델(LLM)	대량의 텍스트 데이터를 학습하여 순서대로 단어를 예측하는 AI 모델. 텍스트 생성, 요약, 번역 및 분류와 같은 작업을 수행할 수 있습니다.
완화 방법	AI 기능을 사용하여 발생할 수 있는 잠재적인 위험을 줄이기 위해 설계된 방법입니다.
프롬프트	사용자가 AI 기능과 상호 작용하기 위해 제공하는 텍스트, 이미지 또는 오디오 형식의 입력입니다.
슈퍼컴퓨터	Discovery의 슈퍼컴퓨터 구성 요소는 Azure HPC(고성능 컴퓨팅) 및 향후 양자 기능을 사용하여 계산 집약적인 과학 워크플로, 시뮬레이션 및 AI 워크로드를 실행합니다.
시스템 메시지	시스템 메시지(메타 프롬프트라고도 함)는 Microsoft AI 원칙 및 사용자 기대에 맞게 시스템의 동작을 안내합니다. 예를 들어 "정보를 제공하거나 신체적, 정서적 또는 재정적 피해를 줄 수 있는 콘텐츠를 만들지 마십시오"와 같은 지침이 포함될 수 있습니다.

주요 특징 및 기능

여기에 설명된 주요 기능과 기능은 Discovery가 수행하도록 설계된 작업과 지원되는 작업에서 수행하는 방법을 설명합니다.

자연어 인터페이스

사용자는 자연어로 요청을 이해하고 사용 가능한 도구와 워크플로를 사용하여 구조화된 계획으로 변환하는 대화형 도우미를 통해 Microsoft 검색과 상호 작용합니다. 이 접근법은 과학자와 엔지니어가 여러 시스템을 수동으로 연결하지 않고도 연구 질문에서 실행 가능한 워크플로우로 전환할 수 있도록 돕습니다. 필요할 때 이 Copilot은 시뮬레이션, 데이터베이스 쿼리, 모델 실행 등 통합 컴퓨팅 및 도구를 호출하고, 대화를 통한 반복적 개선을 지원합니다. 이 접근법은 사용자가 동일한 인터페이스에서 워크플로우를 단계별로 조정하고 탐색할 수 있게 하여 고급 연구개발 도구 사용의 장벽을 낮춥니다.

다중 에이전트 아키텍처

Discovery는 고객이 특정 도메인(예: 화학, 생물학, 물리학, 실리콘 디자인 및 데이터 분석) 또는 함수(추론, 시뮬레이션 및 최적화)에 능숙한 전문 AI 에이전트를 가져올 수 있는 다중 에이전트 시스템을 사용합니다.

에이전트는 Copilot과 중앙 지식 그래프의 조정에 따라 함께 작동합니다. 기업의 데이터 원본과 과학적 지식을 통합하는 풍부하고 연결된 기술 자료를 추론할 수 있습니다. 이 아키텍처를 사용하면 복잡한 학제 간 문제를 해결할 수 있습니다.

예를 들어 한 에이전트는 과학 문헌을 구문 분석하고 다른 에이전트는 시뮬레이션을 실행하고 다른 에이전트는 결과를 분석할 수 있습니다. 이 분산 인텔리전스를 에이전트 AI라고 합니다. 단일 모놀리식 모델이 아니라 사용자를 위해 함께 작동하는 모델 팀입니다.

검색 엔진

검색 엔진은 오랜 기간 동안 지속적이고 목표 지향적인 연구 및 문제 해결을 가능하게 하는 검색 내의 핵심 기능입니다. Discovery 엔진은 짧은 트랜잭션 상호 작용에 집중하는 대신 장기 실행 작업을 지원합니다. 에이전트, 도구, 모델 및 지식 원본에서 추론, 계획 및 실행을 조정합니다.

검색 엔진은 여러 활동에 걸쳐 높은 수준의 목표, 반복 탐색 및 결과의 통합을 분해해야 하는 복잡한 연구 시나리오를 위해 설계되었습니다.

검색 엔진은 인식 및 작업의 두 가지 보완 구성 요소를 통해 작동합니다. 인식은 정의된 목표를 향해 나아가는 데 필요한 지속적인 추론과 조정을 관리합니다. 작업에는 적절한 에이전트, 도구 및 데이터 원본을 선택하고 중간 결과 및 사용자 피드백에 따라 실행을 조정하는 작업이 포함됩니다.

작업 시스템은 사용자 의도, 구조 및 진행률을 캡처합니다. 달성해야 하는 작업, 성공을 측정하는 방법 및 시간이 지남에 따라 작업이 어떻게 진화하는지에 대한 지속적인 표현을 제공합니다. 이러한 구성 요소를 함께 사용하면 고객이 작업을 위임하고, 주기적으로 진행 상황을 검토하고, 필요에 따라 방향을 구체화할 수 있습니다. 사용자는 연구 프로세스 전반에 걸쳐 인간의 감독과 제어를 유지할 수 있습니다.

장기 실행 및 반복적인 연구를 지원하기 위해 검색 엔진은 목표, 중간 결과, 의사 결정 및 사용자 지침을 포함하여 이전 작업에서 관련 상태를 유지하여 상호 작용 간에 상황별 연속성을 유지합니다. 이 영구 컨텍스트를 사용하면 고객이 목표를 다시 설정하거나 이전 단계를 재구성할 필요 없이 시스템에서 세션 간에 작업을 다시 시작할 수 있습니다.

검색 엔진은 이미 탐색되거나 결정된 내용을 진행하여 증분 진행률, 적응 계획 및 시간이 지남에 따라 더 일관된 실행을 지원합니다. 사용자는 각 단계에서 검토, 개선 및 감독을 통해 계속 통제권을 유지할 수 있습니다.

확장성

검색은 확장 가능하도록 설계되어 고객이 BYOM(자체 모델)을 가져오고, AI Foundry 또는 AML(Azure Machine Learning)과 같은 플랫폼을 통해 독점 또는 타사 데이터를 통합하고, 도메인 요구에 맞는 사용자 지정 에이전트를 빌드할 수 있습니다. 사내 모델, 기존 랩 데이터, 도메인 특정 데이터베이스 또는 사용자 지정 개발 AI 에이전트를 연결합니다. 검색은 이러한 자산을 지식 그래프 및 워크플로에 통합합니다. 더불어, 디스커버리는 파트너 및 오픈소스 도구도 지원합니다. 클라우드 배포에서 디스커버리는 Azure를 기반으로 구축되었으며, Azure의 보안, 준수 및 거버넌스 기능을 계승합니다. 로컬 애플리케이션 배포에서 디스커버리는 모델 접근을 위해 GitHub Copilot SDK를 사용하며 사용자의 로컬 환경에서 실행됩니다.

HPC 통합

Discovery는 Azure 최첨단 인프라를 기반으로 하므로 기본적으로 Azure HPC 및 AI 서비스를 통합합니다. 플랫폼은 워크로드를 대규모 CPU/GPU 클러스터에 배포하고, 클라우드 기반 시뮬레이션(예: 계산 유체 역학 및 분자 역학)을 실행하고, 필요에 따라 사용자 지정 물리학 기계 학습 모델 또는 LLM(대규모 언어 모델)과 같은 고급 AI 모델을 사용할 수 있습니다.

지식 추론

Microsoft Discovery는 큐레이팅된 도메인 접지와 그래프로 강화된 AI 기반 검색 및 합성을 결합하여 고급 지식 추론을 제공합니다.

재단에서 Discovery는 연구원들이 자신의 도메인에 맞는 과학 문학, 논문 및 참조 자료의 큐레이팅된 컬렉션에서 작업을 구성하고 접지하는 데 사용하는 책장 서비스를 제공합니다. 이 기반을 통해 추론 및 분석은 처음부터 신뢰할 수 있는 관련 원본에 고정됩니다.

이 기반에 따라 Discovery는 기본적으로 Foundry를 통해 Azure AI 검색 통합합니다. 내부 리포지토리, 외부 문헌 및 연결된 데이터베이스에서 빠르게 검색할 수 있습니다. 사용자는 수동 연결 또는 컨텍스트 전환 없이 다양한 기술 자료를 원활하게 검색할 수 있습니다.

Discovery를 차별화하는 점은 다양한 지식 소스를 바탕으로 추론하는 방식입니다. 검색은 기존의 의미 체계 검색을 넘어선다. 특정 사실, 엔터티 및 결과와 같은 로컬 인사이트와 전체 모음의 테마, 패턴 및 의미를 포함하는 글로벌 이해를 발견합니다. 쿼리 시 그래프 지향 추론과 벡터 기반 검색을 동적으로 결합합니다.

이 방법은 응답 품질을 희생하지 않고 효율적으로 크기를 조정하면서 비용이 많이 드는 선행 요약을 방지합니다. 이러한 기능을 통해 Discovery는 크고 지속적으로 진화하는 과학 데이터 세트 간에 지식을 연결, 컨텍스트화 및 합성할 수 있습니다. 그 결과 더 심층적인 추론, 더 빠른 인사이트 생성 및 보다 정보에 입각한 과학적 탐구가 생성됩니다.

근거 기반 인용

응답이 웹 또는 고객 데이터에 기반할 경우, Microsoft Discovery는 하이퍼링크 인용을 제공하여 사용자가 참고된 웹사이트나 내부 문서 및 데이터베이스에 접근하여 주제에 대해 더 깊이 배울 수 있도록 할 수 있습니다.

의도한 용도

다양한 산업의 여러 시나리오에서 검색을 사용할 수 있습니다. 다음 표에서는 사용 사례의 몇 가지 예를 나열합니다.

산업/도메인	시나리오	사용자 혜택
화학 및 재료 과학	연구 속도를 높이기 위해 새로운 재료, 화학 물질 또는 제형 (예 : 고급 합금, 폴리머, 반도체 재료, 배터리 화학, 재생 에너지, 지속 가능한 기술)을 개발하는 회사.	사용자는 AI 조정 워크플로를 사용하여 공식을 구체화하기 위해 가설을 신속하게 생성하고 테스트할 수 있습니다. 검색을 통해 연구원은 재료 특성, 복잡한 화학 반응 및 물리적 프로세스를 시뮬레이션할 수 있습니다. 최적의 구성을 식별하기 위해 성능 장차가 평가됩니다. 검색을 사용하면 도구 오케스트레이션을 자동화하고, 관련 문헌을 표시하고, 반복적인 디자인 주기를 사용하도록 설정하여 실험 시간과 비용을 줄일 수 있습니다. 검색은 추적 가능성 및 재현성을 유지합니다.
제약 및 생명 과학	복잡한 파이프라인 및 대규모 데이터 세트를 사용하여 약물 발견, 유전체학 또는 생물 의학 연구를 수행하는 제약 및 생명 공학 팀.	발견은 연구원이 생물 의학 문헌을 합성하고, 유망한 약물 후보를 식별하고, 예측 모델을 사용하여 실험을 설계하는 데 도움이 될 수 있습니다. 초기 단계 검사 및 가설 생성을 자동화하면 고객이 의사 결정 및 유효성 검사에 집중할 수 있습니다. 자동화는 잠재적으로 검색 타임라인을 가속화하고 도메인 간 데이터에서 새로운 인사이트를 발견합니다.
반도체 및 전자 설계	수천 개의 매개 변수 및 시뮬레이션에 걸쳐 최적화하는 것이 중요한 새로운 반도체 아키텍처 또는 재질을 설계하는 회사입니다.	Discovery를 사용하면 엔지니어가 시뮬레이션 워크플로를 자동화하고, 디자인 대안을 탐색하고, 대규모로 결과를 분석할 수 있습니다. 이 플랫폼은 물리학 기반 시뮬레이션 및 AI 기반 최적화를 조정하여 보다 효율적이거나 강력한 칩 설계를 향한 더 빠른 반복을 지원합니다.
제조 및 고급 엔지니어링	제품 설계 및 생산 프로세스를 최적화하려는 자동차, 항공 우주 또는 산업 부문의 제조업체.	엔지니어는 Discovery를 사용하여 대규모 가상 프로토타입을 실행하고 수천 가지 디자인 변형을 테스트하여 성능, 무게 및 내구성을 테스트할 수 있습니다. 프로세스 엔지니어링에서 플랫폼은 매개 변수를 조정하여 수율과 품질을 개선하는 데 도움이 됩니다. Discovery에는 더 빠른 혁신과 보다 정보에 입각한 의사 결정을 지원하는 컨텍스트에서 시뮬레이션을 조정하고 결과를 분석할 수 있는 기능이 있습니다.

모델 및 학습 데이터

Microsoft Discovery는 다양한 AI 모델을 사용하여 사용자에게 표시되는 환경을 제공합니다.

클라우드 배포: 클라우드 배포에서는 사용자가 Azure OpenAI Service를 통해 Azure AI Foundry를 통해 모델에 접근합니다. 사용되는 특정 모델로는 OpenAI gpt-5, OpenAI gpt-5.2, OpenAI gpt-5.4, OpenAI gpt-5.4-mini, OpenAI gpt-5.5, OpenAI 텍스트 임베딩 3(소규모) 등이 있으나 이에 국한되지 않습니다. Azure OpenAI 모델에 대한 학습 데이터, 평가 및 책임 있는 AI 고려 사항에 대한 자세한 내용은 Azure OpenAI - Azure AI 플랫폼에 대한 투명도 참고를 참조하세요.

로컬 애플리케이션: 로컬 애플리케이션 배포에서 사용자는 GitHub Copilot SDK를 통해 모델에 접근합니다. 구체적인 모델은 사용자의 GitHub Copilot 구독과 해당 계획에서 활성화된 모델에 따라 다릅니다. GitHub Copilot을 통해 제공되는 모델의 학습 데이터, 평가 및 책임 있는 AI 고려사항에 관한 정보는 GitHub Copilot 문서를 참조하세요.

Performance

이 섹션에서는 검색이 안정적으로 수행되어야 하는 조건 및 환경에 대해 설명합니다. 또한 플랫폼에서 허용하는 입력 유형, 생성하는 출력 및 지원하는 언어에 대해서도 설명합니다.

Modalities

의도한 입력	설명	예상 출력
자연어	Discovery Copilot 인터페이스를 통해 제출된 텍스트 기반 대화 프롬프트, 연구 목적 및 에이전트 지침	연구 요약, 추론 추적, 문학 합성 및 대화형 응답.
기술 자료 문서	지식 색인화를 위한 비구조화 파일. 예를 들어 PDF, CSV, TXT, Word(.docx), PowerPoint(.pptx) 및 Excel(.xlsx)가 있습니다.	도메인 특화 추론, 시뮬레이션 보고서, 변환된 데이터셋. 클라우드 배포에서는 출력이 지정된 Azure Storage 컨테이너에 저장됩니다. 로컬 애플리케이션에서는 출력이 사용자의 로컬 파일 시스템에 저장됩니다.
계산 데이터	컨테이너화된 과학 도구(예: 분자 구조 또는 회로 설계)에 대한 입력으로 사용되는 도메인별 데이터 자산, 구성 파일 및 스크립트입니다.	생성된 스크립트, 코드 조각 및 구조적 데이터 파일입니다.

일관되고 안정적인 실행을 보장하기 위해 엄격하게 UTF-8은 모든 에이전트 지침 및 프롬프트를 인코딩합니다. 서식 있는 텍스트 아티팩트 또는 인코딩 오류를 생성하는 문자(예: Mojibake)와 같은 비규격 서식을 사용하면 실행 실패 또는 예기치 않은 동작이 발생할 수 있습니다.

언어들

검색은 영어로 설계 및 평가됩니다. 기본 LLM 모델에는 자연어 이해 및 생성을 위한 고유 다국어 기능이 있지만 플랫폼의 시스템 프롬프트, 사용자 인터페이스 및 핵심 평가는 이 릴리스에 대해 영어로 최적화되고 유효성을 검사합니다.

다른 언어로 사용하는 것은 실제로 작동할 수 있지만 현재 릴리스에 대해 테스트되고 지원되는 동작의 범위를 벗어집니다.

워크로드 유형

검색은 자율 AI 에이전트 오케스트레이션이 필요한 복잡하고 다각적인 장기 연구 과제(몇 시간 또는 며칠에 걸친 작업)에 최적화되어 있습니다. 간단한 일회성 쿼리용으로 설계되지 않았습니다. 플랫폼의 인지 검색 엔진은 빠른 추론 모드와 느린 추론 모드 간에 적응적으로 전환하여 이러한 복잡한 문제를 분해하고 해결합니다.

환경

클라우드 배포: 디스커버리는 Virtual Network(VNet) 격리, 관리 신원 및 Role-Based Access Control(RBAC)을 사용하여 안전한 Azure 호스팅 클라우드 환경에서 작동합니다. HPC(확장 가능한 High-Performance 컴퓨팅) 노드 풀(CPU 및 GPU 옵션 모두 포함)에 의존하여 계산 집약적 워크로드를 실행합니다.

로컬 애플리케이션: 로컬 애플리케이션은 사용자의 데스크톱 컴퓨터에서 실행되며, 인증용 GitHub 계정을 통해 GitHub Copilot SDK를 통해 모델에 접근합니다. 데이터는 사용자의 컴퓨터에 로컬로 처리되고 저장됩니다. 로컬 애플리케이션은 Azure 네트워킹 인프라나 관리 아이덴티티를 사용하지 않습니다. 사용자는 운영 체제 업데이트, 디스크 암호화, 네트워크 구성 등 로컬 환경을 보호할 책임이 있습니다.

제한점

Discovery의 제한 사항을 이해하는 것은 이를 안전하고 효과적인 범위 내에서 사용하도록 하는 데 매우 중요합니다. 혁신적인 솔루션 또는 애플리케이션에서 Discovery를 사용하지만 Discovery는 가능한 모든 시나리오에 맞게 설계되지 않았습니다.

검색 행동 강령, Microsoft 엔터프라이즈 AI 서비스 행동 강령(조직용) 또는 Microsoft 서비스 계약 행동 강령 섹션(개인용)을 참조하세요. 또한 사용 사례를 선택할 때 다음과 같은 고려 사항을 고려합니다.

자동화 바이어스 및 루프 드리프트: Discovery는 자동화 편향의 위험을 초래하는 반자동 에이전트 워크플로를 지원합니다. 이 바이어스는 충분한 유효성 검사 없이 AI 생성 출력을 과도하게 신뢰하는 경향을 나타냅니다. 반복 워크플로에서 작은 부정확성도 시간이 지남에 따라 루프 드리프트라고 하는 현상을 복합화할 수 있습니다.

연구가 올바른 방향으로 진행되고 과학적 목적에 부합하도록 하려면 인간 개입형 감독이 필수적입니다. 주요 의사 결정 지점에서 의미 있는 사용자 검토를 수용할 수 없는 사용 사례는 현재 형식의 이 플랫폼에 적합하지 않습니다.
표현 바이어스: 검색 출력은 기본 모델을 학습시키는 데 사용되는 과학 문헌 또는 데이터 세트에 존재하는 불균형을 반영할 수 있습니다. 발견은 지배적 인 연구 관점을 과장하거나 신흥 및 저연구 영역을 과소 대표 할 수 있습니다. 도메인 전문 지식을 적용하고 출력을 비판적으로 평가합니다. 특히 학습 데이터의 표현이 제한될 수 있는 새로운 또는 학제 간 필드에서 작업하는 경우.
데이터의 임시 관련성: 과학적 지식은 빠르게 진화합니다. 검색이 정적 또는 오래된 데이터 세트를 사용하는 경우 오래된 결과를 표시하거나 최근 개발을 놓칠 수 있습니다. (이 리스크는 합성 생물학 또는 AI 중심 약 발견과 같은 빠르게 움직이는 필드에 특히 중요합니다.) 데이터 원본의 통화를 정기적으로 평가하고, 특히 시간에 민감한 연구를 위해 그에 따라 출력을 처리합니다.
성능 가변성 및 부정확한 출력 위험: 사용자가 고객이 제공한 기술 자료를 쿼리할 때 응답 품질 및 근거는 기본 데이터의 구조, 완전성 및 관련성, 에이전트가 해당 데이터를 검색하고 추론하도록 구성되는 방법에 크게 의존합니다. 기술 자료가 부족하거나, 구조화되지 않거나, 범위가 약한 시나리오에서 시스템은 불완전하거나 충분히 접지되지 않은 응답을 생성할 수 있습니다.

이러한 위험을 줄이기 위해 Microsoft 기술 자료를 쿼리하고 접지 제약 조건을 적용하기 위한 권장 패턴을 보여 주는 GitHub 리포지토리에 참조 샘플 에이전트를 제공합니다. 사용자 지정 에이전트 및 워크플로를 빌드할 때 이 샘플을 시작점으로 사용하고, 강력한 사용 사례에 대해 추가 유효성 검사 및 사용자 검토를 적용합니다. 자세한 내용은 섹션 10을 참조하세요.
도구 체인 호환성: 검색은 다양한 계산 도구 및 모델과 통합됩니다. 도구 가정(예: 입력 형식, 매개 변수 범위 또는 버전 관리)의 불일치로 인해 실행 실패 또는 잘못된 결과가 발생할 수 있습니다. 특히 사용자 지정 또는 비 Microsoft 구성 요소를 통합하는 경우 도구 오케스트레이션 워크플로를 신중하게 테스트하고 유효성을 검사합니다.
고객 데이터: 서비스를 사용할 때 데이터 민감도 및 액세스 제어를 관리할 책임이 있습니다. 적절한 제어 및 규약이 마련되지 않는 한 규제, 분류 또는 매우 중요한 데이터를 입력하지 마세요.
대화 채도: 대화가 길어지면 응답 품질이 점차 감소할 수 있습니다. 전체 대화가 모델이 안정적으로 추적할 수 있는 내용에 접근하면 이전 부분을 요약하여 새 정보를 위한 공간을 확보할 수 있습니다. 이 프로세스 중에 일부 세부 정보는 단순화, 변경 또는 손실될 수 있으며, 이로 인해 응답이 정확도 또는 의도에서 느리게 드리프트될 수 있습니다.

긴 교환이 감소하는 것을 발견하면 새 대화를 시작하면 명확성과 응답 품질을 복원하는 데 도움이 될 수 있습니다.
도구 신호 희석: 시스템이 더 크고 더 큰 에이전트 풀에 액세스할 수 있게 되면 작업에 가장 적합한 도구를 선택하는 기능이 저하될 수 있습니다. 시스템에서 관련 시나리오에 사용할 수 있는 에이전트 목록을 적극적으로 큐레이팅합니다.

금지된 사용

Discovery의 다음 사용은 엄격히 금지됩니다.

무기 개발: Discovery를 사용하여 화학, 생물학적, 방사선적 또는 핵무기 또는 대량 피해를 입힐 수 있는 기타 무기의 설계, 개발, 테스트 또는 배포를 지원할 수 없습니다.
유해한 애플리케이션: 개인, 조직 또는 사회에 신체적, 심리적, 환경적 또는 재정적 피해를 줄 수 있는 방법으로는 검색을 사용할 수 없습니다. 이 금지에는 안전하지 않은 실험, 출력 오용 또는 적절한 보호 장치 없이 위험 수준이 높은 컨텍스트에서의 배포가 포함됩니다.
법률 또는 규정 위반: 관련 법률, 규정 또는 업계별 규정 준수 요구 사항을 위반하는 방식으로는 검색을 사용할 수 없습니다. 플랫폼 사용이 모든 관련 법률 및 규제 의무와 일치하는지 확인할 책임이 있습니다.
안전 시스템 우회: 검색 기본 제공 안전 메커니즘, 분류자 또는 콘텐츠 필터를 우회, 비활성화 또는 방해하려는 시도는 엄격히 금지됩니다. 이러한 시스템은 플랫폼의 책임 있고 안전한 사용을 보장하기 위해 마련되었습니다.

평가

Microsoft는 Foundry의 책임 있는 AI 평가 프레임워크에 기반한 수동 맞춤형 평가를 사용하여 Discovery를 평가했습니다. 팀은 대상 릴리스에 대해 큐레이팅된 구조화된 프롬프트 제품군을 실행하여 평가를 실행했습니다. 위험 범주를 사용하여 시스템 동작을 체계적으로 검토했습니다.

평가는 두 가지 핵심 질문에 대답하도록 설계되었습니다. 고객이 시스템을 의도된 한계 밖으로 몰아붙이려고 시도할 때 Discovery는 안전하고 일관된 방식으로 동작하나요? Discovery는 근거 출처를 충실히 따릅니까?

평가 방법론

평가는 시스템 동작의 두 가지 차원인 안전성과 접지성을 대상으로 했습니다. 안전을 위해 평가는 프롬프트가 허용되지 않거나 정책에 민감한 콘텐츠를 유도하려고 할 때, 디스커버리가 적절하게 거부하거나 회피하거나 안전하게 응답했는지, 또는 시스템 보호 장치가 우회되었는지를 평가했습니다. 무해한 요청에 대해 유용하고 정책에 맞게 조정된 상태로 작동해야 합니다.

신뢰성을 위해, 평가에서는 제공된 컨텍스트와 검색된 출처를 Discovery가 충실히 따르는지 평가하였습니다.

이상적으로는 Discovery가 프롬프트 변형과 위험 범주 전반에 걸쳐 일관되게 응답해야 합니다. 검색은 정책 위반 없이 악의적인 입력을 처리해야 합니다. 또한 사용 가능한 근거 출처에 의해 충분히 뒷받침되는 응답을 생성해야 합니다.

바람직하지 않은 동작에는 이전 실행 결과나 벤치마크 대비 성능 저하와 안전하지 않거나 정책상 민감한 콘텐츠 생성이 포함됩니다. 또한 성공적인 탈옥 결과 또는 유사한 프롬프트의 일관되지 않은 처리가 포함됩니다. 특정 상황에서 비효율적인 행동에는 날조된 세부사항, 잘못된 출처 지정, 또는 주어진 맥락에서 뒷받침되지 않는 주장들이 포함됩니다.

데이터 큐레이션

팀은 주요 위험 범주 전반에 걸쳐 Discovery를 체계적으로 테스트하기 위한 평가 데이터를 선별해 구축했습니다. 데이터 세트는 실제 시나리오와 악의적 시나리오 모두에서 동작을 검색하도록 설계된 구조적 테스트 프롬프트로 구성되었습니다. 4개의 위험 도메인을 명시적으로 대상으로 지정하라는 메시지가 표시됩니다.

저작권 및 지적 재산 노출
유해하거나 정책에 민감한 콘텐츠 생성
직접 및 간접 탈옥 시도
Groundedness

각 범주에는 명백한 실패 모드가 아닌 경계 동작을 측정하기 위해 무해한 변형과 적대적 변형이 포함되었습니다.

데이터 세트가 실제 검색 사용량(합성 전용 스트레스 테스트 아님)을 나타내도록 하려면 실제 검색 워크플로를 반영합니다. 예제에는 제품 사용 사례와 일치하는 과학 워크플로 지원 및 지식 합성 시나리오가 포함되었습니다.

유효성 검사

평가 데이터 세트의 안정성과 무결성을 보장하기 위해 여러 품질 및 유효성 제어가 적용되었습니다. 팀은 프롬프트를 중복 제거하고 정규화하여 모호성과 의도치 않은 편향을 제거했습니다. 그들은 정책 정의와의 일치를 확인하기 위해 위험 범주 라벨을 수동으로 검토했습니다. 연구팀은 Foundry가 제공한 기준선 모델에 대해 일부 프롬프트를 재재생하여 안전과 안전하지 않은 반응 간의 예상 행동 분리를 확인했습니다. 또한 이전 릴리스의 회귀 프롬프트를 유지하여 릴리스 간 종단 비교를 지원했습니다. 팀은 Azure OpenAI Service 엔드포인트를 이용한 클라우드 배포에 대한 평가를 실시했습니다. GitHub Copilot SDK를 사용한 로컬 애플리케이션 배포는 동일한 기본 모델에서도 유사한 동작을 보일 것으로 예상되지만, 두 모델 제공자 간 콘텐츠 필터링 및 안전 제어의 차이로 인해 약간의 차이가 있을 수 있습니다.

지표

근거를 위해 팀은 시스템의 응답이 제공된 컨텍스트에 충실하고 지원되지 않는 클레임 또는 조작된 콘텐츠를 감지했는지 여부를 측정했습니다. 캡처된 메트릭은 다음과 같습니다.

근거 없는 속성 결함률(영문 텍스트)
접지 결함 비율(영어 텍스트)

안전을 위해 사용자 지정 평가 도구 모음은 안전한 완성, 거부 또는 편향을 통해 오용 시도를 감지하고 완화하는 시스템의 기능을 측정했습니다. 캡처된 메트릭은 다음과 같습니다.

정책 준수 점수
위험 감지 및 완화 효율성
콘텐츠 안전 분류 정확도
직접 탈옥 저항율
간접 탈옥 저항율

벤치마킹

결과는 시간이 지남에 따라 회귀를 감지하고 안정성을 검증하기 위해 비교 벤치마킹을 통해 해석되었습니다. 각 릴리스는 프롬프트의 공유 하위 집합에 대한 Foundry 제공 기준 모델 동작과 보존된 회귀 프롬프트 집합에서 사용하도록 설정된 이전 릴리스의 기록 결과라는 두 가지 참조 지점에 대해 평가되었습니다. 이러한 비교를 통해 Discovery의 안전 및 안정성 상태가 릴리스 간에 개선되고 안정적인지 또는 회귀하는지에 대한 세로 보기를 제공했습니다.

평가 방법론의 제한 사항

이 평가는 검색 안전성 및 근거에 대한 구조적 인사이트를 제공하지만 몇 가지 제한 사항이 있습니다. 평가는 큐레이팅된 유한 프롬프트 데이터 세트를 사용합니다. 현실적이고 악의적인 사용을 반영하려는 노력에도 불구하고 이 데이터 세트는 실제 사용자 상호 작용 또는 새로운 오용 패턴의 폭을 완전히 포착할 수 없습니다.

수동 검토 및 사용자 지정 점수 매기기는 주관성을 도입하며 평가자 간에 해석의 가변성을 초래할 수 있습니다. 평가는 미리 정의된 프롬프트를 사용하여 제어된 설정에서도 수행됩니다. 그러나 프로덕션 환경에서 관찰된 동적, 다중 턴 또는 도구 통합 시나리오를 완전히 반영하지 않을 수 있습니다.

근거 평가는 평가 시 사용 가능한 컨텍스트 및 검색 품질로 제한되며, 모든 콘텐츠 원본 또는 진화하는 데이터 세트로 일반화되지 않을 수 있습니다.

또 다른 제한 사항은 GPT-5.2 및 GPT-5.4가 평가 모델로 사용되었다는 것입니다. 평가기 모델의 고유한 기능, 추론 동작, 위험에 대한 민감도 및 잠재적 편견은 평가 결과에 영향을 줄 수 있습니다.

따라서 결과를 모든 평가기 모델에서 안전성 또는 정확성에 대한 절대적인 판단이 아닌 모델 지원 평가 결과로 해석합니다.

마지막으로, 이전 실행 및 기준 모델에 대한 벤치마킹은 회귀 및 상대적 개선을 감지하는 데 도움이 될 수 있지만 모든 조건에서 절대 안전성, 근거 또는 정확성을 보장하지는 않습니다.

안전 구성 요소 및 완화

검색은 사용자, 고객 데이터 및 연구 워크플로의 무결성을 보호하는 데 도움이 되는 여러 계층의 안전 및 보안 제어를 통합합니다.

이 섹션에서는 고객, 통합자 및 플랫폼 운영자가 플랫폼을 사용할 때 알아야 하는 활성 안전 구성 요소, 완화 조치 및 사이버 보안 사례를 설명합니다.

활성 안전 구성 요소

검색은 입력 분류자, 필터 및 시스템 수준 보호 장치를 조합하여 오용을 방지하고 유해한 출력의 위험을 줄입니다. 이러한 구성 요소는 Microsoft의 책임 있는 AI 원칙에 맞게 설계되었으며 Discovery의 진화에 따라 상시 업데이트됩니다.

클라우드 배포: 안전 제어는 Microsoft의 콘텐츠 안전 및 필터링 기능인 Foundry Guardrails를 통해 제공되며, 플랫폼 내에서 생성된 모든 모델에 기본적으로 적용되어 지정된 개입 지점에서 콘텐츠를 스캔하여 안전하지 않거나 부적절한 콘텐츠를 모델에 도달하기 전에 차단합니다. 고객은 가드레일을 덜 제한적으로 구성하고, 감지할 위험을 정의하고, 에이전트 동작을 평가하고 모니터링하도록 Guardrail을 할당하고, 안전 임계값을 구성하고, 다양한 사용 사례에서 모델 성능을 평가하는 등 사용자 지정 가드레일을 만들고 심각도 수준을 관리할 수 있습니다. 이러한 기능은 사전 위험 관리 및 안전을 지원합니다. 콘텐츠 필터 구성에 대한 자세한 내용은 콘텐츠 필터 구성(클래식) - Microsoft Foundry(클래식) 포털 | Microsoft Learn을 참조하세요.

수정된 가드레일을 사용하여 Microsoft 직접 판매한 모델을 사용하도록 승인을 등록하려면 제한된 액세스 검토: 수정된 가드레일 양식을 제출할 수 있습니다. 수정된 Guardrails를 사용하기 위한 모든 요구 사항을 승인 받고 준수하는 한, Guardrails를 완전히 비활성화하거나 주석만 사용하는 것을 포함하여 전체적으로 제어할 수 있는 권한을 가지게 됩니다. Guardrails를 사용하지 않도록 설정하는 옵션은 관리되는 고객만 사용할 수 있습니다.

로컬 애플리케이션: 로컬 애플리케이션 배포에서는 GitHub Copilot SDK의 내장 콘텐츠 정책과 책임 있는 AI 보호 장치를 통해 안전 제어가 제공됩니다. 여기에는 콘텐츠 필터링, 즉각적인 안전 점검, 그리고 GitHub Copilot 플랫폼이 시행하는 사용 정책 등이 포함됩니다. 로컬 애플리케이션은 또한 Discovery의 자체 시스템 수준 안전장치인 시스템 메시지와 입력 검증을 적용하여 Microsoft의 책임 있는 AI 원칙과 행동을 일치시킵니다. 로컬 애플리케이션을 사용하는 고객은 모델 계층에 적용되는 안전 통제에 관한 자세한 내용을 확인하기 위해 GitHub Copilot의 허용 사용 정책을 검토해야 합니다.

완화 조치

디스커버리의 안전성과 성능 상태는 지속적인 평가와 위험 검토를 통해 이루어집니다. AI 생성 응답이 부정확하고 자동화 바이어스 및 루프 드리프트와 같은 위험을 해결하기 위해 Discovery는 핵심 완화 전략으로 인적 루프 감독을 강조합니다. 특히 고위험 연구 시나리오에서 AI 생성 결과물을 핵심 의사결정 지점에서 검증합니다.

이 플랫폼은 해당하는 경우 인용 및 접지 원본을 표시하여 투명성을 지원하며, 이를 통해 고객은 생성된 콘텐츠의 출처를 추적하고 안정성을 평가할 수 있습니다. 기초 워크플로의 경우 고객은 기술 자료 문서가 현재, 잘 구조화되어 있으며 의도한 연구 범위와 관련이 있는지 확인하는 것이 좋습니다. 출력 안정성은 사용 가능한 접지 원본의 품질과 직접 연결됩니다.

검색을 통해 고객은 자신의 모델, 데이터 세트 및 에이전트를 통합할 수 있습니다. 이러한 확장성은 범용 모델이 실적이 저조할 수 있는 특수 또는 신흥 필드에서 바이어스를 줄이고 관련성을 개선하는 데 도움이 됩니다. 과소 대표되거나 고도로 특수화된 도메인에서 작업하는 사용자는 이 기능을 사용하여 플랫폼 동작을 특정 연구 컨텍스트에 더 잘 맞추는 것이 좋습니다.

사이버 보안 조치

디스커버리의 사이버보안 아키텍처는 방어 심층 모델을 중심으로 설계되었습니다. 구체적인 조작 방식은 배치 모드에 따라 다릅니다.

클라우드 배포

다음 섹션에서는 이번 릴리스에서 클라우드 배포를 위한 적극적인 조치들을 설명합니다.

ID 및 액세스 관리: 검색은 Microsoft Entra ID 및 RBAC를 사용하여 최소 권한 액세스를 적용합니다. 모든 컨트롤 플레인 및 데이터 평면 액세스는 Microsoft Entra ID 통해 인증됩니다. 사용자 할당 관리 ID(UAMI)는 플랫폼 구성 요소에서 내장된 비밀 정보 없이 Azure 리소스에 액세스할 수 있도록 사용됩니다. 플랫폼별 RBAC 역할은 운영자, 개발자 및 보안 관리자 간의 업무 분리를 지원합니다.
네트워크 보안: 검색은 프라이빗 기본 네트워크 아키텍처를 사용합니다. 모든 검색 리소스는 기본적으로 Azure Private Link 사용하도록 설정되어 공용 IP 노출을 제거합니다. 데이터 평면 API는 리소스 수준에서 공용 네트워크 액세스를 사용하지 않도록 설정했습니다. 트래픽은 프라이빗 엔드포인트, 프라이빗 DNS 영역 및 네트워크 보안 그룹을 사용하여 고객 VNet으로 제한됩니다. 이 아키텍처는 제로 트러스트 네트워킹 원칙을 지원하고 플랫폼의 전반적인 공격 노출 영역을 줄입니다.
데이터 보호: 고객 데이터는 암호화 및 테넌트 격리를 통해 보호됩니다. 미사용 데이터 암호화는 스토리지 및 플랫폼 서비스에 대한 Azure 관리형 암호화를 통해 제공됩니다. 전송 중인 암호화는 모든 서비스 간 통신 및 클라이언트 간 통신에 HTTPS 및 TLS(전송 계층 보안)를 사용하여 적용됩니다. 고객 데이터, 지식 그래프 및 모델은 테넌트 격리되며 고객 간에 공유되지 않습니다. 고객은 데이터의 전체 소유권과 제어권을 보유하며 언제든지 자산을 내보내거나 제거할 수 있습니다.
플랫폼 강화: 검색 컴퓨팅 인프라는 Azure 보안 기준을 사용하여 강화됩니다. 슈퍼컴퓨터 클러스터 및 노드 풀은 Azure 보안 구성 표준에 따라 Azure 관리형 인프라에 배포됩니다. 플랫폼 검토는 TLS 구성, 진단 로깅 및 프라이빗 엔드포인트 사용을 포함하여 Microsoft 클라우드 보안 벤치마크 요구 사항 준수를 추적합니다. 지속적인 보안 검토는 구성 격차를 식별하고 인프라 업데이트 및 정책 적용을 통해 수정을 추진합니다.
로깅, 모니터링 및 검색: 검색은 Azure 모니터링 및 보안 도구와 통합되어 검색 및 응답을 지원합니다. 플랫폼 리소스에서 진단 로그를 사용하도록 설정하고 고객 관리형 로깅 솔루션으로 라우팅할 수 있습니다. 연결 및 가용성은 사전 상태 검사 및 플랫폼 원격 분석을 사용하여 모니터링됩니다. 보안 결과 및 구성 드리프트는 진행 중인 플랫폼 보안 평가의 일부로 검토됩니다.

지역 적용

다음 섹션에서는 로컬 애플리케이션 배포를 위한 보안 조치에 대해 설명합니다.

신원 및 인증: 로컬 애플리케이션은 GitHub Copilot SDK를 사용하여 GitHub 계정을 통해 사용자를 인증합니다. 모델 기능에 대한 접근은 사용자의 GitHub Copilot 구독과 관련 권한에 의해 관리됩니다. 로컬 애플리케이션은 Azure 자격 증명이나 관리 신원이 필요하지 않습니다.

데이터 보호: 로컬 애플리케이션은 사용자의 로컬 파일 시스템에 모든 데이터를 저장합니다. 운영체제의 기본 암호화 기능(예: Windows의 BitLocker, macOS의 FileVault)은 휴지된 데이터를 보호합니다. 로컬 애플리케이션은 HTTPS와 TLS를 사용하여 전송 중인 GitHub Copilot 서비스와의 통신을 암호화합니다. 고객 데이터는 사용자의 컴퓨터에 보관되며 다른 사용자나 테넌트와 공유되지 않습니다.

애플리케이션 보안: 로컬 애플리케이션은 Microsoft의 보안 개발 수명주기(SDL)를 따릅니다. 업데이트는 표준 애플리케이션 업데이트 메커니즘을 통해 배포되며, 애플리케이션은 무결성을 보장하기 위해 코드 서명이 이루어집니다.

두 배치 모드 모두

보안 개발 및 규정 준수: Discovery는 Microsoft 보안 개발 수명 주기(SDL)와 지속적인 규정 준수 모델을 따릅니다. 이 플랫폼은 보안 버그, 취약점, SDL 요구사항을 지속적으로 중앙에서 추적하고 검토합니다. Discovery는 SOC, ISO 및 기타 Azure 인증을 포함한 외부 규정 준수 감사를 지원하는 Azure의 연속 SDL 및 취약성 관리 프로그램에 참여합니다. 이 접근 방식을 통해 보안은 릴리스 시간에만 평가되지 않고 지속적으로 평가됩니다.

공동 책임

클라우드 배포: 클라우드 배포의 보안은 Azure 공동 책임 모델을 따릅니다. 디스커버리는 기본 플랫폼, 관리 서비스 및 컨트롤 플레인을 보호합니다. 고객은 구독, VNet, 역할 할당 및 데이터 액세스 정책을 보호해야 합니다. 이 책임 부서를 이해하는 것은 조직 및 규정 준수 요구 사항에 맞는 보안 배포를 설계하는 고객에게 중요합니다.

로컬 애플리케이션: 로컬 애플리케이션 배포에서는 사용자가 자신의 환경 보안에 대해 더 큰 책임을 집니다. Microsoft는 애플리케이션 자체의 보안, 업데이트 메커니즘, 그리고 GitHub Copilot SDK 통합의 무결성에 대해 책임을 집니다. 사용자는 운영 체제 업데이트, 디스크 암호화, 네트워크 보안, 접근 제어 등 로컬 머신의 보안을 책임집니다. 사용자들은 또한 다중 인증 등 강력한 인증으로 GitHub 계정을 보호해야 합니다.

Discovery 통합 및 배포 모범 사례

책임 있는 AI는 Microsoft와 고객 간의 공유된 약속입니다. Microsoft 보안, 공정성 및 투명성을 핵심으로 AI 애플리케이션을 구축하지만 고객은 자체 컨텍스트 내에서 이러한 기술을 책임감 있게 배포하고 사용하는 데 중요한 역할을 합니다. 이 파트너십을 지원하기 위해 고객이 책임 있는 AI를 효과적으로 구현할 수 있도록 배포자와 사용자를 위한 다음과 같은 모범 사례를 제공합니다.

배포자 및 최종 사용자는

결과적 결정이나 중요한 도메인에서 검색을 사용하는 경우 주의하고 결과를 모니터링합니다. 결과적 결정은 교육, 고용, 금융 플랫폼, 정부 혜택, 의료, 주택, 보험 또는 법적 플랫폼에 대한 개인의 액세스에 법적 또는 중대한 영향을 미칠 수 있습니다. 그(것)들은 또한 신체적, 심리적, 또는 재정적인 해를 초래할 수 있습니다.

중요한 도메인은 다른 그룹의 사람들에게 불균형적으로 영향을 미칠 가능성이 있기 때문에 특별한 주의가 필요합니다. 이러한 영역에서 의사 결정에 AI를 사용하는 경우 영향을 받는 이해 관계자가 의사 결정 방법을 이해하고, 결정에 이의를 제기하고, 관련 입력 데이터를 업데이트할 수 있는지 확인합니다.
법률 및 규제 고려 사항을 평가합니다. 모든 산업 또는 시나리오에서 사용하기에 적합하지 않을 수 있는 AI 플랫폼 및 솔루션을 사용할 때 잠재적인 특정 법률 및 규제 의무를 평가해야 합니다. AI 플랫폼 또는 솔루션은 해당 서비스 약관 및 관련 행동 강령에서 금지된 방식으로 설계되지 않았으며 사용할 수 없습니다.

최종 사용자는 다음을 이행해야 합니다

명확한 특정 프롬프트를 사용합니다. 목표, 작업의 범위 및 사용할 증거에 대한 프롬프트가 명시적인지 확인합니다. 명확하고 효과적인 프롬프트에는 일반적으로 다음이 포함됩니다.

목표(배우거나 결정하려는 내용).
컨텍스트(도메인 가정, 제약 조건 및 성공 조건).
사용할 원본(참조할 기술 자료, 문서 또는 도구)입니다.
출력 형식(예: 테이블, 순위가 지정된 목록 및 실험 계획).
근거 요청(가능한 경우 출처 인용 또는 추적 가능한 근거를 요청합니다).

예제 프롬프트

TOPIC<에서 인덱싱된 기술 자료 문서를 사용하여 RESEARCH GOAL>에 <대한 세 가지 테스트 가능한 가설을 >제안합니다. 각 가설: (a) 지원 증거를 요약하고, (b) 사용된 특정 출처를 인용하고, (c) 유효성을 검사하기 위해 2~3개의 실험을 나열합니다. 증거가 없거나 약한 경우 명시적으로 말하고 필요한 다른 데이터를 제안합니다.

성능 드리프트 모니터링: 출력 품질 및 접지성은 접지에 사용할 수 있는 데이터와 에이전트 또는 도구가 구성된 방법에 따라 달라집니다. 기술 자료, 도구 또는 워크플로가 발전함에 따라 결과가 변경될 수 있습니다. 드리프트를 검색하려면 다음을 수행합니다.
- 작은 벤치마크 일련의 프롬프트를 주기적으로 다시 실행하고 일관성, 완전성 및 접지에 대한 출력을 비교합니다.
- 인용 감소 또는 약한 인용, 불확실성 증가, 모순된 결론 또는 누락된 주요 제약 조건과 같은 경고 징후를 감시합니다.
- 기술 자료를 업데이트(문서 추가 또는 제거)하는 경우 이를 버전 변경 으로 처리하고 중요한 워크플로를 다시 확인합니다.
- 인적 검토 및 영향을 많이 미치는 작업에 대한 두 번째 유효성 검사 방법(도메인 전문가 검토, 독립적인 계산 또는 시뮬레이션 또는 제어된 테스트 실행)을 사용합니다.
적절한 경우 사용자 감독을 수행합니다 . 인간 감독은 AI 애플리케이션과 상호 작용할 때 중요한 보호 장치입니다. AI 애플리케이션은 지속적으로 개선되지만 AI는 여전히 실수를 할 수 있습니다. 생성된 출력은 부정확하거나, 불완전하거나, 편향되거나, 잘못 정렬되거나, 의도한 목표와 관련이 없을 수 있습니다.

이 상황은 기본 모델의 입력 또는 제한 사항의 모호성과 같은 다양한 이유로 인해 발생할 수 있습니다. 검색에서 생성된 응답을 검토하고 예상 및 요구 사항과 일치하는지 확인해야 합니다.
과잉 의존의 위험을 이해합니다 . 사용자가 잘못되거나 불완전한 AI 출력을 수락할 때 과잉 의존이 발생할 수 있습니다. AI 출력의 실수는 감지하기 어려울 수 있기 때문입니다. 이러한 부정확한 출력은 일반적으로 기본 증거가 불완전하거나 명확하게 접지되지 않은 경우의 결과입니다. 검색을 사용하면 이 위험이 길고 반복적인 워크플로(작은 오류가 복합적일 수 있음) 및 기술 자료 적용 범위가 제한된 시나리오에서 증가할 수 있습니다. 결과를 특히 중요한 의사 결정에 대해 의사 결정 대체가 아닌 지원 도구로 간주합니다.
중요한 도메인에서 에이전트 AI를 디자인할 때 주의해야 합니다. 되돌릴 수 없거나 영향이 큰 작업(예: 규제 또는 안전에 중요한 도메인)을 트리거할 수 있는 자율 또는 에이전트 워크플로를 설계하거나 배포하는 경우 보호 장치를 추가해야 합니다. 승인 게이트, 최소 권한 액세스, 감사 로그 또는 제한된 작업 범위를 사용해야 할 수 있습니다. 영향을 받는 이해 관계자가 결과에 도달한 방식을 이해하고 해당하는 경우 결정에 이의를 제기하거나 이의를 제기할 수 있는지 확인합니다.

또한 Microsoft Enterprise AI 서비스 행동 강령(조직의 경우) 또는 Microsoft 서비스 계약 행동 강령 섹션(개인용)에 설명된 대로 자율 에이전트 AI를 만들 때 다른 예방 조치를 취해야 합니다.
Microsoft 검색을 개선하는 데 도움이 되는 피드백 제공: 문제가 발생하거나 피드백을 공유하려는 경우 Discovery Studio에서 오른쪽 아래 모서리에서 피드백 제공을 선택합니다. 발생한 내용을 설명하고 피드백 양식에 관련 세부 정보를 포함할 수 있습니다. 양식을 제출하여 Discovery 팀에 피드백을 보냅니다.

배포자는 다음을 수행해야 합니다.

참조 샘플 에이전트를 접지 에이전트 디자인의 기준으로 사용합니다. 검색은 GitHub 리포지토리에 참조 샘플 에이전트를 제공합니다. 에이전트는 고객 기술 자료를 쿼리하고, 접지 제약 조건을 적용하고, 증거가 없거나 약한 경우를 처리하기 위한 권장 패턴을 보여 줍니다.

이 샘플에서는 검색 범위를 관련 원본으로 지정하고 명시적 인용 또는 추적 가능성을 요구하는 방법을 보여 줍니다. 또한 고객이 제공한 데이터로 작업할 때 비그라운드 또는 투기적 출력의 위험을 줄이는 방법을 보여 줍니다.

도메인, 데이터 및 위험 컨텍스트에 따라 샘플을 조정하고 확장 합니다. 참조 샘플 에이전트를 프로덕션 준비 솔루션이 아닌 시작점으로 처리합니다. 사용자 지정 에이전트 및 워크플로를 빌드할 때 검색 논리, 접지 요구 사항, 유효성 검사 단계 및 휴먼 인 더 루프 검토를 조정하는 것이 좋습니다. 특정 도메인, 데이터 구조 및 위험 프로필에 에이전트 및 워크플로를 기반으로 합니다. 이 방법은 높은 영향 또는 장기 실행 에이전트 워크플로에 중요합니다.

강력한 신원 및 접근 제어(최소 권한) 구현: 클라우드 배포의 경우 Discovery는 Microsoft Entra ID 인증 및 역할 기반 접근 제어(RBAC)를 사용하며, 배포자는 각 사용자 또는 워크로드에 필요한 최소 역할만 부여하여 이 모델을 미러링해야 합니다. 절대적으로 필요한 경우를 제외하고 광범위한 "소유자" 또는 구독 전체 권한을 사용하지 말고 리소스 그룹 또는 리소스 수준에서 범위가 지정된 역할을 선호합니다. 서비스 대 서비스 액세스에 UAMI(사용자 할당 관리 ID)를 사용하여 포함된 비밀에 의존하지 않고 정기적으로 역할 할당을 검토합니다. 로컬 애플리케이션 배포 시에는 사용자가 적절한 Copilot 구독 권한이 있는 GitHub 계정으로 인증하고, 해당 계정에 다중 인증을 강제해야 합니다.

네트워크 태세를 강화하고 자원을 기본적으로 프라이빗으로 유지하세요: 클라우드 배포의 경우, Discovery는 기본적으로 Azure Private Link가 활성화되어 있고 데이터 플레인 API에서 공용 네트워크 접근이 비활성화된 상태로 설계되었습니다; 이 포세스는 신뢰 가능한 가상 네트워크(VNet) 접근을 제한하고 프라이빗 엔드포인트, 프라이빗 DNS 존, 네트워크 보안 그룹(NSG)을 사용하여 유지합니다. 조직에 추가 "링 펜싱"이 필요한 경우 플랫폼 인프라가 배포된 후 NSP(네트워크 보안 경계)를 배포하여 종속 PaaS 서비스(예: Cosmos DB, Azure SQL Server, Key Vault, Storage 계정)를 추가로 보호할 수 있습니다. 공개 노출을 줄이면 공격 표면이 낮아지고 신뢰할 수 없는 네트워크 위치에서 사용되는 도난된 자격 증명을 방지할 수 있습니다. 로컬 애플리케이션 배포 시에는 사용자의 컴퓨터가 보안 네트워크에 연결되어 있고, 조직 방화벽을 통해 GitHub Copilot 서비스로의 아웃바운드 연결이 허용되는지 확인하세요.

안전 제어를 활성화하고 안전 임계값 변경 사항을 검증하세요: 클라우드 배포의 경우, Discovery는 플랫폼 내에서 생성된 모델에 대해 기본적으로 Foundry 가드레일 / 콘텐츠 필터링을 적용하며, 내장된 안전 메커니즘을 우회하거나 비활성화하려는 시도는 금지됩니다. 배포자는 안전 임계값 구성 및 에이전트 동작 모니터링을 포함하여 Foundry 포털에서 가드레일을 만들고 관리할 수 있습니다. 임계값을 변경하거나 필터를 사용자 지정하는 경우 광범위하게 롤아웃하기 전에 대표 프롬프트를 사용하여 변경 내용을 테스트합니다. 예를 들어 이 릴리스의 콘텐츠 필터 구성에는 입력/출력 필터링 임계값(예: "보통"의 폭력/증오/성적, "높음"의 자해)이 포함되며 탈옥 및 보호된 재료 감지와 같은 모델을 사용할 수 있습니다. 이러한 설정을 변경하면 사용자 환경과 안전성 결과에 모두 영향을 줄 수 있습니다. 추가 정보는 Azure AI 콘텐츠 보안 설명 문서 - 빠른 시작, 튜토리얼, API 참조 - Foundry Tools | Microsoft Learn를 참조합니다. 로컬 애플리케이션 배포의 경우, 안전 제어는 GitHub Copilot SDK의 내장 콘텐츠 정책에 의해 제공됩니다. 이러한 통제는 우회되어서는 안 되며, 배포자는 조직의 Copilot 정책이 적절히 구성되었는지 확인해야 합니다.

의도한 사용 사례를 반영하는 작은 골든 엔드 투 엔드 시나리오 집합을 만듭니다. 고유한 도구, 모델 및 기술 자료 콘텐츠를 포함합니다. 모델, 도구, 에이전트 또는 데이터 세트를 변경할 때마다 시나리오를 다시 실행합니다. 도구 가정(형식, 매개 변수 범위 및 버전 관리)의 불일치로 인해 오류가 발생하거나 잘못된 결과가 발생할 수 있으므로 오케스트레이션 워크플로의 유효성을 신중하게 검사합니다.

이 방법은 사용자 지정 또는 비 Microsoft 구성 요소를 온보딩할 때 특히 중요합니다. 영향이 높은 시나리오의 경우 사용자 검토 및 독립적인 유효성 검사 방법이 필요합니다. 예를 들어 도메인 전문가 검토 또는 제어된 테스트 실행을 사용합니다.

로깅 활성화 및 드리프트 모니터링: 디스커버리는 진단 로그를 활성화하고 고객 관리 로깅 솔루션으로 라우팅할 수 있도록 하여 로깅과 모니터링을 지원합니다. Discovery는 사전 예방적 상태 점검 및 텔레메트리를 사용하여 연결 상태와 가용성을 추적합니다. 이 로그들을 활성화하고, 반복적인 실패나 비정상적인 오류 패턴에 대한 경고를 설정하며, 지속적인 플랫폼 보안 평가의 일환으로 주기적으로 보안 발견과 구성 드리프트를 검토하세요.

성능 및 출력 품질 드리프트의 경우 기술 자료, 도구, 워크플로 또는 에이전트의 변경 내용을 버전 변경으로 처리합니다. 작은 벤치마크 세트를 다시 실행하여 일관성, 완전성, 근거성을 비교하세요. 경고 징후에는 인용이 적거나 약하거나, 불확실성이 증가하거나, 결론이 모순되거나, 주요 제약 조건이 누락됩니다. 이러한 신호를 사용하여 심층 검토 및 수정을 트리거합니다.

Microsoft 검색에 대해 자세히 알아보기

Discovery의 책임 있는 사용에 대한 자세한 지침은 AI 기반 기능을 배포하기 위한 주요 원칙을 간략하게 설명하는 책임 있는 사용 가이드를 검토하는 것이 좋습니다. 여기에서 자세히 알아볼 수 있습니다.

책임 있는 AI에 대해 자세히 알아보세요.

피드백

이 페이지가 도움이 되었나요?

2026-09-18 에 마지막으로 업데이트됨