애플리케이션 또는 플랫폼 카드 무엇인가요?
Microsoft의 애플리케이션 및 플랫폼 카드는 AI 기술의 작동 방식, 애플리케이션 소유자가 애플리케이션 성능 및 동작에 영향을 줄 수 있는 선택 사항, 기술, 사람 및 환경을 포함한 전체 애플리케이션을 고려하는 것의 중요성을 이해하는 데 도움이 되도록 하기 위한 것입니다. 애플리케이션 카드는 AI 애플리케이션용으로 만들어지고 플랫폼 카드는 AI 플랫폼 서비스에 대해 만들어집니다. 이러한 리소스는 자체 애플리케이션의 개발 또는 배포를 지원할 수 있으며 영향을 받는 사용자 또는 이해 관계자와 공유할 수 있습니다.
책임 있는 AI에 대한 노력의 일환으로 Microsoft는 공정성, 안정성 및 안전, 개인 정보 보호 및 보안, 포용성, 투명성 및 책임의 6가지 핵심 원칙을 준수합니다. 이러한 원칙은 책임 있는 AI Standard 포함되며, 이는 AI 애플리케이션을 설계, 빌드 및 테스트하는 팀을 안내합니다. 애플리케이션 및 플랫폼 카드는 기능, 의도된 사용 및 제한 사항에 대한 투명성을 제공하여 이러한 원칙을 운영하는 데 중요한 역할을 합니다. 추가 인사이트를 위해 독자는 책임 있는 AI 투명성 보고서 와 책임 있는 AI에 참여하는 방법을 간략하게 설명하는 Microsoft 엔터프라이즈 AI 서비스 행동 강령을 살펴보는 것이 좋습니다.
개요
Microsoft Security Copilot 기계 속도와 규모로 보안 결과를 개선하기 위해 수비수의 효율성과 기능을 높이는 데 도움이 되는 생성 AI 기반 보안 솔루션입니다. Security Copilot 보안 전문가와 IT 관리자가 인시던트 대응, 위협 헌팅, 인텔리전스 수집 및 자세 관리를 포함한 광범위한 엔드 투 엔드 시나리오를 처리하는 데 도움이 되는 자연어 보조 부조종사 환경을 제공합니다.
Security Copilot 통합을 염두에 두고 설계되었으며 에서 https://securitycopilot.microsoft.com몰입형 독립 실행형 환경을 제공합니다. 이 플랫폼은 Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra 및 Microsoft Purview와 같은 Microsoft 보안 포트폴리오의 제품 및 지원되는 타사 서비스와 원활하게 통합됩니다.
Security Copilot 에이전트는 출력을 생성하고 고객이 정의한 구성된 논리, 권한 및 트리거에 따라 작업을 수행할 수 있습니다. 고객은 자율 Security Copilot 에이전트를 사용하여 모든 권한을 유지하면서 보안 워크플로를 자동화하고, 응답 시간을 가속화하고, 위험을 우선 순위를 지정하고, 수동 워크로드를 줄일 수 있습니다. 에이전트 자율성은 정의된 경계 내에서 독립적으로 작업을 수행하는 에이전트의 기능을 나타냅니다.
관리자(Security Copilot 소유자)는 Security Copilot 포털 및 Security Store를 통해 에이전트를 검색하고 배포하며, 일부 에이전트는 포함된 Microsoft 보안 제품 환경에도 표시됩니다. 관리자는 에이전트의 ID를 설정하고 에이전트에 대한 RBAC(역할 기반 액세스 제어)를 구성합니다.
의도된 사용자는 SOC 분석가, IT 관리자, 데이터 보안 및 ID 관리자, 규정 준수 분석가 및 CISO(최고 정보 보안 책임자)와 같은 보안 리더를 포함합니다.
Security Copilot ISO 42001 인증을 보유하고 있으며, 이는 독립적인 타사에서 microsoft의 필요한 프레임워크 및 기능 적용을 검토하여 Microsoft AI 시스템의 지속적인 개발, 배포 및 운영과 관련된 위험과 기회를 효과적으로 관리했음을 확인합니다.
자세한 내용은 Microsoft Security Copilot란?, Microsoft Security Copilot 환경 및 Security Copilot 애플리케이션 카드 참조하세요.
주요 용어
다음 표에서는 Microsoft Security Copilot 에이전트와 관련된 주요 용어집을 제공합니다.
| 용어 | 정의 |
|---|---|
| 에이전트 | Security Copilot 에이전트는 통합 데이터 원본 및 플러그 인을 통해 고객 환경의 신호를 처리하고, 데이터를 분석하고, 권장 사항을 생성합니다. 에이전트는 메시지가 표시되면 구성된 권한 내에서 범위가 지정된 작업을 수행할 수도 있으며, 적절한 사용자 또는 관리자 승인이 필요합니다. 에이전트는 간단한 프롬프트 및 응답 환경부터 사람이 감독하는 보다 자동화된 반자율 워크플로에 이르기까지 다양할 수 있습니다. |
| 에이전트 작업 | 권한에 따라 데이터 검색, 출력 생성 또는 구성 수정과 같이 에이전트가 실행하는 작업입니다. |
| 에이전트 매니페스트 | 에이전트의 기능, 도구 및 동작을 정의하는 구성 파일입니다. 에이전트가 Security Copilot 내에서 작동하는 방식을 제어하고 YAML 파일 형식으로 표시됩니다. |
| 포함된 환경 | Microsoft Defender XDR 또는 Microsoft Sentinel 같은 다른 Microsoft 보안 제품 내에서 Security Copilot 기능에 액세스합니다. Security Copilot 사이드카 패널은 해당 제품의 컨텍스트에서 직접 AI 지원을 표시합니다. |
| 접지 | 사용자의 프롬프트와 관련된 큰 언어 모델에 컨텍스트 입력 소스를 제공하는 프로세스입니다. Security Copilot 플러그 인 및 Microsoft 보안 제품을 통해 조직 데이터에 액세스할 수 있도록 함으로써 Security Copilot 보다 정확하고 상황에 맞는 응답을 제공할 수 있습니다. |
| LLM(큰 언어 모델) | 대량의 텍스트 데이터를 학습하여 순서대로 단어를 예측하는 AI 모델. LLM은 텍스트 생성, 요약, 번역, 분류 등과 같은 다양한 작업을 수행할 수 있습니다. |
| 파트너 빌드 에이전트 | Microsoft 파트너가 게시하고 보안 저장소를 통해 특정 보안 사용 사례를 해결하기 위해 사용할 수 있는 에이전트입니다. |
| 플러그인 | API를 통해 Microsoft 및 비 Microsoft 서비스 및 공개 웹 사이트의 리소스에 대한 액세스 권한을 부여하여 Security Copilot 기능을 확장하는 관련 도구 모음입니다. 플러그 인은 Security Copilot 생성하는 응답 및 출력에 더 많은 컨텍스트를 추가합니다. |
| 사후 처리 | Security Copilot 작업 집합은 사용자에게 반환하기 전에 LLM 응답을 구체화하고 준비하기 위해 수행됩니다. 이 사후 처리에는 플러그 인, 책임 있는 AI 검사, 보안, 규정 준수 및 개인 정보 검사를 통한 추가 접지 호출이 포함됩니다. |
| 프롬프트 | 사용자가 특정 작업을 실행하거나 정보를 얻기 위해 Security Copilot 보내는 자연어 텍스트입니다. 예를 들어 이 인시던트 요약 및 수정 단계를 제안합니다. |
| 프롬프트북 | 특정 보안 관련 작업을 수행하기 위해 이전 응답을 기반으로 순서대로 실행되는 일련의 프롬프트입니다. 프롬프트북은 라이브러리에서 사용하거나 사용자가 빌드하고 공유할 수 있습니다. |
| 레드 팀 테스트 | 전문가가 시스템의 제한 사항과 취약성을 평가하고 계획된 완화의 효과를 테스트하는 데 사용하는 기술입니다. 레드 팀 테스트는 잠재적인 위험을 식별하는 데 사용되며 체계적인 위험 측정과는 다릅니다. |
| 책임 있는 AI | Microsoft의 정책, 연구 및 엔지니어링 사례는 AI 원칙에 기반을 두고 책임 있는 AI 표준을 통해 운영됩니다. 자세한 내용은 Fluent RAI 지침을 참조하세요. |
| SCU(보안 컴퓨팅 단위) | SCU는 Security Copilot 워크로드를 실행하고 환경에서 일관된 성능을 제공하는 데 사용되는 컴퓨팅 용량 단위입니다. Security Copilot 용량은 SCU로 측정되며 프로비전되거나 초과된 용량 모델을 통해 사용할 수 있습니다. 자세한 내용은 SCU 이해를 참조하세요. |
| SOC(Security Operations Center) | organization 내의 사이버 보안 인시던트에 대한 지속적인 모니터링, 분석 및 대응에 초점을 맞춘 전담 보안 팀 또는 시설입니다. SOC 분석가는 Security Copilot 기본 의도 사용자 중 하나입니다. |
| 독립 실행형 환경 | 몰입형 Security Copilot 포털 환경은 에서 https://securitycopilot.microsoft.com직접 액세스합니다. |
| 테넌트 | Security Copilot 대한 ID, 액세스 및 데이터를 격리하는 Microsoft Entra ID 조직 경계입니다. 테넌트는 테넌트 수준 권한 및 보안 제어를 통해 모든 작업 영역, 사용자 및 상호 작용을 제어합니다. |
| 트리거 | 에이전트에 워크플로 실행을 시작하도록 지시하는 이벤트 또는 조건입니다. 트리거는 시간 기반(예: 위협 인텔리전스 브리핑 에이전트의 주간 일정) 또는 수동(사용자 또는 관리자가 요청 시 실행)일 수 있습니다. 트리거는 에이전트를 설정하는 동안 구성됩니다. |
주요 기능 또는 기능
다음 표의 주요 기능 및 기능은 Microsoft Security Copilot 수행하도록 설계된 작업과 지원되는 작업에서 수행하는 방법에 대해 설명합니다.
| 기능 또는 기능 | 설명 |
|---|---|
| 인시던트 조사 및 대응 | Security Copilot 복잡한 보안 경고의 요약을 생성하고, Microsoft Defender XDR, Microsoft Sentinel 및 기타 통합 제품의 신호를 상호 연관시키고, 단계별 수정 지침을 제공하여 보안 전문가가 인시던트 심사 및 조사를 지원합니다. |
| 위협 인텔리전스 | Security Copilot Microsoft Defender 위협 인텔리전스 문서 및 프로필, 위협 분석 보고서 및 취약성 공개 게시를 검색하여 프롬프트에 맞는 관련 인텔리전스를 표시할 수 있습니다. |
| 스크립트 분석 및 KQL 쿼리 생성 | Security Copilot 의심스러운 스크립트 또는 맬웨어를 분석하고 자연어를 KQL 쿼리로 번역하여 모든 기술 수준의 팀 구성원이 고급 헌팅 및 기술 분석 작업을 수행할 수 있도록 할 수 있습니다. |
| 보안 태세 관리 | Security Copilot 사용자가 환경 전반에서 우선 순위가 지정된 위험을 이해하고 Microsoft Defender XDR, Microsoft Entra 및 Microsoft Intune 통합을 통해 자세를 개선할 기회를 식별하는 데 도움이 됩니다. |
| 보안 정책 만들기 및 관리 | 사용자는 새 정책을 정의하고, 충돌을 위한 기존 정책과 상호 참조하고, 정책을 일반 언어로 요약하여 복잡한 조직 컨텍스트를 관리할 수 있습니다. |
| 관련자 보고 | Security Copilot 임원 또는 보안 팀과 같이 의도한 대상 그룹에 맞게 조정된 컨텍스트, 열린 문제 및 보호 조치를 요약하는 보고서를 생성할 수 있습니다. |
| 프롬프트북 | 프롬프트북은 특정 보안 작업을 수행하기 위해 실행되는 프롬프트 시퀀스입니다. 사용자는 공유 라이브러리에서 프롬프트북을 실행하거나 직접 만들고 공유할 수 있습니다. |
| Agents | Security Copilot 관리자가 부여한 권한 내에서 보안 및 IT 운영 작업을 자동화하고 지원하는 에이전트를 지원합니다. 에이전트는 구성된 ID, 액세스 제어 및 트리거를 통해 작업을 수행하고 보안 워크플로의 일부로 사용자 감독으로 작동합니다. Microsoft에서 빌드한 에이전트는 SOC 작업, 위협 헌팅, 위협 인텔리전스, ID 관리, 엔드포인트 관리 및 데이터 보안을 다루는 보안 제품 포트폴리오에 걸쳐 있습니다. 관리자는 설치하는 동안 각 에이전트의 ID, 권한 및 트리거를 구성합니다. 사용자는 에이전트의 트리거, 데이터 액세스, ID 및 작업 권한(예: 읽기 또는 쓰기)을 검토하여 에이전트가 정의된 scope 내에서 작동하는 방식을 이해할 수 있습니다. 특정 에이전트 및 해당 사용 사례에 대한 자세한 내용은 의도된 사용을 참조하세요. |
| 여러 언어 지원 | Security Copilot 여러 언어로 프롬프트 및 응답을 지원합니다. 자세한 내용은 지원되는 언어를 참조하세요. |
Security Copilot 보조 및 자율 에이전트 시스템으로 작동하는 AI 기반 보안 솔루션입니다. 에이전트의 자율성을 이해하려면 다음을 고려합니다.
- 활성화 트리거 – 에이전트가 실행되도록 하는 조건 또는 사용자 작업
- 액세스 권한 – 에이전트에서 사용할 수 있는 데이터, 시스템 또는 리소스
- 작업 권한 – 에이전트가 자체적으로 수행할 권한이 있는 작업
다음 섹션에서는 에이전트가 도달 범위를 이유, 계획, 기억, 적응 및 확장하는 방법을 뒷받침하는 핵심 에이전트 기능에 대해 설명합니다.
이유
Security Copilot 에이전트는 기본 대규모 언어 모델을 사용하여 사용 가능한 컨텍스트를 분석하고, 신호를 평가하고, 가장 적절한 작업 과정을 결정합니다. 예를 들어 피싱 심사 에이전트는 전자 메일 콘텐츠, 보낸 사람 평판 및 행동 신호를 평가하여 자연어 근거를 사용하여 분류 평결을 생성합니다. 에이전트는 분석가가 결론을 검토, 유효성 검사 또는 재정의할 수 있도록 추론을 투명하게 표시합니다.
계획
에이전트는 에이전트 시스템에 목표를 향해 구조화된 동작 시퀀스를 시작하도록 지시하는 정의된 트리거에 대해 작동합니다. 에이전트는 다음으로 구성할 수 있습니다.
- 일정에 따라 자동으로 실행됩니다(예: 위협 인텔리전스 브리핑 에이전트는 7일마다 실행됨).
- 필요할 때 수동으로 실행합니다.
이 디자인은 에이전트에게 시스템이 작업을 완료하기 위해 조치를 수행하는 시기와 방법을 분석하는 목표 지향 실행 모델을 제공합니다.
메모리
Security Copilot 에이전트는 시간이 지남에 따라 메모리라고 하는 정보를 유지할 수 있습니다. 메모리를 사용하면 에이전트가 설계 및 구성되는 방법에 따라 에이전트가 과거 입력을 향후 동작에 통합할 수 있습니다.
메모리에는 사용자가 제공한 피드백이 포함될 수 있습니다. 에이전트는 이 피드백을 사용하여 후속 상호 작용에서 응답 또는 작업을 조정할 수 있습니다.
적응성
Security Copilot 에이전트는 구성된 ID, 권한 및 트리거에 의해 정의된 scope 내에서 계속 작동하면서 사용자 피드백 및 운영 컨텍스트에 따라 조정되도록 설계되었습니다.
- 피드백 루프: Security Copilot 소유자 및 기여자는 에이전트의 응답에 대한 피드백을 제공할 수 있습니다. 이 피드백은 에이전트의 메모리에 저장되며 에이전트 디자인 및 구성에 따라 향후 출력에 영향을 줄 수 있습니다.
- 컨텍스트 접지: 프롬프트를 처리하는 동안 Security Copilot 접지를 사용하여 프롬프트를 보강합니다. 이 프로세스는 관련 조직 데이터, 지원 플러그 인 및 위협 인텔리전스를 통합하여 응답이 현재 컨텍스트를 반영하도록 합니다.
- 구성 가능한 ID 및 권한: ID, 트리거 및 매개 변수를 수정하도록 설정 후 에이전트를 업데이트할 수 있습니다. 이를 통해 에이전트는 진화하는 워크플로 및 요구 사항에 맞출 수 있습니다.
확장성
- 플러그 인: 에이전트는 플러그 인을 사용하여 평판 조회, 위협 인텔리전스 및 엔드포인트 데이터를 비롯한 API를 통해 외부 서비스에 연결합니다. Microsoft에서 빌드한 플러그 인과 파트너가 빌드한 플러그 인이 모두 지원됩니다. 자세한 내용은 플러그 인 개요를 참조하세요.
- 커넥터: Logic Apps 및 Copilot Studio 커넥터는 Security Copilot API를 래핑하여 개발자와 사용자가 외부 자동화 워크플로에서 플랫폼을 호출할 수 있도록 합니다. 자세한 내용은 커넥터 개요를 참조하세요.
- 사용자 지정 에이전트: 개발자는 특정 사용 사례에 맞는 사용자 지정 에이전트를 빌드하고 개발자 플랫폼을 통해 Security Copilot 에코시스템에 추가할 수 있습니다. 자세한 내용은 사용자 지정 에이전트 개발을 참조하세요.
- 보안 저장소: 기본 제공 에이전트 라이브러리 및 보안 저장소에서 미리 빌드된 Microsoft 및 파트너 에이전트를 검색하고 배포할 수 있습니다.
- 포함된 환경: 에이전트는 Security Copilot 독립 실행형 포털에서 작동할 뿐만 아니라 Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune 등 광범위한 Microsoft 보안 에코시스템에도 포함됩니다. Microsoft Entra 및 Microsoft Purview.
의도한 용도
Microsoft Security Copilot 에이전트는 보안 전문가 및 IT 관리자가 인텔리전스 수집 및 상관 관계와 같은 보안 워크플로를 지원하도록 설계되었습니다. 에이전트는 관리자 정의 권한 내에서 작동할 수 있으며, 그렇지 않으면 상당한 수동 작업이 필요할 수 있는 작업을 간소화하는 동시에 인간을 제어할 수 있습니다. 의도된 에이전트 사용 사례의 몇 가지 예는 다음과 같습니다.
위협 인텔리전스 브리핑: 위협 인텔리전스 브리핑 에이전트는 Microsoft Defender 위협 인텔리전스 데이터, Defender 외부 공격 표면 관리(EASM) 신호 및 실시간 고객 컨텍스트의 상관 관계를 지정하여 시기 적절한 세부 위협 인텔리전스 보고서를 생성합니다. 보안 분석가는 이 에이전트를 사용하여 수동 인텔리전스 수집 및 상관 관계를 몇 분 안에 생성된 보고서와 교체할 수 있습니다.
보안 데이터 분석(Microsoft Defender XDR): 보안 분석가 에이전트를 사용하면 보안 분석가가 대량의 보안 데이터에서 위험을 신속하게 식별, 평가 및 우선 순위를 지정할 수 있습니다. 에이전트는 패턴 분석, 추세 분석 및 시각화와 같은 기본 분석 작업과 변칙 검색, 클러스터링, 위험 점수 매기기 및 예측 모델링과 같은 고급 작업을 모두 수행합니다. Microsoft Defender XDR, Microsoft Sentinel Log Analytics, Microsoft Sentinel 데이터 레이크 및 업로드된 CSV 파일의 데이터를 통합하여 코드 없는 대화형 채팅 환경에서 전체 증거 추적을 통해 우선 순위가 지정된 인사이트를 생성합니다.
보안 작업 및 인시던트 대응(Microsoft Defender XDR) :
- 피싱 심사 에이전트는 제출될 때 사용자가 보고한 피싱 이메일을 평가하고, 투명한 추론으로 평결을 분류하고, 시간에 따른 분석가 피드백을 통합합니다.
- 동적 위협 탐지 에이전트는 백그라운드에서 지속적으로 실행되어 경고, 이벤트, 변칙 및 위협 인텔리전스의 상관 관계를 지정하여 Defender 및 Microsoft Sentinel 환경에서 숨겨진 위협과 격차를 파악합니다.
위협 헌팅(Microsoft Defender XDR): 위협 헌팅 에이전트는 자연어를 사용하여 엔드 투 엔드 위협 헌팅을 지원합니다. KQL 쿼리를 생성하고, 결과를 해석하고, 인사이트를 표시하고, 전체 헌팅 세션을 통해 분석가를 안내하여 더 빠르고 신뢰할 수 있는 위협을 찾습니다.
ID 및 액세스 관리(Microsoft Entra):
- 조건부 액세스 최적화 에이전트는 조건부 액세스 정책을 분석하고 Microsoft 모범 사례 및 제로 트러스트 원칙에 따라 개선 사항을 권장합니다.
- ID 위험 관리 에이전트를 사용하면 ID 관리자가 잠재적인 위험을 조사하고 중요한 자산을 보호하기 위한 조치를 취할 수 있습니다.
엔드포인트 관리(Microsoft Intune):
- 취약성 수정 에이전트는 Defender 데이터를 사용하여 취약성을 모니터링하고 AI 기반 위험 평가를 사용하여 수정의 우선 순위를 지정합니다.
- 정책 구성 에이전트를 사용하면 관리자가 문서를 가져오거나 일반 언어 지침을 작성하여 Intune 설정 카탈로그에서 일치하는 설정을 찾고 정책을 만들 수 있습니다.
- 변경 검토 에이전트는 Intune 승인 요청의 효과를 평가하고 관리자가 수행할 수 있는 작업에 대한 권장 사항을 만듭니다.
데이터 보안 조사(Microsoft Purview):
- 내부 위험 관리의 심사 에이전트는 사용자, 파일 및 활동 위험에 따라 경고를 평가하여 보안 팀이 가장 위험 수준이 높은 사례에 집중할 수 있도록 우선 순위가 지정된 범주로 자동으로 정렬합니다.
- 데이터 손실 방지의 Purview 심사 에이전트는 민감도 위험, 반출 위험 및 정책 위험에 따라 DLP 경고를 평가하여 데이터 보안 관리자가 가장 중요한 인시던트에 대해 조치를 취하도록 지원합니다.
사용자 지정 에이전트 워크플로: 개발자는 자연어 처리, 에이전트 매니페스트 업로드 또는 organization 특정 보안 사용 사례에 맞게 조정된 MCP 도구를 사용하여 사용자 지정 에이전트를 빌드하고 배포하여 플러그 인 및 커넥터를 통해 Microsoft 및 비 Microsoft 서비스로 에이전트 기능을 확장할 수 있습니다. 자세한 내용은 사용자 지정 에이전트를 참조하세요.
에이전트와 사용자가 단계별 환경을 위해 협업하여 문제를 해결해야 하는 경우 대화형 채팅 에이전트를 빌드할 수도 있습니다. 자세한 내용은 대화형 에이전트를 참조하세요.
모델 및 학습 데이터
Microsoft Security Copilot Azure 판매한 Foundry Model의 Azure OpenAI LLM(대규모 언어 모델)을 사용하여 자연어 환경에 전력을 공급합니다. 이러한 모델은 Security Copilot 고객 데이터에 대해 학습되지 않습니다. 모델 기능은 추론, 속도, 제한 사항 및 지원되는 시나리오에 따라 다릅니다.
또한 Security Copilot 플러그 인 및 접지를 통해 보안 관련 지식과 컨텍스트를 통합하여 모델 학습이 아닌 유추 시간에 LLM에 관련 조직 데이터, 위협 인텔리전스 및 신뢰할 수 있는 콘텐츠를 제공합니다.
성능
Security Copilot Microsoft 보안 제품 및 organization 구성된 기타 데이터 원본에서 대량의 실시간 보안 신호가 생성되는 엔터프라이즈 보안 환경에서 작동하도록 설계되었습니다. 이러한 원본의 신호를 통합하여 구조화된 로그 데이터의 실시간 처리와 조사 추론을 결합합니다. 이는 여러 데이터 원본에서 보안 인시던트의 원본과 영향을 감지, 분석 및 추적할 수 있도록 설계되었습니다.
Security Copilot 반복되는 위협 탐지 및 조사 시나리오에서 확장 가능하고 복원력 있는 성능을 지원하기 위한 Microsoft의 하이퍼스케일 인프라 및 보안 관련 오케스트레이션 계층에서 실행됩니다.
에이전트는 관리자가 구성한 권한을 통해 정의된 보안 작업을 실행하여 보안 신호에 대해 작동하는 Security Copilot 기능을 확장합니다. 에이전트는 사용 가능한 신호를 추론하고, 구조화된 작업을 계획하고 실행하며, 실시간 조직 및 위협 인텔리전스 데이터에 기반한 심사 결정, 인텔리전스 보고서 및 수정 지침과 같은 출력을 생성합니다. 에이전트 실행은 단계별 노드 맵을 통해 투명하므로 분석가가 생성된 단계(각 노드에서 수행된 특정 작업에 대한 심층 요약이 아님)를 검토하고 실행 간에 결과의 유효성을 검사할 수 있습니다.
성능 안정성은 대표 워크플로에 대해 테스트되는 미리 구성된 Microsoft 빌드 에이전트와 매니페스트 YAML 파일이 기능, 도구, 트리거 및 운영 경계를 지정하여 보다 일관된 동작을 촉진하는 데 도움이 될 수 있는 사용자 지정 에이전트를 통해 더욱 지원됩니다. 매니페스트 명령이 명확하게 정의되면 에이전트가 작업을 더 잘 해석하고, 적절한 작업을 선택하고, 의도한 scope 내에서 작동할 수 있습니다. 자세한 내용은 사용자 지정 에이전트를 참조하세요.
대화형 에이전트의 경우 성능은 주로 에이전트와 사용자 간의 반복적인 교환을 통해 형성됩니다. 에이전트는 초기 응답을 생성하고 사용자는 에이전트가 표시되는 내용에 따라 후속 프롬프트를 통해 컨텍스트를 구체화합니다. 이 앞뒤로 상호 작용을 통해 사용자는 단일 자율 실행에서 생성하는 것보다 더 정확하고 대상이 지정된 결과를 위해 에이전트를 증분 방식으로 안내할 수 있습니다. 자세한 내용은 대화형 에이전트를 참조하세요.
제한 사항
Security Copilot 제한 사항을 이해하는 것은 안전하고 효과적인 경계 내에서 사용되도록 하는 것이 중요합니다. 고객은 보안 워크플로에서 Security Copilot 사용하는 것이 좋지만 Security Copilot 가능한 모든 시나리오에 맞게 설계되지 않았다는 점에 유의해야 합니다. 사용 사례를 선택할 때 다음 고려 사항뿐만 아니라 Microsoft Enterprise AI Services 행동 강령 을 참조하세요.
- 공개 미리 보기 상태: 일부 에이전트는 공개 미리 보기 상태이며 일반 공급 전에 크게 수정될 수 있습니다. Microsoft는 이러한 기능과 관련하여 명시적 또는 묵시적 보증을 하지 않습니다. AI 출력과 마찬가지로 고객은 출력에 따라 행동하기 전에 에이전트의 의사 결정을 검토해야 합니다.
- 정확도 및 완전성: AI 기반 기술과 마찬가지로 Security Copilot 모든 것이 제대로 작동하지는 않습니다. 특히 관련 플러그 인이 사용하도록 설정되지 않았거나 사용자 입력 또는 조직 컨텍스트를 통해 최신 데이터를 사용할 수 없는 경우 응답이 부정확하거나 불완전하거나 오래되었을 수 있습니다. 사용자는 AI 생성 응답에만 의존하지 않고 항상 인간의 판단을 실행하고 중요한 출력을 확인해야 합니다.
- 도메인별 scope: Security Copilot 인시던트 조사 및 위협 인텔리전스와 같은 보안 도메인과 관련된 프롬프트에 응답하도록 설계되었습니다. 보안 scope 외부에서 프롬프트 정확도와 종합성이 부족한 응답이 발생할 수 있습니다.
- 스크립트 및 코드 생성: Security Copilot 코드를 생성하거나 응답에 코드를 포함할 수 있습니다. 응답은 유효한 것처럼 보일 수 있지만 의미 체계적 또는 구문상 올바르지 않거나 요청자의 의도를 정확하게 반영하지 않을 수 있습니다. 생성된 코드는 적절한 유효성 검사, 테스트 및 검토 절차 없이 프로덕션 환경에 배포해서는 안 됩니다. 또한 사용자는 생성된 코드에서 사용하는 매개 변수가 원래 요청과 일치하는지 확인해야 합니다. 예를 들어 에이전트가 특정 시간 범위 내의 경고에서 작동하는 경우 생성된 코드의 시간 범위가 자연어 프롬프트에 지정된 시간 범위와 일치하는지 확인합니다.
- 프롬프트 길이 제약 조건: 시스템에서 수십만 개의 문자를 포함하는 것과 같은 긴 프롬프트를 처리하지 못할 수 있습니다. 기본 LLM에는 토큰 제한이 있으며 지나치게 자세한 쿼리 또는 확장 세션은 토큰 공간을 오버플로할 수 있습니다. 이 시나리오가 발생하면 Security Copilot 콘텐츠가 최적이 아니더라도 출력을 항상 사용할 수 있도록 완화를 적용하려고 시도합니다. 그러나 이러한 완화가 항상 효과적인 것은 아니며 다른 프롬프트 또는 플러그 인을 시도해야 할 수도 있습니다.
- 사용 제한 및 대기 시간: 플랫폼 사용에는 사용 제한 또는 용량 제한이 적용될 수 있습니다. 플러그 인을 통해 API 호출을 수행하고 표시하기 전에 응답을 확인하는 등 응답을 생성하는 데 시간이 걸리고 높은 GPU 용량이 필요할 수 있습니다. 조직은 예기치 않은 서비스 중단을 방지하기 위해 필요에 따라 SCU 사용량을 모니터링하고 프로비전된 용량을 조정해야 합니다.
- 바이어스, 스테레오티핑 및 비그라운드 콘텐츠: 사용자 프롬프트와 LLM 출력 모두에서 책임 있는 AI 컨트롤을 구현했음에도 불구하고 AI 서비스는 오류와 확률적입니다. 이로 인해 AI 생성 출력에서 잠재적 편견, 스테레오타입 또는 비그라운드 콘텐츠로 이어질 수 있는 모든 부적절한 콘텐츠를 포괄적으로 차단하기가 어렵습니다.
- 정부 및 Microsoft 소버린 퍼블릭/프라이빗 클라우드: Security Copilot 현재 이러한 환경에서 지원되지 않습니다.
- 작업별 에이전트 경계: 에이전트는 수행하도록 설계된 특정 작업에만 적합합니다. 자세한 내용은 사용 사례 섹션을 참조하세요 . 다른 작업에는 적합하지 않으며 정의된 scope 이상으로 용도를 변경해서는 안 됩니다.
- 노드 맵 세부 정보: 에이전트 노드 맵은 에이전트 워크플로 중에 수행되는 단계를 개략적으로 볼 수 있습니다. 각 노드는 프로세스의 단계를 나타내며 완료 상태, 기간 및 타임스탬프와 같은 기본 메타데이터와 함께 사용된 기술의 제목을 표시합니다. 노드 맵은 작업 시퀀스를 표시하도록 설계되었지만 각 단계 내에서 수행된 특정 작업 또는 결정에 대한 자세한 정보는 제공하지 않습니다. 노드 맵은 요약된 정보만 표시하므로 각 작업의 컨텍스트 또는 복잡성을 완전히 캡처하지 못할 수 있습니다.
- 에이전트 피드백 및 메모리 투명성: 사용자가 메모리 내 스토리지를 위해 에이전트에 피드백을 제출할 때 에이전트는 피드백 해석에 대한 요약을 제공하지 않습니다. 향후 출력의 정확도를 높이려면 명확하고 간결하며 구체적인 피드백을 제공해야 합니다. 에이전트에 제출된 피드백은 저장되어 향후 출력에 영향을 주는 데 사용될 수 있습니다. 그러나 이 저장된 피드백에 대한 가시성은 에이전트 환경 및 사용자 역할에 따라 달라질 수 있습니다. 자세한 내용은 피드백 제공을 참조하세요.
평가
성능 및 안전 평가는 유해한 콘텐츠를 생성하는 위험을 식별하면서 근거, 관련성 및 일관성과 같은 요인을 검토하여 AI 애플리케이션이 안정적이고 안전하게 운영되는지 여부를 평가합니다. 다음 평가는 안전 구성 요소 및 완화에 설명된 안전 구성 요소가 이미 있는 상태에서 수행되었습니다.
품질 및 안전을 위한 평가 데이터
평가 데이터는 안전 및 품질, 실제 시나리오 및 위험을 시뮬레이션하는 주요 영역에서 AI 애플리케이션 성능을 평가하도록 사용자 지정 빌드됩니다. 우리는 다분야 연구 및 전문가의 의견을 기반으로 우려의 관련 평가 측면을 식별하는 것으로 시작합니다. 이러한 문제는 대상 평가 목표로 변환되고 평가 메트릭의 공식을 안내합니다.
안전을 위해 바람직하지 않거나 에지 케이스 응답을 유도하는 악의적 프롬프트를 만든 다음, Microsoft의 안전 표준에 부합되는지 평가하도록 학습된 AI 지원 주석을 사용하여 점수가 매기됩니다. 품질을 위해 RAG(검색 보강 세대) 애플리케이션 및 에이전트 평가를 포함하여 시나리오와 관련된 루브릭 기반 프롬프트를 만듭니다.
데이터 세트는 실제 사용자 시나리오를 시뮬레이션하기 위해 가상 및 공용 데이터 세트를 비롯한 다양한 원본에서 큐레이팅됩니다. 큐레이팅된 데이터 세트를 사용하여 두 평가 모두 반복적인 구체화와 인간 맞춤을 거쳐 메트릭 효율성과 안정성을 개선합니다. 이 방법론은 고객이 평가를 사용하여 더 나은 안전한 AI를 구축하는 방법을 반영하는 반복 가능하고 엄격한 평가의 기초를 형성합니다.
사용자 지정 평가
회귀 테스트, 큐레이팅된 프롬프트 데이터 세트 및 프로덕션 맞춤 예제를 사용하여 접지, 악의적인 견고성 및 유해한 콘텐츠 시나리오에서 모델 성능의 유효성을 검사하기 위해 사용자 지정 평가가 수행되었습니다. 평가는 내부 도구를 사용하여 근거를 평가하고 OpenAI 콘텐츠 필터링을 Azure 탈옥, 프롬프트 주입 및 지적 재산권 위반에 대한 보호의 유효성을 검사하는 GPT 모델 간의 출력을 비교했습니다. 결과는 악의적 시나리오에서 강력한 보호 속도와 향상된 접지 정확도를 포함하여 일관되거나 향상된 성능을 보여줍니다.
유해한 콘텐츠 처리는 모델 전체에서 일관성을 유지하고 주석 모드에서 작동하여 보안 중심 사용 사례를 지원하며, 추가적인 대규모 테스트를 통해 범주 간에 높은 보호 속도를 확인합니다. 회귀 테스트는 유해하지 않은 콘텐츠가 유해한 것으로 분류되지 않는지 확인하기 위해 수행됩니다.
Security Copilot 에이전트는 사용 사례 및 고객의 디자인 입력을 사용하여 제품 및 연구 팀에 의해 평가되었습니다. 에이전트 시스템의 보안도 전용 레드 팀 연습을 통해 평가되었습니다. Microsoft는 또한 무단 액세스에 대한 보호의 유효성을 검사하기 위해 Security Copilot 서비스에 대한 침투 테스트를 완료했습니다.
이제 Security Copilot 릴리스되었으므로 Microsoft가 시스템을 개선하는 데 사용자 피드백이 중요합니다. 사용자는 Security Copilot 에이전트 응답에 대한 피드백을 제공할 수 있습니다. 이 피드백은 Microsoft에 직접 전달되며 지속적인 반복적 구체화를 통해 플랫폼의 성능을 개선하는 데 사용됩니다. 자세한 내용은 피드백 제공을 참조하세요.
안전 구성 요소 및 완화
레드 팀 테스트와 같은 프로세스를 통해 잠재적 위험과 오용을 식별하고 측정하면서 피해 가능성을 줄이기 위한 완화 방법을 개발했습니다. 제품 성능 및 완화를 개선하기 위해 Microsoft Security Copilot 환경을 계속 평가할 것입니다. 다음 목록에서는 이러한 완화 방법 중 일부를 설명합니다.
- 유해한 콘텐츠 필터링 및 가드레일: Security Copilot Azure OpenAI 서비스 기반의 일부로 Microsoft에서 개발한 가드레일(콘텐츠 필터) 및 남용 검색 모델을 통합합니다. 이러한 신경 분류 모델은 증오, 성적, 폭력 및 자해를 포함하여 여러 심각도 수준에서 유해한 콘텐츠를 감지하고 필터링합니다. 선택적 분류 모델은 탈옥 위험, 알려진 텍스트 또는 코드 자료 및 간접 프롬프트 삽입 공격도 검색합니다. 이러한 계층화된 컨트롤은 AI가 Microsoft의 안전 표준을 위반하는 응답을 생성하지 못하도록 하는 데 도움이 됩니다.
- 되돌릴 수 없는 작업을 최소화하도록 설계됨: Microsoft에서 디자인한 에이전트 시나리오는 되돌릴 수 없는 작업을 최소화하고 사용자가 중요한 결정을 제어할 수 있도록 하기 위한 것입니다. 사용자 지정 에이전트의 경우 비 Microsoft 설계 에이전트 에이전트는 에이전트 개발자가 에이전트 동작을 수정하여 되돌릴 수 없는 작업이 최소화되도록 할 수 있습니다.
- 안전 시스템 디자인: Microsoft는 유해한 콘텐츠 주석, 운영 모니터링 및 기타 안전 장치를 포함하여 오류를 완화하고 오용을 방지하도록 설계된 Security Copilot 위한 안전 시스템을 개발했습니다. Azure OpenAI 서비스 책임 AI 완화 요구 사항은 Security Copilot 고객을 대신하여 이러한 완화를 구현하기 때문에 Security Copilot 고객에게 직접 적용되지 않습니다.
- 사용자 피드백 루프: 에이전트가 응답을 반환하면 사용자가 피드백을 제공할 수 있습니다. 구성에 따라 사용자는 자신의 환경에 대한 컨텍스트를 제공하기 위해 추가 서면 피드백을 제출할 수도 있습니다. 제출된 피드백은 Microsoft에서 수집하고 사용하여 제품 품질을 개선하고, 문제를 식별하고, Security Copilot 환경에 대한 향상된 기능의 우선 순위를 지정합니다.
- 에이전트 ID 거버넌스 및 RBAC(역할 기반 액세스 제어) : 각 Security Copilot 에이전트는 관리 ID 또는 사용자 계정으로 실행되므로 관리자가 액세스 권한이 있는 데이터를 제어할 수 있습니다. 각 에이전트에는 RBAC 컨트롤이 있으며 에이전트는 처리하는 데이터에 대해 더 제한될 수 있습니다. 시스템은 각 에이전트의 권한을 제한하여 무단 데이터 노출 위험을 완화하고 모든 자동화된 작업을 감사 가능하고 추적할 수 있도록 합니다.
- 데이터 암호화 및 액세스 보호: Security Copilot 처리하는 고객 데이터는 Microsoft 제품 및 서비스 데이터 보호 부록에 설명된 대로 전송 중 및 미사용 시 모두 암호화됩니다. 기본적으로 사용자 사용자는 데이터베이스에 액세스할 수 없으며 네트워크 액세스는 Security Copilot 애플리케이션이 배포된 프라이빗 네트워크로 제한됩니다. 인시던트 대응을 위해 인시던트 액세스가 필요한 경우 권한 있는 Microsoft 직원이 관리자 권한 액세스 및 네트워크 액세스를 승인해야 합니다. 준수를 참조하세요.
- 단계별 배포 방법: Security Copilot 초대 전용 초기 액세스 프로그램을 통해 기능을 릴리스하므로 Microsoft는 광범위한 가용성을 위해 피드백을 수집하고 기능을 구체화할 수 있습니다.
위험 매핑, 측정 및 관리에 대한 우리의 접근 방식은 우리가 더 많은 것을 알게 되면서 계속 발전하고, 고객으로부터 받은 피드백에 따라 개선합니다.
Microsoft Security Copilot 배포 및 채택에 대한 모범 사례
책임 있는 AI는 Microsoft와 고객 간의 공유된 약속입니다. Microsoft는 안전성, 공정성 및 투명성을 핵심으로 AI 시스템을 구축하지만 고객은 자체 컨텍스트 내에서 이러한 기술을 책임감 있게 배포하고 사용하는 데 중요한 역할을 합니다.
Security Copilot 에이전트는 대체가 아니라 인간의 전문 지식을 보강하도록 설계되었습니다. 고객은 출력을 검토하고, 의사 결정의 유효성을 검사하고, 관련 법률, 규정 및 조직 정책을 준수할 책임이 있습니다.
배포자 및 최종 사용자는 다음을 수행해야 합니다.
결과적 결정이나 민감한 도메인에서 Security Copilot 사용할 때 주의하고 결과를 평가합니다. 결과적 결정은 고용, 법률 서비스, 의료 서비스에 대한 개인의 접근에 법적 또는 중대한 영향을 미칠 수 있거나 신체적, 심리적 또는 재정적 피해를 초래할 수 있는 결정입니다. 금융 서비스, 의료 및 법률과 같은 민감한 도메인은 다른 그룹의 사람들에게 불균형적으로 영향을 미칠 수 있기 때문에 특정 한 주의가 필요합니다. 이러한 영역에서 결정에 AI를 사용하는 경우 고객은 영향을 받는 이해 관계자가 의사 결정 방법을 이해하고, 결정에 이의를 제기하고, 관련 입력 데이터를 업데이트할 수 있도록 해야 합니다.
법률 및 규제 고려 사항 평가: 고객은 모든 업계 또는 시나리오에서 사용하기에 적합하지 않을 수 있는 AI 서비스 및 솔루션을 사용할 때 잠재적인 특정 법률 및 규제 의무를 평가해야 합니다. 또한 AI 서비스 또는 솔루션은 해당 서비스 약관 및 관련 행동 강령에서 금지된 방식으로 설계되지 않았으며 사용할 수 없습니다.
관련 플러그 인 사용 및 유지 관리: Security Copilot 응답의 품질과 정확도는 사용하도록 설정된 플러그 인에 따라 크게 달라집니다. 관리자는 적절한 Microsoft 및 타사 플러그 인을 구성하고 유지 관리하여 사용자가 상황에 맞는 접지된 관련 응답을 받을 수 있도록 해야 합니다.
최종 사용자는 다음을 수행해야 합니다.
효과적인 프롬프트 작성: 명확하고 구체적인 프롬프트를 작성하는 것이 Security Copilot 더 나은 결과를 얻는 데 핵심입니다. 인시던트 ID, 자산 이름 또는 시간 범위와 같은 관련 컨텍스트를 포함합니다. 필요에 따라 프롬프트를 반복하고 다시 생성하며 항상 AI 생성 응답을 검토하고 확인합니다. 자세한 내용은 Security Copilot 대한 프롬프트 팁을 참조하세요.
적절한 경우 사용자 감독 실행: 인간 감독은 AI 시스템과 상호 작용할 때 중요한 보호 수단입니다. 지속적으로 Security Copilot 개선하는 동안 AI 시스템은 실수를 할 수 있습니다. 생성된 출력은 부정확하거나, 불완전하거나, 편향되거나, 기본 모델의 입력 또는 제한 사항의 모호성으로 인해 의도한 목표와 완전히 일치하지 않을 수 있습니다. 사용자는 Security Copilot 생성된 응답을 검토하고 조치를 취하기 전에 예상 및 요구 사항과 일치하는지 확인해야 합니다.
과잉 의존 위험 주의: AI에 대한 지나친 의존은 사용자가 올바르지 않거나 불완전한 AI 출력을 수락할 때 발생합니다. 주로 AI 출력의 실수를 감지하기 어려울 수 있기 때문입니다. 보안 전문가의 경우 지나치게 의존하면 누락된 위협, 잘못된 인시던트 결론 또는 결함이 있는 권장 사항에 따른 정책 변경이 발생할 수 있습니다. Security Copilot AI 공개를 포함하고 이 위험을 완화하는 데 도움이 되는 원본 자료를 인용하지만 사용자는 여전히 응답의 정확성을 확인해야 합니다. 사용자는 에이전트 워크플로 중에 수행된 단계를 개략적으로 볼 수 있는 에이전트 노드 맵을 검토할 수 있습니다.
중요한 도메인에서 에이전트 AI를 배포하거나 디자인할 때 주의: 에이전트 작업이 되돌릴 수 없거나 매우 결과적인 도메인에서 에이전트 AI 시스템을 구성하고 배포할 때 사용자는 적절한 사용자 감독을 구현해야 합니다. Microsoft Enterprise AI Services 행동 강령에 설명된 대로 자율 에이전트 AI를 만들 때 추가 예방 조치를 취해야 합니다.
배포자는 다음을 수행해야 합니다.
RBAC 및 에이전트 권한 신중하게 구성: 관리자는 사용자와 에이전트 모두에 대한 역할 기반 액세스 제어를 구성할 책임이 있습니다. 사용 권한은 최소 권한 원칙을 따라야 합니다. 에이전트는 지정된 작업에 필요한 데이터 및 작업에 대한 액세스 권한만 부여해야 합니다.
사용량 모니터링 및 작업 검토: 관리자(소유자)는 Security Copilot 사용량 모니터링 dashboard 사용하여 시간 경과에 따른 사용량, 세션 초기자 및 세션 중에 사용되는 플러그 인과 같은 세션 수준 데이터를 검토할 수 있습니다. 이 가시성을 통해 조직은 프롬프트, 프롬프트북 및 에이전트에서 Security Copilot 사용되는 방법을 이해할 수 있습니다. 자세한 내용은 사용 관리를 참조하세요.
데이터 공유 설정 관리: 소유자는 언제든지 고객 데이터 공유 기본 설정을 구성할 수 있으며 organization 개인 정보 및 규정 준수 요구 사항에 따라 이러한 설정을 검토하고 업데이트해야 합니다. 자세한 내용은 Microsoft Security Copilot 개인 정보 및 데이터 보안을 참조하세요.
기능 및 제한 사항에 대한 사용자 교육: Security Copilot 효과적이고 책임감 있는 사용을 위해서는 시스템에서 수행할 수 있는 작업과 수행할 수 없는 작업을 사용자가 이해해야 합니다. 배포자는 조치를 취하기 전에 AI 생성 출력을 확인하는 것의 중요성을 포함하여 사용자가 Security Copilot 효과적으로 상호 작용하는 데 도움이 되는 교육 및 지침을 제공해야 합니다.
Security Copilot 에이전트에 대해 자세히 알아보기
Microsoft Security Copilot 책임 있는 사용에 대한 자세한 내용은 다음 설명서를 참조하세요.