이제 AI 시스템은 AI 애플리케이션, 에이전트, 모델, 사용하는 데이터 및 서비스를 비롯한 핵심 엔터프라이즈 기술 자산의 일부입니다. 조직에서 AI를 채택함에 따라 이러한 시스템은 엔드 투 엔드 보안 아키텍처의 일부로 관리해야 하는 새로운 액세스 경로, 종속성 및 위험 조건을 도입합니다.
Microsoft Security 채택 프레임워크(SAF)에서 AI 축은 AI 워크로드 및 운영에 제로 트러스트 원칙을 적용합니다. 명시적으로 확인하고, 최소 권한을 사용하고, 침해를 가정합니다. 이 지침은 비즈니스 결과, 운영 안정성 및 지속적인 개선을 지원하면서 AI 기능을 보호하는 데 도움이 됩니다.
이 기술 기둥이 다루는 내용
이 핵심 요소는 다음을 포함하여 워크로드이자 비즈니스 핵심 리소스인 AI 시스템의 보안을 확보하는 데 중점을 둡니다.
- AI 애플리케이션 및 시스템
- AI 에이전트 및 에이전트 런타임
- AI 및 에이전트 ID
- 모델, 프롬프트 및 컨텍스트
- 그라운딩, 학습 및 유추에 사용되는 데이터
- 도구, 플러그 인, 커넥터 및 외부 종속성
- 에이전트 간 통신 및 에이전트-서비스 간 통신
- AI 인프라 및 호스팅 환경
AI의 핵심 제로 트러스트 제어 영역
이 핵심 요소를 사용하여 AI 보안 워크샵의 구현 영역에 맞게 이러한 영역에 대한 제어를 계획하고 구현합니다.
-
AI 위험 매핑 및 평가
- AI 애플리케이션, 에이전트 및 서비스를 식별하고 인벤토리를 작성합니다.
- 위험의 우선순위를 지정하고 책임자 지정, 거버넌스 및 허용 가능한 사용에 대한 가드레일을 설정합니다.
- 사용량이 발전함에 따라 위험 신호를 지속적으로 모니터링하고 우선 순위를 조정합니다.
-
에이전트 등록 및 수명 주기 거버넌스 적용
- 중앙 집중식 인벤토리에 에이전트를 등록합니다.
- 목적, 비즈니스 중요도 및 위험별로 에이전트를 분류합니다.
- 소유권, 게시, 인증 및 수명 주기 컨트롤을 정의합니다.
-
AI 인증 및 액세스 보안
- 사용자, 서비스 및 에이전트에 대한 강력한 인증 및 권한 부여가 필요합니다.
- 에이전트 작업에 대해 최소 권한 및 위임된 권한을 적용합니다.
- 액세스 전과 도중에 ID, 디바이스 및 위험 신호를 지속적으로 평가합니다.
-
AI 네트워크 및 서비스 액세스 보호
- 네트워크 경로와 서비스 경계 전반에서 AI 서비스에 도달하는 방법을 제어합니다.
- AI 상호 작용에 대한 세분화, 필터링 및 검사를 적용합니다.
- 프롬프트 삽입 및 무단 액세스 경로에 대한 노출을 줄입니다.
-
AI 데이터 액세스 및 사용 보안
- 프롬프트, 컨텍스트, 그라운딩 및 출력에 사용되는 데이터를 분류하고 보호합니다.
- 데이터 손실 방지 및 사용 제어를 적용하여 초과 공유 및 반출 위험을 줄입니다.
- AI 데이터 처리를 위한 거버넌스 및 규정 준수 정책을 적용합니다.
-
에이전트를 안전하게 빌드하고 배포하기
- AI 앱, API, 커넥터 및 도구 체인 종속성을 보호합니다.
- 프로덕션 사용 전에 신뢰 경계 및 런타임 컨트롤의 유효성을 검사합니다.
- AI 지원 시스템에 대한 보안 개발, 테스트 및 릴리스 제어를 적용합니다.
-
AI 탐지 및 대응
- AI 활동, 프롬프트 흐름, 액세스 패턴 및 도구 사용을 모니터링합니다.
- 오용, 비정상적인 동작 및 정책 위반을 감지합니다.
- AI 원격 분석을 인시던트 감지, 조사 및 대응 워크플로에 통합합니다.
이 기둥이 SAF와 연결되는 방법
AI 보안은 다른 SAF 기술 및 보안 분야에 의존합니다.
- 기술: ID, 엔드포인트, 애플리케이션, 데이터, 인프라 및 네트워크.
- 보안 분야: 안전한 엔지니어링 사례를 위한 개발 및 탐지와 대응 작업을 위한 SecOps.
- 비즈니스 시나리오: AI를 채택하고 보호합니다.