제로 트러스트를 사용하여 AI 보호

이제 AI 시스템은 AI 애플리케이션, 에이전트, 모델, 사용하는 데이터 및 서비스를 비롯한 핵심 엔터프라이즈 기술 자산의 일부입니다. 조직에서 AI를 채택함에 따라 이러한 시스템은 엔드 투 엔드 보안 아키텍처의 일부로 관리해야 하는 새로운 액세스 경로, 종속성 및 위험 조건을 도입합니다.

Microsoft Security 채택 프레임워크(SAF)에서 AI 축은 AI 워크로드 및 운영에 제로 트러스트 원칙을 적용합니다. 명시적으로 확인하고, 최소 권한을 사용하고, 침해를 가정합니다. 이 지침은 비즈니스 결과, 운영 안정성 및 지속적인 개선을 지원하면서 AI 기능을 보호하는 데 도움이 됩니다.

이 기술 기둥이 다루는 내용

이 핵심 요소는 다음을 포함하여 워크로드이자 비즈니스 핵심 리소스인 AI 시스템의 보안을 확보하는 데 중점을 둡니다.

  • AI 애플리케이션 및 시스템
  • AI 에이전트 및 에이전트 런타임
  • AI 및 에이전트 ID
  • 모델, 프롬프트 및 컨텍스트
  • 그라운딩, 학습 및 유추에 사용되는 데이터
  • 도구, 플러그 인, 커넥터 및 외부 종속성
  • 에이전트 간 통신 및 에이전트-서비스 간 통신
  • AI 인프라 및 호스팅 환경

AI의 핵심 제로 트러스트 제어 영역

이 핵심 요소를 사용하여 AI 보안 워크샵의 구현 영역에 맞게 이러한 영역에 대한 제어를 계획하고 구현합니다.

  1. AI 위험 매핑 및 평가
    • AI 애플리케이션, 에이전트 및 서비스를 식별하고 인벤토리를 작성합니다.
    • 위험의 우선순위를 지정하고 책임자 지정, 거버넌스 및 허용 가능한 사용에 대한 가드레일을 설정합니다.
    • 사용량이 발전함에 따라 위험 신호를 지속적으로 모니터링하고 우선 순위를 조정합니다.
  2. 에이전트 등록 및 수명 주기 거버넌스 적용
    • 중앙 집중식 인벤토리에 에이전트를 등록합니다.
    • 목적, 비즈니스 중요도 및 위험별로 에이전트를 분류합니다.
    • 소유권, 게시, 인증 및 수명 주기 컨트롤을 정의합니다.
  3. AI 인증 및 액세스 보안
    • 사용자, 서비스 및 에이전트에 대한 강력한 인증 및 권한 부여가 필요합니다.
    • 에이전트 작업에 대해 최소 권한 및 위임된 권한을 적용합니다.
    • 액세스 전과 도중에 ID, 디바이스 및 위험 신호를 지속적으로 평가합니다.
  4. AI 네트워크 및 서비스 액세스 보호
    • 네트워크 경로와 서비스 경계 전반에서 AI 서비스에 도달하는 방법을 제어합니다.
    • AI 상호 작용에 대한 세분화, 필터링 및 검사를 적용합니다.
    • 프롬프트 삽입 및 무단 액세스 경로에 대한 노출을 줄입니다.
  5. AI 데이터 액세스 및 사용 보안
    • 프롬프트, 컨텍스트, 그라운딩 및 출력에 사용되는 데이터를 분류하고 보호합니다.
    • 데이터 손실 방지 및 사용 제어를 적용하여 초과 공유 및 반출 위험을 줄입니다.
    • AI 데이터 처리를 위한 거버넌스 및 규정 준수 정책을 적용합니다.
  6. 에이전트를 안전하게 빌드하고 배포하기
    • AI 앱, API, 커넥터 및 도구 체인 종속성을 보호합니다.
    • 프로덕션 사용 전에 신뢰 경계 및 런타임 컨트롤의 유효성을 검사합니다.
    • AI 지원 시스템에 대한 보안 개발, 테스트 및 릴리스 제어를 적용합니다.
  7. AI 탐지 및 대응
    • AI 활동, 프롬프트 흐름, 액세스 패턴 및 도구 사용을 모니터링합니다.
    • 오용, 비정상적인 동작 및 정책 위반을 감지합니다.
    • AI 원격 분석을 인시던트 감지, 조사 및 대응 워크플로에 통합합니다.

이 기둥이 SAF와 연결되는 방법

AI 보안은 다른 SAF 기술 및 보안 분야에 의존합니다.

워크샵 및 구현 지침