AI 전략

이 문서에서는 AI 채택을 위해 조직을 준비하는 프로세스를 설명합니다. 올바른 AI 솔루션을 선택하고, 데이터를 준비하고, 책임 있는 AI 원칙에서 접근 방식을 접지하는 방법을 설명합니다. 잘 계획된 AI 전략은 비즈니스 목표에 부합하고 AI 프로젝트가 전반적인 성공에 기여하도록 합니다.

AI 사용 사례 식별

AI는 개별 효율성을 향상시키고 비즈니스 프로세스를 향상시킵니다. 생성 AI는 생산성을 높이고 고객 환경을 개선합니다. 기계 학습과 같은 비생산적 AI는 구조화된 데이터를 분석하고 반복적인 작업을 자동화합니다. 이 이해를 사용하여 AI가 가치를 더하는 비즈니스 전반의 영역을 식별합니다.

1. 자동화 기회를 식별합니다. 효율성을 개선하고 운영 비용을 줄이기 위해 자동화에 적합한 프로세스에 집중합니다. 반복적인 작업, 데이터 사용량이 많은 작업 또는 AI가 상당한 영향을 미칠 수 있는 오류율이 높은 영역을 대상으로 지정합니다.

2. 고객 피드백을 수집합니다. 고객 피드백을 사용하여 AI를 사용하여 자동화할 때 고객 만족도를 향상시키는 사용 사례를 파악합니다. 이 피드백은 영향력 있는 AI 이니셔티브의 우선 순위를 지정하는 데 도움이 됩니다.

3. 내부 평가를 수행합니다. 다양한 부서에서 입력을 수집하여 AI가 해결할 수 있는 문제 및 비효율성을 식별합니다. 워크플로를 문서화하고 관련자 입력을 수집하여 자동화, 인사이트 생성 또는 향상된 의사 결정을 위한 기회를 파악합니다.

4. 연구 산업 사용 사례. 유사한 조직이나 산업이 AI를 사용하여 문제를 해결하거나 운영을 향상시키는 방법을 조사합니다. Azure 아키텍처 센터의 AI 아키텍처와 같은 도구를 사용하여 영감을 받고 적절한 접근 방식을 평가합니다.

5. AI 대상을 정의합니다. 식별된 각 사용 사례에 대해 목표(범용), 목표(원하는 결과) 및 성공 메트릭(정량화 가능한 측정값)을 정의합니다. 이러한 벤치마크는 AI 채택을 안내하고 성공을 측정합니다. 자세한 내용은 예제 AI 전략을 참조 하세요.

AI 기술 전략 정의

기술 전략은 조직의 기능, 데이터 자산 및 예산 요구 사항에 적합한 접근 방식을 결정합니다. 이 전략은 여러 AI 시스템이 복잡한 작업에 대해 공동 작업할 수 있도록 하는 에이전트 기반 아키텍처를 조직에서 준비합니다. 요구 사항에 가장 적합한 방법을 선택하려면 세 가지 서비스 모델에서 기술 옵션을 평가해야 합니다.

1. AI 에이전트를 이해합니다. AI 에이전트는 AI 모델을 사용하여 지속적인 사용자 감독 없이 작업을 완료하는 자율 시스템입니다. 이러한 시스템은 기존 자동화에서 변화하는 조건에 맞게 조정되는 지능형 의사 결정으로의 전환을 나타냅니다. 복잡한 워크플로 및 다중 시스템 협업을 지원하려면 에이전트 통합을 계획해야 합니다. 에이전트란?을 검토하여 에이전트 기능을 이해하고 에이전트 기반 솔루션을 위한 조직을 준비합니다.

2. AI 상호 운용성을 위한 표준 메커니즘을 채택합니다. 표준 프로토콜을 사용하면 AI 시스템이 여러 플랫폼에서 통신하고 사용자 지정 구현을 줄일 수 있습니다. 이러한 프로토콜은 향후 기술 변화에 대한 유연성을 유지하면서 데이터 공유 및 시스템 통합을 지원합니다. AI 시스템이 상호 운용성 요구 사항을 지원하도록 시스템 간 데이터 수집을 위한 모델 컨텍스트 프로토콜과 같은 프로토콜을 이해해야 합니다. NLWeb과 같은 도구를 평가하여 AI 웹용 콘텐츠를 준비합니다. 예를 들어 Microsoft Copilot Studio의 모델 컨텍스트 프로토콜 및 MCP 서버로 REST API 노출을 참조하세요.

3. 적절한 AI 서비스 모델을 선택합니다. Microsoft는 SaaS(Software as a Service), PaaS(Platform as a Service), IaaS(Infrastructure as a Service) 등 다양한 수준의 사용자 지정 및 공유 책임을 가진 세 가지 서비스 모델을 제공합니다. 각 모델에는 서로 다른 기술 기술이 필요하며 AI 구현에 대한 다양한 수준의 제어를 제공합니다. 팀의 기능, 데이터 요구 사항 및 사용자 지정 요구 사항을 적절한 서비스 모델과 일치시켜야 합니다. 아래 AI 의사 결정 트리를 사용하여 선택 프로세스를 안내합니다.

먼저 AI 사용 사례를 식별합니다. 개별 생산성을 향상시키는 것이 목표인 경우 Microsoft 365 앱에 집중할 때 Microsoft 365 Copilot를 사용합니다. Azure, GitHub, Fabric, Dynamics 365 또는 Power Platform과 같은 제품에는 제품 내 코필로트를 사용합니다. 보안, 영업, 서비스 또는 재무와 같은 도메인별 역할에 역할 정렬 코필로트를 사용합니다. 사용 사례가 더 일반적인 경우 Microsoft Copilot 또는 Copilot Pro를 사용합니다. 이미 Microsoft 365 Copilot를 사용하고 도메인별 기술을 사용하여 사용자 지정 에이전트를 만들어야 하는 경우 Microsoft 365 Copilot용 확장성 도구를 사용합니다. 비즈니스 기능을 자동화하는 것이 목표인 경우 통합 가격 책정을 통해 자연어를 통해 에이전트를 만들고 배포할 수 있도록 하는 SaaS 도구에 Copilot Studio를 사용합니다. Azure OpenAI 및 Azure AI 서비스 모두에 대한 API 액세스 권한이 있는 전체 개발 플랫폼에 Azure AI Foundry를 사용합니다. OpenAI 모델에만 액세스해야 하는 경우 Azure OpenAI를 사용합니다. 에이전트 지원을 위해 미리 빌드된 비 생성 모델 또는 Azure AI Search가 필요한 경우 Azure AI 서비스를 사용합니다. 사용자 고유의 데이터를 사용하여 기계 학습 모델을 학습시키고 배포해야 하는 경우 해당 환경에서 이미 작업하는 경우 Microsoft Fabric을 사용합니다. 그렇지 않으면 Azure Machine Learning을 사용합니다. GPU 인프라를 관리하지 않고 간단한 AI 추론에 Azure Container Apps를 사용합니다. 고유한 모델을 가져와서 Azure CycleCloud, Azure Batch 또는 Kubernetes로 오케스트레이션해야 하는 경우 Azure Virtual Machines를 사용합니다.

SaaS(소프트웨어 서비스)를 사용하여 AI 구입

Microsoft는 최소한의 기술 전문 지식으로 생산성을 향상시키기 위해 코필로트라고 하는 SaaS 생성 AI 솔루션을 제공합니다. 자세한 내용은 아래 표를 참조하세요.

Microsoft Copilots	설명	사용자	필요한 데이터	필요한 기술	주요 비용 요소
Microsoft 365 Copilot	Microsoft 365 Copilot는 Microsoft 365 앱용 웹 기반(인터넷) 및 회사 기반(Microsoft Graph) 채팅 및 앱 내 AI를 제공합니다.	비즈니스	예. 민감도 레이블을 사용하여 데이터를 분류하고 Microsoft Graph의 데이터와 안전하게 상호 작용합니다.	일반 IT 및 데이터 관리	라이선스
역할 기반 코필로트	보안, 영업, 서비스 및 재무의 특정 역할에 대한 효율성을 향상시키는 에이전트입니다.	비즈니스	예. 데이터 연결 및 플러그 인 옵션을 사용할 수 있습니다.	일반 IT 및 데이터 관리	라이선스 또는 보안 처리 장치(보안을 위한 시큐리티 보조 시스템)
제품 내 코필로트	GitHub, Power Apps, Power BI, Dynamics 365, Power Automate, Microsoft Fabric 및 Azure와 같은 제품 내의 AI입니다.	비즈니스 및 개인	예. 대부분의 경우 최소한의 데이터 준비가 필요합니다.	없음	무료 또는 구독
Microsoft Copilot 또는 Microsoft Copilot Pro	Microsoft Copilot 는 무료 웹 기반 채팅 애플리케이션입니다. Copilot Pro 는 특정 Microsoft 365 앱에서 Copilot에 대한 향상된 성능, 용량 및 액세스를 제공합니다.	개인	아니요	없음	Microsoft Copilot 는 무료입니다. Microsoft Copilot Pro에 구독 필요
Microsoft 365 Copilot용 확장성 도구	사용자 지정 - Microsoft 365 Copilot을(를) 선언적 에이전트를 통해 데이터 및 기능을 더욱 확장하여 맞춤 설정하세요. Copilot Studio, 에이전트 작성기, Teams 도구 키트 및 SharePoint와 같은 도구를 사용합니다.	비즈니스 및 개인	Microsoft Graph 커넥터를 사용하여 데이터를 추가합니다.	데이터 관리, 일반 IT 또는 개발자 기술	Microsoft 365 Copilot 라이선스
Copilot Studio	Copilot Studio를 사용하여 SaaS 제작 환경에서 에이전트를 빌드, 테스트 및 배포합니다.	개발자	사용자 지정 부조종사 만들기 위해 많은 데이터 작업을 자동화합니다.	데이터 원본을 연결하고, 프롬프트를 매핑하고, 부조종사 배포를 위한 플랫폼	라이선스

Azure Platforms(PaaS)를 사용하여 AI 워크로드 빌드

Azure는 AI 목표, 기술 집합 및 데이터 요구 사항에 맞게 조정된 여러 PaaS 옵션을 제공합니다. 이러한 플랫폼은 다양한 수준의 기술 전문 지식을 제공합니다. 각 Azure 서비스에 대한 가격 책정 페이지를 검토하고 Azure 가격 계산기를 사용하여 예상 비용을 개발합니다.

AI 목표	Microsoft 솔루션	필요한 데이터	필요한 기술	주요 비용 요소
빌드 에이전트	Azure AI Foundry 에이전트 서비스	예	환경 설정, 모델 선택, 도구, 접지 데이터 스토리지, 데이터 격리, 에이전트 트리거, 연결 에이전트, 콘텐츠 필터링, 프라이빗 네트워킹, 에이전트 모니터링, 서비스 모니터링	모델 토큰, 저장소, 기능, 연산, 접지 연결 사용
RAG 애플리케이션 빌드	Azure AI 파운드리	예	모델 선택, 데이터 흐름 오케스트레이션, 데이터 청크 분할, 청크 보강, 인덱싱 선택, 쿼리 형식 이해(전체 텍스트, 벡터, 하이브리드), 필터 및 패싯 이해, 재전송 수행, 프롬프트 엔지니어링, 엔드포인트 배포 및 앱에서 엔드포인트 사용	계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송
GenAI 모델 미세 조정	Azure AI 파운드리	예	데이터를 전처리하고, 데이터를 학습 및 유효성 검사 데이터로 분할하고, 모델의 유효성을 검사하고, 다른 매개 변수를 구성하고, 모델을 개선하고, 모델을 배포하고, 앱에서 엔드포인트를 사용합니다.	계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송
학습 및 추론 모델	Azure Machine Learning 또는 Microsoft Fabric	예	데이터 전처리, 코드 또는 자동화를 사용하여 모델 학습, 모델 개선, 기계 학습 모델 배포 및 앱에서 엔드포인트 사용	컴퓨팅, 스토리지 및 데이터 전송
미리 빌드된 AI 모델 및 서비스 사용	Azure AI 서비스 및 또는 Azure OpenAI	예	AI 모델을 선택하고, 엔드포인트를 보호하며, 앱에서 엔드포인트를 사용하고, 필요에 따라 미세 조정	사용된 모델 엔드포인트, 스토리지, 데이터 전송, 컴퓨팅 사용(사용자 지정 모델을 학습하는 경우)
AI 앱 격리	Azure Container Apps	예	AI 모델 선택, 데이터 흐름 오케스트레이션, 데이터 청크 분할, 청크 강화 처리, 인덱싱 선택, 쿼리 유형 이해(전체 텍스트, 벡터, 하이브리드), 필터 및 패싯 이해, 재정렬 수행, 프롬프트 엔지니어링, 엔드포인트 배포 및 앱에서 엔드포인트 사용	계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송

IaaS(인프라 서비스)를 사용하여 AI 모델 가져오기

사용자 지정 및 제어를 강화하려면 CycleCloud 및 Azure Kubernetes Service를 통해 Azure Virtual Machines와 같은 Azure의 IaaS 솔루션을 사용합니다. 이러한 솔루션을 사용하면 사용자 지정 AI 모델을 학습하고 배포할 수 있습니다. 관련 가격 책정 페이지 및 Azure 가격 계산기를 참조하세요.

AI 목표	Microsoft 솔루션	필요한 데이터	필요한 기술	주요 비용 요소
고유한 AI 모델을 학습하고 유추합니다. 사용자 고유의 모델을 Azure로 가져옵니다.	Azure Virtual Machines 또는 Azure Kubernetes Service	예	인프라 관리, IT, 프로그램 설치, 모델 학습, 모델 벤치마킹, 오케스트레이션, 엔드포인트 배포, 엔드포인트 보안 및 앱에서 엔드포인트 사용	컴퓨팅, 컴퓨팅 노드 오케스트레이터, 관리 디스크(선택 사항), 스토리지 서비스, Azure Bastion 및 사용된 기타 Azure 서비스

AI 데이터 전략 개발

데이터 전략은 AI 이니셔티브에 대한 데이터를 수집, 관리 및 사용하는 방법을 정의합니다. 이 전략은 데이터 자산이 보안 및 규정 준수를 유지하면서 AI 사용 사례를 지원하도록 합니다. 거버넌스 프레임워크를 설정하고, 확장성 요구 사항을 평가하고, 수명 주기 관리를 설계하고, 책임 있는 데이터 사례를 구현해야 합니다.

1. AI 워크로드에 대한 데이터 거버넌스 프레임워크를 설정합니다. 데이터 거버넌스는 액세스 제어 및 책임 있는 사용 정책을 통해 안전하고 규정을 준수하는 AI 데이터 사용을 제공합니다. 거버넌스 프레임워크는 다양한 AI 사용 사례에 대한 요구 사항을 정의하고 지속적인 데이터 관리 프로세스를 설정합니다. 민감도 및 노출 수준에 따라 데이터 분류 체계를 정의해야 합니다. Microsoft Purview에서 생성 AI 앱에 데이터 보안 및 규정 준수 보호를 사용합니다.

2. AI 데이터 요구 사항에 대한 확장성 요구 사항을 평가합니다. 확장성 평가를 통해 데이터 인프라는 성능 문제 또는 비용 초과 없이 현재 및 미래의 AI 워크로드 요구를 처리할 수 있습니다. 이 평가는 기술 선택을 안내하는 볼륨, 속도 및 다양한 요구 사항을 식별합니다. 각 AI 사용 사례에 대한 현재 데이터 볼륨, 처리 빈도 및 데이터 형식을 문서화해야 합니다.

3. AI 자산에 대한 데이터 수명 주기 관리를 디자인합니다. 수명 주기 관리는 AI 요구 사항을 지원하면서 데이터를 수집에서 폐기까지 액세스 가능하고 안전하며 비용 효율적으로 유지합니다. 이 방법은 수집 전략, 스토리지 최적화 및 품질 보증 프로세스를 다룹니다. 데이터베이스, API, IoT 디바이스 및 타사 공급자에서 체계적인 데이터 수집을 계획해야 합니다. 액세스 패턴 및 보존 요구 사항에 따라 적절한 계층을 사용하여 스토리지 전략을 설계합니다. 데이터 품질을 위해 ETL/ELT 파이프라인을 설정하고 책임 있는 AI 대시보드 를 사용하여 데이터 세트 바이어스를 식별하고 완화합니다.

4. AI 개발을 위한 책임 있는 데이터 사례를 구현합니다. 책임 있는 사례는 AI 시스템이 데이터를 윤리적으로 사용하고 규정 준수를 유지하도록 보장합니다. 이러한 사례는 AI 수명 주기 전반에 걸쳐 데이터 수집, 사용량 및 보존 결정을 안내합니다. 투명성을 위해 Microsoft Fabric 또는 Microsoft Purview 를 사용하여 데이터 계보 추적을 구현해야 합니다. 학습 데이터 세트의 데이터 품질 표준, 바이어스 검색 및 공정성 고려 사항을 설정합니다. AI 성능과 개인 정보 및 규정 준수 요구 사항의 균형을 맞추는 보존 및 삭제 정책을 정의합니다.

책임 있는 AI 전략 개발

책임 있는 AI 전략은 AI 솔루션이 신뢰할 수 있고 윤리적으로 유지되도록 합니다. 이 전략은 비즈니스 목표에 부합하는 윤리적 AI 개발을 위한 프레임워크를 설정합니다. 책임 있는 AI 전략을 만들려면 책임을 설정하고, 원칙을 정의하고, 도구를 선택하고, 규정 준수를 평가해야 합니다.

1. 지정된 팀에 AI 책임을 할당합니다. 책임 구조는 AI 거버넌스 결정에 대한 소유권을 제공하고 규제 요구 사항의 응답성 관리를 보장합니다. 이러한 구조는 AI 이니셔티브에 대한 역할 및 의사 결정 권한을 정의합니다. 개인 또는 팀을 할당하여 AI 기술 변경 및 규정 요구 사항을 모니터링해야 합니다. 책임 중앙 집중화 및 에스컬레이션 절차를 수립하는 탁월한 AI 클라우드 센터를 만듭니다.

2. 책임 있는 AI 원칙을 비즈니스 목표로 채택합니다. 책임 있는 AI 원칙은 의사 결정을 안내하고 업계 표준에 부합하는 윤리적 AI 개발을 위한 프레임워크를 제공합니다. 이러한 원칙은 AI 프로젝트 선택 및 개발을 형성하는 비즈니스 목표가 됩니다. NIST RMF(AI Risk Management Framework)에 부합하는 Microsoft의 6가지 책임 있는 AI 원칙을 채택해야 합니다. 이러한 원칙을 프로젝트 계획, 개발 프로세스 및 성공 메트릭에 통합합니다.

3. AI 포트폴리오에 대한 책임 있는 AI 도구를 선택합니다. 도구 선택은 윤리적 AI 원칙에 적합한 메커니즘을 보장하고 책임 있는 AI 표준을 일관되게 적용합니다. 도구 선택은 통합 접근 방식 및 운영 프로세스를 다룹니다. AI 사용 사례 및 위험 프로필에 맞는 적절한 책임 있는 AI 도구 및 프로세스를 평가하고 선택해야 합니다. 이러한 도구를 개발 워크플로 내에 통합하여 일관된 애플리케이션을 보장합니다.

4. AI 규정 준수 요구 사항을 식별합니다. 규정 준수 평가는 법적 위험으로부터 조직을 보호하고 AI 이니셔티브가 관련 법률 및 업계 표준에 부합하도록 보장합니다. 규정 준수 요구 사항은 산업, 지리 및 AI 애플리케이션에 따라 다릅니다. 운영 및 AI 사용 사례에 적용되는 관련 현지 및 국제 AI 규정을 식별해야 합니다. 규정 변경을 모니터링하고 규정 준수 전략을 업데이트하여 AI 채택 과정에서 지속적인 조정을 보장합니다.

AI 전략 예제

이 예제 AI 전략은 가상의 회사인 Contoso를 기반으로 합니다. Contoso는 고객용 전자 상거래 플랫폼을 운영하며 비즈니스 데이터를 예측하는 도구가 필요한 영업 담당자를 고용합니다. 또한 프로덕션을 위한 제품 개발 및 인벤토리를 관리합니다. 영업 채널에는 민간 기업과 고도로 규제되는 공공 부문 기관이 모두 포함됩니다.

AI 사용 사례	목표	목표	성공 메트릭	AI 접근 방식	Microsoft 솔루션	데이터 요구 사항	기술 요구 사항	비용 요인	AI 데이터 전략	책임 있는 AI 전략
전자상거래 웹 애플리케이션 채팅 기능	비즈니스 프로세스 자동화	고객 만족도 개선	고객 보존율 증가	PaaS, 생성형 AI, RAG (Retrieve-Aware Generation)	Azure AI 파운드리	항목 설명 및 페어링	RAG 및 클라우드 앱 개발	사용	고객 데이터에 대한 데이터 거버넌스를 설정하고 AI 공정성 제어를 구현합니다.	AI 책임을 AI CoE에 할당하고 책임 있는 AI 원칙과 일치하도록 합니다.
내부 앱 문서 처리 워크플로	비즈니스 프로세스 자동화	비용 절감	완료율 증가	분석 인공지능, 세밀 조정	Azure AI 서비스 - 문서 인텔리전스	표준 문서	앱 개발	예상 사용량	내부 문서에 대한 데이터 거버넌스를 정의하고 데이터 수명 주기 정책을 계획합니다.	AI 책임을 할당하고 데이터 처리 정책 준수를 보장합니다.
재고 관리 및 제품 구매	비즈니스 프로세스 자동화	비용 절감	재고의 더 짧은 유효 기간	기계 학습, 학습 모델	Azure Machine Learning (애저 머신 러닝)	기록 인벤토리 및 판매 데이터	기계 학습 및 앱 개발	예상 사용량	판매 데이터에 대한 거버넌스를 설정하고 데이터의 편향을 감지하고 해결합니다.	AI 책임을 할당하고 금융 규정을 준수합니다.
회사 전체의 일상 업무	개별 생산성 향상	직원 환경 개선	직원 만족도 증가	SaaS(소프트웨어로서의 서비스) 생성 AI	Microsoft 365 Copilot	OneDrive 데이터	일반 IT	구독 비용	직원 데이터에 대한 데이터 거버넌스를 구현하고 데이터 개인 정보를 보장합니다.	AI 책임을 부여하고 기본 내장된 책임 있는 AI 기능을 활용합니다.
규제된 업계 채팅 기능을 위한 전자 상거래 앱	비즈니스 프로세스 자동화	매출 증대	판매 증가	IaaS 생성 AI 모델 학습	Azure Virtual Machines	도메인별 학습 데이터	클라우드 인프라 및 앱 개발	인프라 및 소프트웨어	규정 준수 조치를 사용하여 규제된 데이터에 대한 거버넌스를 정의하고 수명 주기를 계획합니다.	AI 책임을 할당하고 업계 규정을 준수합니다.

다음 단계

AI 계획