AI 목표: 모든 조직은 AI가 사용자와 프로세스에 가치를 더하기를 원합니다. 이 값은 보안을 유지하고 효율적으로 실행되는 AI에서 비롯해야 합니다. 이미 가지고 있는 기술과 데이터에 적합하고 예산 내에 있어야 합니다. AI 과제: 목표는 분명하지만 해당 값에 도달하는 것이 항상 간단하지는 않습니다. 팀은 종종 많은 실험을 해 보지만 성과를 거의 얻지 못합니다. 일부 팀은 조직 전반에 걸쳐 서로 충돌하는 솔루션을 구축합니다. 다른 지역에서는 보안 문제와 신뢰 부족으로 인해 사람들이 활용할 수 있는 범위가 제한되며, 이는 AI의 발전을 저해합니다.
AI 솔루션: 많은 조직에서 이러한 과제를 해결하기 위해 MICROSOFT AI 솔루션으로 전환했습니다. Microsoft 각 사용 사례를 효율적으로 처리하고 확장할 때 AI를 안전하게 유지할 수 있는 유연성을 제공하는 광범위한 기능 집합을 제공합니다. 이 지침은 의사 결정자에게 해당 작업을 지시하고 비즈니스 요구 사항에 맞게 AI 투자를 조정하는 프레임워크를 제공합니다.
추천: 다음 섹션의 의사 결정을 순서대로 수행하여 비즈니스 요구에 맞는 AI 전략을 만듭니다. 각 결정은 다음 결정을 형성하는 제약 조건을 설정하고 가치 창출에 계속 초점을 맞추게 합니다.
1. AI 사용 사례 식별
AI 전략을 프레이밍하는 첫 번째 단계는 사용 사례 식별입니다. 이 단계에서는 의사 결정자가 AI가 조직 전체에서 비즈니스 결과를 개선할 수 있는 위치를 검색하는 방법을 정의합니다. 목표는 먼저 의미 있는 기회를 노출하는 것입니다. 목록은 빠짐없이 모두 포함할 필요는 없지만, 그렇게 해도 됩니다. 그 목적은 모든 사람에게 비즈니스에 가장 중요한 것에 대한 공통된 견해를 제공하는 것입니다. 모든 사용 사례가 실제 값으로 다시 추적되도록 순서대로 처리합니다.
비즈니스 문제부터 시작합니다. AI를 고려하기 전에 조직에 더 나은 결과가 필요한 위치를 찾습니다. 가장 명확한 신호는 반복적인 수동 작업 또는 느린 승인과 같은 사람들이 작동하는 방식에 표시됩니다. "결과가 기대치를 놓치는 위치" 또는 "사람들이 반복적인 작업에 시간을 보내는 곳"과 같은 일반적인 용어로 검색을 구성합니다. 이 접근 방식은 AI가 참신하지 않고 가치를 가리키게 합니다. 절충: 광범위한 스캔은 많은 기회를 노출하므로 측정 가능하고 의미 있는 결과 격차에 집중하세요.
문제를 사용 사례로 변환합니다. 각 비즈니스 문제를 "지원 에이전트가 내부 문서에서 응답하여 해결 시간이 짧아지도록 지원"과 같은 활동 및 예상 결과의 이름을 지정하는 짧은 문으로 전환합니다. 활동이 투자를 정당화하기에 충분히 자주 발생하는지 확인합니다. 절충: 초기 시나리오는 모호한 경향이 있으므로 계속 진행하기 전에 명확하고 실행 가능한 설명으로 구체화합니다.
사용 사례를 분류합니다. 값을 만드는 방법에 따라 각 사용 사례를 분류합니다. 이 결정을 사용하여 이후 기술 선택을 안내합니다.
개별 작업: 이러한 사용 사례는 개인 또는 팀이 기존 도구 내에서 작업하는 방식을 개선합니다. 예를 들어 쓰기 지원 또는 모임 준비가 포함됩니다. Microsoft 365 Copilot 같은 생성형 AI 솔루션과 긴밀하게 부합합니다.
비즈니스 자동화: 이러한 사용 사례는 조직이 운영하거나 가치를 제공하는 방식을 변경합니다. 예를 들어 자동화된 고객 라우팅 또는 수요 예측이 있습니다. 종종 다른 시스템과 통합해야 하며 둘 이상의 AI 유형을 결합할 수 있습니다.
필요한 AI 유형을 고려합니다. 이는 최종 결정이 아닌 고려 사항이며 사용 사례가 명확해지면 다시 확인할 수 있습니다. 결과에서 원하는 일관성의 대략적인 감각은 다음에 오는 기술 선택 범위를 좁힐 수 있습니다. 나중에 자유롭게 조정할 수 있습니다.
생성 AI(비결정적) 는 동일한 입력에 대해서도 다를 수 있는 출력을 생성하며, 자연어 또는 문서와 같이 입력이 구조화되지 않은 경우 잘 작동합니다. 워크플로가 고정되지 않고 시스템에서 콘텐츠를 만들거나 사람의 결정을 지원하려는 경우에 적합합니다. 정확한 단계를 미리 알지 못하며 출력의 일부 변형이 허용되는 경우 이러한 방식으로 기울어 집니다.
비제전적 AI(결정적) 는 구조화된 입력에서 일관되고 반복 가능한 출력을 생성합니다. 워크플로가 정의되고 동일한 입력으로 인해 동일한 결과가 발생하는 경우에 적합합니다. 예측 또는 변칙 검색과 같은 정확도에 의존하는 작업에 대해 이 방법을 사용합니다.
모든 비즈니스 영역에 동일한 시퀀스를 적용합니다. 반복 가능한 흐름은 혼동을 줄이고, 필요하지 않은 생성 AI에 도달하지 못하게 하고, 다음에 솔루션 경로를 선택할 수 있도록 준비합니다.
2. AI 기술 전략
어떤 Microsoft AI 솔루션을 선택해야 하나요? 어떤 유형의 AI가 필요한 사용 사례를 파악한 후 각 AI를 빌드하거나 구입하는 방법을 축소하기 시작합니다. Microsoft 공유 책임 접근 방식에서 단순성을 위해 사용자 지정을 거래하는 네 가지 채택 모델을 제공합니다. 즉시 사용할 수 있는 코필로트, 저코드 SaaS 개발, 관리형 PaaS 개발 및 Azure 인프라입니다. 첫 번째 모델에서 마지막 모델로 이동하면 제어를 얻고 속도를 포기합니다.
각 접근 방식에는 다른 수준의 기술 기술이 필요하며 다른 수준의 제어를 반환합니다. 다음 섹션의 의사 결정 트리를 사용하여 옵션 범위를 좁힐 수 있습니다. 그런 다음, 다음 지침을 사용하여 AI 솔루션의 4가지 요소를 계량합니다.
- 기능: Microsoft 및 Azure AI 솔루션의 기능을 검토하여 사용 사례의 요구 사항을 충족하는지 확인합니다.
- 필요한 데이터: 필요한 데이터가 존재하며 시나리오에 액세스할 수 있는지 확인합니다.
- 필요한 기술: 솔루션을 선택하기 전에 현재 기능으로 각 사용 사례를 달성할 수 있는지 확인합니다.
- 비용: 솔루션이 예산에 맞는지 평가합니다.
Microsoft AI 의사 결정 트리
Microsoft 부조종사(SaaS 에이전트)
Microsoft의 바로 사용할 수 있는 AI 솔루션인 Copilot은 설정이 거의 필요 없고 이미 보유한 데이터와 연동해 작동하므로 업무 효율을 빠르게 높여 줍니다. Microsoft 365 Copilot Office 앱에 AI 지원을 추가합니다. 제품 내 및 역할 기반 코필로트는 특정 작업 역할 및 산업에 초점을 맞춥니다. 트레이드오프: 코파일럿은 가장 빠른 결과를 제공하지만, 맞춤형 솔루션보다 사용자 지정 범위가 제한됩니다.
| Microsoft 코필로트 | 설명 | 사용자 | 필요한 데이터 | 필요한 기술 | 주요 비용 요소 |
|---|---|---|---|---|---|
| Microsoft 365 Copilot | 사용자의 Microsoft 데이터를 기반으로 하는 Microsoft 365 전반의 웹 기반 및 Work IQ 기반 채팅 및 앱 내 도움말. | 비즈니스 | 보호가 콘텐츠를 따르도록 Microsoft 365 데이터에 보호 민감도 레이블을 적용합니다. | 일반 IT 및 데이터 관리 | 사용자 단위 라이선스 |
| 역할 기반 코필로트 및 에이전트 | 보안, 판매 에이전트, 서비스 및 재무 에이전트에 대한 역할별 도움말입니다. | 비즈니스 | 예. 데이터 연결 및 플러그 인 옵션을 사용할 수 있습니다. | 일반 IT 및 데이터 관리 | Microsoft 364 Copilot 액세스 또는 Security Copilot용 보안 컴퓨팅 단위(SCU) |
| 제품 내 코파일럿 및 에이전트 | GitHub, Power Apps, Power BI, Dynamics 365, Power Automate, Microsoft Fabric, Microsoft Entra, Azure와 같은 제품에 내장된 AI. | 비즈니스 및 개인 | 예. 대부분의 경우 최소한의 데이터 준비가 필요합니다. | 최소(기본 관리자 구성 및 데이터 준비 상태) | 무료 또는 구독 |
| Microsoft Copilot | Microsoft Copilot 무료 웹 기반 채팅 앱입니다. | 개인 | No | 없음 | Free |
SaaS AI 개발 플랫폼(하위 코드)
Microsoft AI 에이전트를 빌드하기 위한 SaaS 개발 옵션을 제공합니다. Copilot Studio 통해 비즈니스 사용자는 자연어를 사용하여 AI 도우미를 만들 수 있으며, Microsoft 365 Copilot 확장을 사용하면 회사별 데이터 및 프로세스를 사용하여 엔터프라이즈 Copilot 사용자 지정할 수 있습니다. 트레이드오프: SaaS 개발 플랫폼은 비즈니스 팀도 개발에 참여할 수 있게 해주지만, 과도한 사용자 지정은 한계에 부딪힐 수 있으며 관리형 플랫폼으로의 전환이 필요할 수 있습니다.
| 플랫폼 | 설명 | 사용자 | 필요한 데이터 | 필요한 기술 | 주요 비용 요소 |
|---|---|---|---|---|---|
| Copilot Studio | Copilot Studio 사용하여 낮은 코드 도구와 자연어를 사용하여 대화형 AI 에이전트 및 자동화 워크플로를 빌드합니다. | 정보기술 | 많은 데이터 통합을 자동화하여 다양한 데이터 소스와 연결된 맞춤형 코파일럿을 만듭니다. | 데이터 원본을 연결하고 대화형 흐름을 디자인하며 부조종사 배포를 위한 플랫폼 구성 | 라이선스 |
| Microsoft 365 Copilot 대한 확장성 도구 | 사용자 지정 Microsoft 365 Copilot에 선언적 에이전트를 통해 더 많은 데이터나 기능을 추가하세요. Copilot Studio, 에이전트 작성기 및 에이전트 도구 키트와 같은 도구를 사용합니다. | 비즈니스 및 개인 | Microsoft 365 Copilot 커넥터를 사용하여 데이터를 추가합니다. | 데이터 관리, 일반 IT 또는 개발자 기술 | Microsoft 365 Copilot 라이선스 |
Azure 플랫폼의 AI(PaaS)
서비스로서의 플랫폼은 대부분의 사용자 지정 앱 및 에이전트의 시작점입니다. 낮은 코드 SaaS 개발로 충분한 사용자 지정을 제공할 수 없지만 Microsoft 플랫폼을 실행하려는 경우 선택합니다. 관리되는 환경을 통해 사용자 지정 에이전트 및 모델을 빌드할 수 있습니다. 이 작업은 SaaS 개발보다 더 많은 노력이 필요하지만 인프라를 직접 실행하는 것보다 적은 노력이 필요합니다. Microsoft 플랫폼을 관리하며 서버를 유지 관리하거나 기본 모델을 학습하지 않습니다. 절충: 관리되는 플랫폼은 SaaS 개발보다 더 많은 제어를 제공하지만 SaaS 개발 옵션에서 제어하지 않는 엔지니어링 기술이 필요합니다.
| AI 목표 | Microsoft 솔루션 | 필요한 데이터 | 필요한 기술 | 주요 비용 요소 |
|---|---|---|---|---|
| 빌드 에이전트들 | Microsoft Foundry 에이전트 서비스 | 예 | 에이전트 유형 선택, 도구 및 데이터 추가, 추적으로 디버깅, 평가, 최적화, 게시, 모니터링 에이전트 수명 주기 참조 | 모델 토큰, 저장소, 기능, 연산, 접지 연결 사용 |
| RAG 구축 | 파운드리 | 예 | 모델 선택, 데이터 흐름 조정, 데이터 청킹, 청크 보강, 인덱싱 선택, 쿼리 유형 이해(전문 검색, 벡터, 하이브리드), 필터 및 패싯 이해, 리랭킹 수행, 프롬프트 엔지니어링, 엔드포인트 배포 및 앱에서 엔드포인트 활용 | 계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송 |
| GenAI 모델 미세 조정 | 파운드리 | 예 | 데이터를 전처리하고, 데이터를 학습 및 유효성 검사 데이터로 분할하고, 모델의 유효성을 검사하고, 다른 매개 변수를 구성하고, 모델을 개선하고, 모델을 배포하고, 앱에서 엔드포인트를 사용합니다. | 계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송 |
| 학습 및 추론 모델 |
Azure Machine Learning 또는 Microsoft Fabric |
예 | 데이터 전처리, 코드 또는 자동화를 사용하여 모델 학습, 모델 개선, 기계 학습 모델 배포 및 앱에서 엔드포인트 사용 | 컴퓨팅, 스토리지 및 데이터 전송 |
| 미리 빌드된 AI 모델 및 서비스 사용 | 펀드리 도구 | 예 | AI 모델을 선택하고, 엔드포인트를 보호하며, 앱에서 엔드포인트를 사용하고, 필요에 따라 미세 조정 | 사용된 모델 엔드포인트, 스토리지, 데이터 전송, 컴퓨팅 사용(사용자 지정 모델을 학습하는 경우) |
| AI 앱 격리 | 서버리스 GPU를 지원하는 Azure Container Apps | 예 | AI 모델 선택 및 관리, 데이터 흐름 오케스트레이션, 데이터 청크 분할, 데이터 청크 강화, 인덱싱 선택, 쿼리 유형 이해(전체 텍스트, 벡터, 하이브리드), 필터 및 패싯 이해, 재랭킹 수행, 프롬프트 엔지니어링(사용자 요청 최적화), 엔드포인트 배포 및 앱에서 엔드포인트 사용; 네트워크 격리를 위한 선택적 환경/VNet 구성(지역에 따라 가용성과 기능 상태가 달라질 수 있습니다) | 계산, 토큰 수입/출, 소비된 AI 서비스, 저장소 및 데이터 전송 |
AI + 기계 학습에 나열된 제품의 개별 가격 책정 페이지와 Azure 가격 계산기를 참조하여 예상 비용을 생성합니다.
Azure 인프라의 AI
Azure 인프라를 사용하면 사용자 고유의 모델 및 런타임을 완전히 제어할 수 있습니다. 일반적으로 빌드하는 데 시간이 가장 오래 걸리며 시간이 지남에 따라 유지 관리하기 위해 가장 많은 노력이 필요합니다. 사용자 고유의 모델을 가져오거나, 사용자 지정 런타임을 사용하거나, 관리되는 플랫폼에서 수행할 수 없는 성능 및 규정 준수 요구 사항을 충족해야 하는 경우 이 옵션을 선택합니다. 절충: 인프라는 가장 많은 제어권을 제공하지만 운영 소유권이 가장 큽니다.
| AI 목표 | Microsoft 솔루션 | 필요한 데이터 | 필요한 기술 | 주요 비용 요소 |
|---|---|---|---|---|
| 관리하는 인프라에서 사용자 고유의 모델 학습 및 실행 | Azure 인프라의 AI | 예 | 인프라 관리, IT, 프로그램 설치, 모델 학습, 모델 벤치마킹, 오케스트레이션, 엔드포인트 배포, 엔드포인트 보안 및 앱에서 엔드포인트 사용 | 컴퓨팅, 컴퓨팅 노드 오케스트레이터, 관리 디스크(선택 사항), 스토리지 서비스, Azure Bastion 및 사용되는 기타 Azure 서비스 |
Linux 및 Windows 가상 머신의 GPU 가격을 참조하세요. 예상에는 Azure 가격 계산기를 사용합니다.
3. 책임 있는 AI 전략
위의 단계에서 선택한 모델과 예산이 무엇이든 책임 있는 사용은 대규모 프로덕션 환경에서 AI를 실행하는 조건입니다. 조직은 모든 팀에 대해 AI를 공정하고 책임감 있게 유지하는 표준을 설정해야 합니다. 선택한 모델은 이러한 표준이 적용되는 위치를 결정하지만 표준 자체는 조직 전체에서 일정하게 유지됩니다. 여기서 이러한 표준을 정의하는 대신 책임 있는 AI에 대한 Microsoft 지침을 기반으로 합니다. 일관된 프레임워크를 구현하기 위한 책임 있는 AI 정책을 만들려면 CAF 지침을 참조하세요.
4. 데이터 전략
책임 있는 AI 표준은 뒤에 있는 데이터만큼 강력하므로 데이터 전략은 다음에 나옵니다. 데이터 전략은 우선 순위 사용 사례가 작업할 수 있는 고품질 데이터를 관리했는지 여부를 결정합니다. 지속 가능한 전략은 데이터를 수집하고 분류하며, AI가 Microsoft 365와 Azure 전반으로 확산됨에 따라 해당 데이터의 규정 준수 상태를 유지합니다. 워크로드별 디자인보다는 거버넌스 기준 및 수명 주기 관리에 집중합니다. AI 및 분석을 위한 데이터 전략을 만들려면 CAF 지침을 참조하세요.
5. AI를 채택하는 방법
전략이 수립되었으면 이제 계획 수립과 준비 단계로 넘어갑니다. AI 도입 지침은 거버넌스와 보안을 기본으로 갖춘 상태에서 위의 각 결정을 프로덕션 환경에 적용할 수 있도록 스타트업 및 엔터프라이즈용 체크리스트를 제공합니다.
| AI 채택 단계 | 적용 가능한 AI 기술 | 시작 검사 목록 | 엔터프라이즈 검사 목록 |
|---|---|---|---|
| AI 계획 | 부조종사들 애저 (Azure) |
☐ AI 리소스 액세스 ☐ 책임 있는 AI 설정 |
☐ AI 기술 평가 ☐ AI 기술 습득 ☐ AI 리소스 액세스 ☐ AI 사용 사례 우선 순위 지정 ☐ AI 개념 증명 만들기 ☐ 책임 있는 AI 구현 |
| AI 준비 | 애저 (Azure) | ☐ Azure 랜딩 존의 AI ☐ 아키텍처 선택 |
☐ AI 거버넌스 ☐ AI 네트워킹 ☐ AI 안정성 ☐ Azure 랜딩 존의 AI ☐ 아키텍처 선택 ☐ AI 디자인 영역 사용 |
| AI 관리 | 부조종사들 애저 (Azure) |
☐ AI 거버넌스 정책 적용 | ☐ AI 조직 위험 평가 ☐ AI 거버넌스 정책 문서화 ☐ AI 정책 적용 ☐ AI 조직 위험 모니터링 |
| 안전한 AI | 부조종사들 애저 (Azure) |
☐ AI 리소스 및 데이터 보호 | ☐ AI 보안 위험 검색 ☐ AI 리소스 및 데이터 보호 ☐ AI 보안 위협 감지 |
| AI 관리 | 부조종사들 애저 (Azure) |
☐ AI 모델 관리 ☐ AI 비용 관리 |
☐ AI 작업 관리 ☐ AI 배포 관리 ☐ AI 모델 관리 ☐ AI 비용 관리 ☐ AI 데이터 관리 ☐ AI 비즈니스 연속성 관리 |