Azure Open AI Service의 비즈니스 가치 발견
Azure OpenAI Service는 Azure AI 서비스에 추가된 최신 서비스입니다. 비즈니스 사용자가 액세스할 수 있는 방식으로 최첨단 AI 모델을 제공하겠다는 Microsoft의 노력의 증거입니다.
Azure OpenAI Service란?
OpenAI는 최근 가장 유명한 생성 AI 모델 중 일부를 개발한 성공적인 AI 회사입니다. 대표적인 제품으로 ChatGPT 및 DALL-E가 있습니다. 이러한 모델은 공용 API를 통해 사용할 수 있습니다. 모든 생성 AI인 OpenAI 모델은 사용자에게서 프롬프트 또는 지침을 수신하고 AI 생성 콘텐츠를 다시 보냅니다.
Azure OpenAI Service는 사용자가 Azure AI 서비스를 통해 OpenAI 모델을 활용할 수 있도록 하는 Microsoft 제품입니다. 즉, 공용 API 대신 Azure에서 직접 OpenAI 모델에 액세스할 수 있습니다. 이러한 종류의 모델을 사용자에게 제공하는 Microsoft 제품은 Azure OpenAI Service 외에도 있습니다. 이전 단원에서는 Power Platform의 Copilot 및 Microsoft 365 Copilot에 포함된 생성 AI에 대해 이미 설명했습니다. 이러한 Copilot 기능은 텍스트 생성을 위한 OpenAI 모델인 GPT를 통해 제공됩니다.
Azure OpenAI Service로 무엇을 할 수 있나요?
Azure OpenAI Service에 포함된 모델은 생성 AI에 중점을 둡니다. 즉, 사용자가 신뢰할 수 있는 사람이 만든 것처럼 보이는 콘텐츠를 자동으로 만들 수 있습니다. 예를 들면 다음과 같습니다.
언어: 자연어를 이해하고 생성하는 GPT 모델입니다. 사용자와 유사한 수준에서 사용자의 프롬프트에서 뉘앙스를 포함하여 의미를 추출할 수 있습니다. 이 능력 덕분에 믿을 수 있고 만족스러운 대화에 참여할 수 있습니다. 또한 명확한 지침이 제공되면 전자 메일, 복사본, 코드 또는 기타 문서를 요약하고, 문제를 해결하고, 작성할 수 있습니다.
이미지: 시각적 개체를 만드는 DALL-E 모델입니다. 사용자의 프롬프트를 이미지로 변환합니다. 이러한 모델은 사실적인 사진, 일러스트레이션, 로고, 스케치 등 모든 종류의 예술을 생성하는 데 사용할 수 있습니다. DALL-E는 요청이 있을 때 스타일을 성공적으로 다시 만듭니다.
코드: Codex 모델은 사용자의 프롬프트를 작업 중인 프로그래밍 코드로 변환하도록 설계되었습니다. 개발자는 이를 사용하여 코드 조각을 만들고 성능을 높일 수 있습니다. Codex는 여러 프로그래밍 언어로 결과를 제공합니다. GitHub Copilot의 기반이 되는 기술입니다.
더 복잡한 모델: 포함 모델은 데이터 과학자가 더 복잡한 AI 모델을 빌드할 수 있는 토대를 제공합니다. 텍스트를 분석하고 의미에 대한 추상 매핑을 만듭니다. 이러한 매핑은 AI 전문가가 텍스트에서 유사점을 찾는 데 도움이 됩니다. 포함 모델은 검색, 권장 사항 또는 변칙과 관련된 시나리오에서 핵심입니다.
OpenAI 모델은 지속적으로 발전하며 Azure OpenAI Service도 마찬가지입니다. Azure OpenAI Service 설명서에서 이러한 모델의 특정 버전을 확인할 수 있습니다.
OpenAI API에 직접 연결하는 대신 Azure OpenAI Service를 사용할 경우의 이점
많은 비즈니스 리더는 API에서 직접 OpenAI 모델을 사용하는 것과 Azure OpenA Service를 통하는 것의 차이점을 잘 모를 것입니다. 조직에서 Azure OpenAI Service를 선호하는 데는 분명한 이유가 있습니다.
동일한 모델: 특정 모델 및 버전이 제공되면 Azure는 API와 정확히 동일합니다. Azure 사용자는 업데이트를 놓치지 않습니다. AI가 똑같이 훌륭합니다.
개인 정보: OpenAI의 API는 공용입니다. 이 사실은 API로 전송된 모든 데이터를 사용하여 모델을 개선할 수 있음을 의미합니다. 사용 사례에 비공개 기밀 정보가 포함된 경우 API를 사용하는 것이 최선의 선택이 아닐 수 있습니다. 반면, Azure OpenAI Service를 사용하는 경우 Microsoft는 Azure 인프라 내에서 모델을 호스트합니다. 모든 데이터가 Azure에 남아 있기 때문에 모델을 개선하기 위해 OpenAI로 고객 데이터가 전송되지 않습니다.
보안: Microsoft Azure는 강력하고 신뢰할 수 있는 플랫폼입니다. Azure 개발자는 전 세계의 공공 및 민간 조직이 Azure에서 안전하게 작업할 수 있도록 인프라를 보호하는 광범위한 경험을 가지고 있습니다. Azure OpenAI Service는 이 전문 지식을 기반으로 합니다. 비즈니스가 안전하고 중단 없이 성공할 수 있도록 암호화, 프라이빗 네트워킹 및 지역 가용성 시스템을 제공합니다.
책임 있는 AI: Microsoft 윤리적 약정은 Azure에서 OpenAI 모델을 제공하는 방법을 안내합니다. Microsoft는 이 생성 AI로 인한 모든 잠재적 피해를 식별, 측정, 완화 및 운영하기 위해 광범위한 연구와 작업을 수행하고 있습니다. 예를 들어, 개발자는 특정 프롬프트를 재정의하는 추가 지침 시스템으로 오용을 방지합니다. 또한 모델이 잠재적으로 유해한 콘텐츠를 제공하지 않도록 하는 콘텐츠 필터 시스템도 있습니다.
결론적으로 Azure OpenAI Service는 OpenAI와 Microsoft Azure의 장점을 결합합니다. 한편으로는 혁신적인 OpenAI 모델을 제공합니다. 반면, Azure인 안정적이고 비즈니스 친화적인 환경에서 호스트되는 모든 이점이 있습니다.
실제 사용 사례에서 Azure OpenAI Service 사용
조직이 Azure OpenAI Service를 사용하여 가상 도우미 개발하는 방법을 상상해 보겠습니다. 마지막 단원의 사용 사례에서 판매 후 서비스를 제공할 수 있는 가능성을 언급했습니다.
고객은 도우미 상호 작용하여 주문, 구매 또는 보증에 대한 정보를 요청할 수 있습니다. 채팅이나 전화를 통해이 도우미와 이야기할 수 있습니다. 이전 세대의 가상 도우미는 대화 흐름을 설계해야 했으며, 이 접근 방식은 대화를 어느 정도 엄격하게 만들었습니다. GPT 모델에서 구동되는 도우미는 이런 장애물로 인해 어려움을 겪지 않을 것입니다. 워크플로 디자인이 필요하지 않으며 보다 유연하고 자연스러운 대화에 참여할 수 있습니다. 이 특전은 정보를 제공하는 한 도우미가 특정한 학습 없이 질문과 작업을 해결할 수 있음을 의미합니다. 이 방법은 개발 팀의 시간과 리소스를 절약합니다.
AI 팀은 환불 정책, 배송 상태 등에 대한 의구심에 답하기 위해 가상 도우미 개인 데이터 및 내부 설명서를 제공해야 합니다. Azure OpenAI Service를 사용하면 데이터를 오용할 위험 없이 이 작업을 안전하게 수행할 수 있습니다. 특히 비즈니스에서 신용 카드 숫자와 같은 중요한 정보를 처리하는 경우 클라이언트 데이터 개인 정보 보호가 중요합니다.
고객은 챗봇을 냉정하고 잘 와닿지 않는다고 인식하기 때문에 챗봇에서 제공하는 사용자 환경을 싫어하는 경우가 많습니다. AI 팀은 더 친근하고 인간과 유사한 환경을 만들기 위해 가상 도우미 또는 클라이언트 프로필에 대한 DALL-E 아바타를 사용하여 생성할 수 있습니다. 이 기능은 GPT 모델에서 보다 자연스러운 대화 흐름을 강화합니다. 일반적으로 고객은 더 따뜻하고 자연스러운 판매 후 경험을 누릴 수 있습니다.
클라이언트가 가상 도우미 상호 작용이 끝날 때 만족하는 경우 데이터 과학자는 포함 모델을 사용하여 추가 구매를 추천할 수 있습니다. 이 시나리오에서는 올바른 권장 사항을 제공하는 것만 중요하지 않습니다. 고객의 기분을 올바르게 읽는 것이 훨씬 더 중요합니다. 쇼핑 경험에 대해 불만이 있다면 다시 구매하도록 제안하는 것이 비생산적일 수 있습니다. 이 경우 도우미 권장 사항을 제공하지 않도록 제한해야 합니다. 따라서, 이러한 뉘앙스를 알아차리는 데 특히 좋은 GPT 모델로 계산하는 것이 중요합니다.
지금까지 사용 가능한 AI 리소스를 사용하여 달성할 수 있는 작업을 살펴보았습니다. 이제 학습한 모든 내용을 지식 점검으로 마무리하겠습니다.