Azure OpenAI Service란?

아티클
03/22/2023
읽는 데 12분 걸림

Azure OpenAI 서비스는 GPT-3, Codex 및 Embeddings 모델 시리즈를 포함하여 OpenAI의 강력한 언어 모델에 대한 REST API 액세스를 제공합니다. 이러한 모델은 콘텐츠 세대, 요약, 의미 체계 검색, 자연어에서 코드로의 번역을 포함하되 이에 국한되지 않는 특정 작업에 쉽게 적용할 수 있습니다. 사용자는 REST API, Python SDK 또는 Azure OpenAI Studio의 웹 기반 인터페이스를 통해 서비스에 액세스할 수 있습니다.

기능 개요

기능	Azure OpenAI
사용 가능한 모델	새 GPT-4 시리즈(미리 보기) GPT-3 베이스 시리즈 NEW ChatGPT(gpt-35-turbo)(미리 보기) Codex 시리즈 Embeddings 시리즈 모델 페이지에서 자세히 알아보세요.
미세 조정	Ada Babbage Curie Cushman* Davinci* * 현재 사용할 수 없습니다. **미국 동부 및 서유럽 미세 조정은 현재 신규 고객에게 제공되지 않습니다. 미국 기반 교육을 위해 미국 중남부를 사용하세요.
가격	여기에서 사용 가능
가상 네트워크 지원 & 프라이빗 링크 지원	예
관리 ID	예, Azure Active Directory를 통해
UI 환경	계정 & 리소스 관리를 위한 Azure Portal, 모델 탐색 및 미세 조정을 위한 Azure OpenAI Service Studio
국가별 가용성	미국 동부 미국 중남부 서유럽
콘텐츠 필터링	프롬프트 및 완료는 자동화된 시스템을 사용하여 콘텐츠 정책에 따라 평가됩니다. 심각도가 높은 콘텐츠는 필터링됩니다.

Responsible AI

Microsoft는 사용자를 최우선으로 하는 원칙에 따라 AI를 발전시키기 위해 최선을 다하고 있습니다. Azure OpenAI에서 사용할 수 있는 모델과 같은 생성 모델은 상당한 잠재적 이점을 제공하지만 신중한 디자인과 신중한 완화가 없으면 이러한 모델은 잘못되거나 심지어 유해한 콘텐츠를 생성할 가능성이 있습니다. Microsoft는 남용 및 의도하지 않은 피해를 방지하기 위해 상당한 투자를 했습니다. 여기에는 신청자가 잘 정의된 사용 사례를 보여 주도록 요구하고, Microsoft의 책임 있는 AI 사용 원칙을 통합하고, 고객을 지원하기 위한 콘텐츠 필터를 빌드하고, 온보딩 고객에게 책임 있는 AI 구현 지침을 제공하는 것이 포함됩니다.

Azure OpenAI에 액세스하려면 어떻게 해야 하나요?

현재 높은 수요, 예정된 제품 개선 사항, 책임 있는 AI에 대한 Microsoft의 약속을 탐색하기 때문에 액세스가 제한됩니다. 현재 우리는 Microsoft와의 기존 파트너십, 위험이 낮은 사용 사례 및 완화 통합에 전념하는 고객과 협력하고 있습니다.

보다 구체적인 정보는 신청 양식에 포함되어 있습니다. Azure OpenAI에 대한 보다 광범위한 액세스를 책임감 있게 사용할 수 있도록 노력하면서 양해해 주셔서 감사합니다.

액세스를 위해 여기를 신청합니다.

지금 적용

Azure OpenAI 및 OpenAI 비교

Azure OpenAI Service는 Azure의 보안 및 엔터프라이즈 약속을 통해 OpenAI GPT-4, GPT-3, Codex 및 DALL-E 모델을 사용하는 고급 언어 AI를 고객에게 제공합니다. Azure OpenAI는 OpenAI와 API를 공동 개발하여 호환성과 원활한 전환을 보장합니다.

Azure OpenAI를 사용하면 고객은 OpenAI와 동일한 모델을 실행하면서 Microsoft Azure의 보안 기능을 얻을 수 있습니다. Azure OpenAI는 프라이빗 네트워킹, 지역 가용성 및 책임 있는 AI 콘텐츠 필터링을 제공합니다.

주요 개념

프롬프트 및 완성

완성 엔드포인트는 API 서비스의 핵심 구성 요소입니다. 이 API는 모델의 텍스트 입력, 텍스트 출력 인터페이스에 대한 액세스를 제공합니다. 사용자는 영어 텍스트 명령이 포함된 입력 프롬프트를 제공하기만 하면 모델에서 텍스트 완성을 생성합니다.

간단한 프롬프트 및 완성 예제는 다음과 같습니다.

프롬프트: """ count to 5 in a for loop """

완성: for i in range(1, 6): print(i)

토큰

Azure OpenAI는 텍스트를 토큰으로 분해하여 처리합니다. 토큰은 단어 또는 문자 청크일 수 있습니다. 예를 들어 "hamburger"라는 단어는 "ham", "bur" 및 "ger" 토큰으로 분해되지만, "pear"와 같은 짧고 일반적인 단어는 단일 토큰입니다. 많은 토큰이 공백으로 시작합니다(예: " hello" 및 " bye").

지정된 요청에서 처리되는 총 토큰 수는 입력, 출력 및 요청 매개 변수의 길이에 따라 달라집니다. 처리되는 토큰의 양은 모델의 응답 대기 시간 및 처리량에도 영향을 줍니다.

리소스

Azure OpenAI는 Azure의 새로운 제품 제품입니다. Azure 구독에서 리소스 또는 서비스 인스턴스를 만드는 다른 Azure 제품과 동일한 방식으로 Azure OpenAI를 시작할 수 있습니다. Azure의 리소스 관리 디자인에 대해 자세히 알아볼 수 있습니다.

배포

Azure OpenAI 리소스가 만들어지면 API 호출 및 텍스트 생성을 시작하기 전에 먼저 모델을 배포해야 합니다. 이 작업은 배포 API를 사용하여 수행할 수 있습니다. 이러한 API를 사용하면 사용하려는 모델을 지정할 수 있습니다.

컨텍스트 내 학습

Azure OpenAI에서 사용하는 모델은 생성 호출 중에 제공되는 자연어 지침과 예제를 사용하여 요청되는 작업과 필요한 기술을 식별합니다. 이 방법을 사용하는 경우 원하는 특정 작업에 대한 자연어 지침 및/또는 예제가 프롬프트의 첫 번째 부분에 포함됩니다. 그러면 모델에서 가장 가능성이 높은 텍스트의 다음 부분을 예측하여 작업을 완성합니다. 이 기술을 "컨텍스트 내" 학습이라고 합니다. 이러한 모델은 이 단계에서 재학습되지 않는 대신 프롬프트에서 포함한 컨텍스트를 기반으로 하는 예측을 제공합니다.

컨텍스트 내 학습에는 소수 샷, 단일 샷 및 제로 샷의 세 가지 주요 방법이 있습니다. 이러한 방법은 모델에 제공되는 작업별 데이터의 양에 따라 달라집니다.

소수 샷: 이 경우 사용자는 예상 응답 형식 및 콘텐츠를 보여주는 몇 가지 예제를 호출 프롬프트에 포함합니다. 다음 예제에서는 여러 예제를 제공하는 몇 번의 프롬프트를 보여 줍니다(모델은 마지막 답변을 생성합니다).

    Convert the questions to a command:
    Q: Ask Constance if we need some bread.
    A: send-msg `find constance` Do we need some bread?
    Q: Send a message to Greg to figure out if things are ready for Wednesday.
    A: send-msg `find greg` Is everything ready for Wednesday?
    Q: Ask Ilya if we're still having our meeting this evening.
    A: send-msg `find ilya` Are we still having a meeting this evening?
    Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday.
    A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday?
    Q: Thank Nicolas for lunch.
    A: send-msg `find nicolas` Thank you for lunch!
    Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting.
    A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move.
    Q: Tell John that I need to book an appointment at 10:30.
    A:

예제 수는 일반적으로 단일 프롬프트의 최대 입력 길이에 맞출 수 있는 수에 따라 0~100개입니다. 최대 입력 길이는 사용하는 특정 모델에 따라 달라질 수 있습니다. 소수 샷 학습을 사용하면 정확한 예측에 필요한 작업별 데이터의 양을 크게 줄일 수 있습니다. 이 방법은 일반적으로 미세 튜닝된 모델보다 덜 정확하게 수행됩니다.

단일 샷: 이 경우 하나의 예제만 제공된다는 점을 제외하고는 소수 샷 방법과 동일합니다.

제로 샷: 이 경우 모델에 예제가 제공되지 않고 작업 요청만 제공됩니다.

모델

이 서비스는 사용자에게 몇 가지 다른 모델에 대한 액세스를 제공합니다. 각 모델은 다른 기능과 가격대를 제공합니다.

GPT-4 모델은 사용 가능한 최신 모델입니다. 이러한 모델은 현재 미리 보기로 제공됩니다. 액세스를 위해 기존 Azure OpenAI 고객은 이 양식을 작성하여 신청할 수 있습니다.

GPT-3 기본 모델을 다빈치, 퀴리, 밥바지, 아다라고 하여 기능 순서를 감소시키고 속도 순서를 높입니다.

Codex 모델 시리즈는 GPT-3의 하위 항목이며, 자연어를 코드 사용 사례에 적용할 수 있도록 자연어와 코드 모두에 대해 학습되었습니다. 모델 개념 페이지에서 각 모델에 대해 자세히 알아보세요.

다음 단계

Azure OpenAI를 지원하는 기본 모델에 대해 자세히 알아봅니다.