로컬 언어 모델을 사용하여 Azure OpenAI 및 OpenAI의 응답을 시뮬레이션합니다.
플러그 인 인스턴스 정의
{
"name": "OpenAIMockResponsePlugin",
"enabled": true,
"pluginPath": "~appFolder/plugins/DevProxy.Plugins.dll"
}
구성 예
없음
구성 속성
없음
명령줄 옵션
없음
설명
플러그 인은 OpenAIMockResponsePlugin
로컬 언어 모델을 사용하여 Azure OpenAI 및 OpenAI의 응답을 시뮬레이션합니다. 이 플러그 인을 사용하면 OpenAI 또는 Azure OpenAI 서비스에 연결하고 비용을 발생시키지 않고 앱에서 언어 모델을 사용하여 에뮬레이트할 수 있습니다.
플러그 인은 개발 프록시 언어 모델 구성 을 사용하여 로컬 언어 모델과 통신합니다. 이 플러그 인을 사용하려면 로컬 언어 모델을 사용하도록 개발자 프록시를 구성합니다.
중요합니다
플러그 인에서 생성된 응답의 정확도는 사용하는 로컬 언어 모델에 따라 달라집니다. 프로덕션에 앱을 배포하기 전에 프로덕션에서 사용하려는 언어 모델로 앱을 테스트해야 합니다.
플러그 인은 OpenAIMockResponsePlugin
완료 및 채팅 완료를 시뮬레이션합니다. 플러그 인은 다른 OpenAI API 엔드포인트를 지원하지 않습니다.
다음 단계
GitHub에서 Microsoft와 공동 작업
이 콘텐츠의 원본은 GitHub에서 찾을 수 있으며, 여기서 문제와 끌어오기 요청을 만들고 검토할 수도 있습니다. 자세한 내용은 참여자 가이드를 참조하세요.
Dev Proxy