중요합니다
이 기능은 공개 미리보기 단계에 있습니다.
이 문서에서는 Genie Code가 문제를 진단하고, 성능을 분석하고, 엔드포인트를 제공하는 모델에 대한 지침을 가져오는 데 어떻게 도움이 되는지 설명합니다.
요구 사항
가시성을 제공하는 모델에 Genie Code를 사용하려면 작업 영역에 다음이 필요합니다.
- 계정 및 작업 영역 모두에 대해 사용하도록 설정된 파트너 기반 AI 기능입니다. 파트너 기반 AI 기능을 참조하세요.
- 작업 영역은 지원되는 지역에 있어야 합니다. Genie Code는 Geos를 사용하여 데이터 상주를 관리하는 지정된 서비스 입니다. Genie Code 기능의 지리적 가용성을 참조하세요.
메모
Genie Code는 현재 엔드포인트를 제공하는 사용자 지정 모델만 지원합니다.
지니 코드는 무엇을 도울 수 있습니까?
엔드포인트 페이지를 제공하는 모델에서 Genie Code를 사용하면 모델 제공에 대한 관찰 도우미가 됩니다. 엔드포인트 상태를 분석하고, 배포 실패를 진단하고, 대기 시간 문제를 조사하고, Genie 코드 창에서 모범 사례 지침을 제공할 수 있습니다.
Genie Code는 이 모드의 읽기 전용 관리자입니다. 엔드포인트를 검사하고 권장 사항을 제공할 수 있지만 구성 또는 배포를 수정할 수는 없습니다. 설명서에 대한 명확한 단계별 지침과 링크가 있으므로 직접 변경할 수 있습니다.
시작하기
시작하려면:
- 엔드포인트 페이지를 제공하는 모델로 이동합니다.
-
을 클릭합니다. 지니 코드 창을 엽니다. - 도움이 필요한 항목을 설명하는 프롬프트를 입력합니다. 예를 들어 "이 엔드포인트의 상태 확인" 또는 "대기 시간이 너무 높은 이유는 무엇인가요?"
역량
상태 검사 및 진단
Genie Code는 엔드포인트의 상태 및 구성을 분석하여 잠재적인 문제를 식별할 수 있습니다.
- 엔드포인트 상태 및 배포 상태를 확인합니다.
- 모범 사례에 대한 구성을 검토합니다.
- 크기 조정 및 리소스 사용률을 평가합니다.
문제 해결 및 분석
Genie Code는 엔드포인트 문제를 해결하는 데 도움이 될 수 있습니다.
- 빌드 로그, 이벤트 및 엔드포인트 상태를 사용하여 배포 오류를 진단합니다.
- 메트릭, 이벤트 및 유추 테이블 데이터를 사용하여 높은 대기 시간 또는 시간 제한 문제를 조사합니다.
- 서비스 로그 및 유추 테이블에서 오류 패턴을 분석합니다.
- 잘못된 구성 또는 리소스 제약 조건을 식별합니다.
- 현재 및 보류 중인 구성을 위험 평가와 비교합니다.
지침 및 모범 사례
Genie Code에는 엔드포인트의 구성에 따라 권장 사항이 있습니다.
- 프로덕션 및 개발 워크로드에 최적의 크기 조정 구성을 권장합니다.
- 엔드포인트 상태 및 전환을 설명합니다.
- 모니터링 및 관찰 가능성 설정에 대해 안내합니다.
- Azure Databricks 설명서를 검색하고 관련 문서에 대한 링크를 제공합니다.
사용 사례
다음 프롬프트를 시도하여 시작합니다.
- 상태 검사:
- "이 엔드포인트의 상태를 확인합니다."
- "내 엔드포인트가 올바르게 구성되었나요?"
- "내 엔드포인트의 크기 조정 구성을 검토합니다."
- 배포 실패:
- "/diagnose" 또는 "내 배포가 실패한 이유는 무엇인가요?"
- "배포 오류를 해결하는 데 도움이 됩니다."
- 내 엔드포인트가 보류 상태에 걸려 있습니다.
- 대기 시간 디버깅:
- "대기 시간이 너무 높은 이유는 무엇인가요?"
- "오늘 아침부터 대기 시간 급증을 분석합니다."
- "지난 24시간 동안의 성능 메트릭을 보여 주세요."
- 구성 검토:
- 보류 중인 구성에서 어떤 점이 변경되었나요?
- "동시성 설정이 프로덕션에 적합한가요?"
- "내 유추 테이블 구성을 표시합니다."
- 요청 기록:
- "이 엔드포인트에 대한 최근 요청을 표시합니다."
- 제 사용자들이 어떤 오류를 겪고 있습니까?
- "지난 주의 오류 패턴을 분석합니다."