AI 플레이그라운드를 사용하여 LLM과 채팅 및 GenAI 앱 프로토타이핑

Important

이 기능은 공개 미리 보기 상태입니다.

AI Playground를 사용하여 지원되는 대규모 언어 모델과 상호 작용할 수 있습니다. AI 플레이그라운드는 LLM을 테스트, 프롬프트 및 비교할 수 있는 채팅과 유사한 환경입니다.

요구 사항

Databricks 작업 영역은 다음 기능 중 하나를 지원하는 지역에 있어야 합니다.

• 파운데이션 모델 API 토큰당 종량제
• 파운데이션 모델 API 프로비전된 처리량
• 외부 모델.

모델 서빙 지역 가용성을 참조하세요.

AI 플레이그라운드 사용

참고 항목

작업 영역에서 플레이그라운드를 사용할 수 없는 경우 Databricks 계정 팀에 문의하여 자세한 내용을 알아보세요.

AI 플레이그라운드를 사용하려면 다음을 수행합니다.

1. 기계 학습의 왼쪽 탐색 창에서 플레이그라운드를 선택합니다.
2. 왼쪽 위에 있는 드롭다운 목록을 사용하여 상호 작용할 모델을 선택합니다.
3. 다음의 하나를 수행할 수 있습니다.
   1. 질문 또는 프롬프트를 입력합니다.
   2. 창에 나열된 샘플 AI 명령을 선택합니다.
4. 엔드포인트를 추가하기 위해 +를 선택할 수 있습니다. 이를 통해 여러 모델 응답을 나란히 비교할 수 있습니다.

AI 플레이그라운드의 생성형 AI 에이전트 프로토타이핑

AI 플레이그라운드에서 GenAI 에이전트 빌드를 시작할 수도 있습니다. 자세한 내용은 AI 플레이그라운드의 도구 호출 에이전트 프로토타이핑을 참조하세요.