Visual Studio Code Microsoft Foundry Toolkit은 AI 앱 및 에이전트를 빌드, 테스트, 배포, 평가 및 모니터링하기 위한 확장입니다. 로컬로 사용하거나 Microsoft Foundry에 연결하여 Visual Studio Code 종료하지 않고 AI 개발 워크플로를 관리합니다.
Foundry 도구 키트는 AI 도구 키트의 새 이름입니다. 또한 별도의 Microsoft Foundry 확장에서 이전에 제공한 기능을 포함하므로 한 확장에서 로컬 리소스 및 Foundry 리소스로 작업할 수 있습니다.
Foundry 도구 키트를 사용해야 하는 사용자
Foundry 도구 키트는 다양한 역할 및 AI 개발 환경 수준을 지원합니다.
- 애플리케이션 개발자는 웹, 데스크톱 및 모바일 앱에 생성 AI 기능을 추가할 수 있습니다.
- AI 및 기계 학습 엔지니어 는 모델 및 에이전트를 비교, 사용자 지정, 최적화 및 배포할 수 있습니다.
- 데이터 과학자와 연구원은 프롬프트, 모델, 데이터 세트 및 평가 기준을 실험할 수 있습니다.
- 교육자와 학생은 대화형 놀이터 및 로컬 모델을 통해 생성 AI 개념을 탐색할 수 있습니다.
도구 키트 작업 영역 구성 방법
Foundry 도구 키트는 수행할 수 있는 작업과 가지고 있는 리소스를 구분합니다. 확장에는 세 개의 주요 섹션이 있습니다.
| 섹션 | Purpose |
|---|---|
| 내 리소스 | Foundry 프로젝트의 모델, 에이전트, 도구, 기술 자료, 평가, 최근 리소스, 로컬 리소스 및 리소스를 봅니다. |
| 개발자 도구 | 모델 및 도구를 검색합니다. AI 앱 및 에이전트를 빌드, 디버그, 배포, 테스트, 평가 및 모니터링합니다. |
| 도움말 및 피드백 | Copilot에 질문하기, 시작하기, 설명서 및 릴리스 정보 열기, 문제 보고, 또는 커뮤니티에 참여하기 |
확장이 진화함에 따라 정확한 도구와 리소스 종류가 변경 될 수 있습니다. 도구 키트 보기를 사용하여 설치된 버전의 기능을 확인합니다.
모델과 함께 작업
Foundry 도구 키트는 엔드투엔드 모델 개발 워크플로를 제공합니다.
- 모델 카탈로그를 사용하여 Foundry 및 외부 공급자에서 모델을 검색하거나 ONNX, Ollama 및 Foundry Local을 통해 로컬 모델을 사용합니다.
- 모델 실습에서 모델과 테스트 프롬프트, 매개 변수, 이미지 및 첨부 파일을 비교합니다.
- 로컬 Windows 배포에 대해 지원되는 모델을 변환, 정량화, 최적화 및 평가합니다.
- GPU를 사용하여 로컬로 또는 Azure Container Apps 사용하여 원격으로 지원되는 모델을 미세 조정합니다.
- 지원되는 Windows 기계 학습 워크로드에 대한 CPU, GPU 및 NPU 사용량을 프로파일합니다.
에이전트 구축 및 운영
Foundry 도구 키트는 프롬프트 에이전트 및 코드 기반 호스팅 에이전트를 지원합니다.
- 에이전트 작성기를 사용하여 에이전트 코드 프로젝트를 만들지 않고 지침, 모델, 변수, 구조화된 출력 및 도구를 구성합니다.
- 도구 카탈로그를 사용하여 Foundry 도구, MCP(모델 컨텍스트 프로토콜) 서버 및 도구 상자를 검색한 다음 에이전트에 추가합니다.
- 사용자 지정 코드, 프레임워크 또는 오케스트레이션 논리가 필요한 경우 호스트된 에이전트 프로젝트를 스캐폴드합니다.
- 에이전트 검사기를 사용하여 로컬 에이전트를 디버그하고, 스트리밍 응답 및 도구 호출을 검사하고, 워크플로 실행을 시각화합니다.
- 소스 코드 또는 컨테이너 이미지에서 Foundry 에이전트 서비스에 호스트된 에이전트를 배포합니다.
- 호스트된 에이전트 플레이그라운드에서 배포된 에이전트를 테스트하고, 로그 및 추적을 검사하고, 버전을 관리합니다.
- 데이터 세트, 기본 제공 평가기 또는 사용자 지정 조건을 사용하여 모델, 프롬프트 및 에이전트를 평가합니다.
일부 도구 키트 환경은 미리 보기로 제공됩니다. 릴리스 세부 정보는 Foundry Toolkit 변경 로그 를 검토하세요.
Foundry 리소스 관리
Azure 로그인하고 Foundry 프로젝트를 설정하여 Visual Studio Code 클라우드 리소스를 관리합니다. 다음을 할 수 있습니다:
- Foundry 프로젝트 및 계정에 사용할 수 있는 리소스를 찾아봅니다.
- Foundry 모델 카탈로그에서 모델을 검색하고 배포합니다.
- 모델 엔드포인트 및 인증 정보를 봅니다.
- 프롬프트 에이전트, 워크플로 및 호스팅된 에이전트를 만들고, 배포하고, 테스트하고, 버전 관리하세요.
- 에이전트에서 사용하는 도구 및 기술 자료를 찾아봅니다.
- 개발 중에 평가, 대화, 로그 및 추적을 엽니다.
더 광범위한 리소스 관리를 위해 Foundry 포털을 사용합니다. 애플리케이션 코드에서 워크플로를 자동화하려면 Microsoft Foundry SDK를 사용합니다.