Ollama 통합 업데이트

2025-04-01

Ollama 통합의 .NET.NET Aspire Community Toolkit 9.0 릴리스에는 중요한 변경 사항이 도입되었습니다. 이러한 업데이트는 기능을 향상시키고 .NET.NET Aspire API 디자인과 더 잘 통합됩니다.

도입된 버전

.NET .NET Aspire Community Toolkit 9.0 GA

이전 동작

Ollama 통합에는 호스팅 및 클라이언트 통합 업데이트가 모두 포함되며, 둘 다 다음 섹션의 세부 정보입니다.

Ollama 호스팅

Ollama 호스팅 리소스는 다른 리소스에 대한 참조로 제공되어야 했으며 모델 정보를 환경 변수 집합으로 제공해야 했습니다. 연결 문자열은 실제 "연결 문자열" 형식이 아닌 HTTP 엔드포인트일 뿐입니다.

OllamaSharp 클라이언트

라이브러리의 v3을 지원하고 Microsoft.Extensions.AI(M.E.AI) 인터페이스를 지원하지 않습니다.

새 동작

새 동작에는 다음 업데이트가 포함됩니다.

리소스로서의 모델

이전 버전에서는 모델이 Ollama 리소스에 추가되었으며 이 리소스를 참조로서 전달해야 했습니다. 이 방법을 사용하려면 기본 모델을 설정하고 검색하기 위한 해결 방법이 필요했습니다. 버전 9.0에서는 OllamaModelResource도입했습니다. 이 리소스는 참조로 전달될 수 있으며 사용할 모델에 대한 연결 정보를 클라이언트에 제공합니다.

새 연결 문자열 형식

원래 Ollama 리소스의 연결 문자열은 HTTP 엔드포인트에 불과했지만, 리소스 기능을 향상시키기 위해 모델을 지원하는 리소스는 라는 "실제" 연결 문자열을 만듭니다. Model 부분은 OllamaModelResource을 넘기는 경우에만 포함됩니다.

OllamaSharp 4 및 Microsoft.Extensions.AI

OllamaSharp는 새 주 버전으로 업데이트되었으며 이제 Microsoft.Extensions.AI인터페이스를 지원합니다. 모델 유형에 따라 IOllamaApiClient(네이티브 OllamaSharp 클라이언트) 또는 M.E.AI IChatClient 및 IEmbeddingGenerator<TInput,TEmbedding> 등록할 수 있습니다. 이러한 새 인터페이스를 사용하면 LLM/SLM 옵션 간에 코드의 이식성이 높아집니다.

API 폐지 및 제거

모든 리팩터링을 사용하면 일부 API가 더 이상 사용되지 않거나 제거됩니다.

호환성이 손상되는 변경 유형

이 변경은 바이너리 호환성을 깨뜨리고 동작에 변화를 주는 것입니다.

변경 이유

변경 내용은 라이브러리의 기능을 향상시키고 .NET.NET Aspire API 디자인과 더 잘 통합되도록 하는 것을 목표로 합니다.

권장 작업

.NET을(를).NET Aspire 9.0로 업그레이드하십시오.