Ollama

Ollama, açık kaynak modelleri yerel olarak çalıştırmanıza ve bunları Agent Framework ile kullanmanıza olanak tanır. Bu, verileri şirket içinde tutmanız gereken geliştirme, test ve senaryolar için idealdir.

Aşağıdaki örnekte Ollama kullanarak aracı oluşturma gösterilmektedir:

using System;
using Microsoft.Agents.AI;
using Microsoft.Extensions.AI;

// Create an Ollama agent using Microsoft.Extensions.AI.Ollama
// Requires: dotnet add package Microsoft.Extensions.AI.Ollama --prerelease
var chatClient = new OllamaChatClient(
    new Uri("http://localhost:11434"),
    modelId: "llama3.2");

AIAgent agent = chatClient.AsAIAgent(
    instructions: "You are a helpful assistant running locally via Ollama.");

Console.WriteLine(await agent.RunAsync("What is the largest city in France?"));

Uyarı

Ollama için Python desteği OpenAI uyumlu API aracılığıyla sağlanır. OpenAIChatClient Ollama örneğinize işaret eden özel bir temel URL ile kullanın.

Sonraki Adımlar

Sağlayıcılara Genel Bakış