Ollama

Ollama memungkinkan Anda menjalankan model sumber terbuka secara lokal dan menggunakannya dengan Agent Framework. Ini sangat ideal untuk pengembangan, pengujian, dan skenario di mana Anda perlu menyimpan data lokal.

Contoh berikut menunjukkan cara membuat agen menggunakan Ollama:

using System;
using Microsoft.Agents.AI;
using Microsoft.Extensions.AI;

// Create an Ollama agent using Microsoft.Extensions.AI.Ollama
// Requires: dotnet add package Microsoft.Extensions.AI.Ollama --prerelease
var chatClient = new OllamaChatClient(
    new Uri("http://localhost:11434"),
    modelId: "llama3.2");

AIAgent agent = chatClient.AsAIAgent(
    instructions: "You are a helpful assistant running locally via Ollama.");

Console.WriteLine(await agent.RunAsync("What is the largest city in France?"));

Nota

Dukungan Python untuk Ollama tersedia melalui API yang kompatibel dengan OpenAI. OpenAIChatClient Gunakan dengan URL dasar kustom yang menunjuk ke instans Ollama Anda.

Langkah selanjutnya

Gambaran Umum Penyedia