Mistral

Mistral tümleştirmesi, Agent Framework Python'da sohbet aracıları için MistralChatClient ve metin gömmeleri için MistralEmbeddingClient sağlar.

Paketi yükle

pip install agent-framework-mistral --pre

Configuration

MISTRAL_API_KEY="<api-key>"
MISTRAL_CHAT_MODEL="mistral-small-latest"
MISTRAL_EMBEDDING_MODEL="mistral-embed"
# Optional compatible endpoint:
MISTRAL_SERVER_URL="<server-url>"

Ayrıca model, server_url ve api_key öğelerini doğrudan her iki istemciye de geçirebilirsiniz.

İstemcide aktarım ayarlarını yapılandırın. Agent Framework, server_url üzerinden veya ek anahtar sözcük bağımsız değişkenleriyle her çağrıda options, http_headers, retries ve timeout_ms ilettiğinizde bunları reddeder. Oluşturma seçenekleri çağrı başına kullanılabilir durumda kalır.

Sohbet aracısı oluşturma

Agent ile bir MistralChatClient oluşturun. İstemci, önceki bölümde gösterilen ortam değişkenlerinden API anahtarını ve sohbet modelini okur.

import asyncio

from agent_framework import Agent
from agent_framework.mistral import MistralChatClient


async def main() -> None:
    client = MistralChatClient()
    try:
        agent = Agent(
            client=client,
            instructions="You are a helpful assistant.",
        )
        response = await agent.run("How many days are in a week?")
        print(response.text)
    finally:
        await client.close()


asyncio.run(main())

Seçilen Mistral model, hangi model düzeyi özelliklerin kullanılabilir olduğunu belirler.

Sohbet özellikleri

MistralChatClient aşağıdaki Agent Framework özelliklerini destekler:

Capability	Usage
Yayın Akışı	Yanıt güncellemeleri üzerinde yineleme yapmak için agent.run(..., stream=True) çağırın.
İşlev araçları	Agent Framework işlev araçlarını Agent(tools=...) öğesine ekleyin.
Yapılandırılmış çıkış	response_format aracılığıyla bir Pydantic modeli, JSON şema eşlemesi veya JSON nesne modu geçirin.
Çok modüllü giriş	Kullanıcı iletilerinde görüntü verileri veya URL'ler ve PDF belge URL'leri gönderin.
Reasoning	Desteklenen modeller için reasoning_effort olarak ayarlayın ve döndürülen muhakemeyi text_reasoning içeriği olarak okuyun.

Çalıştırılabilir bir işlev aracı ve akış örneği için bkz. Mistral aracı örneği.

Eklemeler oluşturma

İstemciyi oluşturun ve get_embeddings() çağırın.

async def basic_embedding_example() -> None:
    """Generate embeddings for a list of texts."""
    print("=== Basic Embedding Generation ===")

    # 1. Create the embedding client using environment-based configuration.
    client = MistralEmbeddingClient()

    # 2. Generate embeddings for multiple texts.
    texts = ["Hello, world!", "How are you?", "Agent Framework with Mistral AI"]
    try:
        result = await client.get_embeddings(texts)

        # 3. Print the generated vectors and usage metadata.
        print(f"Generated {len(result)} embeddings")
        for i, embedding in enumerate(result):
            print(f"  Text {i + 1}: dimensions={embedding.dimensions}, vector={embedding.vector[:5]}...")

        if result.usage:
            print(
                f"  Usage: {result.usage['input_token_count']} input tokens, "
                f"{result.usage['total_token_count']} total tokens"
            )
    finally:
        await client.close()


async def embedding_with_options_example() -> None:
    """Generate embeddings with custom dimensions."""
    print("\n=== Embedding with Custom Dimensions ===")

    from agent_framework.mistral import MistralEmbeddingOptions

    # Only some models support a custom output dimension (e.g. codestral-embed; mistral-embed does not).
    client = MistralEmbeddingClient(model="codestral-embed")

    options: MistralEmbeddingOptions = {"dimensions": 256}

Desteklenen bir çıkış boyutu istemek için kullanın MistralEmbeddingOptions . Uygulamanın özel uyumlu bir uç nokta kullandığında da ayarlayabilirsiniz MISTRAL_SERVER_URL .

Önemli

Mistral yapay zeka üçüncü taraf bir sistemdir. Uygulama verilerini göndermeden önce hizmet koşullarını, veri işlemeyi, bölgesel sınırları, model lisanslama ve kullanım maliyetlerini gözden geçirin.

Tools

MistralChatClient yerel olarak çağrılan işlev araçlarını ve Agent Framework işlev çağırma döngüsünü destekler. Seçilen model işlev çağrısını desteklemelidir.

Sonraki Adımlar

RAG