Mistral

MistralEmbeddingClient genererar textbäddningar med Mistral AI-modeller. Använd den för vektorindexering, semantisk sökning, klustring eller andra program som behöver en Inbäddningsklient för Agent Framework.

Den här providern tillhandahåller för närvarande endast inbäddningar. Den tillhandahåller inte någon Agent Framework-chattklient.

Installera paketet

pip install agent-framework-mistral --pre

Configuration

MISTRAL_API_KEY="<api-key>"
MISTRAL_EMBEDDING_MODEL="mistral-embed"
# Optional compatible endpoint:
MISTRAL_SERVER_URL="<server-url>"

Generera inbäddningar

Skapa klienten och anropa get_embeddings().

async def basic_embedding_example() -> None:
    """Generate embeddings for a list of texts."""
    print("=== Basic Embedding Generation ===")

    # 1. Create the embedding client using environment-based configuration.
    client = MistralEmbeddingClient()

    # 2. Generate embeddings for multiple texts.
    texts = ["Hello, world!", "How are you?", "Agent Framework with Mistral AI"]
    try:
        result = await client.get_embeddings(texts)

        # 3. Print the generated vectors and usage metadata.
        print(f"Generated {len(result)} embeddings")
        for i, embedding in enumerate(result):
            print(f"  Text {i + 1}: dimensions={embedding.dimensions}, vector={embedding.vector[:5]}...")

        if result.usage:
            print(
                f"  Usage: {result.usage['input_token_count']} input tokens, "
                f"{result.usage['total_token_count']} total tokens"
            )
    finally:
        await client.close()


async def embedding_with_options_example() -> None:
    """Generate embeddings with custom dimensions."""
    print("\n=== Embedding with Custom Dimensions ===")

    from agent_framework.mistral import MistralEmbeddingOptions

    # Only some models support a custom output dimension (e.g. codestral-embed; mistral-embed does not).
    client = MistralEmbeddingClient(model="codestral-embed")

    options: MistralEmbeddingOptions = {"dimensions": 256}

Använd MistralEmbeddingOptions för att begära en utdatadimension som stöds. Du kan också ange MISTRAL_SERVER_URL när programmet använder en anpassad kompatibel slutpunkt.

Important

Mistral AI är ett tredjepartssystem. Granska dess tjänstvillkor, datahantering, regionala gränser, modelllicensiering och användningskostnader innan du skickar programdata.

Tools

Verktyg är inte tillämpliga eftersom det här paketet för närvarande innehåller en inbäddningsklient, inte en Agent Framework-chattklient.

Nästa steg

RAG