Mistral

MistralEmbeddingClient genera incorporamenti di testo con modelli di intelligenza artificiale Mistral. Usarlo per l'indicizzazione vettoriale, la ricerca semantica, il clustering o altre applicazioni che necessitano di un client di incorporamento di Agent Framework.

Questo provider attualmente fornisce solo incorporamenti; non fornisce un client di chat di Agent Framework.

Installare il pacchetto

pip install agent-framework-mistral --pre

Configuration

MISTRAL_API_KEY="<api-key>"
MISTRAL_EMBEDDING_MODEL="mistral-embed"
# Optional compatible endpoint:
MISTRAL_SERVER_URL="<server-url>"

Generare incorporamenti

Creare il client e chiamare get_embeddings().

async def basic_embedding_example() -> None:
    """Generate embeddings for a list of texts."""
    print("=== Basic Embedding Generation ===")

    # 1. Create the embedding client using environment-based configuration.
    client = MistralEmbeddingClient()

    # 2. Generate embeddings for multiple texts.
    texts = ["Hello, world!", "How are you?", "Agent Framework with Mistral AI"]
    try:
        result = await client.get_embeddings(texts)

        # 3. Print the generated vectors and usage metadata.
        print(f"Generated {len(result)} embeddings")
        for i, embedding in enumerate(result):
            print(f"  Text {i + 1}: dimensions={embedding.dimensions}, vector={embedding.vector[:5]}...")

        if result.usage:
            print(
                f"  Usage: {result.usage['input_token_count']} input tokens, "
                f"{result.usage['total_token_count']} total tokens"
            )
    finally:
        await client.close()


async def embedding_with_options_example() -> None:
    """Generate embeddings with custom dimensions."""
    print("\n=== Embedding with Custom Dimensions ===")

    from agent_framework.mistral import MistralEmbeddingOptions

    # Only some models support a custom output dimension (e.g. codestral-embed; mistral-embed does not).
    client = MistralEmbeddingClient(model="codestral-embed")

    options: MistralEmbeddingOptions = {"dimensions": 256}

Utilizzare MistralEmbeddingOptions per richiedere una dimensione di output supportata. È anche possibile impostare MISTRAL_SERVER_URL quando l'applicazione usa un endpoint compatibile personalizzato.

Importante

L'intelligenza artificiale mistrale è un sistema di terze parti. Esaminare le condizioni di servizio, la gestione dei dati, i limiti regionali, le licenze dei modelli e i costi di utilizzo prima di inviare i dati dell'applicazione.

Tools

Gli strumenti non sono applicabili perché questo pacchetto attualmente fornisce un client di incorporamento, non un client di chat di Agent Framework.

Passaggi successivi

RAG