Mistral

MistralEmbeddingClient generuje osadzanie tekstu za pomocą modeli Mistral AI. Służy do indeksowania wektorów, wyszukiwania semantycznego, klastrowania lub innych aplikacji, które wymagają klienta osadzania platformy Agent Framework.

Ten dostawca obecnie dostarcza tylko osadzanie; nie udostępnia klienta czatu platformy Agent Framework.

Instalowanie pakietu

pip install agent-framework-mistral --pre

Configuration

MISTRAL_API_KEY="<api-key>"
MISTRAL_EMBEDDING_MODEL="mistral-embed"
# Optional compatible endpoint:
MISTRAL_SERVER_URL="<server-url>"

Generowanie embedów

Utwórz klienta i wywołaj metodę get_embeddings().

async def basic_embedding_example() -> None:
    """Generate embeddings for a list of texts."""
    print("=== Basic Embedding Generation ===")

    # 1. Create the embedding client using environment-based configuration.
    client = MistralEmbeddingClient()

    # 2. Generate embeddings for multiple texts.
    texts = ["Hello, world!", "How are you?", "Agent Framework with Mistral AI"]
    try:
        result = await client.get_embeddings(texts)

        # 3. Print the generated vectors and usage metadata.
        print(f"Generated {len(result)} embeddings")
        for i, embedding in enumerate(result):
            print(f"  Text {i + 1}: dimensions={embedding.dimensions}, vector={embedding.vector[:5]}...")

        if result.usage:
            print(
                f"  Usage: {result.usage['input_token_count']} input tokens, "
                f"{result.usage['total_token_count']} total tokens"
            )
    finally:
        await client.close()


async def embedding_with_options_example() -> None:
    """Generate embeddings with custom dimensions."""
    print("\n=== Embedding with Custom Dimensions ===")

    from agent_framework.mistral import MistralEmbeddingOptions

    # Only some models support a custom output dimension (e.g. codestral-embed; mistral-embed does not).
    client = MistralEmbeddingClient(model="codestral-embed")

    options: MistralEmbeddingOptions = {"dimensions": 256}

Użyj MistralEmbeddingOptions polecenia , aby zażądać obsługiwanego wymiaru wyjściowego. Można również ustawić MISTRAL_SERVER_URL , gdy aplikacja używa niestandardowego zgodnego punktu końcowego.

Ważna

Mistral AI to system innej firmy. Przed wysłaniem danych zapoznaj się z warunkami świadczenia usługi, obsługą danych, granicami regionalnymi, licencjonowaniem modelu i kosztami użycia.

Tools

Narzędzia nie mają zastosowania, ponieważ ten pakiet obecnie udostępnia klienta osadzania, a nie klienta czatu platformy Agent Framework.

Następne kroki

RAG