Sdílet prostřednictvím

Poskytovatel kontextu Neo4j GraphRAG

Zprostředkovatel kontextu Neo4j GraphRAG přidává do agentů Agent Framework funkce načítání rozšířené generace (RAG) pomocí grafu znalostí Neo4j. Podporuje režimy vektoru, fulltextu a hybridního vyhledávání s volitelným procházením grafu za účelem obohacení výsledků o související entity prostřednictvím vlastních dotazů Cypher.

V případě scénářů grafů znalostí, ve kterých vztahy mezi entitami jsou důležité, načte tento poskytovatel relevantní podgrafy místo izolovaných textových bloků a poskytuje agentům širší kontext pro generování odpovědí.

Proč používat Neo4j pro GraphRAG?

  • Rozšířené načítání grafu: Standardní vektorové vyhledávání vrací izolované bloky; Procházení grafu sleduje připojení k entitám souvisejícím s povrchem a poskytuje agentům bohatší kontext.
  • Flexibilní režimy hledání: Kombinování vektorové podobnosti, klíčových slov nebo BM25 a procházení grafu v jednom dotazu
  • Vlastní dotazy načítání: Dotazy Cypher umožňují přesně určit, které relace se mají procházet a jaký kontext se má vrátit.

Poznámka:

Neo4j nabízí dvě samostatné integrace pro Agent Framework. Tento poskytovatel je určený pro GraphRAG — prohledává znalostní graf k zajištění podkladů pro odpovědi agentů. Trvalou paměť, která se učí z konverzací a vytváří graf znalostí v průběhu času, najdete v tématu Zprostředkovatel paměti Neo4j.

Předpoklady

  • Instance Neo4j (v místním prostředí nebo Neo4j AuraDB) s nakonfigurovaným vektorovým nebo fulltextovým indexem
  • Projekt Azure AI Foundry s nasazeným modelem chatu a modelem vkládání (např. text-embedding-3-small)
  • Proměnné prostředí nastavena: NEO4J_URI, NEO4J_USERNAME, NEO4J_PASSWORD, AZURE_AI_SERVICES_ENDPOINT, AZURE_AI_EMBEDDING_NAME
  • Nakonfigurované přihlašovací údaje Azure CLI (az login)
  • .NET 8.0 nebo novější

Instalace

dotnet add package Neo4j.AgentFramework.GraphRAG

Využití

using Azure.AI.OpenAI;
using Azure.Identity;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.OpenAI;
using Microsoft.Extensions.AI;
using Neo4j.AgentFramework.GraphRAG;
using Neo4j.Driver;

// Read connection details from environment variables
var neo4jSettings = new Neo4jSettings();
var azureEndpoint = Environment.GetEnvironmentVariable("AZURE_AI_SERVICES_ENDPOINT")!;

// Create embedding generator
var credential = new DefaultAzureCredential();
var azureClient = new AzureOpenAIClient(new Uri(azureEndpoint), credential);

IEmbeddingGenerator<string, Embedding<float>> embedder = azureClient
    .GetEmbeddingClient("text-embedding-3-small")
    .AsIEmbeddingGenerator();

// Create Neo4j driver
await using var driver = GraphDatabase.Driver(
    neo4jSettings.Uri, AuthTokens.Basic(neo4jSettings.Username, neo4jSettings.Password!));

// Create the Neo4j context provider
await using var provider = new Neo4jContextProvider(driver, new Neo4jContextProviderOptions
{
    IndexName = "chunkEmbeddings",
    IndexType = IndexType.Vector,
    EmbeddingGenerator = embedder,
    TopK = 5,
    RetrievalQuery = """
        MATCH (node)-[:FROM_DOCUMENT]->(doc:Document)
        OPTIONAL MATCH (doc)<-[:FILED]-(company:Company)
        RETURN node.text AS text, score, doc.title AS title, company.name AS company
        ORDER BY score DESC
        """,
});

// Create an agent with the provider
AIAgent agent = azureClient
    .GetChatClient("gpt-4o")
    .AsIChatClient()
    .AsBuilder()
    .UseAIContextProviders(provider)
    .BuildAIAgent(new ChatClientAgentOptions
    {
        ChatOptions = new ChatOptions
        {
            Instructions = "You are a financial analyst assistant.",
        },
    });

var session = await agent.CreateSessionAsync();
Console.WriteLine(await agent.RunAsync("What risks does Acme Corp face?", session));

Klíčové funkce

  • Řízený indexem: Funguje s libovolným vektorem Neo4j nebo fulltextovým indexem.
  • Procházení grafů: Vlastní dotazy Cypher vylepšují výsledky hledání souvisejícími entitami.
  • Režimy hledání: Vektor (sémantická podobnost), fulltext (klíčové slovo/BM25) nebo hybridní (obě kombinované)

Zdroje

Předpoklady

  • Instance Neo4j (v místním prostředí nebo Neo4j AuraDB) s nakonfigurovaným vektorovým nebo fulltextovým indexem
  • Projekt Azure AI Foundry s nasazeným modelem chatu a modelem vkládání (např. text-embedding-ada-002)
  • Proměnné prostředí nastaveny: NEO4J_URI, NEO4J_USERNAME, NEO4J_PASSWORD, FOUNDRY_PROJECT_ENDPOINT, FOUNDRY_MODEL, AZURE_AI_EMBEDDING_NAME
  • Nakonfigurované přihlašovací údaje Azure CLI (az login)
  • Python 3.10 nebo novější

Instalace

pip install agent-framework-neo4j

Využití

import os

from agent_framework import Agent
from agent_framework.foundry import FoundryChatClient
from agent_framework_neo4j import Neo4jContextProvider, Neo4jSettings, AzureAISettings, AzureAIEmbedder
from azure.identity import DefaultAzureCredential
from azure.identity.aio import AzureCliCredential

# Reads NEO4J_URI, NEO4J_USERNAME, NEO4J_PASSWORD from environment variables
neo4j_settings = Neo4jSettings()

# Reads FOUNDRY_PROJECT_ENDPOINT, AZURE_AI_EMBEDDING_NAME from environment variables
azure_settings = AzureAISettings()

sync_credential = DefaultAzureCredential()
embedder = AzureAIEmbedder(
    endpoint=azure_settings.inference_endpoint,
    credential=sync_credential,
    model=azure_settings.embedding_model,
)

neo4j_provider = Neo4jContextProvider(
    uri=neo4j_settings.uri,
    username=neo4j_settings.username,
    password=neo4j_settings.get_password(),
    index_name=neo4j_settings.vector_index_name,
    index_type="vector",
    embedder=embedder,
    top_k=5,
    retrieval_query="""
        MATCH (node)-[:FROM_DOCUMENT]->(doc:Document)
        OPTIONAL MATCH (doc)<-[:FILED]-(company:Company)
        RETURN node.text AS text, score, doc.title AS title, company.name AS company
        ORDER BY score DESC
    """,
)

async with (
    neo4j_provider,
    AzureCliCredential() as credential,
    Agent(
        client=FoundryChatClient(
            credential=credential,
            project_endpoint=azure_settings.project_endpoint,
            model=os.environ["FOUNDRY_MODEL"],
        ),
        instructions="You are a financial analyst assistant.",
        context_providers=[neo4j_provider],
    ) as agent,
):
    session = agent.create_session()
    response = await agent.run("What risks does Acme Corp face?", session=session)

Klíčové funkce

  • Řízený indexem: Funguje s libovolným vektorem Neo4j nebo fulltextovým indexem.
  • Procházení grafů: Vlastní dotazy Cypher vylepšují výsledky hledání souvisejícími entitami.
  • Režimy hledání: Vektor (sémantická podobnost), fulltext (klíčové slovo/BM25) nebo hybridní (obě kombinované)

Zdroje

Další kroky

Zprostředkovatel paměti Neo4j

  • Last updated on