modul plug-in ai_chat_completion (Preview)

Přepněte služby pomocí rozevíracího seznamu Verze . Přečtěte si další informace o navigaci.
Platí pro: ✅ Microsoft Fabric ✅ Azure Data Explorer

Modul ai_chat_completion plug-in umožňuje generovat dokončování chatu pomocí jazykových modelů, což podporuje scénáře související s AI, jako jsou konverzační AI a interaktivní systémy. Modul plug-in používá koncový bod chatu služby Azure OpenAI a může k němu přistupovat buď spravovaná identita, nebo identita uživatele (zosobnění).

Modul ai_chat_completion plug-in umožňuje generovat dokončování chatu pomocí jazykových modelů, což podporuje scénáře související s AI, jako jsou konverzační AI a interaktivní systémy. Modul plug-in používá koncový bod chatu služby Azure OpenAI a je přístupný pomocí identity uživatele (zosobnění).

Požadavky

  • Služba Azure OpenAI nakonfigurovaná s alespoň rolí uživatele (Cognitive Services OpenAI) přiřazenou k používané identitě.
  • Zásada popisku nakonfigurovaná tak, aby umožňovala volání služeb umělé inteligence.
  • Při použití spravované identity pro přístup ke službě Azure OpenAI nakonfigurujte zásady spravované identity tak, aby umožňovaly komunikaci se službou.

Syntaxe

evaluate ai_chat_completion ( Chat, ConnectionString [,Možnosti [,IncludeErrorMessages]])

Přečtěte si další informace o konvencích syntaxe.

Parametry

Název Typ Povinné Popis
Povídat si dynamic ✔️ Pole zpráv, které tvoří dosud konverzaci. Hodnota může být odkaz na sloupec nebo konstantní skalární.
ConnectionString string ✔️ Připojovací řetězec pro jazykový model ve formátu <ModelDeploymentUri>;<AuthenticationMethod>; nahraďte <ModelDeploymentUri> identifikátorem URI nasazení modelu AI a <AuthenticationMethod> metodou ověřování.
Možnosti dynamic Možnosti, které řídí volání do koncového bodu modelu chatu. Viz Možnosti.
IncludeErrorMessages bool Určuje, jestli se mají výstupní chyby v novém sloupci ve výstupní tabulce zobrazit. Výchozí hodnota: false.

Možnosti

Následující tabulka popisuje možnosti, které řídí způsob, jakým se požadavky provádějí do koncového bodu modelu chatu.

Název Typ Popis
RetriesOnThrottling int Určuje počet pokusů o opakování, když dojde k omezování. Výchozí hodnota: 0.
GlobalTimeout timespan Určuje maximální dobu čekání na odpověď z chatovacího modelu AI. Výchozí hodnota: null.
ModelParameters dynamic Parametry specifické pro model chatu AI Možné hodnoty: temperature, top_p, , stopmax_tokens, max_completion_tokens, presence_penaltyfrequency_penalty, user. seed Všechny ostatní zadané parametry modelu se ignorují. Výchozí hodnota: null.
ReturnSuccessfulOnly bool Určuje, zda se mají vrátit pouze úspěšně zpracované položky. Výchozí hodnota: false. Pokud je parametr IncludeErrorMessages nastaven na true, tato možnost je vždy nastavena na false.

Konfigurace zásad popisku

Zásada azure_openaibublinového popisku umožňuje externí volání služeb Azure AI.

Konfigurace zásad popisku pro autorizaci domény koncového bodu modelu AI:

.alter-merge cluster policy callout
```
[
  {
    "CalloutType": "azure_openai",
    "CalloutUriRegex": "https://[A-Za-z0-9-]{3,63}\.(?:openai\\.azure\\.com|cognitiveservices\\.azure\\.com|cognitive\\.microsoft\\.com|services\\.ai\\.azure\\.com)(?:/.*)?",
    "CanCall": true
  }
]
```

Konfigurace spravované identity

Při použití spravované identity pro přístup ke službě Azure OpenAI musíte nakonfigurovat zásady spravované identity tak, aby se spravovaná identita přiřazená systémem mohla ověřit ve službě Azure OpenAI.

Konfigurace spravované identity:

.alter-merge cluster policy managed_identity
```
[
  {
    "ObjectId": "system",
    "AllowedUsages": "AzureAI"
  }
]
```

Návraty

Vrátí následující nové sloupce dokončení chatu:

  • Sloupec s příponou _chat_completion , která obsahuje hodnoty dokončení chatu.
  • Pokud je nakonfigurováno na vrácení chyb, sloupec s příponou _chat_completion_error , která obsahuje chybové řetězce nebo je prázdný, pokud je operace úspěšná.

V závislosti na typu vstupu modul plug-in vrátí různé výsledky:

  • Odkaz na sloupec: Vrátí jeden nebo více záznamů s dalšími sloupci s předponou názvu referenčního sloupce. Pokud má například vstupní sloupec název PromptData, výstupní sloupce se nazývají PromptData_chat_completion a pokud jsou nakonfigurované tak, aby vracely chyby, PromptData_chat_completion_error.
  • Konstantní skalární: Vrátí jeden záznam s dalšími sloupci, které nemají předponu. Názvy sloupců jsou _chat_completion a pokud jsou nakonfigurované tak, aby vracely chyby, _chat_completion_error.

Příklady

Následující příklad používá výzvu systému k nastavení kontextu pro všechny následné zprávy chatu ve vstupu do modelu dokončování chatu Azure OpenAI.

let connectionString = 'https://myaccount.openai.azure.com/openai/deployments/gpt4o/chat/completions?api-version=2024-06-01;managed_identity=system';
let messages = dynamic([{'role':'system', 'content': 'You are a KQL writing assistant'},{'role':'user', 'content': 'How can I restrict results to just 10 records?'}]);
evaluate ai_chat_completion(messages, connectionString);

let connectionString = 'https://myaccount.openai.azure.com/openai/deployments/gpt4o/chat/completions?api-version=2024-06-01;impersonate';
let messages = dynamic([{'role':'system', 'content': 'You are a KQL writing assistant'},{'role':'user', 'content': 'How can I restrict results to just 10 records?'}]);
evaluate ai_chat_completion(messages, connectionString);

Související obsah

  • Last updated on