Sémantické komponenty jádra

Sémantické jádro poskytuje mnoho různých komponent, které lze použít jednotlivě nebo společně. Tento článek poskytuje přehled různých součástí a vysvětluje vztah mezi nimi.

Konektory služby AI

Konektory služby Sémantic Kernel AI poskytují abstrakci vrstvy, která zpřístupňuje více typů služeb AI od různých poskytovatelů prostřednictvím společného rozhraní. Mezi podporované služby patří dokončování chatu, generování textu, generování vkládání, text na obrázek, obrázek na text, text na zvuk a zvuk do textu.

Když je implementace zaregistrována jádrem, služby Dokončování chatu nebo Generování textu budou ve výchozím nastavení používány všemi voláními na jádro. Žádná z dalších podporovaných služeb se nebude používat automaticky.

Spropitné

Další informace o používání služeb AI najdete v tématu Přidání služeb AI dosémantického jádra .

Konektory pro úložiště vektorů

Sémantické konektory úložiště vektorů jádra poskytují abstrakční vrstvu, která zpřístupňuje vektorová úložiště od různých poskytovatelů prostřednictvím společného rozhraní. Jádro nepoužívá automaticky žádné registrované vektorové úložiště, ale vektorové vyhledávání může být snadno zpřístupněno jako plug-in pro Jádro, v takovém případě je plug-in dostupný pro šablony výzvy a model AI pro dokončování chatu.

Spropitné

Další informace o používání paměťových konektorů najdete v tématu Přidání služeb AI dosémantického jádra .

Funkce a pluginy

Moduly plug-in jsou pojmenované kontejnery funkcí. Každá z nich může obsahovat jednu nebo více funkcí. Moduly plug-in je možné zaregistrovat v jádru, což umožňuje, aby je jádro používalo dvěma způsoby:

1. Inzerujte je do AI dokončení chatu, aby si je AI mohl vybrat pro vyvolání.
2. Umožněte jejich dostupnost pro volání ze šablony během jejího vykreslování.

Funkce lze snadno vytvářet z mnoha zdrojů, včetně nativního kódu, specifikací OpenAPI, ITextSearch implementace pro scénáře RAG, ale také z šablon výzvy.

Spropitné

Další informace o různých zdrojích modulů plug-in najdete v tématu Co je modul plug-in?.

Spropitné

Další informace o reklamních pluginech pro AI pro dokončování chatu naleznete v Volání funkcí s dokončováním chatu.

Šablony výzvy

Šablony výzvy umožňují vývojáři nebo technikovi výzvy vytvořit šablonu, která kombinuje kontext a pokyny pro AI s uživatelským vstupem a výstupem funkce. Například šablona může obsahovat pokyny pro model AI pro dokončování chatu a zástupné symboly pro uživatelský vstup a pevně zakódovaná volání modulů plug-in, které je potřeba spustit vždy před vyvoláním modelu AI dokončení chatu.

Šablony výzev se dají použít dvěma způsoby:

1. Na začátku procesu dokončování chatu požádejte jádro o vykreslení šablony a spusťte model AI pro dokončení chatu s vykresleným výsledkem.
2. Jako funkce modulu plug-in je možné ji vyvolat stejným způsobem jako jakoukoli jinou funkci.

Při použití šablony výzvy se nejprve zobrazí a všechny hardcodované odkazy na funkce, které obsahuje, se spustí. Vykreslená výzva se pak předá modelu AI pro dokončování chatu. Výsledek vygenerovaný AI se vrátí volajícímu. Pokud byla šablona výzvy zaregistrována jako funkce modulu plug-in, mohla být funkce zvolena ke spuštění modelem AI pro dokončování chatu a v tomto případě je volající Sémantické jádro jako zástupce modelu AI.

Používání šablon výzev jako funkcí pluginů tímto způsobem může vést k poměrně složitým tokům. Představte si například scénář, ve kterém je šablona výzvy A zaregistrována jako plug-in. Současně může být do jádra předána jiná šablona výzvy B, aby se spustil tok dokončení chatu. B může mít napevno zakódované volání na A. Výsledkem by byly následující kroky:

1. B vykreslování začne a spuštění výzvy najde odkaz na A
2. A bylo vykresleno.
3. Vykreslený výstup A se předá modelu umělé inteligence pro dokončování konverzací.
4. Výsledek modelu AI dokončení chatu se vrátí do B.
5. Vykreslování B dokončeno.
6. Vykreslený výstup B je předán modelu AI pro dokončování chatu.
7. Výsledek modelu AI dokončení chatu se vrátí volajícímu.

Zvažte také scénář, kdy neexistuje pevně zakódované volání z B do A. Pokud je povolené volání funkce, model AI pro dokončování chatu se může rozhodnout, že A se má vyvolat, protože vyžaduje data nebo funkcionalitu, kterou může A zajistit.

Registrace šablon výzev jako funkcí modulu plug-in umožňuje vytvářet funkce popsané pomocí lidského jazyka místo skutečného kódu. Oddělení funkčnosti do takového plug-inu umožňuje modelu AI uvažovat o tomto odděleně od hlavního toku provádění, což může vést k vyšší úspěšnosti modelu AI, protože se může soustředit na jeden problém najednou.

V následujícím diagramu najdete jednoduchý postup, který je zahájen ze výchozí šablony.

Spropitné

Další informace o šablonách výzvy najdete v tématu Co jsou výzvy?.

Filtruje

Filtry poskytují způsob, jak provést vlastní akci před a po konkrétních událostech během toku dokončení chatu. Mezi tyto události patří:

1. Před a po vyvolání funkce.
2. Před a po zobrazení výzvy.

Filtry musí být zaregistrované v jádru, aby se vyvolaly během toku dokončení chatu.

Všimněte si, že vzhledem k tomu, že šablony promptů se před spuštěním vždy převedou na KernelFunctions, budou pro šablonu promptu spuštěny jak filtry funkcí, tak filtry promptů. Protože jsou filtry vnořeny, pokud je jich k dispozici více než jeden, filtry funkcí jsou vnějšími filtry a výzvové filtry jsou vnitřními filtry.

Spropitné

Další informace o filtrech najdete v tématu Co jsou filtry?.