Vkládání do .NET

Vkládání je způsob, jakým LLMs zachycují sémantický význam. Jedná se o číselnou reprezentaci nečíselných dat, která může LLM použít k určení vztahů mezi koncepty. Vkládání vám pomůže modelu AI porozumět významu vstupů, aby mohl provádět porovnání a transformace, například sumarizaci textu nebo vytváření obrázků z popisů textu. LLM mohou okamžitě používat embeddingy a embeddingy můžete ukládat do vektorových databází, abyste poskytli sémantickou paměť pro LLM podle potřeby.

Případy použití pro vkládání

Použijte vlastní data ke zlepšení relevance dokončování

Využijte své vlastní databáze k vygenerování embeddingů pro svá data a integrujte je s LLM, aby byly dostupné pro automatické doplňování. Toto použití embeddingů je důležitou součástí generace obohacené načítáním.

Zvětšení množství textu, který můžete umístit do výzvy

Vkládáním můžete zvýšit množství kontextu, který se dá přizpůsobit výzvě, aniž byste zvýšili požadovaný počet tokenů.

Předpokládejme například, že chcete do výzvy zahrnout 500 stránek textu. Počet tokenů pro tento nezpracovaný text překračuje limit vstupního tokenu, což znemožňuje přímé zahrnutí do výzvy. Vkládání můžete použít k shrnutí a rozdělení velkých objemů tohoto textu na části, které jsou dostatečně malé, aby se vešly do jednoho vstupu, a pak posoudit podobnost jednotlivých částí s celým nezpracovaným textem. Pak můžete zvolit kus, který nejlépe zachová sémantický význam nezpracovaného textu a použije ho ve výzvě bez dosažení limitu tokenu.

Provádění klasifikace textu, shrnutí nebo překladu

Vkládání vám pomůže modelu porozumět významu a kontextu textu a pak tento text klasifikovat, shrnout nebo přeložit. Vkládání můžete například použít k tomu, aby modely klasifikovaly texty jako kladné nebo záporné, spamové nebo ne spamy nebo zprávy nebo názory.

Generování a přepis zvuku

Pomocí vkládání zvuku můžete zpracovávat zvukové soubory nebo vstupy ve vaší aplikaci.

Například Azure Speech in Foundry Tools podporuje celou řadu zvukových embeddingů, včetně rozpoznávání řeči a syntézy řeči. Zvuk můžete zpracovávat v reálném čase nebo v dávkách.

Převod textu na obrázky nebo obrázky na text

Sémantické zpracování obrázků vyžaduje vkládání obrázků, které většina LLM nemůže vygenerovat. Pomocí modelu vkládání obrázků, jako je ViT, můžete vytvářet vektorové vkládání obrázků. Tyto vložené objekty s modelem generování obrázků pak můžete použít k vytvoření nebo úpravě obrázků pomocí textu nebo naopak. Můžete například použít DALL· Model E pro generování obrázků, jako jsou loga, tváře, zvířata a krajiny.

Generovat nebo dokumentovat kód

Pomocí vložených výrazů můžete modelu pomoct vytvořit kód z textu nebo naopak tím, že převedete jiný kód nebo textové výrazy na společnou reprezentaci. Pomocí vkládání můžete například vygenerovat model nebo kód dokumentu v jazyce C# nebo Python.

Volba modelu vkládání

Vkládání pro nezpracovaná data vygenerujete pomocí modelu vkládání AI, který dokáže kódovat nečíselná data do vektoru (dlouhé pole čísel). Model může také dekódovat vložení do nečíselných dat, která mají stejný nebo podobný význam jako původní nezpracovaná data. OpenAI text-embedding-3-small a text-embedding-3-large jsou aktuálně doporučené modely vkládání a nahrazují starší text-embedding-ada-002modely . Další příklady najdete v seznamu modelů Embedding dostupných na Azure OpenAI.

Ukládání a zpracování embeddingů ve vektorové databázi

Po vygenerování embeddingů potřebujete způsob, jak je uložit, abyste je později mohli načíst pomocí volání na LLM. Vektorové databáze jsou navržené tak, aby ukládaly a zpracovávaly vektory, takže jsou přirozeným domovem pro vkládání. Různé vektorové databáze nabízejí různé možnosti zpracování, takže byste měli zvolit jednu z nezpracovaných dat a vašich cílů. Informace o možnostech najdete v tématu Vector databáze pro .NET + AI.

Použití vkládání do řešení LLM

Při vytváření aplikací založených na LLM můžete pomocí agenta Framework integrovat vložené modely a vektorové úložiště, abyste mohli rychle načíst textová data a vygenerovat a ukládat vložené položky. To vám umožní použít řešení vektorové databáze k ukládání a načítání sémantických pamětí.

Související obsah

  • Last updated on