Vysvětlení základních komponent a prozkoumání typů toků
Pokud chcete vytvořit aplikaci LLM (Large Language Model) s tokem výzvy, musíte porozumět základním komponentám toku výzvy.
Principy toku
Tok výzvy je funkce v azure AI Studiu, která umožňuje vytvářet toky. Toky jsou spustitelné pracovní postupy, které se často skládají ze tří částí:
- Vstupy: Představují data předaná do toku. Můžou to být různé datové typy, jako jsou řetězce, celá čísla nebo logická hodnota.
- Uzly: Představují nástroje , které provádějí zpracování dat, provádění úloh nebo algoritmické operace.
- Výstupy: Představují data vytvořená tokem.
Podobně jako kanál se tok může skládat z více uzlů, které můžou používat vstupy toku nebo jakýkoli výstup vygenerovaný jiným uzlem. Uzel můžete do toku přidat tak, že zvolíte jeden z dostupných typů nástrojů.
Prozkoumání nástrojů dostupných v toku výzvy
Existují tři běžné nástroje:
- Nástroj LLM: Umožňuje vytváření vlastních výzev s využitím rozsáhlých jazykových modelů.
- Nástroj Python: Umožňuje spouštění vlastních skriptů Pythonu.
- Nástroj výzvy: Připraví výzvy jako řetězce pro složité scénáře nebo integraci s jinými nástroji.
Každý nástroj je spustitelná jednotka s konkrétní funkcí. Nástroj můžete použít k provádění úloh, jako je sumarizace textu nebo volání rozhraní API. Můžete použít více nástrojů v rámci jednoho toku a použít nástroj vícekrát.
Tip
Pokud hledáte funkce, které nejsou nabízeny dostupnými nástroji, můžete vytvořit vlastní nástroj.
Kdykoli do toku přidáte nový uzel a přidáte nový nástroj, můžete definovat očekávané vstupy a výstupy. Uzel může používat jeden ze vstupů celého toku nebo výstup jiného uzlu, který efektivně propojuje uzly.
Definováním vstupů, propojením uzlů a definováním požadovaných výstupů můžete vytvořit tok. Toky vám pomůžou vytvářet aplikace LLM pro různé účely.
Vysvětlení typů toků
Existují tři různé typy toků, které můžete vytvořit pomocí toku výzvy:
- Standardní tok: Ideální pro obecný vývoj aplikací založených na LLM, který nabízí celou řadu univerzálních nástrojů.
- Tok chatu: Navržený pro konverzační aplikace s vylepšenou podporou funkcí souvisejících s chatem.
- Tok vyhodnocení: Zaměřeno na vyhodnocení výkonu, které umožňuje analýzu a vylepšení modelů nebo aplikací prostřednictvím zpětné vazby k předchozím spuštěním.
Když teď víte, jak je tok strukturovaný a k čemu ho můžete použít, pojďme se podívat, jak můžete tok vytvořit.