Úvod
Velký jazykový model (LLM) můžete spustit místně nebo prostřednictvím poskytovatele cloudu, jako je Azure. Pokud se rozhodnete pro verzi hostované v cloudu, ujišťuje se, že poskytovatel ověří funkčnost modelu. Pokud vytváříte technologický startup nebo integrujete LLM do stávajícího produktu, můžete podpořit důvěru zákazníků prostřednictvím zaručeného výkonu. Při spuštění LLM prostřednictvím poskytovatele cloudu navíc nemusíte mít obavy o únik dat, protože vaše data jsou chráněná.
Scénář: Vyzkoušení LLM pro technického MVP
Představte si, že provozujete technologický startup cestovního ruchu a chcete použít LLM pro různé úlohy, které budou spouštět vaši firmu efektivněji a vylepšovat uživatelské prostředí. Před potvrzením do LLM chcete spustit testy, abyste zjistili, jestli generuje užitečné odpovědi. Také chcete zajistit, aby se mezi vámi a vaším poskytovatelem cloudu zabezpečily všechny výzvy k zadání LLM. Představte si, že by mělo být nějaké testovací hřiště, které by se mělo zabývat těmito obavami.
Co se naučíte?
V tomto modulu se naučíte:
- Zřízení cloudového prostředku Azure OpenAI
- Vytvořte nasazení pro konkrétní model LLM.
- Experimentujte s různými výzvami, abyste zjistili, jaký typ výsledků může LLM poskytnout v různých situacích.
Jaký je hlavní cíl?
Zřízení a použití nasazení LLM v Nástroji Azure OpenAI Studio