Sdílet prostřednictvím

Generování řešení umělé inteligence pro vývojáře

Generování umělé inteligence využívající velké jazykové modely (LLM) přináší vývojářům a organizacím nové příležitosti. Služby, jako je Azure OpenAI, usnadňují používání AI s jednoduchými rozhraními API. Vývojáři všech úrovní dovedností můžou do svých aplikací přidávat pokročilé funkce umělé inteligence bez nutnosti speciálních znalostí nebo hardwaru.

Jako vývojář se můžete ptát, co je vaše role a kam se vejdete. Možná chcete vědět, na jakou část zásobníku umělé inteligence se chcete zaměřit nebo na co můžete s využitím dnešní technologie vytvořit.

Pokud chcete na tyto otázky odpovědět, začněte vytvořením mentálního modelu, který spojuje nové termíny a technologie s tím, co už znáte. Tento přístup vám pomůže navrhnout a přidat do aplikací generující funkce AI.

V této sérii si ukážeme, jak vaše aktuální softwarové dovednosti platí pro generování umělé inteligence. Představujeme také klíčové pojmy a koncepty, které vám pomůžou začít vytvářet vaše první řešení generující umělé inteligence.

Jak podniky využívají generující AI

Pokud chcete zjistit, jak se vaše softwarové dovednosti hodí ke generování umělé inteligence, podívejte se nejprve na to, jak ho používají firmy.

Firmy používají generování umělé inteligence k posílení zapojení zákazníků, efektivnější práci a řešení problémů kreativními způsoby. Přidání generující umělé inteligence do stávajících systémů umožňuje firmám vylepšit svůj software. Může přidávat funkce, jako jsou přizpůsobená doporučení nebo inteligentní agenti, kteří odpovídají na otázky týkající se společnosti nebo jejích produktů.

Běžné způsoby, jak generovat AI pomáhá firmám:

  • generování obsahu:

    • Vytvářejte text, kód, obrázky a zvuk pro marketing, prodej, IT a interní komunikaci.

  • zpracování přirozeného jazyka:

    • Pište nebo vylepšete obchodní zprávy.
    • Nechte uživatele chatovat se svými daty kladením otázek na základě firemních dokumentů.
    • Shrnutí, uspořádání a zjednodušení velkého množství obsahu
    • Pomocí sémantického vyhledávání můžete najít informace bez přesných klíčových slov.
    • Umožňuje přeložit obsah tak, aby oslovil více lidí.

  • analýzy dat:

    • Najděte trendy na datech a analyzujte trhy.
    • Model "what if" scénářů, které vám pomůžou naplánovat změny.
    • Projděte si kód a navrhněte vylepšení, opravte chyby a vytvořte dokumentaci.

Jako vývojář můžete výrazně vylepšit přidáním generativních funkcí umělé inteligence do softwaru, který vaše organizace používá.

Jak vytvářet generativní aplikace umělé inteligence

I když LLM dělá náročné úlohy, vytváříte systémy, které integrují, orchestrují a monitorují výsledky. Je toho hodně, co se naučit, ale můžete použít dovednosti, které už máte, včetně toho, jak:

  • Vytvořte volání rozhraní API pomocí RESTu, JSONu nebo jazykově specifických sad SDK.
  • Orchestrace volání rozhraní API a provádění obchodní logiky
  • Ukládání a načítání z úložišť dat
  • Integrace vstupu a výsledků do uživatelského prostředí
  • Vytvořte rozhraní API, která lze volat z LLM

Vývoj generativních řešení umělé inteligence vychází z vašich stávajících dovedností.

Vývojářské nástroje a služby

Microsoft vytváří nástroje, služby, rozhraní API, ukázky a výukové materiály, které vám pomůžou začít s generováním umělé inteligence. Každý z nich se zabývá klíčovou součástí vytváření řešení generující umělé inteligence. Pokud chcete tyto prostředky dobře používat, ujistěte se, že:

  • Seznamte se s hlavními funkcemi, rolemi a zodpovědnostmi pro každý typ generující funkce umělé inteligence. Například v chatovacích systémech založených na RAG musíte před návrhem řešení porozumět problému a jeho limitům.
  • Seznamte se s rozhraními API, službami a nástroji pro každou funkci nebo roli. Jakmile znáte problém, můžete ho sestavit sami pomocí kódu, použít nástroje s nízkým kódem nebo bez kódu nebo volat existující služby.
  • Prozkoumejte možnosti, včetně kódu, nízkého kódu a řešení bez kódu. Všechno můžete sestavit sami, ale někdy je rychlejší a jednodušší kombinovat různé nástroje a přístupy.

Neexistuje žádný správný způsob, jak do svých aplikací přidat generující funkce umělé inteligence. Můžete si vybrat z mnoha nástrojů a metod. Vždy vážit výhody a nevýhody každého.

Začínáme s aplikační vrstvou

Abyste mohli začít, nemusíte znát všechno o generování umělé inteligence. Pravděpodobně už máte dovednosti, které potřebujete. Začněte používat rozhraní API a aktuální znalosti.

Nemusíte trénovat vlastní LLM. Trénování LLM trvá příliš mnoho času a peněz pro většinu společností. Místo toho použijte existující předem natrénované modely, jako je GPT-4o, tím, že rozhraní API volá hostované služby, jako je Azure OpenAI API. Přidání generativních funkcí AI do aplikace je stejně jako přidání jakékoli jiné funkce, která používá rozhraní API.

Možná budete chtít zjistit, jak jsou LLM vytrénované nebo jak fungují. Ale úplné porozumění LLM vyžaduje hluboké znalosti datových věd a matematiky, často na úrovni absolventa.

Pokud máte zkušenosti s počítačovými vědami, víte, že většina vývoje aplikací probíhá ve vyšší vrstvě v technologickém zásobníku. Možná znáte trochu o každé vrstvě, ale pravděpodobně se zaměříte na vývoj aplikací pomocí konkrétního jazyka, platformy, rozhraní API a nástrojů.

Stejný nápad platí i pro AI. Můžete se naučit teorii llms, ale měli byste se zaměřit na vytváření aplikací nebo vytváření vzorů a procesů pro generování umělé inteligence ve vaší společnosti.

Tady je jednoduchý přehled o vrstvách znalostí potřebných k přidání generativních funkcí umělé inteligence do aplikace:

diagram, který znázorňuje vrstvy znalostí, které jsou nutné k implementaci generovaných funkcí AI v aplikaci.

Na nejnižší úrovni dělají datoví vědci výzkum, aby zlepšili AI pomocí pokročilých matematických operací, jako jsou statistiky a pravděpodobnosti.

Jedna vrstva nahoru, datoví vědci používají teorii k vytváření LLM. Vytvářejí neurální sítě a trénují je tak, aby přijímaly výzvy a generovaly výsledky (dokončení). Proces generování výsledků z výzev se nazývá odvozování. Datoví vědci se rozhodnou, jak neurální síť předpovídá další slovo nebo pixel.

Vzhledem k tomu, že trénování a spouštění modelů má významný výpočetní výkon, většina modelů se trénuje a hostuje ve velkých datacentrech. Model můžete trénovat nebo hostovat na vlastním počítači, ale je pomalý. Díky vyhrazeným grafickým procesorům je toto trénování rychlejší a efektivnější.

Když modely běží v datacentrech, budete k nim přistupovat prostřednictvím rozhraní REST API. Sady SDK často zabalují tato rozhraní API, aby vývojářům usnadnily práci. Další nástroje pomáhají s monitorováním a dalšími úlohami.

Vývojáři aplikací používají tato rozhraní API k vytváření obchodních funkcí.

Kromě volání modelů pomáhají nové vzory a procesy organizacím vytvářet spolehlivé generující funkce AI. Některé vzory například pomáhají zajistit, aby vygenerovaný obsah splňoval etické, bezpečnostní a osobní standardy.

Pokud jste vývojář aplikací, zvažte zaměření na tato témata vrstvy aplikací:

  • Rozhraní API a sady SDK: Zjistěte, co je k dispozici a co každý koncový bod dělá.
  • Nástroje a služby: Naučte se vytvářet funkce potřebné pro řešení generování umělé inteligence připravené pro produkční prostředí.
  • Příprava výzvy: Zjistěte, jak získat nejlepší výsledky tím, že položíte nebo přehrajete otázky.
  • Kritické body a škálování: Zjistěte, kde dochází ke zpomalení a jak se škálovat. Naučte se protokolovat a získávat data aplikací bez porušení ochrany osobních údajů.
  • Charakteristiky LLM: Znát silné stránky, případy použití, srovnávací testy a rozdíly mezi modely a dodavateli. Tyto znalosti vám pomůžou vybrat správný model pro vaše potřeby.
  • Vzory a pracovní postupy: Udržujte si přehled o nejnovějších způsobech vytváření efektivních a spolehlivých funkcí generující umělé inteligence ve vašich aplikacích.

Nástroje a služby od Microsoftu

Můžete použít nástroje a služby pro nízké kódování a bez kódu generativní AI od Microsoftu, které vám pomohou sestavit některá nebo všechna vaše řešení. Různé služby Azure můžou hrát klíčové role. Každý přispívá k efektivitě, škálovatelnosti a odolnosti řešení.

Rozhraní API a sady SDK pro přístup orientovaný na kód

Každé řešení generující umělé inteligence používá LLM. Azure OpenAI poskytuje všechny funkce v modelech, jako je GPT-4.

Produkt Popis
Azure OpenAI Hostovaná služba, která poskytuje přístup k výkonným jazykovým modelům, jako je GPT-4. Pomocí rozhraní API můžete vytvářet vkládání, vytvářet funkce chatu a přizpůsobovat výsledky tak, aby vyhovovaly vašim potřebám.

Spouštěcí prostředí

Potřebujete službu pro spouštění obchodní logiky, logiky prezentace nebo rozhraní API pro generování umělé inteligence ve vašich aplikacích.

Produkt Popis
Azure App Service (nebo jiné cloudové služby založené na kontejnerech) Hostování webových rozhraní nebo rozhraní API pro uživatele pro interakci s chatovacím systémem RAG Rychle vyvíjet, nasazovat a škálovat webové aplikace Snadno spravujte front-end systému.
Azure Functions Používejte výpočetní prostředky bez serveru pro úlohy řízené událostmi v chatovacím systému RAG. Aktivace načítání dat, zpracování uživatelských dotazů nebo zpracování úloh na pozadí, jako je synchronizace a vyčištění Vytvořte modulární a škálovatelný back-end.

Řešení s nízkým kódem a bez kódu

Některé z logiky, kterou potřebujete k implementaci generující vize umělé inteligence, je možné rychle sestavit a spolehlivě hostovat pomocí řešení bez kódu nebo bez kódu.

Produkt Popis
Azure AI Foundry K trénování, testování a nasazování vlastních modelů strojového učení, které vylepšují RAG chatovací systém, můžete použít Azure AI Foundry. Pomocí Azure AI Foundry můžete například přizpůsobit generování odpovědí nebo zlepšit relevanci načtených informací.

Pokyny k vytváření řešení s nízkými kódy najdete v tématu Vývoj aplikací s nízkými kódy v Azure.

Vektorová databáze

Některá řešení generující AI potřebují ukládat a načítat data, aby se zlepšily výsledky. Například chatovací systém založený na RAG umožňuje uživatelům chatovat s daty vaší společnosti. V takovém případě potřebujete vektorovou databázi.

Produkt Popis
Azure AI Search Vyhledejte informace pro jazykový model pro vyhledávání velkých datových sad. Použijte ji pro načtení části systému RAG, aby byly odpovědi relevantnější a užitečnější.
Azure Cosmos DB Ukládejte velké objemy strukturovaných a nestrukturovaných dat pro chatovací systém RAG. Rychlé rychlosti čtení a zápisu pomáhají poskytovat data v reálném čase a ukládat interakce uživatelů.
Azure Cache for Redis Často používané informace ukážíte do mezipaměti, abyste snížili zpoždění a urychlili chatovací systém RAG. Ukládejte data relací, uživatelské předvolby a běžné dotazy.
Flexibilní server Azure Database for PostgreSQL Ukládejte data aplikací, jako jsou protokoly, profily uživatelů a historie chatu. Díky flexibilitě a škálovatelnosti budou vaše data dostupná a zabezpečená.

Každá z těchto služeb Azure vám pomůže vytvořit škálovatelné a efektivní řešení AI. Umožňují vám používat ty nejlepší funkce cloudu a umělé inteligence Azure. Další informace naleznete v tématu Volba vektorové databáze.

Vývoj generování AI orientovaný na kód pomocí rozhraní API Azure OpenAI

Tato část se zabývá rozhraním API Azure OpenAI. K přístupu k funkcím LLM používáte rozhraní REST API. Tato rozhraní API můžete volat z libovolného moderního programovacího jazyka. Mnoho jazyků má sady SDK, které usnadňují volání rozhraní API.

Tady je seznam obálků rozhraní REST API Azure OpenAI:

Pokud pro váš jazyk nebo platformu neexistuje žádná sada SDK, proveďte volání REST přímo do webových rozhraní API:

Většina vývojářů ví, jak volat webová rozhraní API.

Azure OpenAI má několik rozhraní API pro různé úlohy AI. Tady je přehled hlavních rozhraní API:

  • Rozhraní API pro dokončování chatu: Generování textu, chatu a odpovědí na otázky Používejte ho pro chatboty, virtuální asistenty, sumarizaci, psaní a překlad. Podporuje také vizuální funkce (například nahrání obrázku a kladení otázek).
  • Rozhraní API pro moderování obsahu: Vyhledání a filtrování škodlivého nebo nebezpečného obsahu v textu Používejte ho k zabezpečení interakcí uživatelů.
  • Rozhraní API pro vkládání: Převod textu na vektory pro vyhledávání, clustering a hledání podobného obsahu Slouží k zachycení významu a vztahů v textu.
  • Rozhraní API pro generování obrázků: Vytváření obrázků a obrázků z textových výzev Na základě DALL· Model E.
  • Rozhraní REST API pro převod řeči na text: Převod řeči na text nebo text na řeč v mnoha jazycích Můžete ho použít pro hlasové příkazy a přepis zvuku.

Tento článek se zaměřuje na generování umělé inteligence založené na textu, jako je chat a shrnutí, ale tato rozhraní API můžete použít pro mnoho typů médií.

Začínáme s vývojem pomocí generativní umělé inteligence

Když se naučíte nový jazyk, rozhraní API nebo technologie, začněte kurzy nebo školení, které ukazují, jak vytvářet malé aplikace. Někteří vývojáři se raději učí vytvořením vlastních malých projektů. Oba způsoby dobře fungují.

Začněte s malými, nastavte si jednoduché cíle a postupně si vytvořte své dovednosti. Vývoj generující umělé inteligence se liší od tradičního softwaru. V běžném softwaru získáte stejný výstup pro stejný vstup pokaždé. S generováním umělé inteligence získáte různé odpovědi na stejnou výzvu, která přináší nové výzvy.

Při zahájení mějte na paměti tyto tipy.

Tip 1: Buďte jasné o vašem cíli

  • Definujte problém, který chcete vyřešit. Generování umělé inteligence může dělat mnoho věcí, ale získáte lepší výsledky, pokud přesně víte, co chcete – například generování textu, obrázků nebo kódu.
  • Znát svou cílovou skupinu. Přizpůsobte výstup umělé inteligence tak, aby odpovídal tomu, kdo ho používá, ať už jde o neformální uživatele nebo odborníky.

Tip 2: Použití silných stránek LLM

  • Znát limity a předsudky LLM. Jsou mocní, ale nejsou dokonalí. Plánujte jejich slabá místa.
  • K tomu, co dělají nejlépe, jako je vytváření obsahu, shrnutí nebo překlad, používejte LLM. Někdy může být pro vaše potřeby lepší jiný typ AI.

Tip 3: Psaní dobrých výzev

  • Naučte se s technickými výzvami. Vyzkoušejte různé výzvy, abyste viděli, co funguje nejlépe. Buďte jasní a konkrétní.
  • Upřesněte výzvy. První iterace nemusí fungovat. Pomocí výsledků vylepšete další výzvu.

Vytvořte své první řešení s generativní umělou inteligencí

Pokud chcete zkusit vytvořit řešení generující umělé inteligence, začněte tím, že začnete chatovat pomocí vlastní ukázky dat pro Python. Můžete také najít kurzy pro .NET, Javu a JavaScript.

Konečné aspekty návrhu aplikace

Tady je krátký seznam věcí, které je potřeba vzít v úvahu, a další poznatky z tohoto článku, které můžou mít vliv na rozhodnutí o návrhu vaší aplikace:

  • Definujte problémový prostor a cílovou skupinu jasně tak, aby odpovídaly schopnostem umělé inteligence s očekáváním uživatelů. Optimalizujte efektivitu řešení pro zamýšlený případ použití.
  • Pro rychlé vytváření prototypů a vývoje používejte platformy s nízkým kódem nebo bez kódu, pokud splňují požadavky vašeho projektu. Vyhodnoťte kompromis mezi rychlostí vývoje a přizpůsobitelností. Vyzkoušejte nástroje s nízkým kódem a bez kódu pro části aplikace, které urychlují vývoj a umožňují členům netechnického týmu pomoct.
  • Last updated on