Vytváření prostředí generativní umělé inteligence v Microsoft Cloudu: Průvodce pro nezávislé výrobce softwaru

Vítá vás průvodce vytvářením jedinečných prostředí generativní AI (GenAI) v Microsoft Cloudu. Jako nezávislý výrobce softwaru (ISV) jste v hlavní pozici, abyste mohli využít sílu GenAI k inovacím a dodávání poutavých řešení pro vaše zákazníky.

Co je Microsoft Cloud?
Microsoft Cloud je komplexní a integrovaná platforma, která nabízí širokou škálu funkcí a služeb. Patří mezi ně Azure AI, Microsoft 365, Microsoft Fabric a další, což je předním místem globální revoluce generativní umělé inteligence.

Tato platforma umožňuje zobrazit vaše vlastní data a funkce v různých oblastech, včetně Microsoftu 365, centra produktivity a spolupráce, ke které mají přístup miliony uživatelů.

Tato příručka vám pomůže navigovat v rozsáhlých možnostech dostupných v ekosystému Microsoft Cloud.

Co jsou copiloty?
Copilot označujeme jako virtuální asistent využívající umělou inteligenci, která zvyšuje produktivitu uživatelů tím, že pomáhá lidem se složitými kognitivními úlohami, poskytuje kontextové návrhy a zajišťuje přehledy s bohatými daty. Tyto kopírovací objekty můžou být založené na datech a kontextu konkrétních zákazníků nebo isV a nabízejí tak nezávislí výrobci softwaru příležitost vytvářet generativní prostředí AI, která chápou data specifická pro danou firmu.

Scénáře a přístupy

Diagram se seznamem tří přístupů ISV k rozšiřitelnosti copilotu Za prvé, rozšíření Copilotu vám umožní zobrazit data a služby ve službě Copilots od Microsoftu. Za druhé, vytváření copilotů umožňuje vytvářet copiloty kdekoli s minimálním kódováním a volitelným příjmem dat Microsoftu. Za třetí, úplné řízení umožňuje vytvářet vlastní komplexní prostředí AI. Každá ze tří možností obsahuje další podrobnosti, které jsou popsané v následujícím textu.

Tato příručka obsahuje doprovodné materiály ke scénářům, které výrobcům softwaru pomůžou při navigaci v rozsáhlé oblasti GenAI v Microsoft Cloudu. Naším cílem je pomoci vám vybrat nejvhodnější vzory a technologie pro vaše jedinečné požadavky, uspořádané do tří přístupů na vysoké úrovni pro vytváření zkušeností s AI.

Naše přístupy jsou rozdělené do vzorůzaložených na scénářích , které vám pomůžou navigovat nejvhodnější cestou pro váš scénář a požadavky.

Důležité

Upozorňujeme, že tyto přístupy a jejich vzory se vzájemně nevylučují. Jejich kombinací můžete vytvořit řešení na míru, které nejlépe vyhovuje vašim jedinečným požadavkům a scénářům.

Přístup 1: Surface vaše data a služby do copilotů Microsoftu:

Tento přístup je určený pro nezávislé výrobce softwaru, kteří chtějí integrovat svá data a služby do společnosti Microsoft Copilots. Zaměřte se na používání modulů plug-in a konektorů Graph k vylepšení uživatelského prostředí.

Scénář: Jsem isv, kde koncoví uživatelé pracují v aplikacích Microsoftu, jako jsou Teams, Word, Outlook, a potřebují...

... přístup k informacím pomocí rozhraní přirozeného jazyka a mám existující službu, kterou chci zpřístupnit prostřednictvím těchto aplikací Microsoft 365.

Vzor A: Vytvoření modulů plug-in pro rozšíření možností copilotu o data a funkce isv

... získat přehledy z našich zdrojů dat isV v kombinaci s uživateli orientovanými daty Microsoft Graphu a obchodními daty organizace.

Vzor B: Zpřístupněte data isV pro prostředí Copilot pomocí konektorů Graph.

Přístup 2: Vytváření copilotů kdekoli s minimálním kódováním a volitelnou integrací dat Microsoftu:

Tento přístup je určený pro nezávislé výrobce softwaru, kteří chtějí své aplikace obohatit o data a nástroje Microsoftu, nebo kteří chtějí vytvářet vlastní pomocníky AI pomocí Azure. Zahrnuje využití Graph API Microsoftu, modulů plug-in Copilot Studio, knihovny Teams AI nebo umožnění zákazníkům vytvářet vlastní prostředí copilotu s vašimi daty prostřednictvím konektorů.

Scénář: Jsem isv, kde koncoví uživatelé pracují kdekoli...

... a chci jim umožnit vytvářet vlastní prostředí kopírování pomocí našich dat a služeb.

Vzor C: Vývoj konektorů Power Platform umožňujících kopírování řízené zákazníkem v Copilot Studio

Scénář: Jsem isv, kde koncoví uživatelé pracují ve stávajících aplikacích a uživatelském rozhraní a chtějí, abychom...

... začlenit data Graphu zaměřená na uživatele Microsoftu do mého copilotu.

Vzor D: Použití Microsoft Graph API v kopírkách

... poskytovat prostředí pro konverzaci v rámci stávající aplikace, které můžou odpovídat na otázky a převádět konverzace na akce.

Vzor E: Vytvoření vlastních pomocníků AI v Azure

Scénář: Jsem isv, který má prostředí Copilotu pro Microsoft Teams a zahrnuje požadavky na...

... vytvářet inteligentní roboty Teams, kteří se integrují do GenAI, spouštějí roboty v Teams a konverzovat s ohledem na kontext, nebo používat prostředí chatu v Teams a já jako isV se soustředím na komplexní obchodní logiku.

Vzor F: Použití knihovny Teams AI k vytvoření vlastního copilotu

Přístup 3: Úplné řízení: Ucelené vytváření vlastních prostředí AI (BYO):

Tento přístup je zaměřený na nezávislé výrobce softwaru, kteří chtějí vytvářet zcela nová prostředí umělé inteligence nebo kopírování pomocí nástrojů, jako jsou Azure AI Studio a sémantické jádro. Nabízí maximální kontrolu a přizpůsobení a poskytuje neomezené možnosti.

Scénář: Jsem isv, který se snaží vyvíjet nejmodernější interoperabilní prostředí AI, která...

... vyžadují specializované zpracování složitých multimodálních dat, což může zahrnovat vyladění modelů AI tak, aby splňovaly specifické požadavky na přesnost.

... používat vlastní modely AI a služby isV pro řešení na míru.

... poskytují úplnou kontrolu nad konverzačním prostředím, včetně systémových výzev, teploty, tónu a vlastních bezpečnostních požadavků.

Model G: Vytváření nových interoperabilních prostředí nebo kopírek AI pomocí stávajících rozhraní API s využitím Azure AI Studio

Vzor H: Sestavení vlastního copilotu se sémantickým jádrem

Tip

Pro hlubší pochopení doporučujeme prozkoumat podrobný obsah dostupný v odkazech Začínáme , které jsou k dispozici v jednotlivých vzorech.

Zásobník Microsoft Copilot se skládá ze tří různých úrovní: back-endu (s daty v příslušných úložištích), vrstvy orchestrace AI uprostřed a front-endu (uživatelské rozhraní vašeho copilotu). V rámci každé vrstvy jsou doporučené vrstvy, které by měly být při vytváření copilotu vzaty v úvahu.

Nezávislí výrobci softwaru přecházejí z přístupu 1 na přístup 3, a proto se hlouběji zabývají jednotlivými úrovněmi a předpokládají větší odpovědnost za vývoj. Například vytvoření modulu plug-in v rámci přístupu 1 znamená, že microsoft zajišťuje orchestraci AI, včetně integrace dat a zodpovědné AI. Naopak vývoj vlastního copilotu může vyžadovat plnou kontrolu nad uživatelským prostředím, vrstvou orchestrace, správou dat a zodpovědnou AI.

Čtvercový diagram znázorňující komponenty microsoft Copilot Stack Bloky jsou označené jako "AI safety and security" (Bezpečnost a zabezpečení AI). Uvnitř krabice jsou dvě části oddělené konektorem. Horní box na sebe naskládá Copilot Studio, Microsoft Copilot, vaše copiloty a aplikace Microsoftu a pak se připojí k prostřednímu konektoru označenému "Orchestrace AI". V dolním rámečku jsou data, základní modely, sada nástrojů AI a infrastruktura AI se šipkami směřujícími zpět na prostřední konektor označený jako orchestrace AI. Microsoft Cloud v dolní části celé sady zahrnuje celou část produktů.

Poznámka

Zatímco "copilot" odkazuje na obecný koncept generativního asistent AI, "Copilot" odkazuje na konkrétní produkty Microsoftu, jako je Microsoft 365 Copilot nebo Dynamics 365 Copilot, se kterými se nezávislí výrobci softwaru můžou integrovat.

Každá možnost se liší složitostí a úsilím. Přijetí stávajících microsoft copilots je jednoduché, rozšíření o moduly plug-in vyžaduje minimální úsilí a vytvoření nového prostředí copilotu může vyžadovat návrh, vědu a inženýrství.

Je důležité si uvědomit, že řešení AI je stejně dobré jako data, na která modely vycházíte a používáte je jako kontext. Připravené microsoft copiloty už podporují celou řadu scénářů a dají se rozšířit o vaše data, funkce a procesy. Uživatelské rozhraní ale nejde rozšířit. Proto je důležité pečlivě zvážit váš konkrétní scénář, jak můžete použít algoritmy GenAI a jak může váš uživatel ("pilotní") těžit z vašich funkcí copilotu.

Přístup 1: Surface vaše data a služby do copilotů Microsoftu

Nezávislí výrobci softwaru, kteří chtějí zobrazit své stávající služby, data a procesy v aplikacích Microsoft Copilots nebo Microsoft 365, to můžou udělat vytvořením modulů plug-in a konektorů.

Tento přístup například umožňuje microsoftu 365 Copilotu pracovat s rozhraními API z jiného softwaru a služeb, získat aktuální informace, provádět akce a provádět nové typy výpočtů.

Vzor A: Vytvoření modulů plug-in pro vylepšení stávajících funkcí Copilotu

Moduly plug-in jsou rozšíření, která rozšiřují možnosti existujícího copilotu a umožňují interakci s aplikacemi a službami isV. Můžou rozšířit možnosti uživatele povolením interakce s vašimi rozhraními API prostřednictvím konverzace v přirozeném jazyce. Modul plug-in může například službě Copilot umožnit načíst užitečné informace, provádět nové výpočty nebo bezpečně spouštět akce jménem uživatele.

Diagram znázorňující čtyři komponenty Microsoft Copilotu a jejich propojené tkáně Za prvé, data Microsoft Graphu odkazují na Microsoft Copilot. Microsoft Copilot pak má obousměrný šipkový bod na komponentu modulu plug-in, která se připojuje k aplikaci isv. Aplikace ISV je připojená ke zdroji dat isv.

Nezávislí výrobci softwaru můžou vytvářet moduly plug-in pomocí různých nástrojů, včetně rozšíření Teams Message Extensions a modulů plug-in Power Platform prostřednictvím Copilot Studio. Nové moduly plug-in je možné publikovat do ekosystému Copilot společnosti Microsoft prostřednictvím Partnerského centra, kde je správci IT můžou schválit, aby je mohli používat koncoví uživatelé.

Scénáře pro výrobce softwaru:

• Nezávislí výrobci softwaru, kteří chtějí zjistit své stávající služby v klientských aplikacích Microsoft 365
• Uživatelé můžou vyhledávat, aktualizovat a provádět akce v aplikaci isv nebo externích systémech z klientských aplikací Microsoft 365, jako jsou Teams, Outlook, Word atd.
• Uživatel v Teams může najít relevantní informace z externího systému lístků nebo CRM, který vaši zákazníci používají, případně včetně provádění akcí jménem uživatele, v systému.

Výhoda partnera:

• Obsluhujte pomocí klientských aplikací Microsoft 365 miliony uživatelů a společností a seznamte se s uživateli tam, kde právě teď pracují.
• Zvyšte viditelnost služby řešení tím, že je získáte v klientských aplikacích Microsoft 365.
• Omezte třecí plochy uživatelů tím, že eliminujete potřebu přecházet mezi více aplikacemi a plátny.
• Konzistentní uživatelské prostředí napříč aplikacemi Microsoft 365 s univerzální integrací a kontinuitou napříč aplikacemi Microsoft 365.
• Uživatel společnosti Contoso například zjistí nejnovější zákaznický účet se souhrnem dat přicházejících z externího systému Outlooku, SharePointu a společnosti Fabrikam, aniž by opustil Teams.

Kde začít:

• Vytváření rozšíření zpráv pro Microsoft Copilot pro Microsoft 365 | Microsoft Learn
• Vytváření modulů plug-in copilot – přehled (Preview) – Microsoft Copilot Studio | Microsoft Learn

Klíčové poznatky:

• Moduly plug-in představují způsob, jak v microsoft copilotech zobrazit služby a aplikace isV, které koncovým uživatelům umožňují interakci s aplikacemi a službami isv z klientských aplikací Microsoft 365.
• Nezávislí výrobci softwaru můžou vytvářet moduly plug-in pomocí nástrojů, jako jsou Rozšíření zpráv Teams a moduly plug-in Copilot Studio.
• Moduly plug-in můžou zvýšit viditelnost a zjistitelnost vašeho řešení prostřednictvím Partnerského centra.

Vzor B: Použití graph connecterů k přenesení dat do prostředí Copilot

Konektory graphu umožňují nezávislí výrobci softwaru připojit svá data k sémantickému indexu Microsoft 365. Jejich data se stanou prohledávatelnými a použitelnými pro uživatele přímo z klientských aplikací Microsoft 365, jako jsou Teams, Outlook a Word. Microsoft Copilot se prostřednictvím Microsoft Graphu uzemní v datech isV, ať už cloudových nebo místních. Nezávislí výrobci softwaru navíc můžou používat Microsoft Fabric, jednotnou datovou platformu poskytovanou jako produkt SaaS, k přenesení dat do Microsoft Cloudu a jejich snadnému připojení k Microsoft Graphu.

Nezávislí výrobci softwaru můžou vytvářet konektory Graphu pomocí rozhraní API konektorů Microsoft Graphu, které podporuje celou řadu zdrojů dat, systémů souborů, webových stránek, podnikových aplikací a dalších možností.

Konektory grafů můžou také obohatit data o funkce využívající umělou inteligenci, jako je zpracování přirozeného jazyka, extrakce entit a analýza obrázků. Nezávislí výrobci softwaru můžou pomocí konektorů Graph rozšířit Microsoft Copilot o vlastní data, což vylepšuje uživatelské prostředí a umožňuje lépe přizpůsobené a zabezpečené interakce.

Už existují stovky konektorů graphu. Konektor grafu Jira Cloud může například zvýšit úroveň objektů Jira na stejnou úroveň jako data Microsoft 365 Graph, což umožňuje komplexní uvažování a univerzální integraci, což vede k rozšířeným a bohatším přehledům. Konektor umožňuje koncovým uživatelům vyhledávat objekty Jira z Microsoft 365 Copilotu pomocí rozhraní přirozeného jazyka.

Scénáře pro výrobce softwaru:

• Nezávislí výrobci softwaru, jejichž zákazníci pracují v Microsoftu 365 a chtějí koncovým uživatelům umožnit získávat přehledy ze zdrojů dat isV v kombinaci s daty Microsoft Graphu orientovanými na uživatele.
• Uživatelé můžou načítat, sumarizovat a zdůvodnět data z aplikací ISV v kombinaci s dalšími grafovými daty Microsoft 365, jako jsou e-maily, wordové dokumenty atd.
• Komunikační ředitel potřebuje najít a přepracovat e-maily PR v Outlooku, které jsou obohacené o obsah, který pochází z aplikace ISV grafického návrhu

Výhoda partnera:

• Seznamte se s uživateli v tom, kde pracují. Rozsáhlá uživatelská základna používá klientské aplikace Microsoft 365 a nyní má přístup k vlastním datům a službám v jednom jednotném prostředí.
• Rozšířené přehledy kombinováním dat isV s daty Microsoft Graphu.
• Univerzální integrace s aplikacemi Microsoft 365 a Microsoft Search, Context IQ a Viva s jedním konektorem.
• Rozšířené kanály pro prezentaci dat isV, což může zvýšit uživatelskou základnu.

Kde začít:

• Další informace o konektorech grafů najdete v aka.ms/graph-connectors
• Vytvoření vlastního konektoru pro grafy v tématu Sestavení konektorů Microsoft Graphu pro Microsoft Copilot pro Microsoft 365 | Microsoft Learn

Klíčové poznatky:

• Konektory Graph umožňují nezávislí výrobci softwaru přenést svá data do ekosystému Microsoft Copilot, což vylepšuje uživatelské prostředí díky přizpůsobeným a zabezpečeným interakcím.
• Nezávislí výrobci softwaru můžou pomocí Microsoft Fabric přenést svá data do Microsoft Cloudu a připojit je k Microsoft Graphu.
• Díky konektorům Graph můžou nezávislí výrobci softwaru kombinovat svá data s grafovými daty Microsoftu 365, aby mohli poskytovat rozšířené přehledy a dosáhnout univerzální integrace s aplikacemi Microsoft 365.

Přístup 2: Vytváření copilotů kdekoli s minimálním kódováním a volitelnou integrací dat Microsoftu

Nezávislí výrobci softwaru můžou do svých vlastních aplikací přenést výkon nástrojů a dat v Microsoft Graphu a vylepšit tak své funkce a uživatelské prostředí.

Vzor C: Vývoj konektorů Power Platform umožňujících kopírování řízené zákazníkem v Copilot Studio

Copilot Studio umožňuje zákazníkům vytvářet aplikace umělé inteligence s minimem kódu, které můžou reagovat na běžné dotazy uživatelů, a to na základě dat z jejich organizace a zdrojů dat microsoftu a partnerů. Copilot Studio pomocí konektorů Power Platform přináší data z potenciálně libovolného zdroje, kde je dnes více než 500 konektorů. Jako isV můžete vytvářet konektory pro vaše data a služby, které zákazníkům umožní vytvářet vlastní interní copiloty a aplikace AI, které budou mít základ v datech isV.

Diagram znázorňující komponenty modulu plug-in Microsoft Copilot Studio K modulu plug-in Copilot Studio se připojují tři zdroje, včetně dat Microsoft Graphu, konektorů Power Platform a dalších zdrojů dat. Modul plug-in Copilot Studio se pak připojí k aplikacím ISV prostřednictvím modulu plug-in.

Tyto aplikace AI se můžou zobrazit koncovým uživatelům na různých platformách, včetně webů, mobilních aplikací, Microsoft Teams nebo jakéhokoli kanálu podporovaného službou Azure Bot Framework.

Příklady scénářů:

• Nezávislí výrobci softwaru, kteří chtějí svým zákazníkům v rámci svých stávajících aplikací poskytovat prostředí chatovacího robota, který může odpovídat na dotazy a převádět konverzace na akce.
• Uživatelé, kteří ve vaší aplikaci pokládání otázek dostávají odpovědi z isV, Microsoftu nebo zákaznických zdrojů dat.
• Vytvořte konektor zákazníka ze stávajících rozhraní API a převeďte ho na modul plug-in pomocí Copilot Studio povolte, aby se tato rozhraní API volala z chatovacího robota s rozhraním přirozeného jazyka.
• Převeďte existující toky Power Automate na moduly plug-in, které je možné volat z chatu Microsoft copilot za účelem provádění akcí a načítání informací.
• Přístup k datům prostřednictvím rozhraní přirozeného jazyka z podnikových systémů, jako jsou Zendesk, GitHub a Salesforce, prostřednictvím těchto konektorů v Power Platform.

Výhoda partnera:

• Využijte sílu stávajících konektorů od Microsoftu i jiných společností k vylepšení a obohacení vaší aplikace bez námahy.
• Urychlete vývoj modulů plug-in použitím vlastního konektoru Power Platform pro rychlou a efektivní integraci.
• Zlepšete čas-to-value díky možnostem Copilot Studio s minimem kódu.
• Získejte konkurenční výhodu díky integraci funkcí AI do vaší aplikace s minimálním kódováním.

Kde začít:

• architektura modulů plug-in Microsoft Copilot Studio – Microsoft Copilot Studio | Microsoft Learn
• Vložení ovládacího prvku Power Virtual Agents pomocí ovládacího prvku chatbot | Microsoft Learn

Klíčové poznatky:

• Copilot Studio nabízí platformu pro vytváření aplikací umělé inteligence s minimem kódu, které můžou vylepšit stávající aplikace s funkcemi chatovacího robota založenými na datech a funkcích isV.
• Platforma podporuje stávající konektory Power Platform i vlastní konektory a nabízí flexibilitu při integraci služeb isV a zdrojů dat.
• Integrace funkcí AI může výrazně zlepšit uživatelské prostředí a poskytnout vaší aplikaci konkurenční výhodu.

Vzor D: Využití microsoft Graph API ve vašich copilotech

Microsoft Graph API nabízí výkonný koncový bod pro přístup k datům z aplikací Microsoft 365 orientovaných na uživatele, mezi které patří Kalendář, Bookings, Outlook, Teams, OneDrive, SharePoint a další. S tímto rozhraním API můžete své aplikace obohatit o data z Microsoftu 365 a umožnit tak uživatelům získat bohatší přehledy a analýzy.

Diagram znázorňující čtyři komponenty Microsoft Copilotu a jejich propojené tkáně Za prvé, data Microsoft Graphu odkazují na Microsoft Copilot. Data Microsoft Graphu mají také šipku, která je spojuje s aplikací ISV, a šipka symbolizuje Graph API. Aplikace ISV je připojená ke zdroji dat isv.

Scénáře pro výrobce softwaru:

• Zákazníci a partneři, kteří používají stávající aplikaci ISV, chtějí ve svém copilotu kombinovat data Graphu zaměřená na uživatele Microsoftu.
• IsV s aplikací pro řízení projektů chce začlenit data kalendáře Microsoftu 365 a data projektových dokumentů, aby mohli uživatelé sledovat termíny a milníky v rámci aplikace.
• Výrobce softwaru s aplikací CRM chce začlenit kontaktní a e-mailová data Microsoftu 365 a vylepšit tak profily zákazníků a protokoly komunikace.

Představte si Fabrikam, univerzální software pro správu lidského kapitálu (HCM) vybavený flexibilní sadou lidských zdrojů, který umožňuje bezproblémovou automatizaci různých pracovních postupů, jako jsou získávání talentů, řízení odměn zaměstnanců a procesy zpětné vazby. Společnost Fabrikam ve své neustálé snaze o inovace představuje špičkovou funkci copilotu na vrcholu své sady lidských zdrojů. Teď se snaží svou aplikaci ještě více povýšit integrací dat grafů orientovaných na uživatele. Toto vylepšení zahrnuje použití Graph API k začlenění kalendářů zaměstnanců, včetně podrobností, jako jsou naplánované volno, 1:1 pro procesy zpětné vazby atd.

Výhoda partnera:

• Zkombinováním dat s Microsoft 365 Graphem odhalte rozšířené přehledy.
• Bezproblémová integrace: Standardizovaný přístup k datům Microsoftu 365 pro snadnější integraci s vašimi aplikacemi.
• Vylepšené uživatelské prostředí: Poskytuje plynulejší uživatelské prostředí s přístupem k relevantním datům a funkcím Microsoftu 365 v rámci vaší aplikace.
• Rozšířené funkce: Přidejte nové funkce a možnosti do aplikace pomocí dat Microsoftu 365.
• Škálovatelnost a efektivita: Zaměřte se na vytváření a vylepšování aplikací, zatímco Graph API zpracovává načítání dat.

Kde začít:

• Použití Graph Exploreru k vyzkoušení rozhraní Microsoft Graph API – Microsoft Graph | Microsoft Learn
• Rychlý start – Microsoft Graph

Klíčové poznatky:

• Microsoft Graph API umožňuje nezávislí výrobci softwaru obohatit své aplikace o data z Microsoftu 365 zaměřená na uživatele.
• Prostřednictvím rozhraní Graph API můžete využít Microsoft 365 Sémantic Index, pokročilejší vyhledávací prostředí vytvořené pro éru Copilots.
• Nezávislí výrobci softwaru můžou pomocí Graph API vylepšit své aplikace o bohatší přehledy a analýzy.

Model E: Přenesení prostředí copilotu do vašich aplikací pomocí pomocníků Azure OpenAI

Nezávislí výrobci softwaru můžou využít tento přístup s minimem kódu ve službách AI Azure, aby do svých vlastních aplikací přinesli prostředí podobná copilotu. Nabízí rychlý způsob, jak použít volání funkce GPT k volání vlastních rozhraní API jednoduše tak, že popíše strukturu vaší funkce ve formátu JSON a poskytne prostředí Pythonu v izolovaném prostoru (sandbox) pro spouštění a spouštění kódu , který pomáhá formulaci odpovědí na otázky uživatele.

Obě tyto funkce mohou být užitečné při snižování úloh, které nejsou založené na jazyce, na konvenční kód nebo na stávající systémy, které jsou pro danou úlohu vhodnější, například jednoduché matematické úkoly.

I když nemáte přímý přístup k příkazovému řádku a teplotě systému, můžete podobně ovlivnit chování asistenta prostřednictvím vlastních instrukcí, které mají velký vliv na charakter vašeho prostředí podobného copilotu.

Výhoda partnera:

• Asistenti Azure OpenAI poskytují přístup s minimem kódu a umožňují nezávislí výrobci softwaru rychle integrovat funkce generativní AI do svých aplikací bez velkého úsilí při vývoji.

Kde začít:

• Rychlý start – Začínáme s pomocníky Azure OpenAI (Preview) – Azure OpenAI | Microsoft Learn
• Vytváření asistentů pomocí služby Azure OpenAI – Azure OpenAI | Microsoft Learn

Klíčové poznatky:

• Nezávislí výrobci softwaru můžou pomocí pomocníků Azure OpenAI vytvářet interaktivní rozhraní přirozeného jazyka, která zlepšují zapojení uživatelů. Tito asistenti můžou rozhraní API volat jednoduše tak, že je popíšete ve formátu JSON.
• Pomocník Azure OpenAI může v sandboxu na základě výzvy uživatele napsat a spustit kód, který vyřeší problém, který není GenAI.

Vzor F: Použití knihovny Teams AI k vytvoření vlastního copilotu

Nezávislí výrobci softwaru můžou také použít knihovnu Teams AI k přidání funkcí přirozeného jazyka do svého existujícího chatovacího robota Teams. Tato knihovna umožňuje nezávislí výrobci softwaru se zaměřit na obchodní logiku a používat generování uživatelského rozhraní Teams ke zpracování konverzačních interakcí. Nezávislí výrobci softwaru můžou zobrazit chatovací roboty v Teams a nabídnout tak uživatelům přirozenější a intuitivnější způsob interakce s jejich aplikacemi.

Diagram znázorňující tok vzoru knihovny AI v Microsoft Teams Rychlé technické teče do knihovny Teams AI. Data pak proudí z knihovny Teams AI do dvou zdrojů: aplikace ISV a služba Azure OpenAI. Tato dvě umístění protékají data obousměrně.

Scénář isv:

• Koncoví uživatelé používají Teams a partner ISV chce své služby nebo funkce v Teams poskytnout funkce podobné robotům.
• S daty Graphu není potřeba žádná integrace a partner ISV se chce zaměřit na službu a obchodní logiku bez integrace s funkcemi Teams Copilot.
• Díky předem vytvořeným šablonám aplikací Teams a integrovaným funkcím zabezpečení moderování může partner ISV snadno přidat funkci LLM do svého existujícího chatovacího robota.

Výhoda partnera:

• Přidejte ChatGPT, jako jsou konverzační prostředí, s kontrolou rychlého technického zpracování robota a opětovným použitím integrovaných bezpečnostních funkcí.
• Postaveno na vrcholu připravené k opakovanému použití funkcí, jako jsou
  • Historie konverzací, kterou nabízí mechanismus Teams AI.
  • Podpora více jazyků.
  • Podpora více velkých jazykových modelů nad rámec modelů OpenAI
  • Plánovač akcí, který vám může pomoct s mapováním na akce na základě záměru uživatele.
  • Připravení použít mechanismus rozšíření ke změně způsobu, jakým model reaguje prostřednictvím parametrů nebo změny systémových výzev.
  • Další úvahy, které mohou odpovědi z modelu vycházet z vašich dat.

Kde začít:

• Úvod do knihovny Teams AI: Knihovna Teams AI – Teams | Microsoft Learn
• Seznam technických možností: Možnosti knihovny AI teams – Teams | Microsoft Learn

Klíčové poznatky:

• Knihovna Team AI poskytuje snadný způsob, jak rozsvítit robota od isV vyvinutého v Teams pomocí výkonu LLM.
• Nevyžaduje integraci se stávajícími funkcemi Microsoft Copilotu, může poskytovat prostředí orientované na úkoly.
• Nabízí mnoho možností z technického hlediska, ale také připravené k použití, což usnadňuje celý proces vývoje.

Pokud chcete robota v Teams napájet pomocí LLMs, je to pro vás knihovna Teams AI.

Přístup 3: Úplné řízení: Ucelené prostředí AI (BYO) sestavte si vlastní (BYO)

Nezávislí výrobci softwaru můžou používat Microsoft Copilot Stack k vytváření zcela nových prostředí AI, jako jsou copiloty nebo inteligentní asistenti. Budova isV v této střední části stacku přebírá zodpovědnost za orchestraci AI – kde Microsoft nabízí různé možnosti, z nichž všechny používají základní modely Microsoftu, sadu nástrojů AI a infrastrukturu AI.

Sémantické jádro můžete využít k vytvoření stejných vzorů orchestrace AI, které využívají Microsoft Copilots, ve vašich copilotech. Je k dispozici jako sada SDK, se kterou můžete vyvíjet přímo.

Čtvercový diagram znázorňující součásti orchestrace zásobníku Microsoft Copilot První pole má označení "Aplikace a front-end copilotu" a je připojeno obousměrnou šipkou k většímu poli označenému "Orchestrace AI", který je naplněný komponentami zásobníku. Uvnitř Copilot Studio, Azure AI Studio, tok výzev, vyhodnocení, experimenty, katalog modelů, jemné ladění, sémantické jádro a strojové učení. Zásobník orchestrace AI je připojený k jinému rámečku označenému "základní modely a data". Microsoft Cloud v dolní části celé sady zahrnuje celou část produktů.

Díky většině investic do vytváření služby copilot uprostřed zásobníku mají nezávislí výrobci softwaru možnost propojit tuto službu copilotu s různými povrchy, včetně Teams, Microsoft 365 Copilot, Microsoft Copilotu, vašich vlastních aplikačních ploch, webů, chatovacích robotů – nebo všech dalších. V podstatě platí, že pokud jde o integraci s aplikačním povrchem – na vrcholu našeho zásobníku – každý druhý zde popsaný vzor je také možností.

Vzor G: Vytvoření vlastního copilotu pomocí Azure AI Studio

Azure AI Studio je univerzální platforma pro nezávislé výrobce softwaru, která umožňuje vytvářet vlastní inteligentní asistenty nebo kopírky. Kombinuje funkce z různých služeb Azure AI a poskytuje jednotný pracovní prostor pro vývoj a nasazení generativních aplikací AI. Jedná se o platformu pro spolupráci, kde se datoví vědci, vývojáři a další účastníci můžou sbližovat a spolupracovat.

S Azure AI Studio získají nezávislí výrobci softwaru plnou kontrolu nad chováním, osobností a schopnostmi svého copilotu. Ať už používáte existující předem vytrénované modely z našeho rozsáhlého katalogu, dolaďte modely na svých datech nebo trénujte vlastní modely AI, Azure AI Studio urychlují vývoj prostředí umělé inteligence, která zpracovávají složitá multimodální data.

Skvělou funkcí Azure AI Studio je různorodá škála modelů, které se používají pro různá odvětví a případy použití. Umožňuje výrobcům softwaru kombinovat různé modely v rámci jednoho řešení tak, aby splňovaly jejich jedinečné požadavky.

Integrace s Azure AI Search umožňuje výrobcům softwaru implementovat model načtení rozšířené generace (RAG) pro nestrukturovaná data přímo z Azure AI Studio s přidanou výhodou funkce integrované vektorizace AI Search. To znamená, že všechna data, která váš copilot potřebuje, se můžou automaticky aktualizovat ve vektorové databázi, což umožňuje rychlé a efektivní načtení během okamžitého vyhodnocení uživatele, což vám ušetří úkol implementovat vzor indexování, dělení do bloků dat, vkládání a vektorizace sami.

Prompt Flow, funkce Azure AI Studio, nabízí vizualizovaný graf pro orchestraci spustitelných toků pomocí rozsáhlých jazykových modelů (LLM), výzev a nástrojů Pythonu. Usnadňuje ladění, sdílení a iteraci vašich toků prostřednictvím týmové spolupráce.

Pro týmy ISV, které upřednostňují přístup založený na kódu, sada Azure AI SDK nabízí sadu balíčků pro přístup ke službám Azure AI, včetně nastavení Azure AI Studio projektů a souvisejících prostředků. To umožňuje vývojářům a datovým vědcům spravovat komponenty AI, konfigurovat modely, kanály a služby AI přímo z kódu a zároveň zpřístupnit grafické rozhraní těm, kteří ho preferují.

Vytváření prototypů je v Azure AI Studio snadné prostřednictvím svého testovacího prostředí. Typická cesta pro tým, který pracuje na projektu v Azure AI Studio, by mohla začít tím, že jednotlivec ověřuje nápad v playgroundu. Jakmile se vytvoří atraktivní výsledky, můžou být vyzvány z testovacího prostředí k zobrazení výzvy jako tok s verzí a přizpůsobeným tokem. Teď je artefakt s verzí v projektu AI a širší tým může přispívat tam, kde je tok přístupný prostřednictvím uživatelského rozhraní Azure AI Studio a jenom prostřednictvím kódu. V tomto okamžiku je možné testovat a vyhodnocovat více větví logiky pro různé LLM.

Kromě fáze vývoje poskytuje Azure AI Studio také sadu nástrojů LLMOps, která zajišťuje kompletní promptní přípravu od vývoje až po produkci a průběžnou údržbu.

Azure AI Studio podporuje integraci s Azure AI Search, službou Azure Open AI a dalšími službami Azure AI, což zjednodušuje správu prostředků pro nezávislé výrobce softwaru. Poskytuje také pracovní prostor orientovaný na projekt a podporuje spolupráci na sdílených výpočetních prostředcích, nasazeních modelů a službách.

Scénáře pro výrobce softwaru:

• Zdravotnický výrobce softwaru, který vytváří platformu pro telemedicínu, chce kopírovací objekt, který rozumí lékařskému žargonu, pomáhá lékařům při diagnostice pacientů a poskytuje relevantní doporučení pro léčbu.
• Poskytovatel finančních služeb potřebuje kopírku, která může analyzovat trendy na trhu, odpovídat na dotazy zákazníků ohledně investičních možností a generovat přizpůsobené finanční sestavy.
• E-learningová platforma chce kopírovací objekt, který vyučuje studenty, vysvětluje komplexní koncepty a přizpůsobuje svůj styl výuky na základě individuálních studijních preferencí.
• Pojišťovna zrychluje analýzu dokumentů během pojistného řízení tím, že ověřuje, zda je aktuální nárok kryt smlouvou.
• Airline copilot vám pomůže naplánovat cestu, vyhledat letenky a hotely a rezervovat je, jakmile budete s nabídkou spokojeni.
• Řetězec restaurací vytváří aplikaci copilot, která pomůže novým zaměstnancům dostat se na palubu tím, že je provede celým procesem.
• IsV nabízí svým zákazníkům rozšíření VS Code, které vývojářům pomůže při vytváření integrace s jejich rozhraními API.

Výhoda partnera:

• Přizpůsobení a řízení: Sestavte si zakázkový copilot, který přesně odpovídá požadavkům vaší aplikace.
• Flexibilita scénářů: Vyhovět široké škále scénářů, od kopírek specifických pro doménu až po automatizaci úloh a generování obsahu.
• Integrace se stávajícími systémy: Připojte se k databázím, rozhraním API a dalším službám, abyste vylepšili možnosti vašeho copilotu.
• Identita značky a uživatelské prostředí: Formujte osobnost vašeho copilotu tak, aby odpovídala vašemu hlasu značky, a vylepšujte uživatelské prostředí.
• Prostředí sestavení: Opensourcová a vysoce rozšiřitelná sada SDK a sémantické jádro umožňují vytvářet inteligentní agenty, kteří mohou volat vaše stávající rozhraní API. Se sémantickým jádrem můžete použít stejné modely orchestrace AI, které využívají copiloty Microsoftu v našich vlastních aplikacích.
• Škálovatelnost a nasazení: Nasaďte svůj copilot napříč několika klienty nebo aplikacemi a současně obsluhujte tisíce uživatelů.

Kde začít:

• Co je AI Studio? - Azure AI Studio | Microsoft Learn
• Sestavení a nasazení vlastního copilotu pomocí prompt flow v Azure AI Studio | Microsoft Learn
• Sestavení a nasazení vlastního copilotu pomocí Azure AI CLI a sady SDK | Microsoft Learn

Klíčové poznatky:

• Azure AI Studio nabízí výkonnou platformu pro vytváření vlastních inteligentních asistentů nebo kopírek.
• Nezávislí výrobci softwaru můžou formovat chování, osobnost a schopnosti svého copilotu a vytvářet tak skutečně zakázkové řešení.
• Azure AI Studio podporuje širokou škálu scénářů a bezproblémově se integruje se stávající infrastrukturou.
• Vytvoření vlastního copilotu pomocí Azure AI Studio může zlepšit uživatelské prostředí a poskytnout řešení na míru pro konkrétní případy použití.
• AI Studio poskytuje službu copilot (nebo back-end), která se zobrazí jako jeden škálovaný koncový bod.
• IsV pak má možnost připojit službu k aplikaci, front-endu nebo prostoru konverzace podle svého výběru, včetně některého z předchozích vzorů uvedených výše.
• Nezapomeňte, že tento model můžete kombinovat s ostatními na základě vašich konkrétních potřeb. Tento vzor můžete například chtít spárovat se vzorem A a modulem plug-in do Microsoft Copilotu nebo vzorem F, abyste mohli v Teams zobrazit vlastního robota copilotu.

Vzor H: Sestavení vlastního copilotu se sémantickým jádrem

Sémantické jádro je opensourcová sada SDK, která vývojářům umožňuje vytvářet sofistikované kopírky ve svých aplikacích. Podporuje řadu programovacích jazyků, včetně C#, Javy a Pythonu, takže je přístupný široké komunitě vývojářů. Sémantické jádro umožňuje orchestraci modulů plug-in AI a umožňuje integraci s různými modely AI, včetně modelů Azure OpenAI a Hugging Face.

Sémantické jádro zapouzdřuje podstatu schémat orchestrace AI od Microsoft Copilots a poskytuje vývojářům nástroje pro vytváření agentů a copilotů.

Agenti jsou systémy AI, které můžou odpovídat na otázky a automatizovat procesy pro uživatele. Od jednoduchých chatovacích robotů až po plně automatizované pomocníky AI. Copilots, zvláštní typ agenta, pracují společně s uživateli. Na rozdíl od plně automatizovaných agentů poskytují copiloty návrhy a doporučení, což uživatelům umožňuje zachovat si kontrolu.

Moduly plug-in: Poskytují vašim agentům dovednosti. Můžete vytvářet moduly plug-in pro úlohy, jako je odesílání e-mailů, načítání informací z databází nebo žádost o pomoc.

Plánovači: Agenti používají plánovače ke generování plánů pro dokončení úkolů. Například copilot, který pomáhá uživateli napsat e-mail, by vytvořil plán s postupem, jako je shromáždění podrobností o příjemci a vytvoření e-mailu.

Sada SDK se dodává s rozšířením VS Code, ukázkovou aplikací Chat Copilot , ale také s úvodními sadami, které vám nabídnou generování uživatelského rozhraní, které umožní vaše nápady uvést do života.

Když jste se rozhodli začít pracovat se sémantickým jádrem, doporučujeme definovat několik funkcí, než začnete kódovat:

• Začněte definováním osoby a chování copilotu.
• Vytvořte moduly plug-in pro běžné úkoly, se kterými vám bude váš copilot pomáhat.
• Pomocí plánovačů můžete generovat plány pro akce kopírování.
• Naplánujte důkladné testování, abyste zajistili vylepšené uživatelské prostředí.
• Ujistěte se, že jste schopni shromáždit zpětnou vazbu od uživatelů a implementovat ji do chování agenta nebo copilotu.

Scénáře pro výrobce softwaru:

• Vytváříte copilot, který je součástí vaší vlastní aplikace (nástroj pro vývoj zákazníků nebo systém lidských zdrojů), a chcete, aby lidé zůstali v říši stejného uživatelského rozhraní.
• Potřebujete úplnou kontrolu nad orchestračním modulem, implementací RAG, volbami modelu a parametry modelu.
• Pomocí služby Váš copilot chcete zákazníkům umožnit, aby na základě vašeho řešení vytvořili rozšíření prostřednictvím modulů plug-in.
• Vaše řešení využívá plátna a jiná média než jen text.

Výhoda partnera:

• Úplná kontrola nad chováním při kopírování s přístupem k modulu orchestrace, který microsoft používá k vytváření copilotů první strany.
• Bezproblémově uzemněte modely na vlastních podnikových datech a integrujte strukturovaná, nestrukturovaná data a data v reálném čase pomocí Microsoft Fabric OneLake. To umožňuje vývojářům využívat sofistikované hybridní a sémantické vyhledávání pro aplikace rozšířené generace (RAG).
• Přístup k špičkovým nástrojům pro zpřesnění odpovědí AI pomocí rychlého inženýrství a nástrojů LLMOps, jako je tok výzev.

Kde začít:

• GitHub – microsoft/sémantic-kernel: Rychlá a snadná integrace nejmodernější technologie LLM do vašich aplikací
• Vytváření agentů a copilotů se sémantickým jádrem | Microsoft Learn
• Principy modulů plug-in AI v sémantickém jádru a mimo něj | Microsoft Learn

Klíčové poznatky:

• Sémantické jádro je ověrná opensourcová architektura, která vývojářům pomáhá snadněji zabudovat do svých aplikací funkce GenAI.
• Spravuje ho a vyvíjí Microsoft a používají ho týmy první strany k vytváření řešení Microsoft Copilot.
• Se sadou ukázek můžete snadno začít na cestě GenAI uvnitř vlastního zásobníku aplikací.
• Nezapomeňte, že tento model můžete kombinovat s ostatními na základě vašich konkrétních potřeb. Tento vzor můžete například chtít spárovat se vzorem A a modulem plug-in do Microsoft Copilotu nebo vzorem F, abyste mohli v Teams zobrazit vlastního robota copilotu.

Závěr

Začali jsme se scénáři a získali jsme jeden nebo více vzorů zájmu, které jsme shromáždili do jednoho ze tří přístupů. I když má každý model určitou odchylku, pro každý přístup existují některé společné znaky:

	Přístup 1: Surface vaše data a služby do copilotů Microsoftu	Přístup 2: Vytváření copilotů kdekoli s minimálním kódováním a volitelnou integrací dat Microsoftu	Přístup 3: Úplné řízení: Ucelené prostředí AI (BYO) sestavte si vlastní (BYO)
Úsilí o vývoj	Nízký (žádný/nízký kód)	Střední (minimální kód)	Vysoká (kód Pro)
Zdroje dat	Microsoft Graph (Microsoft/M365 nebo jiné společnosti než Microsoft prostřednictvím konektorů)	Různých. Konektory Power Platform, Microsoft Graph, vaše rozhraní API.	Může zahrnovat více zdrojů dat, služeb a aplikací v rámci nebo mimo tenanta Microsoftu.
Uživatelské rozhraní nebo konverzační plocha	Poskytované rozšířením Copilotu, například Teams, Microsoft 365 atd.	Při používání vlastního přístupu se liší podle přístupu poskytovaného Microsoftem.	Přineste si vlastní. Při použití stejného copilotu je možné více ploch.
Vliv na tón, chování a parametry modelu	Žádná přímá kontrola. Za rozšíření Copilotu zodpovídají parametry modelu.	Některé mají vliv zejména na chování a tón prostřednictvím vlastních instrukcí, které tvoří součást metapromptu. Pomocí knihovny Teams AI můžete řídit parametry modelu.	Přímé řízení parametrů modelu, jako je teplota, systémové výzvy, maximální tokeny atd. Chování vlastního kopírovaného objektu
Podpora více modelů	No	No	Ano Více volání různých modelů v rámci stejného toku
Podpora modelů	Poskytuje systém	Volba modelů OpenAI	Volba libovolného modelu OpenAI a úplného katalogu modelů
Zodpovědná umělá inteligence	Poskytuje systém	Buď poskytuje systém, nebo využítelné možnosti v jednotlivých vzorech.	Odpovědnost výrobce softwaru s možnostmi platforem v jednotlivých vzorech
Podpora historie chatu	Poskytuje systém	Buď poskytuje systém, nebo využítelné možnosti v jednotlivých vzorech.	Odpovědnost výrobce softwaru s možnostmi platforem v jednotlivých vzorech
Příklady scénářů	Uživatelé v Microsoft Copilots můžou provádět akce nebo získávat přehledy z dat a služeb isV.	Představte asistent GenAI ve stávajícím aplikačním prostoru isV, abyste mohli zdůvodnět data zákazníků nebo isv. Prezentujte vlastního copilotu nebo chatbota na existujícím zařízení Microsoftu, jako je Teams, se samostatnou identitou a prostředím pro Microsoft Copilots.	Vaši zákazníci a uživatelé pracují s plně přizpůsobeným kopírovaným kódem vaší značky a chováním, který může vést k více datovým sadám a připojeným systémům z více možností uživatelského rozhraní nebo konverzačních ploch.

Tyto přístupy jsou za účelem zvýšení možností přizpůsobení, což také vyžaduje, aby isV převzít větší odpovědnost prostřednictvím získané kontroly a zvýšil celkové úsilí o vývoj.

Proto důrazně doporučujeme začít s přístupem 1, což může být nejrychlejší způsob uvedení na trh pro vaše počáteční požadavky. Microsoft často vydává nové first party Copilots. Průběžně kontrolujte, jestli by nový Copilot mohl efektivněji řešit potřeby uživatelů tím, že do něj rozšíří vaše data a služby.

Postupně přejděte na přístupy 2 a pak na 3, protože vaše požadavky vás povedou k potřebě větší kontroly a přizpůsobení.

Výjimkou může být, že isv už má existující funkci AI s existujícími prostředky. Například isV, který už má tým GenAI s existujícími procesy AIOps a už má vytvořenou IP adresu například v Pythonu nebo LangChain, se může přirozeně lépe orientovat na Přístup 3.

Posledním klíčovým popisem je, že tento seznam vzorů není vyčerpávající ani se vzájemně vylučující. Připravili jsme zde výběrové vzory, ve kterých vidíme synergie pro nezávislé výrobce softwaru, a je důležité pochopit, že je možné je různými způsoby kombinovat, aby se vytvořilo řešení, které bude dokonale vyhovovat vašim potřebám. Například při práci s přístupem 3 (vzory G nebo H) možná budete potřebovat front-end. V takovém případě můžete použít moduly plug-in (Pattern A) nebo Teams AI Library (Pattern F). Při plánování strategie AI vždy zvažte součinnost mezi různými vzory.