Použití cloudových modelů AI a funkcí umělé inteligence

Integraci AI do aplikace pro Windows je možné dosáhnout dvěma primárními metodami: místním modelem přes Windows AI Foundry nebo cloudovým modelem. Při určování správné možnosti pro vaše potřeby je potřeba vzít v úvahu několik aspektů.

• Dostupnost prostředků

  • Místní zařízení: Spuštění modelu závisí na používaných prostředcích, včetně procesoru, GPU, NPU, paměti a kapacity úložiště. To může být omezující, pokud zařízení nemá vysoký výpočetní výkon nebo dostatečné úložiště. Malé jazykové modely (SLM), jako je Phi, jsou vhodnější pro místní použití na zařízení. Počítače Copilot+ nabízejí integrované modely, které jsou řízeny Windows AI Foundry s připravenými funkcemi AI.
  • Cloud: Cloudové platformy, jako Azure AI služby, nabízejí škálovatelné prostředky. Můžete použít tolik výpočetního výkonu nebo úložiště, kolik potřebujete, a platit jenom za to, co používáte. Velké jazykové modely (LLM), jako jsou jazykové modely OpenAI, vyžadují více prostředků, ale jsou také výkonnější.

• Ochrana osobních údajů a zabezpečení dat

  • místní zařízení: Vzhledem k tomu, že data zůstávají na zařízení, může mít místní spuštění modelu výhody ohledně zabezpečení a ochrany soukromí, přičemž za zabezpečení dat je zodpovědný uživatel.
  • Cloud: poskytovatelé cloudu nabízejí robustní bezpečnostní opatření, ale data je potřeba přenést do cloudu, což může v některých případech vyžadovat obavy ohledně ochrany osobních údajů dat pro správce obchodních nebo aplikačních služeb.

• Přístupnost a spolupráce

  • místní zařízení: Model a data jsou přístupné jenom na zařízení, pokud ho nesdílíte ručně. To má potenciál, aby spolupráce na modelových datech byla náročnější.
  • Cloud: k modelu a datům je možné přistupovat odkudkoli s připojením k internetu. To může být lepší pro scénáře spolupráce.

• Náklady

  • místní zařízení: Nad rámec počáteční investice do hardwaru zařízení nejsou žádné další náklady.
  • Cloud: Zatímco cloudové platformy pracují s modelem průběžných plateb, náklady se můžou nahromadět na základě použitých prostředků a doby trvání využití.

• údržba a aktualizace

  • místní zařízení: Uživatel zodpovídá za údržbu systému a instalaci aktualizací.
  • Cloud: Údržbu, aktualizace systému a nové aktualizace funkcí zpracovává poskytovatel cloudových služeb a snižuje režijní náklady na údržbu pro uživatele.

Azure AI Foundry pro podniky

Azure AI Foundry poskytuje jednotnou platformu pro podnikové operace AI, tvůrce modelů a vývoj aplikací. Tato nadace kombinuje infrastrukturu na úrovni produkce s přátelskými rozhraními a zajišťuje, aby organizace mohly vytvářet a provozovat aplikace AI s jistotou.

Cloudové AI ukázky

Pokud cloudové řešení funguje lépe pro váš scénář aplikace pro Windows, může vás zajímat některé z níže uvedených kurzů.

Mnoho rozhraní API je k dispozici pro přístup ke cloudovým modelům pro výkon funkcí umělé inteligence ve vaší aplikaci pro Windows bez ohledu na to, jestli jsou tyto modely přizpůsobené nebo připravené k použití. Použití cloudového modelu může vaší aplikaci umožnit, aby zůstala zjednodušená delegováním úloh náročných na prostředky do cloudu. Několik zdrojů informací, které vám pomůžou přidat cloudová rozhraní API založená na umělé inteligenci, která nabízí Microsoft nebo OpenAI, zahrnují:

• Přidání dokončování chatu OpenAI do desktopové aplikace WinUI 3 / Windows App SDK: Kurz integrace cloudových možností dokončování OpenAI ChatGPT do desktopové aplikace WinUI 3 / Windows App SDK.

• Přidání DALL-E do desktopové aplikace WinUI 3 / Windows App SDK: Kurz integrace cloudových možností generování obrázků OpenAI DALL-E do desktopové aplikace WinUI 3 / Windows App SDK.

• Vytvoření aplikace pro doporučení s využitím rozhraní .NET MAUI a chatGPT: Kurz vytvoření ukázkové aplikace doporučení, která integruje cloudové možnosti dokončování ChatGPT openAI do aplikace .NET MAUI.

• přidání DALL-E do desktopové aplikace .NET MAUI pro Windows: Kurz integrace cloudových možností generování imagí OpenAI DALL-E do aplikace .NET MAUI.

• Azure Služba OpenAI: Pokud chcete, aby vaše aplikace pro Windows přistupovala k modelům OpenAI, jako jsou GPT-4, GPT-4 Turbo s vision, GPT-3.5-Turbo, DALLE-3 nebo modelová řada Vkládání, s přidanými možnostmi zabezpečení a podnikových Azurefunkcí , najdete pokyny v této Azure dokumentaci k OpenAI.

• Azure Služby AI: Azure Nabízí celou sadu služeb AI, které jsou dostupné prostřednictvím rozhraní REST API a sad SDK klientských knihoven v oblíbených vývojových jazycích. Další informace najdete v dokumentaci ke každé službě. Tyto služby založené na cloudu pomáhají vývojářům a organizacím rychle vytvářet inteligentní, špičkové, připravené pro trh a zodpovědné aplikace s hotovými a přizpůsobitelnými rozhraními API a modely. Mezi ukázkové aplikace patří zpracování přirozeného jazyka pro konverzace, vyhledávání, monitorování, překlad, řeč, vizi a rozhodování.