Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Operace generování umělé inteligence nebo GenAIOps (někdy označované jako LLMOps) popisují provozní postupy a strategie správy velkých jazykových modelů (LLM) v produkčním prostředí. Tento článek obsahuje pokyny k tomu, jak v GenAIOps přejít na základě aktuální úrovně vyspělosti vaší organizace.
Pomocí níže uvedených popisů najděte úroveň řazení modelu vyspělosti GenAIOps. Tyto úrovně poskytují obecnou znalost a praktickou úroveň aplikace vaší organizace. Pokyny poskytují užitečné odkazy na rozšíření znalostní báze GenAIOps.
Návod
Pomocí posouzení modelů vyspělosti GenAIOps určete aktuální úroveň vyspělosti GenAIOps vaší organizace. Dotazník vám pomůže pochopit aktuální možnosti vaší organizace a identifikovat oblasti pro zlepšení.
Úroveň 1 – počáteční
Návod
Skóre z Hodnocení modelů vyspělosti GenAIOps: počáteční (0–9).
Popis: Vaše organizace je v počáteční základní fázi vyspělosti GenAIOps. Zkoumáte možnosti LLM, ale zatím jste nevyvíjeli strukturované postupy nebo systematické přístupy.
Začněte seznámením s různými rozhraními LLM API a jejich možnostmi. Dále začněte experimentovat s návrhem strukturovaných výzev a základním inženýrstvím výzev. Přečtěte si články Microsoft Learn jako výchozí bod. Když se pustíte do toho, co jste se naučili, zjistěte, jak zavést základní metriky pro vyhodnocení výkonu aplikace LLM.
Navrhované reference pro pokrok úrovně 1
- Katalog modelů Foundry
- Prozkoumání katalogu modelů portálu Microsoft Foundry
- Úvod do přípravy výzvy
- Techniky přípravy výzvy
- System Message Framework
- Zobrazit tok výzvy na portálu Foundry
- Vyhodnocení aplikací GenAI pomocí Foundry
- Metriky vyhodnocení a monitorování GenAI s využitím Foundry
Pokud chcete lépe porozumět GenAIOps, zvažte dostupné kurzy a workshopy Microsoft Learning:
Úroveň 2 – definovaná
Návod
Skóre z Hodnocení modelů vyspělosti GenAIOps: dospívání (10–14).
Popis: Vaše organizace začala systematizovat operace LLM se zaměřením na strukturovaný vývoj a experimentování. Existuje však prostor pro sofistikovanější integraci a optimalizaci.
Pokud chcete zlepšit své schopnosti a dovednosti, naučte se vyvíjet složitější výzvy a efektivně je integrovat do aplikací. Implementujte systematický přístup k nasazení aplikací LLM a možná prozkoumáte integraci CI/CD. Začněte využívat pokročilejší metriky hodnocení, jako je uzemnění, relevance a podobnost. Zaměřte se na bezpečnost obsahu a etické aspekty používání LLM.
Navrhované reference pro pokrok úrovně 2
- V našem podrobném workshopu zvyšte své postupy GenAIOps.
- Prompt Flow v portálu Foundry
- Postup sestavení pomocí toku výzvy
- Nasazení toku jako spravovaného online koncového bodu pro odvozování Real-Time
- Integrace toku výzvy s GenAIOps
- Vyhodnocení GenAI s Foundry
- Metriky vyhodnocení a monitorování GenAI
- Zabezpečení obsahu Azure
- Zodpovědné nástroje a postupy umělé inteligence
Úroveň 3 – spravovaná
Návod
Skóre z Hodnocení modelů vyspělosti GenAIOps: dospívání (15–19).
Popis: Vaše organizace spravuje pokročilé pracovní postupy LLM pomocí proaktivních strategií monitorování a strukturovaného nasazení. Blížíte se dosažení efektivity provozu.
Pokud chcete rozšířit znalostní bázi, zaměřte se na průběžné vylepšování a inovace v aplikacích LLM. Vylepšete své strategie monitorování pomocí prediktivní analýzy a komplexních bezpečnostních opatření obsahu. Zjistěte, jak optimalizovat a vyladit aplikace LLM pro konkrétní požadavky. Posílení strategií správy prostředků prostřednictvím pokročilých možností správy verzí a vrácení zpět
Navrhované reference pro pokrok úrovně 3
- Vyladění s využitím služby Azure ML Learning
- Přizpůsobení modelu s vyladěním
- Monitorování modelů GenAI
- Zvýšení úrovně aplikací LLM do produkčního prostředí pomocí GenAIOps
Úroveň 4 – optimalizovaná
Návod
Skóre z Hodnocení modelů vyspělosti GenAIOps: optimalizované (20–28).
Popis: Vaše organizace demonstruje efektivitu provozu v GenAIOps. Máte sofistikovaný přístup k vývoji, nasazení a monitorování aplikací LLM.
S vývojem LLM si udržujte špičkovou pozici díky tomu, že budete mít přehled o nejnovějších pokroku v llM. Průběžně vyhodnocujte sladění strategií LLM s vyvíjejícími se obchodními cíli. Podpora kultury inovací a průběžného učení v rámci vašeho týmu. Podělte se o své znalosti a osvědčené postupy s širší komunitou, abyste v této oblasti vytvořili myšlenkové vedení.