Vysvětlení životního cyklu vývoje velkého jazykového modelu (LLM)

  • 8 min

Než pochopíme, jak pracovat s tokem výzvy, pojďme prozkoumat životní cyklus vývoje aplikace LLM (Large Language Model).

Životní cyklus se skládá z následujících fází:

Diagram of the four stages of the development lifecycle.

  1. Inicializace: Definujte případ použití a navrhujte řešení.
  2. Experimentování: Vývoj toku a testování s malou datovou sadou
  3. Vyhodnocení a upřesnění: Vyhodnocení toku s větší datovou sadou
  4. Produkční prostředí: Nasaďte a monitorujte tok a aplikaci.

Během vyhodnocování i zpřesnění a produkce můžete zjistit, že vaše řešení je potřeba vylepšit. Můžete se vrátit k experimentování, během kterého budete vyvíjet tok nepřetržitě, dokud nebudete s výsledky spokojeni.

Pojďme se podrobněji podívat na každou z těchto fází.

Inicializace

Představte si, že chcete navrhnout a vyvinout aplikaci LLM pro klasifikaci článků o novinkách. Než začnete vytvářet cokoli, musíte definovat, jaké kategorie chcete použít jako výstup. Potřebujete pochopit, jak vypadá typický news article, jak prezentujete článek jako vstup do aplikace a jak aplikace vygeneruje požadovaný výstup.

Jinými slovy, během inicializace :

Diagram of the four steps during initialization.

  1. Definování cíle
  2. Shromáždění ukázkové datové sady
  3. Vytvoření základní výzvy
  4. Návrh toku

K návrhu, vývoji a testování aplikace LLM potřebujete ukázkovou datovou sadu, která slouží jako vstup. Ukázková datová sada je malá reprezentativní podmnožina dat, která nakonec očekáváte jako vstup do vaší aplikace LLM.

Při shromažďováníneboch Z datové sady byste také měli odebrat všechny citlivé informace o ochraně osobních údajů, abyste se vyhnuli ohrožením zabezpečení.

Experimentování

Shromáždili jste ukázkovou datovou sadu novinových článků a rozhodli jste se, do kterých kategorií chcete články klasifikovat. Navrhli jste tok, který jako vstup přebírá článek o novinkách a používá LLM ke klasifikaci článku. Pokud chcete otestovat, jestli tok vygeneruje očekávaný výstup, spustíte ho na ukázkovou datovou sadu.

Diagram of the four steps during experimentation.

Fáze experimentování je iterativní proces, během kterého (1) spustíte tok s ukázkovou datovou sadou. Pak (2) vyhodnotíte výkon výzvy. Pokud jste (3) s výsledkem spokojení, můžete přejít k vyhodnocení a upřesnění. Pokud si myslíte, že je k dispozici prostor pro zlepšení, můžete tok upravit (4) změnou výzvy nebo samotného toku.

Vyhodnocení a upřesnění

Až budete spokojeni s výstupem toku, který klasifikuje články zpráv na základě ukázkové datové sady, můžete vyhodnotit výkon toku oproti větší datové sadě.

Testováním toku u větší datové sady můžete vyhodnotit, jak dobře aplikace LLM generalizuje nová data. Během vyhodnocení můžete identifikovat potenciální kritické body nebo oblasti pro optimalizaci nebo upřesnění.

Když tok upravíte, měli byste ho nejdřív spustit s menší datovou sadou předtím, než ho znovu spustíte s větší datovou sadou. Testování toku s menší datovou sadou vám umožní rychleji reagovat na všechny problémy.

Jakmile se vaše aplikace LLM zdá být robustní a spolehlivá při zpracování různých scénářů, můžete se rozhodnout přesunout aplikaci LLM do produkčního prostředí.

Výroba

Nakonec je vaše aplikace pro klasifikaci příspěvků připravená pro produkční prostředí.

Diagram of the three steps during production.

Během výroby:

  1. Optimalizujte tok, který klasifikuje příchozí články za účelem efektivity a efektivity.
  2. Nasaďte tok do koncového bodu. Při volání koncového bodu se tok aktivuje ke spuštění a vygeneruje se požadovaný výstup.
  3. Sledujte výkon vašeho řešení shromažďováním dat o využití a zpětné vazby koncových uživatelů. Když pochopíte, jak aplikace funguje, můžete tok kdykoliv vylepšit.

Prozkoumání kompletního životního cyklu vývoje

Teď, když rozumíte jednotlivým fázím životního cyklu vývoje aplikace LLM, můžete prozkoumat úplný přehled:

Diagram of all stages including their steps of the development lifecycle.