Vyladění základního modelu (zastaralé)

Důležité

Doladění základního modelu je označeno jako zastaralé a bude odstraněno 14. srpna 2026. Stávající běhy jemného doladění budou i nadále fungovat a lze je znovu natrénovat, ale nové instalace balíčku databricks_genai a uživatelského rozhraní pro jemné doladění základního modelu budou po tomto datu zablokovány.

Databricks doporučuje migraci na modul runtime AI, který poskytuje bezserverové prostředí založené na GPU pro trénování a vyladění základních modelů.

Důležité

Tato funkce je ve verzi Public Preview v následujících oblastech: centralus, eastus, eastus2, northcentralusa westus.

S vyladěním základního modelu (nyní součástí trénování modelu Databricks) můžete pomocí vlastních dat přizpůsobit základní model pro optimalizaci jeho výkonu pro vaši konkrétní aplikaci. Provedením jemného ladění nebo pokračováním trénování základního modelu můžete vlastní model trénovat pomocí výrazně menšího množství dat, času a výpočetních prostředků než trénování modelu od začátku.

S Databricks máte všechno v jedné platformě: vaše vlastní data, která můžete použít pro trénování, základní model pro trénování, kontrolní body uložené v MLflow a model zaregistrovaný v katalogu Unity a připravený k nasazení.

Podívejte se na Návod: Vytvoření a nasazení běhu jemného ladění základního modelu (zastaralé), kde se dozvíte, jak vytvořit běh pomocí API pro jemné ladění základního modelu a potom zkontrolovat výsledky a nasadit model pomocí uživatelského rozhraní Databricks a Model Serving.

Co je vyladění základního modelu?

Vyladění základního modelu umožňuje použít rozhraní Databricks API nebo uživatelské rozhraní k ladění nebo dalšímu trénování základního modelu.

Pomocí vyladění základního modelu můžete:

• Trénování modelu s vlastními daty s kontrolními body uloženými v MLflow Zachováte úplnou kontrolu nad natrénovaným modelem.
• Automaticky zaregistrujte model v katalogu Unity, což umožňuje snadné nasazení pomocí služby poskytování modelů.
• Další trénování dokončeného, proprietárního modelu načtením hmotností dříve natrénovaného modelu.

Databricks doporučuje vyzkoušet vyladění základního modelu, pokud:

• Vyzkoušeli jste few-shot učení a chcete lepší výsledky.
• Vyzkoušeli jste práci s návrhy na existujícím modelu a chcete dosáhnout lepších výsledků.
• Chcete mít úplné vlastnictví vlastního modelu pro ochranu osobních údajů.
• Citlivá na latenci nebo náklady a chcete použít menší a levnější model s daty specifickými pro konkrétní úlohy.

Podporované úlohy

Vyladění základního modelu podporuje následující případy použití:

• Dokončení chatu: Doporučený úkol. Vytrénujte model na protokolech chatu mezi uživatelem a asistentem AI. Tento formát lze použít jak pro skutečné protokoly chatu, tak jako standardní formát pro odpovědi na otázky a konverzační text. Text se automaticky naformátuje do příslušného formátu pro konkrétní model. Další informace o šablonách chatu najdete v ukázkových šablonách v dokumentaci HuggingFace.
• Ladění instrukcí: Trénujte model na strukturovaných datech typu výzva-odezva. Pomocí tohoto postupu můžete model přizpůsobit novému úkolu, změnit jeho styl odpovědi nebo přidat možnosti pro následující instrukce. Tato úloha automaticky nepoužije žádné formátování dat a doporučuje se pouze v případě, že je požadováno vlastní formátování dat.
• Pokračování předběžného trénování: Trénování modelu s dalšími textovými daty Tento postup slouží k přidání nových znalostí do modelu nebo zaměření modelu na konkrétní doménu.

Požadavky

• Pracovní prostor Databricks v jedné z následujících oblastí Azure: centralus, eastus, eastus2, northcentralus, nebo westus.
• Rozhraní API pro jemné ladění základního modelu nainstalované pomocí pip install databricks_genai.
• Databricks Runtime 12.2 LTS ML nebo vyšší, pokud jsou vaše data v tabulce Delta.

Informace o požadovaných formátech vstupních dat najdete v tématu Příprava dat pro jemné ladění základního modelu (zastaralé).

Doporučená velikost dat pro trénování modelu

Databricks doporučuje počáteční trénink s využitím jednoho až čtyř epoch. Po vyhodnocení vašeho doladěného modelu, pokud chcete, aby jeho výstupy více odpovídaly vašim trénovacím datům, můžete pokračovat v trénování s použitím jedné až dvou dalších epizod.

Pokud se výkon modelu výrazně sníží u úloh, které nejsou reprezentované ve vašich jemně vyladěných datech, nebo pokud se zdá, že model zobrazuje výstup přesných kopií dat jemného ladění, doporučuje Databricks snížit počet epoch trénování.

Pro vyladění instrukcí a dokončování chatu byste měli poskytnout dostatek tokenů pro alespoň jednu úplnou délku kontextu modelu. Například 131072 tokeny pro meta-llama/Llama-3.2-3B-Instruct.

Pro pokračování předběžného trénování doporučuje Databricks minimálně 1,5 milionu tokenů, aby získal model vyšší kvality, který se učí vaše vlastní data.

Podporované modely

Následující tabulka uvádí podporované modely. Viz licence modelu pro informace o příslušné licenci modelu a zásadách přijatelného použití.

Aby bylo možné pokračovat v podpoře většiny nejmodernějších modelů, může Databricks aktualizovat podporované modely nebo vyřadit starší modely.

Vzor	Maximální délka kontextu	Poznámky
meta-llama/Llama-3.3-70B-Instruct	131072
meta-llama/Llama-3.2-1B	131072
meta-llama/Llama-3.2-1B-Instruct	131072
meta-llama/Llama-3.2-3B	131072
meta-llama/Llama-3.2-3B-Instruct	131072
meta-llama/Meta-Llama-3.1-70B	131072
meta-llama/Meta-Llama-3.1-70B-Instruct	131072
meta-llama/Meta-Llama-3.1-8B	131072
meta-llama/Meta-Llama-3.1-8B-Instruct	131072

licence modelu

Následující tabulka obsahuje příslušné informace o licencích modelu a přijatelných zásadách použití pro podporované rodiny modelů.

Modelová rodina	Zásady licencování a přijatelného použití
Meta Llama 3.2	Meta Llama 3.2 je licencovaný v rámci licence LLAMA 3.2 Community License, Copyright © Meta Platforms, Inc. Všechna práva vyhrazena. Zákazníci zodpovídají za zajištění souladu s podmínkami této licence a zásadami přijatelného použití Llama 3.2.
Meta Llama 3.1	Meta Llama 3.1 je licencovaný pod licencí LLAMA 3.1 Community License, Copyright © Meta Platforms, Inc. Všechna práva vyhrazena. Zákazníci jsou zodpovědní za zajištění souladu s modelovými licencemi.

Použití jemného ladění základního modelu

Vyladění základního databricks_genai modelu je přístupné pomocí sady SDK. Následující příklad vytvoří a spustí trénovací běh, který používá data ze svazků katalogu Unity. Podrobnosti o konfiguraci najdete v článku Vytvoření tréninku pomocí rozhraní API pro dolaďování základního modelu (zastaralé).

from databricks.model_training import foundation_model as fm

model = 'meta-llama/Meta-Llama-3.1-8B-Instruct'
# UC Volume with JSONL formatted data
train_data_path = 'dbfs:/Volumes/main/mydirectory/ift/train.jsonl'
register_to = 'main.mydirectory'
run = fm.create(
  model=model,
  train_data_path=train_data_path,
  register_to=register_to,
)

Podívejte se na ukázkový poznámkový blok pro jemné ladění instrukcí: rozpoznávání pojmenovaných entit pro příklad jemného ladění instrukcí, který vás provede přípravou dat, vyladěním konfigurace tréninku a nasazením běhu.

Omezení

• Velké datové sady (10B+ tokeny) nejsou podporované kvůli dostupnosti výpočetních prostředků.
• Pro pokračování předběžného trénování jsou úlohy omezené na 60 až 256 MB souborů. Soubory větší než 1 GB můžou způsobit delší dobu zpracování.
• Databricks se snaží zpřístupnit nejmodernější a nejnovější modely pro přizpůsobení pomocí jemného ladění základních modelů. Jakmile budou nové modely dostupné, může se odebrat přístup ke starším modelům z rozhraní API nebo uživatelského rozhraní, starší modely můžou být zastaralé nebo se aktualizují podporované modely. Viz Zásady údržby modelů generování AI.

• Pokud chcete s pracovním prostorem Databricks, který má povolenu službu Azure Private Link, použít doladění modelu základny, musí být pracovní prostor v oblasti eastus2.
• Pokud máte v úložišti nastavenou službu Private Link, databricks doporučuje používat tabulky katalogu Unity.
• Pokud máte v účtu Azure Data Lake Storage povolené brány firewall, které ukládají vaše data v katalogu Unity, musíte povolit provoz z clusterů bezserverové roviny dat Databricks, abyste mohli používat jemné ladění základního modelu. Spojte se s týmem účtů Databricks, kde najdete další informace a možná vlastní řešení.