Kom igång med Foundry Local

Foundry Local möjliggör lokal körning av stora språkmodeller (LLM: er) direkt på din Windows enhet, som en del av Microsoft Foundry på Windows. Det här är ett bra alternativ om du vill gå djupare och implementera ett AI-scenario som inte är tillgängligt med Windows AI-API:er.

Logotyper för tekniker som är associerade med Foundry Local

Den här AI-slutsatsdragningslösningen på enheten ger fördelar med sekretess, anpassning och kostnader jämfört med molnbaserade alternativ. Det bästa av allt är att det passar in i dina befintliga arbetsflöden och program med ett lätthanterad CLI och REST API.

Note

Fullständig dokumentation för Foundry Local – inklusive installation, modellhantering, REST API och SDK-referens – finns i dokumentationen Azure AI Foundry. Länken nedan tar dig dit. Använd webbläsarens bakåtknapp eller sökväg för att när som helst återgå till Windows AI-dokument.

Om du inte är säker på om Foundry Local är rätt val för ditt scenario kan du läsa Välj din Windows AI-lösning innan du fortsätter.

Mer information om Foundry Local finns i Foundry Local-dokumentationen.

  • Last updated on