Wybieranie rozwiązania sztucznej inteligencji Windows

Krajobraz sztucznej inteligencji Windows szybko się rozwinął, a terminologia może być trudna do nawigowania. Na tej stronie wszystko staje się jasne: znajdź swój scenariusz, wybierz punkt startowy.

Opcje

  • Ready-to-use AI models and APIs — Modele dystrybuowane i zarządzane przez Microsoft; minimalny kod, brak wymaganej wiedzy dotyczącej uczenia maszynowego.
    • Windows AI APIs — LLM (Phi Silica), modele obrazowania, OCR, wyszukiwanie semantyczne i inne. Większość interfejsów API wymaga Copilot+ komputera; niektóre (Phi Silicana procesorze GPU, rozpoznawaniu mowy, super rozdzielczości wideo) działają również na innym sprzęcie Windows 11 — zobacz obsługiwaną tabelę sprzętową.
    • Foundry Local — 20+ modele LLM open source i modele rozpoznawania mowy za pośrednictwem interfejsu API kompatybilnego z OpenAI. Dowolny sprzęt Windows.
  • Uruchom dowolny model lokalnie — użyj własnego modelu ONNX z pełną kontrolą nad potokiem wnioskowania.
    • Windows ML — wnioskowanie przyspieszane sprzętowo na procesorze CPU, procesorze GPU lub procesorze NPU. Dowolny sprzęt Windows.
  • Inne
    • Microsoft Foundry — modele granic hostowane w chmurze (GPT-4o, DALL-E itp.) za pośrednictwem interfejsu API REST. Połącz z funkcją Foundry Local do użycia w trybie awaryjnym na urządzeniu/chmurze.

Dekoder terminologii

Przestrzeń sztucznej inteligencji Windows przeszła szybką zmianę marki. Oto tabela tłumaczenia terminów, które mogą wystąpić:

Termin, który widziałeś Co to znaczy teraz
interfejsy API środowiska uruchomieniowego Copilot Stara nazwa (2024) dla Windows AI APIs. Ta sama funkcja, zmieniono nazwę.
środowisko uruchomieniowe Windows Copilot Stary termin parasolowy (2024) dla funkcji sztucznej inteligencji o nazwie Microsoft Foundry on Windows.
Windows odnajdywanie sztucznej inteligencji Stary termin parasolowy (2025) dla funkcji sztucznej inteligencji teraz nazywanej Microsoft Foundry on Windows.
Microsoft Foundry on Windows Bieżąca marka parasolowa obejmująca Windows AI APIs + Foundry Local + Windows ML.
Microsoft Foundry Platforma sztucznej inteligencji Microsoft oparta na chmurze. Inny produkt, inny zespół, podobna nazwa.
Phi Silica Konkretny model Phi zoptymalizowany pod kątem i wbudowany w Windows na Copilot+ komputerach (NPU). Dostępne również na komputerach innych niżCopilot+ z obsługiwanym procesorem GPU FIRMY NVIDIA lub AMD. Dostęp za pośrednictwem Windows AI APIs.
Phi (ogólne) rodzina małych modeli językowych Microsoft. Phi-4-mini itd. są dostępne w Azure AI oraz poprzez Foundry Local. Phi Silicajest wersją skrzynki odbiorczej Windows zoptymalizowaną pod kątem jednostek NPU i obsługiwanych procesorów GPU.
Windows ML (stary) Przestarzałe (legacy) API wnioskowania WinRT, dostarczane w standardzie od Windows 10 1809. Nadal działa; brak nowych inwestycji.
Windows ML (nowy) Nowy pakiet NuGet oparty na środowisku uruchomieniowym ONNX. Aktualne i aktywnie opracowywane.
DirectML Nie są już aktywnie opracowywane (w trwałej inżynierii). Interfejs API uczenia maszynowego DirectX 12 niskiego poziomu na potrzeby przyspieszania procesora GPU/procesora NPU.
Windows ML dostawcy wykonywania specyficznego dla IHV Zastąpienie narzędzia DirectML, osiąganie wyższej wydajności dzięki natywnej pracy ze sprzętem Windows.
Copilot+ KOMPUTER Kategoria komputerów zdefiniowana przez sprzęt: NPU z ponad 40 TOPS, 16 GB lub więcej pamięci RAM, specyficzne SoC. Wymagana dla większości Windows AI APIs; coraz większa liczba interfejsów API (Phi Silicana procesorach GPU, rozpoznawaniu mowy, super rozdzielczości wideo) jest również uruchamiana na komputerachCopilot+ innych niż Windows 11. Nie jest wymagane dla Foundry Local programu lub Windows ML.
NPU Jednostka przetwarzania neuronowego — dedykowany sprzęt przyspieszania sztucznej inteligencji w komputerach Copilot+. Copilot+ Na komputerze Windows AI APIs automatycznie kieruj wnioskowanie za pośrednictwem jednostki NPU. Niektóre interfejsy API obsługują również uruchamianie na procesorze GPU lub procesorze CPU na urządzeniach innychCopilot+ niż.

Łączenie opcji w tej samej aplikacji

Te opcje nie wykluczają się wzajemnie. Typowy wzorzec dla odpornej funkcji sztucznej inteligencji powraca w trzech warstwach: najpierw spróbuj Windows AI APIs uzyskać najszybsze, najbardziej zoptymalizowane środowisko na obsługiwanym sprzęcie; jeśli jest niedostępne, wróć do Foundry Local uruchomienia modelu open source na dowolnym sprzęcie Windows; a jeśli jest to również niedostępne, wróć do Azure sztucznej inteligencji w chmurze. W poniższym przykładzie pokazano ten wzorzec:

// 1. Try Windows AI APIs (Copilot+ PC, or supported GPU/CPU for some APIs)
using Microsoft.Windows.AI;
using Microsoft.Windows.AI.Text;

var readyState = LanguageModel.GetReadyState();
if (readyState == AIFeatureReadyState.NotReady)
{
    var deploymentResult = await LanguageModel.EnsureReadyAsync();
    if (deploymentResult.Status == AIFeatureReadyResultState.Success)
    {
        readyState = LanguageModel.GetReadyState();
    }
    else
    {
        // Optional: inspect deploymentResult.ExtendedError for diagnostics.
        // Treat as unavailable so we fall through to Foundry/Azure.
        readyState = AIFeatureReadyState.NotSupportedOnCurrentSystem;
    }
}

if (readyState == AIFeatureReadyState.Ready)
{
    // Use Phi Silica via Windows AI APIs
    using LanguageModel languageModel = await LanguageModel.CreateAsync();
}
// 2. Fall back to Foundry Local (any hardware)
else if (await foundryClient.IsModelAvailableAsync("phi-4-mini"))
{
    // Use Foundry Local OpenAI-compatible API
}
// 3. Fall back to Azure AI (always available)
else
{
    // Use Azure OpenAI
}

Ten wzorzec zapewnia użytkownikom Copilot+ najlepsze doświadczenie przy zachowaniu funkcji działającej na całym sprzęcie.

Nadal nie masz pewności?

  • Last updated on