JavaScript에서 WinML 실행(JS 바인딩)

이 가이드에서는 Windows 앱 SDK ML API용 JS 바인딩(실행 공급자 검색은 ExecutionProviderCatalog, 모델 다운로드는 ModelCatalog 사용)과 추론용 onnxruntime-node를 함께 사용하여 Electron에서 ONNX 모델 추론을 실행하는 방법을 보여 줍니다. C# 추가 기능은 필요하지 않습니다. 유추는 전자 유틸리티 프로세스에서 실행되므로 주 프로세스를 차단하지 않습니다.

사전 요구 사항

이 가이드를 시작하기 전에 다음을 수행했는지 확인합니다.

노드용 ONNX 런타임 설치:

npm install onnxruntime-node@1.24.3

Important

Windows 앱 런타임은 자식 프로세스에 자체 onnxruntime.dll을 미리 로드합니다. onnxruntime-node 버전은 Windows 앱 SDK 버전과 번들로 제공되는 ORT ABI와 일치해야 합니다. Windows 앱 SDK 2.x의 경우 onnxruntime-node@1.24.x를 사용합니다.

1단계: WinML 바인딩 확인

Windows 앱 SDK는 Microsoft.WindowsAppSDK.ML에 전이적으로 종속되므로 WinML API는 이미 생성된 바인딩에 포함되어 있습니다. 확인:

@microsoft/dynwinrt-codegen ≥ 0.1.0-preview.8 필요 — 이전 프로젝트용 대체 방법은 Electron 시작하기를 참조하세요.

node -e "console.log(Object.keys(require('#winapp/bindings')).filter(k => k.startsWith('ExecutionProvider')))"

[ 'ExecutionProvider', 'ExecutionProviderCatalog', 'ExecutionProviderReadyState' ]을 봐야 합니다.

2단계: 모델 카탈로그를 통해 모델 다운로드(기본 프로세스)

JS 바인딩에서 모델을 로컬로 다운로드하고 캐시하는 데 사용합니다 ModelCatalog . 카탈로그는 사용 가능한 모델 및 다운로드 URL을 설명하는 JSON 매니페스트(원격 또는 로컬로 호스트됨)를 읽습니다. 첫 번째 다운로드 후 후속 실행은 캐시된 복사본을 사용합니다.

src/winml-model.js을 만듭니다.

const { ModelCatalog, ModelCatalogSource, Uri } = require('#winapp/bindings');
const fs = require('node:fs');
const path = require('node:path');

// Remote catalog JSON hosted in the WindowsAppSDK-Samples repo
const MODEL_CATALOG_URL =
  'https://raw.githubusercontent.com/microsoft/WindowsAppSDK-Samples/main/Samples/WindowsML/Resources/SqueezeNetModelCatalog.json';

async function downloadModel(modelId, onProgress) {
  const uri = Uri.createUri(MODEL_CATALOG_URL);
  const source = await ModelCatalogSource.createFromUriAsync(uri);
  const catalog = ModelCatalog.createInstance([source]);
  const model = await catalog.findModelAsync(modelId);

  const op = model.getInstanceAsync();
  if (onProgress) {
    op.progress((value) => {
      try { onProgress(value); } catch {}
    });
  }
  const result = await op;

  const instance = result.getInstance();
  if (!instance) return undefined;

  const paths = instance.modelPaths;
  // modelPaths returns directories containing model files
  for (let i = 0; i < paths.size; i++) {
    const dir = paths.getAt(i);
    if (fs.existsSync(dir) && fs.statSync(dir).isDirectory()) {
      const onnx = fs.readdirSync(dir).find((f) => f.endsWith('.onnx'));
      if (onnx) {
        instance.close();
        return path.join(dir, onnx);
      }
    } else if (dir.endsWith('.onnx')) {
      instance.close();
      return dir;
    }
  }
  instance.close();
  return undefined;
}

module.exports = { downloadModel };

3단계: 실행 공급자 검색 및 확인(기본 프로세스)

사용 가능한 공급자(CPU, DirectML, QNN/NPU)를 나열하고 ExecutionProviderCatalog 필요한 경우 해당 런타임을 다운로드하는 데 사용합니다ensureReadyAsync.

src/winml-ep.js을 만듭니다.

const { ExecutionProviderCatalog, ExecutionProviderReadyState, ExecutionProviderReadyResultState } = require('#winapp/bindings');

function listProviders() {
  const catalog = ExecutionProviderCatalog.getDefault();
  return catalog.findAllProviders().map((p) => ({
    name: p.name,
    readyState: p.readyState,
    libraryPath: p.libraryPath,
  }));
}

async function ensureProviderReady(providerName, onProgress) {
  const catalog = ExecutionProviderCatalog.getDefault();
  const providers = catalog.findAllProviders();
  const provider = providers.find((p) => p.name === providerName);
  if (!provider) {
    throw new Error(`Execution provider not found: ${providerName}`);
  }

  if (provider.readyState === ExecutionProviderReadyState.Ready) {
    return { name: provider.name, readyState: 'Ready', libraryPath: provider.libraryPath };
  }

  const op = provider.ensureReadyAsync();
  if (onProgress) {
    op.progress((value) => {
      try { onProgress(value); } catch {}
    });
  }
  const result = await op;
  let readyState;
  if (result.status === ExecutionProviderReadyResultState.Success) readyState = 'Ready';
  else if (result.status === ExecutionProviderReadyResultState.Failure) readyState = 'Failed';
  else readyState = 'InProgress';
  return {
    name: provider.name,
    readyState,
    diagnosticText: result.diagnosticText,
    libraryPath: provider.libraryPath,
  };
}

module.exports = { listProviders, ensureProviderReady };

4단계: 유틸리티 프로세스에서 유추 실행

ONNX 런타임 세션 생성 및 유추가 차단되고 있습니다. 기본 프로세스의 응답성을 유지하기 위해 Electron 유틸리티 프로세스에서 실행합니다.

4.1. 작업자 만들기

만들기 src/winml-worker.js (이 파일은 유틸리티 프로세스에서 실행):

const { roInitialize } = require('@microsoft/dynwinrt');

// When dynwinrt and onnxruntime-node share the same process, ORT's native
// init can leave the COM apartment uninitialized. Explicitly init MTA first.
roInitialize(1);

const ort = require('onnxruntime-node');

async function runModel(modelPath, inputData, inputShape, ep) {
  const providers = ep === 'dml'
    ? [{ name: 'dml', deviceId: 0 }, 'cpu']
    : ['cpu'];

  const session = await ort.InferenceSession.create(modelPath, {
    executionProviders: providers,
    graphOptimizationLevel: 'all',
  });

  const inputName = session.inputNames[0];
  const input = new ort.Tensor('float32', inputData, inputShape);
  const outputs = await session.run({ [inputName]: input });
  return Array.from(outputs[session.outputNames[0]].data);
}

process.parentPort.on('message', async (e) => {
  const { id, method, args } = e.data;
  try {
    if (method === 'classify') {
      const [modelPath, inputData, inputShape, ep] = args;
      const result = await runModel(modelPath, new Float32Array(inputData), inputShape, ep);
      process.parentPort.postMessage({ id, ok: true, result });
    }
  } catch (err) {
    process.parentPort.postMessage({ id, ok: false, error: err.message });
  }
});

4.2. main에서 작업자 시작 및 호출

다음 항목을 src/index.js에 추가합니다.

const { utilityProcess } = require('electron');
const path = require('node:path');
const { listProviders, ensureProviderReady } = require('./winml-ep.js');
const { downloadModel } = require('./winml-model.js');

let worker = null;
let workerReady = null;
const pending = new Map();
let nextId = 1;

function startWinmlWorker() {
  worker = utilityProcess.fork(path.join(__dirname, 'winml-worker.js'), [], {
    stdio: 'pipe',
    serviceName: 'winml-worker',
  });
  worker.on('message', (msg) => {
    const entry = pending.get(msg.id);
    if (!entry) return;
    pending.delete(msg.id);
    if (msg.ok) entry.resolve(msg.result);
    else entry.reject(new Error(msg.error));
  });
  workerReady = new Promise((resolve) => worker.once('spawn', resolve));
}

async function classify(modelPath, inputData, inputShape, ep) {
  if (!worker) startWinmlWorker();
  await workerReady;
  return new Promise((resolve, reject) => {
    const id = nextId++;
    pending.set(id, { resolve, reject });
    worker.postMessage({ id, method: 'classify', args: [modelPath, Array.from(inputData), inputShape, ep] });
  });
}

4.3. 사용하세요

createWindow 함수가 async 상태인지 확인한 다음, 다음을 추가합니다:

const createWindow = async () => {
  // ... existing window creation code ...

  // List and ensure all execution providers are ready
  const providers = listProviders();
  console.log('Available providers:', providers);

  for (const ep of providers) {
    console.log(`Ensuring ${ep.name} is ready...`);
    const result = await ensureProviderReady(ep.name, (progress) => {
      const pct = progress <= 1 ? Math.round(progress * 100) : Math.round(progress);
      process.stdout.write(`\r  ${ep.name}: ${pct}%`);
    });
    process.stdout.write('\n');
    console.log(`  ${ep.name}: ${result.readyState}`);
  }

  // Download model via Model Catalog (cached after first run)
  console.log('Downloading model...');
  const modelPath = await downloadModel('squeezenet', (progress) => {
    if (progress >= 0 && progress <= 100) {
      process.stdout.write(`\rDownloading model: ${Math.round(progress)}%`);
    }
  });
  process.stdout.write('\n');
  console.log('Model path:', modelPath);

  // Run inference in utility process (replace with real preprocessed data)
  const inputData = new Float32Array(1 * 3 * 224 * 224);
  const output = await classify(modelPath, inputData, [1, 3, 224, 224], 'dml');

  console.log('Model output (top 5 values):', output.slice(0, 5));
};

5단계: 실행

npx winapp node add-electron-debug-identity
npm start

콘솔에 사용 가능한 실행 공급자 및 모델 출력이 표시됩니다.

Tip

JS 바인딩(StorageFile, BitmapDecoder, BitmapTransform)을 통해 이미지 디코딩을 사용하는 전체 이미지 분류 파이프라인은 Electron Gallery WinML 샘플을 참조하세요.

다음 단계

축하합니다! JavaScript에서 WinML 실행 공급자 및 ONNX 런타임을 실행하고 있습니다. C# 추가 기능이 필요하지 않습니다. 🎉

이제 다음을 수행할 준비가 되었습니다.

또는 다른 가이드를 살펴보세요.

  • Last updated on