Compartilhar via


OnnxCatalog.ApplyOnnxModel Método

Definição

Sobrecargas

ApplyOnnxModel(TransformsCatalog, OnnxOptions)

Criar um OnnxScoringEstimator usando o especificado OnnxOptions. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à coluna de entrada. As colunas de entrada/saída são determinadas com base nas colunas de entrada/saída do modelo ONNX fornecido. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à coluna de entrada. As colunas de entrada/saída são determinadas com base nas colunas de entrada/saída do modelo ONNX fornecido. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String, String, String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à inputColumnName coluna. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String[], String[], String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado às inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String, String, String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à inputColumnName coluna. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String[], String[], String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado às inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, String[], String[], String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean, Int32)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado às inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

ApplyOnnxModel(TransformsCatalog, OnnxOptions)

Criar um OnnxScoringEstimator usando o especificado OnnxOptions. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, Microsoft.ML.Transforms.Onnx.OnnxOptions options);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * Microsoft.ML.Transforms.Onnx.OnnxOptions -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, options As OnnxOptions) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

options
OnnxOptions

Opções para o OnnxScoringEstimator.

Retornos

Comentários

Se as opções forem. O valor de GpuDeviceId é null que o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à coluna de entrada. As colunas de entrada/saída são determinadas com base nas colunas de entrada/saída do modelo ONNX fornecido. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string modelFile, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, modelFile As String, Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

gpuDeviceId
Nullable<Int32>

ID do dispositivo GPU opcional para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Exemplos

using System;
using System.IO;
using System.Linq;
using Microsoft.ML;
using Microsoft.ML.Data;

namespace Samples.Dynamic
{
    public static class ApplyOnnxModel
    {
        public static void Example()
        {
            // Download the squeeznet image model from ONNX model zoo, version 1.2
            // https://github.com/onnx/models/tree/master/squeezenet or
            // https://s3.amazonaws.com/download.onnx/models/opset_8/squeezenet.tar.gz
            // or use Microsoft.ML.Onnx.TestModels nuget.
            var modelPath = @"squeezenet\00000001\model.onnx";

            // Create ML pipeline to score the data using OnnxScoringEstimator
            var mlContext = new MLContext();

            // Generate sample test data.
            var samples = GetTensorData();
            // Convert training data to IDataView, the general data type used in
            // ML.NET.
            var data = mlContext.Data.LoadFromEnumerable(samples);
            // Create the pipeline to score using provided onnx model.
            var pipeline = mlContext.Transforms.ApplyOnnxModel(modelPath);
            // Fit the pipeline and get the transformed values
            var transformedValues = pipeline.Fit(data).Transform(data);
            // Retrieve model scores into Prediction class
            var predictions = mlContext.Data.CreateEnumerable<Prediction>(
                transformedValues, reuseRowObject: false);

            // Iterate rows
            foreach (var prediction in predictions)
            {
                int numClasses = 0;
                foreach (var classScore in prediction.softmaxout_1.Take(3))
                {
                    Console.WriteLine("Class #" + numClasses++ + " score = " +
                        classScore);
                }
                Console.WriteLine(new string('-', 10));
            }

            // Results look like below...
            // Class #0 score = 4.544065E-05
            // Class #1 score = 0.003845858
            // Class #2 score = 0.0001249467
            // ----------
            // Class #0 score = 4.491953E-05
            // Class #1 score = 0.003848222
            // Class #2 score = 0.0001245592
            // ----------
        }

        // inputSize is the overall dimensions of the model input tensor.
        private const int inputSize = 224 * 224 * 3;

        // A class to hold sample tensor data. Member name should match
        // the inputs that the model expects (in this case, data_0)
        public class TensorData
        {
            [VectorType(inputSize)]
            public float[] data_0 { get; set; }
        }

        // Method to generate sample test data. Returns 2 sample rows.
        public static TensorData[] GetTensorData()
        {
            // This can be any numerical data. Assume image pixel values.
            var image1 = Enumerable.Range(0, inputSize).Select(x => (float)x /
                inputSize).ToArray();

            var image2 = Enumerable.Range(0, inputSize).Select(x => (float)(x +
                10000) / inputSize).ToArray();

            return new TensorData[] { new TensorData() { data_0 = image1 }, new
                TensorData() { data_0 = image2 } };
        }

        // Class to contain the output values from the transformation.
        // This model generates a vector of 1000 floats.
        class Prediction
        {
            [VectorType(1000)]
            public float[] softmaxout_1 { get; set; }
        }
    }
}

Comentários

O nome/tipo de colunas de entrada deve corresponder exatamente ao nome/tipo das entradas do modelo ONNX. O nome/tipo das colunas de saída produzidas corresponderá ao nome/tipo das saídas do modelo ONNX. Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à coluna de entrada. As colunas de entrada/saída são determinadas com base nas colunas de entrada/saída do modelo ONNX fornecido. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string modelFile, System.Collections.Generic.IDictionary<string,int[]> shapeDictionary, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string * System.Collections.Generic.IDictionary<string, int[]> * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, modelFile As String, shapeDictionary As IDictionary(Of String, Integer()), Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

shapeDictionary
IDictionary<String,Int32[]>

Formas ONNX a serem usadas sobre as carregadas de modelFile. Para chaves, use nomes conforme indicado no modelo ONNX, por exemplo, "entrada". Declarar as formas com esse parâmetro é particularmente útil para trabalhar com entradas e saídas de dimensão variável.

gpuDeviceId
Nullable<Int32>

ID do dispositivo GPU opcional para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Exemplos

using System;
using System.IO;
using System.Linq;
using Microsoft.ML;
using Microsoft.ML.Data;

namespace Samples.Dynamic
{
    public static class ApplyOnnxModel
    {
        public static void Example()
        {
            // Download the squeeznet image model from ONNX model zoo, version 1.2
            // https://github.com/onnx/models/tree/master/squeezenet or
            // https://s3.amazonaws.com/download.onnx/models/opset_8/squeezenet.tar.gz
            // or use Microsoft.ML.Onnx.TestModels nuget.
            var modelPath = @"squeezenet\00000001\model.onnx";

            // Create ML pipeline to score the data using OnnxScoringEstimator
            var mlContext = new MLContext();

            // Generate sample test data.
            var samples = GetTensorData();
            // Convert training data to IDataView, the general data type used in
            // ML.NET.
            var data = mlContext.Data.LoadFromEnumerable(samples);
            // Create the pipeline to score using provided onnx model.
            var pipeline = mlContext.Transforms.ApplyOnnxModel(modelPath);
            // Fit the pipeline and get the transformed values
            var transformedValues = pipeline.Fit(data).Transform(data);
            // Retrieve model scores into Prediction class
            var predictions = mlContext.Data.CreateEnumerable<Prediction>(
                transformedValues, reuseRowObject: false);

            // Iterate rows
            foreach (var prediction in predictions)
            {
                int numClasses = 0;
                foreach (var classScore in prediction.softmaxout_1.Take(3))
                {
                    Console.WriteLine("Class #" + numClasses++ + " score = " +
                        classScore);
                }
                Console.WriteLine(new string('-', 10));
            }

            // Results look like below...
            // Class #0 score = 4.544065E-05
            // Class #1 score = 0.003845858
            // Class #2 score = 0.0001249467
            // ----------
            // Class #0 score = 4.491953E-05
            // Class #1 score = 0.003848222
            // Class #2 score = 0.0001245592
            // ----------
        }

        // inputSize is the overall dimensions of the model input tensor.
        private const int inputSize = 224 * 224 * 3;

        // A class to hold sample tensor data. Member name should match
        // the inputs that the model expects (in this case, data_0)
        public class TensorData
        {
            [VectorType(inputSize)]
            public float[] data_0 { get; set; }
        }

        // Method to generate sample test data. Returns 2 sample rows.
        public static TensorData[] GetTensorData()
        {
            // This can be any numerical data. Assume image pixel values.
            var image1 = Enumerable.Range(0, inputSize).Select(x => (float)x /
                inputSize).ToArray();

            var image2 = Enumerable.Range(0, inputSize).Select(x => (float)(x +
                10000) / inputSize).ToArray();

            return new TensorData[] { new TensorData() { data_0 = image1 }, new
                TensorData() { data_0 = image2 } };
        }

        // Class to contain the output values from the transformation.
        // This model generates a vector of 1000 floats.
        class Prediction
        {
            [VectorType(1000)]
            public float[] softmaxout_1 { get; set; }
        }
    }
}

Comentários

O nome/tipo de colunas de entrada deve corresponder exatamente ao nome/tipo das entradas do modelo ONNX. O nome/tipo das colunas de saída produzidas corresponderá ao nome/tipo das saídas do modelo ONNX. Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String, String, String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à inputColumnName coluna. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string outputColumnName, string inputColumnName, string modelFile, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string * string * string * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, outputColumnName As String, inputColumnName As String, modelFile As String, Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

outputColumnName
String

A coluna de saída resultante da transformação.

inputColumnName
String

A coluna de entrada.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

gpuDeviceId
Nullable<Int32>

ID do dispositivo GPU opcional para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Exemplos

using System;
using System.Linq;
using Microsoft.ML;
using Microsoft.ML.Data;
using Microsoft.ML.Transforms.Image;

namespace Samples.Dynamic
{
    public static class ApplyOnnxModelWithInMemoryImages
    {
        // Example of applying ONNX transform on in-memory images.
        public static void Example()
        {
            // Download the squeeznet image model from ONNX model zoo, version 1.2
            // https://github.com/onnx/models/tree/master/vision/classification/squeezenet or use
            // Microsoft.ML.Onnx.TestModels nuget.
            // It's a multiclass classifier. It consumes an input "data_0" and
            // produces an output "softmaxout_1".
            var modelPath = @"squeezenet\00000001\model.onnx";

            // Create ML pipeline to score the data using OnnxScoringEstimator
            var mlContext = new MLContext();

            // Create in-memory data points. Its Image/Scores field is the
            // input /output of the used ONNX model.
            var dataPoints = new ImageDataPoint[]
            {
                new ImageDataPoint(red: 255, green: 0, blue: 0), // Red color
                new ImageDataPoint(red: 0, green: 128, blue: 0)  // Green color
            };

            // Convert training data to IDataView, the general data type used in
            // ML.NET.
            var dataView = mlContext.Data.LoadFromEnumerable(dataPoints);

            // Create a ML.NET pipeline which contains two steps. First,
            // ExtractPixle is used to convert the 224x224 image to a 3x224x224
            // float tensor. Then the float tensor is fed into a ONNX model with an
            // input called "data_0" and an output called "softmaxout_1". Note that
            // "data_0" and "softmaxout_1" are model input and output names stored
            // in the used ONNX model file. Users may need to inspect their own
            // models to get the right input and output column names.
            // Map column "Image" to column "data_0"
            // Map column "data_0" to column "softmaxout_1"
            var pipeline = mlContext.Transforms.ExtractPixels("data_0", "Image")
                .Append(mlContext.Transforms.ApplyOnnxModel("softmaxout_1",
                "data_0", modelPath));

            var model = pipeline.Fit(dataView);
            var onnx = model.Transform(dataView);

            // Convert IDataView back to IEnumerable<ImageDataPoint> so that user
            // can inspect the output, column "softmaxout_1", of the ONNX transform.
            // Note that Column "softmaxout_1" would be stored in ImageDataPont
            //.Scores because the added attributed [ColumnName("softmaxout_1")]
            // tells that ImageDataPont.Scores is equivalent to column
            // "softmaxout_1".
            var transformedDataPoints = mlContext.Data.CreateEnumerable<
                ImageDataPoint>(onnx, false).ToList();

            // The scores are probabilities of all possible classes, so they should
            // all be positive.
            foreach (var dataPoint in transformedDataPoints)
            {
                var firstClassProb = dataPoint.Scores.First();
                var lastClassProb = dataPoint.Scores.Last();
                Console.WriteLine("The probability of being the first class is " +
                    (firstClassProb * 100) + "%.");

                Console.WriteLine($"The probability of being the last class is " +
                    (lastClassProb * 100) + "%.");
            }

            // Expected output:
            //  The probability of being the first class is 0.002542659%.
            //  The probability of being the last class is 0.0292684%.
            //  The probability of being the first class is 0.02258059%.
            //  The probability of being the last class is 0.394428%.
        }

        // This class is used in Example() to describe data points which will be
        // consumed by ML.NET pipeline.
        private class ImageDataPoint
        {
            // Height of Image.
            private const int height = 224;

            // Width of Image.
            private const int width = 224;

            // Image will be consumed by ONNX image multiclass classification model.
            [ImageType(height, width)]
            public MLImage Image { get; set; }

            // Expected output of ONNX model. It contains probabilities of all
            // classes. Note that the ColumnName below should match the output name
            // in the used ONNX model file.
            [ColumnName("softmaxout_1")]
            public float[] Scores { get; set; }

            public ImageDataPoint()
            {
                Image = null;
            }

            public ImageDataPoint(byte red, byte green, byte blue)
            {
                byte[] imageData = new byte[width * height * 4]; // 4 for the red, green, blue and alpha colors
                for (int i = 0; i < imageData.Length; i += 4)
                {
                    // Fill the buffer with the Bgra32 format
                    imageData[i] = blue;
                    imageData[i + 1] = green;
                    imageData[i + 2] = red;
                    imageData[i + 3] = 255;
                }

                Image = MLImage.CreateFromPixels(width, height, MLPixelFormat.Bgra32, imageData);
            }
        }
    }
}

Comentários

Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String[], String[], String, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado às inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string[] outputColumnNames, string[] inputColumnNames, string modelFile, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string[] * string[] * string * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, outputColumnNames As String(), inputColumnNames As String(), modelFile As String, Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

outputColumnNames
String[]

As colunas de saída resultantes da transformação.

inputColumnNames
String[]

As colunas de entrada.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

gpuDeviceId
Nullable<Int32>

ID do dispositivo GPU opcional para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Comentários

Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String, String, String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie uma OnnxScoringEstimator, que aplica um modelo Onnx pré-treinado à inputColumnName coluna. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string outputColumnName, string inputColumnName, string modelFile, System.Collections.Generic.IDictionary<string,int[]> shapeDictionary, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string * string * string * System.Collections.Generic.IDictionary<string, int[]> * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, outputColumnName As String, inputColumnName As String, modelFile As String, shapeDictionary As IDictionary(Of String, Integer()), Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

outputColumnName
String

A coluna de saída resultante da transformação.

inputColumnName
String

A coluna de entrada.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

shapeDictionary
IDictionary<String,Int32[]>

Formas ONNX a serem usadas sobre as carregadas de modelFile. Para chaves, use nomes conforme indicado no modelo ONNX, por exemplo, "entrada". Declarar as formas com esse parâmetro é particularmente útil para trabalhar com entradas e saídas de dimensão variável.

gpuDeviceId
Nullable<Int32>

ID do dispositivo GPU opcional para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Exemplos

using System;
using System.Linq;
using Microsoft.ML;
using Microsoft.ML.Data;
using Microsoft.ML.Transforms.Image;

namespace Samples.Dynamic
{
    public static class ApplyOnnxModelWithInMemoryImages
    {
        // Example of applying ONNX transform on in-memory images.
        public static void Example()
        {
            // Download the squeeznet image model from ONNX model zoo, version 1.2
            // https://github.com/onnx/models/tree/master/vision/classification/squeezenet or use
            // Microsoft.ML.Onnx.TestModels nuget.
            // It's a multiclass classifier. It consumes an input "data_0" and
            // produces an output "softmaxout_1".
            var modelPath = @"squeezenet\00000001\model.onnx";

            // Create ML pipeline to score the data using OnnxScoringEstimator
            var mlContext = new MLContext();

            // Create in-memory data points. Its Image/Scores field is the
            // input /output of the used ONNX model.
            var dataPoints = new ImageDataPoint[]
            {
                new ImageDataPoint(red: 255, green: 0, blue: 0), // Red color
                new ImageDataPoint(red: 0, green: 128, blue: 0)  // Green color
            };

            // Convert training data to IDataView, the general data type used in
            // ML.NET.
            var dataView = mlContext.Data.LoadFromEnumerable(dataPoints);

            // Create a ML.NET pipeline which contains two steps. First,
            // ExtractPixle is used to convert the 224x224 image to a 3x224x224
            // float tensor. Then the float tensor is fed into a ONNX model with an
            // input called "data_0" and an output called "softmaxout_1". Note that
            // "data_0" and "softmaxout_1" are model input and output names stored
            // in the used ONNX model file. Users may need to inspect their own
            // models to get the right input and output column names.
            // Map column "Image" to column "data_0"
            // Map column "data_0" to column "softmaxout_1"
            var pipeline = mlContext.Transforms.ExtractPixels("data_0", "Image")
                .Append(mlContext.Transforms.ApplyOnnxModel("softmaxout_1",
                "data_0", modelPath));

            var model = pipeline.Fit(dataView);
            var onnx = model.Transform(dataView);

            // Convert IDataView back to IEnumerable<ImageDataPoint> so that user
            // can inspect the output, column "softmaxout_1", of the ONNX transform.
            // Note that Column "softmaxout_1" would be stored in ImageDataPont
            //.Scores because the added attributed [ColumnName("softmaxout_1")]
            // tells that ImageDataPont.Scores is equivalent to column
            // "softmaxout_1".
            var transformedDataPoints = mlContext.Data.CreateEnumerable<
                ImageDataPoint>(onnx, false).ToList();

            // The scores are probabilities of all possible classes, so they should
            // all be positive.
            foreach (var dataPoint in transformedDataPoints)
            {
                var firstClassProb = dataPoint.Scores.First();
                var lastClassProb = dataPoint.Scores.Last();
                Console.WriteLine("The probability of being the first class is " +
                    (firstClassProb * 100) + "%.");

                Console.WriteLine($"The probability of being the last class is " +
                    (lastClassProb * 100) + "%.");
            }

            // Expected output:
            //  The probability of being the first class is 0.002542659%.
            //  The probability of being the last class is 0.0292684%.
            //  The probability of being the first class is 0.02258059%.
            //  The probability of being the last class is 0.394428%.
        }

        // This class is used in Example() to describe data points which will be
        // consumed by ML.NET pipeline.
        private class ImageDataPoint
        {
            // Height of Image.
            private const int height = 224;

            // Width of Image.
            private const int width = 224;

            // Image will be consumed by ONNX image multiclass classification model.
            [ImageType(height, width)]
            public MLImage Image { get; set; }

            // Expected output of ONNX model. It contains probabilities of all
            // classes. Note that the ColumnName below should match the output name
            // in the used ONNX model file.
            [ColumnName("softmaxout_1")]
            public float[] Scores { get; set; }

            public ImageDataPoint()
            {
                Image = null;
            }

            public ImageDataPoint(byte red, byte green, byte blue)
            {
                byte[] imageData = new byte[width * height * 4]; // 4 for the red, green, blue and alpha colors
                for (int i = 0; i < imageData.Length; i += 4)
                {
                    // Fill the buffer with the Bgra32 format
                    imageData[i] = blue;
                    imageData[i + 1] = green;
                    imageData[i + 2] = red;
                    imageData[i + 3] = 255;
                }

                Image = MLImage.CreateFromPixels(width, height, MLPixelFormat.Bgra32, imageData);
            }
        }
    }
}

Comentários

Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String[], String[], String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean)

Crie um OnnxScoringEstimatormodelo Onnx pré-treinado para as inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string[] outputColumnNames, string[] inputColumnNames, string modelFile, System.Collections.Generic.IDictionary<string,int[]> shapeDictionary, int? gpuDeviceId = default, bool fallbackToCpu = false);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string[] * string[] * string * System.Collections.Generic.IDictionary<string, int[]> * Nullable<int> * bool -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, outputColumnNames As String(), inputColumnNames As String(), modelFile As String, shapeDictionary As IDictionary(Of String, Integer()), Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

outputColumnNames
String[]

As colunas de saída resultantes da transformação.

inputColumnNames
String[]

As colunas de entrada.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

shapeDictionary
IDictionary<String,Int32[]>

Formas ONNX a serem usadas sobre as carregadas de modelFile. Para chaves, use nomes conforme indicado no modelo ONNX, por exemplo, "entrada". Indicar as formas com esse parâmetro é particularmente útil para trabalhar com entradas e saídas de dimensão variável.

gpuDeviceId
Nullable<Int32>

ID opcional do dispositivo GPU para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

Retornos

Comentários

Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a

ApplyOnnxModel(TransformsCatalog, String[], String[], String, IDictionary<String,Int32[]>, Nullable<Int32>, Boolean, Int32)

Crie um OnnxScoringEstimatormodelo Onnx pré-treinado para as inputColumnNames colunas. Consulte para OnnxScoringEstimator saber mais sobre as dependências necessárias e como executá-la em uma GPU.

public static Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator ApplyOnnxModel (this Microsoft.ML.TransformsCatalog catalog, string[] outputColumnNames, string[] inputColumnNames, string modelFile, System.Collections.Generic.IDictionary<string,int[]> shapeDictionary, int? gpuDeviceId = default, bool fallbackToCpu = false, int recursionLimit = 100);
static member ApplyOnnxModel : Microsoft.ML.TransformsCatalog * string[] * string[] * string * System.Collections.Generic.IDictionary<string, int[]> * Nullable<int> * bool * int -> Microsoft.ML.Transforms.Onnx.OnnxScoringEstimator
<Extension()>
Public Function ApplyOnnxModel (catalog As TransformsCatalog, outputColumnNames As String(), inputColumnNames As String(), modelFile As String, shapeDictionary As IDictionary(Of String, Integer()), Optional gpuDeviceId As Nullable(Of Integer) = Nothing, Optional fallbackToCpu As Boolean = false, Optional recursionLimit As Integer = 100) As OnnxScoringEstimator

Parâmetros

catalog
TransformsCatalog

O catálogo da transformação.

outputColumnNames
String[]

As colunas de saída resultantes da transformação.

inputColumnNames
String[]

As colunas de entrada.

modelFile
String

O caminho do arquivo que contém o modelo ONNX.

shapeDictionary
IDictionary<String,Int32[]>

Formas ONNX a serem usadas sobre as carregadas de modelFile. Para chaves, use nomes conforme indicado no modelo ONNX, por exemplo, "entrada". Indicar as formas com esse parâmetro é particularmente útil para trabalhar com entradas e saídas de dimensão variável.

gpuDeviceId
Nullable<Int32>

ID opcional do dispositivo GPU para executar a execução, null para ser executada na CPU.

fallbackToCpu
Boolean

Se houver erro de GPU, aumente a exceção ou o fallback para a CPU.

recursionLimit
Int32

Opcional, especifica o limite de recursão Protobuf CodedInputStream. O valor padrão é 100.

Retornos

Comentários

Se o valor gpuDeviceId for null o MLContext.GpuDeviceId valor será usado se não nullfor .

Aplica-se a