DML_MATRIX_MULTIPLY_INTEGER_OPERATOR_DESC構造体 (directml.h)

整数データに対して行列乗算関数を実行します。

この演算子では、行列乗算入力テンソルを 4D にする必要があります。これは として { BatchCount, ChannelCount, Height, Width }書式設定されます。 行列乗算演算子は、独立した行列乗算の BatchCount * ChannelCount 数を実行します。

たとえば、ATensor の{ BatchCount, ChannelCount, M, K }サイズが で、BTensor のサイズが で{ BatchCount, ChannelCount, K, N }、OutputTensor のサイズが の{ BatchCount, ChannelCount, M, N }場合、行列乗算演算子は、ディメンション {M,K} x {K,N} = {M,N} の BatchCount * ChannelCount 独立行列乗算を実行します。

構文

struct DML_MATRIX_MULTIPLY_INTEGER_OPERATOR_DESC {
  const DML_TENSOR_DESC *ATensor;
  const DML_TENSOR_DESC *AZeroPointTensor;
  const DML_TENSOR_DESC *BTensor;
  const DML_TENSOR_DESC *BZeroPointTensor;
  const DML_TENSOR_DESC *OutputTensor;
};

メンバー

ATensor

型: const DML_TENSOR_DESC*

A データを含むテンソル。 このテンソルの次元は である { BatchCount, ChannelCount, M, K }必要があります。

AZeroPointTensor

型: _Maybenull_ const DML_TENSOR_DESC*

ATensor ゼロ ポイント データを含む省略可能なテンソル。 の予想される次元 AZeroPointTensor は、 { 1, 1, 1, 1 } テンソル量子化が必要な場合、または { 1, 1, M, 1 } 行ごとの量子化が必要な場合です。 これらのゼロポイント値は、 ATensor 値をデカンタイズするために使用されます。

BTensor

型: const DML_TENSOR_DESC*

B データを含むテンソル。 このテンソルの次元は である { BatchCount, ChannelCount, K, N }必要があります。

BZeroPointTensor

型: _Maybenull_ const DML_TENSOR_DESC*

BTensor ゼロ ポイント データを含む省略可能なテンソル。 の予想される次元 BZeroPointTensor は、 { 1, 1, 1, 1 } テンソル量子化が必要な場合、または { 1, 1, 1, N } 列単位の量子化が必要な場合です。 これらのゼロ ポイント値は、BTensor 値をデカンタイズするために使用されます。

OutputTensor

型: const DML_TENSOR_DESC*

結果を書き込むテンソル。 このテンソルのディメンションは です { BatchCount, ChannelCount, M, N }。

可用性

この演算子は で DML_FEATURE_LEVEL_2_1導入されました。

テンソル制約

• ATensor、 BTensor、 および OutputTensor には、同じ DimensionCount が必要です。
• BTensor と BZeroPointTensor には、同じ DataType が必要です。
• ATensor と AZeroPointTensor には、同じ DataType が必要です。

Tensor のサポート

DML_FEATURE_LEVEL_5_2以上

テンソル	種類	Dimensions	サポートされているディメンション数	サポートされるデータ型
ATensor	入力	{ [BatchCount], [ChannelCount], M, K }	2 から 4	INT8、UINT8
AZeroPointTensor	省略可能な入力	{ [1], [1], AZeroPointCount, [1] }	1 から 4	INT8、UINT8
BTensor	入力	{ [BatchCount], [ChannelCount], K, N }	2 から 4	INT8、UINT8
BZeroPointTensor	省略可能な入力	{ [1], [1], [1], BZeroPointCount }	1 から 4	INT8、UINT8
OutputTensor	出力	{ [BatchCount], [ChannelCount], M, N }	2 から 4	INT32

DML_FEATURE_LEVEL_4_0以上

テンソル	種類	Dimensions	サポートされているディメンション数	サポートされるデータ型
ATensor	入力	{ [BatchCount], [ChannelCount], M, K }	2 から 4	INT8、UINT8
AZeroPointTensor	省略可能な入力	{ [1], [1], AZeroPointCount, [1] }	1 から 4	INT8、UINT8
BTensor	入力	{ [BatchCount], [ChannelCount], K, N }	2 から 4	INT8、UINT8
BZeroPointTensor	省略可能な入力	{ [1], [1], 1, BZeroPointCount }	2 から 4	INT8、UINT8
OutputTensor	出力	{ [BatchCount], [ChannelCount], M, N }	2 から 4	INT32

DML_FEATURE_LEVEL_2_1以上

テンソル	種類	Dimensions	サポートされているディメンション数	サポートされるデータ型
ATensor	入力	{ BatchCount, ChannelCount, M, K }	4	INT8、UINT8
AZeroPointTensor	省略可能な入力	{ 1, 1, AZeroPointCount, 1 }	4	INT8、UINT8
BTensor	入力	{ BatchCount, ChannelCount, K, N }	4	INT8、UINT8
BZeroPointTensor	省略可能な入力	{ 1, 1, 1, BZeroPointCount }	4	INT8、UINT8
OutputTensor	出力	{ BatchCount, ChannelCount, M, N }	4	INT32

要件

サポートされている最小のクライアント	Windows 10 ビルド 20348
サポートされている最小のサーバー	Windows 10 ビルド 20348
Header	directml.h