DML_ELEMENT_WISE_DEQUANTIZE_LINEAR_OPERATOR_DESC結構 (directml.h)
根據 ScaleTensor 和 ZeroPointTensor
中的對應元素,在 InputTensor 中的每個元素上執行下列線性取消量化函式,將結果放在 OutputTensor 的對應元素中。
f(input, scale, zero_point) = (input - zero_point) * scale
量化是提升效能的常見方式,其代價是精確度。 8 位 int 值的群組可以比一組 32 位浮點數更快計算。 取消量化會將編碼的數據轉換回其網域。
語法
struct DML_ELEMENT_WISE_DEQUANTIZE_LINEAR_OPERATOR_DESC {
const DML_TENSOR_DESC *InputTensor;
const DML_TENSOR_DESC *ScaleTensor;
const DML_TENSOR_DESC *ZeroPointTensor;
const DML_TENSOR_DESC *OutputTensor;
};
成員
InputTensor
類型: const DML_TENSOR_DESC*
包含輸入的張量。
ScaleTensor
類型: const DML_TENSOR_DESC*
包含尺規的張量。
ZeroPointTensor
類型: const DML_TENSOR_DESC*
包含用於量化之零點的張量。
OutputTensor
類型: const DML_TENSOR_DESC*
要寫入結果的輸出張量。
可用性
這個運算子是在 中 DML_FEATURE_LEVEL_1_0
引進。
Tensor 條件約束
- InputTensor、 OutputTensor、 ScaleTensor 和 ZeroPointTensor 必須具有相同的 DimensionCount 和 大小。
- InputTensor 和 ZeroPointTensor 必須具有相同 的 DataType。
- OutputTensor 和 ScaleTensor 必須具有相同 的 DataType。
Tensor 支援
DML_FEATURE_LEVEL_6_2和更新版本
張 | 種類 | 支援的維度計數 | 支援的資料類型 |
---|---|---|---|
InputTensor | 輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
ScaleTensor | 輸入 | 1 到 8 | FLOAT32,FLOAT16 |
ZeroPointTensor | 選擇性輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
OutputTensor | 輸出 | 1 到 8 | FLOAT32,FLOAT16 |
DML_FEATURE_LEVEL_6_0和更新版本
張 | 種類 | 支援的維度計數 | 支援的資料類型 |
---|---|---|---|
InputTensor | 輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
ScaleTensor | 輸入 | 1 到 8 | FLOAT32,FLOAT16 |
ZeroPointTensor | 輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
OutputTensor | 輸出 | 1 到 8 | FLOAT32,FLOAT16 |
DML_FEATURE_LEVEL_3_0和更新版本
張 | 種類 | 支援的維度計數 | 支援的資料類型 |
---|---|---|---|
InputTensor | 輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
ScaleTensor | 輸入 | 1 到 8 | FLOAT32 |
ZeroPointTensor | 輸入 | 1 到 8 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
OutputTensor | 輸出 | 1 到 8 | FLOAT32 |
DML_FEATURE_LEVEL_2_1和更新版本
張 | 種類 | 支援的維度計數 | 支援的資料類型 |
---|---|---|---|
InputTensor | 輸入 | 4 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
ScaleTensor | 輸入 | 4 | FLOAT32 |
ZeroPointTensor | 輸入 | 4 | INT32、INT16、INT8、UINT32、UINT16、UINT8 |
OutputTensor | 輸出 | 4 | FLOAT32 |
DML_FEATURE_LEVEL_1_0和更新版本
張 | 種類 | 支援的維度計數 | 支援的資料類型 |
---|---|---|---|
InputTensor | 輸入 | 4 | UINT8 |
ScaleTensor | 輸入 | 4 | FLOAT32 |
ZeroPointTensor | 輸入 | 4 | UINT8 |
OutputTensor | 輸出 | 4 | FLOAT32 |
規格需求
需求 | 值 |
---|---|
標頭 | directml.h |