pypto_pro.language.QuantMode#

产品支持情况#

  • Ascend 950PR/Ascend 950DT：支持

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

功能说明#

量化模式枚举，用于指定quant接口执行对称量化或非对称量化。

原型定义#

PYPTO_DECLARE_ENUM(QuantMode,
    SYM,   # 对称量化，输出DT_INT8，不使用offset参数。
    ASYM   # 非对称量化，输出DT_UINT8，须提供DT_FP32类型的offset Tile。
)

计算公式、参数形状和数据类型约束，请参见quant。