DataType#

产品支持情况#

产品

是否支持

Ascend 950PR/Ascend 950DT

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas A2 推理系列产品

功能说明#

DataType是PTO框架中用于表示Tensor数据类型的枚举类,定义了所有支持的数据类型,包括整数、浮点数、布尔值等。作为Tensor操作的核心类型标识,DataType用于指定Tensor的存储格式和计算精度。

原型定义#

class DataType(enum.Enum):
     ...  # 枚举类定义,包含所有支持的数据类型

 # 数据类型常量定义
 DT_INT4 = ...     # 4位有符号整数,占用字节内存
 DT_INT8 = ...     # 8位有符号整数,占用1字节内存
 DT_INT16 = ...    # 16位有符号整数,占用2字节内存
 DT_INT32 = ...    # 32位有符号整数,占用4字节内存
 DT_INT64 = ...    # 64位有符号整数,占用8字节内存
 DT_FP8 = ...      # 8位浮点数,用于低精度计算
 DT_FP16 = ...     # 16位半精度浮点数,占用2字节内存
 DT_FP32 = ...     # 32位单精度浮点数,占用4字节内存
 DT_BF16 = ...     # 16位Brain Float格式,占用2字节内存
 DT_HF4 = ...      # 4位Half Float格式,占用1字节内存
 DT_HF8 = ...      # 8位Half Float格式,占用1字节内存
 DT_FP8E4M3 = ...  # 8位浮点数,4位指数,3位尾数,占用1字节内存
 DT_FP8E5M2 = ...  # 8位浮点数,5位指数,2位尾数,占用1字节内存
 DT_FP8E8M0 = ...  # 8位浮点数,8位指数,0位尾数,占用1字节内存
 DT_UINT8 = ...    # 8位无符号整数,占用1字节内存
 DT_UINT16 = ...   # 16位无符号整数,占用2字节内存
 DT_UINT32 = ...   # 32位无符号整数,占用4字节内存
 DT_UINT64 = ...   # 64位无符号整数,占用8字节内存
 DT_BOOL = ...     # 布尔类型,占用1字节内存
 DT_DOUBLE = ...   # 64位双精度浮点数,占用8字节内存

约束说明#

  • 仅Ascend 950PR/Ascend 950DT支持DT_FP8E4M3,DT_FP8E5M2和DT_FP8E8M0类型