DataType#
产品支持情况#
产品 |
是否支持 |
|---|---|
Ascend 950PR/Ascend 950DT |
√ |
Atlas A3 训练系列产品/Atlas A3 推理系列产品 |
√ |
Atlas A2 训练系列产品/Atlas A2 推理系列产品 |
√ |
功能说明#
DataType是PTO框架中用于表示Tensor数据类型的枚举类,定义了所有支持的数据类型,包括整数、浮点数、布尔值等。作为Tensor操作的核心类型标识,DataType用于指定Tensor的存储格式和计算精度。
原型定义#
class DataType(enum.Enum):
... # 枚举类定义,包含所有支持的数据类型
# 数据类型常量定义
DT_INT4 = ... # 4位有符号整数,占用字节内存
DT_INT8 = ... # 8位有符号整数,占用1字节内存
DT_INT16 = ... # 16位有符号整数,占用2字节内存
DT_INT32 = ... # 32位有符号整数,占用4字节内存
DT_INT64 = ... # 64位有符号整数,占用8字节内存
DT_FP8 = ... # 8位浮点数,用于低精度计算
DT_FP16 = ... # 16位半精度浮点数,占用2字节内存
DT_FP32 = ... # 32位单精度浮点数,占用4字节内存
DT_BF16 = ... # 16位Brain Float格式,占用2字节内存
DT_HF4 = ... # 4位Half Float格式,占用1字节内存
DT_HF8 = ... # 8位Half Float格式,占用1字节内存
DT_FP8E4M3 = ... # 8位浮点数,4位指数,3位尾数,占用1字节内存
DT_FP8E5M2 = ... # 8位浮点数,5位指数,2位尾数,占用1字节内存
DT_FP8E8M0 = ... # 8位浮点数,8位指数,0位尾数,占用1字节内存
DT_UINT8 = ... # 8位无符号整数,占用1字节内存
DT_UINT16 = ... # 16位无符号整数,占用2字节内存
DT_UINT32 = ... # 32位无符号整数,占用4字节内存
DT_UINT64 = ... # 64位无符号整数,占用8字节内存
DT_BOOL = ... # 布尔类型,占用1字节内存
DT_DOUBLE = ... # 64位双精度浮点数,占用8字节内存
约束说明#
仅Ascend 950PR/Ascend 950DT支持DT_FP8E4M3,DT_FP8E5M2和DT_FP8E8M0类型