pypto_pro.language.Scalar#

产品支持情况#

  • Ascend 950PR/Ascend 950DT：支持

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

功能说明#

带数据类型的标量值类型标注，用于kernel标量参数声明或kernel内部局部变量类型标注。

pypto_pro.language.Scalar不能使用普通Python数值直接构造。显式标量常量通过pypto_pro.language.const创建；Scalar(expr)仅用于内部包装IR表达式。

pypto_pro.language.DT_*类型常量主要用于：

  1. kernel函数签名中声明标量参数（如行数、列数、缩放系数等）

  2. kernel内部局部变量的类型标注（如pypto_pro.language.get_block_idx()返回值）

  3. 通过pypto_pro.language.const创建编译期常量标量时指定数据类型

可用类型常量#

类型常量

说明

pypto_pro.language.DT_BOOL

布尔标量类型

pypto_pro.language.DT_INT8

8位有符号整数标量类型

pypto_pro.language.DT_INT16

16位有符号整数标量类型

pypto_pro.language.DT_INT32

32位有符号整数标量类型

pypto_pro.language.DT_INT64

64位有符号整数标量类型，常用于坐标和偏移计算

pypto_pro.language.DT_UINT8

8位无符号整数标量类型

pypto_pro.language.DT_UINT16

16位无符号整数标量类型

pypto_pro.language.DT_UINT32

32位无符号整数标量类型

pypto_pro.language.DT_UINT64

64位无符号整数标量类型

pypto_pro.language.DT_FP16

16位浮点标量类型

pypto_pro.language.DT_BF16

16位Brain浮点标量类型

pypto_pro.language.DT_FP32

32位浮点标量类型

约束说明#

以下低精度类型为存储和张量计算专用类型，不支持用于标量表达式：

DT_FP4、DT_FP8E4M3FN、DT_FP8E5M2、DT_FP8E8M0、DT_FP4E2M1、DT_FP4E1M2、DT_INT4、DT_UINT4、DT_HF4、DT_HF8

调用示例#

import pypto_pro.language as pl
# kernel 签名中声明标量参数
@pl.jit()
def kernel(
    a: pl.Tensor[[64, 128], pl.DT_FP16],
    rows: pl.DT_INT64,
    cols: pl.DT_INT64,
    scale: pl.DT_FP32,
    out: pl.Tensor[[64, 128], pl.DT_FP16],
):
    ...

# kernel 内部局部变量类型标注
vidx = pl.get_block_idx()
offset: pl.DT_INT64 = vidx * 64

# kernel 内部显式创建标量常量
scale = pl.const(1.0, pl.DT_FP32)
zero_idx = pl.const(0, pl.DT_INT64)

显式创建标量值的完整说明见pypto_pro.language.const。