pypto.conv#
产品支持情况#
产品 |
是否支持 |
|---|---|
Ascend 950PR/Ascend 950DT |
√ |
Atlas A3 训练系列产品/Atlas A3 推理系列产品 |
× |
Atlas A2 训练系列产品/Atlas A2 推理系列产品 |
× |
功能说明#
实现输入input_conv、weight完成卷积运算，支持bias参数，计算公式为：out = input_conv @ weight + bias (@表示为卷积处理)
input_conv 、weight、bias为源操作数；input_conv 为输入矩阵，weight为权重矩阵，bias为输入的偏置
out 为目的操作数，存放卷积处理结果的矩阵
当前暂不支持量化场景
当前暂不支持Relu功能
函数原型#
conv(input_conv, weight, out_dtype, strides, paddings, dilations, *, groups=1, transposed=False, output_paddings=[], extend_params=None) -> Tensor
参数说明#
参数名 |
输入/输出 |
说明 |
|---|---|---|
input_conv |
输入 |
输入特征图 Tensor。 |
weight |
输入 |
卷积核 Tensor。 |
out_dtype |
输入 |
输出 Tensor 数据类型。 |
strides |
输入 |
卷积步长，单向参数。 |
paddings |
输入 |
卷积填充，双向参数。 |
dilations |
输入 |
空洞卷积膨胀率，单向参数。 |
groups |
输入 |
分组卷积组数，默认 1。 |
transposed |
输入 |
是否为转置卷积（反卷积），默认 False。 |
output_paddings |
输入 |
转置卷积输出端填充，仅 transposed=True 时使用。 |
extend_params |
输入 |
扩展参数字典，支持 bias、scale、relu、scale_tensor： |
返回值说明#
返回卷积运算后的输出 Tensor：
1D 卷积输出 shape：(Batch, Cout, Wout)
2D 卷积输出 shape：(Batch, Cout, Hout, Wout)
3D 卷积输出 shape：(Batch, Cout, Dout, Hout, Wout)
输出 shape 各维度范围：[1, 1000000]。
约束说明#
1. Shape 合法性约束#
输入特征图（input_conv）：Batch、Cin、Hin、Win、Din 维度必须在 [1, 1000000] 范围内；
卷积核（weight）：Cout、Kh、Kw、Kd 维度必须在 [1, 1000000] 范围内；
偏置（bias_tensor）：shape 必须等于 [Cout]，否则校验失败；
输出特征图：H_out、W_out、D_out 维度必须在 [1, 1000000] 范围内。
2. 属性参数合法性约束#
基础维度匹配约束：
strides 维度数必须与卷积维度匹配（2D conv 长度=2，3D conv 长度=3）；
dilations 维度数必须与卷积维度匹配（2D conv 长度=2，3D conv 长度=3）；
paddings 维度数必须为2×卷积维度（2D conv 长度=4，3D conv 长度=6）；
数值范围约束：
strides 取值范围 [1, 63]；
dilations 取值范围 [1, 63]；
paddings 取值范围 [0, 255]，且每维填充值 < 对应卷积核维度大小（如 padding_h < Kh、padding_w < Kw）；
groups 取值范围 [1, 65535]；
卷积核约束：
Kh ≤ 255、Kw ≤ 255；
Kh × Kw × 32bytes/dtype ≤ 65535；dtype为input_conv的数据类型所占bit数，如FP16是16，FP32是32等
通道数约束：
Cin（输入通道数）必须能被 groups 整除；
Cout（输出通道数）必须能被 groups 整除；
CinFmap = CinWeight × groups。
3. 缓存空间约束#
调用 conv 接口前，必须通过 pypto.set_conv_tile_shapes 接口设置 L1/L0 层级的卷积 TileShape 切分大小。
4. 功能支持约束#
transposed=True（转置卷积）暂不支持，调用会抛出 RuntimeError；
input_conv/weight 仅支持 DT_FP16、DT_BF16、DT_FP32 数据类型，其他类型会抛出 ValueError；
input_conv 与 weight 的维度必须一致（如 input_conv 为 4D 则 weight 也需为 4D），否则抛出 RuntimeError。
5. 动态轴切分支持#
卷积算子支持以下维度的动态轴切分：
维度 |
是否支持 |
切分方式 |
说明 |
|---|---|---|---|
Batch |
√ |
前端循环切分 |
TileL1Info.tileBatch 必须为 1（硬件约束），通过前端循环实现动态切分 |
Cout |
√ |
TileShape 动态切分 + 前端循环 |
支持 TileShape 配置的动态切分，配合前端循环实现完整 Cout 维度覆盖 |
Dout |
√ |
TileShape 动态切分 + 前端循环 |
仅 3D 卷积支持，Dout 维度动态切分 |
Hout |
√ |
TileShape 动态切分 + 前端循环 |
Hout 维度动态切分，配合前端循环实现完整覆盖 |
Wout |
√ |
TileShape 动态切分 + 前端循环 |
Wout 维度动态切分，配合前端循环实现完整覆盖 |
Cin |
√ |
前端循环切分 + pypto.add 累加 |
Cin 维度动态切分需使用 pypto.add 累加多个 tile 结果 |
Cin 维度动态切分精度说明：
Cin 维度的动态轴切分会影响计算精度，原因如下：
Cin 切分后需要对多个 tile 的卷积结果进行累加（通过 pypto.add 实现）
累加过程中存在两次 cast 操作（FP16/BF16 → FP32 → FP16/BF16）
这两次精度转换会引入精度损失，在 Cin 切分场景下需要评估精度需求
建议：
如果精度要求较高，建议避免 Cin 维度的动态切分
如果必须进行 Cin 切分，建议使用 FP32 数据类型以减少精度损失
Cin 切分的 tile 大小需满足 32 字节对齐约束（FP16/BF16: %16==0, FP32: %8==0）
调用示例#
# 2D 卷积基础示例
input_conv = pypto.tensor((1, 32, 8, 16), pypto.DT_FP16, "input_conv")
weight = pypto.tensor((32, 32, 1, 1), pypto.DT_FP16, "weight")
# 暂时不支持子图合并特性，需要手动关闭
pypto.set_pass_options(
cube_l1_reuse_setting={-1: 1},
cube_nbuffer_setting={-1: 1},
)
out = pypto.conv(input_conv, weight, pypto.DT_FP16,
strides=[1, 1],
paddings=[0, 0, 0, 0],
dilations=[1, 1])
# 2D 卷积带 bias 和 ReLu （当前暂不支持ReLu）
input_conv = pypto.tensor((1, 32, 8, 16), pypto.DT_FP16, "input_conv")
weight = pypto.tensor((32, 32, 1, 1), pypto.DT_FP16, "weight")
bias = pypto.tensor((32,), pypto.DT_FP16, "bias")
extend_params = {'bias_tensor': bias, 'relu_type': pypto.ReLuType.RELU}
# 暂时不支持子图合并特性，需要手动关闭
pypto.set_pass_options(
cube_l1_reuse_setting={-1: 1},
cube_nbuffer_setting={-1: 1},
)
out = pypto.conv(input_conv, weight, pypto.DT_FP16,
strides=[1, 1],
paddings=[0, 0, 0, 0],
dilations=[1, 1],
extend_params=extend_params)
# 3D 卷积示例
input_conv = pypto.tensor((1, 96, 2, 16, 16), pypto.DT_FP16, "input_conv")
weight = pypto.tensor((32, 96, 1, 1, 1), pypto.DT_FP16, "weight")
# 暂时不支持子图合并特性，需要手动关闭
pypto.set_pass_options(
cube_l1_reuse_setting={-1: 1},
cube_nbuffer_setting={-1: 1},
)
out = pypto.conv(input_conv, weight, pypto.DT_FP16,
strides=[1, 1, 1],
paddings=[0, 0, 0, 0, 0, 0],
dilations=[1, 1, 1])