pypto.prelu#

产品支持情况#

产品	是否支持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas A2 推理系列产品	√

功能说明#

对 input 的每个元素进行带参数的整流线性单元运算，当元素值大于等于0时保持不变，小于0时乘以权重系数。计算公式如下：

\[\begin{split} res_i = \begin{cases} input_i & \text{if } input_i \geq 0 \\ weight_i \times input_i & \text{if } input_i < 0 \end{cases} \end{split}\]

其中 weight 为一维张量，其长度与 input 的第二维（通道维）大小相同，按通道共享权重。

函数原型#

prelu(input: Tensor, weight: Tensor) -> Tensor

参数说明#

参数名	输入/输出	说明
input	输入	源操作数。支持的类型为：Tensor。 Tensor支持的数据类型为：DT_FP16、DT_FP32、DT_BF16。不支持空Tensor；Shape仅支持2-4维；Shape Size不大于2147483647（即INT32_MAX）。
weight	输入	权重参数。支持的类型为：Tensor。 Tensor支持的数据类型为：DT_FP16、DT_FP32、DT_BF16，需与input类型相同。 Shape为一维，长度与input的第二维大小相同。

返回值说明#

返回输出Tensor，Tensor的数据类型和Shape与input相同。

约束说明#

input 和 weight 类型应该相同。
weight 的Shape必须为一维，且长度等于 input 的第二维大小。
input 和 weight 不支持 nan、inf 等特殊值。
由于存在临时内存使用，输入维度为二维时，TileShape大小有额外约束，假设TileShape为[a,b]，那么a*b*sizeof(self) + b/8 + 8KB < UB。

调用示例#

TileShape设置示例#

说明：调用该operation接口前，应通过set_vec_tile_shapes设置TileShape。

TileShape维度应和输出一致。

示例1：输入input与weight，shape分别为[m, n] [n]。输出为[m, n], TileShape设置为[m1, n1], 则m1, n1分别用于切分m, n轴。

pypto.set_vec_tile_shapes(4, 16)

接口调用示例#

# 示例：PReLU运算
# input shape为[2, 3]，weight shape为[3]
# 对于负数元素，按通道乘以对应权重
input_tensor = pypto.tensor([[-2.0, 1.0, -3.0], [0.5, -1.0, 2.0]], pypto.DT_FP32)
weight_tensor = pypto.tensor([0.25, 0.5, 0.1], pypto.DT_FP32)
out = pypto.prelu(input_tensor, weight_tensor)

结果示例如下：

输入数据input:  [[-2.0,  1.0, -3.0], [ 0.5, -1.0,  2.0]]
输入数据weight: [ 0.25, 0.5,  0.1]
输出数据out:    [[-0.5,  1.0, -0.3], [ 0.5, -0.5,  2.0]]

计算过程说明：

第0通道：-2.0 < 0，结果 = 0.25 × (-2.0) = -0.5；0.5 ≥ 0，结果 = 0.5
第1通道：1.0 ≥ 0，结果 = 1.0；-1.0 < 0，结果 = 0.5 × (-1.0) = -0.5
第2通道：-3.0 < 0，结果 = 0.1 × (-3.0) = -0.3；2.0 ≥ 0，结果 = 2.0