pypto_pro.language.simt.atomic_min#

产品支持情况#

  • Ascend 950PR/Ascend 950DT：支持

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

功能说明#

以原子方式比较目的操作数target的旧值与源操作数value，并将较小值写回目的操作数。对于数据类型为DT_FP16和DT_BF16的目的操作数，只更新目的操作数，不返回旧值。

函数原型#

pypto_pro.language.simt.atomic_min(
    target: Scalar,
    value: Scalar,
) -> Optional[Scalar]

参数说明#

参数

输入/输出

说明

target

输入

目的操作数，Scalar类型。必须直接传入Tile或Tensor的单元素下标访问表达式，例如ub_tile[0, 0]或gm_tensor[0, 0]。
- UB Tile：必须位于UB，使用ND，支持DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32。
- GM Tensor：必须为ND，支持DT_INT32、DT_UINT32、DT_FP16、DT_BF16、DT_FP32、DT_INT64、DT_UINT64。

value

输入

源操作数，Scalar类型，表示比较值。数据类型必须与target一致；数值字面量按target的数据类型处理，整数目的操作数不接受浮点字面量。

约束说明#

只能在由@pypto_pro.language.vector_function(mode=”simt”)定义的SIMT入口函数或辅助函数中调用。

返回值说明#

  • target的数据类型为DT_FP16或DT_BF16时无返回值，只能作为独立语句调用；

  • target的数据类型为支持的其他数据类型时，返回更新前的target值，返回值类型与target一致。

调用示例#

import pypto_pro.language as pl

@pl.vector_function(mode="simt", max_threads=256)
def reduce_min(
    latency: pl.Tensor[[1, 256], pl.DT_UINT32],
    min_latency: pl.Tensor[[1, 1], pl.DT_UINT32],
) -> None:
    tid = pl.simt.linear_thread_idx()
    pl.simt.atomic_min(min_latency[0, 0], latency[0, tid])


@pl.jit()
def atomic_min_kernel(
    latency: pl.Tensor[[1, 256], pl.DT_UINT32],
    min_latency: pl.Tensor[[1, 1], pl.DT_UINT32],
):
    with pl.section_vector():
        reduce_min[256](latency, min_latency)