pypto_pro.language.simt.atomic_dec#

产品支持情况#

  • Ascend 950PR/Ascend 950DT:支持

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持

  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持

功能说明#

以原子方式递减目的操作数target。目的操作数的旧值为0或大于源操作数limit时,将limit写入目的操作数,否则将旧值减1。

函数原型#

pypto_pro.language.simt.atomic_dec(
    target: Scalar,
    limit: Scalar,
) -> Scalar

参数说明#

参数

输入/输出

说明

target

输入

目的操作数,Scalar类型。必须直接传入Tile或Tensor的单元素下标访问表达式,例如ub_tile[0, 0]或gm_tensor[0, 0]。
- UB Tile:必须位于UB,使用ND,支持DT_UINT32。
- GM Tensor:必须为ND,支持DT_UINT32、DT_UINT64。

limit

输入

源操作数,Scalar类型,表示计数上界。数据类型必须与target一致;整数字面量按target的数据类型处理。

约束说明#

只能在由@pypto_pro.language.vector_function(mode=”simt”)定义的SIMT入口函数或辅助函数中调用。

返回值说明#

返回递减前的target值,返回值类型与target一致。

调用示例#

import pypto_pro.language as pl

@pl.vector_function(mode="simt", max_threads=256)
def allocate_reverse_ring_slot(
    ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
    slots: pl.Tensor[[1, 256], pl.DT_UINT32],
) -> None:
    tid = pl.simt.linear_thread_idx()
    slots[0, tid] = pl.simt.atomic_dec(ticket[0, 0], 255)


@pl.jit()
def atomic_dec_kernel(
    ticket: pl.Tensor[[1, 1], pl.DT_UINT32],
    slots: pl.Tensor[[1, 256], pl.DT_UINT32],
):
    with pl.section_vector():
        allocate_reverse_ring_slot[256](ticket, slots)