pypto_pro.language.addptr#
产品支持情况#
Ascend 950PR/Ascend 950DT:支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
功能说明#
对一个裸指针(pypto_pro.language.Ptr[dtype])做偏移运算,得到指向同一片GM、起点平移后的新指针。偏移以元素为单位(不是字节),元素大小由指针的dtype决定。
常用于把一块workspace(GM暂存区)按需切成多段,配合pypto_pro.language.make_tensor把每段包装成可load/store的Tensor视图。
函数原型#
pypto_pro.language.addptr(ptr: Ptr, offset: Union[int, Scalar]) -> Ptr
参数说明#
参数 |
输入/输出 |
说明 |
|---|---|---|
ptr |
输入 |
输入指针,Ptr类型。返回的新指针与ptr的数据类型相同。元素位宽必须不少于8 bit;亚字节数据类型不支持指针算术,可先通过make_ptr重解释为DT_UINT8等字节可寻址类型。 |
offset |
输入 |
指针偏移量,int或Scalar类型,单位为元素。编译器根据指针的数据类型换算实际字节偏移,偏移后的地址必须仍位于原workspace范围内。 |
约束说明#
无。
返回值说明#
返回与ptr数据类型相同、地址偏移后的Ptr。
调用示例#
偏移workspace指针并创建Tensor视图#
import pypto_pro.language as pl
@pl.jit(auto_mutex=True)
def workspace_kernel(
a: pl.Tensor[[64, 128], pl.DT_FP16],
workspace: pl.Ptr[pl.DT_FP16],
out: pl.Tensor[[64, 128], pl.DT_FP16],
):
ws_buf_ptr = pl.addptr(workspace, 64 * 128)
ws_buf = pl.make_tensor(ws_buf_ptr, [64, 128], [128, 1])
tt = pl.TileType(shape=[64, 128], dtype=pl.DT_FP16, target_memory=pl.MemorySpace.Vec)
tile = pl.make_tile_group(type=tt, addrs=0x0000, mutex_ids=[0])
with pl.section_vector():
t = tile.current()
pl.load(t, a, [0, 0])
pl.add(t, t, t)
pl.store(ws_buf, t, [0, 0])
pl.load(t, ws_buf, [0, 0])
pl.store(out, t, [0, 0])