CachePolicy#

产品支持情况#

  • Ascend 950PR/Ascend 950DT：支持

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持

  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持

功能说明#

CachePolicy定义了Tensor的缓存策略，用于控制数据在各级缓存中的行为，优化内存访问性能和减少内存带宽消耗。

原型定义#

class CachePolicy(enum.Enum):
     PREFETCH = ...        # 预取策略，提前将数据加载到缓存中，减少访问延迟
     NONE_CACHEABLE = ...  # 不可缓存策略，数据不存储在缓存中，直接访问主存