跳到主要内容
检索

# 指令集扩展

1 篇关联报道

订阅更新
  1. arXiv

    CPU向量加宽撞上L1容量墙:把私有L2改成软件管理的暂存区,2048位下GEMM提速1.44倍

    CPU把SIMD向量从512位加宽到2048位时,算力上去了,但L1数据缓存容量没变,数据反复在L1与L2之间搬运,吞吐反而被拖住。CacheFlex用一条轻量ISA扩展把私有L2的一部分路在运行时转成线程私有的暂存内存,让软件直接按槽位读写,绕开地址翻译、组相联标签查找和一致性探测。在gem5上以Armv8-A SVE建模,GEMM核在VL=16时几何平均提速1.44倍、内存子系统能耗降40%;结合FlashAttention的整层推理最高提速1.78倍、能耗降45%,相对L2的面积开销为2.02%。

已读完全部报道