内存墙问题的本质
过去30年，处理器性能以每年约55%的速度增长，而内存带宽的增长速度仅为每年10%左右，两者之间的差距形成了著名的内存墙问题。在2048核的规模下，这一问题被急剧放大——2048个核心同时请求数据时，即使配备HBM3高带宽内存，平均每核可用带宽也仅为3.1GB/s。
近存计算：让计算靠近数据
近存计算（Near-Memory Computing）的核心理念是在内存芯片附近放置轻量级处理单元。2048核处理器在HBM堆栈的Base Die中集成了可编程逻辑单元，可执行规约、扫描等常见并行原语，将相关数据传输量减少80%以上。在PageRank算法的实测中，加速比达到3.7倍。
存算一体：在存储单元中完成计算
更激进的方法是存算一体（PIM），在DRAM或ReRAM存储单元中直接嵌入计算能力。2048核处理器的部分HBM堆栈采用了PIM设计，每个Bank配备4个ALU，在矩阵向量乘法中实现了惊人的12倍能效提升。
CXL内存扩展
CXL协议为2048核处理器提供了灵活的内存扩展能力。通过CXL 2.0 Type-3设备，可将系统总内存从内置的512GB扩展至4TB以上。CXL内存的访问延迟约为本地DDR5的2-3倍，但对于内存容量受限的应用，这一折中是值得的。