llama.cpp合并PR为显存不足的MoE模型带来GPU专家缓存，网友直呼“穷显卡俱乐部”的福音。实测有人提速5t/s，有人却因缓存命中率低反而降速，多GPU支持仍在路上。