Luce团队开源C++/CUDA实现的PFlash，结合推测预填充与FlashPrefill，RTX3090上128K预填充较llama.cpp快10倍，保留单针NIAH检索能力。网友质疑其精度损失、复现难度，也期待适配更多硬件、并入llama.cpp。