Reddit爆火!老外怎么看单卡R9700性能翻倍?
2026-09-18 17:31:15
2次阅读
2个评论
开发者针对单张AMD R9700显卡优化vLLM推理,Qwen3.8 27b NVFP4模型解码吞吐从153 tok/s翻倍至8并发470 tok/s,预填充达3619 tok/s。网友惊叹单卡接近5090水平,也有人质疑MXFP4转换画质损失及vLLM启动慢、NCCL报错等问题。
0
0
2026-09-18 17:31:48

回复 |
引用
2026-09-18 17:32:17

回复 |
引用
共2条
1