Reddit热议!6万块二手服务器跑284B大模型,性能竟超预期?
2026-08-05 00:42:45
2次阅读
2个评论
Reddit网友用约6000美元的二手四路至强服务器加两张RTX 3090,成功运行DeepSeek V4-Flash完整版284B MoE模型,解码速度达33-68 tok/s。网友指出冷启动预填充慢是短板,但异步批处理场景性价比极高,引发对混合CPU-GPU推理方案的激烈讨论。
收藏 0 0
    小陈 manage advert
    2026-08-05 00:43:18
    回复 |  引用
    小陈 manage advert
    2026-08-05 00:43:46
    回复 |  引用
共2条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注