Reddit热议!768GB内存+双5090跑Kimi K3仅4t/s
2026-07-30 13:00:47
48次阅读
2个评论
一名用户在配备768GB DDR5内存和双RTX 5090显卡的家用服务器上,成功运行了Kimi K3大模型(Q2_K量化版),生成速度约4 token/秒,预填充速度达50-70 tps。网友惊叹其硬件配置,同时调侃速度太慢只适合过夜任务,并讨论量化模型、网络瓶颈及未来优化空间。
收藏 0 0
    小陈 manage advert
    2026-07-30 13:01:19
    回复 |  引用
    小陈 manage advert
    2026-07-30 13:01:48
    回复 |  引用
共2条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注