Reddit热议!768GB内存+双5090跑Kimi K3仅4t/s
2026-07-30 13:00:47
48次阅读
2个评论
一名用户在配备768GB DDR5内存和双RTX 5090显卡的家用服务器上,成功运行了Kimi K3大模型(Q2_K量化版),生成速度约4 token/秒,预填充速度达50-70 tps。网友惊叹其硬件配置,同时调侃速度太慢只适合过夜任务,并讨论量化模型、网络瓶颈及未来优化空间。
0
0
2026-07-30 13:01:19

回复 |
引用
2026-07-30 13:01:48

回复 |
引用
共2条
1
相关帖子
- Reddit热议!80块RTX 5090跑Kimi K3,网友直呼“用户个屁”
- Reddit热议!大神用C语言在8GB内存CPU上跑起2.8万亿参数Kimi K3
- Reddit热议!Kimi K3百亿参数模型发布,网友热议跑不跑得动?
- Reddit热议!美国拟禁开源AI模型Kimi K3?
- Reddit热议!Kimi K3开源在即,老外怎么看?
- Reddit热议!8GB内存跑2.78T参数大模型,老外怎么看?
- Reddit热议!Kimi K3倒计时发布,网友疯狂期待
- Reddit热议!Kimi K3模型被压缩至594GB,1-bit量化仍保持78.9%准确率
- Reddit热议!Kimi K3模型发布,网友调侃“跑不动”成焦点
- Reddit热议!老外怎么看中国AI模型Kimi K3被指蒸馏?