Reddit热议!大神用C语言在8GB内存CPU上跑起2.8万亿参数Kimi K3
2026-08-02 19:10:24
21次阅读
3个评论
一位开发者用C99为Kimi K3编写推理引擎,在8GB内存CPU上实现每秒0.03 token的生成速度,网友惊叹其工程能力,但也调侃速度太慢,100万token需3500年。
0
0
2026-08-02 19:10:56

回复 |
引用
2026-08-02 19:11:25

回复 |
引用
2026-08-02 19:11:54

回复 |
引用
共3条
1
相关帖子
- Reddit热议!Kimi K3 2.8万亿参数模型发布,网友调侃显存不够用
- Reddit热议!768GB内存+双5090跑Kimi K3仅4t/s
- Reddit热议!8GB内存跑2.78T参数大模型,老外怎么看?
- Reddit热议!Kimi K3模型104B参数震撼发布,网友直呼跑不动
- Reddit热议!Kimi K3百亿参数模型发布,网友热议跑不跑得动?
- Reddit热议!美国拟禁开源AI模型Kimi K3?
- Reddit热议!Kimi K3开源在即,老外怎么看?
- Reddit热议!Kimi K3倒计时发布,网友疯狂期待
- Reddit热议!Kimi K3模型被压缩至594GB,1-bit量化仍保持78.9%准确率
- Reddit热议!Kimi K3模型发布,网友调侃“跑不动”成焦点