Reddit热议!8GB内存跑2.78T参数大模型,老外怎么看?
2026-08-04 19:16:42
9次阅读
1个评论
Reddit网友热议一个C99编写的推理引擎,仅用8GB内存和NVMe SSD流式加载,就能在CPU上运行2.78T参数的Kimi K3 MoE模型。网友惊叹其为“LLM时代的图灵机”,但承认速度极慢,更像系统工程实验而非实用方案。
收藏 0 0
    小陈 manage advert
    2026-08-04 19:17:15
    回复 |  引用
共1条 1

登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注