用户用二手英特尔傲腾持久内存攒机 本地跑万亿参数大模型达4token/秒
2026-05-12 08:31:33
4次阅读
3个评论
OP用768GB二手傲腾PMem(设为内存模式)、12GB RTX3060等硬件,总造价约1900美元,本地跑万亿参数Kimi K2.5生成速度约4token/秒。网友热议其性能、功耗、硬件兼容性,有人提优化建议,也有人质疑实用性。
0
0
2026-05-12 08:32:06

回复 |
引用
2026-05-12 08:32:35

回复 |
引用
2026-05-12 08:33:04

回复 |
引用
共3条
1
相关帖子
- Reddit网友晒4块RTX6000Pro跑大模型,评论区热议
- 本地跑Qwen3.6/Gemma4体验佳?网友实测各模型优劣引热议
- Anthropic调整Claude参数被指降质 本地模型价值引热议
- 网友用RTX6000 Pro跑本地Qwen3.6当日常编程主力
- Qwen发布Qwen-Scope官方SAE 可对大模型做“脑部手术”
- 用户在MacBook Pro M5 Max 128GB本地跑通Qwen3.6-35B,体验不输Claude
- 调整Gemma 4视觉令牌参数可大幅提升其视觉识别能力
- 毛主席诗词《渔家傲反第一次大“围剿”》
- DeepSeek V4 Pro/Flash上线HuggingFace,网友热议参数与运行门槛
- Reddit热议本地大模型:Qwen3.6比肩前沿模型引争议