用户用二手英特尔傲腾持久内存攒机 本地跑万亿参数大模型达4token/秒
2026-05-12 08:31:33
226次阅读
3个评论
OP用768GB二手傲腾PMem(设为内存模式)、12GB RTX3060等硬件,总造价约1900美元,本地跑万亿参数Kimi K2.5生成速度约4token/秒。网友热议其性能、功耗、硬件兼容性,有人提优化建议,也有人质疑实用性。
0
0
2026-05-12 08:32:06

回复 |
引用
2026-05-12 08:32:35

回复 |
引用
2026-05-12 08:33:04

回复 |
引用
共3条
1
相关帖子
- Reddit热议!6万块二手服务器跑284B大模型,性能竟超预期?
- Reddit热议!8GB内存跑2.78T参数大模型,老外怎么看?
- Reddit热议!中国芯片新贵CXMT市值超越英特尔
- Reddit热议!大神用C语言在8GB内存CPU上跑起2.8万亿参数Kimi K3
- Reddit网友晒4块RTX6000Pro跑大模型,评论区热议
- 本地跑Qwen3.6/Gemma4体验佳?网友实测各模型优劣引热议
- Reddit热议!16.5万亿参数“空壳模型”嘲讽AI巨头
- Reddit热议!768GB内存+双5090跑Kimi K3仅4t/s
- Anthropic调整Claude参数被指降质 本地模型价值引热议
- Reddit热议!万亿参数AI模型Ling 2.6发布,老外怎么看?