Reddit热议!老外怎么看跨州分布式运行744B参数AI模型?
2026-06-21 00:33:27
380次阅读
1个评论
一位研究员用6块消费级GPU跨6个州联网运行744B参数模型,速度达30 tok/s,较此前提升15-20倍。但网友质疑其未使用草稿模型,并指出基准测试跳过了安全传输路径,数据真实性存争议。
0
0
2026-06-21 00:33:59

回复 |
引用
共1条
1
相关帖子
- Reddit热议!万亿参数AI模型Ling 2.6发布,老外怎么看?
- Reddit热议!276B参数模型竟自称“小”?
- Reddit热议!老外怎么看待DeepSeek模型本地运行?
- Reddit热议!老外怎么看10M参数TinyDecide模型?
- Reddit热议!老外怎么看德国AI新模型Kolibri 78B?
- Reddit热议!老外怎么看小模型配64亿参数查表?
- Reddit热议!老外怎么看20K参数微型语言模型?
- Reddit热议!老外怎么看8亿参数物理决策模型Vega?
- 实测:12GB显存可流畅运行35B级Qwen 35B-A3B MoE大模型
- Reddit爆火!老外怎么看Qwen 3.8 27B的“话痨式”推理?