Reddit热议!老外怎么看小模型配64亿参数查表?
2026-10-08 01:51:42
4次阅读
2个评论
开发者给21M小模型外挂6.4B参数查表,性能追平114M稠密模型,还把表放SSD省显存。网友直呼这是显存难题最实用的解法,也有人提醒冷启动读长提示词仍是瓶颈,并建议按共现重排数据布局。
0
0
2026-10-08 01:52:15

回复 |
引用
2026-10-08 01:52:44

回复 |
引用
共2条
1
相关帖子
- Reddit热议!老外怎么看AI小模型发布荒?
- Reddit热议!老外怎么看10M参数TinyDecide模型?
- Reddit热议!276B参数模型竟自称“小”?
- Reddit热议!老外怎么看20K参数微型语言模型?
- Reddit热议!老外怎么看7B小模型跑分碾压大模型?
- Reddit热议!老外怎么看Engram技术让本地小模型逆袭?
- Reddit热议!万亿参数AI模型Ling 2.6发布,老外怎么看?
- Reddit热议!美团开源1.6T参数“Longcat 2.0”大模型,老外怎么看?
- Reddit热议!8GB内存跑2.78T参数大模型,老外怎么看?
- Reddit热议!老外怎么看香港小团队发布32B混合架构模型?