Reddit热议!老外怎么看小模型配64亿参数查表?
2026-10-08 01:51:42
120次阅读
2个评论
开发者给21M小模型外挂6.4B参数查表,性能追平114M稠密模型,还把表放SSD省显存。网友直呼这是显存难题最实用的解法,也有人提醒冷启动读长提示词仍是瓶颈,并建议按共现重排数据布局。
0
0
2026-10-08 01:52:15

回复 |
引用
2026-10-08 01:52:44

回复 |
引用
共2条
1