Reddit爆火!老外怎么看0.8B小模型移植51B记忆?
2026-09-26 08:17:45
10次阅读
3个评论
网友实验将Qwen3.8的n-gram记忆移植到0.8B模型,困惑度降5%,引发热议。有人质疑只是适配器训练效果,有人调侃“小脑袋大记忆”,还有人已在4B/35B上复现并讨论PLE迁移是否可行。
收藏 0 赞 0
    小陈 manage advert
    2026-09-26 08:18:17
    回复 |  引用
    小陈 manage advert
    2026-09-26 08:18:46
    回复 |  引用
    小陈 manage advert
    2026-09-26 08:19:15
    回复 |  引用
共3条 1

请 登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注