Reddit热议!老外怎么看单卡4090跑552B大模型?
2026-10-19 03:01:45
8次阅读
2个评论
开发者基于Strata打造Xolotl推理引擎,在单块4090加90G内存的普通PC上运行552B的DeepSeek-V4.1-Flash,达27 tok/s。网友惊叹之余质疑其重度量化牺牲质量,作者承认需多花3-10倍思考token,正优化中。
收藏 0 赞 0
    小陈 manage advert
    2026-10-19 03:02:18
    回复 |  引用
    小陈 manage advert
    2026-10-19 03:02:47
    回复 |  引用
共2条 1

请 登录 后评论。没有帐号? 注册 一个。

小陈

manage advert
  • 0 回答
  • 0 粉丝
  • 0 关注