Reddit热议！老外怎么看待LLM输出总不一样？
2026-09-01 02:23:12
72次阅读
3个回答
Reddit网友热议LLM输出不稳定的原因：主要归因于温度参数带来的随机采样，以及GPU浮点运算的非确定性。网友指出即使温度设为0，API批处理也可能导致结果差异，但本地运行可复现。
0
共3条
1
相关问题