Field notes / inference
把跑出来的数字,写成可复核的记录。
这里记录模型服务、GPU 推理和基础设施调优。参数怎么改、测到什么、最后留不留,都按时间写清楚。
GPU inference / Qwen3.8
Qwen3.8 27B / 4×A100 调参记录
持续记录 30001 上 Qwen3.8 INT8 的参数变更、测试结果、保留或回退决定。
阅读记录 →这里记录模型服务、GPU 推理和基础设施调优。参数怎么改、测到什么、最后留不留,都按时间写清楚。
持续记录 30001 上 Qwen3.8 INT8 的参数变更、测试结果、保留或回退决定。
阅读记录 →