minimind/scripts
Linxiushen d4b67f1783 [fix] serve_openai_api 非流式端点的 max_tokens 不生效,与流式端点行为不一致
非流式分支传的是 max_length,但 MiniMindForCausalLM.generate() 的签名里
没有这个形参(只有 max_new_tokens=8192),max_length 被 **kwargs 吞掉后
无人处理,于是 request.max_tokens 对生成长度零约束。

同一文件的流式分支(第117行)传的是 max_new_tokens=max_tokens,精确生效。
同一个请求参数在两条路径上行为完全不同。

判决性实验:同时传 max_length=15 与 max_new_tokens=20,
prompt 长度 10 -> 实际输出总长 30(新增 20),证明 max_length 被无视。

改为与流式分支一致的 max_new_tokens=request.max_tokens(一行)。
2026-09-20 11:54:35 +08:00
..
chat_api.py [fix] robustness 2026-06-28 18:03:34 +08:00
convert_model.py [update] tie embedding 2026-04-19 21:57:28 +08:00
eval_toolcall.py [fix] replace tool eval() with an AST math evaluator 2026-09-07 07:53:33 +08:00
serve_openai_api.py [fix] serve_openai_api 非流式端点的 max_tokens 不生效,与流式端点行为不一致 2026-09-20 11:54:35 +08:00
web_demo.py [fix] replace tool eval() with an AST math evaluator 2026-09-07 07:53:33 +08:00