关于config.json中配置项对应不同模型该如何正确填写

[xiaoToby]

例行检查

• 我已确认目前没有类似 issue
• 我已完整查看过项目 README，以及项目文档
• 我使用了自己的 key，并确认我的 key 是可正常使用的
• 我理解并愿意跟进此 issue，协助测试和提供反馈
• 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

你的版本

• 公有云版本
• 私有部署版本, 具体版本号:

问题描述, 日志截图
在config.json文件中如图所示的配置项，对应不同的模型，该如何正确填写？

例如在Meta-Llama-3-8B-Instruct中，


该怎么和config.json中配置项对应上？

因为我在用Meta-Llama-3-8B-Instruct进行对话时，出现了如图所示的现象：

复现步骤

预期结果

相关截图

[xiaoToby]

@c121914yu @nongmo677

[c121914yu]

这不是模型问题么

[xiaoToby]

我的意思是

和

的对应关系

@c121914yu @nongmo677

[c121914yu]

我的意思是

和

的对应关系

@c121914yu @nongmo677

不懂这是啥版本～只知道 llama3 官方是 8k 最大上下文。温度一般是 0-1