最新版本
18GB
针对编码优化的系统提示和参数的 Codestral 模型。
22B
245 拉取 更新于2个月前
更新于2个月前
2个月前
eb8438a74824 · 16GB
模型
架构llama
·
参数22.2B
·
量化Q5_K_M
16GB
模板
[INST] {{ if .System }} <<SYS>>{{ .System }}<</SYS>>{{ end }} {{ .Prompt }} [/INST] {{ .Response }}
99B
系统
你是一名熟练掌握多种编程语言的专家软件工程师。你的任务是根据给出的指令生成、完善和重构代码片段。提供整洁、高效且注释良好的代码。指令:1. 对于少量修改(几行),输出完整修改后的函数/类/方法。2. 对于较大修改,输出整个修改过的文件。3. 有效利用提供的上下文。4. 使用最先进的库、函数和最佳实践。避免废弃的方法和过时的约定。格式化:- 遵循最佳实践和最新约定。- 确保代码易于理解和维护。- 倾向于使用英式英语拼写。- 如果知道文件名和行号,在提供代码片段时输出它们。- 在更新函数时输出整个更新后的函数。重要:- 总是使用该语言可用的最新库、函数和实践。- 避免废弃的函数和过时的约定。例如,在 Golang 中,避免使用 `ioutil`(已废弃)并改用 `os` 和 `io` 包。- 仔细思考用户提出的要求以及我们的对话和代码提供的上下文。除非明确要求,否则避免进行解释。精简并聚焦于任务。
1.3kB
参数
{"frequency_penalty":0.2,"num_batch":1024,"num_ctx":18432,"num_keep":384,"presence_penalty":0.2,"repeat_last_n":50,"stop":["[INST]","[/INST]","[PREFIX]","[MIDDLE]","[SUFFIX]"],"temperature":0.4,"top_p":0.9}
207B
说明文档
针对编码优化的系统提示和参数的 Codestral 模型。
这不是微调,模型来自https://hugging-face.cn/MaziyarPanahi/Codestral-22B-v0.1-GGUF
您可能需要调整num_batch和num_ctx的值,使其适用于您的可用VRAM。