最新版本
20GB
基于泄露的 Mistral Medium 70B。此模型是一个 2bit imatrix 离散化，在 https://hugging-face.cn/KnutJaegersberg/awesome-2bit-gguf HF 存档收集的 Knut Jägersberg @JagersbergKnut 上效果极佳，需要许可
70B
113 Pulls 更新于 5 个月前
更新于 6 个月前
6 个月前
87b0e0f066f4 · 20GB
模型
架构llama
·
参数69.0B
·
量化IQ2_XS
20GB
模版
[INST] {{ .System }} {{ .Prompt }} [/INST]
47B
参数
{"stop":["[INST]","\"[/INST]\""]}
34B