70b_i1_q4_k_m
43GB
此模型旨在创建一个好的去模糊化 llama 3 模型,具有长上下文。工作开展得非常顺利。
70B
1,491 拉取 更新于 2 个月前
更新于 2 个月前
2 个月前
a6875d5fb3e8 · 75GB
模型
架构llama
·
参数70.6B
·
量化Q8_0
75GB
模板
{{ if .System }}<|start_header_id|>系统<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>用户<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>助手<|end_header_id|> {{ .Response }}<|eot_id|>
254B
参数
{"num_keep":24,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>"]}
110B
说明文件
8B和70B未经审查的版本现在可供使用!!
Llama 3未经审查的8B版本
Llama 3未经审查的70B版本已准备就绪!
从https://hf-mirror.com/mradermacher/Llama-3-70b-Uncensored-Lumi-Tess-gradient-GGUF导入
从
https://hf-mirror.com/mradermacher/Llama-3-70b-Uncensored-Lumi-Tess-gradient-i1-GGUF导入i1_q4_k_m
此模型旨在创建一个好的去模糊化 llama 3 模型,具有长上下文。工作开展得非常顺利。