cwchang / llama-3-taiwan-8b-instruct

使用的模型是 `Llama-3-Taiwan-8B-Instruct` 的量化版本。更多详情可以在 https://hugging-face.cn/yentinglin/Llama-3-Taiwan-8B-Instruct 上找到。

8B

299 下拉 更新于6周前

6周前

640bcb904089 · 4.7GB

模型
llama
·
8.03B
·
Q4_K_S
参数
{"num_ctx":8192,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>","<|reserved_special_token"]}
模板
"{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""

用户说明

所使用的模型是经过量化的 Llama-3 台湾 8B Instruct，这是一个为传统中文对话设计的专门模型，具有 80 亿参数。量化减少了模型的大小和计算需求，同时保持性能，使其适用于资源受限的环境。更详细的信息可以在 Hugging Face 页面 上找到。