cwchang / llama-3-taiwan-8b-instruct

所使用的模型是 `Llama-3-Taiwan-8B-Instruct` 的量化解版本。更多详情可在 https://hugging-face.cn/yentinglin/Llama-3-Taiwan-8B-Instruct 上找到

8B

299 Pulls 更新于6周前

更新于7周前

7周前

5fd7596cb0b5 · 32GB

{"num_ctx":8192,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>","<|reserved_special_token"]}

"{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""

README

所使用的模型是量化版本的 Llama-3 台湾 8B Instruct，这是一个专门用于繁体中文对话的模型，具有 8 亿参数。量化减少了模型的大小和计算要求，同时保持性能，适用于资源受限的环境部署。更多详细信息可以在 Hugging Face 页面找到。