cwchang / llama-3-taiwan-8b-instruct

所使用的模型是 `Llama-3-Taiwan-8B-Instruct` 的量化版本。更多详情可以在https://hugging-face.cn/yentinglin/Llama-3-Taiwan-8B-Instruct中找到。

8B

299 拉取 6周前更新

6周前更新

6周前

020d5baa4302 · 4.3GB

"{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""

{"num_ctx":8192,"stop":["<|start_header_id|>","<|end_header_id|>","<|end_of_text|>","<|eot_id|>","<|reserved_special_token"]}

说明

所使用的模型是Llama-3台湾8B Instruct的量化版本，这是一个专为传统中文对话设计的专用模型，具有80亿参数。量化可以减小模型大小和计算需求，同时保持性能，适用于资源受限的环境。更多详细信息请参考Hugging Face页面。