cwchang / llama-3-taiwan-8b-instruct

使用的模型是`Llama-3-Taiwan-8B-Instruct`的量化解版本。更多详情可在https://hugging-face.cn/yentinglin/Llama-3-Taiwan-8B-Instruct找到。

8B

299次下拉 6周前更新

6周前更新

6周前

bda3a66d7ea4 · 5.6GB

{"num_ctx":8192,"stop":["<|start_header_id|>","<|end_header_id|>","<|eot_id|>","<|reserved_special_token"]}

{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""

README

使用的模型是 Llama-3 台湾 8B Instruct 的量化版本，这是一个专门为传统中文对话设计的具有 80 亿参数的模型。量化降低了模型的大小和计算需求，同时保持性能，适合在资源受限的环境中部署。更多详细信息请参阅Hugging Face 页面。