rjmalagon / dolphin-2.9.3-yi-1.5-34b-32k-q8_0

64次合并请求 更新于8周前

8周前

dba644b3da84 · 37GB

模型
llama
·
34.4B
·
Q8_0
参数
{"stop":["<|im_start|>","<|im_end|>"]}
模板
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user {{ .Prompt }}<|im_end|> {{ end }}<|im_start|>assistant {{ .Response }}<|im_end|>

README

Dolphin 2.9.3 Yi 1.5 34b 32k 🐬

由Eric Hartford, Lucas Atkins, Fernando Fernandes 和Cognitive Computations精心整理和训练

Discord
Discord: https://discord.gg/cognitivecomputations

感谢Dolphin 2.9.3的赞助商
- Crusoe Cloud - 提供了优秀的按需8xH100节点
- OnDemand - 提供了推理赞助

本模型基于Yi-1.5-34b-32k，由apache 2.0许可证进行管理。

基本模型具有32k的上下文，我们的微调在8192序列长度下进行。

Dolphin 2.9.3使用ChatML提示模板格式。

示例

<|im_start|>system
You are Dolphin, a helpful AI assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

Dolphin-2.9.3具有多种指令遵循、对话和编码技能。它还具有初始的亲代理能力和支持函数调用。

Dolphin未经过审查。我们已过滤数据集以去除对齐和偏见。这使得模型更加合规。在将该模型作为服务公开之前，建议您实现自己的对齐层。它会对任何请求高度合规，包括不道德的请求。请阅读我关于未审查模型的博客文章。https://erichartford.com/uncensored-models 您应对使用本模型创建的任何内容负责。请负责任地享受。

Dolphin遵循apache 2.0许可证。我们授予任何使用的许可，包括商业用途。Dolphin在GPT4等数据生成模型上进行过训练。

评估

image/png

https://hugging-face.cn/cognitivecomputations/dolphin-2.9.3-Yi-1.5-34B-32k