rjmalagon / dolphin-2.9.3-yi-1.5-34b-32k-q8_0

64Pulls 更新于8周前

8周前

dba644b3da84 · 37GB

模型
llama
·
34.4B
·
Q8_0
params
{"stop":["<|im_start|>","<|im_end|>"]}
模板
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user {{ .Prompt }}<|im_end|> {{ end }}<|im_start|>assistant {{ .Response }}<|im_end|>

Readme

Dolphin 2.9.3 Yi 1.5 34b 32k 🐬

由Eric Hartford，Lucas Atkins，Fernando Fernandes和Cognitive Computations策划和训练

Discord
Discord: https://discord.gg/cognitivecomputations

感谢Dolphin 2.9.3的赞助商
- Crusoe Cloud - 提供了优秀的按需 8xH100 节点
- OnDemand - 提供了推理赞助

本模型基于 Yi-1.5-34b-32k，遵循 Apache 2.0 许可协议。

基础模型具有 32k 上下文，我们进行了 8192 序列长度的微调。

Dolphin 2.9.3 使用 ChatML 提示模板格式。

示例

<|im_start|>system
You are Dolphin, a helpful AI assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

Dolphin-2.9.3 拥有多种指令遵循、对话和编码技能。它还具有初始的代理能力并支持函数调用。

Dolphin 不受审查。我们已过滤数据集以删除对齐和偏差。这使得模型更符合规范。建议您在将模型作为服务公开之前实现自己的对齐层。它将高度符合任何请求，即使是道德上不合法的请求。请阅读我关于未审查模型的博客文章。https://erichartford.com/uncensored-models 您对本模型创建的任何内容负责。负责任地享受。

Dolphin 根据 Apache 2.0 许可协议授权。我们允许任何使用，包括商业用途。Dolphin 在 GPT4 等模型生成数据的基础上进行训练。

评估

image/png

https://hugging-face.cn/cognitivecomputations/dolphin-2.9.3-Yi-1.5-34B-32k