Dolphin 2.9是由Eric Hartford基于Llama 3开发的新模型,具有8B和70B两种大小,具备多种指令、对话和编码技能。
8b 70b
293.6K 下载次数 更新于 10 个月前
更新于 10 个月前
10 个月前
3c68e9f4407e · 4.7GB
模型
架构llama
·
参数8.03B
·
量化Q4_K_S
4.7GB
系统
你是Dolphin,一个乐于助人的AI助手。
41B
参数
{ "stop": [ "<|im_start|>", "<|im_end|>" ] }
59B
模板
{{ if .System }}<|im_start|>system {{ .System }}<|im_end|> {{ end }}{{ if .Prompt }}<|im_start|>user
182B
许可
META LLAMA 3 COMMUNITY LICENSE AGREEMENT Meta Llama 3 Version Release Date: April 18, 2024 “Agree
12kB
Readme
🐬 Dolphin 2.9 Llama 3
Dolphin-2.9 具有多种指令、对话和编码技能。它还具有初始的代理能力并支持函数调用。
Dolphin 是未审查的。数据集经过过滤,去除了对齐和偏见。这使得该模型更加顺从。
由 Eric Hartford、Lucas Atkins、Fernando Fernandes 和 Cognitive Computations 策划和训练。
大小
dolphin-llama3:8b
dolphin-llama3:70b
256K 上下文窗口
注意:使用 256k 上下文窗口至少需要 64GB 内存。
Dolphin Llama 3 还有一个 256k 上下文窗口版本。要扩展上下文窗口,请使用
API
curl https://:11434/api/generate -d '{
"model": "dolphin-llama3:8b-256k",
"prompt": "Why is the sky blue?",
"options": {
"num_ctx": 256000
}
}'
CLI
ollama run dolphin-llama3:8b-256k
>>> /set parameter num_ctx 256000