Orca 2 由 Microsoft research 构建,是 Meta 的 Llama 2 模型的微调版本。 该模型旨在特别擅长推理。
7b 13b
63.8K 拉取 更新于 15 个月前
更新于 15 个月前
15 个月前
a8dcfac3ac32 · 7.4GB
模型
架构llama
·
参数13B
·
量化Q4_0
7.4GB
参数
{ "num_ctx": 4096, "stop": [ "<|im_start", "<|im_end", "|im_start",
82B
模板
<|im_start|>system {{ .System }}<|im_end|> <|im_start|>user {{ .Prompt }}<|im_end|> <|im_start|>assi
106B
系统
You are Orca, an AI language model created by Microsoft. You are a cautious assistant. You carefully
215B
许可
MICROSOFT RESEARCH LICENSE TERMS IF YOU LIVE IN THE UNITED STATES, PLEASE READ THE “BINDING ARBIT
11kB
自述文件
Orca 2 模型由 Microsoft Research 构建。 它们是在 Meta 的 Llama 2 上使用合成数据集进行微调的,该数据集旨在增强小型模型的推理能力。 所有合成训练数据均使用 Microsoft Azure 内容过滤器进行审核。
用例
Orca 2 是一位有用的助手,可以在推理给定数据、阅读理解、数学问题解决和文本摘要等任务中提供答案。
该模型旨在特别擅长推理。
Microsoft Research 开发此模型的目的是鼓励进一步研究小型语言模型的开发、评估和对齐。
CLI
70 亿参数模型
ollama run orca2
130 亿参数模型
ollama run orca2:13b
API
示例
curl -X POST http://localhost:11434/api/generate -d '{
"model": "orca2",
"prompt":"Why is the sky blue?"
}'
参考资料
Microsoft Research 发表的论文,Orca 2:教小型语言模型如何推理