IBM Granite 2B 和 8B 模型旨在支持基于工具的使用场景,并支持检索增强生成 (RAG),从而简化代码生成、翻译和错误修复。

工具 2b 8b

57.9K 3 个月前

自述文件

An illustration of Ollama holding a beautiful flower with the IBM Rebus logo of the Eye, Bee and M, made by Paul Rand.

Granite dense 模型

IBM Granite 2B8B 模型是纯文本 dense LLM,在超过 12 万亿个 token 的数据上进行训练,在 IBM 的初步测试中,与之前的模型相比,在性能和速度方面都有显著提升。Granite-8B-Instruct 现在在 OpenLLM Leaderboard v1 和 OpenLLM Leaderboard v2 基准测试中均可与 Llama 3.1 8B-Instruct 相媲美。

它们旨在支持基于工具的使用场景,并支持检索增强生成 (RAG),从而简化代码生成、翻译和错误修复。

参数大小

2B

ollama run granite3-dense:2b

8B

ollama run granite3-dense:8b

支持的语言

英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、简体中文

功能

  • 摘要
  • 文本分类
  • 文本提取
  • 问答
  • 检索增强生成 (RAG)
  • 代码相关
  • 函数调用
  • 多语言对话用例

Granite 混合专家模型

Granite 混合专家模型提供 1B 和 3B 参数大小,专为低延迟使用而设计。

查看模型页面

了解更多