1.1M 2 个月前

LFM2.5 是一种新型混合模型系列,专为设备端部署而设计。

工具 1.2b
ollama run lfm2.5-thinking

自述文件

image.png

LFM2.5 是一种新型混合模型系列,专为设备端部署而设计。它基于 LFM2 架构,并进行了扩展的预训练和强化学习。

一流性能:1.2B 模型可与更大的模型相媲美,将高质量的 AI 带到您的口袋中。

LFM2.5-1.2B-Thinking 是一种通用文本专用模型,具有以下特点

  • 参数数量:1.17B
  • 层数:16(10 个双门控 LIV 卷积块 + 6 个 GQA 块)
  • 训练预算:28T tokens
  • 上下文长度:32,768 tokens
  • 词汇量:65,536
  • 语言:英语、阿拉伯语、中文、法语、德语、日语、韩语、西班牙语

基准测试

我们将 LFM2.5-1.2B-Thinking 与相关的 2B 以下模型在各种基准测试中进行了比较。

模型 GPQA Diamond MMLU-Pro IFEval IFBench Multi-IF GSM8K MATH-500 AIME25 BFCLv3
LFM2.5-1.2B-Thinking 37.86 49.65 88.42 44.85 69.33 85.60 87.96 31.73 56.97
Qwen3-1.7B (thinking) 36.93 56.68 71.65 25.88 60.33 85.60 81.92 36.27 55.41
LFM2.5-1.2B-Instruct 38.89 44.35 86.23 47.33 60.98 64.52 63.20 14.00 49.12
Qwen3-1.7B (instruct) 34.85 42.91 73.68 21.33 56.48 33.66 70.40 9.33 46.30
Granite-4.0-H-1B 24.34 27.64 80.08 24.93 47.56 69.60 47.20 1 50.69
Gemma 3 1B IT 24.24 14.04 63.25 20.47 44.31 42.15 45.20 1 16.64
Llama 3.2 1B Instruct 16.57 20.80 52.37 15.93 30.16 39.04 23.40 0.33 21.44