Stable LM 2 是一个先进的 1.6B 和 12B 参数语言模型,使用多种语言的数据进行训练,包括英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语。
1.6b 12b
108.1K 拉取次数 更新于 10 个月前
更新于 13 个月前
13 个月前
3eb0d616668e · 1.0GB
模型
架构stablelm
·
参数1.64B
·
量化Q4_K_M
1.0GB
许可
STABILITY AI 非商业研究社区许可协议 日期:2023 年 12 月 06 日 通过使用
7.4kB
自述文件
Stable LM 2 1.6B 是一个先进的 1.6 和 12B 十亿参数的小型语言模型,使用多种语言的数据进行训练,包括英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语。
该模型基于公开可用的数据集和合成数据集的混合进行训练,并利用了直接偏好优化 (DPO)。