一个开源的混合专家 (MoE) 代码语言模型,在代码特定任务中实现了与 GPT4-Turbo 相当的性能。

16b 236b

722.3K 6 个月前

自述文件

DeepSeek-Coder-V2 是一个开源的混合专家 (MoE) 代码语言模型,在代码特定任务中实现了与 GPT4-Turbo 相当的性能。 DeepSeek-Coder-V2 在 DeepSeek-Coder-V2-Base 的基础上进一步预训练了 6 万亿个 tokens,这些 tokens 来源于高质量和多来源的语料库。

参考

Hugging Face