一个开源的专家混合(MoE)代码语言模型,在特定于代码的任务中,性能与GPT4-Turbo相当。

16b 236b

722.3K 6个月前

自述文件

DeepSeek-Coder-V2 是一个开源的专家混合(MoE)代码语言模型,在特定于代码的任务中,性能与GPT4-Turbo相当。 DeepSeek-Coder-V2 是从 DeepSeek-Coder-V2-Base 进一步预训练而来,使用了 6 万亿个token,这些token来自高质量和多来源的语料库。

参考

Hugging Face