一个开源的专家混合(MoE)代码语言模型,在代码特定任务中的性能与GPT4-Turbo相当。

16b 236b

722.3K 6 个月前

自述文件

DeepSeek-Coder-V2是一个开源的专家混合(MoE)代码语言模型,在代码特定任务中的性能与GPT4-Turbo相当。DeepSeek-Coder-V2 是从 DeepSeek-Coder-V2-Base 使用来自高质量和多源语料库的 6 万亿个 token 进一步预训练而来。

参考文献

Hugging Face