mistrallite:7b-v0.1-q4_K_S - Ollama 框架

mistrallite

MistralLite 是一个基于 Mistral 微调的模型，增强了处理长上下文的能力。

7b

30.1K 拉取次数更新于 16 个月前

更新于 16 个月前

16 个月前

81a8a1744387 · 4.1GB

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

自述文件

Mistrallite 是一个基于 Mistral 微调的模型，增强了处理长上下文（高达 32K 个 token）的能力。该模型在一些长上下文检索和问答任务中表现显著更好。

参考