mistrallite:7b-v0.1-q6_K - Ollama 框架

mistrallite

MistralLite 是基于 Mistral 微调的模型，具有增强的上下文处理能力。

7b

30.1K 拉取更新于 16 个月前

更新于 16 个月前

16 个月前

c63d67539934 · 5.9GB

<|prompter|>{{ .System }} {{ .Prompt }}</s><|assistant|>

{ "num_ctx": 32768, "stop": [ "<|prompter|>", "<|assistant|>", "</s>

Readme

Mistrallite 是基于 Mistral 微调的模型，具有增强的上下文处理能力（高达 32K tokens）。该模型在多个长上下文检索和问答任务中表现明显更好。

参考