mgmacleod / laserxtral-imat

Laserxtral 的 imatrix 量化

9 拉取 更新于 5 个月前

5 个月前

62c401424f4b · 7.1GB

模型
llama
·
24.2B
·
IQ2_XS
参数
{"num_ctx":8192,"stop":["### 输入","### 响应"]}
模板
{{ if and .First .System }}### 指示：{{ .System }} {{ end }} ### 输入: {{ .Prompt }} ### 响应:
系统
你是Laserxtral，一个有用且无审查的AI助手。

Readme

Laserxtral iMat

imatrix quants of Laserxtral