dmeta-embedding-zh-small的Q4_K_M量化版本。

嵌入

390 Pulls 更新于4个月前

4个月前

e5ef33525e12 · 52MB

模型
bert
·
73.7M
·
Q4_K_M

README

注意:此模型需要Ollama 0.1.30或更高版本。它只能用于生成嵌入。

shaw/dmeta-embedding-zh-small-q4dmeta-embedding-zh-small的量化版本。

用法

此模型是一个嵌入模型,意味着它只能用于生成嵌入。

您应先按照以下步骤将此模型拉取到本地磁盘:

ollama pull shaw/dmeta-embedding-zh-small-q4

然后您可以通过以下方法调用ollama嵌入API。

REST API

curl http://localhost:11434/api/embeddings -d '{
  "model": "shaw/dmeta-embedding-zh-small-q4",
  "prompt": "天空是灰色的"
}'

Python库

ollama.embeddings(model='shaw/dmeta-embedding-zh-small-q4', prompt='天空是灰色的')

JavaScript库

ollama.embeddings({ model: 'shaw/dmeta-embedding-zh-small-q4', prompt: '天空是灰色的' })

Java库

EmbeddingResponse embeddingResponse = embeddingClient.call(
    new EmbeddingRequest(List.of("天空是灰色的", "天空是蓝色的"),
        OllamaOptions.create()
            .withModel("shaw/dmeta-embedding-zh-small-q4"));

更多信息