dmeta-embedding-zh的Q4_K_M量化版本。

嵌入

178 Pulls 更新于4个月前

4个月前

4b69498e5783 · 70MB

模型
bert
·
102M
·
Q4_K_M

README

注意:此模型需要ollama 0.1.30或更高版本。只能用于生成嵌入。

shaw/dmeta-embedding-zh-q4dmeta-embedding-zh模型的量化版本。

用法

此模型是嵌入模型,意味着它只能用于生成嵌入。

请首先按照以下步骤将此模型拉取到本地磁盘:

ollama pull shaw/dmeta-embedding-zh-q4

然后您可以通过以下方法调用ollama嵌入API:

REST API

curl http://localhost:11434/api/embeddings -d '{
  "model": "shaw/dmeta-embedding-zh-q4",
  "prompt": "天空是灰色的"
}'

Python库

ollama.embeddings(model='shaw/dmeta-embedding-zh-q4', prompt='天空是灰色的')

JavaScript库

ollama.embeddings({ model: 'shaw/dmeta-embedding-zh-q4', prompt: '天空是灰色的' })

Java库

EmbeddingResponse embeddingResponse = embeddingClient.call(
    new EmbeddingRequest(List.of("天空是灰色的", "天空是蓝色的"),
        OllamaOptions.create()
            .withModel("shaw/dmeta-embedding-zh-q4"));

更多文档