ollama issue!

[twythebest]

I have download mmproj-model-f16.gguf and Model-7.6B-F16.gguf, and then I used the modelfile:
FROM ./Model-7.6B-F16.gguf
FROM ./mmproj-model-f16.gguf

TEMPLATE """{{ if .System }}<|im_start|>system

{{ .System }}<|im_end|>{{ end }}

{{ if .Prompt }}<|im_start|>user

{{ .Prompt }}<|im_end|>{{ end }}

<|im_start|>assistant<|im_end|>

{{ .Response }}<|im_end|>"""

PARAMETER stop "<|endoftext|>"
PARAMETER stop "<|im_end|>"
PARAMETER num_ctx 8192

then,I use the command:
ollama create Minicpm-o_2.6 -f config.txt.
After this,something wrong happened:
(1)model in ollama list just has 1GB?
(2)I use command ollama run Minicpm-o_2.6:latest, system shows:Error: pull model manifest: file does not exist!
How to solve it?thanks!

[tc-mb]

你好，请问你用的是我们刚刚开源的minicpm-omni的gguf么？
如果是的话，这个还没有合并到llama.cpp官方分支中，ollama的推理部分本质是llama.cpp。
所以如果想使用ollama需要等一段时间合并才可以。

[twythebest]

好的，期待此模型尽快登录ollama官网！！

[liyimeng]

你好，请问你用的是我们刚刚开源的minicpm-omni的gguf么？ 如果是的话，这个还没有合并到llama.cpp官方分支中，ollama的推理部分本质是llama.cpp。 所以如果想使用ollama需要等一段时间合并才可以。

Might you kindly point out the ongoing PR? or no PR yet?

[bitnom]

is it working in your ollama and llama.cpp forks?

edit: answer is no. Time to break out the GPUs boys