GGUF
Japanese
English
mistral
Inference Endpoints
conversational

ollama model file

#1
by gleitz - opened

I used this Modelfile to run this model with ollama

FROM /path/to/shisa-7b-v1-q6_K.gguf
TEMPLATE """[INST] {{ if and .First .System }}<<SYS>>{{ .System }}
<</SYS>>
{{ end }}{{ .Prompt }} [/INST] """
SYSTEM """あなたは役に立つアシスタントです。"""
PARAMETER stop [INST]
PARAMETER stop [/INST]
PARAMETER stop <<SYS>>
PARAMETER stop <</SYS>>
ollama create shisa-7b-v1 -f /path/to/shisa-7b-v1.Modelfile
» ollama run shisa-7b-v1
>>> 一番いいポケモンは誰ですか?
私はポケモンをプレイしたことがありませんが、私が知っている限り、一番好きなポケモンは、ポケットモンスターの主人公、サトシのピカチュウです。

>>> ヒトカゲはどうですか?
ヒトカゲは、ポケモンシリーズではかなり人気がありますが、私のお気に入りはピカチュウです。

Sign up or log in to comment