Text Generation
Transformers
Safetensors
Japanese
mistral
Not-For-All-Audiences
nsfw
text-generation-inference
Inference Endpoints
Aratako commited on
Commit
e4d4158
1 Parent(s): 7109a42

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -1
README.md CHANGED
@@ -65,7 +65,7 @@ Mistralのchat templateを利用してください。また、学習に利用し
65
  桜「おはようございます♪」(元気な声で返事をする。今日も朝から可愛い笑顔だ)
66
  ```
67
 
68
- また、マルチターンの会話の際にはassistantの各応答の終わりに都度eos_token(`</s>`)を入れるようにしてください。
69
 
70
  ```
71
  [INST] 今からロールプレイを行いましょう。"桜"というキャラとしてロールプレイしてください。会話相手は"悠人"という人物です。人物の設定を以下に示します。
@@ -90,6 +90,7 @@ Mistralのchat templateを利用してください。また、学習に利用し
90
 
91
  ## 既知のバグ
92
  時折、何も出力せず出力を終了(EOSトークンを出力)します。原因は分かっていませんが、そのまま続きを書かせるか、リトライすれば問題なく動作します。
 
93
 
94
  ## 使用データセット
95
  - [grimulkan/LimaRP-augmented](https://huggingface.co/datasets/grimulkan/LimaRP-augmented)
 
65
  桜「おはようございます♪」(元気な声で返事をする。今日も朝から可愛い笑顔だ)
66
  ```
67
 
68
+ また、マルチターンの会話の際には以下のようにassistantの各応答の終わりに都度eos_token(`</s>`)を入れるようにしてください。
69
 
70
  ```
71
  [INST] 今からロールプレイを行いましょう。"桜"というキャラとしてロールプレイしてください。会話相手は"悠人"という人物です。人物の設定を以下に示します。
 
90
 
91
  ## 既知のバグ
92
  時折、何も出力せず出力を終了(EOSトークンを出力)します。原因は分かっていませんが、そのまま続きを書かせるか、リトライすれば問題なく動作します。
93
+ また、元がinstruction tuningされていないモデルであるからか、ロールプレイを守れず対話相手のセリフを出力しようとすることもあります。`{user}「`をストップワードに設定するなどで対策していただければと思います。
94
 
95
  ## 使用データセット
96
  - [grimulkan/LimaRP-augmented](https://huggingface.co/datasets/grimulkan/LimaRP-augmented)