Exveria commited on
Commit
c2a33c5
1 Parent(s): 40ef1c0

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +49 -2
README.md CHANGED
@@ -11,8 +11,55 @@ license: apache-2.0
11
  関係者の皆様に感謝申し上げます。
12
 
13
  # 作成方法
14
- 複数のモデルのチャットベクター
15
- モデルの単純な線形マージ
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
16
 
17
  # プロンプトテンプレート
18
  必須ではありませんが、Vicuna-1.1テンプレートを使用することができます。
 
11
  関係者の皆様に感謝申し上げます。
12
 
13
  # 作成方法
14
+ モデルレシピは下記の通りです。
15
+
16
+ ベースモデル(Ninja-v2-Base)
17
+
18
+ Ninja-v2-Base (mergekitにて作成)
19
+ ```yaml
20
+ models:
21
+ - model: MTSAIR/multi_verse_model
22
+ - model: HuggingFaceH4/zephyr-7b-beta
23
+ merge_method: model_stock
24
+ base_model: amazingvince/Not-WizardLM-2-7B
25
+ dtype: bfloat16
26
+ ```
27
+
28
+ Novels-7B(ninja_mergerにて作成)
29
+ ```yaml
30
+ target_model: "stabilityai/japanese-stablelm-instruct-gamma-7b"
31
+ -
32
+ left: "Elizezen/Phos-7B" # ベースモデルの指定
33
+ right: "stabilityai/japanese-stablelm-instruct-gamma-7b" # サブモデルの指定
34
+ operation: "sub" # 組み合わせの操作。"mix"、"add"などを指定
35
+ velocity: 1.0
36
+
37
+ -
38
+ left: "Elizezen/Antler-7B" # ベースモデルの指定
39
+ right: "stabilityai/japanese-stablelm-instruct-gamma-7b" # サブモデルの指定
40
+ operation: "sub" # 組み合わせの操作。"mix"、"add"などを指定
41
+ velocity: 1.0
42
+ ```
43
+ Ninja-v2(ninja_mergerにて作成)
44
+ ```yaml
45
+ target_model: "Ninja-v2-Base"
46
+ models: # 組み合わせの重み。0.0から1.0の範囲で指定
47
+ -
48
+ left: "NTQAI/chatntq-ja-7b-v1.0" # ベースモデルの指定
49
+ right: "mistralai/Mistral-7B-v0.1" # サブモデルの指定0
50
+ operation: "sub" # 組み合わせの操作。"mix"、"add"などを指定
51
+ velocity: 1.0
52
+ -
53
+ left: "Elizezen/Berghof-NSFW-7B" # ベースモデルの指定
54
+ right: "stabilityai/japanese-stablelm-instruct-gamma-7b" # サブモデルの指定
55
+ operation: "sub" # 組み合わせの操作。"mix"、"add"などを指定
56
+ velocity: 0.5
57
+ -
58
+ left: "Novels-7B" # ベースモデルの指定
59
+ right: "stabilityai/japanese-stablelm-instruct-gamma-7b" # サブモデルの指定
60
+ operation: "sub" # 組み合わせの操作。"mix"、"add"などを指定
61
+ velocity: 1.0
62
+ ```
63
 
64
  # プロンプトテンプレート
65
  必須ではありませんが、Vicuna-1.1テンプレートを使用することができます。