grapevine-AI commited on
Commit
ebccdd8
1 Parent(s): d535745

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +27 -3
README.md CHANGED
@@ -1,3 +1,27 @@
1
- ---
2
- license: llama3.1
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: llama3.1
3
+ ---
4
+ # What is this?
5
+ CyberAgent社によるLlama-3.1の日本語継続事前学習モデル[Llama-3.1-70B-Japanese-Instruct-2407](https://huggingface.co/cyberagent/Llama-3.1-70B-Japanese-Instruct-2407)をGGUFフォーマットに変換したものです。<br>
6
+ **llama.cppのLlama3.1の特殊なRoPE Embedding対応アップデート([#8676](https://github.com/ggerganov/llama.cpp/pull/8676))を反映しています。**
7
+
8
+ # imatrix dataset
9
+ 日本語能力を重視し、日本語が多量に含まれる[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)データセットを使用しました。<br>
10
+ なお、計算リソースの関係上imatrixの算出においてはQ8_0量子化モデルを使用しました。
11
+
12
+ # Chat template
13
+ ```
14
+ <|start_header_id|>system<|end_header_id|>\n\nここにsystemプロンプトを書きます<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nここにMessageを書きます<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n
15
+ ```
16
+
17
+ # Environment
18
+ Windows版llama.cpp-b3472および同時リリースのconvert_hf_to_gguf.pyを使用して量子化作業を実施しました。
19
+
20
+ # License
21
+ llama3.1 License
22
+
23
+ # Developer
24
+ Meta & CyberAgent
25
+
26
+ # Credit
27
+ **Built with Llama**