README.md

---
license: other
license_name: fugaku-llm-tou
license_link: https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE
language:
- en
- ja
datasets:
- TFMC/imatrix-dataset-for-japanese-llm
---

# Fugaku-LLM-13B-instruct-gguf
[Fugaku-LLMさんが公開しているFugaku-LLM-13B-instruct](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct)のggufフォーマット変換版です。  

imatrixのデータは[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用して作成しました。  

## License
ご使用の前に必ず利用規約をご確認ください。  
ご使用の際には[利用規約](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE)に同意したものとされます。

Please be sure to check the terms of use before use.
By using this service, you agree to the [Terms of Use](https://huggingface.co/Fugaku-LLM/Fugaku-LLM-13B-instruct/blob/main/LICENSE).

## convert
変換用スクリプトは[こちら](https://gist.github.com/mmnga/e70fbf78db8478e0215b733fe60685da)

## Usage

```
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make -j
./main -m 'Fugaku-LLM-13B-instruct-Q4_0.gguf' -n 128 -p '以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。\n\n### 指示:\nスーパーコンピュータ「富岳」の名前の由来を教えてください。\n\n### 応答:\n'
```