README.md

---
base_model:
- Local-Novel-LLM-project/Yosegi-2
- Local-Novel-LLM-project/Ninja-V2-7B
- Local-Novel-LLM-project/Yosegi-0604
library_name: transformers
tags:
- mergekit
- merge
- Mistral
language:
- en
- ja
pipeline_tag: text-generation
---
Local-Novel-LLM-project様の [Ninja-V3](https://huggingface.co/Local-Novel-LLM-project/Ninja-V3) をGGUF形式に変換したものです。
K量子化モデルについてもiMatrix適用してあります。

iMatrixテキストはTFMC様の[c4_en_ja_imatrix.txt](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用しています。