Ninja-V3-GGUF / README.md
MCZK's picture
Update README.md
b37f82e verified
|
raw
history blame
No virus
608 Bytes
metadata
base_model:
  - Local-Novel-LLM-project/Yosegi-2
  - Local-Novel-LLM-project/Ninja-V2-7B
  - Local-Novel-LLM-project/Yosegi-0604
library_name: transformers
tags:
  - mergekit
  - merge
  - Mistral
language:
  - en
  - ja
pipeline_tag: text-generation

Local-Novel-LLM-project様の Ninja-V3 をGGUF形式に変換したものです。 K量子化モデルについてもiMatrix適用してあります。

iMatrixテキストはTFMC様のc4_en_ja_imatrix.txtを使用しています。