metadata
license: apache-2.0
Ninja-V2-7B.gguf
このモデルは、ベクトルマージなどを用い作成された高性能ベースモデルです。 用途はチャットのみならず、文章創作など幅広いタスクに対応できます。
GGUFによる8,4ビット量子化を行いました。
Ninja-V2-7Bはこちら→https://huggingface.co/Local-Novel-LLM-project/Ninja-V2-7B
このモデルは、ローカルLLMに向き合う会企画のLocalAIハッカソンの高性能GPUサーバーの助けを借りて作成されました。
関係者の皆様に感謝申し上げます。
作成方法
複数のモデルのチャットベクター モデルの単純な線形マージ
プロンプトテンプレート
必須ではありませんが、Vicuna-1.1テンプレートを使用することができます。 単純な文章生成においては推奨のテンプレートはありません。
システムプロンプト
BAD: あなたは○○として振る舞います
GOOD: あなたは○○です
BAD: あなたは○○ができます
GOOD: あなたは○○をします
制限
Apache-2.0ライセンスに従い使用してください。