metadata

license: apache-2.0

Ninja-V2-7B.gguf

このモデルは、ベクトルマージなどを用い作成された高性能ベースモデルです。用途はチャットのみならず、文章創作など幅広いタスクに対応できます。 GGUFによる8,4ビット量子化を行いました。 Ninja-V2-7Bはこちら→https://huggingface.co/Local-Novel-LLM-project/Ninja-V2-7B

このモデルは、ローカルLLMに向き合う会企画のLocalAIハッカソンの高性能GPUサーバーの助けを借りて作成されました。

関係者の皆様に感謝申し上げます。

作成方法

複数のモデルのチャットベクターモデルの単純な線形マージ

プロンプトテンプレート

必須ではありませんが、Vicuna-1.1テンプレートを使用することができます。単純な文章生成においては推奨のテンプレートはありません。

システムプロンプト

BAD:　あなたは○○として振る舞います
GOOD: あなたは○○です
BAD: あなたは○○ができます
GOOD: あなたは○○をします

制限

Apache-2.0ライセンスに従い使用してください。