OrcaJaMixtral8x22b / README.md
kanhatakeyama's picture
Update README.md
75f10d2 verified
metadata
license: cc-by-sa-4.0
tags:
  - synthetic
  • OpenOrcaの日本語訳データの質問から回答を自動生成したデータセット

    • OpenOrcaのオリジナル版の回答データは、GPT-3.5/4によって生成されているため、モデル開発に使うことがOpenAIの規約上、禁止されています。
    • そこで、apache-2.0ライセンスで公開されているMixtral 8x22bのGGUF(5-8bit)を使い、回答を自動生成しました(概ね、8 bit modelで生成しています)。
    • OpenOrcaの日本語訳データを質問に使いました
    • 計算には東京工業大学のスーパーコンピュータTSUBAME4.0を利用しました。
  • 非同期で計算しているため、質問の重複が存在します。(回答はランダムに変化しています)