license: mit | |
language: | |
- ja | |
ggmlのTokenizerは日本語に対応していないため、このままでは使えません。 | |
rinna社のjapanese-gpt2のTokenizerはSentencepieceのようで、それに対応できれば動くかもしれないです。 | |
Windows 11で対応予定です。 | |
[https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2](https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2) |