metadata
license: mit
language:
- ja
ggmlのTokenizerは日本語に対応していないため、このままでは使えません。 rinna社のjapanese-gpt2のTokenizerはSentencepieceのようで、これを使えば動くかもしれないです。 https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2
license: mit
language:
- ja
ggmlのTokenizerは日本語に対応していないため、このままでは使えません。 rinna社のjapanese-gpt2のTokenizerはSentencepieceのようで、これを使えば動くかもしれないです。 https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2