ggml-japanese-gpt2 / README.md
inu-ai's picture
Update README.md
1a38db2
|
raw
history blame
386 Bytes
---
license: mit
language:
- ja
---
ggmlのTokenizerは日本語に対応していないため、このままでは使えません。
rinna社のjapanese-gpt2のTokenizerはSentencepieceのようで、これを使えば動くかもしれないです。
[https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2](https://github.com/thx-pw/ggml/tree/japanese-gpt2/examples/gpt-2)