Datasets:

mrzjy
/

chinese_moegirl_wiki_corpus_raw

Tasks:

Text Generation

Modalities:

Formats:

Languages:

Size:

Tags:

Libraries:

License:

Dataset card Viewer Files Files and versions Community

mrzjy commited on Aug 14

Commit

a7a096b

•

1 Parent(s): 838501a

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -20,7 +20,7 @@ size_categories:
 本项目对 [20230814 wiki dump for wiki-zh.moegirl.org.cn](https://archive.org/details/wiki-zh.moegirl.org.cn-20230814) 只进行了简单的数据格式处理（xml -> jsonl dataset），后续如想作为 LLM 预训练语料，**务必**进行各种文本清洗。
-简单使用正则给每天数据增加了 tag；直接过滤掉所有带有 "#REDIRECT" 内容的重定向条目。
 [Moegirl](wiki-zh.moegirl.org.cn) is a well-known Chinese wiki website for ACG.

 本项目对 [20230814 wiki dump for wiki-zh.moegirl.org.cn](https://archive.org/details/wiki-zh.moegirl.org.cn-20230814) 只进行了简单的数据格式处理（xml -> jsonl dataset），后续如想作为 LLM 预训练语料，**务必**进行各种文本清洗。
+简单使用正则给每条数据增加了 tag；直接过滤掉所有带有 "#REDIRECT" 内容的重定向条目。
 [Moegirl](wiki-zh.moegirl.org.cn) is a well-known Chinese wiki website for ACG.