Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -9,6 +9,7 @@ language:
|
|
9 |
|
10 |
### 主な修正点
|
11 |
- [databricks-dolly-15k](https://huggingface.co/datasets/databricks/databricks-dolly-15k#dataset-overview)に注意事項として、注釈は削除した方が良いとの以下記載があり、注釈を削除しています。
|
12 |
-
Reference text (indicated by the `context` field in the actual dataset) may contain bracketed Wikipedia citation numbers (e.g. `[42]`) which we recommend users remove for downstream applications.
|
|
|
13 |
- 重複した内容の行が複数あり、削除しました。'instruction','input','output’がすべて一致している場合や'input','output’が一致している場合がありました。
|
14 |
- inputが ”空白” 、outputが ”はあ” となっているデータが複数あり、修正しました。
|
|
|
9 |
|
10 |
### 主な修正点
|
11 |
- [databricks-dolly-15k](https://huggingface.co/datasets/databricks/databricks-dolly-15k#dataset-overview)に注意事項として、注釈は削除した方が良いとの以下記載があり、注釈を削除しています。
|
12 |
+
Reference text (indicated by the `context` field in the actual dataset) may contain bracketed Wikipedia citation numbers (e.g. `[42]`) which we recommend users remove for downstream applications.
|
13 |
+
なお注釈の削除については、正規表現を用いた修正を行っております。https://github.com/yuichiro2023/normalize_text
|
14 |
- 重複した内容の行が複数あり、削除しました。'instruction','input','output’がすべて一致している場合や'input','output’が一致している場合がありました。
|
15 |
- inputが ”空白” 、outputが ”はあ” となっているデータが複数あり、修正しました。
|