Datasets:
Riyuechang
commited on
Commit
•
4fb73bc
1
Parent(s):
6f6cd97
Update README.md
Browse files
README.md
CHANGED
@@ -10,6 +10,10 @@ tags:
|
|
10 |
- PTT_Chat
|
11 |
---
|
12 |
|
|
|
|
|
|
|
|
|
13 |
# 簡介
|
14 |
本數據集使用來自[PTT](https://www.ptt.cc/bbs/index.html)網站中的[Gossiping](https://www.ptt.cc/bbs/Gossiping/index.html)分類的資料訓練
|
15 |
總共爬取了第1400頁~第39400頁的所有文章裡的內容和所有留言
|
@@ -28,8 +32,4 @@ filter_content_equal = ["推", "推推", "推推推", "未看先推", "先推",
|
|
28 |
#推文內容不能「包含」以下關鍵字
|
29 |
filter_content_in = ["藏頭", "http", "gif", "jpeg", "jpg", "png", "圖", "不忍噓", "箭頭", "發文", "回文", "obov", "OBOV", "原po", "原PO", "原Po", "原pO", "冒險蓋", "祭品", "劣退", "這種文", "退文", "推文", "噓文", "刪文", "給推", "沒人推", "這版", "專版", "數字版", "爆雷", "有雷", "引戰", "頭香", "水桶", "永桶", "出桶", "被桶", "欠桶", "$", "圖呢", "借串", "補血", "樓主", "某樓", "樓上", "樓下", "一樓", "二樓", "三樓", "四樓", "五樓", "六樓", "七樓", "八樓", "九樓", "1樓", "2樓", "3樓", "4樓", "5樓", "6樓", "7樓", "8樓", "9樓", "1f", "2f", "3f", "4f", "5f", "6f", "7f", "8f", "9f", "1F", "2F", "3F", "4F", "5F", "6F", "7F", "8F", "9F"]
|
30 |
````
|
31 |
-
- 並且為了節省VRAM空間,將question字數 + answer字數 > 50的數據丟棄
|
32 |
-
|
33 |
-
# 版本資訊
|
34 |
-
v2相比v1增加了更多過濾詞
|
35 |
-
並且一旦符合過濾規則,就會被過濾掉
|
|
|
10 |
- PTT_Chat
|
11 |
---
|
12 |
|
13 |
+
# 版本資訊
|
14 |
+
v2相比v1增加了更多過濾詞
|
15 |
+
並且一旦符合過濾規則,就會被過濾掉
|
16 |
+
|
17 |
# 簡介
|
18 |
本數據集使用來自[PTT](https://www.ptt.cc/bbs/index.html)網站中的[Gossiping](https://www.ptt.cc/bbs/Gossiping/index.html)分類的資料訓練
|
19 |
總共爬取了第1400頁~第39400頁的所有文章裡的內容和所有留言
|
|
|
32 |
#推文內容不能「包含」以下關鍵字
|
33 |
filter_content_in = ["藏頭", "http", "gif", "jpeg", "jpg", "png", "圖", "不忍噓", "箭頭", "發文", "回文", "obov", "OBOV", "原po", "原PO", "原Po", "原pO", "冒險蓋", "祭品", "劣退", "這種文", "退文", "推文", "噓文", "刪文", "給推", "沒人推", "這版", "專版", "數字版", "爆雷", "有雷", "引戰", "頭香", "水桶", "永桶", "出桶", "被桶", "欠桶", "$", "圖呢", "借串", "補血", "樓主", "某樓", "樓上", "樓下", "一樓", "二樓", "三樓", "四樓", "五樓", "六樓", "七樓", "八樓", "九樓", "1樓", "2樓", "3樓", "4樓", "5樓", "6樓", "7樓", "8樓", "9樓", "1f", "2f", "3f", "4f", "5f", "6f", "7f", "8f", "9f", "1F", "2F", "3F", "4F", "5F", "6F", "7F", "8F", "9F"]
|
34 |
````
|
35 |
+
- 並且為了節省VRAM空間,將question字數 + answer字數 > 50的數據丟棄
|
|
|
|
|
|
|
|