Datasets:
Commit
•
0552058
1
Parent(s):
3895b50
Update README.md
Browse files
README.md
CHANGED
|
@@ -8,4 +8,24 @@ size_categories:
|
|
| 8 |
tags:
|
| 9 |
- PTT
|
| 10 |
- PTT_Chat
|
| 11 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 8 |
tags:
|
| 9 |
- PTT
|
| 10 |
- PTT_Chat
|
| 11 |
+
---
|
| 12 |
+
|
| 13 |
+
# 簡介
|
| 14 |
+
本數據集使用來自[PTT](https://www.ptt.cc/bbs/index.html)網站中的[Gossiping](https://www.ptt.cc/bbs/Gossiping/index.html)分類的資料訓練
|
| 15 |
+
總共爬取了第1400頁~第39400頁的所有文章裡的內容和所有留言
|
| 16 |
+
在使用一些方法從海量的數據中，過濾出噪聲較小(理論上)的部份作為本數據集
|
| 17 |
+
|
| 18 |
+
# 過濾規則
|
| 19 |
+
- 總推數 - 總噓數 >= 20
|
| 20 |
+
- 最靠前的推文最優先
|
| 21 |
+
````python
|
| 22 |
+
#文章標題不能「包含」以下關鍵字
|
| 23 |
+
filter_title_in = ["http", "gif", "jpeg", "jpg", "png", "圖", "水桶", "永桶", "出桶", "被桶", "欠桶", "有效文章", "登入次數"]
|
| 24 |
+
|
| 25 |
+
#推文內容不能「等於」以下關鍵字
|
| 26 |
+
filter_content_equal = ["推", "推推", "推推推", "未看先推", "先推", "推一下", "推個", "正文", "頭", "錢", "好", "是", "引", "廢文"] #樓上, 樓下, 樓
|
| 27 |
+
|
| 28 |
+
#推文內容不能「包含」以下關鍵字
|
| 29 |
+
filter_content_in = ["藏頭", "http", "gif", "jpeg", "jpg", "png", "圖", "不忍噓", "箭頭", "發文", "回文", "obov", "OBOV", "原po", "原PO", "原Po", "原pO", "冒險蓋", "祭品", "劣退", "這種文", "退文", "推文", "噓文", "刪文", "給推", "沒人推", "這版", "專版", "數字版", "爆雷", "有雷", "引戰", "頭香", "水桶", "永桶", "出桶", "被桶", "欠桶", "$", "圖呢", "借串", "補血", "樓主", "某樓", "樓上", "樓下", "一樓", "二樓", "三樓", "四樓", "五樓", "六樓", "七樓", "八樓", "九樓", "1樓", "2樓", "3樓", "4樓", "5樓", "6樓", "7樓", "8樓", "9樓", "1f", "2f", "3f", "4f", "5f", "6f", "7f", "8f", "9f", "1F", "2F", "3F", "4F", "5F", "6F", "7F", "8F", "9F"]
|
| 30 |
+
````
|
| 31 |
+
- 並且為了節省VRAM空間，將question字數 + answer字數 > 50的數據丟棄
|