metadata

license: apache-2.0
task_categories:
  - question-answering
  - text-generation
size_categories:
  - 10K<n<100K
tags:
  - PTT
  - PTT_Chat

版本資訊

增加了更多過濾詞
並且一旦符合過濾規則，就會被過濾掉

簡介

本數據集使用來自PTT網站中的Gossiping分類的資料訓練
總共爬取了第1400頁~第39400頁的所有文章裡的內容和所有留言
在使用一些方法從海量的數據中，過濾出噪聲較小(理論上)的部份作為本數據集

過濾規則

總推數 - 總噓數 >= 20
最靠前的推文最優先
以下為過濾詞

#文章標題不能「包含」以下關鍵字
filter_title_in = ["http", "gif", "jpeg", "jpg", "png", "圖", "水桶", "永桶", "出桶", "被桶", "欠桶", "有效文章", "登入次數"]

#推文內容不能「等於」以下關鍵字
filter_content_equal = ["推", "推推", "推推推", "未看先推", "先推", "推一下", "推個", "正文", "頭", "錢", "好", "是", "引", "廢文"]

#推文內容不能「包含」以下關鍵字
filter_content_in = ["藏頭", "http", "gif", "jpeg", "jpg", "png", "圖", "不忍噓", "箭頭", "發文", "回文", "obov", "OBOV", "原po", "原PO", "原Po", "原pO", "冒險蓋", "祭品", "劣退", "這種文", "退文", "推文", "噓文", "刪文", "給推", "沒人推", "這版", "專版", "數字版", "爆雷", "有雷", "引戰", "頭香", "水桶", "永桶", "出桶", "被桶", "欠桶", "$", "圖呢", "借串", "補血", "樓主", "某樓", "樓上", "樓下", "一樓", "二樓", "三樓", "四樓", "五樓", "六樓", "七樓", "八樓", "九樓", "1樓", "2樓", "3樓", "4樓", "5樓", "6樓", "7樓", "8樓", "9樓", "1f", "2f", "3f", "4f", "5f", "6f", "7f", "8f", "9f", "1F", "2F", "3F", "4F", "5F", "6F", "7F", "8F", "9F"]

並且為了節省VRAM空間，將question字數 + answer字數 > 50的數據丟棄