README_zh.md

数据集描述

为应对中文高质量安全数据集稀缺的问题，我们于2023年11月29日开源了 CCI（Chinese Corpora Internet）数据集。在此基础上，我们继续扩展数据源，采用更严格的数据清洗方法，完成了CCI 3.0数据集的构建。该数据集由来自可信来源的高质量、可靠的互联网数据组成，经过严格的数据清洗和去重处理，针对内容质量和安全性进行了有针对性的检测和筛选。数据处理规则包括：

• 基于规则的过滤：基于关键词的安全过滤、垃圾信息过滤等。
• 基于模型的过滤：通过训练分类模型过滤低质量内容。
• 去重：在数据集内及数据集之间进行去重。

此外，我们添加了丰富的元信息，包括通过小模型标注的质量评分和教育水平。用户可以方便地利用每条数据的元信息进一步过滤和定制数据集。 发布的CCI 3.0语料库约为1000GB大小。

更新

• 2024年9月25日, 发布CCI 3.0-HQ技术报告。
• 2024年9月20日, 发布CCI 3.0。

数据格式

Field	Type	Meaning
id	String	Document ID, globally unique
content	String	Content of the document
meta_info	String	Meta Info of the document

数据样例

{
  "id": "02301a3477ca2b5434ab29dfc32f95d853abc",
  "content": "《农村财政与财务》杂志创办于1996，是中国农村财政研究会主管的国家重点学术期刊，国家级期刊，影响因子0.163，现被万方收录(中)等权威机构收录，主要方向：研究报告、文献综述、简报、专题研究\n《农村财政与财务》以宣传党和国家财政政策、推动税收体制改革、研究财税理论、指导基层财政和涉农工作,传播理财知识为宗旨,融政策性、指导性、权威性、实用性和知识性为一体。\n《农村财政与财务》是贯彻国家方针、政策、探索财税理论和有关难点、热点问题,交流财政科学化、精细化管理经验,帮助读者提高综合素质和政策水平不可或缺的理想媒体。\n中共中央办公厅国务院办公厅印发《关于加快构建政策体系培育新型农业经营主体的意见》\n9月5号投的，15号就给了初审结果，给出的修改意见，主要是篇幅过长，以及图片格式的问题。修改后过了一周，就发录用通知了。皇天不负有心人啊，继续努力。\n两个意见，总体来看属于一个大修，一个小修，编辑要求修改后复审。但是意见真的给的很中肯，用了一个星期时间认真修改。提交修改稿后，编辑部很快送出外审，当天外审专家就完成了复审工作，然后在第二天立马显示接收了。这个复审速度吓得我惊人，不敢相信是被录用了，后来打电话确认已被录用，等待后续排版工作。\n两个审稿人，审理比较负责，给出了几点小建议，属于小修，修改后录用，编辑对全文进行了细致标注，对格式要求、图表制作规范较为严格，杂志效率挺高，尤其是编辑部反应神速，必须赞一个。\n农村财政与财务杂志的编辑和审稿人都非常专业，两个审稿人分别提出了3条和5条审稿意见，而且有些意见颇有意义,但是对我的文章还是非常肯定的，不到一个月消息回复审稿人分别要求大修和小修，要求比较严谨，数据比较足够，就能中。祝好运。\n农村财政与财务杂志速度还是很快的，而且是我见过的回复字数最多最多的编辑信，投稿一个月，反馈结果。修改后，递交编辑部，审稿人很心细，改的很认真。连标点居然都帮我改……修改两次后录用。\n编辑的工作十分点赞，态度也是很友善，审稿专家也是非常专业，虽然历经的时间比较长才录用，但是也情有可原，毕竟投稿量太大，而且期间加上放假，难免时间较长，进入编辑加工阶段后才进行了咨询，编辑也进行了详细的回复，希望对各位投稿有所帮助。\n农村财政与财务杂志编辑很负责，整个投稿流程节奏非常快。个人感觉这个杂志还是不错的。2位审稿人都比较专业，有个审稿人的一些意见还是非常有帮助，非常有针对性。速度也比较快。推荐大家投稿！\n第二年来订阅杂志了，客服的态度很好哦，杂志的寄送也还及时，希望以后对老顾客有一定的优惠。\n农村财政与财务杂志的审稿速度还是值得肯定的。综合来说，审稿人还是比较认真的，给修改的也比较仔细，对创新性要求还算比较高吧，编辑老师也非常的平易近人。虽然是第一次投稿，但是还是很幸运被收录了。个人建议文章比较注重自主创新，思维清晰。希望能对大家有帮助！\n农村财政与财务杂志效率很高的，也觉得自己蛮幸运的。当时看到外审两三天回来了，以为要被拒了呢，结果给修改意见了。两周后提交修改稿，两三天后显示录用了。整个下来小一个月吧，第一次投稿，还是感觉蛮幸运的。\n该刊审稿较快，出刊也快前后跨度就半年左右，编辑老师态度很好，最好使用邮箱投稿，外审一般会告知你，里面文章质量感觉都挺好的，良心杂志，介意普刊的同仁可以投投看！！\n农村财政与财务杂志质量不错,审稿较严格,录用较快。属于很规范的中文杂志。编辑很负责，处理也很快、工作规范，相当满意。审稿专家很认真细致，意见提的很详细，对论文提高很有帮助！相当愉快的一次投稿经历~\n总的来说，审稿专家还是蛮认真的，对待问题都很细致。另外，编辑也相当赞，经常打电话去咨询状态，一直很要是有创意，内容丰富，应该就没有问题。\neleme**:杂志工作人员的处理速度相当不错哦，审稿专家很负责。\nfazhi**:投稿后编辑态度不错，邮件联系均有及时回复。\n15年11月16日投稿，修改了两次，第一次对文章创新性提出了意见，第二次是格式方面的修改，12月15日通知正刊录用。算是比较快的了。该刊给人的第一感觉就是正规，对论文内容、格式等要求也很严格，应该认真对待。祝大家成功！\nxiajia**:很开心。总体来说，审稿速度很快，比较满意；可以试试。\n9月初投稿，一直没有消息，月底打电话问，还在外审。10月初收到退修通知，修改后返回，编辑回复很快，让修改了格式，然后通知录用。编辑很负责。等待校稿和版费通知。\njince**:感觉给出的意见很诚恳，很有建设性。\n初审大概一周左右，进入外审程序。8月底左右还是正在二审中，我打电话问了下，才告诉我需要修改，网上的状态变成“二审已审回”；按照修改意见修改后以电子邮件形式提交，大概一周后收到录用通知。\nsansui**:审稿速度还是相当神速，编辑部老师很好，很负责任。\n农村财政与财务速度蛮快的，编辑部也很负责，很有主见。审稿人信息反馈很快，20多天就有消息了，录用消息也第一时间通知，很及时、速度、高效，一点也不耽误时间。\n编辑非常认真负责，邮件联系回复也非常快，稿件开始本来有些问题，考虑不用的，但是编辑又给了一次修改的机会，说是修改好了还可能录用，就花心思修，修改后一个月不到就说录用了，还有一些小问题后面陆续解决了。\n用了两个月的时候，才被录用。审稿周期不短，可能也是自己写的不好一再返修的原因。觉得审稿人给的身高意见比较细致、对问题的提出比较准确。农村财政与财务的档次也很高。写的有点多所以相对的版面费也就要多一些。\nsusu**:个人感觉该期刊对文章的选题热点、创新点、写作水平都比较注重。\n个人感觉还不错。第一篇中的论文，还是很开心的。5月28号投稿7月15号通知录用。修改意见中，只有文中的格式问题以及图标中的，字体，单位问题。修改后就成功录用啦。\n农村财政与财务杂志的审稿速度飞快，貌似一个月左右就拟录用了，然后改了两次格式，缩小篇幅，大概也就一个半月搞掂。编辑部人员服务态度很好！很有耐心！大家可以尝试下这个杂志。",
  "url": "",
  "meta_info":
  {
    "safety_score": "0.0029210448265075684",
    "quality_score": 0.9920259714126587,
    "gzip_compressibility": 0.4772631873513362,
    "count_newlines": 31,
    "words_count": 1545,
    "stopword_ratio": 0.4181229773462783,
    "actionable_verb_count": 326,
    "actionable_verb_ratio": 0.21100323624595468,
    "2gram_repetition_ratio": 0.1016839378238342,
    "3gram_repetition_ratio": 0.0304601425793908,
    "entity_count": 424,
    "entity_dependency_count": 184
  }
}

下载

CCI 3.0 数据集已在 BAAI DataHub 和 Huggingface 上同步开源。

BAAI DataHub

用户可以点击链接 CCI 3.0 数据集 查看数据文件，并点击下载。

注意，用户需要在 BAAI DataHub 上注册后才能使用数据，并且首次下载前需要填写一份调查问卷。

Huggingface

要使用数据，可以使用以下代码加载：

from datasets import load_dataset

dataset = load_dataset("BAAI/CCI3-Data")

效果评测

设置

由于数据集包含中英文混合内容，我们选择了 Qwen2-0.5B 模型进行数据集评估，每次实验训练 100B tokens。

我们遵循相同的评估设置，使用 FineWeb setup 和 lighteval 库进行所有模型的评估。你可以在这里查看 评估脚本。

结果

我们进行了两类实验：

1. 混合数据集实验：英文、代码和中文的比例为 60% : 10% : 30%。
2. 中文数据集实验：中文比例为 100%。

对于英文数据集，我们统一使用了 FineWeb-edu。对于代码数据，我们使用了 StarCoder。 对于中文数据集，我们选择了 wanjuan-v1、skypile 和 cci3.0。

在下方的图表中，cci_edu 数据集来自 CCI 3.0 HQ 数据集。

对于混合数据集实验，所有评估指标均为平均值；对于中文数据集实验，仅中文评估指标为平均值。

训练过程中的所有评估指标显示在

引用

可以引用我们的 技术报告 或者数据集:

@misc{wang2024cci30hqlargescalechinesedataset,
      title={CCI3.0-HQ: a large-scale Chinese dataset of high quality designed for pre-training large language models}, 
      author={Liangdong Wang and Bo-Wen Zhang and Chengwei Wu and Hanyu Zhao and Xiaofeng Shi and Shuhao Gu and Jijie Li and Quanyue Ma and TengFei Pan and Guang Liu},
      year={2024},
      eprint={2410.18505},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2410.18505}, 
}

用户协议

使用者需要遵守CCI语料库的使用协议: （点击查看使用协议）.

注

如果有任何与该数据集相关的问题，请联系 data@baai.ac.cn.