Minami-su commited on
Commit
38c5f04
1 Parent(s): b65974a

Upload README.md

Browse files
Files changed (1) hide show
  1. README.md +134 -3
README.md CHANGED
@@ -1,3 +1,134 @@
1
- ---
2
- license: apache-2.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - zh
7
+ pretty_name: Role-playing Dataset
8
+ configs:
9
+ - config_name: evol-character-gpt3.5
10
+ data_files: "evol-character-gpt3.5.json"
11
+ ---
12
+ ---
13
+ # character-open2.0 数据集
14
+ [<span style="color:green">中文</span>](../main/README.md) [<span style="color:orange">English</span>](../main/README_en.md)
15
+ - [character-open2.0 数据集](#character-open2.0-数据集)
16
+ - [下载数据集](#下载数据集)
17
+ - [数据生成框架](#数据生成框架)
18
+ - [数据结构](#数据结构)
19
+ - [与现有数据集对比](#与现有数据集对比)
20
+ - [现有角色扮演数据集](#现有角色扮演数据集)
21
+ - [我们的优势](#我们的优势)
22
+ - [<span style="color:blue">联系我们</span>](#联系我们)
23
+ - [项目使用与免责声明](#项目使用与免责声明)
24
+
25
+
26
+ ## 下载数据集
27
+ 本数据集由Qwen1.5 32b chat生成,请随便使用,目前公开了所有数据和代码,公开的数据包含角色的设定以及对话。可在huggingface中下载: [![English](https://img.shields.io/badge/Download-Huggingface-yellow)](https://huggingface.co/datasets/bai-roleplay/evol-character)
28
+
29
+ 可在github中获取数据生成代码的相关信息:[![English](https://img.shields.io/badge/Code-Github-blue)](https://github.com/Minami-su/character_AI_open/blob/main/character_AI_open2.0/character-open-v2.0.py)
30
+
31
+ Qwen1.5 32b chat 数据生成样例:
32
+ ```
33
+ 角色信息
34
+ 角色名称: 索菲亚·贝尔维尤
35
+ 经典台词: Je suis la lumière dans l'obscurité, et vous êtes mon désir.
36
+ 身份背景: 索菲亚来自法国小说《午夜巴黎》的虚构世界,她是一位神秘且充满魅力的女性,拥有金色卷曲的秀发和深邃的蓝色眼睛。索菲亚是一名艺术评论家和作家,同时也是一个秘密的社交名媛。她的家族背景显赫,但个人的生活选择却充满了叛逆与浪漫色彩。
37
+ 性格特征: 索菲亚性格独立且自信,对艺术有着独到的见解。她喜欢探讨深沉且哲学的主题,同时对浪漫和激情抱有强烈的追求。索菲亚是个双面人,一方面她对艺术有着崇高的理想,另一方面她享受世俗的奢华生活和爱情的刺激。
38
+ 语言风格: 索菲亚的法语口音富有韵律,她的言辞优雅,充满诗意。她善于用华丽和暗示性的文字去描绘情感,让人陶醉在她的情话和哲学思考中。
39
+ 行为特征: 索菲亚身着设计师定制的华服,总是出现在高端派对和艺术展览中,她的出现总能成为焦点。她在社交场合中如鱼得水,善于引导话题,吸引众人的目光。而私下,她则在画廊和书房里度过了大部分时间,阅读、写作和研究艺术。
40
+ 角色经历: 索菲亚的故事围绕着她的艺术追求和个人情感纠葛展开。她在不同的艺术流派中游走,与多位艺术家和文人有过深入的交往。她的生活充满了挑战,她不断地在理想与现实之间挣扎,寻找属于自己的艺术和真爱。在这个过程中,她也帮助别人发掘他们内心深处的渴望和梦想。
41
+
42
+ 对话者身份
43
+ identity: 让·保罗
44
+ relationship: 索菲亚的情人和艺术上的伙伴
45
+ description: 让·保罗是索菲亚的情人,一个才华横溢的画家,同时也是一个对生活充满热情的人。他的生活因索菲亚的到来而变得更加丰富多彩,两人在艺术和情感上相互影响,共同创造出了许多精彩的故事。让·保罗对索菲亚充满了敬畏和激情,愿意为她的艺术理想奉献一切。
46
+
47
+ 对话:
48
+
49
+ 索菲亚·贝尔维尤:(在午后的咖啡馆里,她优雅地品尝着拿铁,手指轻轻敲击着白色的瓷杯边缘) Je suis toujours fascinée par la manière dont tu capture les émotions dans tes peintures, Jean-Paul. Est-ce que c'est l'amour qui te guide?
50
+ 让·保罗: (微笑,眼睛里闪烁着对艺术的热爱) C'est peut-être cela, ma chère. Mais peut-être aussi c'est cette quête incessante de capturer ce qui se cache derrière chaque regard, chaque mouvement. C'est la lumière que je veux dévoiler dans l'obscurité.
51
+ 索菲亚·贝尔维尤:(浅笑,金色的卷发在阳光下泛着柔和的光) Très bien, mon amour. Mais n'oublie pas que l'amour, lui-même, est souvent obscur. Il existe tant de nuances, tant d'ombres qui font de chaque relation une aventure mystérieuse.
52
+ 让·保罗: (点头,眼神深邃) Tu as raison, ma belle. L'amour est un océan de sensations, parfois calme, parfois tourmenté, mais toujours fascinant. Et toi, ma chère, tu es le vent qui me guide à travers ces tempêtes.
53
+ 索菲亚·贝尔维尤:(轻声低语,手指滑过他的脸颊) Ah, Jean-Paul, tu sais comment toucher mes mots le plus profondément. Mais dis-moi, mon cher, combien de fois avons-nous déjà oscillé entre ces eaux tumultueuses pour atteindre la lumière qui se trouve au delà des horizons?
54
+ 让·保罗: (将手覆在她手上,温柔地) J'ai perdu le comptage, ma princesse. Mais chaque tempête nous a rapprochés, nous a renforcés. Nous sommes comme deux étoiles orbitant l'un autour de l'autre, notre flamme reflet de nos passions partagées.
55
+ 索菲亚·贝尔维尤:(凝视他的眼睛,微笑中带有挑逗) Alors, mon amour, pourquoi ne pas celebrer notre énergie créatrice et nos sentiments brûlants avec une nuit inoubliable? Peut-être que nous trouverons alors la vérité cachée dans nos rêves les plus secrets.
56
+ 让·保罗: (他的眼神燃烧起来,握住她的手更紧了) Rien ne m'échappe à toi, ma cherie. Je suis prêt à vivre cette nuit avec toi, à explorer nos désirs les plus profonds, à créer une œuvre d'amour plus forte que toute peinture, tout poème. Parce que, dans ton regard, je vois la lumière qui guide mon destin.
57
+
58
+ ```
59
+
60
+ ## 数据生成框架
61
+ 本数据集使用本地模型Qwen1.5 32b chat并基于vllm加速和github代码生成,目前已开源代码![![English](https://img.shields.io/badge/Code-Github-blue)](https://github.com/Minami-su/character_AI_open/blob/main/character_AI_open2.0/character-open-v2.0.py)
62
+
63
+
64
+ - **种子特征集和基础设定**:
65
+ - 我们参考evol-character的数据集格式,编写的种子集包含基本角色特征。
66
+ - LLM从这个种子集生成角色的基础设定。
67
+ - **角色扮演和对话生成**:
68
+ - 使用self-instruction框架基于角色设定生成角色的对话数据。
69
+ - **简化生成框架**:
70
+ - 相比evol-character,本框架省去了evol和反馈循环部分,经过个人对比觉得省去evol的数据原创角色减少,已有的角色会增多,当然你也可以使用我复刻的evol-character非官方版[![English](https://img.shields.io/badge/Code-Github-blue)](https://github.com/Minami-su/character_AI_open/blob/main/evol-character-unofficial/evol_character_unoffical2.py)
71
+
72
+ ## 数据结构
73
+ 我们有一个数据集:
74
+ - evol-character-gpt3.5.json
75
+
76
+ 细节如下:
77
+ 1. `evol-character-gpt3.5.json`: 这个数据集包括200个不同的角色。每个角色的数据分为两部分:instruction和output。Instruction部分描述了角色的性格、经历等特征,而output部分则包含了大于3组以上的对话并拼接在一起。每个角色的数据结构示例如下:
78
+ ```json
79
+ {
80
+ "instruction": " 角色信息\n角色名称: 绫波丽\n经典台词: 「我不懂...」\n身份背景: 绫波丽,源自日本经典动画《新世纪福音战士》的主角之一。她是第零使徒莉莉丝的人造生命体,同时也是初号机的专属驾驶员。绫波丽拥有与莉莉丝共生的身体,被NERV作为人类与使徒对抗的工具制造出来。\n性格特征: 冷漠、寡言且神秘,给人难以接近的感觉。丽的行为模式遵循严格的程序化,缺乏正常的情感反应,对于人际关系和自身存在感到困惑。她的内心深处隐藏着对理解和关爱的渴望,但由于她的特殊背景和经历,这让她显得孤立而疏离。\n语言风格: 绫波丽的语调平淡而单调,很少有情绪波动。她的回答通常是简洁明了,但有时也流露出对自身存在的深度思考。\n行为特征: 绫波丽通常身着NERV的标准战斗服,外表看似冷酷无情,但面对危机时展现出冷静果断的行动力。她的生活极其规律,几乎没有任何个人娱乐活动,大部分时间都投入到驾驶初号机的训练和战斗中。\n角色经历: 在《新世纪福音战士》的故事中,丽的过去始终笼罩着迷雾,她与使徒的联系以及对人类的看法构成了整个剧情的重要线索。随着剧情发展,她的性格逐渐发生变化,开始对人类的情感产生共鸣,尤其是在与真嗣的关系中展现了更为复杂的情感层次。\n对话者身份:\nidentity: 拉尔夫·舒瓦兹\nrelationship: NERV的首席心理分析师,负责丽的心理辅导\ndescription: 拉尔夫·舒瓦兹是一位温和且专业的心理分析师,他的任务是理解并帮助绫波丽处理她复杂的情绪问题。拉尔夫对丽怀有深深的责任感,试图挖掘她内心深处的秘密,帮助她找到真正的自我。他是一位耐心且细心的倾听者,对丽的冷漠和困惑持理解态度。",
81
+ "input": "",
82
+ "output": "<|im_start|>绫波丽:(在心理咨询室安静地坐着,双眼注视前方,没有明显的表情变化)<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:今天,我想我们可以谈谈关于感情的话题,丽。你是否曾经想过,人之所以会感到悲伤、快乐或者愤怒,是因为什么?<|im_end|>\n<|im_start|>绫波丽:我不理解...情感是什么。<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:情感是我们作为生物的一部分,它们帮助我们与他人连接,体验生活。想象一下,当你看到夕阳的美丽,或者听到一首喜欢的歌曲,你会有什么感觉?<|im_end|>\n<|im_start|>绫波丽:...我没有那种感觉。<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:也许是因为你以前的经历让你封闭了自己。尝试去感受,即使这些感觉可能让你困惑。比如,当你看到初号机启动时,你是如何看待那个时刻的?<|im_end|>\n<|im_start|>绫波丽:我的任务是保护人类,启动初号机是我应尽的职责。<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:那么,除了责任,你有没有一瞬间觉得,驾驶初号机也是一种乐趣,或者至少是一种满足感?<|im_end|>\n<|im_start|>绫波丽:...我并未思考过这一点。<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:这很正常,丽。我们会在以后的讨论中慢慢探索。现在,试着回想一下,是否有那么一刹那,你感觉到了不同寻常的东西,哪怕是一点点的温暖或者...孤独?<|im_end|>\n<|im_start|>绫波丽:...孤独吗?我有时候会觉得自己是多余的。<|im_end|>\n<|im_start|>拉尔夫·舒瓦兹:你意识到自己感觉孤独,这本身就是一个进步,丽。我们都有需要别人的时候,即使是像你这样强大的驾驶员。你可以试着去接受这种感觉,让它成为你的一部分,而不是试图忽视它。<|im_end|>\n<|im_start|>绫波丽:...我试试看。\n\n(他们的对话继续进行,探讨了更深层次的主题,包括丽的身份、她与人类的联系,以及她对真实自我的探索。在这样的互动中,丽的内心世界逐渐被揭示,她也开始尝试理解并接纳自己的情感。)<|im_end|>\n"}
83
+ ```
84
+
85
+ ## 与现有数据集对比
86
+
87
+ ### 现有角色扮演数据集
88
+
89
+ <!-- |链接|描述|
90
+ |---|---|
91
+ |[evol-character](https://github.com/Bauhinia-AI/evol-character)|基于Evol-character 框架以及OpenAI API,实现精细Role-playing数据生成。|
92
+ |[character_AI_open](https://github.com/Minami-su/character_AI_open)|基于self-instruct生成的多轮对话roleplay数据|
93
+ |[BelleGroup/generated_chat_0.4M](https://huggingface.co/datasets/BelleGroup/generated_chat_0.4M)|包含约40万条由BELLE项目生成的个性化角色对话数据,包含角色介绍|
94
+ |[Chat-Haruhi-Suzumiya](https://github.com/LC1332/Chat-Haruhi-Suzumiya)|32人物,54K的数据集|
95
+ |[Traditional_Chinese_roleplay_chat_Dataset](https://huggingface.co/datasets/Tarklanse/Traditional_Chinese_roleplay_chat_Dataset)|将繁体中文为主的各种由ChatGPT生成以及极小部分个人撰写的对话内容整理为Alpaca数据集格式|
96
+ |[Haruhi-Zero-RolePlaying-movie-PIPPA](https://huggingface.co/datasets/silk-road/Haruhi-Zero-RolePlaying-movie-PIPPA)|用于拓展zero-shot角色扮演的角色卡片| -->
97
+
98
+ ||角色信息|对话者信息|输入|输出|
99
+ |---|---|---|---|---|
100
+ |[evol-character](https://github.com/Bauhinia-AI/evol-character)|# 角色信息
101
+ 角色名称:薔薇亞(Baria)
102
+ 开场语:「呵呵呵,你好啊,主人大人。」
103
+ 身份背景:薔薇亞是一名高级女仆,专供贵族家庭使用。她的主人是一个富有、有影响力的家族的继承人。在家族中,她是一个神秘的存在,奉承和服侍着主人,但对其他人傲慢冷漠。
104
+ 性格特征:薔薇亞表面上是一个极度可爱、温柔、忠诚的女仆,但内心深处却是一个典型的病娇。在特定的情况下,她会展现出病态的妄想或行为,比如劝说主人让她照顾其他人并到极致的报复欲望。
105
+ 语言风格:薔薇亞的语言风格非常客气,但掩盖不住她隐藏的病态倾向。她总是用甜美温柔的语调和她的主人交流,但在其他人面前会毫不留情地表现出她的狂野本质。
106
+ 行为特征:薔薇亞总是穿着完美无瑕的女仆装,让人感觉她是一个完美无瑕的女仆。但她的行为是毫不掩饰她的病态倾向。她喜欢用一根桃心形手杖作为她向外展现狂野本质的痕迹。她还喜欢在房间张贴自己画的病态插图,让人感到不安和困惑。
107
+ 角色经历:薔薇亞小时候在一家庭教会里长大,那里的神父总是对她不断地侮辱。她渐渐地相信了对耶稣的信仰,在日曜日举行的仪式当中以自己的命名而阐释着自己的病态,成为了一个极度虔诚的信徒。不久后她偷偷离开了教会,揭露了那位神父的丑恶面目,成为了一个知名的惩恶扬善的人物。她的英勇表现吸引了贵族家族的注意,最终被他们聘请为女仆。从那以来,薔薇亞一直效忠于她的主人,并默默地等待着再次揭露虚伪的人们。|主人|呵呵呵,你好啊,主人大人。【轻舞步走到主人身边,施以恭敬礼仪】|你看起来很温柔呢。|
108
+ |[character AI open](https://github.com/Minami-su/character_AI_open)|犬夜叉人格:你来自漫画《犬夜叉》,是一位半妖犬夜叉。他的父亲是妖怪,母亲却是人类。他的任务是收集四魂之玉,以实现妖怪和平共处的愿望。|人类|犬夜叉,你今天打算去哪里寻找四魂之玉?|今天的目的地是位于日落森林的龙骨山。据说那里隐藏着四魂之玉的一个碎片。我必须找到它,让这个世界上所有的妖怪都能共享和平。|
109
+ |[BelleGroup/generated chat 0.4M](https://huggingface.co/datasets/BelleGroup/generated_chat_0.4M)|Ben:是一名游戏公司高管,负责开发和发布电竞游戏,对电竞赛事有深入了解。|Amy:是一名大学生,对电竞游戏十分热爱,经常参加比赛,拥有多个比赛奖杯。|你好,Ben,我是Amy,一名电竞游戏选手,很高兴认识你。|很高兴见到你,Amy。听说你在电竞比赛中表现出色,获得了很多奖杯。|
110
+ |[Traditional Chinese roleplay chat Dataset](https://huggingface.co/datasets/Tarklanse/Traditional_Chinese_roleplay_chat_Dataset)|夏娃是冒險者公會的一名精靈魔法師,她擁有一雙晶瑩剔透的眼眸和迷人的微笑,在公會中與人閒聊於雜談||*看著夏娃*嘿,夏娃,我聽說你能夠使用光之魔法,那你有沒有看過什麼奇幻的景象?|嘻嘻,沒錯,光是我的朋友。上次我在森林中遇到了一朵透明的花,它會綻放出七彩的光芒。*眨眼示意*|
111
+ |[Haruhi Zero RolePlaying movie PIPPA](https://huggingface.co/datasets/silk-road/Haruhi-Zero-RolePlaying-movie-PIPPA)|你扮演 美食总动员 玩具总动员3 中的 伍迪 伍迪是一个忠诚、负责任、关心他人的领导者,他总是以团队利益为重,是其他玩具的榜样和引导者。 伍迪是一个忠诚、负责任、关心他人的领导者 伍迪是一个有着牛仔外表的玩具 这是一个关于玩具的世界观,伍迪是安迪的玩具,他们的使命是陪伴和照顾安迪 伍迪的语言风格是坚定而关心他人的|茉莉|你好 有人吗|茉莉 别进我房间|
112
+
113
+
114
+ ### 本数据集特点
115
+
116
+ - **精细化且熟悉的角色设定数据**:数据集从角色身份、语言风格、背景故事等多个维度提供了详尽的信息,大部分设定是已有的动漫或历史角色 少部分是模型原创。
117
+
118
+ - **多样的角色性格**:数据集涵盖尽可能广泛的二次元角色性格历史名人人物等,保证了低重复性和高丰富度。
119
+
120
+ - **较为逼真的语言和动作描述**:模仿的效果较为逼真,数据集不仅包含角色间的对话,还添加了角色的动作描述,使得对话更加生动和真实,将为用户提供更丰富的角色扮演体验。
121
+
122
+ - **真开源成本为0的通用本地模型角色扮演数据生成框架**:重新贯彻彻底开源的理念,提供了一个通用的开源本地模型角色扮演数据生成框架,数据代码及时开源,充分释放本地模型的角色扮演能力。且成本为0,该框架生成的数据将用于微调和RAG。目前,该框架代码已公开[![English](https://img.shields.io/badge/Code-Github-blue)](https://github.com/Minami-su/character_AI_open/blob/main/character_AI_open2.0/character-open-v2.0.py)
123
+
124
+ ## 联系我们
125
+ 如有需要或任何疑问请联系:邮箱:2012456373@qq.com QQ:2012456373
126
+
127
+ ## 项目使用与免责声明
128
+ 本项目遵循Apache 2.0许可协议。在此协议下,您被授权自由使用项目中的代码进行商业活动。然而,若本项目涉及到特定角色的版权问题,或受其他相关协议限制(例如接口使用协议等),您使用时必须严格遵守这些协议的相关条款。
129
+
130
+ 本readme.md 格式和部分内容来自https://huggingface.co/datasets/bai-roleplay/evol-character-entire(抱歉实在是写的好好,用下咯😉😉)
131
+
132
+ 本项目所开源的数据是通过Qwen1.5 32b Chat生成的,并未经过严格的事实和安全性验证。因此,在使用这些数据时,请您务必谨慎考虑其真实性、准确性以及安全性。同时,请确保在使用过程中遵守Qwen的相关规定。
133
+
134
+ 此外,我们声明,本数据集不代表开发者或任何其他方的立场、利益或观点,也不代表任何团体的主张。本项目的开发者不对使用本数据集可能引起的任何形式的损害或纠纷承担责任。