Datasets:
ShojiMoriya
commited on
Commit
•
f21cfd9
1
Parent(s):
983bfdd
Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,49 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
task_categories:
|
3 |
+
- image-to-text
|
4 |
+
- text2text-generation
|
5 |
+
language:
|
6 |
+
- ja
|
7 |
+
---
|
8 |
+
|
9 |
+
## 読み込み方
|
10 |
+
```python
|
11 |
+
from datasets import load_dataset
|
12 |
+
|
13 |
+
dataset = load_dataset("YANS-official/senryu-test", split="test")
|
14 |
+
```
|
15 |
+
|
16 |
+
## 概要
|
17 |
+
川柳投稿サイトの『写真川柳』と『川柳投稿まるせん』のクロールデータです。
|
18 |
+
以下のページからクロールし、原本のHTMLファイルと構造化処理を行った結果を格納しました。
|
19 |
+
* https://www.homemate-research.com/senryu/photo/
|
20 |
+
* https://marusenryu.com/
|
21 |
+
|
22 |
+
このデータは以下の2タスクが含まれます。
|
23 |
+
|
24 |
+
* image_to_text: 画像でお題が渡され、それに対する回答を返します。
|
25 |
+
* text_to_text: テキストでお題が渡され、それに対する回答を返します。
|
26 |
+
|
27 |
+
それぞれの量は以下の通りです。
|
28 |
+
| タスク | お題数(画像枚数) | 回答数 | うち委員が用意したお題 |
|
29 |
+
| --- | ---: | ---: | ---: |
|
30 |
+
| image_to_text | 70 | 140 | 7 |
|
31 |
+
| text_to_text | 30 | 60 | 3 |
|
32 |
+
|
33 |
+
各お題に対し、異なる賞が与えられている2件の回答だけを残し、他の回答は削除しました。
|
34 |
+
|
35 |
+
## データセットの各カラム説明
|
36 |
+
| カラム名 | 型 | 例 | 概要 |
|
37 |
+
| --- | --- | --- | --- |
|
38 |
+
| odai_id | int | 76 | お題のID |
|
39 |
+
| image | int | 185066 | 画像のID。それぞれ"{image}.jpg"という画像に対応している。 |
|
40 |
+
| type | str | image_to_text | "text_to_text", "image_to_text"のいずれかが入っている。|
|
41 |
+
| use_human_eval | bool | False | 人手評価で使うデータ(=委員の画像で作ったデータ)かどうかを表す。Trueなら人手評価で使う |
|
42 |
+
| odai | str | 写真で一句。 | image_to_textの場合は"写真で一句"という文字列が格納されている。text_to_textの場合は"〇〇川柳"という形式で文字列が格納されている。 |
|
43 |
+
| responses | list | [{}] | お題に対する回答集。各お題に対して2件ずつ |
|
44 |
+
| responses.text | str | ライバルと 打ち解け合った 風呂の中 | お題に対する回答 |
|
45 |
+
| responses.award | str | 採用 | 回答に与えられた賞 |
|
46 |
+
| responses.response_id | int | 1 | お題に対する回答の番号 |
|
47 |
+
|
48 |
+
## ライセンス等
|
49 |
+
クロール元のサイトの管理者には許可をとっていませんので、YANS内での利用としてください。
|