Dataset Card for llm-book/wrime-sentiment

日本語の感情分析データセット WRIME を、ポジティブ/ネガティブの二値分類のタスクに加工したデータセットです。 GitHub リポジトリ ids-cv/wrime で公開されているデータセットを利用しています。 Avg. Readers_Sentiment の値が0より大きいものをポジティブ、0より小さいものをネガティブとラベル付をしています。

書籍『大規模言語モデル入門』のサンプルコードで利用することを想定しています。 詳しくは書籍のGitHubリポジトリをご覧ください。

使い方

以下のようにデータセットを読み込むことができます。

from datasets import load_dataset

dataset = load_dataset("hf_datasets/wrime-sentiment")
print(dataset["train"].features["label"])
print(dataset)

ClassLabel(names=['positive', 'negative'], id=None)
DatasetDict({
    train: Dataset({
        features: ['sentence', 'label'],
        num_rows: 20149
    })
    validation: Dataset({
        features: ['sentence', 'label'],
        num_rows: 1608
    })
    test: Dataset({
        features: ['sentence', 'label'],
        num_rows: 1781
    })
})

デフォルトの設定では、元のデータセットから極性がニュートラルであるものを除いています。 remove_netural=Falseと指定することで、ニュートラルなデータも含めた三値分類のデータセットを読み込むことができます。

from datasets import load_dataset

dataset = load_dataset("hf_datasets/wrime-sentiment", remove_neutral=False)
print(dataset["train"].features["label"])
print(dataset)

ClassLabel(names=['positive', 'negative', 'neutral'], id=None)
DatasetDict({
    train: Dataset({
        features: ['sentence', 'label'],
        num_rows: 30000
    })
    validation: Dataset({
        features: ['sentence', 'label'],
        num_rows: 2500
    })
    test: Dataset({
        features: ['sentence', 'label'],
        num_rows: 2500
    })
})