jiangchengchengNLP's picture
Upload info.md with huggingface_hub
3d31d51 verified

数据集统计信息

概览

  • 总样本数: 240,426 条
  • 训练集: 186,619 (77.62%)
  • 验证集: 31,086 (12.93%)
  • 测试集: 22,721 (9.45%)
  • 情感类别: 7种(neutral + 6种Ekman基本情感)
  • 数据源: 7个(Movies_Reviews, dailydialog, goemotions, isear, meld, mteb_emotion, tweetemotions)

数据集列表

合并数据集(按子集)

子集 样本数 占比 文件名
训练集 186,619 77.62% train.csv
验证集 31,086 12.93% val.csv
测试集 22,721 9.45% test.csv
总计 240,426 100%

情感分布

训练集情感分布 (186,619条)

情感 样本数 占比
neutral 95,392 51.12%
joy 40,380 21.64%
sadness 14,886 7.98%
anger 11,142 5.97%
fear 11,011 5.90%
surprise 9,528 5.11%
disgust 4,280 2.29%

验证集情感分布 (31,086条)

情感 样本数 占比
neutral 12,734 40.96%
joy 7,509 24.15%
sadness 2,915 9.38%
fear 2,506 8.06%
anger 2,329 7.49%
surprise 2,196 7.06%
disgust 897 2.89%

测试集情感分布 (22,721条)

情感 样本数 占比
neutral 10,249 45.11%
joy 5,198 22.88%
sadness 2,074 9.13%
anger 1,729 7.61%
fear 1,516 6.67%
surprise 1,348 5.93%
disgust 607 2.67%

整体情感分布 (240,426条)

情感 样本数 占比
neutral 118,375 49.24%
joy 53,087 22.08%
sadness 19,875 8.27%
anger 15,200 6.32%
fear 15,033 6.25%
surprise 13,072 5.44%
disgust 5,784 2.41%

数据源分布

训练集数据源分布

数据源 样本数 占比
dailydialog 87,170 46.71%
goemotions 41,251 22.10%
tweetemotions 21,763 11.66%
mteb_emotion 15,956 8.55%
meld 9,989 5.35%
Movies_Reviews 6,725 3.60%
isear 3,765 2.02%

验证集数据源分布

数据源 样本数 占比
goemotions 11,786 37.91%
dailydialog 8,069 25.95%
tweetemotions 6,218 20.00%
mteb_emotion 1,988 6.39%
meld 1,109 3.57%
isear 1,076 3.46%
Movies_Reviews 840 2.70%

测试集数据源分布

数据源 样本数 占比
dailydialog 7,740 34.06%
goemotions 5,893 25.94%
tweetemotions 3,110 13.69%
meld 2,610 11.49%
mteb_emotion 1,986 8.74%
Movies_Reviews 842 3.71%
isear 540 2.38%

数据源信息

Movies_Reviews

  • 特点: 电影评论情感数据
  • 覆盖: 包含7种情感类别

DailyDialog

  • 特点: 真实对话数据,包含多轮对话
  • 覆盖: 包含7种情感类别

GoEmotions

  • 特点: Reddit评论数据,口语化表达
  • 覆盖: 包含7种情感类别

ISEAR

  • 特点: 国际情感研究数据,高质量文本
  • 覆盖: 包含7种情感类别

MELD

  • 特点: 多模态情感对话数据,来自电视剧《老友记》
  • 覆盖: 包含7种情感类别

mteb_emotion

  • 特点: 情感分析数据集,包含多种情感表达
  • 覆盖: 包含7种情感类别

Tweet Emotions

  • 特点: Twitter推文数据,包含@mentions
  • 覆盖: 包含7种情感类别

数据质量说明

  1. 类别不平衡: neutral占主导(约40-51%),disgust样本最少(约2-3%)
  2. 多源数据融合: 7个数据源的文本已合并,每个样本包含source字段标识来源
  3. 情感类别: 统一使用7种Ekman情感类别,确保标签一致性
  4. 数据分割: 按7:2:1比例分割为训练集、验证集和测试集
  5. 缺失值: 已过滤所有缺失值,训练集、验证集和测试集均无缺失值

情感类别定义

  • neutral: 中性,无情感倾向
  • joy: 快乐,愉悦
  • sadness: 悲伤,难过
  • anger: 愤怒,生气
  • fear: 恐惧,害怕
  • surprise: 惊讶,意外
  • disgust: 厌恶,反感

使用建议

  1. 类别不平衡处理: 建议使用类别权重或过采样/欠采样技术处理类别不平衡问题
  2. 数据增强: 对于样本较少的类别(如disgust),可以考虑数据增强技术
  3. 多源数据融合: 不同数据源的文本风格差异较大,建议在训练时注意数据分布
  4. 评估指标: 由于类别不平衡,建议使用F1-score、precision、recall等指标,而非仅使用准确率
  5. 缺失值处理: 训练前建议处理数据中的缺失值

文件结构

dataset_huggingface_enhance/
├── train.csv              # 合并后的训练集(186,619条)
├── val.csv                # 合并后的验证集(31,086条)
├── test.csv               # 合并后的测试集(22,721条)
├── label_list.txt         # 情感标签列表
├── info.md                # 数据集统计信息
├── README.md              # 数据集说明文档
├── stats.py               # 数据集统计脚本
└── dataset_infos.json     # Hugging Face数据集配置

数据格式

所有CSV文件包含以下列:

  • text: 文本内容
  • label_text: 情感标签(neutral/joy/sadness/anger/fear/surprise/disgust)
  • source: 数据来源(如goemotions、dailydialog等)

生成时间: 2026-01-07 数据版本: v2 数据源: 7个Ekman情感数据集合并