# 数据集统计信息

## 概览

- **总样本数**: 240,426 条
- **训练集**: 186,619 (77.62%)
- **验证集**: 31,086 (12.93%)
- **测试集**: 22,721 (9.45%)
- **情感类别**: 7种（neutral + 6种Ekman基本情感）
- **数据源**: 7个（Movies_Reviews, dailydialog, goemotions, isear, meld, mteb_emotion, tweetemotions）

## 数据集列表

### 合并数据集（按子集）

| 子集 | 样本数 | 占比 | 文件名 |
|------|--------|------|--------|
| 训练集 | 186,619 | 77.62% | train.csv |
| 验证集 | 31,086 | 12.93% | val.csv |
| 测试集 | 22,721 | 9.45% | test.csv |
| **总计** | **240,426** | **100%** | |

## 情感分布

### 训练集情感分布 (186,619条)

| 情感 | 样本数 | 占比 |
|------|--------|------|
| neutral | 95,392 | 51.12% |
| joy | 40,380 | 21.64% |
| sadness | 14,886 | 7.98% |
| anger | 11,142 | 5.97% |
| fear | 11,011 | 5.90% |
| surprise | 9,528 | 5.11% |
| disgust | 4,280 | 2.29% |

### 验证集情感分布 (31,086条)

| 情感 | 样本数 | 占比 |
|------|--------|------|
| neutral | 12,734 | 40.96% |
| joy | 7,509 | 24.15% |
| sadness | 2,915 | 9.38% |
| fear | 2,506 | 8.06% |
| anger | 2,329 | 7.49% |
| surprise | 2,196 | 7.06% |
| disgust | 897 | 2.89% |

### 测试集情感分布 (22,721条)

| 情感 | 样本数 | 占比 |
|------|--------|------|
| neutral | 10,249 | 45.11% |
| joy | 5,198 | 22.88% |
| sadness | 2,074 | 9.13% |
| anger | 1,729 | 7.61% |
| fear | 1,516 | 6.67% |
| surprise | 1,348 | 5.93% |
| disgust | 607 | 2.67% |

### 整体情感分布 (240,426条)

| 情感 | 样本数 | 占比 |
|------|--------|------|
| neutral | 118,375 | 49.24% |
| joy | 53,087 | 22.08% |
| sadness | 19,875 | 8.27% |
| anger | 15,200 | 6.32% |
| fear | 15,033 | 6.25% |
| surprise | 13,072 | 5.44% |
| disgust | 5,784 | 2.41% |

## 数据源分布

### 训练集数据源分布

| 数据源 | 样本数 | 占比 |
|--------|--------|------|
| dailydialog | 87,170 | 46.71% |
| goemotions | 41,251 | 22.10% |
| tweetemotions | 21,763 | 11.66% |
| mteb_emotion | 15,956 | 8.55% |
| meld | 9,989 | 5.35% |
| Movies_Reviews | 6,725 | 3.60% |
| isear | 3,765 | 2.02% |

### 验证集数据源分布

| 数据源 | 样本数 | 占比 |
|--------|--------|------|
| goemotions | 11,786 | 37.91% |
| dailydialog | 8,069 | 25.95% |
| tweetemotions | 6,218 | 20.00% |
| mteb_emotion | 1,988 | 6.39% |
| meld | 1,109 | 3.57% |
| isear | 1,076 | 3.46% |
| Movies_Reviews | 840 | 2.70% |

### 测试集数据源分布

| 数据源 | 样本数 | 占比 |
|--------|--------|------|
| dailydialog | 7,740 | 34.06% |
| goemotions | 5,893 | 25.94% |
| tweetemotions | 3,110 | 13.69% |
| meld | 2,610 | 11.49% |
| mteb_emotion | 1,986 | 8.74% |
| Movies_Reviews | 842 | 3.71% |
| isear | 540 | 2.38% |

## 数据源信息

### Movies_Reviews
- **特点**: 电影评论情感数据
- **覆盖**: 包含7种情感类别

### DailyDialog
- **特点**: 真实对话数据，包含多轮对话
- **覆盖**: 包含7种情感类别

### GoEmotions
- **特点**: Reddit评论数据，口语化表达
- **覆盖**: 包含7种情感类别

### ISEAR
- **特点**: 国际情感研究数据，高质量文本
- **覆盖**: 包含7种情感类别

### MELD
- **特点**: 多模态情感对话数据，来自电视剧《老友记》
- **覆盖**: 包含7种情感类别

### mteb_emotion
- **特点**: 情感分析数据集，包含多种情感表达
- **覆盖**: 包含7种情感类别

### Tweet Emotions
- **特点**: Twitter推文数据，包含@mentions
- **覆盖**: 包含7种情感类别

## 数据质量说明

1. **类别不平衡**: neutral占主导（约40-51%），disgust样本最少（约2-3%）
2. **多源数据融合**: 7个数据源的文本已合并，每个样本包含`source`字段标识来源
3. **情感类别**: 统一使用7种Ekman情感类别，确保标签一致性
4. **数据分割**: 按7:2:1比例分割为训练集、验证集和测试集
5. **缺失值**: 已过滤所有缺失值，训练集、验证集和测试集均无缺失值

## 情感类别定义

- **neutral**: 中性，无情感倾向
- **joy**: 快乐，愉悦
- **sadness**: 悲伤，难过
- **anger**: 愤怒，生气
- **fear**: 恐惧，害怕
- **surprise**: 惊讶，意外
- **disgust**: 厌恶，反感

## 使用建议

1. **类别不平衡处理**: 建议使用类别权重或过采样/欠采样技术处理类别不平衡问题
2. **数据增强**: 对于样本较少的类别（如disgust），可以考虑数据增强技术
3. **多源数据融合**: 不同数据源的文本风格差异较大，建议在训练时注意数据分布
4. **评估指标**: 由于类别不平衡，建议使用F1-score、precision、recall等指标，而非仅使用准确率
5. **缺失值处理**: 训练前建议处理数据中的缺失值

## 文件结构

```
dataset_huggingface_enhance/
├── train.csv              # 合并后的训练集（186,619条）
├── val.csv                # 合并后的验证集（31,086条）
├── test.csv               # 合并后的测试集（22,721条）
├── label_list.txt         # 情感标签列表
├── info.md                # 数据集统计信息
├── README.md              # 数据集说明文档
├── stats.py               # 数据集统计脚本
└── dataset_infos.json     # Hugging Face数据集配置
```

## 数据格式

所有CSV文件包含以下列：
- `text`: 文本内容
- `label_text`: 情感标签（neutral/joy/sadness/anger/fear/surprise/disgust）
- `source`: 数据来源（如goemotions、dailydialog等）

---

*生成时间: 2026-01-07*
*数据版本: v2*
*数据源: 7个Ekman情感数据集合并*