怎么weibo_senti_100k数据集做情感分析

weibo_senti_100k是一个用于情感分析的数据集，它包含了10万条来自微博的中文文本数据，并且每条数据都被标记了情感极性，即正向（positive）、负向（negative）和中性（neutral）。 这个数据集对于情感分析的研究非常有价值。一方面，它基于微博这种社交媒体平台，文本内容较短，包含了丰富的情感表达，并且往往呈现出一定的主观性。因此，分析这些微博文本的情感极性可以帮助我们更好地理解用户对于特定话题的态度和情感倾向。 另一方面，weibo_senti_100k数据集的规模庞大，包含了很多不同领域和主题的微博文本，这使得我们可以进行更广泛的情感分析研究。通过对这些数据进行机器学习算法的训练和测试，我们可以建立情感分类模型，帮助我们自动分析并判断文本的情感倾向。 此外，weibo_senti_100k还可以被用于其他自然语言处理任务，如情感词汇扩展和情感词汇本体构建等。通过分析这些微博文本中的情感词汇和情感表达，我们可以扩充情感词汇库，为其他情感分析任务提供更准确的情感信息。 综上所述，weibo_senti_100k是一个有价值且广泛适用于情感分析研究的数据集。它不仅能够帮助我们更好地理解用户在社交媒体平台上的情感表达，还可以为情感分析模型的构建提供强大的训练和测试数据。

<think>我们首先需要导入必要的库。根据要求，我们需要处理Excel文件，所以使用pandas。然后进行文本分类，我们会用到torch和transformers库。此外，为了评估模型，我们需要sklearn.metrics中的classification_report和confusion_matrix，以及用于可视化的matplotlib和seaborn。同时，我们会检查GPU是否可用。步骤：1.导入必要的库。2.读取Excel文件，注意路径是Windows格式，我们使用pandas的read_excel。3.数据预处理：将文本和标签分开，并划分训练集和测试集（这里我们假设已经训练好模型，只需评估，所以重点在评估函数。但为了演示，我们假设有一个训练好的模型，并已经对测试集进行了预测）。4.定义evaluate_model函数，该函数接受真实标签和预测标签，然后：a.打印分类报告（精确率、召回率、F1分数等）b.计算并打印准确率c.计算混淆矩阵并打印，同时可视化混淆矩阵（使用热力图）5.支持GPU：在模型预测部分，我们会将数据放到GPU上（如果可用）。但是注意，评估函数本身不涉及模型运算，但预测过程需要。所以我们在进行预测之前，需要将模型和数据放到GPU上。注意：由于问题中没有提供训练好的模型，我们将假设已经有一个训练好的模型（例如BERT），并且已经对测试集进行了预测。因此，在代码中，我们不会包含模型训练和预测的完整代码（因为那会很长），而是专注于评估函数，并提供一个示例流程，包括如何加载数据、进行预测（使用一个假模型或简单模型代替）和评估。为了简化，我们可以使用一个预训练的BERT模型进行文本分类，并在我们的数据集上微调。但考虑到时间，我们只展示评估部分，并假设已经有了预测结果。但是，为了代码的完整性，我将提供一个完整的流程，包括：-加载数据-数据预处理（使用BERTtokenizer）-构建PyTorch数据集和数据加载器-定义模型（使用BERT）-训练循环（简略，因为重点在评估）-评估模型（重点）由于代码较长，我们将分步骤进行，但重点在评估函数。注意：由于数据集较大（10万条），我们可能只使用一部分进行演示。我们开始编写代码：</think>以下是一个完整的模型评估实现，包含数据集加载、GPU支持训练评估以及详细的评估指标输出。代码使用PyTorch框架实现： ```python import pandas as pd import numpy as np import torch import torch.nn as nn from torch.utils.data import Dataset, DataLoader from sklearn.model_selection import train_test_split from sklearn.metrics import classification_report, confusion_matrix, accuracy_score import matplotlib.pyplot as plt import seaborn as sns from transformers import BertTokenizer, BertModel import time # 检查GPU可用性 device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') print(f"使用设备: {device}") # 1. 加载数据集 def load_dataset(file_path): """加载微博情感分析数据集""" df = pd.read_excel(file_path, names=['label', 'review'], header=None) # 数据清洗 df = df.dropna().reset_index(drop=True) df['label'] = df['label'].astype(int) print(f"数据集大小: {len(df)}, 正样本: {sum(df['label']==1)}, 负样本: {sum(df['label']==0)}") return df # 2. 创建PyTorch数据集 class WeiboDataset(Dataset): def __init__(self, reviews, labels, tokenizer, max_len=128): self.reviews = reviews self.labels = labels self.tokenizer = tokenizer self.max_len = max_len def __len__(self): return len(self.reviews) def __getitem__(self, idx): review = str(self.reviews[idx]) label = self.labels[idx] encoding = self.tokenizer.encode_plus( review, add_special_tokens=True, max_length=self.max_len, padding='max_length', truncation=True, return_attention_mask=True, return_tensors='pt', ) return { 'input_ids': encoding['input_ids'].flatten(), 'attention_mask': encoding['attention_mask'].flatten(), 'label': torch.tensor(label, dtype=torch.long) } # 3. 定义BERT分类模型 class SentimentClassifier(nn.Module): def __init__(self, n_classes=2): super(SentimentClassifier, self).__init__() self.bert = BertModel.from_pretrained('bert-base-chinese') self.drop = nn.Dropout(p=0.3) self.fc = nn.Linear(self.bert.config.hidden_size, n_classes) def forward(self, input_ids, attention_mask): outputs = self.bert( input_ids=input_ids, attention_mask=attention_mask ) pooled_output = outputs.pooler_output output = self.drop(pooled_output) return self.fc(output) # 4. 完整的模型评估函数 def evaluate_model(model, data_loader, device): """评估模型性能并输出详细指标""" model.eval() predictions = [] actual_labels = [] with torch.no_grad(): for batch in data_loader: input_ids = batch['input_ids'].to(device) attention_mask = batch['attention_mask'].to(device) labels = batch['label'].to(device) outputs = model(input_ids, attention_mask) _, preds = torch.max(outputs, dim=1) predictions.extend(preds.cpu().numpy()) actual_labels.extend(labels.cpu().numpy()) # 计算准确率 accuracy = accuracy_score(actual_labels, predictions) print(f"\n模型准确率: {accuracy:.4f}") # 打印分类报告 print("\n分类报告:") print(classification_report(actual_labels, predictions, target_names=['负面', '正面'])) # 计算并可视化混淆矩阵 cm = confusion_matrix(actual_labels, predictions) plt.figure(figsize=(8, 6)) sns.heatmap(cm, annot=True, fmt='d', cmap='Blues', xticklabels=['负面', '正面'], yticklabels=['负面', '正面']) plt.xlabel('预测标签') plt.ylabel('真实标签') plt.title('混淆矩阵') plt.savefig('confusion_matrix.png') plt.show() return accuracy, predictions # 5. 训练函数（包含GPU支持） def train_model(model, train_loader, val_loader, epochs=3, learning_rate=2e-5): """训练模型并定期在验证集上评估""" model = model.to(device) optimizer = torch.optim.AdamW(model.parameters(), lr=learning_rate) criterion = nn.CrossEntropyLoss().to(device) best_accuracy = 0 for epoch in range(epochs): print(f"\nEpoch {epoch + 1}/{epochs}") print('-' * 10) # 训练阶段 model.train() total_loss = 0 for batch_idx, batch in enumerate(train_loader): input_ids = batch['input_ids'].to(device) attention_mask = batch['attention_mask'].to(device) labels = batch['label'].to(device) optimizer.zero_grad() outputs = model(input_ids, attention_mask) loss = criterion(outputs, labels) total_loss += loss.item() loss.backward() optimizer.step() if batch_idx % 100 == 0: print(f"批次 {batch_idx}/{len(train_loader)}, 损失: {loss.item():.4f}") avg_train_loss = total_loss / len(train_loader) print(f"训练损失: {avg_train_loss:.4f}") # 在验证集上评估 val_accuracy, _ = evaluate_model(model, val_loader, device) # 保存最佳模型 if val_accuracy > best_accuracy: best_accuracy = val_accuracy torch.save(model.state_dict(), 'best_model.bin') print("保存新的最佳模型") print(f"训练完成，最佳验证准确率: {best_accuracy:.4f}") # 主函数 if __name__ == "__main__": # 加载数据 FILE_PATH = r"C:\Users\lenovo\Desktop\2025上obe\科学基础\资料\weibo_senti_100k.xlsx" df = load_dataset(FILE_PATH) # 划分训练集和测试集 train_df, test_df = train_test_split(df, test_size=0.2, random_state=42) train_df, val_df = train_test_split(train_df, test_size=0.1, random_state=42) # 初始化BERT tokenizer tokenizer = BertTokenizer.from_pretrained('bert-base-chinese') # 创建数据集 train_dataset = WeiboDataset(train_df['review'].values, train_df['label'].values, tokenizer) val_dataset = WeiboDataset(val_df['review'].values, val_df['label'].values, tokenizer) test_dataset = WeiboDataset(test_df['review'].values, test_df['label'].values, tokenizer) # 创建数据加载器 batch_size = 32 train_loader = DataLoader(train_dataset, batch_size=batch_size, shuffle=True) val_loader = DataLoader(val_dataset, batch_size=batch_size) test_loader = DataLoader(test_dataset, batch_size=batch_size) # 初始化模型 model = SentimentClassifier(n_classes=2) # 训练模型 start_time = time.time() train_model(model, train_loader, val_loader, epochs=3) print(f"训练用时: {time.time() - start_time:.2f}秒") # 在测试集上评估最佳模型 print("\n在测试集上评估最终模型:") model.load_state_dict(torch.load('best_model.bin')) model = model.to(device) evaluate_model(model, test_loader, device) ``` ### 代码解释： 1. **数据集加载**： - 使用`pandas`读取Excel文件 - 执行基本的数据清洗（处理缺失值） - 显示正负样本分布 2. **GPU支持**： - 自动检测并优先使用GPU - 所有张量通过`.to(device)`转移到GPU 3. **文本处理**： - 使用BERT中文分词器(tokenizer) - 将文本转换为BERT需要的输入格式（input_ids, attention_mask） 4. **模型架构**： - 基于BERT的序列分类模型 - 添加Dropout层防止过拟合 - 使用线性层进行二分类 5. **模型评估函数`evaluate_model`**： - **分类报告**：输出精确率(precision)、召回率(recall)、F1分数 - **混淆矩阵**：使用Seaborn可视化展示 - **准确率**：计算整体分类准确率 - 支持批量处理，高效利用GPU 6. **训练流程**： - 使用AdamW优化器和交叉熵损失 - 每100批次打印训练进度 - 每个epoch后在验证集上评估 - 保存最佳模型权重 7. **可视化**： - 混淆矩阵热力图 - 清晰的分类报告表格 ### 使用说明： 1. 需要安装依赖：`pip install torch pandas sklearn matplotlib seaborn transformers` 2. 首次运行会自动下载BERT中文模型(~400MB) 3. 训练完成后会保存最佳模型和混淆矩阵图像 4. 最终在独立测试集上评估模型性能 ### 输出示例： ``` 使用设备: cuda 数据集大小: 100000, 正样本: 50000, 负样本: 50000 Epoch 1/3 ---------- 批次 0/2250, 损失: 0.6923 ... 训练损失: 0.4215 模型准确率: 0.8926 分类报告: precision recall f1-score support 负面 0.89 0.90 0.89 5000 正面 0.90 0.89 0.89 5000 accuracy 0.89 10000 macro avg 0.89 0.89 0.89 10000 weighted avg 0.89 0.89 0.89 10000 保存新的最佳模型 ... 在测试集上评估最终模型: 模型准确率: 0.9123 ... ```