2019302050244-庞远心-第2次实验1

【实验名称】：自然语言处理 - 第二次实验 【实验目的】： 本次实验的主要目标是让学生深入了解神经网络的基础模型，包括前馈神经网络（FNN）、卷积神经网络（CNN）和循环神经网络（RNN）。同时，实验还旨在使学生掌握深度学习框架PyTorch的使用，并熟悉使用深度学习解决文本分类任务的基本流程。 1. **理解神经网络基础模型**：神经网络是模仿生物神经元结构的数学模型，包括前馈神经网络、卷积神经网络和循环神经网络。前馈神经网络是最简单的形式，数据沿单一方向传递；卷积神经网络利用局部连接和权重共享提高处理图像和文本的能力；循环神经网络则具备记忆功能，适用于处理序列数据。 2. **掌握PyTorch框架**：PyTorch是基于Python的深度学习平台，以其灵活性和易用性受到广泛欢迎。实验中，学生需要了解并使用PyTorch的基本元素，如张量(Tensor)、变量(Variable)和神经网络模块(nn.Module)。 3. **文本分类任务的流程**：实验将指导学生经历一个标准的文本分类任务流程，包括安装和导入相关库，数据预处理，定义神经网络结构，设置损失函数(loss function)和优化器(optimizer)，以及训练和测试网络。 【实验环境】： 实验所需的软件和库包括Python 3、jieba分词库、PyTorch深度学习框架、NumPy用于数值计算、Sklearn用于机器学习和数据预处理，以及TensorBoardX和tqdm辅助训练过程的可视化和进度跟踪。 【实验内容】： 实验步骤涉及对TextCNN模型的理解，以及BiLSTM模型的编写。通过调整模型的不同超参数，如batch size、embedding_size、hidden_size、learning_rate和dropout，观察它们对训练和验证集loss的影响，并据此优化模型性能。实验结果以折线图的形式展示不同参数组合下的loss变化，最终选定最优参数组合，以达到最高的文本分类准确率。 【实验分析】： 实验分析不仅关注模型的性能，还关注了在处理数据时可能遇到的问题，如插值处理。插值是为了处理某些epoch没有计算结果导致loss为零的情况，通过插值方法可以确保loss曲线的连续性，从而更好地评估模型的性能。通过一系列的参数调整和实验，确定了最优的模型配置，以91.75%的准确率完成了文本分类任务。 通过这个实验，学生不仅深化了对神经网络和深度学习框架的理解，也掌握了实际应用中优化模型参数的方法，为未来进行更复杂的自然语言处理任务打下了坚实的基础。