scikit-learn与pandas实现线性回归教程

本文主要探讨如何使用scikit-learn和pandas进行线性回归分析，通过实例代码详细讲解，适合初学者和有一定经验的开发者学习。 线性回归是一种广泛使用的统计学方法，用于建立因变量（目标变量）与一个或多个自变量（预测因子）之间的线性关系模型。在机器学习领域，线性回归常用于预测任务，尤其是当数据呈现线性趋势时。 1. 获取数据和定义问题 在这个例子中，我们将使用UCI机器学习数据库中的循环发电厂数据集。该数据集包含9568个样本，每个样本有5个属性：AT（温度）、V（压力）、AP（湿度）、RH（压强）和PE（输出电力）。我们的目标是建立一个线性模型，其中PE是预测变量，AT、V、AP和RH是特征，模型形式为： \[ PE = \theta_0 + \theta_1 \cdot AT + \theta_2 \cdot V + \theta_3 \cdot AP + \theta_4 \cdot RH \] 其中，\(\theta_0, \theta_1, \theta_2, \theta_3, \theta_4\) 是待学习的参数。 2. 整理数据 数据已整理成CSV文件，可以直接使用pandas读取。由于数据已经没有非法值，不需要预处理。虽然原始数据未经过归一化，但在使用scikit-learn进行线性回归时，库会自动处理数据的标准化。 3. 使用pandas读取数据 在Python环境中，我们首先需要导入所需的库，如pandas和numpy。在Jupyter Notebook中，可以运行以下代码读取CSV文件： ```python import pandas as pd # 读取数据 data = pd.read_csv('path_to_your_file.csv') # 查看数据前几行 print(data.head()) ``` 4. 数据预处理 尽管scikit-learn会自动进行数据归一化，但有时我们需要进行其他预处理步骤，如处理缺失值、离群值检测和特征缩放。在本例中，由于数据已经准备好，我们直接进入下一步。 5. 划分数据集 在训练模型之前，我们需要将数据集分为训练集和测试集。这可以通过scikit-learn的`train_test_split`函数完成： ```python from sklearn.model_selection import train_test_split # 分割数据集 X = data[['AT', 'V', 'AP', 'RH']] # 特征 y = data['PE'] # 目标变量 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42) ``` 6. 训练线性回归模型 现在我们可以使用scikit-learn的`LinearRegression`类创建并训练模型： ```python from sklearn.linear_model import LinearRegression # 创建模型 model = LinearRegression() # 训练模型 model.fit(X_train, y_train) ``` 7. 预测与评估 训练完成后，我们可以使用训练好的模型进行预测，并使用评估指标（如均方误差MSE或决定系数R²）检查模型性能： ```python # 预测 y_pred = model.predict(X_test) # 评估 from sklearn.metrics import mean_squared_error, r2_score mse = mean_squared_error(y_test, y_pred) r2 = r2_score(y_test, y_pred) print(f"Mean Squared Error: {mse}, R² Score: {r2}") ``` 通过以上步骤，我们完成了使用scikit-learn和pandas进行线性回归的基本流程。根据评估结果，可以进一步调整模型参数或尝试其他回归算法以提高预测准确性。此外，还可以探索特征选择、正则化等高级技术，优化模型性能。